Disk I/O у кого какие идеи ?

Есть Hitachi Open-V, есть qlogic hba с двумя портами, так же имеется в наличии gentoo с ядром 2.6.31. Так же имеется kvm-88-r1.
Путем долгой покурки и настройки удалось получить нормальный стабильный поток от хитачи с мультипассингом до 650мб/c.
Со стороны хостовой системы вроде бы все ровно. Но вот Win2k3 DCE + MsSql из под kvm'а показывают печальные результаты во время проверки целостности базы на 1,5Тб. Наблюдаются провалы в чтении и записи.

iostat -m -x -d 1 | grep dm-0

dm-0 0.12 0.00 1637.08 1412.68 101.91 88.27 127.71 5.21 1.71 0.17 50.94
dm-0 0.00 0.00 3157.00 1952.00 197.31 122.00 128.00 8.51 1.66 0.13 64.40
dm-0 0.00 0.00 3009.00 1897.00 188.06 118.56 128.00 8.28 1.69 0.13 63.20
dm-0 0.00 0.00 3508.00 1976.00 219.25 123.50 128.00 8.85 1.62 0.12 65.40
dm-0 0.00 0.00 3646.00 2103.00 227.88 131.44 128.00 8.16 1.42 0.12 70.20
dm-0 0.00 0.00 2874.00 1700.00 179.62 106.25 128.00 7.33 1.61 0.13 58.70
dm-0 0.00 0.00 1169.00 667.00 73.06 41.69 128.00 2.65 1.45 0.16 28.70
dm-0 0.00 0.00 4197.00 2722.00 262.31 170.12 128.00 12.33 1.78 0.12 85.00
dm-0 0.00 0.00 3234.00 1871.00 202.13 116.94 128.00 8.00 1.57 0.13 65.90
dm-0 0.00 0.00 2737.00 1526.00 171.06 95.38 128.00 6.39 1.50 0.12 49.20
dm-0 0.00 0.00 2108.00 1242.00 131.75 77.62 128.00 4.63 1.38 0.13 42.90
dm-0 0.00 0.00 5494.00 3188.00 343.38 199.25 128.00 13.56 1.56 0.11 99.00
dm-0 0.00 0.00 1861.00 1177.00 116.31 73.56 128.00 5.84 1.93 0.17 52.20
dm-0 0.00 0.00 3774.00 2221.00 235.88 138.81 128.00 8.93 1.49 0.12 69.20
dm-0 0.00 0.00 2745.00 1601.00 171.56 100.06 128.00 6.67 1.53 0.12 53.80
dm-0 0.00 0.00 2881.00 1757.00 180.06 109.81 128.00 7.49 1.61 0.12 57.00
dm-0 0.00 0.00 3187.00 2058.00 199.19 128.62 128.00 10.46 2.00 0.14 73.60
dm-0 0.00 0.00 3888.00 2560.00 243.00 160.00 128.00 11.98 1.86 0.13 83.50
dm-0 0.00 0.00 3110.00 1881.00 194.38 117.56 128.00 7.84 1.57 0.14 68.80
dm-0 0.00 0.00 4035.00 2468.00 252.19 154.25 128.00 9.96 1.54 0.12 77.80
dm-0 0.00 0.00 3267.00 1929.00 204.19 120.56 128.00 8.82 1.70 0.12 64.60
dm-0 0.00 0.00 2712.00 1583.00 169.50 98.94 128.00 6.93 1.62 0.13 55.60
dm-0 0.00 0.00 758.00 444.00 47.38 27.75 128.00 1.71 1.42 0.17 19.90
dm-0 0.00 0.00 1483.00 1018.00 92.69 63.62 128.00 4.75 1.90 0.17 43.60
dm-0 0.00 0.00 2722.00 1723.00 170.12 107.69 128.00 7.46 1.67 0.13 59.00
dm-0 0.00 0.00 2393.00 1420.00 149.56 88.75 128.00 6.00 1.58 0.16 59.90
dm-0 0.00 0.00 1946.00 1212.00 121.62 75.75 128.00 5.72 1.80 0.18 57.60
dm-0 0.00 0.00 4444.00 2974.00 277.75 185.88 128.00 13.13 1.77 0.13 94.10
dm-0 0.00 0.00 3378.00 2225.00 211.12 139.06 128.00 9.95 1.78 0.13 75.50
dm-0 0.00 0.00 964.00 632.00 60.25 39.50 128.00 2.78 1.74 0.22 34.80
dm-0 0.00 0.00 2827.00 1705.00 176.69 106.56 128.00 7.39 1.63 0.12 54.00
dm-0 0.00 0.00 4093.00 2394.00 255.81 149.62 128.00 10.31 1.59 0.13 82.30
dm-0 0.00 0.00 3429.00 2318.00 214.31 144.88 128.00 10.50 1.83 0.13 76.20
dm-0 0.00 0.00 2072.00 1439.00 129.50 89.94 128.00 6.98 1.99 0.18 62.70
dm-0 0.00 0.00 3588.00 2318.00 224.25 144.88 128.00 10.37 1.75 0.12 72.20
dm-0 0.00 0.00 3077.00 1851.00 192.31 115.69 128.00 7.83 1.60 0.12 58.40
dm-0 0.00 0.00 2693.00 1779.00 168.31 111.19 128.00 7.61 1.69 0.14 61.10
dm-0 0.00 0.00 2352.00 1505.00 147.00 94.06 128.00 6.79 1.77 0.14 52.50
dm-0 0.00 0.00 4001.00 2630.00 250.06 164.38 128.00 11.32 1.71 0.12 82.00
dm-0 0.00 0.00 1795.00 1131.00 112.19 70.69 128.00 5.36 1.84 0.14 40.60
dm-0 0.00 0.00 3417.00 2094.00 213.56 130.88 128.00 9.35 1.69 0.13 72.00
dm-0 0.00 0.00 2693.00 1578.00 168.31 98.62 128.00 6.29 1.48 0.13 54.40
dm-0 0.00 0.00 2205.00 1283.00 137.81 80.19 128.00 5.66 1.62 0.13 46.60
dm-0 0.00 0.00 2964.00 1910.00 185.25 119.38 128.00 8.22 1.69 0.13 63.40
dm-0 0.00 0.00 2115.00 1361.00 132.19 85.06 128.00 5.85 1.69 0.16 55.50
dm-0 0.00 0.00 2540.00 1540.00 158.75 96.25 128.00 6.80 1.67 0.15 59.20
dm-0 0.00 0.00 2874.00 1831.00 179.62 114.44 128.00 7.74 1.65 0.12 58.40
dm-0 0.00 0.00 1798.00 1125.00 112.38 70.31 128.00 4.59 1.57 0.15 42.60
dm-0 0.00 0.00 2739.00 1861.00 171.19 116.31 128.00 8.42 1.82 0.15 67.80
dm-0 0.00 0.00 2266.00 1449.00 141.62 90.56 128.00 6.85 1.86 0.16 60.40
dm-0 0.00 0.00 1240.00 802.00 77.50 50.12 128.00 3.27 1.60 0.17 35.00
dm-0 0.00 0.00 3470.00 2226.00 216.88 139.12 128.00 9.27 1.62 0.13 75.80
dm-0 0.00 0.00 2835.00 1785.00 177.19 111.56 128.00 7.64 1.67 0.13 57.90
dm-0 0.00 0.00 2418.00 1519.00 151.12 94.94 128.00 6.83 1.73 0.15 57.90
dm-0 0.00 0.00 800.00 522.00 50.00 32.62 128.00 2.24 1.73 0.24 31.80
dm-0 0.00 0.00 2279.00 1595.00 142.44 99.69 128.00 7.05 1.81 0.17 66.00
dm-0 0.00 0.00 2597.00 1761.00 162.31 110.06 128.00 7.70 1.78 0.14 62.90
dm-0 0.00 0.00 1246.53 708.91 77.91 44.31 128.00 2.74 1.39 0.13 25.94
dm-0 0.00 0.00 3971.00 2275.00 248.19 142.19 128.00 9.32 1.50 0.11 71.70
dm-0 0.00 0.00 3412.00 2025.00 213.25 126.56 128.00 8.90 1.64 0.13 72.70

У кого есть идеи в какую сторону копнуть ?! У меня идей уже нету, с шедулерами очередями игрался.
Очереди в dm_multipath увеличил, ограничения на max_sectors_kb в ядре снял.
Очередь в virtio_blk увеличил. Вроде бу уже все достаточно ровно, если бы не эти провалы.
У кого есть идеи ?

p.s. чтение/запись на хостовой стабильное без провалов. даже при работе в 1н поток. (Из под kvm чтение/запись идет по 10 потоков каждого процесса при помощи sqlio)

А что в это время делают

А что в это время делают другие разделы на этом винте ? Я бы копал в сторону того, что у тебя disc-util снижается в эти моменты, т.е. винт занят чем то другим. выкинь может на какой пастбин то что он iostat тебе показывает без grep'а. будем думать дальше.

Настройки просмотра комментариев

Выберите нужный метод показа комментариев и нажмите "Сохранить установки".