Disk I/O у кого какие идеи ?
Есть Hitachi Open-V, есть qlogic hba с двумя портами, так же имеется в наличии gentoo с ядром 2.6.31. Так же имеется kvm-88-r1.
Путем долгой покурки и настройки удалось получить нормальный стабильный поток от хитачи с мультипассингом до 650мб/c.
Со стороны хостовой системы вроде бы все ровно. Но вот Win2k3 DCE + MsSql из под kvm'а показывают печальные результаты во время проверки целостности базы на 1,5Тб. Наблюдаются провалы в чтении и записи.
iostat -m -x -d 1 | grep dm-0
dm-0 0.12 0.00 1637.08 1412.68 101.91 88.27 127.71 5.21 1.71 0.17 50.94
dm-0 0.00 0.00 3157.00 1952.00 197.31 122.00 128.00 8.51 1.66 0.13 64.40
dm-0 0.00 0.00 3009.00 1897.00 188.06 118.56 128.00 8.28 1.69 0.13 63.20
dm-0 0.00 0.00 3508.00 1976.00 219.25 123.50 128.00 8.85 1.62 0.12 65.40
dm-0 0.00 0.00 3646.00 2103.00 227.88 131.44 128.00 8.16 1.42 0.12 70.20
dm-0 0.00 0.00 2874.00 1700.00 179.62 106.25 128.00 7.33 1.61 0.13 58.70
dm-0 0.00 0.00 1169.00 667.00 73.06 41.69 128.00 2.65 1.45 0.16 28.70
dm-0 0.00 0.00 4197.00 2722.00 262.31 170.12 128.00 12.33 1.78 0.12 85.00
dm-0 0.00 0.00 3234.00 1871.00 202.13 116.94 128.00 8.00 1.57 0.13 65.90
dm-0 0.00 0.00 2737.00 1526.00 171.06 95.38 128.00 6.39 1.50 0.12 49.20
dm-0 0.00 0.00 2108.00 1242.00 131.75 77.62 128.00 4.63 1.38 0.13 42.90
dm-0 0.00 0.00 5494.00 3188.00 343.38 199.25 128.00 13.56 1.56 0.11 99.00
dm-0 0.00 0.00 1861.00 1177.00 116.31 73.56 128.00 5.84 1.93 0.17 52.20
dm-0 0.00 0.00 3774.00 2221.00 235.88 138.81 128.00 8.93 1.49 0.12 69.20
dm-0 0.00 0.00 2745.00 1601.00 171.56 100.06 128.00 6.67 1.53 0.12 53.80
dm-0 0.00 0.00 2881.00 1757.00 180.06 109.81 128.00 7.49 1.61 0.12 57.00
dm-0 0.00 0.00 3187.00 2058.00 199.19 128.62 128.00 10.46 2.00 0.14 73.60
dm-0 0.00 0.00 3888.00 2560.00 243.00 160.00 128.00 11.98 1.86 0.13 83.50
dm-0 0.00 0.00 3110.00 1881.00 194.38 117.56 128.00 7.84 1.57 0.14 68.80
dm-0 0.00 0.00 4035.00 2468.00 252.19 154.25 128.00 9.96 1.54 0.12 77.80
dm-0 0.00 0.00 3267.00 1929.00 204.19 120.56 128.00 8.82 1.70 0.12 64.60
dm-0 0.00 0.00 2712.00 1583.00 169.50 98.94 128.00 6.93 1.62 0.13 55.60
dm-0 0.00 0.00 758.00 444.00 47.38 27.75 128.00 1.71 1.42 0.17 19.90
dm-0 0.00 0.00 1483.00 1018.00 92.69 63.62 128.00 4.75 1.90 0.17 43.60
dm-0 0.00 0.00 2722.00 1723.00 170.12 107.69 128.00 7.46 1.67 0.13 59.00
dm-0 0.00 0.00 2393.00 1420.00 149.56 88.75 128.00 6.00 1.58 0.16 59.90
dm-0 0.00 0.00 1946.00 1212.00 121.62 75.75 128.00 5.72 1.80 0.18 57.60
dm-0 0.00 0.00 4444.00 2974.00 277.75 185.88 128.00 13.13 1.77 0.13 94.10
dm-0 0.00 0.00 3378.00 2225.00 211.12 139.06 128.00 9.95 1.78 0.13 75.50
dm-0 0.00 0.00 964.00 632.00 60.25 39.50 128.00 2.78 1.74 0.22 34.80
dm-0 0.00 0.00 2827.00 1705.00 176.69 106.56 128.00 7.39 1.63 0.12 54.00
dm-0 0.00 0.00 4093.00 2394.00 255.81 149.62 128.00 10.31 1.59 0.13 82.30
dm-0 0.00 0.00 3429.00 2318.00 214.31 144.88 128.00 10.50 1.83 0.13 76.20
dm-0 0.00 0.00 2072.00 1439.00 129.50 89.94 128.00 6.98 1.99 0.18 62.70
dm-0 0.00 0.00 3588.00 2318.00 224.25 144.88 128.00 10.37 1.75 0.12 72.20
dm-0 0.00 0.00 3077.00 1851.00 192.31 115.69 128.00 7.83 1.60 0.12 58.40
dm-0 0.00 0.00 2693.00 1779.00 168.31 111.19 128.00 7.61 1.69 0.14 61.10
dm-0 0.00 0.00 2352.00 1505.00 147.00 94.06 128.00 6.79 1.77 0.14 52.50
dm-0 0.00 0.00 4001.00 2630.00 250.06 164.38 128.00 11.32 1.71 0.12 82.00
dm-0 0.00 0.00 1795.00 1131.00 112.19 70.69 128.00 5.36 1.84 0.14 40.60
dm-0 0.00 0.00 3417.00 2094.00 213.56 130.88 128.00 9.35 1.69 0.13 72.00
dm-0 0.00 0.00 2693.00 1578.00 168.31 98.62 128.00 6.29 1.48 0.13 54.40
dm-0 0.00 0.00 2205.00 1283.00 137.81 80.19 128.00 5.66 1.62 0.13 46.60
dm-0 0.00 0.00 2964.00 1910.00 185.25 119.38 128.00 8.22 1.69 0.13 63.40
dm-0 0.00 0.00 2115.00 1361.00 132.19 85.06 128.00 5.85 1.69 0.16 55.50
dm-0 0.00 0.00 2540.00 1540.00 158.75 96.25 128.00 6.80 1.67 0.15 59.20
dm-0 0.00 0.00 2874.00 1831.00 179.62 114.44 128.00 7.74 1.65 0.12 58.40
dm-0 0.00 0.00 1798.00 1125.00 112.38 70.31 128.00 4.59 1.57 0.15 42.60
dm-0 0.00 0.00 2739.00 1861.00 171.19 116.31 128.00 8.42 1.82 0.15 67.80
dm-0 0.00 0.00 2266.00 1449.00 141.62 90.56 128.00 6.85 1.86 0.16 60.40
dm-0 0.00 0.00 1240.00 802.00 77.50 50.12 128.00 3.27 1.60 0.17 35.00
dm-0 0.00 0.00 3470.00 2226.00 216.88 139.12 128.00 9.27 1.62 0.13 75.80
dm-0 0.00 0.00 2835.00 1785.00 177.19 111.56 128.00 7.64 1.67 0.13 57.90
dm-0 0.00 0.00 2418.00 1519.00 151.12 94.94 128.00 6.83 1.73 0.15 57.90
dm-0 0.00 0.00 800.00 522.00 50.00 32.62 128.00 2.24 1.73 0.24 31.80
dm-0 0.00 0.00 2279.00 1595.00 142.44 99.69 128.00 7.05 1.81 0.17 66.00
dm-0 0.00 0.00 2597.00 1761.00 162.31 110.06 128.00 7.70 1.78 0.14 62.90
dm-0 0.00 0.00 1246.53 708.91 77.91 44.31 128.00 2.74 1.39 0.13 25.94
dm-0 0.00 0.00 3971.00 2275.00 248.19 142.19 128.00 9.32 1.50 0.11 71.70
dm-0 0.00 0.00 3412.00 2025.00 213.25 126.56 128.00 8.90 1.64 0.13 72.70
У кого есть идеи в какую сторону копнуть ?! У меня идей уже нету, с шедулерами очередями игрался.
Очереди в dm_multipath увеличил, ограничения на max_sectors_kb в ядре снял.
Очередь в virtio_blk увеличил. Вроде бу уже все достаточно ровно, если бы не эти провалы.
У кого есть идеи ?
p.s. чтение/запись на хостовой стабильное без провалов. даже при работе в 1н поток. (Из под kvm чтение/запись идет по 10 потоков каждого процесса при помощи sqlio)
- Для комментирования войдите или зарегистрируйтесь
А что в это время делают
А что в это время делают другие разделы на этом винте ? Я бы копал в сторону того, что у тебя disc-util снижается в эти моменты, т.е. винт занят чем то другим. выкинь может на какой пастбин то что он iostat тебе показывает без grep'а. будем думать дальше.