Эмиграция на gentoo c BSD {SOLVED}

Много лет пользовал сервер под NAS4free. Тут решил попробовать полный freeBSD и ниасилил в течении трёх месяцев - не перепрыгнул порог вхождения, хотя подклатывал под порог Хэндбуук и всё что нагуглил. Всё равно света мало, в темноте постоянно запинаюсь о порог и лбом в притолоку. Система академически великолепная, но без попечения опытного мастера - неосязаемая для новичка. Причём эта неосязаемость искуственна и принципиальна.
В общем хочу попробовать Gentoo & btrfs
Принципиальная схема на

CPU: Intel(R) Core(TM)2 Duo CPU     E4600  @ 2.40GHz (2399.96-MHz K8-class CPU)
real memory  = 9395240960 (8960 MB)
	Manufacturer: MICRO-STAR INTERNATIONAL CO.,LTD
	Product Name: MS-7235	Manufacturer: MICRO-STAR INTERNATIONAL CO.,LTD

Принципиальная схема:
Загрузка по USB (хотел бы на btrfs/ROOT но чтение wiki испугало)
- На 5 сата-портах 5 дисков - древний 250 ГБ для торрентов
- 3х3Тб под RIDE-5 (уже можно? на ядрах до 4 было не стабильно, большая избыточночть мне не по карману, остаётся слишком мало места под данные)
- 1х4Тб под бэкапы вышеупомянутого рэйда.
Прошу мастеров уберечь от ошибок на первой и фундаментальной стадии, потому как грабли в начале такие маленькие имеют свойство быстро расти.
Как организовать вот это выше наиболее простым и лаконичным способом в сервер?
Какой RAID выбрать? Может 6 на всех больших дисках?
Насколько можно доверять BTRFS как СХД с учётом того что на внешний диск в три терабайта уже бэкап влазит под завязку - выделять ли отдельный диск под бэкапы или довериться снапшотам.
Читал тут:
https://gentoo-handbook.lugons.org/doc/en/gentoo-x86+raid+lvm2-quickinstall.xml#doc_chap2

LVM: Инициализация дисков и разделов

http://xgu.ru/wiki/mdadm

https://wiki.gentoo.org/wiki/Gentoo_installation_tips_and_tricks/ru

Handbook: Альтернатива: Использование fdisk для создания разделов диска

Для начала глянь

gentl ki написал(а):
...В общем хочу попробовать Gentoo & btrfs
...Насколько можно доверять BTRFS как СХД?...

Не советую!

Для начала глянь сюда, а потом можешь порыться в иНете на предмет проблем БТРа.

БТРФС хороша, если тебе нужно:

1а - быстрое развертывание (не нужно форматирование) логических томов для контейнеров,
1б - не думать о добавлении новых дисков (подключил и все!), но необходимо отметить, что эта легкость - только при добавлении в исправную систему, замена/удаление неисправных дисков может вылиться в тот еще геморрой...

и только тогда, когда для тебя не волнует:

2а - потеря объема (большие внутренние накладные расходы файловой системы),
2б - отсутствие надежности (нет поддержки multipath),
2в- невозможность других ФС на логических томах (везде будет только БТР!),
2г - тормоза при работе программ типа rsync/svn при достаточно большом количестве файлов/данных (в прошлом году из-за этого после долгой борьбы еле уговорил мигрировать 11 серверов разработчиков с горячо любимого начальством БТРа на классический ехт4, после чего проблемы с тормозами кончились! :))

Я лично считаю нецелесообразным использование этой ФС как дома (из-за 2а/2в/2г), так и в производстве (из-за 2б/2г).

gentl ki написал(а):
...RАID-5 (уже можно? на ядрах до 4 было не стабильно...

С чего бы это?!.. Я программным массивом пользуюсь с версии 2, и никогда именно с ним проблем не было! Были проблемы только с metadata v1 из-за проблем с выравниванием разделов.

Другое дело, что надо знать о его чувствительности к выравниванию разделов по границам физических кластеров. Если разбивка сделана неверно (а практически так и было, если разбивать автоматом!), то обязательно будут сбои при операциях В/В в начале и/или конце тома. Поэтому я до сих пор предпочитаю ручную разбивки и metadata v0. Сейчас вроде бы автоматическое выравнивание с metadata v1 работает нормально, но я не вижу реальной выгоды с metadata v1 в домашних условия и считаю свой подход более надежным.

gentl ki написал(а):
...Какой RAID выбрать? Может 6 на всех больших дисках?...

Если не доверяешь копиям (или не делаешь их регулярно и/или по мере необходимости) - тогда 6! Если же нормально мониторишь диски (а они редко умирают внезапно!), то СМАРТ-мониторинг предупредит заранее и успеешь заменить, - тогда лишний диск дома - это дороговато, а также неэффективная потеря объема.

Делать копии на той же машине не очень-то целесообразно, да и потеря объема (и абсолютно неоправданный расход энергии!), опять-таки! Лучше уж докупить внешний диск.

А по планировке: я бы сделал несколько РАЙД'ов: один РАЙД5 на 4 диска под ЛВМ, +РАЙД1 с куском первого диска и куском четвертого под систему), +РАЙД1 с остатком первого диска и куском четвертого, и остаток четвертого тоже под ЛВМ. Итого будет один чистый РАЙД1 под базовую систему (для простоты восстановления, если что...) и 3 тома под ЛВМ. Вот тебе и простор и гибкость для всего! Например, можешь сделать том под ХФС для виртуалок/фильмов, под рейзер3 для множества мелких файликов и пр. Мы уже как-то дискутировали на форуме по поводу разбивки томов, я там приводил пример своего домашнего компа с похожей конфигурацией...

Спасибо, Даже думать не буду

Спасибо,
Даже думать не буду больше, буду делать как сказано. Единственно, заменю диск внешний на 3 тб и внутренний на 4 тб местами. Он выпал из райда на уровне lun, и был экстренно заменен 4 тб. После тщательной проверки оказался рабочим. Тогда на 4 х 3Тб поставлю Райд 6 на 4 и буду бэкапить на больший обьем вовне.

А чего не РАЙД5?

Мои аргументы показались неубедительны? А как же

gentl ki написал(а):
...большая избыточночть мне не по карману, остаётся слишком мало места под данные)...

передумал? или разбогател? :)

Или инфа уж очень дорога и быстро меняется, т.е. копии не успевают?

Ведь реально 6 уровень нужен только тогда, когда вылетает второй диск сразу же после вылета одного, т.е. когда процесс восстановления массива еще не завершен. Если же массив уже восстановился, то вылет еще одного следующего диска в РАЙД5 уже не опасен.

Пишу с телефона, сайт

Пишу с телефона, сайт выглядит в нем кривой, сосиски толстые, а буквы мелкие, плюс автозамена, ети её ломом. Пятый райд, плюс смртмонтул по крону в мутт, специальный аккаунт сервера в гугле есть.

И не забудь о ручной разбивке

И не забудь о ручной разбивке и выравнивании!

Иначе потеряешь производительность и надежность.

Спасибо! Это в и ZFS было

Спасибо! Это в и ZFS было важно. Суть явления я не пытался понять досконально, но лэйблы это явление отражающие 4k sector & ashft 9 обязательно мониторил.

gentl ki

gentl ki написал(а):
Спасибо,
Даже думать не буду больше, буду делать как сказано. Единственно, заменю диск внешний на 3 тб и внутренний на 4 тб местами. Он выпал из райда на уровне lun, и был экстренно заменен 4 тб. После тщательной проверки оказался рабочим. Тогда на 4 х 3Тб поставлю Райд 6 на 4 и буду бэкапить на больший обьем вовне.

- восстановил gentoo на флешке
- загрузил сервер с флешки, убил все структуры - инструмент parted
- смонтировал внешний диск по usb с архивами и 4 ТБ внутренний в /mnt/archive /mnt/new
- сохраняю бэкап с внешнего 3Тб usb диска на внутренний 4 ТБ инструмент rsync -av /mnt/archive /mnt/new/
+ поменять местами диски и проверить доступ и целостность архивов
Грабля №1
Поменять диски местами не удалось, диск 3 ТБ не имеет крепежа под салазки для вставки в отсек на 5"
Обход грабли - веврнул диск на 3 ТБ в контейнер, оставил диск на 4 ТБ в сервере.
Грабя №2
при использовании в консоли parted + mkfs.ext4 не удалось разметить диски так, что бы потом они монтировались
по памяти примерно так:
parted /dev/sda
unit Mib
mklable gpt
mkpart primary 1 -1
align-check
quit
mkfs.ext4 /dev/sda1
mount /dev/sda1 /mnt/backup
что-то more filesystems, use -t options
mount -t ext.4 /dev/sda1 /mnt/backup
что-то про "bad superblock, read-only"
mount -t ext.4 -o rw /dev/sda1 /mnt/backup
нормально монтируется и читается. Но будучи вставленным в контейнер не монтируется автоматом, не читается gparted.
Обход грабли№2
Прожёг gentoo DVD и воспользовался gparted. И в дальнейшем все операции с дисками делал исключительно gparted.
- Установил генту на старый диск 250 ГБ + LILO запускаюсь с него.
- решил сделать RAID5 + LVM на три трёхтерабайтника, закачать на него архив с 4 ТБ, разбить 4 ТБ под RAID 5 аналогично созданному райду, плюс кусочки под raid1 системы, swap, и всё что останется под raid0, добавить трёхтерабайтную часть в созданный raid5 3*3ТБ, забэкапить уже сделанную систему и перенести её на созданный raid 1.
cat /proc/mdstat

Personalities : [raid6] [raid5] [raid4] [raid0] [raid1] [raid10] [linear] 
md1 : active raid5 sdd1[3] sdc1[1] sdb1[0]
      5860529152 blocks level 5, 512k chunk, algorithm 2 [3/2] [UU_]
      [======>..............]  recovery = 32.8% (963557052/2930264576) finish=206.6min speed=158595K/sec
      bitmap: 0/22 pages [0KB], 65536KB chunk 

Но так как другого времени кроме как "Пока все спят" просто нет - медленно ползу к вершине фудзи.
+ LVM

Интересно, что получилось с

Интересно, что получилось с разметкой - покажи fdisk -lu /dev/sd?

SysA написал(а):Интересно,

SysA написал(а):
Интересно, что получилось с разметкой - покажи fdisk -lu /dev/sd?

Полный вывод команды в пасте:

fdisk -lu /dev/sd[bcd] |wgetpaste
https://paste.pound-python.org/show/lPSkuEXwaz7dV87lEPsx/

а я ориентировался на результат трое из ларца, одинаковы с лица

fdisk -l |grep sd[bcd]|grep -v Disk

/dev/sdd1   2048 5860532223 5860530176  2.7T Linux RAID
/dev/sdc1   2048 5860532223 5860530176  2.7T Linux RAID
/dev/sdb1   2048 5860532223 5860530176  2.7T Linux RAID

Не получилось инициировать массив:

blkid /dev/sd[bcd]1
/dev/sdb1: UUID="9f5e093f-1ff3-1038-1700-3269e367f134" TYPE="linux_raid_member" PARTLABEL="TS1" PARTUUID="f5c29d9f-7304-4bb4-bd81-92376ef2b8e0"
/dev/sdc1: UUID="9f5e093f-1ff3-1038-1700-3269e367f134" TYPE="linux_raid_member" PARTLABEL="TS2" PARTUUID="ba880cad-4769-4b3d-ae4e-e703b9b41da5"
/dev/sdd1: UUID="9f5e093f-1ff3-1038-1700-3269e367f134" TYPE="linux_raid_member" PARTLABEL="TS3" PARTUUID="dd59a726-4a42-410c-a5b7-5ce03037e9f3"

И метка диска вроде прописана

cat /etc/mdadm.conf 
ARRAY /dev/md/1_0 metadata=0.90 UUID=9f5e093f:1ff31038:17003269:e367f134

но

cat /proc/mdstat 
Personalities : [raid6] [raid5] [raid4] [raid0] [raid1] [raid10] [linear] 
md1 : inactive sdb1[0]
      2930265024 blocks

да, линукс требует бессмертия. А моё время кончено, без вашей помощи не обойтись.

Покажи dmesg |grep sd

1. Покажи dmesg |grep sd

2. А как массив собирал? В принципе это просто одна команда:

mdadm --create /dev/md0 --level=5 --metadata=0.90 --raid-devices=3 /dev/sdb1 /dev/sdc1/dev/sdd1

Если ошибки - в студию! С куском лога ядра на это время.

SysA написал(а):1. Покажи

SysA написал(а):
1. Покажи dmesg |grep sd

2. А как массив собирал?
Если ошибки - в студию! С куском лога ядра на это время.

history |grep -E '\-\-create'
 216  mdadm --create --verbose /dev/md1 --level=5 --raid-devices=3 --metadata=0.90 /dev/sdb1 /dev/sdc1 /dev/sdd1 

dmesg |egrep 'sd'

Your paste can be seen here: https://paste.pound-python.org/show/Kineuq1NqCndKyEEFSvn/

Терзает смутная уверенность, что умер диск sdb - бывший
- во первых в этот же день умела стиральная машинка, а "беда не любит одиночества"
- слетели все метки /dev/sd?
- во всех логах полно бэдблоковых опарышей
Будем смотреть smart helth что бы отчистить уверенность от смутности.

А вот с этого надо было начинать!

gentl ki написал(а):
...

history |grep -E '\-\-create'
 216  mdadm --create --verbose /dev/md1 --level=5 --raid-devices=3 --metadata=0.90 /dev/sdb1 /dev/sdc1 /dev/sdd1 

Открой для себя egrep, хотя здесь RegEx совсем не нужны. Куда проще

grep -- --create

Массив вроде собрался

[   14.473325] md/raid:md1: device sdb1 operational as raid disk 0

А что в cat /proc/mdstat?

gentl ki написал(а):
...Будем смотреть smart helth что бы отчистить уверенность от смутности.

А вот с этого надо было начинать! Сделай

smartctl -t short /dev/sdb
smartctl -a /dev/sdb

SysA написал(а):gentl ki

SysA написал(а):
А что в cat /proc/mdstat?

А вот в mdstat непонятно, фигурирует массив md127, которого я не собирал и не делал.
Диск sdb действительно умер, я его заменил, а вот какой массив собирать с ним?
Ну раз есть не мною созданный md127 то его и удалю и попробую снова.

Получилось.

Чисто по дружески: если нужен

Чисто по дружески: если нужен NAS, то лучше уж не убояться и использовать Nexenta.
Тем более, что zfs для тебя, наверное, уже не "неведомая хрень"

emerge Your world
Gentoogle

GoodWin написал(а): Чисто по

GoodWin написал(а):
Чисто по дружески: если нужен NAS, то лучше уж не убояться и использовать Nexenta.
Тем более, что zfs для тебя, наверное, уже не "неведомая хрень"

Я посмотрел, спасибо! Пока буду идти по дороге из желтого кирпича, иначе никогда не дойду до изумрудного города. А если дорога окажется непосильной отпрыгну на nas4free - "По Сеньке шапка".

/

GoodWin написал(а):
Чисто по дружески: если нужен NAS, то лучше уж не убояться и использовать Nexenta.
Тем более, что zfs для тебя, наверное, уже не "неведомая хрень"

Может пора уже?
Хотя бы начать формулировать описание критериев выбора файловой системы…

:wq
--
Live free or die

описание критериев выбора файловой системы

Если вопрос ко мне, то вот мои соображения:
Разные FS "специализированы" на разные режимы работы. XFS, к примеру - при проектировании "затачивалась" под мультмедиа (немелкие файлы, потоковая запись и т.п.), ReiserFS - под операционную систему (множество разноразмерных фалов, смешанные режимы обращения к ним и т.п.), ZFS - "большие объёмы"...
Универсализм всегда требует жертв, и годится разве что для "лабораторных стендов".

emerge Your world
Gentoogle

?

GoodWin написал(а):
Если вопрос ко мне, то вот мои соображения:
Разные FS "специализированы" на разные режимы работы. XFS, к примеру - при проектировании "затачивалась" под мультмедиа (немелкие файлы, потоковая запись и т.п.), ReiserFS - под операционную систему (множество разноразмерных фалов, смешанные режимы обращения к ним и т.п.), ZFS - "большие объёмы"...
Универсализм всегда требует жертв, и годится разве что для "лабораторных стендов".

Вопрос к публике. То есть ко всем.
И начинать его рассмотрение полагаю правильным с начала времён. То есть если не с extended, то с second extended (aka ext2).

:wq
--
Live free or die

Anarchist

Anarchist написал(а):
GoodWin написал(а):
Универсализм всегда требует жертв, и годится разве что для "лабораторных стендов".

То есть ко всем.

Live DVD - интересная вещь! Можно попробовать любой DM и сразу примерить на себя. Отличный Лабораторный стенд. Меня заставила задуматься lxQT для десктопа, как раз тот случай когда можно установить Digicam - лучший фотокомбайн и не вписываться в Plasma которая меня обжигает.

И с моего мобильника сайт стал вполне читабелен. А у меня требования к мобильнику строгие - он должен помещаться в карман штанов, хотя джентелмены, конечно не носят в карманах ничего. С другой стороны Суэцкого канала :-)

Настройки просмотра комментариев

Выберите нужный метод показа комментариев и нажмите "Сохранить установки".