Задача была простая, поехать в ЦОД, воткнуть два диска в сервер и уехать домой. Думал, управлюсь за пол часа, ага, щаззз. Два с половиной часа нервов, хорошо что всё хорошо закончилось.
У нас имеется работающий сервер HPE Proliant DL360 Gen10 с шасси 10 SFF. Шасси увеличенное, предназначено для установки NVMe дисков U.2. Первоначальная комплектация была простой: два диска SAS HDD под систему и два NVMe 6.4 ТБ под программный RAID1 массив. Пришло время нарастить объём массива. Было принято решение докупить в каждый сервер ещё по два NVMe диска и переделать RAID1 на RAID10, увеличив объём массива в два раза. Решение хорошее, но таких же оригинальных дисков в продаже не оказалось. Решили брать неоригинальные NVMe:
Micron NVMe 6400 GB U.2 — MTFDHBE6T4TDG
В первый сервер диски встали без проблем:
Неоригинальные NVMe в сервере HPE Proliant DL360 Gen10
А вот со вторым возникли неожиданные сложности.
Диски подготовлены, салазки прикручены.
Извлекаю заглушки из сервера.
Первый диск вставился без проблем, загорелись диоды. Как-то иначе загорелись, видимо, салазки левые, но работают.
Втыкаю второй.
И тишина. Ситуация неожиданная.
Если бы это были обычные диски SATA или SAS, я бы даже не задумывался, извлёк бы диск и вставил обратно. С NVMe дисками так делать нельзя, если NVMe диск просто выдернуть из слота, то с большой долей вероятности получим BSOD и сервер отправится в перезагрузку. С боевым сервером так поступать нельзя, если мы так сделаем, то станем хакерами, теми, которые умеют ломать сервера. Для извлечения диска нужно нажать на кнопку, которая находится на салазках, ОС получит сигнал об извлечении диска и выкинет его из системы, после этого NVMe U.2 диск можно извлекать. Но в нашем случае светодиоды не горят, что произойдёт с диском после нажатия кнопки — неизвестно, мы ничего не увидим. Здесь или диск не определился, или салазки не получают питание. Что делать?
Для начала следует выяснить, увидела ли операционка диск. Иду включать ноутбук. На сервере Ubuntu Server, для работы с NVMe дисками нам поможет команда из пакета nvme-cli:
nvme list
В моём случае диск в системе не определился. И здесь снова возникают варианты:
- Диск нерабочий
- Слот бэкплейна нерабочий
- Просто плохой контакт
С нерабочим диском мы ничего сделать не можем, но можем попытаться отключить и заново подключить диск для лучшего контакта. И слот можем проверить, переткнув диск в другой слот, свободные слоты есть. Но просто так вытаскивать диск нельзя, в процессе этого действия может восстановиться контакт, а потом при извлечении — BSOD. И это не теория, а самая настоящая практика.
Следующие два часа я согласовывал возможность экстренной перезагрузки сервера. Согласовал. Переткнул диск.
Отлично, дело было в плохом контакте в дисковом слоте. Диск определился и весело замигал огоньками. Видимо, салазки действительно какие-то не такие. И горят странно, и втыкаются с трудом.
На этом мы закончили работы с сервером, аварийная перезагрузка не произошла.
