Проблема с RAID массивом. - Железо

Kitsune · 12.09.2005, 16:37

Я, как человек неопытный, прошу подсказать возможные причины следующего события.
На сервере реализован RAID 5-ого уровня (содержит 5 винтов по 120 Гб). Работал полгода без проблем, но в один прекрасный момент сервер начал издавать жуткие периодические писки. Очевидное решение пришло мгновенно: перегрузить, что я и сделал. Винда загрузилась, но не видно одного логического диска размером 400Гб (под виндой массив разбит на 2 логических винта - 100 и 400 Гб). Перегрузил машину. Зашёл в настройки масива и вижу - 2 винта в массиве самопроизвольно отключились (ушли в Offline). Я вернул их в нормальное состояние (Online) и всё вроде ок! Но в чём была проблема? То ли возникли ошибки контрольных сумм или ещё что-нить.
Кто сталкивался с подобным помогите - подскажите или дайте ссылку где можно просветится относительно ошибок raid массивов и методов решения. Спасибо!

Wiedemann · 12.09.2005, 17:04

Когда пикал, то скорее всего происходил ребилд. Возможно перезагрузкой ты не дал ему закончится

Mg0 · 12.09.2005, 17:20

Kitsune
Дать полезную ссылку, не зная точной модели RAID-контроллера, увы, проблематично.

"Продвинутые" модели контроллеров помимо драйверов, имеют софт для мониторинга массива и управления им. Кроме того, этот софт ведет логи состояния массива. Логи могут быть либо "своими", т.е. читаться с помощью упомянутого софта, либо эти события могут заноситься в системный лог. Так что ищи у себя на компе софт, а заодно почитай системные логи (полезное занятие даже из общих соображений).

З.Ы. Простое переключение дисков из состояния "Offline" в состояние "Online" без проведения соответствующих подготовительных процедур (опять же СИЛЬНО зависит от конкретного контроллера) -- деяние отнюдь не безобидное и вполне могущее привести к потере данных. В общем, читай доки по СВОЕМУ контроллеру.

Kitsune · 12.09.2005, 17:55

У меня Intel® RAID Controller SRCS16. К сожалению ничего ценного на диске к райду не нашёл ((
Буду очень признателен за любую инфу начиная с азов пользования RAID заканчивая возможными проблемами и путями решения. Спасибо!

Mg0 · 12.09.2005, 18:06

Kitsune
Я для интереса спросил у Яндекса одно-единственное слово: "SRCS16". В первом же результате -- http://developer.intel.ru/design/servers/RAID/srcs16/ инфы навалом. И RAID-калькулятор, и рекомендуемые конфигурвции, и софт, и чего только нету...

dimonk · 13.09.2005, 06:12

Цитата:

Wiedemann:
Когда пикал, то скорее всего происходил ребилд

нет, "пики" означают, что отвалился как минимум один винт и массив работал на избыточной информации. перегружать в такой ситуации - не то, чтобы совсем глупо, но уж точно совершенно бессмыссленно. сначала надо определить, какой винт отвалился и почему - либо по индикаторам в корзине, либо по данным управляющего софта.

Цитата:

Mg0:
деяние отнюдь не безобидное и вполне могущее привести к потере данных

на самом деле, приличные контроллеры инфу не портят и ребилдят переподключенные диски совершенно прозрачно для пользователя, разве что в процессе ребилда производительность падает.

Mg0 · 13.09.2005, 12:02

dimonk
Тут ключевое слово "приличные". А писалось это до того, как автор сообщил модель контроллера. А я знаю случай, когда на каком-то то ли текраме то ли силиконе приятель у меня включил диск в он-лайн, и тю-тю инфа. А потом в мануале прочитал, что при добавлении/замене диска надо сначала кильнуть заменяемый диск, потом заменить, сделать ручной ребилд и только потом он сам в он-лайн включится...

dimonk · 13.09.2005, 12:21

Цитата:

Mg0:
я знаю случай, когда на каком-то то ли текраме то ли силиконе приятель

ладно-ладно, сдаюс-сдаюс!

SinClaus · 13.09.2005, 15:31

Наши клиенты вообще отказались от использования IDE-RAID контроллеров именно по этой причине - если к диску долго (пару часов) не обращаться - он засыпает. А просыпается с проблемами. Именно в режиме RAID5. Теперь используем лишние в зеркальном режиме в критических местах (контроллеры Escada 3ware).

Mikitka · 24.04.2006, 14:57

На сервере реализован RAID 5-ого уровня, Intel SRCU42L, интересна сама реализация массива -> три скази и два из них зеркало, и один винт упал /контроллер пыщыыт/ ну я отлючил динамик с помощью StorCon'а, а дальше что? с пятеркой не имел вообще дело, кто нить может помочь разобраться с ним? как определить какой вылетел и вылетел ли, или может это просто программный сбой?

Mg0 · 24.04.2006, 15:10

Mikitka
Если

Цитата:

три скази и два из них зеркало

, то откуда там RAID5?

vovik · 24.04.2006, 15:12

SinClaus
Ну, не знаю, с PCI контроллерами давно дела не имел, но с внешними контроллерами (IFT, SATA-to-SCSI) никаких проблем нет. Ничего не засыпает, все прекрасно рулится. Другое дело что SATA-to-SCSI дает на порядок менее стабильные потоки в видеоприложениях по сравнению с SCSI-to-SCSI.

Цитата:

Mikitka:
На сервере реализован RAID 5-ого уровня, ... -> три скази и два из них зеркало,

Вр-р-р-р!
"сидят семь человек: три бабы и два мужика" (Зощенко)
Так зеркало или RAID5? Ничего не разберу

Mikitka · 24.04.2006, 16:55

не правильно выразился, уж извиняйте
вообщем, контроллер Intel SRCU42L с поддержкой RAID5, но работает в режиме RAID1,/а может и нет, чертова утилита режимы не показывает/ большего не знаю. сервер не перезагружал, и тд, утилитой StorCon никогда не пользовался, седня только что смог сделать енто перекатал всю жизненно важную инфу, завтра буду ёкспёрёмёнтировать
StorCon показывает статус смарт - гут, притом на всех трех хардах
самое интересное енто то, что доков на сервак ну и на сам контроллер нет, скачал вот что-то сижу читаю, просвещаюся, если у кого есть, особенно на русском киньте ссылку

dimonk · 25.04.2006, 07:45

Цитата:

Mikitka:
чертова утилита режимы не показывает/ большего не знаю

consoleplus все показывает.

меняешь винт, запускаешь ребилд и радуешься. в принципе, можно использовать ребилд в фоновом режиме, но сервер очень уж сильно тупить будет...

Chifa · 25.04.2006, 08:58

Была такая проблема с массивом именно 5 уровня (т.е. винт показывал ошибку и уходил в offline). Проблема оказалась не в RADE (все тесты контроллера прошли нормально, да и винтами все проверки прошли успешно) а в системе, не разобрался конкретно в чем (время поджимало) а тупо восстановил систему из образа. И больше проблем с массивом не было.

vovik · 25.04.2006, 10:58

Chifa
Скорее всего массив был на IDE дисках. И сам массив из недорогих.
Такая фигня часто бывала, например, на MEDEA. Диск немного задерживался с откликом, и контроллер думал, что оно в офлайне. Достаточно было сделать ребил на тот же диск - и все работало.
Но поскольку это все стемно, от такиз массивов мы отказались еще в 2001 году (эфир все-таки!)

Chifa · 25.04.2006, 11:46

Именно MEDEA, IDE винты, постоянно проблемы. Поэтому перешли на SCSI.

Wiedemann · 25.04.2006, 12:15

vovik, диск пытается прочесть сбойный сектор, не отвечает Х времени. Рейдконтроллер переводит его в оффлайн. Начинает ребилд на hotspair. При большой нагрузке ещё 1 диск может не ответить вовремя. Вобщем принцип домино. WD сделал SATA диск RaidEdition.
Понятно, что SCSI лишены такой проблемы.

Mikitka · 25.04.2006, 13:38

Цитата:

Сообщение от dimonk

consoleplus все показывает.

меняешь винт, запускаешь ребилд и радуешься. в принципе, можно использовать ребилд в фоновом режиме, но сервер очень уж сильно тупить будет...

все нашел, стоит все-таки рейд5, три диска
просто hot plug и всё? а можно старый диск попробовать перестроить?
и последовательность действий какая?

vovik · 25.04.2006, 14:41

Цитата:

Wiedemann:
диск пытается прочесть сбойный сектор, не отвечает Х времени. Рейдконтроллер переводит его в оффлайн. Начинает ребилд на hotspair. При большой нагрузке ещё 1 диск может не ответить вовремя. Вобщем принцип домино. WD сделал SATA диск RaidEdition.

Если речь о Medea, то ничего там не не сбоит. "медленные секторы" рано или поздно появляются на люых дисках, но они читаются, могут записываться и, если это не специфическое приложение (видео), то ничем особо не мешают. Никому кроме Медеи

И диск, как я говорил, может быть заново включен в RAID без переназначения секторов - ребилд проходит абсолютно нормально, и массив может после этого работать многие месяцы.
Что касается самого ребилда, то у Медеи он идет в режиме "офлайн" - массив полностью недоступен.
Возможно сейчас уже что-то изменилось, но было - полное г...

12.09.2005, 16:37	# 1
Kitsune Newbie Регистрация: 12.12.2004 Сообщения: 45	Проблема с RAID массивом. Я, как человек неопытный, прошу подсказать возможные причины следующего события. На сервере реализован RAID 5-ого уровня (содержит 5 винтов по 120 Гб). Работал полгода без проблем, но в один прекрасный момент сервер начал издавать жуткие периодические писки. Очевидное решение пришло мгновенно: перегрузить, что я и сделал. Винда загрузилась, но не видно одного логического диска размером 400Гб (под виндой массив разбит на 2 логических винта - 100 и 400 Гб). Перегрузил машину. Зашёл в настройки масива и вижу - 2 винта в массиве самопроизвольно отключились (ушли в Offline). Я вернул их в нормальное состояние (Online) и всё вроде ок! Но в чём была проблема? То ли возникли ошибки контрольных сумм или ещё что-нить. Кто сталкивался с подобным помогите - подскажите или дайте ссылку где можно просветится относительно ошибок raid массивов и методов решения. Спасибо! __________________ С уважением, Kitsune!

12.09.2005, 17:20	# 3
Mg0 ::VIP:: Железный Дровосек Регистрация: 01.10.2003 Адрес: 1/6 суши Пол: Male Сообщения: 3 510	Kitsune Дать полезную ссылку, не зная точной модели RAID-контроллера, увы, проблематично. "Продвинутые" модели контроллеров помимо драйверов, имеют софт для мониторинга массива и управления им. Кроме того, этот софт ведет логи состояния массива. Логи могут быть либо "своими", т.е. читаться с помощью упомянутого софта, либо эти события могут заноситься в системный лог. Так что ищи у себя на компе софт, а заодно почитай системные логи (полезное занятие даже из общих соображений). З.Ы. Простое переключение дисков из состояния "Offline" в состояние "Online" без проведения соответствующих подготовительных процедур (опять же СИЛЬНО зависит от конкретного контроллера) -- деяние отнюдь не безобидное и вполне могущее привести к потере данных. В общем, читай доки по СВОЕМУ контроллеру. __________________ Я только снаружи страшОн, а внутри... внутри я... просто УЖАСЕН! Последний раз редактировалось Mg0; 12.09.2005 в 17:25.

12.09.2005, 17:55	# 4
Kitsune Newbie Регистрация: 12.12.2004 Сообщения: 45	У меня Intel® RAID Controller SRCS16. К сожалению ничего ценного на диске к райду не нашёл (( Буду очень признателен за любую инфу начиная с азов пользования RAID заканчивая возможными проблемами и путями решения. Спасибо! __________________ С уважением, Kitsune!

12.09.2005, 18:06	# 5
Mg0 ::VIP:: Железный Дровосек Регистрация: 01.10.2003 Адрес: 1/6 суши Пол: Male Сообщения: 3 510	Kitsune Я для интереса спросил у Яндекса одно-единственное слово: "SRCS16". В первом же результате -- http://developer.intel.ru/design/servers/RAID/srcs16/ инфы навалом. И RAID-калькулятор, и рекомендуемые конфигурвции, и софт, и чего только нету... __________________ Я только снаружи страшОн, а внутри... внутри я... просто УЖАСЕН!

13.09.2005, 12:02	# 7
Mg0 ::VIP:: Железный Дровосек Регистрация: 01.10.2003 Адрес: 1/6 суши Пол: Male Сообщения: 3 510	dimonk Тут ключевое слово "приличные". А писалось это до того, как автор сообщил модель контроллера. А я знаю случай, когда на каком-то то ли текраме то ли силиконе приятель у меня включил диск в он-лайн, и тю-тю инфа. А потом в мануале прочитал, что при добавлении/замене диска надо сначала кильнуть заменяемый диск, потом заменить, сделать ручной ребилд и только потом он сам в он-лайн включится... __________________ Я только снаружи страшОн, а внутри... внутри я... просто УЖАСЕН!

12.09.2005, 17:04	# 2
Wiedemann Full Member Регистрация: 18.05.2005 Сообщения: 733	Когда пикал, то скорее всего происходил ребилд. Возможно перезагрузкой ты не дал ему закончится

13.09.2005, 15:31	# 9
SinClaus Котозавр Регистрация: 15.04.2003 Адрес: Russia, Tomsk Пол: Male Сообщения: 1 321	Наши клиенты вообще отказались от использования IDE-RAID контроллеров именно по этой причине - если к диску долго (пару часов) не обращаться - он засыпает. А просыпается с проблемами. Именно в режиме RAID5. Теперь используем лишние в зеркальном режиме в критических местах (контроллеры Escada 3ware). __________________ Паранойю у админов лечить нельзя, надо лишь следить, чтобы развивалась в нужном направлении

24.04.2006, 14:57	# 10
Mikitka Newbie Регистрация: 13.03.2006 Адрес: Прокопьевск Сообщения: 43	На сервере реализован RAID 5-ого уровня, Intel SRCU42L, интересна сама реализация массива -> три скази и два из них зеркало, и один винт упал /контроллер пыщыыт/ ну я отлючил динамик с помощью StorCon'а, а дальше что? с пятеркой не имел вообще дело, кто нить может помочь разобраться с ним? как определить какой вылетел и вылетел ли, или может это просто программный сбой?

24.04.2006, 16:55	# 13
Mikitka Newbie Регистрация: 13.03.2006 Адрес: Прокопьевск Сообщения: 43	не правильно выразился, уж извиняйте вообщем, контроллер Intel SRCU42L с поддержкой RAID5, но работает в режиме RAID1,/а может и нет, чертова утилита режимы не показывает/ большего не знаю. сервер не перезагружал, и тд, утилитой StorCon никогда не пользовался, седня только что смог сделать енто перекатал всю жизненно важную инфу, завтра буду ёкспёрёмёнтировать StorCon показывает статус смарт - гут, притом на всех трех хардах самое интересное енто то, что доков на сервак ну и на сам контроллер нет, скачал вот что-то сижу читаю, просвещаюся, если у кого есть, особенно на русском киньте ссылку

25.04.2006, 08:58	# 15
Chifa Junior Member Регистрация: 15.11.2002 Сообщения: 125	Была такая проблема с массивом именно 5 уровня (т.е. винт показывал ошибку и уходил в offline). Проблема оказалась не в RADE (все тесты контроллера прошли нормально, да и винтами все проверки прошли успешно) а в системе, не разобрался конкретно в чем (время поджимало) а тупо восстановил систему из образа. И больше проблем с массивом не было.

25.04.2006, 10:58	# 16
vovik IMHO Ворчун-2006 Регистрация: 24.03.2003 Адрес: Москва Пол: Male Сообщения: 4 651	Chifa Скорее всего массив был на IDE дисках. И сам массив из недорогих. Такая фигня часто бывала, например, на MEDEA. Диск немного задерживался с откликом, и контроллер думал, что оно в офлайне. Достаточно было сделать ребил на тот же диск - и все работало. Но поскольку это все стемно, от такиз массивов мы отказались еще в 2001 году (эфир все-таки!)

25.04.2006, 11:46	# 17
Chifa Junior Member Регистрация: 15.11.2002 Сообщения: 125	Именно MEDEA, IDE винты, постоянно проблемы. Поэтому перешли на SCSI.

25.04.2006, 12:15	# 18
Wiedemann Full Member Регистрация: 18.05.2005 Сообщения: 733	vovik, диск пытается прочесть сбойный сектор, не отвечает Х времени. Рейдконтроллер переводит его в оффлайн. Начинает ребилд на hotspair. При большой нагрузке ещё 1 диск может не ответить вовремя. Вобщем принцип домино. WD сделал SATA диск RaidEdition. Понятно, что SCSI лишены такой проблемы.