Мониторинг состояния накопителей информации (smartmontools)

В настоящее время объемы хранящейся информации на файловых серверах любого уровня и масштаба составляют колоссальные размеры, которые с каждым годом значительно прирастают. Производители накопителей информации обеспечивают технологический прогресс, увеличивают объемы накопителей информации. Однако, главным критерием любого накопителя информации, влияющим на такую характеристику информации как целостность, является надежность. Думаю, многие сталкивались с ситуацией, особенно на заре развития компьютерных технологий, когда жесткий диск выходил из строя, и в случае отсутствия резервной копии, данные могли быть утеряны. В нынешнее время для обеспечения защиты от утраты информации используются различные методы, в том числе технологии дисковых массивов (RAID). Помимо этого, хорошим способом защиты является своевременное выявления и замена "уставших" накопителей информации. Для этого была разработана технология самоконтроля, анализа и отчётности накопителей информации, более известная как S.M.A.R.T. (или короче SMART).

Все современные накопители информации (HDD, SSD и т.п.) поддерживают данную технологию, что позволяют проверять состояние данных накопителей информации. Для мониторинга параметров SMART накопителей информации имеется множество различного софта, однако я бы хотел отметить ПО с открытым исходным кодом smartmontools, которое кстати присутствует в портах FreeBSD. Программное обеспечение smartmontools включает набор утилит для получения информации и контролирования состояния накопителей информации через технологию SMART, которые работают на любых современных платформах. В портах FreeBSD находится по пути /usr/ports/sysutils/smartmontools.

После установки пользователю доступно две утилиты smartctl и smartd, первая из которых позволяет из командной строки получать информацию о характеристиках и состоянии накопителей информации, а вторая позволяет мониторить их состояние в реальном времени. Из полезных ключей smartctl я выделю только два, про остальные можно почитать в манах или на официальном сайте.

  • -a, --all — вывести все сведения из SMART. Для ATA устройств является эквивалентом набору ключей -H -i -c -A -l error -l selftest -l selective, для SCSI устройств набору ключей -H -i -A -l error -l selftest, для устройств типа NVMe -H -i -c -A -l error.
  • -x, --xall — вывести все имеющиеся об устройстве сведения из SMART и внутренней базы данных. Для ATA устройств является эквивалентом набору ключей -H -i -g all -g wcreorder -c -A -f brief -l xerror,error -l xselftest,selftest -l selective -l directory -l scttemp -l scterc -l devstat -l defects -l sataphy, для SCSI устройств набору ключей -H -i -g all -A -l error -l selftest -l background -l sasphy, для устройств типа NVMe -H -i -c -A -l error.

В большинстве случаев в SMART накопителя информации доступны следующие параметры:

  • Raw Read Error Rate — частота ошибок при чтении данных с диска, связанных с работой аппаратной частью диска.
  • Spin-Up Time — время, затраченное на разгон пластин диска из состояния покоя до номинальной скорости. Может увеличиваться при износе мотора диска и его частей, из-за некачественном электропитания.
  • Start/Stop Count — число циклов запуск/остановка шпинделя диска.
  • Reallocated Sectors Count — количество операций по переназначению секторов. Когда диск обнаруживает ошибку чтения/записи на сектор, то сектор помечается как «переназначенный», прошивка диска переносит данные в специально отведённую резервную область. Увеличение данного значения свидетельствует о значительном износе диска и возможно скором выходе из строя.
  • Seek Error Rate — частота ошибок при позиционировании магнитной головки. Увеличение данного значения может свидетельствовать об ухудшении состояния механических частей жёсткого диска. На некоторых моделях на значение параметра может повлиять перегрев и внешние вибрации.
  • Power-on Time Count (Power-On Hours) — время, проведенное во включенном состоянии (обычно указывается в часах, зависит от производителя). Пороговым значением может быть время наработки на отказ (MTBF).
  • Spin-Up Retry Count — количество повторных попыток разгона магнитных пластин жесткого иска до номинальной скорости. Увеличение значения может свидетельствовать об износе механической части жесткого диска.
  • Command Timeout — количество прерванных операций в связи с истечением времени ожидания. Ненулевое значение может свидетельствовать о плохом питании или испорченном шлейфе передачи данных.
  • High Fly Writes — количество зафиксированных случаев записи при высоте полета магнитной головки выше рассчитанной (например, из-за вибрации).
  • Airflow Temperature — температура воздуха внутри корпуса жёсткого диска.
  • G-sense error rate (Mechanical Shock) — количество ошибок, возникающих в результате ударных нагрузок. Параметр отражает показания встроенного акселерометра, который фиксирует все удары, толчки, падения.
  • Power-off retract count — количество циклов выключений или аварийных отказов (включений/выключений питания накопителя).
  • Hardware ECC Recovered — число коррекций ошибок аппаратной частью диска (чтение, позиционирование, передача по внешнему интерфейсу).
  • Current Pending Sector Count — количество подозрительных секторов, которые возможно являются не читаемыми (определяется прошивкой диска). В дальнейшем, если сектор не будет читаться он перейдет в разряд переназначенных. Увеличение данного значения свидетельствует о значительном износе диска и возможно скором выходе из строя.
  • Uncorrectable Sector Count — число не корректируемых (средствами диска) секторов. Увеличение данного значения свидетельствует о значительном износе диска и возможно скором выходе из строя.
  • UltraDMA CRC Error Count — количество ошибок, возникающих при передаче данных по внешнему интерфейсу в режиме UltraDMA. Увеличение этого параметра моет свидетельствовать о плохом питании, испорченном шлейфе передачи данных или проблем с драйверами.
  • Load Cycle Count — количество циклов перемещения магнитных головок в "парковочную" область.
  • Power-Off Retract Cycle — количество повторов автоматической "парковки" магнитных головок в результате выключения питания.
  • Head flying hours — общее время нахождения блока головок в рабочем положении в часах.
  • Total LBAs Written — число записей LBA. Для SSD диска является важным параметром, поскольку отражает объем записанных в ячейки памяти диска данных. В таком случае пороговым значением может быть максимальное количество перезаписей, заявленное производителем SSD.
  • Total LBAs Read — число чтений LBA.

Данный список не является исчерпывающим. Однако, исходя из приведенных данных, наиболее значимыми параметрами SMART являются Reallocated Sectors Count, Current Pending Sector Count. Увеличение значений данных параметров позволяет судить о сильном износе жесткого диска, о возможном выходе его из строя в скором времени. Такие диски лучше незамедлительно заменять.

Пример работы утилиты:

  1. # smartctl -a /dev/ada1
  2.  
  3. smartctl 7.0 2018-12-30 r4883 [FreeBSD 11.3-RELEASE-p3 amd64] (local build)
  4. Copyright (C) 2002-18, Bruce Allen, Christian Franke, www.smartmontools.org
  5.  
  6. === START OF INFORMATION SECTION ===
  7. Model Family:     Seagate Barracuda 3.5
  8. Device Model:     ST2000DM006-2DM164
  9. Serial Number:    Z4ZAGKM0
  10. LU WWN Device Id: 5 000c50 0b00658ed
  11. Firmware Version: CC26
  12. User Capacity:    2 000 398 934 016 bytes [2,00 TB]
  13. Sector Sizes:     512 bytes logical, 4096 bytes physical
  14. Rotation Rate:    7200 rpm
  15. Form Factor:      3.5 inches
  16. Device is:        In smartctl database [for details use: -P show]
  17. ATA Version is:   ACS-2, ACS-3 T13/2161-D revision 3b
  18. SATA Version is:  SATA 3.1, 6.0 Gb/s (current: 3.0 Gb/s)
  19. Local Time is:    Fri Sep  6 01:55:21 2019 +05
  20. SMART support is: Available - device has SMART capability.
  21. SMART support is: Enabled
  22.  
  23. === START OF READ SMART DATA SECTION ===
  24. SMART overall-health self-assessment test result: PASSED
  25.  
  26. General SMART Values:
  27. Offline data collection status:  (0x00) Offline data collection activity
  28.                                         was never started.
  29.                                         Auto Offline Data Collection: Disabled.
  30. Self-test execution status:      (   0) The previous self-test routine completed
  31.                                         without error or no self-test has ever
  32.                                         been run.
  33. Total time to complete Offline
  34. data collection:                (   80) seconds.
  35. Offline data collection
  36. capabilities:                    (0x73) SMART execute Offline immediate.
  37.                                         Auto Offline data collection on/off support.
  38.                                         Suspend Offline collection upon new
  39.                                         command.
  40.                                         No Offline surface scan supported.
  41.                                         Self-test supported.
  42.                                         Conveyance Self-test supported.
  43.                                         Selective Self-test supported.
  44. SMART capabilities:            (0x0003) Saves SMART data before entering
  45.                                         power-saving mode.
  46.                                         Supports SMART auto save timer.
  47. Error logging capability:        (0x01) Error logging supported.
  48.                                         General Purpose Logging supported.
  49. Short self-test routine
  50. recommended polling time:        (   1) minutes.
  51. Extended self-test routine
  52. recommended polling time:        ( 213) minutes.
  53. Conveyance self-test routine
  54. recommended polling time:        (   2) minutes.
  55. SCT capabilities:              (0x1085) SCT Status supported.
  56.  
  57. SMART Attributes Data Structure revision number: 10
  58. Vendor Specific SMART Attributes with Thresholds:
  59. ID# ATTRIBUTE_NAME          FLAG     VALUE WORST THRESH TYPE      UPDATED  WHEN_FAILED RAW_VALUE
  60.   1 Raw_Read_Error_Rate     0x000f   113   099   006    Pre-fail  Always       -       57310976
  61.   3 Spin_Up_Time            0x0003   097   096   000    Pre-fail  Always       -       0
  62.   4 Start_Stop_Count        0x0032   100   100   020    Old_age   Always       -       18
  63.   5 Reallocated_Sector_Ct   0x0033   100   100   010    Pre-fail  Always       -       0
  64.   7 Seek_Error_Rate         0x000f   064   060   030    Pre-fail  Always       -       3141138
  65.   9 Power_On_Hours          0x0032   088   088   000    Old_age   Always       -       11359
  66.  10 Spin_Retry_Count        0x0013   100   100   097    Pre-fail  Always       -       0
  67.  12 Power_Cycle_Count       0x0032   100   100   020    Old_age   Always       -       18
  68. 183 Runtime_Bad_Block       0x0032   100   100   000    Old_age   Always       -       0
  69. 184 End-to-End_Error        0x0032   100   100   099    Old_age   Always       -       0
  70. 187 Reported_Uncorrect      0x0032   100   100   000    Old_age   Always       -       0
  71. 188 Command_Timeout         0x0032   100   100   000    Old_age   Always       -       0 0 0
  72. 189 High_Fly_Writes         0x003a   100   100   000    Old_age   Always       -       0
  73. 190 Airflow_Temperature_Cel 0x0022   069   059   045    Old_age   Always       -       31 (Min/Max 22/39)
  74. 191 G-Sense_Error_Rate      0x0032   100   100   000    Old_age   Always       -       0
  75. 192 Power-Off_Retract_Count 0x0032   100   100   000    Old_age   Always       -       1
  76. 193 Load_Cycle_Count        0x0032   098   098   000    Old_age   Always       -       4439
  77. 194 Temperature_Celsius     0x0022   031   041   000    Old_age   Always       -       31 (0 22 0 0 0)
  78. 197 Current_Pending_Sector  0x0012   100   100   000    Old_age   Always       -       0
  79. 198 Offline_Uncorrectable   0x0010   100   100   000    Old_age   Offline      -       0
  80. 199 UDMA_CRC_Error_Count    0x003e   200   200   000    Old_age   Always       -       0
  81. 240 Head_Flying_Hours       0x0000   100   253   000    Old_age   Offline      -       185h+05m+29.981s
  82. 241 Total_LBAs_Written      0x0000   100   253   000    Old_age   Offline      -       2759093788
  83. 242 Total_LBAs_Read         0x0000   100   253   000    Old_age   Offline      -       4131477654
  84.  
  85. SMART Error Log Version: 1
  86. No Errors Logged
  87.  
  88. SMART Self-test log structure revision number 1
  89. No self-tests have been logged.  [To run self-tests, use: smartctl -t]
  90.  
  91. SMART Selective self-test log data structure revision number 1
  92.  SPAN  MIN_LBA  MAX_LBA  CURRENT_TEST_STATUS
  93.     1        0        0  Not_testing
  94.     2        0        0  Not_testing
  95.     3        0        0  Not_testing
  96.     4        0        0  Not_testing
  97.     5        0        0  Not_testing
  98. Selective self-test flags (0x0):
  99.   After scanning selected spans, do NOT read-scan remainder of disk.
  100. If Selective self-test is pending on power-up, resume after 0 minute delay.

Периодический контроль SMART накопителей информации позволит выявить "уставший" диск, своевременно принять соответствующие меры. В случае, если накопителей информации много или лень каждый раз запускать проверять состояние через smartctl, на помощь приходит утилита smartd, которая по сути является демоном и занимается мониторингом накопителей информации в реальном времени. В FreeBSD конфигурационный файл smartd располагается тут /usr/local/etc/smartd.conf и содержит следующее:

  1. # smartd перечитает данный файл при получении сигнала HUP
  2.  
  3. # В данном файле определяется список устройств, состояние которых
  4. # будет контролироваться smartd. Устройства указываются по одному 
  5. # в строку. Сроки после символа # игнорируются и могут использоваться
  6. # в качестве комментариев. Символ '\' может использоваться для 
  7. # переноса директив на следующую строку для улучшения читаемости конфига. 
  8.  
  9. # Служебные (системные) наименования накопителей информации в некоторых системах
  10. # можно посмотреть в /proc/ide и /proc/scsi.
  11.  
  12. # Директива DEVICESCAN заставляет smartd игнорировать другие параметры,
  13. # (касающиеся накопителей информации) в данном файле. В случае ее использования
  14. # smartd будет самостоятельно искать подключенные накопители информации 
  15. # (ATA и SCSI). Директива DEVICESCAN может быть задана после других
  16. # директив, которые задают параметры мониторинга для конкретных устройств.
  17. # В большинстве случаев использование данной директивы нецелесообразно,
  18. # лучше указывать конкретные устройства, состояние которых необходимо
  19. # контролировать.
  20. DEVICESCAN
  21.  
  22. # Другая форма задания директивы, которая исключает вывод в отчеты (syslog) сведений
  23. # о температуре устройства и времени его работы.
  24. #DEVICESCAN -I 194 -I 231 -I 9
  25.  
  26. # Другая форма задания директивы, которая делает более подробным вывод
  27. # в отчеты (логи) сведений о температуре устройства.
  28. #DEVICESCAN -R 194 -R 231 -I 9
  29.  
  30. # Другая форма задания директивы, которая заставляет smartd писать информацию в лог
  31. # в случае изменения температуры устройства на 5 и более градусов и превышения
  32. # минимального/максимального порога.
  33. #DEVICESCAN -I 194 -I 231 -I 9 -W 5
  34.  
  35. # Контроль первого ATA/SATA или SCSI/SAS устройства. Мониторинг всех
  36. # параметров, включение на устройстве автоматического сохранения параметров
  37. # SMART (прим. автора - не знаю зачем, в большинстве случаев итак включено),
  38. # запуск "короткого" самотестирования каждый день межу 2-3 ночи,
  39. # запуск полного самотестирования по субботам межу 3-4 ночи
  40. #/dev/sda -a -o on -S on -s (S/../.././02|L/../../6/03)
  41.  
  42. # Мониторинг состояния SMART статуса, ATA Error Log, Self-test log,
  43. # запись в лог всех изменений, за исключением параметра под номером 194
  44. #/dev/sdb -H -l error -l selftest -t -I 194
  45.  
  46. # Контроль всех параметров на устройстве за исключением температуры
  47. # (номер параметра 194), но информирование через лог изменений температуры
  48. # на 4 или более градусов, о преувеличении порога в 45 градусов,
  49. # изменении значения в параметре Reallocated_Sector_Ct.
  50. # Отправка письма на электронный адрес в случае превышения порога в 55 градусов.
  51. #/dev/sdc -a -I 194 -W 4,45,55 -R 5 -m admin@example.com
  52.  
  53. # На некоторых ОС ATA диски могут определяться как SCSI устройства.
  54. # Если имеется такое преобразование (SCSI в ATA Translation (SAT)),
  55. # тогда для корректной работы такое устройство может быть задано
  56. # через флаг '-d sat' option. Также, такая ситуация может возникнуть
  57. # в случае использования дисков через какие либо переходники.
  58. # /dev/sda -a -d sat
  59.  
  60. # Мониторинг только SMART статуса. Если он устанавливается в статус
  61. # провален, тогда информировать на почту.
  62. #/dev/sdc -H -C 0 -U 0 -m admin@example.com
  63.  
  64. # Мониторинг двух первых SCSI дисков. smartd будет контролировать все,
  65. # что умеет контролировать. Запуск самотестирования дисков по средам
  66. # между 6-7 вечера и по воскресеньям между 1-2 часов ночи.
  67. #/dev/sda -d scsi -s L/../../3/18
  68. #/dev/sdb -d scsi -s L/../../7/01
  69.  
  70. # Контроль состояния 4 ATA дисков, подключенных череp контроллер 3ware 6/7/8000.
  71. # Запуск полного самотестирования дисков каждое воскресенье между 1-2, 2-3, 3-4,
  72. # и 4-5 часов утра.
  73. # Учтите: начиная с версии ядра Linux 2.6, устройства наименование устройств
  74. # как /dev/sdX устарело. Вместо этого используйте /dev/tweN.
  75. #/dev/sdc -d 3ware,0 -a -s L/../../7/01
  76. #/dev/sdc -d 3ware,1 -a -s L/../../7/02
  77. #/dev/sdc -d 3ware,2 -a -s L/../../7/03
  78. #/dev/sdc -d 3ware,3 -a -s L/../../7/04
  79.  
  80. # Контроль состояния 2 ATA дисков, подключенных через контроллер 3ware 9000.
  81. # Запуск полного самотестирования дисков каждый вторник 1-2 и 3-4 утра.
  82. #/dev/twa0 -d 3ware,0 -a -s L/../../2/01
  83. #/dev/twa0 -d 3ware,1 -a -s L/../../2/03
  84.  
  85.  
  86. # Контроль состояния 2 ATA (на SAS) дисков, подключенных через контроллер 3ware 9000.
  87. # Запуск полного самотестирования дисков каждый вторник 1-2 и 3-4 часов утра.
  88. # На FreeBSD необходимо использовать /dev/tws0.
  89. #/dev/twl0 -d 3ware,0 -a -s L/../../2/01
  90. #/dev/twl0 -d 3ware,1 -a -s L/../../2/03
  91.  
  92. # Тоже самое, только под Windows. Параметр '-d 3ware,N' не требуется,
  93. # адрес устройства (порт)указан в его имени.
  94. # Учтите: На Windows DEVICESCAN работает только для контроллеров 3ware.
  95. #/dev/hdc,0 -a -s L/../../2/01
  96. #/dev/hdc,1 -a -s L/../../2/03
  97.  
  98. # Контроль состояния 3 ATA дисков, подключенных к HighPoint RocketRAID.
  99. # Запуск полного самотестирования дисков каждое воскресенье между 1-2, 2-3
  100. # 3-4 часов утра.
  101. #/dev/sdd -d hpt,1/1 -a -s L/../../7/01
  102. #/dev/sdd -d hpt,1/2 -a -s L/../../7/02
  103. #/dev/sdd -d hpt,1/3 -a -s L/../../7/03
  104.  
  105. # Контроль состояния 2 ATA дисков, подключенных PMPort, к которому также
  106. # подключен HighPoint RocketRAID. Запуск полного самотестирования дисков
  107. # каждый вторник между 1-2 и 3-4 часов ночи.
  108. #/dev/sdd -d hpt,1/4/1 -a -s L/../../2/01
  109. #/dev/sdd -d hpt,1/4/2 -a -s L/../../2/03
  110.  
  111. # Список директив, которые могут использоваться в данном конфиге
  112. # За дополнительной информацией обращайтесь в ман по smartd.conf
  113. #
  114. #   -d TYPE тип устройства: ata, scsi, marvell, removable, 3ware,N, hpt,L/M/N
  115. #   -T TYPE указываем допуски: normal, permissive
  116. #   -o VAL  Enable/disable Automatic offline tests (on/off)
  117. #   -S VAL  Enable/disable attribute autosave (on/off)
  118. #   -n MODE No check. MODE is one of: never, sleep, standby, idle
  119. #   -H      контроль состояния SMART Health Status, сигнализировать в случае сбоев
  120. #   -l TYPE контроль лога SMART.  Тип лога: error, selftest
  121. #   -f      контроль сбоев, отражающихся в параметрах 'Usage'
  122. #   -m ADD  отправлять email на адрес в случае сбоев
  123. #   -M TYPE задать формат собственного сообщения email (see man page)
  124. #   -s REGE Запуск самотестирования когда выполняется регулярное выражения (see man page)
  125. #   -p      сигнализировать об изменениях в 'Prefailure' Normalized Attributes
  126. #   -u      сигнализировать об изменениях в 'Usage' Normalized Attributes
  127. #   -t      объединяет действие параметров -p и -u
  128. #   -r ID   информировать об Raw значения в Attribute ID, указывается совместно с -p, -u или -t
  129. #   -R ID   контролировать изменения Raw значения в Attribute ID, указывается совместно с -p, -u или -t
  130. #   -i ID   игнорировать Attribute ID при использовании параметра -f
  131. #   -I ID   игнорировать Attribute ID при использовании параметров -p, -u или -t
  132. #   -C ID   сигнализировать в случае если Current Pending Sector count изменилось
  133. #   -U ID   сигнализировать если Offline Uncorrectable count изменилось
  134. #   -W D,I,C Контроль Температуры D)ifference, I)nformal limit, C)ritical limit
  135. #   -v N,ST Modifies labeling of Attribute N (see man page)
  136. #   -a      Default: equivalent to -H -f -t -l error -l selftest -C 197 -U 198
  137. #   -F TYPE учитывать косяки в прошивке (Use firmware bug workaround. Type is one of: none, samsung)
  138. #   -P TYPE Drive-specific presets: use, ignore, show, showall
  139. #    #      комментарий: текст после данного символа игнорируется
  140. #    \      используется для переноса части директивы на другую строку
  141. # Attribute ID это цело число 1 <= ID <= 255 за исключением 
  142. # случая использования параметров -C и -U.
  143. # Параметры -d, -m и -M реализованы только для ATA устройств
  144. #
  145. # Если директива DEVICESCAN в самом начале раскомментирована, тогда smartd
  146. # будет контролировать все подключенные устройства.

Думаю дополнительных примеров настройки smartd не требуется, так как в дефолтном конфиге имеется куча примеров. Запуск демона достаточно прост.

  1. # echo 'smartd_enable="YES"' >> /etc/rc.conf
  2. # service smartd start

На этом заметка закончена, на мой взгляд получилось достаточно подробно. В случае наличия предложений прошу писать в комментарии, а если имеются вопросы, тогда на форум.

Добавить комментарий

Filtered text

CAPTCHA
Этот вопрос предназначен для предотвращения автоматизированной обработки форм.
Fill in the blank.