Решение проблемы cpuset и resource deadlock avoided

Опубликовано nekit - вс, 24/05/2020 - 16:39

Развитие компьютерных технологий сопровождалось ростом количества ядер центральных процессоров, создающим возможность для распараллеливания вычислений. В зависимости от архитектуры, процессорные ядра могут иметь общие ресурсы, например кэш второго уровня. Распределение процессов и их потоков по ядрам с учетом данных особенностей позволит немного повысить производительность системы, например, за счет обеспечивания постоянного нахождения одних и тех же инструкций в кэше процессора.

Современные операционные системы позволяют эффективно использовать ресурсы компьютера, распределяя выполнение процессов и их потоков (threads) по отдельным ядрам процессоров. Данная привязка может задаваться вручную для ограничения нагрузки на процессор либо повышения скорости отклика приложений. Например, можно выделить целый процессор или отдельное его ядро для клетки (jail), виртуальной машины (bhyve) или для обработчиков прерываний сетевой карты. Грамотное распределение ресурсов позволит повысить производительность, надежность и отзывчивость системы.

Для управления привязкой прерываний, процессов и их потоков во FreeBSD разработана утилита cpuset, которая достаточно проста в использовании. В качестве аргументов она принимает идентификатор процесса (jail и т.п.) и номера ядер процессора либо номер группы ядер, к которым его нужно привязать. Возможно создавать до 255 разных групп процессорных ядер и привязывать к ним процессы, прерывания и т.п. На этапе запуска системы для всех процессов, прерываний и т.п. создается одна группа под номером 1, в которую включены все имеющиеся ядра.

Во FreeBSD 11.3 для клеток (jail), на этапе их старта, системой автоматически создается собственный набор разрешенных ядер, в котором по умолчанию разрешены все имеющиеся в системе ядра. Используется ли такой подход на всех версиях FreeBSD, начиная с момента внедрения утилиты cpuset, я не готов сказать. Поэтому это следует проверять.

Так вот в ходе указания через cpuset конкретных ядер для клетки (jail), в которой у меня крутился единственный сервис — DNS сервер bind 9.16, я получил ошибку resource deadlock avoided.

  1. # jls
  2.    JID  IP Address      Hostname                      Path
  3.      1  192.168.0.10    srv-dns.local                 /home/jails/dns
  4. # cpuset -l 0-1 -j 1
  5. cpuset: setaffinity: Resource deadlock avoided

В ходе подробного изучения манов по cpuset стало понятно, что во FreeBSD привязку к ядрам процессора могут иметь не только сами процессы, а также созданные ими потоки (threads). Если процессу разрешено работать с 1-ое по 5-ое ядра, а один из его потоков привязан, например, только к 5 ядру, и мы сходу привязываем этот процесс к ядрам за исключением 5-го, то появляется данная ошибка. Для избежания ее появления, необходимо сначала привязать потоки процесса к двум ядрам — текущему и желаемому, а потом еще раз выполнить команду с указанием желаемого ядра. Данная ситуация применима как для системных процессов (например, созданных ядром системы), так и для прикладных.

Как оказалось демон named автоматически создает потоки в количестве, равном количеству имеющихся ядер в системе, и привязывает каждый поток к конкретному ядру процессора. При этом, настройки, меняющие указанное поведение, отсутствуют.

  1. # procstat -aS | grep named
  2.   PID    TID COMM                TDNAME              CPU CSID CPU MASK
  3. 24032 100124 named               isc-net-0000         -1    2 0
  4. 24032 100851 named               -                    -1    2 0-5
  5. 24032 100915 named               isc-net-0001         -1    2 1
  6. 24032 101064 named               isc-net-0002         -1    2 2
  7. 24032 101093 named               isc-net-0003         -1    2 3
  8. 24032 101094 named               isc-net-0004         -1    2 4
  9. 24032 101099 named               isc-net-0005         -1    2 5
  10. 24032 101101 named               isc-worker0000       -1    2 0
  11. 24032 101102 named               isc-worker0001       -1    2 1
  12. 24032 101103 named               isc-worker0002       -1    2 2
  13. 24032 101104 named               isc-worker0003       -1    2 3
  14. 24032 101109 named               isc-worker0004       -1    2 4
  15. 24032 101114 named               isc-worker0005       -1    2 5
  16. 24032 101121 named               isc-timer            -1    2 0-5
  17. 24032 101122 named               isc-socket-0         -1    2 0
  18. 24032 101129 named               isc-socket-1         -1    2 1
  19. 24032 101132 named               isc-socket-2         -1    2 2
  20. 24032 101137 named               isc-socket-3         -1    2 3
  21. 24032 101142 named               isc-socket-4         -1    2 4
  22. 24032 101150 named               isc-socket-5         -1    2 5

Для упрощения привязки клеток (jail) к ядрам процессора я написал скрипт, код которого будет приведен чуть ниже. Запускается он для каждой клетки отдельно, после ее старта. Для этого в файле /etc/jail.conf для каждой клетки я задал параметр exec.poststart = "/root/hosting/jail_cpuset.sh 1 4-5";.

  1. #!/bin/sh
  2.  
  3. PS_BIN="/bin/ps"
  4. AWK_BIN="/usr/bin/awk"
  5. EGREP_BIN="/usr/bin/egrep"
  6. CPUSET_BIN="/usr/bin/cpuset"
  7.  
  8. # Параметры командной строки: идентификатор клетки и номера ядер процессора
  9. jail_id=$1
  10. jail_cpus=$2
  11.  
  12. if ! test $jail_id; then
  13.         echo "error: jail_id is empty"
  14.         exit 1
  15. fi
  16.  
  17. if ! test $jail_cpus; then
  18.         echo "error: jail_cpus is empty"
  19.         exit 1
  20. fi
  21.  
  22. # Получаем PID всех запущенных в клетке процессов
  23. jail_pids=`$PS_BIN -ax -J $jail_id -o pid=`
  24. # Получаем номер созданной для клетки группы ядер
  25. jail_cpuset=`jls -j $jail_id cpuset.id`
  26. cpu_count=`sysctl -n kern.smp.cpus`
  27. cpu_count=$(($cpu_count-1))
  28.  
  29. # reset jail cpuset
  30. $CPUSET_BIN -l "0-$cpu_count" -j $jail_id
  31. for pid in $jail_pids; do
  32.         $CPUSET_BIN -l "0-$cpu_count" -p $pid
  33. done
  34.  
  35. # set jail cpuset
  36. $CPUSET_BIN -l $jail_cpus -j $jail_id
  37.  
  38. exit 0

Скрипт достаточно прост, поэтому в дополнительных комментариях не нуждается. Если по заметке появятся какие-либо вопросы или замечаия, то прошу писать в комменты либо на форум.

Добавить комментарий

Этот вопрос задается для того, чтобы выяснить, являетесь ли Вы человеком или представляете из себя автоматическую спам-рассылку.

Что из перечисленного (Doom3, IE, Bash, Mutt, ZFS) является почтовым клиентом?