Каждое следующее поколение видеокарт потребляет всё больше электричества. Это приводит не только к повышению расхода электроэнергии, но и к другим неприятным эффектам. Повышается температура, что, в свою очередь ведёт к увеличению энергопотребления системы охлаждения. Повышается шум. Блоки питания могут не выдерживать и приводить к сбоям в работе ПК или сервера. Естественно, у нас сегодня речь про GPU NVIDIA RTX 4090 на сервере.
Решить проблемы можно путём ограничения энергопотребления видеокарты. Для этого нужно снизить значение Power Limit. Рулить будем с помощью утилиты командной строки от NVIDIA: nvidia-smi.
Посмотреть текущие лимиты энергопотребления можно так (запускаем от рута):
nvidia-smi -q -d POWER
Для каждой видеокарты получим некоторые интересные значения:
- Default Power Limit — ограничение энергопотребления по умолчанию. Задаётся прошивкой.
- Requested Power Limit — установленное вручную ограничение энергопотребления.
- Current Power Limit — текущее ограничение энергопотребления, которое действует в данный момент.
- Min Power Limit — минимальное ограничение энергопотребления, которое можно установить вручную. Задаётся прошивкой.
- Max Power Limit — минимальное ограничение энергопотребления, которое можно установить вручную. Задаётся прошивкой.
Можно задать любое значение между Min Power Limit и Max Power Limit. Изменить ограничение энергопотребления, если установлена одна видеокарта:
nvidia-smi -pl 150Где 150 — установленное вручную ограничение.
Изменить ограничение энергопотребления, если установлено несколько видеокарт:
nvidia-smi -i 0 -pl 150Где 150 — установленное вами ограничение, а 0 — индекс видеокарты.
Если у вас четыре видеокарты, то лимиты можно установить так:
nvidia-smi -i 0 -pl 150
nvidia-smi -i 1 -pl 150
nvidia-smi -i 2 -pl 150
nvidia-smi -i 3 -pl 150
Или так:
for i in {0..3}; do
nvidia-smi -i $i -pl 150
doneОбращаем внимание на предупреждение:
Warning: persistence mode is disabled on device...
Ограничения будут действовать до перезагрузки. Чтобы их применить постоянно:
nvidia-smi -i 0 -pm 1
nvidia-smi -i 1 -pm 1
nvidia-smi -i 2 -pm 1
nvidia-smi -i 3 -pm 1Верхнюю границу энергопотребления GPU можно увидеть также в nvidia-smi.
P.S.
Max Power Limit для одних и тех же видеокарт может отличаться, в зависимости от прошивки. К примеру, на некоторых моделях серверов улучшено охлаждение PCIe зоны, что позволяет без проблем использовать повышенный Power Limit, это достигается специальными прошивками.
Для NVIDIA RTX 4090 значение Max Power Limit может достигать 600 Вт. Ещё карты 4000 серии "славятся" своими короткими скачками энергопотребления, которые могут превышать лимит. БП ставьте с запасом.
