Процессор для локального AI: что важно кроме числа ядер

Сначала определите путь вычислений

Если веса и рабочая память модели помещаются на видеокарте, CPU обслуживает запуск программы, подготовку данных и остальную систему. Дополнительные ядра сами по себе не увеличивают VRAM. Проверяйте модель, квантование, контекст и поддерживаемую программу запуска до выбора процессора.

При CPU inference или разгрузке части модели в RAM важны пропускная способность памяти, инструкции, число каналов и реализация runtime. Два CPU с одинаковым числом ядер не получают одинаковую скорость. Без сопоставимого теста нельзя обещать конкретные tok/s.

Память — свойство всей платформы

Максимальный объём RAM у процессора — только один предел. У платы есть свой предел, число слотов, список поддерживаемых модулей и ограничения BIOS. Комплект из четырёх модулей может иметь другой официальный режим частоты, чем два одноранговых модуля.

Для обычного AM5 DDR5 UDIMM и для платформы с RDIMM нужны разные комплекты. Не выбирайте серверный модуль только потому, что он дешевле за гигабайт. Совпадение поколения DDR не подтверждает электрическую совместимость или поддержку ECC.

Для двух GPU проверьте топологию PCIe

Длинный слот x16 может быть подключён меньшим числом линий. Два слота иногда делят один ресурс CPU; установка M.2 тоже может менять доступную конфигурацию. Смотрите электрические линии, расстояние между слотами и правила конкретной платы.

Линии CPU не превращают две видеокарты в одну карту с общей памятью. Возможность распределить модель зависит от runtime и способа параллельного исполнения. PCIe и межкарточная связь влияют на обмен, но не заменяют проверку поддержки программы.

Разделите TDP, запас питания и результат теста

TDP, лимит мощности процессора и потребление системы из розетки — разные показатели. Для подбора БП нужен запас для CPU, GPU и остальных компонентов, а не только сумма надписей на коробках. Разгон и изменённые лимиты BIOS требуют отдельного расчёта.

Расчётные значения питания в подборе остаются оценками. Они не являются измерением производительности или гарантированным максимумом при любых настройках. Температуру, шум и работу конкретного кулера проверяйте в контексте корпуса.

Порядок выбора без лишней переплаты

Сравнивайте стоимость всей платформы: CPU, плата, подходящая память, охлаждение и питание. Дешёвый процессор для редкого сокета может потребовать дорогой платы или ограничить будущий апгрейд. Сначала зафиксируйте задачу, затем сравните несколько совместимых конфигураций.

1. Проверить размещение выбранной модели в VRAM.
2. Определить, нужен ли CPU inference или offload.
3. Выбрать объём и тип RAM, число GPU и платформу.
4. Сверить поддержку CPU в BIOS и проверить всю сборку.

Перейти от объяснения к проверке

Следующий полезный материал