Выберите модель и оборудование, чтобы оценить память и возможности запуска.
Ваша задача
Расширенные настройки
Все расчёты — inference. MiB используются внутри engine, GiB — в интерфейсе. Для нескольких GPU без полной сборки PCIe-топология неизвестна; FIT относится к бюджету памяти.
Официальные сведения о модели и конфигурации задокументированы 2026-10-17; архитектура и число параметров взяты из внешней документации.
Нативно 32768 токенов. Контекст до 131072 требует YaRN; размер весов расчётный, скорость не измерена.
Размеры вариантов рассчитаны для планирования и не являются подтверждённым размером файлов; измеренной производительности для этой записи нет.
Расчётный размер для планирования: ceil(4000000000 параметров × 4.8 бит / 8 / 1 048 576) МиБ; это не скачанный и не подтверждённый издателем размер файла.
Ещё не проверено
Здесь появится ответ для выбранной модели и видеокарты.