Запустится ли AI-модель на моём ПК?
Выберите модель и оборудование, чтобы оценить память и возможности запуска.
Ваша задача
Расширенные настройки
Все расчёты — inference. MiB используются внутри engine, GiB — в интерфейсе. Для нескольких GPU без полной сборки PCIe-топология неизвестна; FIT относится к бюджету памяти.
Модель, лицензия и источники
Meta · Llama 3.1 · LlamaForCausalLM (dense decoder with GQA) · Llama 3.1 Community License
EXTERNALОфициальные сведения о модели и конфигурации задокументированы 2026-10-05; архитектура и число параметров взяты из внешней документации.
Модельная карточка Meta подтверждает 70B и контекст 128K; официальный репозиторий Meta подтверждает 80 слоёв, dim 8192, 64 Q-head и 8 KV-head, а также scaled RoPE. headDim 128 вычислен как 8192 / 64.
Файл config.json закрытой карточки Meta недоступен без допуска; native/max 131072 взят из публичной официальной карточки, а не из предположения о YaRN. Лицензия требует отдельного соблюдения Llama 3.1 Community License.
Размеры вариантов рассчитаны для планирования и не являются подтверждённым размером файлов; измеренной производительности для этой записи нет.
Расчётный размер для планирования: ceil(70000000000 параметров × 4.8 бит / 8 / 1 048 576) МиБ; это не скачанный и не подтверждённый издателем размер файла.
Источник 1 ↗Источник 2 ↗Источник 3 ↗Ещё не проверено
Здесь появится ответ для выбранной модели и видеокарты.