LM Studio: установка, настройка и выбор модели под видеокарту

Установка и первая модель

Скачайте LM Studio с официального сайта lmstudio.ai и установите. На вкладке поиска моделей (Discover) введите название, например Qwen3 или Gemma 3, и скачайте подходящий вариант.

1. Установите LM Studio.
2. Откройте поиск моделей и выберите модель.
3. Скачайте квантование Q4_K_M — лучший баланс качества и размера.
4. Загрузите модель и начните чат.

Выгрузка на видеокарту (GPU offload)

При загрузке модели есть ползунок слоёв на GPU. Если модель помещается в видеопамять целиком, ставьте его на максимум — это самый быстрый режим. Если не помещается, LM Studio оставит часть слоёв на процессоре: модель запустится, но ответы будут в разы медленнее.

Какие модели выбрать

8 ГБ видеопамяти — модели до 8B в Q4. 12 ГБ — до 14B. 16 ГБ — 14B с запасом под длинный контекст. 24 ГБ — до 32B. Помните, что длинный контекст тоже занимает память: 32 тысячи токенов могут добавить несколько гигабайт.

Локальный сервер

На вкладке разработчика можно включить сервер, совместимый с OpenAI API (по умолчанию порт 1234). Через него LM Studio подключают к редакторам кода, ботам и своим программам.

Проверим на расчётных примерах

ESTIMATED · Это расчёт бюджета памяти общего планировщика, не замер VRAM и не подтверждение скорости или запуска на конкретной плате. Модель GPU, ОС и поддержка backend проверяются отдельно. Для генерации изображений/видео действуют разрешение и кадры сохранённого профиля.

Перейти от объяснения к проверке

Следующий полезный материал