ForgeBench.
FORGEBENCH / MODEL INTELLIGENCE

Модели для локального AI

От весов и контекста до конкретной GPU. Прозрачный расчёт памяти, размещения и ограничений.

Дополнительные фильтры

Batch 1. Память и скорость рассчитаны существующим Capability Engine; это оценки, не результаты тестов. · 8K / batch 1.

Alibaba Cloud / Qwen Team / LLM

Qwen2.5-7B-Instruct

6.4 GiBНужно VRAM · Q4_K_M

7.6B · Apache-2.0
4.3 GiB веса модели

Оценка
Alibaba Cloud / Qwen Team / LLM

Qwen3-8B

7.5 GiBНужно VRAM · Q4_K_M

8.2B · Apache-2.0
4.6 GiB веса модели

Оценка
Alibaba Cloud / Qwen Team / LLM

Qwen3-14B

11.6 GiBНужно VRAM · Q4_K_M

14.8B · Apache-2.0
8.3 GiB веса модели

Оценка
Alibaba Qwen / LLM

Qwen2.5-14B-Instruct

12.4 GiBНужно VRAM · Q4_K_M

14B · Apache-2.0
8.8 GiB веса модели

Оценка
Alibaba Qwen / LLM

Qwen2.5-32B-Instruct

24.3 GiBНужно VRAM · Q4_K_M

32B · Apache-2.0
19.4 GiB веса модели

Оценка
Alibaba Qwen / LLM

Qwen2.5-72B-Instruct

49.2 GiBНужно VRAM · Q4_K_M

72.7B · Qwen License
42 GiB веса модели

Оценка
Meta / LLM

Llama 3.1 8B Instruct

7.8 GiBНужно VRAM · Q4_K_M

8B · Llama 3.1 Community License
5 GiB веса модели

Оценка
Meta / LLM

Llama 3.1 405B Instruct

264.5 GiBНужно VRAM · Q4_K_M

405B · Llama 3.1 Community License
240 GiB веса модели

Оценка
Black Forest Labs / IMAGE

FLUX.1-schnell

25 GiBНужно VRAM · FP8

12B · Apache-2.0
18.1 GiB веса модели

Оценка
Stability AI / IMAGE

Stable Diffusion XL 1.0 Base

10.9 GiBНужно VRAM · F16

2.6B · CreativeML Open RAIL++-M
6.8 GiB веса модели

Оценка
Wan-AI / VIDEO

Wan2.1 T2V 14B

32.7 GiBНужно VRAM · FP8

14B · Apache-2.0
21.5 GiB веса модели

Оценка
Alibaba Cloud / Qwen Team / LLM

Qwen3-32B

23.2 GiBНужно VRAM · Q4_K_M

32.8B · Apache-2.0
18.3 GiB веса модели

Оценка
Meta / LLM

Llama 3.1 70B Instruct

46.1 GiBНужно VRAM · Q4_K_M

70B · Llama 3.1 Community License
39.1 GiB веса модели

Оценка
Каталог и связанные страницы

Навигация по данным

От небольших LLM до генерации изображений и видео. Вес модели, KV cache и runtime определяют требования памяти вместе.

Сколько VRAM нужно этой модели? Перейти к проверке →