Qwen2.5-7B-Instruct
6.4 GiBНужно VRAM · Q4_K_M7.6B · Apache-2.0
4.3 GiB веса модели
От весов и контекста до конкретной GPU. Прозрачный расчёт памяти, размещения и ограничений.
Batch 1. Память и скорость рассчитаны существующим Capability Engine; это оценки, не результаты тестов. · 8K / batch 1.
7.6B · Apache-2.0
4.3 GiB веса модели
8.2B · Apache-2.0
4.6 GiB веса модели
14.8B · Apache-2.0
8.3 GiB веса модели
14B · Apache-2.0
8.8 GiB веса модели
32B · Apache-2.0
19.4 GiB веса модели
72.7B · Qwen License
42 GiB веса модели
8B · Llama 3.1 Community License
5 GiB веса модели
405B · Llama 3.1 Community License
240 GiB веса модели
12B · Apache-2.0
18.1 GiB веса модели
2.6B · CreativeML Open RAIL++-M
6.8 GiB веса модели
14B · Apache-2.0
21.5 GiB веса модели
32.8B · Apache-2.0
18.3 GiB веса модели
70B · Llama 3.1 Community License
39.1 GiB веса модели
От небольших LLM до генерации изображений и видео. Вес модели, KV cache и runtime определяют требования памяти вместе.
Сколько VRAM нужно этой модели? Перейти к проверке →