24 GB VRAM: какие задачи доступны
Класс для более крупных текстовых моделей и рабочего запаса в задачах генерации. Это не гарантия размещения 32B с любым квантованием.
С чего начать
Проверьте 32B в Q4 при 8K, затем увеличьте контекст. Сравните рост KV cache и свободную память, прежде чем менять GPU.
Q8/F16 и длинный контекст могут потребовать существенно больше памяти. Видеопрофиль включает вспомогательные веса, а не только основной Transformer.
Реальные модели, расчётные требования
Контекст 8K для текста, batch 1, профиль генерации — для изображений и видео. В расчётах 24 GiB — номинальная ёмкость условной GPU, служебный резерв вычитается отдельно.
GPU этого класса в каталоге
GeForce RTX 4090
Характеристики и ограничения запуска проверяются отдельно от объёма памяти.
Открыть карточку →24 GB · ТОЧНЫЙ ВАРИАНТGeForce RTX 3090
Характеристики и ограничения запуска проверяются отдельно от объёма памяти.
Открыть карточку →24 GB · ТОЧНЫЙ ВАРИАНТRadeon RX 7900 XTX Reference
Характеристики и ограничения запуска проверяются отдельно от объёма памяти.
Открыть карточку →24 GB · ТОЧНЫЙ ВАРИАНТGeForce RTX 3090 Ti
Характеристики и ограничения запуска проверяются отдельно от объёма памяти.
Открыть карточку →Когда нужен другой класс памяти
32 GB дают дополнительную вместимость, но цену и скорость нужно оценивать отдельно. Две карты по 12 GB не становятся универсальной картой 24 GB.
Достаточно ли 24 GB для FLUX или Wan?
Зависит от варианта и полного pipeline. Выберите конкретную модель, формат, разрешение и число кадров. Оценка памяти не является измерением времени генерации.
Как квантование меняет бюджет памяти →