Обсяг VRAM для локальних LLM: 24, 32, 48 чи 96 ГБ — що брати і чи застаріє за рік
Який обсяг відеопам'яті брати під локальні LLM: що відкривають 16, 24, 32, 48 і 96 ГБ, ціна гігабайта в Україні та США і чи застаріють 24 ГБ VRAM за рік-два.
Відеопам’ять під LLM: 10 моделей, 5 квантів і формула для KV-кешу
Скільки відеопам'яті потрібно під модель: таблиця по 10 моделях і 5 квантах, реальні розміри GGUF, розрахунок KV-кешу за контекстом і що робити, коли не влазить.
