ОЗП для локальних LLM і ШІ: скільки треба під 8B–70B з урахуванням відеокарти

Коротко: скільки ОЗП вистачить під моделі 8B, 14B, 32B і 70B

Скільки оперативної пам’яті треба для LLM (RAM for LLMs), визначає не розмір моделі як такий, а те, яка її частина не поміститься у відеокарту. Поки модель повністю сидить у відеопам’яті, системної ОЗП вистачає 16–32 ГБ: у ній живуть Windows, браузер і програма-запускач. Щойно шари або експерти моделі переїжджають в ОЗП, рахунок іде на десятки гігабайтів, а швидкість падає в рази.

Тому на запитання, скільки ОЗП потрібно для ШІ, корисніше відповісти зустрічним: яка у вас відеокарта, яку модель ви плануєте запускати і якої довжини діалоги вестимете. Нижче — формула, таблиця під конкретні моделі і ціни на пам’ять із датами.

• Моделі 8B–14B на карті 12–16 ГБ і 32B на карті 24 ГБ повністю вміщуються у відеопам’ять: досить 16 ГБ ОЗП, 32 ГБ — якщо паралельно відкрито браузер із десятками вкладок і IDE.
• 70B на карті 24 ГБ працює в гібриді: за нашим розрахунком потрібно близько 33 ГБ, тобто комплект 48 ГБ або 64 ГБ.
• MoE-модель gpt-oss-120b на карті 24 ГБ запускається з 64 ГБ ОЗП, але видає одиниці токенів на секунду.
• Mac і міні-ПК зі спільною пам’яттю окремої ОЗП не мають: під модель за замовчуванням іде близько 75% обсягу.
• Зайвий обсяг зараз дорогий: середня ціна комплекту 64 ГБ DDR5-5600 зросла з $191 у серпні 2025 року до $1 118 у серпні 2026-го (PCPartPicker у переказі Tom’s Hardware). На 3 листопада 2026 року медіана лістингів Amazon — близько $1 360 (трекер RAM Prices USA у переказі Capital & Compute), а найдешевший новий комплект у datacenterdisk на 7 листопада коштував $1 000.

ОЗП і відеопам’ять: що де лежить під час запуску локальної моделі

Системна ОЗП (RAM) — це планки DDR4 або DDR5 на материнській платі. Відеопам’ять (VRAM) — пам’ять, розпаяна на самій відеокарті. Обидві зберігають дані, але працюють із різною швидкістю: типовий двоканальний ПК із DDR5 прокачує близько 80–100 ГБ/с, а пам’ять RTX 5090 — близько 1,8 ТБ/с. Різниця майже вдвадцятеро.

Швидкість важлива тому, що мовна модель на кожному новому токені (шматочку слова) перечитує свої ваги — числа, у яких записано її знання. Де лежать ваги, звідти вони й читаються. Звідси головне правило вибору між оперативною пам’яттю і відеопам’яттю (в англомовних гайдах — «RAM vs VRAM for LLMs»): відеопам’ять визначає, наскільки швидко працює модель, а ОЗП — чи поміститься вона взагалі, якщо відеопам’яті забракло. Якщо обрана модель уміщується у відеокарту, гроші розумніше вкласти у відеопам’ять; ОЗП понад базові 16–32 ГБ окупається лише тоді, коли модель у неї не вміщується.

частка, а не ціла акція

Binance · Wall Street 24/7Частка Nvidia — від7 USDTЦілу акцію купувати не треба. Почніть із маленької суми — ризик під контролем

NVDATSLAAAPL

Перша угода за 5 кроків

Що насправді потрапляє в системну пам’ять під час запуску:

Apple HALO: робот Unitree G1 з Mac mini і Qwen впорався з 91% задач у чужих кімнатах

Ноутбук з 8 ГБ пам’яті: кому вистачить і коли переплатити за 16 ГБ

Minisforum MS-A2 та Beelink GTR9 Pro для нейромереж: слот PCIe чи 128 ГБ пам’яті

Чип для ноутбука з ШІ: чому пам’ять, ОС і ціна важливіші за 50 і 80 TOPS

RTX PRO 5500 проти RTX 5090 для ШІ: 84 ГБ без ціни NVIDIA й замірів чи 32 ГБ зараз

• Операційна система і фон. Windows займає 4–6 ГБ ще до запуску моделі, macOS — 3–5 ГБ. Це оцінки Compute Market і Capital & Compute, а не замір: браузер із вкладками і середовище розробки додадуть зверху.
• Запускач і файл моделі. Ollama, LM Studio і llama.cpp на старті читають файл ваг із диска. llama.cpp за замовчуванням підключає його через mmap: система читає файл частинами і тримає прочитане в кеші, поки вистачає пам’яті.
• Винесені шари або експерти. Усе, що не вмістилося у відеокарту, лишається в ОЗП і обчислюється процесором.
• Контекст. Історія діалогу зберігається в KV-кеші. Для шарів, які обчислює процесор, цей кеш теж лежить в ОЗП.

Простий приклад. Llama 3.1 8B у кванті Q4_K_M важить 4,92 ГБ і повністю вміщується в карту на 12 ГБ. Системній пам’яті тоді дістаються тільки Windows, браузер і запускач — 16 ГБ вистачає. Скільки при цьому займає сама модель у відеокарті і як туди вміщується контекст, ми розраховували окремо в розборі відеопам’яті під LLM.

Звідси й розкид порад в інтернеті. Corsair називає 16 ГБ DDR5 «реалістичною стартовою лінією», Compute Market — 32 ГБ мінімумом і 64 ГБ «золотою серединою». Суперечності немає: перші вважають, що модель живе у відеокарті, другі — що вона частково або повністю йде в ОЗП.

Формула розрахунку ОЗП: частина поза відеокартою, контекст і система

Обсяг ОЗП під локальну модель складається з чотирьох рядків. Онлайн-калькулятори роблять ту саму арифметику. Ручний розрахунок (calculate RAM for LLM) корисний тим, що видно, який рядок дає основну вагу і де можна заощадити.

1. Дізнайтеся точний розмір файлу моделі. Не множте кількість параметрів на 0,5: реальні файли в кванті Q4_K_M важчі. За репозиторієм Llama 3.3 70B на Hugging Face файл важить 42,52 ГБ, тобто 0,61 ГБ на мільярд параметрів. У Llama 3.1 8B виходять ті самі 0,61 ГБ, у Qwen3 14B — 0,64 ГБ (9,0 ГБ на файл).
2. Відніміть те, що вміститься у відеокарту. Під ваги беріть обсяг відеопам’яті мінус 3 ГБ: решту займуть контекст, робочі буфери і робочий стіл. Це наш допуск, а не константа — у кожної програми і драйвера він свій.
3. Додайте контекст для частини моделі в ОЗП. Цифри KV-кешу — у таблиці нижче, у розділі про агентів.
4. Додайте 6 ГБ на систему і фон. Це верхня межа оцінки для Windows.
5. Помножте на 1,15 і округліть угору до комплекту. Запас 10–15% потрібен, щоб система не йшла у файл підкачки. Комплекти DDR5 бувають на 16, 32, 48, 64, 96 і 128 ГБ.

Розберімо на живому сценарії: Llama 3.3 70B у Q4_K_M на відеокарті з 24 ГБ (RTX 3090 або 4090). Під ваги у відеокарті лишається близько 21 ГБ, отже, поза нею — приблизно 21,5 ГБ. Контекст на 8 тисяч токенів у цієї моделі важить 2,5 ГіБ, і половина його припадає на шари в ОЗП — ще близько 1,3 ГБ. Плюс 6 ГБ на систему: разом 28,8 ГБ, із запасом 15% — близько 33 ГБ. Комплект на 32 ГБ тут упритул не проходить, розумний вибір — 48 ГБ (2×24), а 64 ГБ дають місце під довгий контекст.

Capital & Compute пропонує спрощення для прикидки: закладати 0,75 ГБ на мільярд параметрів, щоб одразу покрити систему і контекст. Для моделі повністю на процесорі воно працює. Для гібрида воно завищує рахунок, бо не враховує, скільки забрала відеокарта.

Таблиця: скільки ОЗП потрібно під модель, квант і сценарій

Таблиця — наш розрахунок за формулою вище, тобто практичні вимоги до ОЗП для локальних LLM (RAM requirements for local LLMs). Розміри файлів узято з Hugging Face на 4 жовтня 2026 року, контекст — 8 тисяч токенів, система — 6 ГБ, запас — 15%. «Поза VRAM» — скільки ваг лишається в системній пам’яті.

Зараз у Нью-Йорку--:--Binance торгує

Binance · Wall Street 24/7Нью-Йорк спить. Ринок — ні24/7Акції США, золото й нафта на Binance — навіть уночі й у вихідні

NVDATSLAGOLD

Дивитися ціни

Як читати таблицю. Якщо модель повністю вміщується у відеокарту, ОЗП майже не залежить від її розміру: 16 ГБ вистачає і під 8B, і під 32B. Різниця з’являється тільки тоді, коли відеопам’яті забракло. Тоді кожен гігабайт «поза VRAM» майже один до одного перетворюється на гігабайт ОЗП.

Застереження щодо довгого контексту. Рядки «повністю у відеокарті» розраховано для 8 тисяч токенів. Ollama на картах із 24–48 ГіБ відеопам’яті за замовчуванням ставить 32 тисячі, і в Qwen3 32B кеш такої довжини важить близько 8 ГіБ (наш розрахунок за config.json). Разом із вагами це більше за 24 ГБ, тож частина моделі піде в ОЗП і сценарій стане гібридом. Щоб лишитися у відеокарті, скоротіть контекст або рахуйте за рядком гібрида.

Квант змінює картину сильніше, ніж здається. У тієї самої Llama 3.3 70B файл у Q5_K_M важить 49,95 ГБ, у Q6_K — 57,89 ГБ, у Q8_0 — 74,98 ГБ. Перехід із Q4 на Q8 майже подвоює винесену частину і переводить збірку з класу 48–64 ГБ у клас 96–128 ГБ.

Карта на 32 ГБ — окремий випадок. Вона скорочує винесену частину 70B-моделі приблизно до 13,5 ГБ, і системної пам’яті вистачає 32 ГБ. Як така машина збирається повністю і де в неї стеля, ми розбирали в збірці ПК на RTX 5090.

Коли ОЗП визначає швидкість: вивантаження шарів і MoE-моделі в RAM

Вивантаження частини моделі в ОЗП — це не плавне сповільнення, а обрив. Corsair наводить таку оцінку: модель повністю у відеопам’яті видає 40 і більше токенів на секунду, та сама модель із системної пам’яті — 8–15 токенів. Залізо в цій оцінці не вказано, тому корисніше зрозуміти механіку.

На кожному токені щільна модель читає всі свої ваги. Частина з відеокарти читається майже миттєво, а частина з ОЗП — зі швидкістю пам’яті, 80–100 ГБ/с. Звідси наша прикидка стелі: токенів на секунду не більше, ніж пропускна здатність ОЗП, поділена на обсяг ваг в ОЗП. Реальна швидкість завжди нижча за цю стелю.

• Llama 3.3 70B на карті 24 ГБ: близько 90 ГБ/с ÷ 21,5 ГБ ≈ 4 токени на секунду.
• Та сама модель на карті 32 ГБ: 90 ÷ 13,5 ≈ 6–7 токенів на секунду.
• Та сама модель тільки на процесорі: 90 ÷ 42,5 ≈ 2 токени на секунду.

З MoE-моделями розрахунок інший. MoE (Mixture of Experts, «суміш експертів») — архітектура, у якій модель складається з безлічі блоків-експертів, а на кожному токені працюють лише деякі. У gpt-oss-120b близько 120 млрд параметрів загалом, але активні на токені тільки близько 5,1 млрд. Зберігати в пам’яті треба всіх експертів, а читати — тільки обраних. Тому велика MoE-модель в ОЗП працює швидше за щільну модель того самого розміру.

Для цього в llama.cpp є прапорець --n-cpu-moe N: він тримає експертів перших N шарів у системній пам’яті, а решту частин моделі залишає на відеокарті (разом із -ngl 99). Hardware Corner перевірив його на gpt-oss-120b. Стенд для RTX 3090: AMD EPYC 7343, 64 ГБ DDR4-3200, Ubuntu 24.04, llama.cpp, файл у F16 близько 65 ГБ. Сторінку оновлено 10 листопада 2025 року, замір зробив один автор, тому це орієнтир порядку величин, а не усереднений бенчмарк. EPYC — серверна платформа з великою кількістю каналів пам’яті, на двоканальному десктопі з DDR5 цифри будуть іншими.

Висновок для вибору обсягу: 64 ГБ ОЗП дають змогу запустити 120-мільярдну MoE-модель на одній ігровій карті, але ОЗП тут працює складом експертів, а не прискорювачем. На RTX 3090 це менше двох токенів на секунду — текст набирається повільніше, ніж ви його читаєте. Швидкість у такому режимі впирається в пропускну здатність ОЗП (RAM speed for LLM), тому для гібрида важливі частота пам’яті й кількість каналів — про це в розділі про DDR5.

Контекст і агенти: скільки ОЗП додає KV-кеш на 8K, 32K і 128K

KV-кеш — це пам’ять, у якій модель зберігає вже оброблені токени діалогу, щоб не перераховувати їх наново. Що довший контекст, то він більший. Його розмір обчислюється так: 2 × кількість шарів × кількість KV-голів × розмір голови × кількість токенів × 2 байти (для точності FP16). Шари й голови беруться з файлу config.json моделі на Hugging Face.

Остання колонка пояснює, чому контекст не можна лишати за дужками. У Llama 3.3 70B кеш на 128 тисяч токенів важить 40 ГіБ, тобто близько 43 ГБ, — навіть більше, ніж самі ваги (42,52 ГБ). Навіть у маленької 8B-моделі довгий контекст забирає 16 ГіБ (близько 17 ГБ) — у три з половиною рази більше за її файл. ГіБ тут — двійкові гігабайти: 1 ГіБ ≈ 1,07 ГБ. Для Qwen3 14B рядок 128K умовний: рідний контекст моделі 32 тисячі токенів, а довшим він стає тільки з розтягуванням YaRN.

Це стосується не лише екзотичних сценаріїв. У документації Ollama довжина контексту за замовчуванням залежить від відеопам’яті: менше 24 ГіБ — 4 тисячі токенів, 24–48 ГіБ — 32 тисячі, від 48 ГіБ — 256 тисяч. Для агентів, вебпошуку та інструментів програмування там само радять ставити не менше 64 000 токенів. За нашим розрахунком на 64 тисячах токенів кеш Llama 3.1 8B важить близько 8 ГіБ, а Llama 3.3 70B — близько 20 ГіБ.

Де опиниться цей кеш, залежить від сценарію. Якщо модель повністю у відеокарті, кеш теж там, і ОЗП його не бачить. Під час вивантаження кеш шарів, які обчислює процесор, лягає в системну пам’ять. Тоді довгий контекст додає до розрахунку ОЗП стільки ж, скільки до розрахунку відеопам’яті, і для агентів розумно закладати обсяг на щабель вищий, ніж для чату.

Mac, Strix Halo і DGX Spark: спільна пам’ять замість окремої ОЗП

У Mac на Apple Silicon, міні-ПК на AMD Strix Halo і NVIDIA DGX Spark немає поділу на ОЗП і відеопам’ять. Процесор і графіка користуються одним спільним пулом — це називають уніфікованою пам’яттю. Пам’ять розпаяна на платі, тож питання «скільки докупити» тут не стоїть: обсяг обирають один раз разом із машиною.

Щодо Mac є важливе застереження. За замовчуванням графічному ядру доступно близько 75% уніфікованої пам’яті. На Mac із 64 ГБ це приблизно 48–51 ГБ під модель і контекст. Ліміт піднімається командою sysctl iogpu.wired_limit_mb, але після перезавантаження скидається, а самій macOS однаково потрібні свої 3–5 ГБ.

Розрахунок під Mac робиться так: розмір моделі плюс контекст, поділені на 0,75. Звідси орієнтири (наш розрахунок):

• 8B–14B у Q4 — Mac із 16–24 ГБ.
• Qwen3 32B у Q4 (19,76 ГБ плюс контекст 8K) — Mac із 32 ГБ; із контекстом 32K — уже 48 ГБ.
• Llama 3.3 70B у Q4 з контекстом 8K (близько 45 ГБ) — Mac із 64 ГБ, упритул.
• gpt-oss-120b у Q4 (62,77 ГБ) — від 96 ГБ спільної пам’яті.

Докупити ОЗП для нейромереж на такій машині не можна, тому помилка у виборі коштує дорожче, ніж на звичайному ПК. Зате спільна пам’ять показала плюс у кризу: ціна фіксованої конфігурації зросла помітно менше, ніж ціна планок. За даними OpenClaw DC на 6 листопада 2026 року, медіанний комплект DDR5 на 64 ГБ за $1 262 коштує дорожче за цілий Mac mini M6 із 16 ГБ за $899, хоча обсяги тут непорівнянні. Базовий Mac mini теж дорожчав: із $599 до $799 у травні 2026 року, а M6, що прийшов йому на зміну, коштує $899. Джерело — комерційний сайт, який заробляє на партнерських посиланнях Amazon, і вікно тимчасове, але як орієнтир для порівняння спостереження корисне.

Плата за зручність — швидкість. Пропускна здатність спільної пам’яті в таких машин нижча, ніж у відеокарт верхнього класу, тому великі моделі вони тримають, але генерують повільніше. Як три такі платформи поводяться на 70B і 120B, ми перевіряли в порівнянні DGX Spark, Mac Studio і Strix Halo. А якщо ви ще обираєте між відеокартою, Mac і міні-ПК, почніть із гіда із заліза для локального ШІ.

Як не переплатити за DDR5: два модулі, слоти і ціна за гігабайт

Популярна порада «візьміть два модулі, а два слоти залиште на потім» на DDR5 може коштувати швидкості — це видно зі специфікації процесорів AMD. У специфікації AMD Ryzen 7 9700X максимальну частоту пам’яті вказано так: два модулі — DDR5-5600, чотири модулі — DDR5-3600. Це стосується і одноранкових, і дворанкових планок.

Для гібридного режиму це пряма втрата. Двоканальна DDR5-5600 дає в теорії близько 90 ГБ/с, DDR5-3600 — близько 58 ГБ/с, тобто на третину менше (наш перерахунок: частота × 8 байтів × 2 канали). Стеля швидкості Llama 3.3 70B на карті 24 ГБ падає з 4 приблизно до 2,7 токена на секунду. Материнські плати з профілями EXPO або XMP, за відгуками користувачів, нерідко тримають на чотирьох модулях більше, ніж обіцяє AMD, але гарантії на це немає.

Звідси перше правило покупки: потрібний обсяг — одразу двома модулями. Якщо за таблицею виходить 64 ГБ, це комплект 2×32, а не 2×16 зараз і ще 2×16 потім. Проміжні комплекти 2×24 (48 ГБ) і 2×48 (96 ГБ) закривають сценарії між щаблями.

Друге правило — рахувати, скільки коштує кожен гігабайт понад потрібне. Ціни нижче — американська роздрібна торгівля, за нею зручно стежити за трендом. Це нові комплекти в наявності за трекером datacenterdisk; медіану в доларах ми перерахували з ціни за гігабайт:

Інші трекери беруть інший кошик лістингів і дають свій рівень. RAM Prices USA на 3 листопада 2026 року показує медіану 64 ГБ за лістингами Amazon — $21,25 за гігабайт, тобто близько $1 360: суму з ціни за гігабайт вивів Capital & Compute. Трекер PGrid у переказі OpenClaw DC на 6 листопада дає медіану $1 262 і мінімум $930. Ціна $276 за 32 ГБ — поодинокий лістинг, і він нижчий за поріг правдоподібності трекера ($8,65 за гігабайт); за такої ціни datacenterdisk радить перевірити продавця, тому орієнтуйтеся на наступну ціну.

До дефіциту та сама пам’ять коштувала в рази менше. Комплект 64 ГБ DDR5-5600, за даними PCPartPicker у переказі Tom’s Hardware і datacenterdisk, подорожчав із $191 у серпні 2025 року до $1 118 у серпні 2026-го. Комплект 32 ГБ до кризи продавався приблизно за $80–120.

За нашим перерахунком, у разі покупки з нуля комплект на 64 ГБ зараз дорожчий за комплект на 32 ГБ приблизно на $690 (медіани datacenterdisk на 7 листопада 2026 року). Якщо 2×16 уже стоять у системі, перехід на 2×32 — це весь новий комплект: від $1 000 за найдешевший новий до ≈$1 300 за медіаною (datacenterdisk на 7 листопада 2026 року). Ці гроші окупаються тільки в гібриді або на процесорі. Якщо модель живе у відеокарті, на ту саму суму розумніше взяти карту з більшим обсягом відеопам’яті. І ще одна деталь: нових комплектів на 128 ГБ у наявності на 6 листопада лише 7, а ціна «від $2 804» тримається на одному лістингу, тому цей рядок крихкий.

Брати ОЗП зараз чи чекати: що кажуть прогнози до 2028 року

Коротка відповідь: шанси дочекатися помітного зниження цін найближчого року малі, але й брати пам’ять «про запас» немає сенсу. Обсяг під ваш сценарій беріть зараз, усе понад нього — ні.

Що кажуть аналітики (це прогнози, а не факти):

• TrendForce очікує, що контрактні ціни DRAM у четвертому кварталі 2026 року зростатимуть далі: попит хмарних провайдерів під ШІ тягне їх угору. Про підвищення прогнозу компанія повідомила 23 вересня 2026 року, сам прогноз на квартал вийшов 24 вересня. В огляді контрактних цін від 30 жовтня 2026 року компанія уточнює: PC DRAM дорожчає й далі, але приріст звужується.
• Gartner не бачить помітного полегшення раніше кінця 2027 року — так його оцінку переказує Capital & Compute на 26 вересня 2026 року.
• Голова Intel Ліп-Бу Тан, за тим самим переказом, ще в лютому 2026 року казав в інтерв’ю Bloomberg, що галузь не чекає покращення до 2028 року.

Чому так сталося і як дефіцит пам’яті пов’язаний із дата-центрами, ми розбирали в матеріалі про те, чому подорожчали оперативна пам’ять і SSD. Для вибору обсягу з цього випливають дві речі.

Останній рядок часто найвигідніший. MoE-модель замість щільної, Q4 замість Q8, контекст 8K замість 32K знижують вимоги до ОЗП сильніше, ніж зайвий комплект планок. А якщо збірка тільки планується, машина зі спільною пам’яттю знімає питання цін на DIMM повністю.

Як зрозуміти, що ОЗП бракує: ollama ps, swap і моніторинг

Перш ніж брати пам’ять, перевірте, чи її справді бракує. Це займає п’ять хвилин.

1. Запустіть модель і виконайте ollama ps. У колонці PROCESSOR Ollama показує, де модель обчислюється. «100% GPU» — модель повністю у відеокарті, ОЗП їй майже не потрібна. Якщо там частка CPU, частина моделі пішла в системну пам’ять. У колонці CONTEXT видно довжину контексту, яку Ollama виставила за замовчуванням.
2. Подивіться на підкачку під час генерації. У Windows: «Диспетчер завдань» → «Продуктивність» → «Пам’ять». Якщо показник «Виділено» підходить до межі, система пише у файл підкачки. На macOS: «Монітор активності» → «Пам’ять» — жовтий або червоний «Тиск пам’яті» і зростання «Використано підкачки». У Linux допомагають free -h і колонки si/so у vmstat.
3. Порівняйте швидкість на короткому і довгому контексті. Якщо на довгому діалозі генерація різко просідає, а підкачка росте, пам’яті бракує саме під KV-кеш.
4. Спершу зменште навантаження, потім обдумуйте покупку. Скоротіть контекст, візьміть квант на щабель нижче і повторіть перевірку. Якщо проблема зникла — пам’ять брати не потрібно.

Одна тонкість із mmap. Файл, підключений у такий спосіб, диспетчер завдань може показувати як кеш, а не як зайняту пам’ять. Цифра «використовується» виглядає скромно, хоча за нестачі система викидатиме шматки моделі і перечитуватиме їх із диска. Режим --load-mode mlock у llama-server змушує систему тримати модель в ОЗП і не витісняти її — із ним нестача пам’яті видна одразу.

Помилки й ризики під час вибору обсягу ОЗП під локальний ШІ

• Драбинка замість сценарію. Типова відповідь на запитання, скільки ОЗП треба для ШІ, — щаблі 16/32/64/128 ГБ без прив’язки до відеокарти. Одна й та сама 70B-модель потребує 32 ГБ ОЗП на карті з 32 ГБ відеопам’яті і 64 ГБ на процесорі — різниця вдвічі.
• Правило 0,5 ГБ на мільярд. Реальні Q4_K_M-файли важать 0,61–0,64 ГБ на мільярд параметрів, тобто на 22–28% більше за цю прикидку. На 70B помилка становить близько 7 ГБ.
• Забутий контекст. Агентні сценарії з контекстом від 64 тисяч токенів додають до 70B-моделі близько 20 ГіБ кешу. Розрахунок під чат на 8K такого навантаження не витримає.
• Чотири модулі DDR5. У Ryzen 7 9700X чотири планки за специфікацією AMD працюють на DDR5-3600 замість 5600, і в гібриді це мінус третина швидкості.
• Підробки й підозріло дешеві лістинги. Що дорожчий комплект, то вищий стимул його підробити. Datacenterdisk окремо застерігає щодо надто дешевих пропозицій на тлі медіани ринку.
• Покупка зі страху. Обсяг, який не знадобився і купований на піку цінового циклу, — найдорожча пам’ять у збірці.
• Ставка на швидке падіння цін. Прогнози Gartner і Intel вказують на кінець 2027–2028 року, і відкладена покупка може коштувати дорожче.

Що застаріє першим. Ціни на DDR5 змінюються щотижня — свіжі дані дивіться на сторінках трекерів, на які ми спиралися, наприклад у datacenterdisk. Значення контексту за замовчуванням в Ollama змінюються між версіями — перед налаштуванням звіряйтеся з документацією. Розміри файлів і розрахунок KV-кешу від часу не залежать: вони змінюються тільки разом із моделлю.

Часті запитання про ОЗП для локального ШІ

Чи вистачить 16 ГБ ОЗП для локального ШІ?

Вистачить, якщо модель повністю вміщується у відеокарту: 8B–14B на карті 12–16 ГБ або 32B у Q4 на карті 24 ГБ. Тоді ОЗП тримає тільки систему, браузер і запускач. Якщо модель запускається на процесорі, 16 ГБ вистачить лише під 8B у Q4 — за нашим розрахунком їй потрібно близько 14 ГБ, без запасу під браузер та IDE.

Чи потрібно 64 ГБ ОЗП, якщо в мене 24 ГБ відеопам’яті?

Тільки під моделі, які в 24 ГБ не вміщуються: Llama 3.3 70B у Q4 (близько 33 ГБ ОЗП за нашим розрахунком, зручніше 48–64 ГБ) або MoE на кшталт gpt-oss-120b (64 ГБ). Для моделей до 32B у Q4 на такій карті досить 32 ГБ. Різниця між комплектами на 64 і 32 ГБ у разі покупки з нуля — приблизно $690 за медіанами datacenterdisk на 7 листопада 2026 року (наш розрахунок).

Чи можна запустити 70B-модель на 32 ГБ ОЗП?

Тільки разом із великою відеокартою. Файл Llama 3.3 70B у Q4_K_M важить 42,52 ГБ, тому на самому процесорі 32 ГБ не вистачить. З картою на 32 ГБ поза відеопам’яттю лишається близько 13,5 ГБ, і 32 ГБ ОЗП достатньо. З картою на 24 ГБ — упритул: система почне йти в підкачку, безпечніше 48 ГБ.

Чи впливає швидкість DDR5 на токени на секунду?

Так, але тільки для тієї частини моделі, що лежить в ОЗП. Стеля генерації приблизно дорівнює пропускній здатності пам’яті, поділеній на обсяг ваг в ОЗП. Два модулі DDR5-5600 дають близько 90 ГБ/с. Чотири модулі на Ryzen 7 9700X за специфікацією AMD працюють на DDR5-3600 — близько 58 ГБ/с, на третину менше (наш перерахунок). Якщо модель повністю у відеокарті, частота ОЗП на генерацію майже не впливає.

Брати 2×16 ГБ і докупити ще 2×16 пізніше?

На DDR5 це не найкращий шлях до 64 ГБ. Для Ryzen 7 9700X AMD вказує за чотирьох модулів DDR5-3600 замість 5600, а планки з різних комплектів не завжди стабільно працюють разом. Якщо ви вже знаєте, що знадобиться 64 ГБ, розумніше одразу взяти 2×32. Якщо не знаєте — 2×16, і на цьому зупинитися.

Скільки ОЗП потрібно Mac для локальної моделі?

Складіть розмір моделі й контексту і поділіть на 0,75: за замовчуванням графіці Mac доступно близько 75% спільної пам’яті. Моделі 8B–14B у Q4 вміщуються в 16–24 ГБ, Qwen3 32B — у 32 ГБ, Llama 3.3 70B у Q4 з контекстом 8K — упритул у 64 ГБ. Для gpt-oss-120b потрібна конфігурація від 96 ГБ.