Сколько ОЗУ нужно для локального ИИ: расчёт под 8B–70B от видеокарты и контекста

Коротко: сколько ОЗУ хватит под 8B, 14B, 32B и 70B модели

Сколько оперативной памяти нужно для LLM (RAM for local LLM), решает не размер модели сам по себе, а то, какая её часть не поместится в видеокарту. Пока модель целиком сидит в видеопамяти, системной ОЗУ хватает 16–32 ГБ: в ней живут Windows, браузер и программа-запускатель. Как только слои или эксперты модели уезжают в ОЗУ, счёт идёт на десятки гигабайт, а скорость падает в разы.

Поэтому на вопрос, сколько ОЗУ нужно для ИИ, полезнее ответить встречным: какая у вас видеокарта, какую модель вы собираетесь запускать и какой длины диалоги будете вести. Ниже — формула, таблица под конкретные модели и цены на память с датами.

• Модели 8B–14B на карте 12–16 ГБ и 32B на карте 24 ГБ помещаются в видеопамять целиком: хватает 16 ГБ ОЗУ, 32 ГБ — если параллельно открыт браузер с десятками вкладок и IDE.
• 70B на карте 24 ГБ работает в гибриде: по нашему расчёту нужно около 33 ГБ, то есть комплект 48 ГБ или 64 ГБ.
• MoE-модель gpt-oss-120b на карте 24 ГБ запускается с 64 ГБ ОЗУ, но выдаёт единицы токенов в секунду.
• Mac и мини-ПК с общей памятью отдельной ОЗУ не имеют: под модель по умолчанию уходит около 75% объёма.
• Лишний объём сейчас дорог: средняя цена комплекта 64 ГБ DDR5-5600 выросла с $191 в августе 2025 года до $1 118 в августе 2026-го (PCPartPicker в пересказе Tom’s Hardware). На 3 ноября 2026 года медиана листингов Amazon — около $1 360 (трекер RAM Prices USA в пересказе Capital & Compute), а самый дешёвый новый комплект у datacenterdisk на 7 ноября стоил $1 000.

ОЗУ и видеопамять: что лежит где при запуске локальной модели

Системная ОЗУ (RAM) — это планки DDR4 или DDR5 на материнской плате. Видеопамять (VRAM) — память, распаянная на самой видеокарте. Обе хранят данные, но работают с разной скоростью: типичный двухканальный ПК с DDR5 прокачивает около 80–100 ГБ/с, а память RTX 5090 — около 1,8 ТБ/с. Разница почти в двадцать раз.

Скорость важна потому, что языковая модель на каждом новом токене (кусочке слова) перечитывает свои веса — числа, в которых записаны её знания. Где лежат веса, оттуда они и читаются. Отсюда главное правило выбора между памятью и видеокартой (в англоязычных гайдах — «RAM vs GPU for LLM»): видеопамять определяет, насколько быстро работает модель, а ОЗУ — поместится ли она вообще, если видеопамяти не хватило. Если выбранная модель влезает в видеокарту, деньги разумнее вложить в видеопамять; ОЗУ сверх базовых 16–32 ГБ окупается только тогда, когда модель в неё не помещается.

#1Фьючерсы#2Спот#3Акции и TradFi

Binance · Wall Street 24/7Турниры Binance: призы за торговлюПризыВсе актуальные турниры и акции Binance с условиями — на одной страницеСмотреть турниры

Что реально попадает в системную память при запуске:

Ноутбук с 8 ГБ памяти: кому его хватит и когда переплатить за 16 ГБ

Minisforum MS-A2 и Beelink GTR9 Pro для нейросетей: слот PCIe или 128 ГБ памяти

Чип для ноутбука с ИИ: почему память, ОС и цена важнее 50 и 80 TOPS

RTX PRO 5500 против RTX 5090 для ИИ: 84 ГБ без цены NVIDIA и замеров или 32 ГБ сейчас

Домашний ИИ-сервер: NAS, мини-ПК или ПК — скорость решает память, а не NPU

• Операционная система и фон. Windows занимает 4–6 ГБ ещё до запуска модели, macOS — 3–5 ГБ. Это оценки Compute Market и Capital & Compute, а не замер: браузер с вкладками и среда разработки добавят сверху.
• Запускатель и файл модели. Ollama, LM Studio и llama.cpp при старте читают файл весов с диска. llama.cpp по умолчанию подключает его через mmap: система читает файл кусками и держит прочитанное в кэше, пока хватает памяти.
• Вынесенные слои или эксперты. Всё, что не поместилось в видеокарту, остаётся в ОЗУ и считается процессором.
• Контекст. История диалога хранится в KV-кэше. Для слоёв, которые считает процессор, этот кэш тоже лежит в ОЗУ.

Простой пример. Llama 3.1 8B в кванте Q4_K_M весит 4,92 ГБ и целиком помещается в карту на 12 ГБ. Системной памяти при этом достаются только Windows, браузер и запускатель — 16 ГБ хватает. Сколько при этом занимает сама модель в видеокарте и как туда помещается контекст, мы считали отдельно в разборе видеопамяти под LLM.

Отсюда и разброс советов в интернете. Corsair называет 16 ГБ DDR5 «реалистичной стартовой линией», Compute Market — 32 ГБ минимумом и 64 ГБ «золотой серединой». Противоречия нет: первые считают, что модель живёт в видеокарте, вторые — что она частично или полностью уходит в ОЗУ.

Формула расчёта ОЗУ: часть модели вне видеокарты, контекст и система

Объём ОЗУ под локальную модель складывается из четырёх строк. Онлайн-калькуляторы делают ту же арифметику. Ручной расчёт полезен тем, что видно, какая строка даёт основной вес и где можно сэкономить.

1. Узнайте точный размер файла модели. Не умножайте число параметров на 0,5: реальные файлы в кванте Q4_K_M тяжелее. По репозиторию Llama 3.3 70B на Hugging Face файл весит 42,52 ГБ, то есть 0,61 ГБ на миллиард параметров. У Llama 3.1 8B выходит те же 0,61 ГБ, у Qwen3 14B — 0,64 ГБ (9,0 ГБ на файл).
2. Вычтите то, что поместится в видеокарту. Под веса берите объём видеопамяти минус 3 ГБ: остальное займут контекст, рабочие буферы и рабочий стол. Это наш допуск, а не константа — у каждой программы и драйвера он свой.
3. Добавьте контекст для части модели в ОЗУ. Цифры KV-кэша — в таблице ниже, в разделе про агентов.
4. Добавьте 6 ГБ на систему и фон. Это верхняя граница оценки для Windows.
5. Умножьте на 1,15 и округлите вверх до комплекта. Запас 10–15% нужен, чтобы система не уходила в файл подкачки. Комплекты DDR5 бывают на 16, 32, 48, 64, 96 и 128 ГБ.

Разберём на живом сценарии: Llama 3.3 70B в Q4_K_M на видеокарте с 24 ГБ (RTX 3090 или 4090). Под веса в видеокарте остаётся около 21 ГБ, значит, вне её — примерно 21,5 ГБ. Контекст на 8 тысяч токенов у этой модели весит 2,5 ГиБ, и половина его приходится на слои в ОЗУ — ещё около 1,3 ГБ. Плюс 6 ГБ на систему: всего 28,8 ГБ, с запасом 15% — около 33 ГБ. Комплект на 32 ГБ здесь впритык не проходит, разумный выбор — 48 ГБ (2×24), а 64 ГБ дают место под длинный контекст.

У Capital & Compute есть упрощение для прикидки: закладывать 0,75 ГБ на миллиард параметров, чтобы сразу покрыть систему и контекст. Для модели целиком на процессоре оно работает. Для гибрида оно завышает счёт, потому что не учитывает, сколько забрала видеокарта.

Таблица: сколько ОЗУ нужно под модель, квант и сценарий

Таблица — наш расчёт по формуле выше, то есть практические требования к ОЗУ под LLM (RAM for LLMs). Размеры файлов взяты с Hugging Face на 4 октября 2026 года, контекст — 8 тысяч токенов, система — 6 ГБ, запас — 15%. «Вне VRAM» — сколько весов остаётся в системной памяти.

USDT→

Binance · Wall Street 24/7Акции США без брокераТоргуйте ценой Apple, Nvidia и Tesla прямо из аккаунта Binance

AAPLNVDATSLA

Первая сделка за 5 шагов

Как читать таблицу. Если модель целиком влезает в видеокарту, ОЗУ почти не зависит от её размера: 16 ГБ хватает и под 8B, и под 32B. Разница появляется только тогда, когда видеопамяти не хватило. Тогда каждый гигабайт «вне VRAM» почти один к одному превращается в гигабайт ОЗУ.

Оговорка про длинный контекст. Строки «целиком в видеокарте» посчитаны для 8 тысяч токенов. Ollama на картах с 24–48 ГиБ видеопамяти по умолчанию ставит 32 тысячи, и у Qwen3 32B кэш такой длины весит около 8 ГиБ (наш расчёт по config.json). Вместе с весами это больше 24 ГБ, поэтому часть модели уйдёт в ОЗУ и сценарий станет гибридом. Чтобы остаться в видеокарте, сократите контекст или считайте по строке гибрида.

Квант меняет картину сильнее, чем кажется. У той же Llama 3.3 70B файл в Q5_K_M весит 49,95 ГБ, в Q6_K — 57,89 ГБ, в Q8_0 — 74,98 ГБ. Переход с Q4 на Q8 почти удваивает вынесенную часть и переводит сборку из класса 48–64 ГБ в класс 96–128 ГБ.

Карта на 32 ГБ — отдельный случай. Она сокращает вынесенную часть 70B-модели примерно до 13,5 ГБ, и системной памяти хватает 32 ГБ. Как такая машина собирается целиком и где у неё потолок, мы разбирали в сборке ПК на RTX 5090.

Когда ОЗУ решает скорость: выгрузка слоёв и MoE-модели в RAM

Выгрузка части модели в ОЗУ — это не плавное замедление, а обрыв. Corsair приводит такую оценку: модель целиком в видеопамяти выдаёт 40 и больше токенов в секунду, та же модель из системной памяти — 8–15 токенов. Железо в этой оценке не указано, поэтому полезнее понять механику.

На каждом токене плотная модель читает все свои веса. Часть из видеокарты читается почти мгновенно, а часть из ОЗУ — со скоростью памяти, 80–100 ГБ/с. Отсюда наша прикидка потолка: токенов в секунду не больше, чем пропускная способность ОЗУ, делённая на объём весов в ОЗУ. Реальная скорость всегда ниже этого потолка.

• Llama 3.3 70B на карте 24 ГБ: около 90 ГБ/с ÷ 21,5 ГБ ≈ 4 токена в секунду.
• Та же модель на карте 32 ГБ: 90 ÷ 13,5 ≈ 6–7 токенов в секунду.
• Та же модель только на процессоре: 90 ÷ 42,5 ≈ 2 токена в секунду.

С MoE-моделями расчёт другой. MoE (Mixture of Experts, «смесь экспертов») — архитектура, где модель состоит из множества блоков-экспертов, а на каждом токене работают лишь некоторые. У gpt-oss-120b около 120 млрд параметров всего, но активны на токене только около 5,1 млрд. Хранить в памяти нужно всех экспертов, а читать — только выбранных. Поэтому большая MoE-модель в ОЗУ работает быстрее плотной модели того же размера.

Для этого в llama.cpp есть флаг --n-cpu-moe N: он держит экспертов первых N слоёв в системной памяти, а остальные части модели оставляет на видеокарте (вместе с -ngl 99). Hardware Corner проверил его на gpt-oss-120b. Стенд для RTX 3090: AMD EPYC 7343, 64 ГБ DDR4-3200, Ubuntu 24.04, llama.cpp, файл в F16 около 65 ГБ. Страница обновлена 10 ноября 2025 года, замер сделан одним автором, поэтому это ориентир порядка величин, а не усреднённый бенчмарк. EPYC — серверная платформа с большим числом каналов памяти, на двухканальном десктопе с DDR5 цифры будут другими.

Вывод для выбора объёма: 64 ГБ ОЗУ позволяют запустить 120-миллиардную MoE-модель на одной игровой карте, но ОЗУ здесь работает складом экспертов, а не ускорителем. На RTX 3090 это меньше двух токенов в секунду — текст набирается медленнее, чем вы его читаете. Скорость в таком режиме упирается в пропускную способность ОЗУ, поэтому для гибрида важны частота памяти и число каналов — об этом в разделе про DDR5.

Контекст и агенты: сколько ОЗУ добавляет KV-кэш на 8K, 32K и 128K

KV-кэш — это память, в которой модель хранит уже обработанные токены диалога, чтобы не пересчитывать их заново. Чем длиннее контекст, тем он больше. Его размер считается так: 2 × число слоёв × число KV-голов × размер головы × число токенов × 2 байта (для точности FP16). Слои и головы берутся из файла config.json модели на Hugging Face.

Последняя колонка объясняет, почему контекст нельзя оставлять за скобками. У Llama 3.3 70B кэш на 128 тысяч токенов весит 40 ГиБ, то есть около 43 ГБ, — даже больше, чем сами веса (42,52 ГБ). Даже у маленькой 8B-модели длинный контекст отъедает 16 ГиБ (около 17 ГБ) — в три с половиной раза больше её файла. ГиБ здесь — двоичные гигабайты: 1 ГиБ ≈ 1,07 ГБ. Для Qwen3 14B строка 128K условная: родной контекст модели 32 тысячи токенов, а длиннее он становится только с растяжением YaRN.

Это касается не только экзотических сценариев. В документации Ollama длина контекста по умолчанию зависит от видеопамяти: меньше 24 ГиБ — 4 тысячи токенов, 24–48 ГиБ — 32 тысячи, от 48 ГиБ — 256 тысяч. Для агентов, веб-поиска и инструментов программирования там же советуют ставить не меньше 64 000 токенов. По нашему расчёту на 64 тысячах токенов кэш Llama 3.1 8B весит около 8 ГиБ, а Llama 3.3 70B — около 20 ГиБ.

Где окажется этот кэш, зависит от сценария. Если модель целиком в видеокарте, кэш тоже там, и ОЗУ его не видит. При выгрузке кэш слоёв, которые считает процессор, ложится в системную память. Тогда длинный контекст добавляет к расчёту ОЗУ столько же, сколько к расчёту видеопамяти, и для агентов разумно закладывать объём на ступень выше, чем для чата.

Mac, Strix Halo и DGX Spark: общая память вместо отдельной ОЗУ

У Mac на Apple Silicon, мини-ПК на AMD Strix Halo и NVIDIA DGX Spark нет разделения на ОЗУ и видеопамять. Процессор и графика пользуются одним общим пулом — это называют унифицированной памятью. Память распаяна на плате, поэтому вопрос «сколько докупить» здесь не стоит: объём выбирается один раз вместе с машиной.

На Mac есть важная оговорка. По умолчанию графическому ядру доступно около 75% унифицированной памяти. На Mac с 64 ГБ это примерно 48–51 ГБ под модель и контекст. Лимит поднимается командой sysctl iogpu.wired_limit_mb, но после перезагрузки сбрасывается, а самой macOS всё равно нужны свои 3–5 ГБ.

Расчёт под Mac делается так: размер модели плюс контекст, делённые на 0,75. Отсюда ориентиры (наш расчёт):

• 8B–14B в Q4 — Mac с 16–24 ГБ.
• Qwen3 32B в Q4 (19,76 ГБ плюс контекст 8K) — Mac с 32 ГБ; с контекстом 32K — уже 48 ГБ.
• Llama 3.3 70B в Q4 с контекстом 8K (около 45 ГБ) — Mac с 64 ГБ, впритык.
• gpt-oss-120b в Q4 (62,77 ГБ) — от 96 ГБ общей памяти.

Докупить ОЗУ для нейросетей на такой машине нельзя, поэтому ошибка в выборе обходится дороже, чем на обычном ПК. Зато у общей памяти обнаружился плюс в кризис: цена фиксированной конфигурации выросла заметно меньше, чем цена планок. По данным OpenClaw DC на 6 ноября 2026 года, медианный комплект DDR5 на 64 ГБ за $1 262 стоит дороже целого Mac mini M6 с 16 ГБ за $899, хотя объёмы здесь несопоставимы. Базовый Mac mini тоже дорожал: с $599 до $799 в мае 2026 года, а сменивший его M6 стоит $899. Источник — коммерческий сайт, который зарабатывает на партнёрских ссылках Amazon, и окно временное, но как ориентир для сравнения наблюдение полезно.

Плата за удобство — скорость. Пропускная способность общей памяти у таких машин ниже, чем у видеокарт верхнего класса, поэтому большие модели они держат, но генерируют медленнее. Как три такие платформы ведут себя на 70B и 120B, мы проверяли в сравнении DGX Spark, Mac Studio и Strix Halo. А если вы ещё выбираете между видеокартой, Mac и мини-ПК, начните с гида по железу для локального ИИ.

Как не переплатить за DDR5: два модуля, слоты и цена за гигабайт

Популярный совет «возьмите два модуля, а два слота оставьте на потом» на DDR5 может стоить скорости — это видно по спецификации процессоров AMD. В спецификации AMD Ryzen 7 9700X максимальная частота памяти указана так: два модуля — DDR5-5600, четыре модуля — DDR5-3600. Это касается и одноранговых, и двухранговых планок.

Для гибридного режима это прямая потеря. Двухканальная DDR5-5600 даёт в теории около 90 ГБ/с, DDR5-3600 — около 58 ГБ/с, то есть на треть меньше (наш пересчёт: частота × 8 байт × 2 канала). Потолок скорости Llama 3.3 70B на карте 24 ГБ падает с 4 примерно до 2,7 токена в секунду. Материнские платы с профилями EXPO или XMP, по отзывам пользователей, нередко держат на четырёх модулях больше, чем обещает AMD, но гарантии на это нет.

Отсюда первое правило покупки: нужный объём — сразу двумя модулями. Если по таблице выходит 64 ГБ, это комплект 2×32, а не 2×16 сейчас и ещё 2×16 потом. Промежуточные комплекты 2×24 (48 ГБ) и 2×48 (96 ГБ) закрывают сценарии между ступенями.

Второе правило — считать, сколько стоит каждый гигабайт сверх нужного. Цены ниже — американская розница, по ней удобно следить за трендом. Это новые комплекты в наличии по трекеру datacenterdisk; медиану в долларах мы пересчитали из цены за гигабайт:

Другие трекеры берут другую корзину листингов и дают свой уровень. RAM Prices USA на 3 ноября 2026 года показывает медиану 64 ГБ по листингам Amazon в $21,25 за гигабайт, то есть около $1 360: сумму из цены за гигабайт вывел Capital & Compute. Трекер PGrid в пересказе OpenClaw DC на 6 ноября даёт медиану $1 262 и минимум $930. Цена $276 за 32 ГБ — единичный листинг, и он ниже порога правдоподобия трекера ($8,65 за гигабайт); при такой цене datacenterdisk советует проверить продавца, поэтому ориентируйтесь на следующую цену.

До дефицита та же память стоила в разы меньше. Комплект 64 ГБ DDR5-5600, по данным PCPartPicker в пересказе Tom’s Hardware и datacenterdisk, подорожал с $191 в августе 2025 года до $1 118 в августе 2026-го. Комплект 32 ГБ до кризиса продавался примерно за $80–120.

По нашему пересчёту, при покупке с нуля комплект на 64 ГБ сейчас дороже комплекта на 32 ГБ примерно на $690 (медианы datacenterdisk на 7 ноября 2026 года). Если 2×16 уже стоят в системе, переход на 2×32 — это весь новый комплект: от $1 000 за самый дешёвый новый до ≈$1 300 по медиане (datacenterdisk на 7 ноября 2026 года). Эти деньги окупаются только в гибриде или на процессоре. Если модель живёт в видеокарте, на ту же сумму разумнее взять карту с большим объёмом видеопамяти. И ещё одна деталь: новых комплектов на 128 ГБ в наличии на 6 ноября всего 7, а цена «от $2 804» держится на одном листинге, поэтому эта строка хрупкая.

Брать ОЗУ сейчас или ждать: что говорят прогнозы до 2028 года

Короткий ответ: ждать заметного снижения цен в ближайший год шансов мало, но и брать память «про запас» нет смысла. Объём под ваш сценарий берите сейчас, всё сверх — нет.

Что говорят аналитики (это прогнозы, а не факты):

• TrendForce ожидает, что контрактные цены DRAM в четвёртом квартале 2026 года продолжат расти: спрос облачных провайдеров под ИИ тянет их вверх. О повышении прогноза компания сообщила 23 сентября 2026 года, сам прогноз на квартал вышел 24 сентября. В обзоре контрактных цен от 30 октября 2026 года компания уточняет: PC DRAM дорожает и дальше, но прирост сужается.
• Gartner не видит заметного облегчения раньше конца 2027 года — так его оценку пересказывает Capital & Compute на 26 сентября 2026 года.
• Глава Intel Лип-Бу Тан, по тому же пересказу, ещё в феврале 2026 года говорил в интервью Bloomberg, что отрасль не ждёт улучшения до 2028 года.

Почему так вышло и как дефицит памяти связан с дата-центрами, мы разбирали в материале о том, почему подорожали оперативная память и SSD. Для выбора объёма из этого следуют две вещи.

Последняя строка часто самая выгодная. MoE-модель вместо плотной, Q4 вместо Q8, контекст 8K вместо 32K снижают требования к ОЗУ сильнее, чем лишний комплект планок. А если сборка только планируется, машина с общей памятью уходит от вопроса о ценах на DIMM целиком.

Как понять, что ОЗУ не хватает: ollama ps, swap и мониторинг

Прежде чем брать память, проверьте, действительно ли её не хватает. Это занимает пять минут.

1. Запустите модель и выполните ollama ps. В колонке PROCESSOR Ollama показывает, где модель считается. «100% GPU» — модель целиком в видеокарте, ОЗУ ей почти не нужна. Если там доля CPU, часть модели ушла в системную память. В колонке CONTEXT видна длина контекста, которую Ollama выставила по умолчанию.
2. Посмотрите на подкачку во время генерации. В Windows: «Диспетчер задач» → «Производительность» → «Память». Если показатель «Выделено» подходит к пределу, система пишет в файл подкачки. На macOS: «Мониторинг системы» → «Память» — жёлтое или красное «Давление памяти» и растущее «Использовано подкачки». В Linux помогают free -h и колонки si/so в vmstat.
3. Сравните скорость на коротком и длинном контексте. Если на длинном диалоге генерация резко проседает, а подкачка растёт, памяти не хватает именно под KV-кэш.
4. Сначала уменьшите нагрузку, потом считайте покупку. Сократите контекст, возьмите квант на ступень ниже и повторите проверку. Если проблема ушла — память брать не нужно.

Одна тонкость с mmap. Файл, подключённый таким способом, диспетчер задач может показывать как кэш, а не как занятую память. Цифра «используется» выглядит скромно, хотя при нехватке система будет выбрасывать куски модели и перечитывать их с диска. Режим --load-mode mlock в llama-server заставляет систему держать модель в ОЗУ и не вытеснять её — с ним нехватка памяти видна сразу.

Ошибки и риски при выборе объёма ОЗУ под локальный ИИ

• Лесенка вместо сценария. Типичный ответ на вопрос, сколько нужно ОЗУ для ИИ, — ступени 16/32/64/128 ГБ без привязки к видеокарте. Одна и та же 70B-модель требует 32 ГБ ОЗУ на карте с 32 ГБ видеопамяти и 64 ГБ на процессоре — разница вдвое.
• Правило 0,5 ГБ на миллиард. Реальные Q4_K_M-файлы весят 0,61–0,64 ГБ на миллиард параметров, то есть на 22–28% больше этой прикидки. На 70B ошибка составляет около 7 ГБ.
• Забытый контекст. Агентские сценарии с контекстом от 64 тысяч токенов добавляют к 70B-модели около 20 ГиБ кэша. Расчёт под чат на 8K такой нагрузки не переживёт.
• Четыре модуля DDR5. У Ryzen 7 9700X четыре планки по спецификации AMD работают на DDR5-3600 вместо 5600, и в гибриде это минус треть скорости.
• Подделки и подозрительно дешёвые листинги. Чем дороже комплект, тем выше стимул его подделать. Datacenterdisk отдельно предупреждает о слишком дешёвых предложениях на фоне медианы рынка.
• Покупка на страхе. Объём, который не пригодился, купленный на пике ценового цикла, — самая дорогая память в сборке.
• Ставка на скорое падение цен. Прогнозы Gartner и Intel указывают на конец 2027–2028 года, и отложенная покупка может обойтись дороже.

Что устареет первым. Цены на DDR5 меняются еженедельно — свежие данные смотрите на страницах трекеров, на которые мы опирались, например у datacenterdisk. Значения контекста по умолчанию в Ollama меняются между версиями — перед настройкой сверяйтесь с документацией. Размеры файлов и расчёт KV-кэша от времени не зависят: они меняются только вместе с моделью.

Частые вопросы про ОЗУ для локального ИИ

Хватит ли 16 ГБ ОЗУ для локального ИИ?

Хватит, если модель целиком помещается в видеокарту: 8B–14B на карте 12–16 ГБ или 32B в Q4 на карте 24 ГБ. Тогда ОЗУ держит только систему, браузер и запускатель. Если модель запускается на процессоре, 16 ГБ хватит лишь под 8B в Q4 — по нашему расчёту ей нужно около 14 ГБ, без запаса под браузер и IDE.

Нужно ли 64 ГБ ОЗУ, если у меня 24 ГБ видеопамяти?

Только под модели, которые в 24 ГБ не помещаются: Llama 3.3 70B в Q4 (около 33 ГБ ОЗУ по нашему расчёту, удобнее 48–64 ГБ) или MoE вроде gpt-oss-120b (64 ГБ). Для моделей до 32B в Q4 на такой карте достаточно 32 ГБ. Разница между комплектами на 64 и 32 ГБ при покупке с нуля — примерно $690 по медианам datacenterdisk на 7 ноября 2026 года (наш расчёт).

Можно ли запустить 70B-модель на 32 ГБ ОЗУ?

Только вместе с большой видеокартой. Файл Llama 3.3 70B в Q4_K_M весит 42,52 ГБ, поэтому на одном процессоре 32 ГБ не хватит. С картой на 32 ГБ вне видеопамяти остаётся около 13,5 ГБ, и 32 ГБ ОЗУ достаточно. С картой на 24 ГБ — впритык: система начнёт уходить в подкачку, безопаснее 48 ГБ.

Влияет ли скорость DDR5 на токены в секунду?

Да, но только для той части модели, что лежит в ОЗУ. Потолок генерации примерно равен пропускной способности памяти, делённой на объём весов в ОЗУ. Два модуля DDR5-5600 дают около 90 ГБ/с. Четыре модуля на Ryzen 7 9700X по спецификации AMD работают на DDR5-3600 — около 58 ГБ/с, на треть меньше (наш пересчёт). Если модель целиком в видеокарте, частота ОЗУ на генерацию почти не влияет.

Брать 2×16 ГБ и докупить ещё 2×16 позже?

На DDR5 это не лучший путь к 64 ГБ. Для Ryzen 7 9700X AMD указывает при четырёх модулях DDR5-3600 вместо 5600, а планки из разных комплектов не всегда стабильно работают вместе. Если вы уже знаете, что понадобится 64 ГБ, разумнее сразу взять 2×32. Если не знаете — 2×16 и остановиться на этом.

Сколько ОЗУ нужно Mac для локальной модели?

Сложите размер модели и контекста и разделите на 0,75: по умолчанию графике Mac доступно около 75% общей памяти. Модели 8B–14B в Q4 укладываются в 16–24 ГБ, Qwen3 32B — в 32 ГБ, Llama 3.3 70B в Q4 с контекстом 8K — впритык в 64 ГБ. Для gpt-oss-120b нужна конфигурация от 96 ГБ.