Локальный ИИ на Ryzen AI 9 HX 370: что реально потянет мини-ПК и чем он уступает Strix Halo 395

Коротко (TL;DR)

AMD Ryzen AI 9 HX 370 (кодовое имя Strix Point) — это доступный вход в локальный ИИ на мини-ПК: 12-ядерный Zen 5, встроенная графика Radeon 890M и нейропроцессор XDNA2 на 50 TOPS. Он комфортно тянет модели на 7-14 миллиардов параметров и ускоряет сценарии Copilot+ на NPU. Ключевую роль здесь играет не число ядер, а пропускная способность памяти — и именно она задаёт потолок.

Главное, что нужно знать сразу:

• Реальные скорости скромнее маркетинга. По независимому замеру от 10 февраля 2026 плотная модель Qwen3-8B в кванте Q4_K_M на Radeon 890M через Vulkan выдаёт около 13,4 токена в секунду при питании от сети. SEO-обзоры мини-ПК обещают «7B: 30-50 tok/s» — это в 2,2-3,7 раза выше того, что видно на реальной конфигурации.
• MoE-модели идут бодрее, чем ждёшь. Тот же стенд на gpt-oss-20B (архитектура Mixture-of-Experts) даёт около 23,4 токена в секунду — быстрее плотной 8B, хотя файл модели вдвое больше.
• HX 370 — это не «Strix Halo подешевле». У старшего Ryzen AI Max+ 395 (Strix Halo) пропускная способность памяти 256 ГБ/с против 89,6-120 ГБ/с здесь — разрыв в 2,1-2,9 раза. Это разница не в оттенках, а в классе задач. Если нужны 30B+ модели на живой скорости, читайте наш разбор Ryzen AI Max+ 395 для локальных LLM — это ступень выше.
• Память в большинстве мини-ПК распаяна. Beelink, GMKtec, GEEKOM ставят 32 ГБ LPDDR5x без апгрейда. Модели на DDR5 SO-DIMM (MINISFORUM X1 Pro-370, Acemagic F3A) расширяются до 128 ГБ — но это решение производителя платы, а не свойство чипа.
• Цена входа — от 889 долларов за 32-гигабайтные конфигурации на начало июля 2026.

Вывод: HX 370 — честный рабочий инструмент для 7-14B моделей и NPU-ускоренных задач Windows. За серьёзными 30B+ моделями на интерактивной скорости дорога ведёт либо к Strix Halo 395, либо к дискретной видеокарте через eGPU. Ниже — цифры, методики и развилки выбора.

Что за чип: Zen 5, Radeon 890M и NPU на 50 TOPS

Ryzen AI 9 HX 370 представлен в 2024 году как флагман мобильной линейки Ryzen AI 300 (Strix Point). Это гибридный процессор: 12 ядер делятся на 4 крупных Zen 5 и 8 компактных Zen 5c, всего 24 потока, с максимальной частотой до 5,1 ГГц (данные AMD и TechPowerUp). Внутри — три вычислителя, и для локального ИИ важны два из них: встроенная графика и нейропроцессор.

Bybit · Rewards Hubдо $30,100Внеси депозит, торгуй 14 дней — и забери награды в Rewards HubЗабрать бонус →

• Radeon 890M — интегрированная графика на архитектуре RDNA 3.5: 16 вычислительных блоков (CU), 1024 шейдерных ядра, до 2900 МГц. По каталогу GadgetVersus это примерно 5939 GFLOPS в FP32. Именно GPU выполняет генерацию токенов в большинстве инструментов.
• NPU XDNA2 — нейропроцессор на 50 TOPS (INT8). AMD суммирует «до 80 TOPS» по всем трём вычислителям (CPU+GPU+NPU), но для инференса LLM эта общая цифра почти не значит — работают порознь GPU и NPU.
• Память — контроллер поддерживает DDR5 и LPDDR5x, два канала, официальный рейтинг DDR5-5600 / LPDDR5x-8000, до 256 ГБ.
• Тепловой пакет — по умолчанию 28 Вт, настраиваемый диапазон cTDP 15-54 Вт. Верхнюю границу выбирает производитель мини-ПК, и на практике многие уходят даже выше: iXBT прямым замером зафиксировал у Beelink SER9 Pro устойчивые 65 Вт под 15-минутной нагрузкой, у GEEKOM A9 Max заявлены 54 Вт.

Ниже — паспортные характеристики одной таблицей.

Minisforum MS-03 на Panther Lake: мини-ПК под локальный ИИ — что он реально потянет

Minisforum MS-03: компактная рабочая станция на Panther Lake для локального ИИ

Ollama подняла Series B на $65 млн — почему это важно для локального ИИ

DeepSeek тайно готовит собственный чип для инференса ИИ

Lenovo Yoga AI Mini PC: 180 TOPS, 64 ГБ и вопрос, потянет ли он большие LLM

Источник спецификаций — официальная страница AMD и каталог TechPowerUp (совпадают до цифры); GPU-параметры дополнительно сверены на GadgetVersus.

Главная развилка: распаянная LPDDR5x против DDR5 SO-DIMM

Скорость локальной LLM в первую очередь упирается не в вычислительную мощь, а в пропускную способность памяти. Логика простая: чтобы сгенерировать один токен, модель должна прочитать все свои активные веса из оперативной памяти. Чем шире «труба» между чипом и памятью, тем больше токенов в секунду. Разработчик, независимо измеривший это на Framework 13 с HX 370, называет цифру пропускной способности прямо — «the hard wall», стена.

У HX 370 обычная 128-битная шина. Отсюда два реальных сценария:

• DDR5-5600 (SO-DIMM, апгрейд). Теоретический максимум — 89,6 ГБ/с. Это и каталожная цифра TechPowerUp, и результат независимого расчёта из вывода ядра на Framework 13: 5600 МТ/с × 128 бит / 8 = 89,6 ГБ/с.
• LPDDR5x-7500 (распаяна, без апгрейда). Большинство мини-ПК 2026 года (Beelink SER9 Pro, GMKtec EVO-X1) ставят именно такие чипы. По той же формуле 7500 МТ/с × 128 бит / 8 ≈ 120 ГБ/с. Заметьте: распаянная память здесь даже чуть быстрее апгрейдной DDR5 — плата за это невозможность её нарастить.

И вот ключевой момент выбора конкретной модели. Тип памяти решает производитель платы, а не чип:

• Распаяно навсегда: Beelink SER9 Pro, GMKtec EVO-X1, GEEKOM A9 Max — обычно 32 ГБ LPDDR5x-7500. Что купил, с тем и живёшь.
• Апгрейдится до 128 ГБ: MINISFORUM AI X1 Pro-370, Acemagic F3A, Framework 13 — слоты DDR5 SO-DIMM.

Отсюда прямое следствие: если вы берёте мини-ПК под локальный ИИ и хотите оставить себе путь к крупным моделям, апгрейдная DDR5 SO-DIMM важнее лишних мегагерц. Распаянные 32 ГБ ставят жёсткий потолок сразу и навсегда.

Чем это НЕ Strix Halo 395

Самый частый вопрос про HX 370 звучит так: это же тот самый чип, что в дорогих Strix Halo, только дешевле? Нет. Ryzen AI Max+ 395 (Strix Halo) — другой класс кремния с 256-битной унифицированной памятью. Разберём разрыв в числах, а не в маркетинговых TOPS.

SpaceX · xStockSpaceX — частная компания. Торгуй её токеном на Bybit за крипту.Торговать SpaceX →

Данные — GadgetVersus и TechPowerUp; цифру 256 ГБ/с у 395 подтверждает и наш собственный разбор Ryzen AI Max+ 395 для нейросетей, где эта платформа рассмотрена как ступень выше.

Ключевые выводы из таблицы:

1. Преимущество 395 — в памяти и GPU, а не в NPU. Нейропроцессор у обоих чипов идентичный: 50 TOPS XDNA2. Маркетинговая строчка «50 TOPS NPU» на коробке HX 370 и 395 — одна и та же; всё решают ширина шины и число блоков графики.
2. Разрыв в 2,5-3 раза — это переход между классами задач. У 395 памяти и полосы хватает, чтобы держать 70B-модель на живой скорости; у HX 370 та же 70B физически загрузится, но о комфортной генерации речи не идёт (математику покажем ниже).
3. Взамен HX 370 отдаёт цену. Мини-ПК на 395 стоят заметно дороже; HX 370 стартует от 889 долларов. За эти деньги вы получаете 7-14B локально — и это честный размен, если задачи в него укладываются.
4. Парадокс ёмкости. Официальный потолок памяти у HX 370 даже выше — до 256 ГБ DDR5 SO-DIMM против 128 ГБ распаянной LPDDR5x у 395. Но объём без полосы не спасает: на узкой шине крупная модель загрузится и будет ползти — ёмкость решает «влезет ли», а скорость всё равно упирается в bandwidth.

Сколько это в токенах: реальные tok/s против маркетинга

Здесь — главный information gain обзора. Ни один найденный обзор мини-ПК (ни EN, ни RU) не приводит tok/s с полной конфигурацией: модель + квант + бекенд + питание. А без этих условий цифра ничего не значит — «5 tok/s» на неизвестной модели и «30-50 tok/s» без кванта одинаково бесполезны. Ниже — только замеры с раскрытой методикой.

Что из этого следует.

Маркетинг завышает в 2,2-3,7 раза. Заявления «7B на 30-50 tok/s» с сайтов-агрегаторов не подкреплены ни квантом, ни бекендом, ни версией. Реальные 13,4 tok/s на Qwen3-8B — это в 2,2-3,7 раза меньше обещанных «30-50 tok/s» (то есть на 55-73% ниже маркетингового диапазона). Доверия таким источникам мало и по другой причине: в одной и той же SEO-статье про мини-ПК встречается фактическая ошибка «12 ядер Zen 4» (на деле Zen 5) — цифры оттуда брать нельзя.

Проверка на правдоподобность. Мы пересчитали замер 8B через пропускную способность: 4,68 ГиБ весов × 1,074 × 13,41 токена/с ≈ 67,4 ГБ/с, то есть 75% от потолка 89,6 ГБ/с. Цифра физически честная — она не завышена и близка к теоретическому пределу шины. Это и есть та самая стена: программой её не пробить, только сменой железа.

Почему MoE обгоняет плотные модели. Контринтуитивный, но важный факт: gpt-oss-20B (23,4 tok/s) быстрее плотной Qwen3-8B (13,4 tok/s), хотя файл вдвое больше. Причина — архитектура Mixture-of-Experts: на каждый токен модель читает из памяти не всё дерево весов, а только активных «экспертов» (у 20B их эквивалент — единицы миллиардов параметров). Меньше чтений из памяти на токен — выше скорость. Поэтому на памяти-ограниченном железе вроде HX 370 MoE-модели дают лучший размен «размер против скорости», чем плотные аналоги.

Единственный софт-трюк, пробивающий стену. Спекулятивное декодирование — когда маленькая черновая модель (например, 0,6B) предугадывает токены, а основная 8B их лишь проверяет пачками — по опубликованным замерам добавляет 64-82% к скорости генерации без смены железа. Ни один обзор мини-ПК об этом не пишет, а это буквально единственный способ прибавить скорость, не упираясь в шину.

Что реально влезает: от 8B до 70B

Правило приблизительной оценки: нужный объём памяти под модель ≈ число параметров × байт на параметр в выбранном кванте, плюс запас на контекст. В Q4 (около 0,5-0,6 байта на параметр по факту хранения) картина такая.

• 7-8B (Q4). Комфортная зона: 13-16 tok/s на реальных замерах. Влезает даже в 32 ГБ, остаётся место под контекст. Это основной сценарий HX 370 — ассистент, суммаризация, кодовые подсказки.
• 13-14B (Q4). Работает, скорость закономерно ниже (по логике пропускной способности — примерно вдвое медленнее 7B). Живой чат ещё терпимый.
• 20-35B MoE. Неожиданно рабочая зона за счёт эффекта активных весов: 10-23 tok/s. Причём notes.alelec.net привёл не синтетику, а реальный прогон — 4051 issue с GitHub за 40 часов на 56 ГБ LPDDR5x. Это прямой контраргумент тезису «локальный ИИ на HX 370 бесполезен».
• 70B (Q4). Отдельный разговор. На мини-ПК с DDR5 SO-DIMM и 128 ГБ (Acemagic F3A) модели llama3.3-70b и deepseek-r1-70b, по свидетельству ServeTheHome, «крутятся несколько недель» — то есть технически запускаются. Но издание не публикует tok/s. Прикинем сами: при 89,6 ГБ/с и весах 70B Q4 около 40 ГБ расчётный потолок — 89,6 / (40 × 1,074) ≈ 2,1 tok/s. Это наша оценка по математике пропускной способности, а не измерение. Практический вывод один: 70B на HX 370 «работает» в смысле «загружается и не падает», но для интерактивного чата 2 tok/s непригодны. Это скорость фонового пакетного прогона, не диалога.

Роль NPU: Copilot+ и префилл, а не генерация токенов

Отдельно про нейропроцессор, потому что вокруг «50 TOPS» много путаницы. XDNA2 у HX 370 — это 12 независимых вычислительных кластеров с векторными блоками; порог сертификации Microsoft Copilot+ для NPU составляет 40 TOPS, и 50 TOPS его превышают. Но для запуска полноразмерных LLM роль NPU скромнее, чем кажется по цифре на коробке.

Что реально делает NPU:

• Copilot+ и малые модели. Windows-функции ИИ (через ONNX и DirectML) и модели на 1-3B параметра — здесь NPU на месте и экономит батарею.
• Префилл (обработка промпта). По академическому анализу этап префилла на NPU стабильно примерно втрое быстрее, чем на GPU. Это помогает на длинных контекстах и в RAG-сценариях.

Чего NPU почти не делает: генерацию токенов на моделях 7B и выше. Большинство инструментов (llama.cpp, ollama) декодируют на GPU через Vulkan, а NPU не задействуют напрямую вовсе. Как честно формулирует независимая карточка железа RunLocalAI, «поддержка NPU со стороны фреймворков тонкая — большинство инференса всё равно идёт на iGPU». Вывод: считать «50 TOPS NPU» мерилом скорости локальных LLM — ошибка. Для генерации решают GPU и память.

Софт: Vulkan, лотерея ROCm и провал Ollama

Здесь HX 370 расставляет ловушки, о которых обзоры железа молчат, а находятся они только в блогах практиков и трекерах багов. Три грабли, которые стоит знать до покупки.

Ollama не поддерживает gfx1150 нативно. Radeon 890M имеет идентификатор gfx1150, и на апрель 2026 Ollama не умеет с ним работать из коробки. Попытка форсировать через HSA_OVERRIDE_GFX_VERSION даёт около 6,4 tok/s — это в 2,5 раза медленнее, чем чистый инференс на CPU того же чипа (notes.alelec.net). Проблема не выдумана: запрос на нормальную поддержку висит открытым issue #9999 в репозитории ollama/ollama. Если ваш план был «поставлю Ollama в один клик» — на этом железе он споткнётся.

ROCm — лотерея версий драйвера. Самое коварное. На одном и том же чипе Radeon 890M разные сборки ROCm/HIP дают разброс скорости в 3,4 раза: у одного тестировщика через ROCm выходило 4,76 tok/s, у независимого пользователя на GitHub (билд b9127, май 2026) — 16,1-16,7 tok/s. Это не ошибка измерения, а разные версии драйвера и билда llama.cpp. Поэтому к любому одиночному «ROCm выдаёт X tok/s» стоит относиться с осторожностью: у соседа на той же карте будет другая цифра. Практический вывод — предупреждать про нестабильность, а не выдавать одно число за истину.

Vulkan — самый надёжный путь. На практике RADV/Vulkan оказывается предсказуемее всего для интерактивной генерации. У ROCm/HIP есть отдельная беда: через hipMalloc он видит только зарезервированную BIOS видеопамять (обычно от 512 МБ до 4 ГБ) и игнорирует общий пул GTT — крупная модель просто не помещается. У vLLM та же зависимость и та же проблема. На Linux это лечится явным выделением GTT, но на Windows большинство инструментов спотыкаются. Практическая рекомендация сообщества и наших источников: для локального чата на HX 370 начинать с Vulkan через llama.cpp или LM Studio, ROCm держать для длинного контекста и RAG, где важен префилл.

Какой мини-ПК выбрать: цены и позиционирование

На рынке к июлю 2026 — несколько мини-ПК на HX 370, и различаются они не столько чипом (он один и тот же), сколько памятью и охлаждением. Цены волатильны, поэтому даны с датой снимка.

Три практических замечания.

Сверяйте цену у производителя. GEEKOM A9 Max — наглядный пример: независимое издание Notebookcheck называет 999 долларов, а один affiliate-агрегатор в тот же период — 1689 долларов, разница почти в 1,7 раза. Мы взяли более надёжную цифру производителя; вам стоит делать так же и не доверять агрегаторам вслепую.

Память важнее бренда. Если рассматриваете локальный ИИ всерьёз, модели с DDR5 SO-DIMM (MINISFORUM, Acemagic, Framework) объективно перспективнее: они дают дорогу к 64-128 ГБ. Распаянные 32 ГБ — потолок навсегда.

eGPU как страховка. Часть мини-ПК (MINISFORUM X1 Pro-370, Acemagic F3A) несёт порт OCuLink — это прямое подключение PCIe 4.0 x4 для внешней видеокарты с потерей, по данным одного обзора, около 5-10% против прямого слота. Это реальный сценарий: владельцы связывают HX 370 с внешней RTX 3090 через докстанцию — лёгкие модели крутит iGPU, тяжёлые уходят на дискретную карту. У Beelink SER9 (без Pro) такого порта нет — апгрейд через eGPU для него закрыт.

Если вам нужен более общий разбор вариантов — от Mac до дискретных GPU — смотрите наш гид по железу для локального ИИ.

Место в общей картине: Apple M и Intel Lunar Lake

Чтобы понять, где HX 370 стоит в ряду, полезно сравнить по той же метрике — пропускной способности памяти, главному ограничителю скорости LLM.

• Apple Silicon. Здесь HX 370 отстаёт: MacBook на M1 Pro (256-битная шина, 200 ГБ/с) выдаёт около 22 tok/s на 8B, M3 Max (512 бит, 400 ГБ/с) — около 45 tok/s. Если рассматриваете Mac как альтернативную платформу, у нас есть отдельный разбор Mac mini M4 Pro для локальных LLM. Любопытный нюанс: M3 Pro (192 бита, 150 ГБ/с) по шине уже M1 Pro — редкий случай регресса, и на локальных LLM это заметно. По этому параметру HX 370 в 2-4 раза медленнее среднего чипа Apple M-серии. Оценочные tok/s для Apple — экстраполяция по формуле пропускной способности, а не прямой замер автора.
• Intel Lunar Lake. Прямой конкурент в сегменте Copilot+: Core Ultra 258V несёт 48 TOPS NPU и, по данным агрегатора, около 136 ГБ/с памяти — выше, чем 89,6-120 ГБ/с у HX 370. Цифру памяти Lunar Lake мы не перепроверяли на первоисточнике Intel, поэтому берём её как ориентир позиционирования, не как точное значение.

Общий смысл: HX 370 — крепкий середняк платформы x86 для локального ИИ, но по «памяти на скорость» и Apple M-серия, и старший Strix Halo его обходят. Взамен он даёт цену и полноценную Windows-экосистему.

Риски и подводные камни

Раздел ограничений — то, чего не пишут в промо мини-ПК.

• Стена пропускной способности неизлечима. 89,6-120 ГБ/с — жёсткий физический потолок скорости генерации. Его не поднять драйвером или прошивкой: единственный способ ускориться на крупных моделях — сменить платформу (Strix Halo, дискретный GPU) или прибегнуть к спекулятивному декодированию.
• Распаянная память — ловушка на старте. Beelink, GMKtec, GEEKOM продают 32 ГБ без возможности апгрейда. Выбор модели на этапе покупки определяет потолок навсегда. Хотите путь к крупным моделям — берите платформу с DDR5 SO-DIMM.
• Лотерея ROCm. Разброс в 3,4 раза между сборками драйвера означает, что «из коробки» результат непредсказуем. Нужна готовность возиться с версиями и бекендами; кто ждёт «поставил и работает» — разочаруется.
• Провал Ollama на gfx1150. Самый популярный лаунчер LLM на этом чипе без бубна работает медленнее CPU. Реалистичный путь — llama.cpp или LM Studio на Vulkan, а не Ollama по умолчанию.
• NPU не ускоряет генерацию. «50 TOPS» продают как ИИ-мощь, но для декодирования 7B+ моделей NPU почти бесполезен — он про Copilot+ и префилл.
• Голос владельца. Показательно, что реальный покупатель Beelink SER9 в отзыве на официальном сайте прямо предупреждает следующих: для запуска ИИ-моделей «нужно намного больше оперативной памяти и мощности GPU, ищите другое железо». Непрошенное подтверждение того же вывода, к которому ведут цифры.

Для кого HX 370, а для кого 395 или eGPU

HX 370 подойдёт, если:

• ваши модели укладываются в 7-14B (ассистент, суммаризация, код, локальный RAG на малых моделях);
• нужен тихий компактный мини-ПК с полноценной Windows и Copilot+ на батарее;
• бюджет ограничен диапазоном 889-1439 долларов;
• вы готовы работать через Vulkan и не боитесь настройки бекендов.

Смотрите в сторону Strix Halo 395 или дискретной GPU, если:

• нужны 30B+ плотные модели или 70B на интерактивной скорости;
• важна максимальная пропускная способность памяти — тогда 256 ГБ/с у Ryzen AI Max+ 395 решают дело;
• вы готовы к eGPU: мини-ПК с OCuLink плюс внешняя RTX снимают ограничение iGPU для тяжёлых задач.

Итоговая мысль без прикрас: HX 370 — это доступная, честная ступень локального ИИ, а не урезанный Strix Halo. Он ровно настолько хорош, насколько ваши модели помещаются в его 128-битную шину. Знаете свой размер модели — знаете, ваш это чип или нет.

FAQ

Сколько токенов в секунду выдаёт Radeon 890M на 7B-модели?

По независимому замеру от 10 февраля 2026 плотная Qwen3-8B в кванте Q4_K_M через Vulkan даёт около 13,4 токена в секунду от сети и 9,9 от батареи. На ROCm в удачной сборке драйвера встречались 16 tok/s. Маркетинговые «30-50 tok/s» реальными конфигурациями не подтверждаются.

Хватит ли NPU на 50 TOPS для запуска LLM?

Для генерации токенов на моделях 7B и выше — нет. NPU XDNA2 полезен для Copilot+, малых моделей на 1-3B и ускорения префилла (обработки промпта), но саму генерацию в llama.cpp и ollama выполняет графика через Vulkan. «50 TOPS» — не мерило скорости локальных LLM.

Запустится ли 70B-модель на мини-ПК с HX 370?

Технически да, если это модель с DDR5 SO-DIMM и 128 ГБ памяти (например, Acemagic F3A): ServeTheHome подтверждает многонедельную работу llama3.3-70b. Но по нашему расчёту через пропускную способность скорость — около 1-2 tok/s. Это годится для фонового пакетного прогона, но не для живого диалога.

Какой мини-ПК на HX 370 выбрать под локальный ИИ?

Если планируете крупные модели — берите платформу с апгрейдной DDR5 SO-DIMM (MINISFORUM X1 Pro-370, Acemagic F3A): они расширяются до 128 ГБ и часто имеют OCuLink для внешней видеокарты. Если хватит 7-14B — подойдёт любой из доступных (GMKtec EVO-X1 от 889 долларов, GEEKOM A9 Max 999), но 32 ГБ распаянной памяти станут потолком навсегда.

Работает ли Ollama на Radeon 890M?

Из коробки — плохо. Ollama не поддерживает gfx1150 нативно; форсированный запуск через переопределение версии GFX даёт около 6,4 tok/s, что в 2,5 раза медленнее CPU. Открытый issue #9999 в репозитории ollama это подтверждает. Практичнее использовать llama.cpp или LM Studio на бекенде Vulkan.

Чем HX 370 хуже Ryzen AI Max+ 395?

Двумя вещами: памятью и графикой. Пропускная способность 89,6-120 ГБ/с против 256 ГБ/с у 395 (в 2,1-2,9 раза) и 16 CU графики против 40. Нейропроцессор у чипов одинаковый — 50 TOPS. На практике это значит, что 395 держит 30-70B модели на живой скорости, а HX 370 — зона 7-14B и MoE.