Локальний ШІ на Ryzen AI 9 HX 370: що реально потягне міні-ПК і чим він поступається Strix Halo 395

29 хв. читання

Коротко (TL;DR)

AMD Ryzen AI 9 HX 370 (кодова назва Strix Point) — доступний вхідний квиток у локальний ШІ на міні-ПК: 12-ядерний Zen 5, вбудована графіка Radeon 890M і нейропроцесор XDNA2 на 50 TOPS. Той самий чип стоїть і в ноутбуках (наприклад, Framework 13), тож усе нижче однаково стосується і запуску LLM локально на ноутбуці, і роботи на компактному міні-ПК. Він упевнено тягне моделі на 7-14 мільярдів параметрів і пришвидшує сценарії Copilot+ на NPU. Головну роль тут відіграє не кількість ядер, а пропускна здатність пам’яті — саме вона задає стелю.

Що варто знати одразу:

  • Реальна швидкість скромніша за маркетинг. За незалежним виміром від 10 лютого 2026 щільна модель Qwen3-8B у кванті Q4_K_M на Radeon 890M через Vulkan видає близько 13,4 токена за секунду при живленні від мережі. SEO-огляди міні-ПК обіцяють «7B: 30-50 tok/s» — це у 2,2-3,7 раза вище за те, що видно на реальній конфігурації.
  • MoE-моделі йдуть бадьоріше, ніж очікуєш. Той самий стенд на gpt-oss-20B (архітектура Mixture-of-Experts) дає близько 23,4 токена за секунду — швидше за щільну 8B, хоча файл моделі вдвічі більший.
  • HX 370 — це не «Strix Halo дешевше». У старшого Ryzen AI Max+ 395 (Strix Halo) пропускна здатність пам’яті 256 ГБ/с проти 89,6-120 ГБ/с тут — розрив у 2,1-2,9 раза. Це різниця не у відтінках, а в класі завдань. Якщо потрібні моделі 30B+ на живій швидкості, читайте наш розбір Ryzen AI Max+ 395 для локальних LLM — це сходинка вище.
  • Пам’ять у більшості міні-ПК запаяна. Beelink, GMKtec, GEEKOM ставлять 32 ГБ LPDDR5x без апгрейду. Моделі на DDR5 SO-DIMM (MINISFORUM X1 Pro-370, Acemagic F3A) розширюються до 128 ГБ — але це рішення виробника плати, а не властивість чипа.
  • Ціна входу — від 889 доларів за 32-гігабайтні конфігурації на початок липня 2026.

Висновок: HX 370 — чесний робочий інструмент для моделей 7-14B і NPU-пришвидшених завдань Windows. За серйозними моделями 30B+ на інтерактивній швидкості дорога веде або до Strix Halo 395, або до дискретної відеокарти через eGPU. Нижче — цифри, методики й розвилки вибору.

Що за чип: Zen 5, Radeon 890M і NPU на 50 TOPS

Ryzen AI 9 HX 370 представлений у 2024 році як флагман мобільної лінійки Ryzen AI 300 (Strix Point). Це гібридний процесор: 12 ядер діляться на 4 великих Zen 5 і 8 компактних Zen 5c, загалом 24 потоки, з максимальною частотою до 5,1 ГГц (дані AMD і TechPowerUp). Усередині — три обчислювачі, і для локального ШІ важливі два з них: вбудована графіка та нейропроцесор.

  • Radeon 890M — інтегрована графіка на архітектурі RDNA 3.5: 16 обчислювальних блоків (CU), 1024 шейдерних ядра, до 2900 МГц. За каталогом GadgetVersus продуктивність Radeon 890M — приблизно 5939 GFLOPS у FP32. Саме GPU виконує генерацію токенів у більшості інструментів.
  • NPU XDNA2 — нейропроцесор на 50 TOPS (INT8). AMD підсумовує «до 80 TOPS» по всіх трьох обчислювачах (CPU+GPU+NPU), але для інференсу LLM ця загальна цифра майже нічого не означає — GPU і NPU працюють окремо.
  • Пам’ять — контролер підтримує DDR5 і LPDDR5x, два канали, офіційний рейтинг DDR5-5600 / LPDDR5x-8000, до 256 ГБ.
  • Тепловий пакет — за замовчуванням 28 Вт, налаштовуваний діапазон cTDP 15-54 Вт. Верхню межу обирає виробник міні-ПК, і на практиці багато хто йде навіть вище: iXBT прямим виміром зафіксував у Beelink SER9 Pro стійкі 65 Вт під 15-хвилинним навантаженням, у GEEKOM A9 Max заявлені 54 Вт.

Нижче — паспортні характеристики однією таблицею.

ПараметрЗначення
Архітектура CPU4×Zen 5 + 8×Zen 5c, 12 ядер / 24 потоки
Макс. частотадо 5,1 ГГц
iGPURadeon 890M, RDNA 3.5, 16 CU / 1024 шейдери, до 2900 МГц
GPU FP32≈5939 GFLOPS
NPUXDNA2, 50 TOPS (INT8); сумарно CPU+GPU+NPU до 80 TOPS
Пам’ятьDDR5-5600 / LPDDR5x-8000, 2 канали, до 256 ГБ
Пропускна здатність89,6 ГБ/с (DDR5-5600) / ≈120 ГБ/с (LPDDR5x-7500)
TDP28 Вт за замовчуванням, cTDP 15-54 Вт

Джерело специфікацій — офіційна сторінка AMD і каталог TechPowerUp (збігаються до цифри); параметри GPU додатково звірені на GadgetVersus.

Головна розвилка: запаяна LPDDR5x проти DDR5 SO-DIMM

Швидкість локальної LLM насамперед упирається не в обчислювальну потужність, а в пропускну здатність пам’яті. Логіка проста: щоб згенерувати один токен, модель має прочитати всі свої активні ваги з оперативної пам’яті. Що ширша «труба» між чипом і пам’яттю, то більше токенів за секунду. Розробник, який незалежно виміряв це на ноутбуці Framework 13 з HX 370, називає цифру пропускної здатності прямо — «the hard wall», стіна.

У HX 370 звичайна 128-бітна шина. Звідси два реальні сценарії:

  • DDR5-5600 (SO-DIMM, апгрейд). Теоретичний максимум — 89,6 ГБ/с. Це і каталожна цифра TechPowerUp, і результат незалежного розрахунку з виводу ядра на Framework 13: 5600 МТ/с × 128 біт / 8 = 89,6 ГБ/с.
  • LPDDR5x-7500 (запаяна, без апгрейду). Більшість міні-ПК 2026 року (Beelink SER9 Pro, GMKtec EVO-X1) ставлять саме такі чипи. За тією ж формулою 7500 МТ/с × 128 біт / 8 ≈ 120 ГБ/с. Зауважте: запаяна пам’ять тут навіть трохи швидша за апгрейдну DDR5 — плата за це — неможливість її наростити.

І ось ключовий момент вибору конкретної моделі. Тип пам’яті вирішує виробник плати, а не чип:

  • Запаяно назавжди: Beelink SER9 Pro, GMKtec EVO-X1, GEEKOM A9 Max — зазвичай 32 ГБ LPDDR5x-7500. Що купив, з тим і живеш.
  • Апгрейдиться до 128 ГБ: MINISFORUM AI X1 Pro-370, Acemagic F3A, Framework 13 — слоти DDR5 SO-DIMM.

Звідси пряме слідство: якщо берете міні-ПК під локальний ШІ і хочете залишити собі шлях до великих моделей, апгрейдна DDR5 SO-DIMM важливіша за зайві мегагерци. Запаяні 32 ГБ ставлять жорстку стелю одразу й назавжди.

Чим це НЕ Strix Halo 395

Найчастіше питання про HX 370 звучить так: це ж той самий чип, що і в дорогих Strix Halo, тільки дешевше? Ні. Ryzen AI Max+ 395 (Strix Halo) — інший клас кремнію з 256-бітною уніфікованою пам’яттю. Розберемо розрив у цифрах, а не в маркетингових TOPS.

ПараметрRyzen AI 9 HX 370 (Strix Point)Ryzen AI Max+ 395 (Strix Halo)Розрив
Пропускна здатність пам’яті89,6-120 ГБ/с256 ГБ/су 2,1-2,9 раза
iGPURadeon 890M, 16 CURadeon 8060S, 40 CUу 2,5 раза більше CU
GPU FP32≈5939 GFLOPS≈14 848 GFLOPSу 2,5 раза
NPUXDNA2, 50 TOPSXDNA2, 50 TOPSоднаково
Макс. пам’ять (тип)до 256 ГБ (DDR5 SO-DIMM)до 128 ГБ (LPDDR5x, запаяна)

Дані — GadgetVersus і TechPowerUp; цифру 256 ГБ/с у 395 підтверджує і наш власний розбір Ryzen AI Max+ 395 для нейромереж, де ця платформа розглянута як сходинка вище.

Ключові висновки з таблиці:

  1. Перевага 395 — у пам’яті та GPU, а не в NPU. Нейропроцесор в обох чипів ідентичний: 50 TOPS XDNA2. Маркетинговий рядок «50 TOPS NPU» на коробці HX 370 і 395 — той самий; усе вирішують ширина шини й кількість блоків графіки.
  2. Розрив у 2,5-3 раза — це перехід між класами завдань. У 395 пам’яті й смуги пропускання достатньо, щоб тримати модель 70B на живій швидкості; у HX 370 та сама 70B фізично завантажиться, але про комфортну генерацію мова не йде (математику покажемо нижче).
  3. Натомість HX 370 віддає ціну. Міні-ПК на 395 коштують помітно дорожче; HX 370 стартує від 889 доларів. За ці гроші ви отримуєте 7-14B локально — і це чесний розмін, якщо завдання в нього вкладаються.
  4. Парадокс ємності. Офіційна стеля пам’яті у HX 370 навіть вища — до 256 ГБ DDR5 SO-DIMM проти 128 ГБ запаяної LPDDR5x у 395. Але обсяг без смуги не рятує: на вузькій шині велика модель завантажиться і повзтиме — ємність вирішує «чи влізе», а швидкість усе одно впирається в bandwidth.

Скільки це в токенах: реальні tok/s проти маркетингу

Тут — головний information gain огляду. Жоден знайдений огляд міні-ПК (ні EN, ні RU) не наводить tok/s із повною конфігурацією: модель + квант + бекенд + живлення. А без цих умов цифра нічого не означає — «5 tok/s» на невідомій моделі й «30-50 tok/s» без кванта однаково марні. Нижче — тільки виміри з розкритою методикою.

Модель / квантБекендУмовиГенерація (tg128), tok/sДжерело, дата
Qwen3-8B Q4_K_M (щільна)Vulkan (RADV)живлення від мережі≈13,4msf.github.io, 10.02.2026
Qwen3-8B Q4_K_M (щільна)Vulkanвід батареї≈9,9msf.github.io, 10.02.2026
gpt-oss-20B MXFP4 (MoE)Vulkanживлення від мережі≈23,4msf.github.io, 10.02.2026
Llama-2-7B Q4_0 (щільна)ROCm/HIPLinux, білд b9127≈16,1-16,7GitHub #15021, 13.05.2026
Qwen3.5-35B-A3B / Gemma-4-26B (MoE)Vulkan/Lemonadeреальне навантаження10-16 (генерація)notes.alelec.net, 13.04.2026
«Маркетинг»: 7B Q4не вказаноне вказані«30-50» (заява)SEO-огляд, без методики
«Маркетинг»: LLaMA-2-13Bне вказаноне вказані«5» (заява)SEO-огляд, без методики

Що з цього випливає.

Маркетинг завищує у 2,2-3,7 раза. Заяви «7B на 30-50 tok/s» із сайтів-агрегаторів не підкріплені ні квантом, ні бекендом, ні версією. Реальні 13,4 tok/s на Qwen3-8B — це у 2,2-3,7 раза менше за обіцяні «30-50 tok/s» (тобто на 55-73% нижче маркетингового діапазону). Довіри таким джерелам мало ще й з іншої причини: у тій самій SEO-статті про міні-ПК трапляється фактична помилка «12 ядер Zen 4» (насправді Zen 5) — цифри звідти брати не варто.

Перевірка на правдоподібність. Ми перерахували вимір 8B через пропускну здатність: 4,68 ГіБ ваг × 1,074 × 13,41 токена/с ≈ 67,4 ГБ/с, тобто 75% від стелі 89,6 ГБ/с. Цифра фізично чесна — вона не завищена і близька до теоретичної межі шини. Це та сама стіна: програмою її не пробити, тільки заміною заліза.

Чому MoE обганяє щільні моделі. Контрінтуїтивний, але важливий факт: gpt-oss-20B (23,4 tok/s) швидша за щільну Qwen3-8B (13,4 tok/s), хоча файл удвічі більший. Причина — архітектура Mixture-of-Experts: на кожен токен модель читає з пам’яті не все дерево ваг, а лише активних «експертів» (у 20B їхній еквівалент — одиниці мільярдів параметрів). Менше читань із пам’яті на токен — вища швидкість. Тому на пам’ять-обмеженому залізі на кшталт HX 370 MoE-моделі дають кращий розмін «розмір проти швидкості», ніж щільні аналоги.

Єдиний софт-трюк, що пробиває стіну. Спекулятивне декодування — коли маленька чорнова модель (наприклад, 0,6B) передбачає токени, а основна 8B лише перевіряє їх пачками — за опублікованими вимірами додає 64-82% до швидкості генерації без заміни заліза. Жоден огляд міні-ПК про це не пише, а це буквально єдиний спосіб додати швидкості, не впираючись у шину.

Що реально влазить: від 8B до 70B

Правило приблизної оцінки: потрібний обсяг пам’яті під модель ≈ кількість параметрів × байт на параметр у обраному кванті, плюс запас на контекст. У Q4 (близько 0,5-0,6 байта на параметр за фактом зберігання) картина така.

  • 7-8B (Q4). Комфортна зона: 13-16 tok/s на реальних вимірах. Влазить навіть у 32 ГБ, лишається місце під контекст. Це основний сценарій HX 370 — асистент, сумаризація, кодові підказки.
  • 13-14B (Q4). Працює, швидкість закономірно нижча (за логікою пропускної здатності — приблизно вдвічі повільніше за 7B). Живий чат ще прийнятний.
  • 20-35B MoE. Несподівано робоча зона за рахунок ефекту активних ваг: 10-23 tok/s. Причому notes.alelec.net навів не синтетику, а реальний прогін — 4051 issue з GitHub за 40 годин на 56 ГБ LPDDR5x. Це прямий контраргумент тезі «локальний ШІ на HX 370 марний».
  • 70B (Q4). Окрема розмова. На міні-ПК з DDR5 SO-DIMM і 128 ГБ (Acemagic F3A) моделі llama3.3-70b і deepseek-r1-70b, за свідченням ServeTheHome, «крутяться кілька тижнів» — тобто технічно запускаються. Але видання не публікує tok/s. Прикинемо самі: за 89,6 ГБ/с і вагах 70B Q4 близько 40 ГБ розрахункова стеля — 89,6 / (40 × 1,074) ≈ 2,1 tok/s. Це наша оцінка за математикою пропускної здатності, а не вимір. Практичний висновок один: 70B на HX 370 «працює» у сенсі «завантажується і не падає», але для інтерактивного чату 2 tok/s непридатні. Це швидкість фонового пакетного прогону, не діалогу.
Розмір моделі (Q4)Статус на HX 370Орієнтир швидкості
7-8B щільнакомфортно13-16 tok/s (вимір)
13-14B щільнаробоче, повільніше≈6-9 tok/s (оцінка)
20-35B MoEробоче, бадьоро10-23 tok/s (вимір)
70B щільназавантажується, але не для чату≈1-2 tok/s (наш розрахунок, не вимір)

Роль NPU: Copilot+ і префіл, а не генерація токенів

Окремо про нейропроцесор, бо навколо «50 TOPS» багато плутанини. XDNA2 у HX 370 — це 12 незалежних обчислювальних кластерів із векторними блоками; поріг сертифікації Microsoft Copilot+ для NPU становить 40 TOPS, і 50 TOPS його перевищують. Але для запуску повнорозмірних LLM роль NPU скромніша, ніж здається за цифрою на коробці.

Що реально робить NPU:

  • Copilot+ і малі моделі. Windows-функції ШІ (через ONNX і DirectML) і моделі на 1-3B параметрів — тут NPU на своєму місці й економить батарею.
  • Префіл (обробка промпту). За академічним аналізом етап префілу на NPU стабільно приблизно втричі швидший, ніж на GPU. Це допомагає на довгих контекстах і в RAG-сценаріях.

Чого NPU майже не робить: генерації токенів на моделях 7B і вище. Більшість інструментів (llama.cpp, ollama) декодують на GPU через Vulkan, а NPU не залучають безпосередньо взагалі. Як чесно формулює незалежна картка заліза RunLocalAI, «підтримка NPU з боку фреймворків тонка — більшість інференсу все одно йде на iGPU». Висновок: вважати «50 TOPS NPU» мірилом швидкості локальних LLM — помилка. За генерацію відповідають GPU й пам’ять.

Софт: Vulkan, лотерея ROCm і провал Ollama

Тут HX 370 розставляє пастки, про які огляди заліза мовчать, а знаходяться вони лише в блогах практиків і трекерах багів. Три граблі, які варто знати до покупки.

Ollama не підтримує gfx1150 нативно. Radeon 890M має ідентифікатор gfx1150, і станом на квітень 2026 Ollama не вміє з ним працювати з коробки. Спроба форсувати через HSA_OVERRIDE_GFX_VERSION дає близько 6,4 tok/s — це у 2,5 раза повільніше, ніж чистий інференс на CPU того самого чипа (notes.alelec.net). Проблема не вигадана: запит на нормальну підтримку висить відкритим issue #9999 у репозиторії ollama/ollama. Якщо ваш план був «поставлю Ollama в один клік» — на цьому залізі він спіткнеться.

ROCm — лотерея версій драйвера. Найковарніше. На тому самому чипі Radeon 890M різні збірки ROCm/HIP дають розкид швидкості у 3,4 раза: в одного тестувальника через ROCm виходило 4,76 tok/s, у незалежного користувача на GitHub (білд b9127, травень 2026) — 16,1-16,7 tok/s. Це не похибка виміру, а різні версії драйвера й білда llama.cpp. Тому до будь-якого поодинокого «ROCm видає X tok/s» варто ставитися обережно: у сусіда на тій самій карті буде інша цифра. Практичний висновок — попереджати про нестабільність, а не видавати одну цифру за істину.

Vulkan — найнадійніший шлях. На практиці RADV/Vulkan виявляється найпередбачуванішим для інтерактивної генерації. У ROCm/HIP є окрема біда: через hipMalloc він бачить лише зарезервовану BIOS відеопам’ять (зазвичай від 512 МБ до 4 ГБ) і ігнорує спільний пул GTT — велика модель просто не поміщається. У vLLM та сама залежність і та сама проблема. На Linux це лікується явним виділенням GTT, але на Windows більшість інструментів спотикаються. Практична рекомендація спільноти й наших джерел: для локального чату на HX 370 починати з Vulkan через llama.cpp або LM Studio, ROCm тримати для довгого контексту й RAG, де важливий префіл.

Який міні-ПК обрати: ціни та позиціонування

На ринку станом на липень 2026 — кілька міні-ПК для нейромереж 2026 на базі HX 370, і різняться вони не стільки чипом (він той самий), скільки пам’яттю й охолодженням. Ціни волатильні, тому подані з датою знімка.

Міні-ПКПам’ятьЦіна (поч. липня 2026)Особливості
GMKtec EVO-X132 ГБ LPDDR5x (запаяна)від 889 дол. (було 1299,99)найдоступніший вхід; на дату знімка розпродано
GEEKOM A9 Max32 ГБ (запаяна)999 дол.ціна у виробника й на Amazon
Beelink SER9 Pro32 ГБ LPDDR5x-7500 (запаяна)1149 дол. (було 1399)стійкий TDP 65 Вт за виміром iXBT
MINISFORUM AI X1 Pro-370DDR5 SO-DIMM, до 128 ГБ≈1179 дол. (32/1ТБ)апгрейд пам’яті + OCuLink для eGPU
Acemagic F3ADDR5 SO-DIMM, до 128 ГБн/дзапускав 70B; OCuLink
ASUS NUC 14 Pro AI32 ГБ1439 дол.сертифікація Copilot+

Три практичні зауваги.

Звіряйте ціну у виробника. GEEKOM A9 Max — наочний приклад: незалежне видання Notebookcheck називає 999 доларів, а один affiliate-агрегатор у той самий період — 1689 доларів, різниця майже у 1,7 раза. Ми взяли надійнішу цифру виробника; вам варто робити так само і не довіряти агрегаторам наосліп.

Пам’ять важливіша за бренд. Якщо розглядаєте локальний ШІ всерйоз, моделі з DDR5 SO-DIMM (MINISFORUM, Acemagic, Framework) об’єктивно перспективніші: вони дають дорогу до 64-128 ГБ. Запаяні 32 ГБ — стеля назавжди.

eGPU як страховка. Частина міні-ПК (MINISFORUM X1 Pro-370, Acemagic F3A) несе порт OCuLink — це пряме підключення PCIe 4.0 x4 для зовнішньої відеокарти з втратою, за даними одного огляду, близько 5-10% проти прямого слота. Це реальний сценарій: власники поєднують HX 370 із зовнішньою RTX 3090 через докстанцію — легкі моделі крутить iGPU, важкі йдуть на дискретну карту. У Beelink SER9 (без Pro) такого порту немає — апгрейд через eGPU для нього закритий.

Якщо потрібен ширший розбір варіантів — від Mac до дискретних GPU — дивіться наш гід із заліза для локального ШІ.

Місце в загальній картині: Apple M і Intel Lunar Lake

Щоб зрозуміти, де стоїть HX 370 у ряду, корисно порівняти за тією самою метрикою — пропускною здатністю пам’яті, головним обмежувачем швидкості LLM.

  • Apple Silicon. Тут HX 370 відстає: MacBook на M1 Pro (256-бітна шина, 200 ГБ/с) видає близько 22 tok/s на 8B, M3 Max (512 біт, 400 ГБ/с) — близько 45 tok/s. Якщо розглядаєте Mac як альтернативну платформу, у нас є окремий розбір Mac mini M4 Pro для локальних LLM. Цікавий нюанс: M3 Pro (192 біти, 150 ГБ/с) за шиною вже за M1 Pro — рідкісний випадок регресу, і на локальних LLM це помітно. За цим параметром HX 370 у 2-4 раза повільніший за середній чип Apple M-серії. Оцінні tok/s для Apple — екстраполяція за формулою пропускної здатності, а не прямий вимір автора.
  • Intel Lunar Lake. Прямий конкурент у сегменті Copilot+: Core Ultra 258V несе 48 TOPS NPU і, за даними агрегатора, близько 136 ГБ/с пам’яті — вище, ніж 89,6-120 ГБ/с у HX 370. Цифру пам’яті Lunar Lake ми не перевіряли на першоджерелі Intel, тому беремо її як орієнтир позиціонування, не як точне значення.

Загальний сенс: HX 370 — міцний середняк платформи x86 для локального ШІ, але за параметром «пам’ять на швидкість» і Apple M-серія, і старший Strix Halo його обходять. Натомість він дає ціну й повноцінну Windows-екосистему.

Ризики та підводні камені

Розділ обмежень — те, про що не пишуть у промо міні-ПК.

  • Стіна пропускної здатності невиліковна. 89,6-120 ГБ/с — жорстка фізична стеля швидкості генерації. Її не підняти драйвером чи прошивкою: єдиний спосіб пришвидшитися на великих моделях — змінити платформу (Strix Halo, дискретний GPU) або вдатися до спекулятивного декодування.
  • Запаяна пам’ять — пастка на старті. Beelink, GMKtec, GEEKOM продають 32 ГБ без можливості апгрейду. Вибір моделі на етапі купівлі визначає стелю назавжди. Хочете шлях до великих моделей — беріть платформу з DDR5 SO-DIMM.
  • Лотерея ROCm. Розкид у 3,4 раза між збірками драйвера означає, що результат «з коробки» непередбачуваний. Потрібна готовність возитися з версіями й бекендами; хто чекає «поставив і працює» — розчарується.
  • Провал Ollama на gfx1150. Найпопулярніший лаунчер LLM на цьому чипі без танців із бубном працює повільніше за CPU. Реалістичний шлях — llama.cpp або LM Studio на Vulkan, а не Ollama за замовчуванням.
  • NPU не пришвидшує генерацію. «50 TOPS» продають як ШІ-міць, але для декодування моделей 7B+ NPU майже марний — він про Copilot+ і префіл.
  • Голос власника. Показово, що реальний покупець Beelink SER9 у відгуку на офіційному сайті прямо попереджає наступних: для запуску ШІ-моделей «потрібно набагато більше оперативної пам’яті й потужності GPU, шукайте інше залізо». Непрохане підтвердження того самого висновку, до якого ведуть цифри.

Кому підійде HX 370, а кому 395 або eGPU

HX 370 підійде, якщо:

  • ваші моделі вкладаються в 7-14B (асистент, сумаризація, код, локальний RAG на малих моделях);
  • потрібен тихий компактний міні-ПК з повноцінною Windows і Copilot+ на батареї;
  • бюджет обмежений діапазоном 889-1439 доларів;
  • ви готові працювати через Vulkan і не боїтеся налаштування бекендів.

Дивіться в бік Strix Halo 395 або дискретної GPU, якщо:

  • потрібні моделі 30B+ щільні або 70B на інтерактивній швидкості;
  • важлива максимальна пропускна здатність пам’яті — тоді 256 ГБ/с у Ryzen AI Max+ 395 вирішують справу (та сама розвилка Ryzen AI Max 395 чи HX 370, що й у ціні);
  • ви готові до eGPU: міні-ПК з OCuLink плюс зовнішня RTX знімають обмеження iGPU для важких завдань.

Підсумкова думка без прикрас: HX 370 — це доступна, чесна сходинка локального ШІ, а не урізаний Strix Halo. Він рівно настільки хороший, наскільки ваші моделі вміщуються в його 128-бітну шину. Знаєте свій розмір моделі — знаєте, ваш це чип чи ні.

FAQ

Скільки токенів на секунду видає HX 370 на моделі 7B?

За незалежним виміром від 10 лютого 2026 щільна Qwen3-8B у кванті Q4_K_M через Vulkan дає близько 13,4 токена за секунду від мережі і 9,9 від батареї. На ROCm у вдалій збірці драйвера траплялися 16 tok/s. Маркетингові «30-50 tok/s» реальними конфігураціями не підтверджуються.

Чи вистачить NPU на 50 TOPS для запуску LLM?

Для генерації токенів на моделях 7B і вище — ні. NPU XDNA2 корисний для Copilot+, малих моделей на 1-3B і пришвидшення префілу (обробки промпту), але саму генерацію в llama.cpp та ollama виконує графіка через Vulkan. «50 TOPS» — не мірило швидкості локальних LLM.

Чи запуститься модель 70B на міні-ПК з HX 370?

Технічно так, якщо це модель з DDR5 SO-DIMM і 128 ГБ пам’яті (наприклад, Acemagic F3A): ServeTheHome підтверджує багатотижневу роботу llama3.3-70b. Але за нашим розрахунком через пропускну здатність швидкість — близько 1-2 tok/s. Це годиться для фонового пакетного прогону, але не для живого діалогу.

Який міні-ПК на HX 370 обрати під локальний ШІ?

Якщо плануєте великі моделі — беріть платформу з апгрейдною DDR5 SO-DIMM (MINISFORUM X1 Pro-370, Acemagic F3A): вони розширюються до 128 ГБ і часто мають OCuLink для зовнішньої відеокарти. Якщо вистачить 7-14B — підійде будь-який із доступних (GMKtec EVO-X1 від 889 доларів, GEEKOM A9 Max 999), але 32 ГБ запаяної пам’яті стануть стелею назавжди.

Чи працює Ollama на Radeon 890M?

З коробки — погано. Ollama не підтримує gfx1150 нативно; форсований запуск через перевизначення версії GFX дає близько 6,4 tok/s, що у 2,5 раза повільніше за CPU. Відкритий issue #9999 у репозиторії ollama це підтверджує. Практичніше використовувати llama.cpp або LM Studio на бекенді Vulkan.

Чим HX 370 гірший за Ryzen AI Max+ 395?

Двома речами: пам’яттю й графікою. Пропускна здатність 89,6-120 ГБ/с проти 256 ГБ/с у 395 (у 2,1-2,9 раза) і 16 CU графіки проти 40. Нейропроцесор у чипів однаковий — 50 TOPS. На практиці це означає, що 395 тримає моделі 30-70B на живій швидкості, а HX 370 — зона 7-14B і MoE.

Поділитися
Зв'язатися:
Крипто- та data-аналітик, інженер-програміст (факультет комп'ютерних наук ХНУРЕ). В IT з 2008 року: адміністрував корпоративний моніторинг у «Vodafone Україна», сім років розробляв і просував веб-проєкти, п'ять років керував маркетингом на метриках — конверсія, CTR, ROI, LTV.Криптовалютними ринками займаюся з 2021 року: ончейн-метрики, токеноміка, макроекономічні індикатори. Розробив власну data-driven модель аналізу ринку на 30+ метрик. Стек — Python (pandas, NumPy, SciPy, matplotlib), математична статистика та EDA; збір і звірку даних автоматизую AI-агентами.Принцип — «Don't trust, verify»: кожна цифра перевірена за першоджерелом, ключові — щонайменше за двома незалежними; прогнози — лише сценарії з умовами. Теза без даних не публікується.