Коротко (TL;DR)
AMD Ryzen AI 9 HX 370 (кодова назва Strix Point) — доступний вхідний квиток у локальний ШІ на міні-ПК: 12-ядерний Zen 5, вбудована графіка Radeon 890M і нейропроцесор XDNA2 на 50 TOPS. Той самий чип стоїть і в ноутбуках (наприклад, Framework 13), тож усе нижче однаково стосується і запуску LLM локально на ноутбуці, і роботи на компактному міні-ПК. Він упевнено тягне моделі на 7-14 мільярдів параметрів і пришвидшує сценарії Copilot+ на NPU. Головну роль тут відіграє не кількість ядер, а пропускна здатність пам’яті — саме вона задає стелю.
- Коротко (TL;DR)
- Що за чип: Zen 5, Radeon 890M і NPU на 50 TOPS
- Головна розвилка: запаяна LPDDR5x проти DDR5 SO-DIMM
- Чим це НЕ Strix Halo 395
- Скільки це в токенах: реальні tok/s проти маркетингу
- Що реально влазить: від 8B до 70B
- Роль NPU: Copilot+ і префіл, а не генерація токенів
- Софт: Vulkan, лотерея ROCm і провал Ollama
- Який міні-ПК обрати: ціни та позиціонування
- Місце в загальній картині: Apple M і Intel Lunar Lake
- Ризики та підводні камені
- Кому підійде HX 370, а кому 395 або eGPU
- FAQ
Що варто знати одразу:
- Реальна швидкість скромніша за маркетинг. За незалежним виміром від 10 лютого 2026 щільна модель Qwen3-8B у кванті Q4_K_M на Radeon 890M через Vulkan видає близько 13,4 токена за секунду при живленні від мережі. SEO-огляди міні-ПК обіцяють «7B: 30-50 tok/s» — це у 2,2-3,7 раза вище за те, що видно на реальній конфігурації.
- MoE-моделі йдуть бадьоріше, ніж очікуєш. Той самий стенд на gpt-oss-20B (архітектура Mixture-of-Experts) дає близько 23,4 токена за секунду — швидше за щільну 8B, хоча файл моделі вдвічі більший.
- HX 370 — це не «Strix Halo дешевше». У старшого Ryzen AI Max+ 395 (Strix Halo) пропускна здатність пам’яті 256 ГБ/с проти 89,6-120 ГБ/с тут — розрив у 2,1-2,9 раза. Це різниця не у відтінках, а в класі завдань. Якщо потрібні моделі 30B+ на живій швидкості, читайте наш розбір Ryzen AI Max+ 395 для локальних LLM — це сходинка вище.
- Пам’ять у більшості міні-ПК запаяна. Beelink, GMKtec, GEEKOM ставлять 32 ГБ LPDDR5x без апгрейду. Моделі на DDR5 SO-DIMM (MINISFORUM X1 Pro-370, Acemagic F3A) розширюються до 128 ГБ — але це рішення виробника плати, а не властивість чипа.
- Ціна входу — від 889 доларів за 32-гігабайтні конфігурації на початок липня 2026.
Висновок: HX 370 — чесний робочий інструмент для моделей 7-14B і NPU-пришвидшених завдань Windows. За серйозними моделями 30B+ на інтерактивній швидкості дорога веде або до Strix Halo 395, або до дискретної відеокарти через eGPU. Нижче — цифри, методики й розвилки вибору.
Що за чип: Zen 5, Radeon 890M і NPU на 50 TOPS
Ryzen AI 9 HX 370 представлений у 2024 році як флагман мобільної лінійки Ryzen AI 300 (Strix Point). Це гібридний процесор: 12 ядер діляться на 4 великих Zen 5 і 8 компактних Zen 5c, загалом 24 потоки, з максимальною частотою до 5,1 ГГц (дані AMD і TechPowerUp). Усередині — три обчислювачі, і для локального ШІ важливі два з них: вбудована графіка та нейропроцесор.
- Radeon 890M — інтегрована графіка на архітектурі RDNA 3.5: 16 обчислювальних блоків (CU), 1024 шейдерних ядра, до 2900 МГц. За каталогом GadgetVersus продуктивність Radeon 890M — приблизно 5939 GFLOPS у FP32. Саме GPU виконує генерацію токенів у більшості інструментів.
- NPU XDNA2 — нейропроцесор на 50 TOPS (INT8). AMD підсумовує «до 80 TOPS» по всіх трьох обчислювачах (CPU+GPU+NPU), але для інференсу LLM ця загальна цифра майже нічого не означає — GPU і NPU працюють окремо.
- Пам’ять — контролер підтримує DDR5 і LPDDR5x, два канали, офіційний рейтинг DDR5-5600 / LPDDR5x-8000, до 256 ГБ.
- Тепловий пакет — за замовчуванням 28 Вт, налаштовуваний діапазон cTDP 15-54 Вт. Верхню межу обирає виробник міні-ПК, і на практиці багато хто йде навіть вище: iXBT прямим виміром зафіксував у Beelink SER9 Pro стійкі 65 Вт під 15-хвилинним навантаженням, у GEEKOM A9 Max заявлені 54 Вт.
Нижче — паспортні характеристики однією таблицею.Параметр Значення Архітектура CPU 4×Zen 5 + 8×Zen 5c, 12 ядер / 24 потоки Макс. частота до 5,1 ГГц iGPU Radeon 890M, RDNA 3.5, 16 CU / 1024 шейдери, до 2900 МГц GPU FP32 ≈5939 GFLOPS NPU XDNA2, 50 TOPS (INT8); сумарно CPU+GPU+NPU до 80 TOPS Пам’ять DDR5-5600 / LPDDR5x-8000, 2 канали, до 256 ГБ Пропускна здатність 89,6 ГБ/с (DDR5-5600) / ≈120 ГБ/с (LPDDR5x-7500) TDP 28 Вт за замовчуванням, cTDP 15-54 Вт
Джерело специфікацій — офіційна сторінка AMD і каталог TechPowerUp (збігаються до цифри); параметри GPU додатково звірені на GadgetVersus.
Головна розвилка: запаяна LPDDR5x проти DDR5 SO-DIMM
Швидкість локальної LLM насамперед упирається не в обчислювальну потужність, а в пропускну здатність пам’яті. Логіка проста: щоб згенерувати один токен, модель має прочитати всі свої активні ваги з оперативної пам’яті. Що ширша «труба» між чипом і пам’яттю, то більше токенів за секунду. Розробник, який незалежно виміряв це на ноутбуці Framework 13 з HX 370, називає цифру пропускної здатності прямо — «the hard wall», стіна.
У HX 370 звичайна 128-бітна шина. Звідси два реальні сценарії:
- DDR5-5600 (SO-DIMM, апгрейд). Теоретичний максимум — 89,6 ГБ/с. Це і каталожна цифра TechPowerUp, і результат незалежного розрахунку з виводу ядра на Framework 13: 5600 МТ/с × 128 біт / 8 = 89,6 ГБ/с.
- LPDDR5x-7500 (запаяна, без апгрейду). Більшість міні-ПК 2026 року (Beelink SER9 Pro, GMKtec EVO-X1) ставлять саме такі чипи. За тією ж формулою 7500 МТ/с × 128 біт / 8 ≈ 120 ГБ/с. Зауважте: запаяна пам’ять тут навіть трохи швидша за апгрейдну DDR5 — плата за це — неможливість її наростити.
І ось ключовий момент вибору конкретної моделі. Тип пам’яті вирішує виробник плати, а не чип:
- Запаяно назавжди: Beelink SER9 Pro, GMKtec EVO-X1, GEEKOM A9 Max — зазвичай 32 ГБ LPDDR5x-7500. Що купив, з тим і живеш.
- Апгрейдиться до 128 ГБ: MINISFORUM AI X1 Pro-370, Acemagic F3A, Framework 13 — слоти DDR5 SO-DIMM.
Звідси пряме слідство: якщо берете міні-ПК під локальний ШІ і хочете залишити собі шлях до великих моделей, апгрейдна DDR5 SO-DIMM важливіша за зайві мегагерци. Запаяні 32 ГБ ставлять жорстку стелю одразу й назавжди.
Чим це НЕ Strix Halo 395
Найчастіше питання про HX 370 звучить так: це ж той самий чип, що і в дорогих Strix Halo, тільки дешевше? Ні. Ryzen AI Max+ 395 (Strix Halo) — інший клас кремнію з 256-бітною уніфікованою пам’яттю. Розберемо розрив у цифрах, а не в маркетингових TOPS.Параметр Ryzen AI 9 HX 370 (Strix Point) Ryzen AI Max+ 395 (Strix Halo) Розрив Пропускна здатність пам’яті 89,6-120 ГБ/с 256 ГБ/с у 2,1-2,9 раза iGPU Radeon 890M, 16 CU Radeon 8060S, 40 CU у 2,5 раза більше CU GPU FP32 ≈5939 GFLOPS ≈14 848 GFLOPS у 2,5 раза NPU XDNA2, 50 TOPS XDNA2, 50 TOPS однаково Макс. пам’ять (тип) до 256 ГБ (DDR5 SO-DIMM) до 128 ГБ (LPDDR5x, запаяна)
Дані — GadgetVersus і TechPowerUp; цифру 256 ГБ/с у 395 підтверджує і наш власний розбір Ryzen AI Max+ 395 для нейромереж, де ця платформа розглянута як сходинка вище.
Ключові висновки з таблиці:
- Перевага 395 — у пам’яті та GPU, а не в NPU. Нейропроцесор в обох чипів ідентичний: 50 TOPS XDNA2. Маркетинговий рядок «50 TOPS NPU» на коробці HX 370 і 395 — той самий; усе вирішують ширина шини й кількість блоків графіки.
- Розрив у 2,5-3 раза — це перехід між класами завдань. У 395 пам’яті й смуги пропускання достатньо, щоб тримати модель 70B на живій швидкості; у HX 370 та сама 70B фізично завантажиться, але про комфортну генерацію мова не йде (математику покажемо нижче).
- Натомість HX 370 віддає ціну. Міні-ПК на 395 коштують помітно дорожче; HX 370 стартує від 889 доларів. За ці гроші ви отримуєте 7-14B локально — і це чесний розмін, якщо завдання в нього вкладаються.
- Парадокс ємності. Офіційна стеля пам’яті у HX 370 навіть вища — до 256 ГБ DDR5 SO-DIMM проти 128 ГБ запаяної LPDDR5x у 395. Але обсяг без смуги не рятує: на вузькій шині велика модель завантажиться і повзтиме — ємність вирішує «чи влізе», а швидкість усе одно впирається в bandwidth.
Скільки це в токенах: реальні tok/s проти маркетингу
Тут — головний information gain огляду. Жоден знайдений огляд міні-ПК (ні EN, ні RU) не наводить tok/s із повною конфігурацією: модель + квант + бекенд + живлення. А без цих умов цифра нічого не означає — «5 tok/s» на невідомій моделі й «30-50 tok/s» без кванта однаково марні. Нижче — тільки виміри з розкритою методикою.Модель / квант Бекенд Умови Генерація (tg128), tok/s Джерело, дата Qwen3-8B Q4_K_M (щільна) Vulkan (RADV) живлення від мережі ≈13,4 msf.github.io, 10.02.2026 Qwen3-8B Q4_K_M (щільна) Vulkan від батареї ≈9,9 msf.github.io, 10.02.2026 gpt-oss-20B MXFP4 (MoE) Vulkan живлення від мережі ≈23,4 msf.github.io, 10.02.2026 Llama-2-7B Q4_0 (щільна) ROCm/HIP Linux, білд b9127 ≈16,1-16,7 GitHub #15021, 13.05.2026 Qwen3.5-35B-A3B / Gemma-4-26B (MoE) Vulkan/Lemonade реальне навантаження 10-16 (генерація) notes.alelec.net, 13.04.2026 «Маркетинг»: 7B Q4 не вказано не вказані «30-50» (заява) SEO-огляд, без методики «Маркетинг»: LLaMA-2-13B не вказано не вказані «5» (заява) SEO-огляд, без методики
Що з цього випливає.
Маркетинг завищує у 2,2-3,7 раза. Заяви «7B на 30-50 tok/s» із сайтів-агрегаторів не підкріплені ні квантом, ні бекендом, ні версією. Реальні 13,4 tok/s на Qwen3-8B — це у 2,2-3,7 раза менше за обіцяні «30-50 tok/s» (тобто на 55-73% нижче маркетингового діапазону). Довіри таким джерелам мало ще й з іншої причини: у тій самій SEO-статті про міні-ПК трапляється фактична помилка «12 ядер Zen 4» (насправді Zen 5) — цифри звідти брати не варто.
Перевірка на правдоподібність. Ми перерахували вимір 8B через пропускну здатність: 4,68 ГіБ ваг × 1,074 × 13,41 токена/с ≈ 67,4 ГБ/с, тобто 75% від стелі 89,6 ГБ/с. Цифра фізично чесна — вона не завищена і близька до теоретичної межі шини. Це та сама стіна: програмою її не пробити, тільки заміною заліза.
Чому MoE обганяє щільні моделі. Контрінтуїтивний, але важливий факт: gpt-oss-20B (23,4 tok/s) швидша за щільну Qwen3-8B (13,4 tok/s), хоча файл удвічі більший. Причина — архітектура Mixture-of-Experts: на кожен токен модель читає з пам’яті не все дерево ваг, а лише активних «експертів» (у 20B їхній еквівалент — одиниці мільярдів параметрів). Менше читань із пам’яті на токен — вища швидкість. Тому на пам’ять-обмеженому залізі на кшталт HX 370 MoE-моделі дають кращий розмін «розмір проти швидкості», ніж щільні аналоги.
Єдиний софт-трюк, що пробиває стіну. Спекулятивне декодування — коли маленька чорнова модель (наприклад, 0,6B) передбачає токени, а основна 8B лише перевіряє їх пачками — за опублікованими вимірами додає 64-82% до швидкості генерації без заміни заліза. Жоден огляд міні-ПК про це не пише, а це буквально єдиний спосіб додати швидкості, не впираючись у шину.
Що реально влазить: від 8B до 70B
Правило приблизної оцінки: потрібний обсяг пам’яті під модель ≈ кількість параметрів × байт на параметр у обраному кванті, плюс запас на контекст. У Q4 (близько 0,5-0,6 байта на параметр за фактом зберігання) картина така.
- 7-8B (Q4). Комфортна зона: 13-16 tok/s на реальних вимірах. Влазить навіть у 32 ГБ, лишається місце під контекст. Це основний сценарій HX 370 — асистент, сумаризація, кодові підказки.
- 13-14B (Q4). Працює, швидкість закономірно нижча (за логікою пропускної здатності — приблизно вдвічі повільніше за 7B). Живий чат ще прийнятний.
- 20-35B MoE. Несподівано робоча зона за рахунок ефекту активних ваг: 10-23 tok/s. Причому notes.alelec.net навів не синтетику, а реальний прогін — 4051 issue з GitHub за 40 годин на 56 ГБ LPDDR5x. Це прямий контраргумент тезі «локальний ШІ на HX 370 марний».
- 70B (Q4). Окрема розмова. На міні-ПК з DDR5 SO-DIMM і 128 ГБ (Acemagic F3A) моделі llama3.3-70b і deepseek-r1-70b, за свідченням ServeTheHome, «крутяться кілька тижнів» — тобто технічно запускаються. Але видання не публікує tok/s. Прикинемо самі: за 89,6 ГБ/с і вагах 70B Q4 близько 40 ГБ розрахункова стеля — 89,6 / (40 × 1,074) ≈ 2,1 tok/s. Це наша оцінка за математикою пропускної здатності, а не вимір. Практичний висновок один: 70B на HX 370 «працює» у сенсі «завантажується і не падає», але для інтерактивного чату 2 tok/s непридатні. Це швидкість фонового пакетного прогону, не діалогу.
| Розмір моделі (Q4) | Статус на HX 370 | Орієнтир швидкості |
|---|---|---|
| 7-8B щільна | комфортно | 13-16 tok/s (вимір) |
| 13-14B щільна | робоче, повільніше | ≈6-9 tok/s (оцінка) |
| 20-35B MoE | робоче, бадьоро | 10-23 tok/s (вимір) |
| 70B щільна | завантажується, але не для чату | ≈1-2 tok/s (наш розрахунок, не вимір) |
Роль NPU: Copilot+ і префіл, а не генерація токенів
Окремо про нейропроцесор, бо навколо «50 TOPS» багато плутанини. XDNA2 у HX 370 — це 12 незалежних обчислювальних кластерів із векторними блоками; поріг сертифікації Microsoft Copilot+ для NPU становить 40 TOPS, і 50 TOPS його перевищують. Але для запуску повнорозмірних LLM роль NPU скромніша, ніж здається за цифрою на коробці.
Що реально робить NPU:
- Copilot+ і малі моделі. Windows-функції ШІ (через ONNX і DirectML) і моделі на 1-3B параметрів — тут NPU на своєму місці й економить батарею.
- Префіл (обробка промпту). За академічним аналізом етап префілу на NPU стабільно приблизно втричі швидший, ніж на GPU. Це допомагає на довгих контекстах і в RAG-сценаріях.
Чого NPU майже не робить: генерації токенів на моделях 7B і вище. Більшість інструментів (llama.cpp, ollama) декодують на GPU через Vulkan, а NPU не залучають безпосередньо взагалі. Як чесно формулює незалежна картка заліза RunLocalAI, «підтримка NPU з боку фреймворків тонка — більшість інференсу все одно йде на iGPU». Висновок: вважати «50 TOPS NPU» мірилом швидкості локальних LLM — помилка. За генерацію відповідають GPU й пам’ять.
Софт: Vulkan, лотерея ROCm і провал Ollama
Тут HX 370 розставляє пастки, про які огляди заліза мовчать, а знаходяться вони лише в блогах практиків і трекерах багів. Три граблі, які варто знати до покупки.
Ollama не підтримує gfx1150 нативно. Radeon 890M має ідентифікатор gfx1150, і станом на квітень 2026 Ollama не вміє з ним працювати з коробки. Спроба форсувати через HSA_OVERRIDE_GFX_VERSION дає близько 6,4 tok/s — це у 2,5 раза повільніше, ніж чистий інференс на CPU того самого чипа (notes.alelec.net). Проблема не вигадана: запит на нормальну підтримку висить відкритим issue #9999 у репозиторії ollama/ollama. Якщо ваш план був «поставлю Ollama в один клік» — на цьому залізі він спіткнеться.
ROCm — лотерея версій драйвера. Найковарніше. На тому самому чипі Radeon 890M різні збірки ROCm/HIP дають розкид швидкості у 3,4 раза: в одного тестувальника через ROCm виходило 4,76 tok/s, у незалежного користувача на GitHub (білд b9127, травень 2026) — 16,1-16,7 tok/s. Це не похибка виміру, а різні версії драйвера й білда llama.cpp. Тому до будь-якого поодинокого «ROCm видає X tok/s» варто ставитися обережно: у сусіда на тій самій карті буде інша цифра. Практичний висновок — попереджати про нестабільність, а не видавати одну цифру за істину.
Vulkan — найнадійніший шлях. На практиці RADV/Vulkan виявляється найпередбачуванішим для інтерактивної генерації. У ROCm/HIP є окрема біда: через hipMalloc він бачить лише зарезервовану BIOS відеопам’ять (зазвичай від 512 МБ до 4 ГБ) і ігнорує спільний пул GTT — велика модель просто не поміщається. У vLLM та сама залежність і та сама проблема. На Linux це лікується явним виділенням GTT, але на Windows більшість інструментів спотикаються. Практична рекомендація спільноти й наших джерел: для локального чату на HX 370 починати з Vulkan через llama.cpp або LM Studio, ROCm тримати для довгого контексту й RAG, де важливий префіл.
Який міні-ПК обрати: ціни та позиціонування
На ринку станом на липень 2026 — кілька міні-ПК для нейромереж 2026 на базі HX 370, і різняться вони не стільки чипом (він той самий), скільки пам’яттю й охолодженням. Ціни волатильні, тому подані з датою знімка.Міні-ПК Пам’ять Ціна (поч. липня 2026) Особливості GMKtec EVO-X1 32 ГБ LPDDR5x (запаяна) від 889 дол. (було 1299,99) найдоступніший вхід; на дату знімка розпродано GEEKOM A9 Max 32 ГБ (запаяна) 999 дол. ціна у виробника й на Amazon Beelink SER9 Pro 32 ГБ LPDDR5x-7500 (запаяна) 1149 дол. (було 1399) стійкий TDP 65 Вт за виміром iXBT MINISFORUM AI X1 Pro-370 DDR5 SO-DIMM, до 128 ГБ ≈1179 дол. (32/1ТБ) апгрейд пам’яті + OCuLink для eGPU Acemagic F3A DDR5 SO-DIMM, до 128 ГБ н/д запускав 70B; OCuLink ASUS NUC 14 Pro AI 32 ГБ 1439 дол. сертифікація Copilot+
Три практичні зауваги.
Звіряйте ціну у виробника. GEEKOM A9 Max — наочний приклад: незалежне видання Notebookcheck називає 999 доларів, а один affiliate-агрегатор у той самий період — 1689 доларів, різниця майже у 1,7 раза. Ми взяли надійнішу цифру виробника; вам варто робити так само і не довіряти агрегаторам наосліп.
Пам’ять важливіша за бренд. Якщо розглядаєте локальний ШІ всерйоз, моделі з DDR5 SO-DIMM (MINISFORUM, Acemagic, Framework) об’єктивно перспективніші: вони дають дорогу до 64-128 ГБ. Запаяні 32 ГБ — стеля назавжди.
eGPU як страховка. Частина міні-ПК (MINISFORUM X1 Pro-370, Acemagic F3A) несе порт OCuLink — це пряме підключення PCIe 4.0 x4 для зовнішньої відеокарти з втратою, за даними одного огляду, близько 5-10% проти прямого слота. Це реальний сценарій: власники поєднують HX 370 із зовнішньою RTX 3090 через докстанцію — легкі моделі крутить iGPU, важкі йдуть на дискретну карту. У Beelink SER9 (без Pro) такого порту немає — апгрейд через eGPU для нього закритий.
Якщо потрібен ширший розбір варіантів — від Mac до дискретних GPU — дивіться наш гід із заліза для локального ШІ.
Місце в загальній картині: Apple M і Intel Lunar Lake
Щоб зрозуміти, де стоїть HX 370 у ряду, корисно порівняти за тією самою метрикою — пропускною здатністю пам’яті, головним обмежувачем швидкості LLM.
- Apple Silicon. Тут HX 370 відстає: MacBook на M1 Pro (256-бітна шина, 200 ГБ/с) видає близько 22 tok/s на 8B, M3 Max (512 біт, 400 ГБ/с) — близько 45 tok/s. Якщо розглядаєте Mac як альтернативну платформу, у нас є окремий розбір Mac mini M4 Pro для локальних LLM. Цікавий нюанс: M3 Pro (192 біти, 150 ГБ/с) за шиною вже за M1 Pro — рідкісний випадок регресу, і на локальних LLM це помітно. За цим параметром HX 370 у 2-4 раза повільніший за середній чип Apple M-серії. Оцінні tok/s для Apple — екстраполяція за формулою пропускної здатності, а не прямий вимір автора.
- Intel Lunar Lake. Прямий конкурент у сегменті Copilot+: Core Ultra 258V несе 48 TOPS NPU і, за даними агрегатора, близько 136 ГБ/с пам’яті — вище, ніж 89,6-120 ГБ/с у HX 370. Цифру пам’яті Lunar Lake ми не перевіряли на першоджерелі Intel, тому беремо її як орієнтир позиціонування, не як точне значення.
Загальний сенс: HX 370 — міцний середняк платформи x86 для локального ШІ, але за параметром «пам’ять на швидкість» і Apple M-серія, і старший Strix Halo його обходять. Натомість він дає ціну й повноцінну Windows-екосистему.
Ризики та підводні камені
Розділ обмежень — те, про що не пишуть у промо міні-ПК.
- Стіна пропускної здатності невиліковна. 89,6-120 ГБ/с — жорстка фізична стеля швидкості генерації. Її не підняти драйвером чи прошивкою: єдиний спосіб пришвидшитися на великих моделях — змінити платформу (Strix Halo, дискретний GPU) або вдатися до спекулятивного декодування.
- Запаяна пам’ять — пастка на старті. Beelink, GMKtec, GEEKOM продають 32 ГБ без можливості апгрейду. Вибір моделі на етапі купівлі визначає стелю назавжди. Хочете шлях до великих моделей — беріть платформу з DDR5 SO-DIMM.
- Лотерея ROCm. Розкид у 3,4 раза між збірками драйвера означає, що результат «з коробки» непередбачуваний. Потрібна готовність возитися з версіями й бекендами; хто чекає «поставив і працює» — розчарується.
- Провал Ollama на gfx1150. Найпопулярніший лаунчер LLM на цьому чипі без танців із бубном працює повільніше за CPU. Реалістичний шлях — llama.cpp або LM Studio на Vulkan, а не Ollama за замовчуванням.
- NPU не пришвидшує генерацію. «50 TOPS» продають як ШІ-міць, але для декодування моделей 7B+ NPU майже марний — він про Copilot+ і префіл.
- Голос власника. Показово, що реальний покупець Beelink SER9 у відгуку на офіційному сайті прямо попереджає наступних: для запуску ШІ-моделей «потрібно набагато більше оперативної пам’яті й потужності GPU, шукайте інше залізо». Непрохане підтвердження того самого висновку, до якого ведуть цифри.
Кому підійде HX 370, а кому 395 або eGPU
HX 370 підійде, якщо:
- ваші моделі вкладаються в 7-14B (асистент, сумаризація, код, локальний RAG на малих моделях);
- потрібен тихий компактний міні-ПК з повноцінною Windows і Copilot+ на батареї;
- бюджет обмежений діапазоном 889-1439 доларів;
- ви готові працювати через Vulkan і не боїтеся налаштування бекендів.
Дивіться в бік Strix Halo 395 або дискретної GPU, якщо:
- потрібні моделі 30B+ щільні або 70B на інтерактивній швидкості;
- важлива максимальна пропускна здатність пам’яті — тоді 256 ГБ/с у Ryzen AI Max+ 395 вирішують справу (та сама розвилка Ryzen AI Max 395 чи HX 370, що й у ціні);
- ви готові до eGPU: міні-ПК з OCuLink плюс зовнішня RTX знімають обмеження iGPU для важких завдань.
Підсумкова думка без прикрас: HX 370 — це доступна, чесна сходинка локального ШІ, а не урізаний Strix Halo. Він рівно настільки хороший, наскільки ваші моделі вміщуються в його 128-бітну шину. Знаєте свій розмір моделі — знаєте, ваш це чип чи ні.
FAQ
Скільки токенів на секунду видає HX 370 на моделі 7B?
За незалежним виміром від 10 лютого 2026 щільна Qwen3-8B у кванті Q4_K_M через Vulkan дає близько 13,4 токена за секунду від мережі і 9,9 від батареї. На ROCm у вдалій збірці драйвера траплялися 16 tok/s. Маркетингові «30-50 tok/s» реальними конфігураціями не підтверджуються.
Чи вистачить NPU на 50 TOPS для запуску LLM?
Для генерації токенів на моделях 7B і вище — ні. NPU XDNA2 корисний для Copilot+, малих моделей на 1-3B і пришвидшення префілу (обробки промпту), але саму генерацію в llama.cpp та ollama виконує графіка через Vulkan. «50 TOPS» — не мірило швидкості локальних LLM.
Чи запуститься модель 70B на міні-ПК з HX 370?
Технічно так, якщо це модель з DDR5 SO-DIMM і 128 ГБ пам’яті (наприклад, Acemagic F3A): ServeTheHome підтверджує багатотижневу роботу llama3.3-70b. Але за нашим розрахунком через пропускну здатність швидкість — близько 1-2 tok/s. Це годиться для фонового пакетного прогону, але не для живого діалогу.
Який міні-ПК на HX 370 обрати під локальний ШІ?
Якщо плануєте великі моделі — беріть платформу з апгрейдною DDR5 SO-DIMM (MINISFORUM X1 Pro-370, Acemagic F3A): вони розширюються до 128 ГБ і часто мають OCuLink для зовнішньої відеокарти. Якщо вистачить 7-14B — підійде будь-який із доступних (GMKtec EVO-X1 від 889 доларів, GEEKOM A9 Max 999), але 32 ГБ запаяної пам’яті стануть стелею назавжди.
Чи працює Ollama на Radeon 890M?
З коробки — погано. Ollama не підтримує gfx1150 нативно; форсований запуск через перевизначення версії GFX дає близько 6,4 tok/s, що у 2,5 раза повільніше за CPU. Відкритий issue #9999 у репозиторії ollama це підтверджує. Практичніше використовувати llama.cpp або LM Studio на бекенді Vulkan.
Чим HX 370 гірший за Ryzen AI Max+ 395?
Двома речами: пам’яттю й графікою. Пропускна здатність 89,6-120 ГБ/с проти 256 ГБ/с у 395 (у 2,1-2,9 раза) і 16 CU графіки проти 40. Нейропроцесор у чипів однаковий — 50 TOPS. На практиці це означає, що 395 тримає моделі 30-70B на живій швидкості, а HX 370 — зона 7-14B і MoE.
