AMD Instinct MI350P: що вміє PCIe-прискорювач на 144 ГБ HBM3E і кому він справді потрібен

Коротко (TL;DR)

AMD Instinct MI350P — це прискорювач для штучного інтелекту у форм-факторі звичайної PCIe-карти (як відеокарта, тільки вставляється у серверний слот PCIe 5.0). Його головна валюта — 144 ГБ пам’яті HBM3E на одній карті з пропускною здатністю 4 ТБ/с. Для порівняння: у прямого конкурента NVIDIA H200 NVL — 141 ГБ. Тобто за обсягом пам’яті це карта того самого класу, але з нативною підтримкою наднадкомпактних форматів обчислень MXFP4/MXFP6, які дають змогу запакувати в цю пам’ять дуже великі мовні моделі.

Ключова ідея MI350P: занести продуктивність архітектури CDNA 4 (флагманська серверна архітектура AMD 2026 року) у стандартний сервер з повітряним охолодженням — без переходу на модулі OAM і рідинне охолодження, яких вимагають старші MI350X і MI355X. Це свідомий компроміс: ви отримуєте сумісність зі звичною інфраструктурою, але втрачаєте частину чистої продуктивності і, що важливіше, апаратний зв’язок між картами (Infinity Fabric).

Окреслимо межі розбору. MI350P — суто корпоративний продукт: на 18 липня 2026 року в нього немає оголошеної роздрібної ціни, немає незалежних тестів на реальному залізі й немає споживчого гайпу. Усе, що нижче, — розбір за офіційними специфікаціями та матеріалами профільних видань, із чесним поділом на «заявлено AMD» і «перевірено незалежно». Якщо ви шукаєте карту для домашнього запуску нейромереж — найпевніше, це не ваш продукт (наприкінці поясню, на що дивитися замість неї).

Характеристики AMD Instinct MI350P: що це технічно

Почнімо з фактів. Ось основні характеристики AMD Instinct MI350P за офіційними даними AMD (актуально на 7 травня 2026 року — дату анонсу):

Розшифруймо ключове простими словами. HBM3E (High Bandwidth Memory 3E) — це тип наднадшвидкої пам’яті, яку ставлять поряд із чипом на одній підкладці; для ШІ важливий не стільки обсяг «диска», скільки те, скільки даних модель встигає «прокачати» за секунду, і тут 4 ТБ/с — дуже багато. MXFP4/MXFP6 — компактні формати, у яких число важить 4 або 6 біт замість звичних 16; це дає змогу вмістити велику модель у ту саму пам’ять ціною невеликої втрати точності. Пасивне охолодження означає, що в карти немає власних вентиляторів — її продуває повітряний потік сервера, тому вона розрахована саме на серверне шасі, а не на настільний ПК.

Чому ІІ-лабораторії орендують дата-центри, а не будують: нова економіка compute

Коли мережі бракує: навіщо Маску турбіни на $1 млрд для ШІ-суперкомп’ютера Colossus

AMD випустила прев’ю ROCm TheRock 7.14 та оновила локальний AI-сервер Lemonade до 11.0

TSMC другий раз за рік підвищила прогноз — попит на ІІ-чипи не слабшає

NVIDIA випустила компактні ІІ-комп’ютери Jetson Thor для роботів і edge AI

Зведена таблиця: MI350P проти всієї лінійки та конкурентів NVIDIA

Жодне джерело, яке ми розбирали, не збирає всі актуальні карти в одну таблицю — тому зробимо це самі. Це наш головний information gain: тримати перед очима MI350P поряд зі старшими версіями, попередніми поколіннями та прямими конкурентами NVIDIA (дані офіційні, на 18 липня 2026 року).

Два застереження до таблиці, щоб не вводити в оману. За обсягом пам’яті B200 джерела розходяться: розрахунок з офіційних специфікацій платформи DGX B200 (ділимо на 8 карт) дає близько 180 ГБ, а окремі агрегатори вказують прямі 192 ГБ на одиночну карту SXM — розбіжність пояснюється резервуванням під корекцію помилок, тому наводимо обидві цифри. І головне: прямий конкурент MI350P — це саме H200 NVL (той самий клас: PCIe, повітряне охолодження, 600 Вт), а не топові B200/MI355X, які живуть в іншій ваговій категорії з рідинним охолодженням.

Половина MI350X, але не брак: чим MI350P відрізняється від MI350X

Логічне запитання: якщо є MI350X на 288 ГБ, то MI350P на 144 ГБ — це просто «обрізана» версія? Ні, і це важливий нюанс. Чим MI350P відрізняється від MI350X — не кількістю ввімкнених блоків на одному кристалі, а самою компонувкою чипа.

MI350X зібраний з 2 базових чиплетів (IOD) і 8 обчислювальних (XCD). MI350P — це окремо спроєктована збірка з 1 IOD і 4 XCD. Простіше кажучи, це не флагман з вимкненою половиною, а самостійний чип «у половину» флагмана. Звідси й рівно половинні цифри: 128 CU проти 256, 144 ГБ проти 288, 4 ТБ/с проти 8.

Навіщо так? Щоб карта влазила за теплом і живленням (600 Вт замість 1000–1400) у звичайний сервер з повітряним охолодженням зі слотами PCIe, а не тільки у спеціалізовані шасі під модулі OAM з рідинним охолодженням. Це знімає головний бар’єр упровадження: компанії не потрібно перебудовувати дата-центр — MI350P стає в ту саму серверну стійку, куди раніше ставили GPU.

Але за сумісність платять. Головна втрата — відсутність виведених назовні ліній Infinity Fabric (фірмова швидка шина AMD для прямого зв’язку між прискорювачами). У OAM-версій карти спілкуються одна з одною безпосередньо, оминаючи процесор; у MI350P зв’язок між картами йде тільки через шину PCIe 5.0 x16, без апаратної когерентності пам’яті. Тут два шари одного обмеження: на рівні «заліза» карти повністю самостійні (немає спільної пам’яті), а обмін даними між ними — програмний, через PCIe, що повільніше за прямий інтерконект. Для інференсу (запуску готової моделі) це часто некритично, а от для навчання великих моделей на багатьох картах — уже вузьке місце.

Окремо підкреслю, щоб не створити хибного враження: відсутність інтерконекта на PCIe-карті — це не провал AMD, а властивість форм-фактора. У NVIDIA рівно та сама історія: PCIe-версія H200 NVL теж позбавлена швидкого зв’язку, який є в модульної H200 SXM. Це загальна ціна «карти у звичайний сервер».

Заявлений пік проти «доставленої» продуктивності

Один із найкорисніших уроків цього розбору стосується не тільки AMD. Виробники люблять показувати пікові TFLOPS — теоретичний максимум, якого залізо досягає в ідеальних умовах. Реальна, «доставлена» на практичних завданнях продуктивність майже завжди нижча.

AMD цього разу повелася незвично відверто й сама розкрила розрив: за даними з таблиць профільних видань (StorageReview, The Next Platform), реально досяжна продуктивність MI350-серії становить приблизно 39–66% від заявленого піку залежно від формату обчислень — причому найгірше «доставляє» якраз один із компактних форматів, MXFP6 (близько 39%), а найкраще FP8 (близько 66%). Це не претензія до AMD — так поводиться будь-яке подібне залізо, зокрема й NVIDIA. Висновок для читача простий: голим цифрам пікової продуктивності з пресрелізу вірити не можна — ні AMD, ні NVIDIA, ні будь-чиїм іще. Дивіться на незалежні тести, а якщо їх немає (як у випадку MI350P наразі) — тримайте в голові поправку приблизно вдвічі вниз від піку, а для окремих форматів і сильніше.

Під які ШІ-завдання та моделі: скільки LLM влазить у 144 ГБ

Перейдімо до практики: скільки пам’яті потрібно для LLM і що реально вміщається у 144 ГБ MI350P. Пам’ять — головний обмежувач: модель має цілком поміститися в неї, інакше запустити її на одній карті не вийде.

Груба інженерна прикидка (тільки ваги моделі, без урахування кешу контексту; це оцінка, а не бенчмарк):

Ці цифри добре сходяться із заявленим AMD «sweet spot» карти — 200–250 млрд параметрів на одну MI350P (у компактному форматі). На практиці реальний ліміт буде нижчий за табличний, бо частину пам’яті з’їдає KV-кеш (пам’ять під контекст діалогу), і що довший контекст, то більша витрата. Якщо потрібно докладніше розібратися, як обсяг пам’яті співвідноситься з розміром моделі, у нас є окремий гід із вибору заліза для локального ШІ.

Масштабування теж вражає: 8 карт MI350P в одному шасі дають сумарно 1152 ГБ пам’яті та 32 ТБ/с пропускної здатності — цього достатньо, щоб розгорнути модель рівня трильйона параметрів у форматі MXFP4. Але пам’ятаємо про застереження вище: без Infinity Fabric ефективність такої зв’язки на завданнях навчання буде обмежена швидкістю PCIe.

MI350P проти NVIDIA H200 NVL: порівняння специфікацій

Тепер MI350P проти Nvidia H200 NVL — пряме порівняння, бо це карти одного класу.

За «сирими» характеристиками MI350P виглядає сильнішою: 144 ГБ пам’яті проти 141 ГБ і, за заявою AMD, відчутний відрив в обчисленнях — +20% у FP64, +43% у FP16 і +39% у FP8 відносно H200 NVL. Тут принципово важливо: це заява виробника, а не результат незалежного тесту. AMD порівнює свою карту з конкурентом за власною методикою, і такі цифри завжди варто сприймати як маркетинговий орієнтир, а не як гарантію.

Що стосується порівняння зі старшою NVIDIA B200: єдині незалежно підтверджені результати MLPerf 6.0, які наводить AMD (понад 1 млн токенів за секунду в multinode-конфігурації, 100 282 токени/с на карту, перевірено MLCommons), належать до MI355X — топової рідинної карти, а не до MI350P. Переносити ці цифри на MI350P не можна: це різні продукти. У самої MI350P незалежних бенчмарків на момент підготовки матеріалу просто немає, бо карта ще не потрапила до рук ревʼюерів. Якщо ви придивляєтеся до альтернатив від NVIDIA для локальних завдань, корисний наш розбір NVIDIA DGX Spark для нейромереж.

Софт: ROCm 7 і розрив із CUDA — чесно

Залізо — половина справи; друга половина — програмна екосистема. Тут в AMD історично слабке місце відносно NVIDIA, і вдавати, що його немає, було б нечесно.

Для роботи MI350-серії обов’язковий ROCm 7.0 — відкритий програмний стек AMD (аналог пропрієтарної CUDA у NVIDIA). ROCm версії 6.x кремній MI350 просто не бачить. Хороша новина в тому, що стек активно розвивається: реліз ROCm 7.14 вийшов у липні 2026 року, а підтримка популярних інструментів інференсу (llama.cpp, vLLM) на картах AMD рік від року міцнішає. Погана — на передньому краї (bleeding-edge код, свіжі моделі, екзотичні оптимізації) розрив зі зрілою екосистемою CUDA все ще помітний: щось запрацює не одразу або потребуватиме ручної морочні. Для корпорації з інженерами це розв’язне, для ентузіаста-одинака — джерело болю. Якщо кортить помацати ROCm на доступнішому залізі, у нас є збірка для локального ШІ на AMD RX 7900 XTX.

Ціна, доступність і OEM-партнери

Тут усе коротко, бо відомо небагато. На 18 липня 2026 року офіційної ціни MI350P немає — карта продається не в роздрібі, а тільки через OEM-канал (готовими серверами). Єдина публічна оцінка вартості — приблизно 25–35 тис. доларів — походить з одного неавторитетного джерела й офіційно не підтверджена, тому сприймати її варто з великою обережністю.

Сервери на MI350P готують великі виробники: Dell, HPE, Lenovo, Cisco, Supermicro. Реальна масова доступність — питання найближчих кварталів і залежить від постачань пам’яті HBM3E, якої зараз бракує по всій індустрії.

Кому це НЕ підходить: ризики й обмеження

Межі застосування та ризики варто проговорити прямо — бо «купити не можна, тестів немає, ціна невідома» саме собою багато говорить про те, кому карта адресована.

• Домашнім ентузіастам локального ШІ. Це не та карта. Пасивне охолодження вимагає серверного шасі, ціна (за чутками) — десятки тисяч доларів, роздрібу немає. Реакція спільноти під анонсами (Tom’s Hardware) — пряме розчарування ціною та недоступністю. Для дому куди розумніше дивитися на рішення з великою уніфікованою пам’яттю на кшталт Ryzen AI Max+ 395 для нейромереж (128 ГБ пам’яті за ціни в рази нижчої).
• Тим, кому потрібні незалежні докази. Наразі їх немає: жодного незалежного тесту MI350P на реальному залізі не опубліковано. Усі цифри продуктивності — або заяви AMD, або результати іншої карти (MI355X). Купувати «наосліп» під конкретне навантаження ризиковано.
• Для розподіленого навчання великих моделей. Відсутність Infinity Fabric робить MI350P неоптимальною для тренування моделей, яким потрібен щільний зв’язок між багатьма картами. Її стихія — інференс і RAG, де карти працюють більш автономно.
• Кому важлива зрілість софту «з коробки». Якщо ваш стек зав’язаний на свіжі CUDA-оптимізації, переїзд на ROCm потребуватиме інженерних зусиль.

Збалансований підсумок: MI350P — сильна й логічна пропозиція для корпорації, якій потрібно багато пам’яті (144 ГБ) під інференс великих моделей у звичному повітряному сервері, без переходу на рідинне охолодження. Це її чесна ніша. За її межами — від домашнього ШІ до важкого розподіленого навчання — є доречніші варіанти.

FAQ

Чи можна купити AMD Instinct MI350P у роздріб для домашнього ПК? Ні. Це серверна карта з пасивним охолодженням, яка продається тільки у складі готових серверів через OEM-партнерів (Dell, HPE, Lenovo та ін.). Роздрібної ціни на 18 липня 2026 року немає. Для дому логічніше дивитися на рішення з великою уніфікованою пам’яттю, наприклад Ryzen AI Max+ 395.

Чи можна поставити MI350P і MI350X в один сервер разом? Ні, це карти різних форм-факторів. MI350P — стандартна PCIe-карта для звичайного повітряного сервера, а MI350X — модуль OAM, якому потрібні спеціальна baseboard і, як правило, рідинне охолодження. Це різні платформи: змішати їх в одному шасі не вийде, вибір робиться на рівні всієї серверної архітектури.

Наскільки MI350P швидша за NVIDIA H200 NVL? AMD заявляє відрив близько +43% у FP16 і +39% у FP8, але це заява виробника, а не незалежний тест. За обсягом пам’яті карти близькі (144 проти 141 ГБ). Незалежних бенчмарків MI350P поки немає, тому до цифр варто ставитися як до орієнтира.

Яку за розміром LLM можна запустити на одній MI350P? Заявлений AMD «sweet spot» — моделі на 200–250 млрд параметрів у компактному форматі MXFP4. У BF16 (повна точність) реалістично близько 60–65 млрд параметрів. Точний ліміт нижчий за табличний, бо частина зі 144 ГБ іде на кеш контексту.

Чи годиться MI350P для навчання нейромереж? Для інференсу та RAG — так, це її основна ніша. Для розподіленого навчання великих моделей вона підходить гірше: без апаратного інтерконекта Infinity Fabric зв’язок між картами йде через повільнішу шину PCIe, що стає вузьким місцем.

Чому в MI350P немає незалежних тестів? Карта анонсована, але на момент підготовки матеріалу фізично не потрапила до рук незалежних ревʼюерів, а офіційного роздрібного постачання немає. Тому всі публічні цифри продуктивності — це або заяви AMD, або результати іншої карти серії (MI355X у MLPerf), які не можна переносити на MI350P.