AMD Instinct MI350P: что умеет PCIe-ускоритель на 144 ГБ HBM3E и кому он реально нужен

Коротко (TL;DR)

AMD Instinct MI350P — это ускоритель для искусственного интеллекта в форм-факторе обычной PCIe-карты (как видеокарта, только вставляется в серверный слот PCIe 5.0). Его главная валюта — 144 ГБ памяти HBM3E на одной карте с пропускной способностью 4 ТБ/с. Для сравнения: у прямого конкурента NVIDIA H200 NVL — 141 ГБ. То есть по объёму памяти это карта того же класса, но с нативной поддержкой сверхкомпактных форматов вычислений MXFP4/MXFP6, которые позволяют упаковать в эту память очень большие языковые модели.

Ключевая идея MI350P: занести производительность архитектуры CDNA 4 (флагманская серверная архитектура AMD 2026 года) в стандартный воздухоохлаждаемый сервер — без перехода на модули OAM и жидкостное охлаждение, которых требуют старшие MI350X и MI355X. Это осознанный компромисс: вы получаете совместимость с привычной инфраструктурой, но теряете часть чистой производительности и, что важнее, аппаратную связь между картами (Infinity Fabric).

Оговорим рамки разбора. MI350P — чисто энтерпрайзный продукт: на 18 июля 2026 года у него нет объявленной розничной цены, нет независимых тестов на реальном железе и нет консьюмерского хайпа. Всё, что ниже, — разбор по официальным спецификациям и материалам профильных изданий, с честным разделением «заявлено AMD» и «проверено независимо». Если вы ищете карту для домашнего запуска нейросетей — скорее всего, это не ваш продукт (в конце объясню, на что смотреть вместо неё).

Характеристики AMD Instinct MI350P: что это технически

Начнём с фактов. Вот основные характеристики AMD Instinct MI350P по официальным данным AMD (актуально на 7 мая 2026 года — дату анонса):

Расшифруем ключевое простыми словами. HBM3E (High Bandwidth Memory 3E) — это тип сверхбыстрой памяти, которую ставят рядом с чипом на одной подложке; для ИИ важен не столько объём диска, сколько сколько данных модель успевает «прокачать» в секунду, и здесь 4 ТБ/с — очень много. MXFP4/MXFP6 — компактные форматы, в которых число весит 4 или 6 бит вместо привычных 16; это позволяет уместить большую модель в ту же память ценой небольшой потери точности. Пассивное охлаждение значит, что у карты нет своих вентиляторов — её продувает воздушный поток сервера, поэтому она рассчитана именно на серверное шасси, а не на настольный ПК.

Почему ИИ-лаборатории арендуют дата-центры, а не строят: новая экономика compute

Когда сети не хватает: зачем Маску турбины на $1 млрд для ИИ-суперкомпьютера Colossus

AMD выкатила техпревью ROCm TheRock 7.14 и обновила локальный AI-сервер Lemonade до 11.0

TSMC второй раз за год подняла прогноз — спрос на ИИ-чипы не ослабевает

NVIDIA выпустила компактные ИИ-компьютеры Jetson Thor для роботов и edge AI

Сводная таблица: MI350P против всей линейки и конкурентов NVIDIA

Ни один источник, который мы разбирали, не собирает все актуальные карты в одну таблицу — поэтому сделаем это сами. Это наш главный information gain: держать перед глазами MI350P рядом со старшими версиями, предыдущими поколениями и прямыми конкурентами NVIDIA (данные официальные, на 18 июля 2026 года).

Две оговорки к таблице, чтобы не вводить в заблуждение. По объёму памяти B200 источники расходятся: расчёт из официальных спецификаций платформы DGX B200 (делим на 8 карт) даёт около 180 ГБ, а отдельные агрегаторы указывают прямые 192 ГБ на одиночную карту SXM — расхождение объяснимо резервированием под коррекцию ошибок, поэтому приводим обе цифры. И главное: прямой конкурент MI350P — это именно H200 NVL (тот же класс: PCIe, воздушное охлаждение, 600 Вт), а не топовые B200/MI355X, которые живут в другой весовой категории с жидкостным охлаждением.

Половина MI350X, но не брак: чем MI350P отличается от MI350X

Логичный вопрос: раз есть MI350X на 288 ГБ, то MI350P на 144 ГБ — это просто «обрезанная» версия? Нет, и это важный нюанс. Чем MI350P отличается от MI350X — не количеством включённых блоков на одном кристалле, а самой компоновкой чипа.

MI350X собран из 2 базовых чиплетов (IOD) и 8 вычислительных (XCD). MI350P — это отдельно спроектированная сборка из 1 IOD и 4 XCD. Проще говоря, это не флагман с отключённой половиной, а самостоятельный чип «в половину» флагмана. Отсюда и ровно половинные цифры: 128 CU против 256, 144 ГБ против 288, 4 ТБ/с против 8.

Зачем так? Чтобы карта влезала по теплу и питанию (600 Вт вместо 1000–1400) в обычный воздухоохлаждаемый сервер с PCIe-слотами, а не только в специализированные шасси под модули OAM с жидкостным охлаждением. Это снимает главный барьер внедрения: компании не нужно перестраивать дата-центр — MI350P встаёт в ту же серверную стойку, куда раньше ставили GPU.

Но за совместимость платят. Главная потеря — отсутствие выведенных наружу линий Infinity Fabric (фирменная быстрая шина AMD для прямой связи между ускорителями). У OAM-версий карты общаются друг с другом напрямую, минуя процессор; у MI350P связь между картами идёт только через шину PCIe 5.0 x16, без аппаратной когерентности памяти. Здесь два слоя одного ограничения: на уровне «железа» карты полностью самостоятельны (нет общей памяти), а обмен данными между ними — программный, через PCIe, что медленнее прямого интерконнекта. Для инференса (запуска готовой модели) это часто некритично, а вот для обучения крупных моделей на многих картах — уже узкое место.

Отдельно подчеркну, чтобы не создать ложное впечатление: отсутствие интерконнекта на PCIe-карте — это не провал AMD, а свойство форм-фактора. У NVIDIA ровно та же история: PCIe-версия H200 NVL тоже лишена быстрой связи, которая есть у модульной H200 SXM. Это общая цена «карты в обычный сервер».

Заявленный пик против «доставленной» производительности

Один из самых полезных уроков этого разбора касается не только AMD. Производители любят показывать пиковые TFLOPS — теоретический максимум, которого железо достигает в идеальных условиях. Реальная, «доставленная» на практических задачах производительность почти всегда ниже.

AMD в этот раз повела себя необычно откровенно и сама раскрыла разрыв: по данным из таблиц профильных изданий (StorageReview, The Next Platform), реально достижимая производительность MI350-серии составляет примерно 39–66% от заявленного пика в зависимости от формата вычислений — причём хуже всего «доставляет» как раз один из компактных форматов, MXFP6 (около 39%), а лучше всего FP8 (около 66%). Это не претензия к AMD — так ведёт себя любое подобное железо, включая NVIDIA. Вывод для читателя простой: голым цифрам пиковой производительности из пресс-релиза верить нельзя — ни AMD, ни NVIDIA, ни чьим-либо ещё. Смотрите на независимые тесты, а если их нет (как в случае MI350P на данный момент) — держите в голове поправку примерно вдвое вниз от пика, а для отдельных форматов и сильнее.

Под какие ИИ-задачи и модели: сколько LLM влезает в 144 ГБ

Перейдём к практике: сколько видеопамяти нужно для запуска LLM и что реально помещается в 144 ГБ MI350P. Память — главный ограничитель: модель должна целиком поместиться в неё, иначе запустить её на одной карте не выйдет.

Грубая инженерная прикидка (только веса модели, без учёта кэша контекста; это оценка, а не бенчмарк):

Эти цифры хорошо сходятся с заявленным AMD «sweet spot» карты — 200–250 млрд параметров на одну MI350P (в компактном формате). На практике реальный лимит будет ниже табличного, потому что часть памяти съедает KV-кэш (память под контекст диалога), и чем длиннее контекст, тем больше расход. Если нужно подробнее разобраться, как объём памяти соотносится с размером модели, у нас есть отдельный гид по выбору железа для локального ИИ.

Масштабирование тоже впечатляет: 8 карт MI350P в одном шасси дают суммарно 1152 ГБ памяти и 32 ТБ/с пропускной способности — этого достаточно, чтобы развернуть модель уровня триллиона параметров в формате MXFP4. Но помним про оговорку выше: без Infinity Fabric эффективность такой связки на задачах обучения будет ограничена скоростью PCIe.

MI350P против NVIDIA H200 NVL: сравнение спецификаций

Теперь MI350P против Nvidia H200 NVL — прямое сравнение, потому что это карты одного класса.

По «сырым» характеристикам MI350P выглядит сильнее: 144 ГБ памяти против 141 ГБ и, по заявлению AMD, ощутимый отрыв в вычислениях — +20% в FP64, +43% в FP16 и +39% в FP8 относительно H200 NVL. Здесь принципиально важно: это заявление производителя, а не результат независимого теста. AMD сравнивает свою карту с конкурентом по своей методике, и такие цифры всегда стоит воспринимать как маркетинговый ориентир, а не как гарантию.

Что касается сравнения со старшим NVIDIA B200: единственные независимо подтверждённые результаты MLPerf 6.0, которые приводит AMD (более 1 млн токенов в секунду в multinode-конфигурации, 100 282 токена/с на карту, проверено MLCommons), относятся к MI355X — топовой жидкостной карте, а не к MI350P. Переносить эти цифры на MI350P нельзя: это разные продукты. У самой MI350P независимых бенчмарков на момент подготовки материала попросту нет, потому что карта ещё не попала в руки ревьюеров. Если вы присматриваетесь к альтернативам от NVIDIA для локальных задач, полезен наш разбор NVIDIA DGX Spark для нейросетей.

Софт: ROCm 7 и разрыв с CUDA — честно

Железо — половина дела; вторая половина — программная экосистема. Здесь у AMD исторически слабое место относительно NVIDIA, и делать вид, что его нет, было бы нечестно.

Для работы MI350-серии обязателен ROCm 7.0 — открытый программный стек AMD (аналог проприетарной CUDA у NVIDIA). ROCm версии 6.x кремний MI350 попросту не видит. Хорошая новость в том, что стек активно развивается: релиз ROCm 7.14 вышел в июле 2026 года, а поддержка популярных инструментов инференса (llama.cpp, vLLM) на картах AMD год от года крепнет. Плохая — на переднем крае (bleeding-edge код, свежие модели, экзотические оптимизации) разрыв с зрелой экосистемой CUDA всё ещё заметен: что-то заведётся не сразу или потребует ручной возни. Для энтерпрайза с инженерами это решаемо, для энтузиаста-одиночки — источник боли. Если хочется пощупать ROCm на более доступном железе, у нас есть сборка для локального ИИ на AMD RX 7900 XTX.

Цена, доступность и OEM-партнёры

Здесь всё коротко, потому что известно немногое. На 18 июля 2026 года официальной цены MI350P нет — карта продаётся не в рознице, а только через OEM-канал (готовыми серверами). Единственная публичная оценка стоимости — примерно 25–35 тыс. долларов — исходит из одного неавторитетного источника и официально не подтверждена, поэтому воспринимать её стоит с большой осторожностью.

Серверы на MI350P готовят крупные производители: Dell, HPE, Lenovo, Cisco, Supermicro. Реальная массовая доступность — вопрос ближайших кварталов и зависит от поставок HBM3E-памяти, которая сейчас в дефиците по всей индустрии.

Кому это НЕ подходит: риски и ограничения

Границы применения и риски стоит проговорить прямо — потому что «купить нельзя, тестов нет, цена неизвестна» само по себе многое говорит о том, кому карта адресована.

• Домашним энтузиастам локального ИИ. Это не та карта. Пассивное охлаждение требует серверного шасси, цена (по слухам) — десятки тысяч долларов, розницы нет. Реакция сообщества под анонсами (Tom’s Hardware) — прямое разочарование ценой и недоступностью. Для дома куда разумнее смотреть на решения с большой унифицированной памятью вроде Ryzen AI Max+ 395 для нейросетей (128 ГБ памяти при цене в разы ниже).
• Тем, кому нужны независимые доказательства. На данный момент их нет: ни одного независимого теста MI350P на реальном железе не опубликовано. Все цифры производительности — либо заявления AMD, либо результаты другой карты (MI355X). Покупать «вслепую» под конкретную нагрузку рискованно.
• Для распределённого обучения крупных моделей. Отсутствие Infinity Fabric делает MI350P неоптимальной для тренировки моделей, которым нужна плотная связь между многими картами. Её стихия — инференс и RAG, где карты работают более автономно.
• Кому важна зрелость софта «из коробки». Если ваш стек завязан на свежие CUDA-оптимизации, переезд на ROCm потребует инженерных усилий.

Сбалансированный итог: MI350P — сильное и логичное предложение для энтерпрайза, которому нужно много памяти (144 ГБ) под инференс больших моделей в привычном воздушном сервере, без перехода на жидкостное охлаждение. Это её честная ниша. За её пределами — от домашнего ИИ до тяжёлого распределённого обучения — есть варианты уместнее.

FAQ

Можно ли купить AMD Instinct MI350P в розницу для домашнего ПК? Нет. Это серверная карта с пассивным охлаждением, которая продаётся только в составе готовых серверов через OEM-партнёров (Dell, HPE, Lenovo и др.). Розничной цены на 18 июля 2026 года нет. Для дома логичнее смотреть на решения с большой унифицированной памятью, например Ryzen AI Max+ 395.

Можно ли поставить MI350P и MI350X в один сервер вместе? Нет, это карты разных форм-факторов. MI350P — стандартная PCIe-карта для обычного воздушного сервера, а MI350X — модуль OAM, которому нужна специальная baseboard и, как правило, жидкостное охлаждение. Это разные платформы: смешать их в одном шасси не выйдет, выбор делается на уровне всей серверной архитектуры.

Насколько MI350P быстрее NVIDIA H200 NVL? AMD заявляет отрыв около +43% в FP16 и +39% в FP8, но это заявление производителя, а не независимый тест. По объёму памяти карты близки (144 против 141 ГБ). Независимых бенчмарков MI350P пока нет, поэтому к цифрам стоит относиться как к ориентиру.

Какую по размеру LLM можно запустить на одной MI350P? Заявленный AMD «sweet spot» — модели на 200–250 млрд параметров в компактном формате MXFP4. В BF16 (полная точность) реалистично около 60–65 млрд параметров. Точный лимит ниже табличного, потому что часть из 144 ГБ уходит на кэш контекста.

Годится ли MI350P для обучения нейросетей? Для инференса и RAG — да, это её основная ниша. Для распределённого обучения крупных моделей она подходит хуже: без аппаратного интерконнекта Infinity Fabric связь между картами идёт через более медленную шину PCIe, что становится узким местом.

Почему у MI350P нет независимых тестов? Карта анонсирована, но на момент подготовки материала физически не попала в руки независимых ревьюеров, а официальной розничной поставки нет. Поэтому все публичные цифры производительности — это либо заявления AMD, либо результаты другой карты серии (MI355X в MLPerf), которые нельзя переносить на MI350P.