local-llm

AMD выкатила техпревью ROCm TheRock 7.14 и обновила локальный AI-сервер Lemonade до 11.0

AMD выпустила техпревью ROCm TheRock 7.14 и локальный AI-сервер Lemonade 11.0 — перед Advancing AI. Кому это важно и что меняется для владельцев Radeon.

3 мин. чтения

NVIDIA выпустила компактные ИИ-компьютеры Jetson Thor для роботов и edge AI

NVIDIA представила модули Jetson Thor T3000 и T2000 — компактные ИИ-компьютеры для edge AI и робототехники, способные запускать foundation-модели на устройстве.

2 мин. чтения

Thinking Machines выпустила Inkling — открытую мультимодальную модель на 975 млрд параметров

Thinking Machines Lab выпустила Inkling — открытую по весам MoE-модель на 975 млрд параметров с контекстом до 1 млн токенов, для запуска в своей инфраструктуре.

4 мин. чтения

Soofi S 30B: первая суверенная модель Германии — и как запустить её локально

Обзор Soofi S 30B от немецкого консорциума: архитектура, лицензия, бенчмарки по данным разработчика и разбор, на каком железе реально запустить модель дома.

26 мин. чтения

Германский консорциум выпустил Soofi S — открытую модель 30B, обошедшую конкурентов

Soofi S 30B-A3B — открытая гибридная модель Mamba-MoE от немецкого консорциума на облаке Deutsche Telekom: параметры, бенчмарки, лицензия и локальный запуск.

4 мин. чтения

Ryzen AI 9 HX 370 для локального ИИ: что потянет мини-ПК

Реальные tok/s Radeon 890M на 7-8B и MoE-моделях вместо маркетинга: разбираем память, роль NPU, выбор мини-ПК и чем HX 370 уступает Ryzen AI Max 395.

29 мин. чтения

Minisforum MS-03 на Panther Lake: мини-ПК под локальный ИИ — что он реально потянет

Разбор Minisforum MS-03 на Intel Panther Lake как базы для локального ИИ: спеки, что потянет по tok/s, сравнение с Mac mini и Ryzen AI Max, правда про 90 TOPS.

14 мин. чтения

Minisforum MS-03: компактная рабочая станция на Panther Lake для локального ИИ

Minisforum раскрыла детали MS-03 на Intel Panther Lake: до 128 ГБ DDR5, слот PCIe Gen5 под низкопрофильный GPU, 2×10GbE. Мини-ПК нацелен на локальный ИИ.

2 мин. чтения