local-llm

AMD випустила прев’ю ROCm TheRock 7.14 та оновила локальний AI-сервер Lemonade до 11.0

AMD випустила прев'ю ROCm TheRock 7.14 і локальний AI-сервер Lemonade 11.0 — перед Advancing AI. Кому це важливо і що змінюється для власників Radeon.

3 хв. читання

NVIDIA випустила компактні ШІ-комп’ютери Jetson Thor для роботів і edge AI

NVIDIA представила модулі Jetson Thor T3000 і T2000 — компактні ШІ-комп'ютери для edge AI та робототехніки, здатні запускати foundation-моделі на пристрої.

2 хв. читання

Thinking Machines випустила Inkling — відкриту мультимодальну модель на 975 млрд параметрів

Thinking Machines Lab випустила Inkling — відкриту за вагами MoE-модель на 975 млрд параметрів із контекстом до 1 млн токенів, для запуску на власній інфраструктурі.

4 хв. читання

Soofi S 30B: перша суверенна модель Німеччини — і як запустити її локально

Огляд Soofi S 30B від німецького консорціуму: архітектура, ліцензія, бенчмарки за даними розробника та розбір, на якому залізі реально запустити модель удома.

26 хв. читання

Німецький консорціум випустив Soofi S — відкриту модель 30B, що обійшла конкурентів

Soofi S 30B-A3B — відкрита гібридна модель Mamba-MoE від німецького консорціуму на хмарі Deutsche Telekom: параметри, бенчмарки, ліцензія та локальний запуск.

4 хв. читання

Ryzen AI 9 HX 370 для локального ШІ: що потягне міні-ПК

Реальні tok/s Radeon 890M на 7-8B і MoE-моделях замість маркетингу: розбираємо пам'ять, роль NPU, вибір міні-ПК і чим HX 370 поступається Ryzen AI Max 395.

29 хв. читання

Minisforum MS-03: компактна робоча станція на Panther Lake для локального ШІ

Minisforum розкрила деталі MS-03 на Intel Panther Lake: до 128 ГБ DDR5, слот PCIe Gen5 під низькопрофільний GPU, 2×10GbE. Міні-ПК націлений на локальний ШІ.

2 хв. читання

Minisforum MS-03 на Panther Lake: міні-ПК під локальний ШІ — що він реально потягне

Розбір Minisforum MS-03 на Intel Panther Lake як бази для локального ШІ: специфікації, що потягне за tok/s, порівняння з Mac mini і Ryzen AI Max, правда про 90 TOPS.

14 хв. читання