local-llm

Німецький консорціум випустив Soofi S — відкриту модель 30B, що обійшла конкурентів

Soofi S 30B-A3B — відкрита гібридна модель Mamba-MoE від німецького консорціуму на хмарі Deutsche Telekom: параметри, бенчмарки, ліцензія та локальний запуск.

4 хв. читання

Локальний ШІ на Ryzen AI 9 HX 370: що реально потягне міні-ПК і чим він поступається Strix Halo 395

Реальні tok/s Radeon 890M на 7-8B і MoE-моделях замість маркетингу: розбираємо пам'ять, роль NPU, вибір міні-ПК і чим HX 370 поступається Ryzen AI Max 395.

29 хв. читання

Minisforum MS-03: компактна робоча станція на Panther Lake для локального ШІ

Minisforum розкрила деталі MS-03 на Intel Panther Lake: до 128 ГБ DDR5, слот PCIe Gen5 під низькопрофільний GPU, 2×10GbE. Міні-ПК націлений на локальний ШІ.

2 хв. читання

Minisforum MS-03 на Panther Lake: міні-ПК під локальний ШІ — що він реально потягне

Розбір Minisforum MS-03 на Intel Panther Lake як бази для локального ШІ: специфікації, що потягне за tok/s, порівняння з Mac mini і Ryzen AI Max, правда про 90 TOPS.

14 хв. читання

Ollama підняла Series B на $65 млн — чому це важливо для локального ШІ

Раннер моделей з відкритими вагами Ollama закрив Series B на $65 млн (Theory Ventures) і виріс до 8,9 млн розробників. Що це означає для локального ШІ.

2 хв. читання

DeepSeek тихо готує власний чіп для інференсу ШІ

Reuters: DeepSeek близько року вивчає розробку власного чіпа для інференсу ШІ, щоб знизити залежність від Nvidia і Huawei. Розбираємо деталі.

4 хв. читання

Lenovo Yoga AI Mini PC: 180 TOPS, 64 ГБ і питання, чи потягне він великі LLM

Огляд Lenovo Yoga AI Mini PC на Core Ultra X7 358H і Arc B390: що витягнуть 64 ГБ для локальних LLM, скільки токенів чекати і чи виправдана переплата.

22 хв. читання

Lenovo випустила Yoga AI Mini PC на Intel Core Ultra X7 358H і Arc B390

Lenovo представила міні-ПК Yoga AI: Core Ultra X7 358H, Arc B390, 64 ГБ LPDDR5X і NPU на 50 TOPS. Розбираємо, що це дає для локального запуску LLM.

3 хв. читання