for-ai-llm

Збірка ПК на RTX 5090 для локального ШІ: повний BOM, що реально потягне і де стеля 32 ГБ

RTX 5090 — король швидкості для моделей до 32B, але 32 ГБ — жорстка стеля. Повна збірка з цінами (~$4500), що влазить у VRAM і де виграє unified-memory.

16 хв. читання

Орбітальні ЦОД для ШІ обійдуться втричі дорожче за земні: звіт Wood Mackenzie

За оцінкою Wood Mackenzie, дата-центр на 1 ГВт у космосі коштує ~$170 млрд проти ~$57 млрд на Землі. Навіщо ШІ-індустрія взагалі дивиться у бік орбіти.

2 хв. читання

Mac Mini M4 Pro для нейромереж: найдоступніший вхід у локальний ШІ — що він реально тягне

Mac Mini M4 Pro — найдешевший вхід у локальні LLM на єдиній пам'яті. Що влазить за RAM, реальні tok/s, ціна і де він поступається Strix Halo та Mac Studio.

15 хв. читання

MLPerf Training 6.0: Blackwell від NVIDIA виграла всі тести, нове покоління GB300 швидше за GB200

MLCommons оприлюднила MLPerf Training v6.0: NVIDIA Blackwell лідирує в усіх тестах, GB300 NVL72 до 1,6× швидше за GB200. Що це означає для навчання ШІ.

2 хв. читання

Mac Studio M3 Ultra для нейромереж: король пам’яті, який тягне 671B локально — і де він спотикається

Mac Studio M3 Ultra — 512 ГБ і 819 ГБ/с: єдиний десктоп, що тримає 671B локально. Розбираємо реальні tok/s, ціну і де він поступається відеокарті та DGX Spark.

16 хв. читання

ASUS принесла суперчип NVIDIA GB300 на стіл: 748 ГБ пам’яті та 20 петафлопс за ~$113 тисяч

ASUS представила ET900N G3 на NVIDIA GB300 Grace Blackwell: 748 ГБ когерентної пам'яті, до 20 PFLOPS та архітектура DGX Station. Ціна — близько $112 800.

2 хв. читання

Стартап Tensordyne представив ШІ-прискорювач Napier на логарифмічній математиці — й обіцяє обійти Blackwell

Tensordyne анонсувала 3-нм інференс-чип Napier: замість множень — додавання за логарифмами. Заявлено до 13× токенів/с проти Blackwell, але цифри поки вендорські.

2 хв. читання

NVIDIA DGX Spark для нейромереж: які моделі запустиш локально і чи вартий він своїх грошей

DGX Spark — 128 ГБ єдиної пам'яті та стек NVIDIA на столі. Розбираємо реальні tok/s, ціну $4699 і чесне порівняння зі Strix Halo, Mac Studio та збіркою на RTX 3090.

17 хв. читання