local-llm

NVIDIA DGX Spark 64 ГБ выйдет 23 октября за $4 999, а версия 128 ГБ стоит $6 950

NVIDIA выпускает DGX Spark с 64 ГБ памяти за $4 999, а старшая версия на 128 ГБ подорожала до $6 950. Какие модели влезут и стоит ли брать пару.

3 мин. чтения

Железо для ИИ-NPC в играх: NVIDIA ACE работает на видеокарте, а не на NPU

Какое железо нужно для ИИ-NPC в играх: почему NVIDIA ACE работает на видеокарте, а не на NPU, сколько VRAM занимает модель и нужен ли апгрейд ради PUBG Ally.

35 мин. чтения

Amazon Strands Decider 2B: модель выбирает вариант за 0,1 секунды

AWS выложила Strands Decider 2B — открытую модель на 2 млрд параметров, которая не пишет текст, а выбирает ответ из заданных вариантов. Что это даёт ИИ-агентам.

3 мин. чтения

Ноутбук на Ryzen AI Max+ PRO 495 за $7449: что дают 192 ГБ для локального ИИ

Ноутбук на Ryzen AI Max+ PRO 495 с 192 ГБ стоит $7449. Что влезает в 160 ГБ видеопамяти, какой будет скорость, чем он хуже MacBook Pro M5 Max и кому…

33 мин. чтения

MacBook Pro M5 Max для нейросетей: 128 ГБ в ноутбуке и 70B на ≈9–11 ток/с

MacBook Pro M5 Max для локальных нейросетей: реальные ток/с на 70B и MoE, prefill против генерации, троттлинг 14 дюймов, сравнение с Mac Studio и RTX 5090.

37 мин. чтения

Framework Desktop на Ryzen AI Max+ Pro 495 и 192 ГБ — предзаказ 30 сентября, без цены

Framework откроет предзаказ Desktop на Ryzen AI Max+ Pro 495 со 192 ГБ памяти 30 сентября. Что даёт новый чип против 395 и какие модели влезут в память.

3 мин. чтения

Mac Studio M5 Ultra для LLM: 4,3x — это prefill, а генерация быстрее в 1,5–1,9 раза

Mac Studio M5 Ultra для локальных нейросетей: реальные ток/с против M3 Ultra, что влезает в 256 и 512 ГБ, цена $5 499–9 499 и сравнение с DGX Spark по памяти…

29 мин. чтения

Когда подешевеет оперативная память и SSD: DDR5 подорожала в 4–5 раз из-за ИИ

DDR5 за год подорожала в 4–5 раз, SSD тоже дорожают. Разбираем, как ИИ-дата-центры съели память, что говорят прогнозы до 2028 года и покупать ли сейчас.

30 мин. чтения