RTX 5060 Ti 16 ГБ для локального ШІ: моделі до 20B і 33 ток/с на 14B
RTX 5060 Ti 16GB для ШІ: скільки ток/с дає на моделях 8B–20B, що вміщується в 16 ГБ, чому ціна стрибала від $429 до $805 і коли краще взяти RTX 3090.
MacBook Pro M5 Max для нейромереж: 128 ГБ у ноутбуці та 70B на 10–18 ток/с
MacBook Pro M5 Max для локальних нейромереж: реальні ток/с на 70B і MoE, prefill проти генерації, тротлінг 14 дюймів, порівняння з Mac Studio та RTX 5090.
Mac Studio M5 Ultra для LLM: 4,3x — це prefill, а генерація швидша в 1,5–1,9 раза
Mac Studio M5 Ultra для локальних LLM: реальні ток/с проти M3 Ultra, що вміщується в 256 і 512 ГБ, ціна $5 499–9 499 і порівняння з DGX Spark за пам'яттю…
Квантизація локальних LLM: Q8 дає запас, а обрив якості починається нижче Q4
Скільки якості з'їдає квантизація моделі та скільки додає швидкості: таблиці втрат за рівнями GGUF, заміри llama.cpp і наукових робіт, де втрата помітна.
Ollama, LM Studio і llama.cpp на одній моделі: від 0,3% різниці до трьох разів
Ollama, LM Studio і llama.cpp на одній моделі: скільки забирає обгортка, чому чужі заміри розходяться в рази і які налаштування важать більше за вибір програми.
DGX Spark, Mac Studio і Strix Halo: 120B тримають усі три, 70B буксує у двох
Зводимо заміри DGX Spark, Mac Studio M3 Ultra і Strix Halo до однієї методики: хто тягне 70B і 120B, де ламається довгий промпт і скільки це коштує.
RTX 5090, 4090 і 3090 у локальних LLM: чужі заміри в одній таблиці
Три відеокарти під локальні LLM: tok/s на промті та генерації окремо, паспорт методики кожного заміру, реальні вати і ціна одного tok/s на 15 серпня 2026.
OpenAI запустила Ultrafast: GPT-5.6 Sol швидша в 14 разів на чипах Cerebras
OpenAI відкрила прев'ю Ultrafast: GPT-5.6 Sol працює до 14 разів швидше й видає до 750 токенів на секунду. Обчислюють пластини Cerebras, ціни поки не названі.
