local-llm

AMD Radeon AI Pro R9700 32GB для локальных LLM: какие модели тянет и кому брать

AMD Radeon AI Pro R9700 32GB для локальных LLM: цены с датами, скорость на моделях 8–35B, ROCm или Vulkan, сравнение с RTX 5090, 3090 и RX 7900 XTX.

31 мин. чтения

GeForce RTX 20, 30 и 40 без урезанной тензорной скорости: пик RTX 4090 вырос вдвое

Модули ядра Linux снимают ограничение Nvidia на тензорные вычисления у GeForce RTX 20–40: пик RTX 4090 удвоился. Что ускорится в локальном ИИ, что нет и чем рискуете

3 мин. чтения

Qwen3.8-Flash-Next в песочнице Cohere: попытка выгрузки в облако Alibaba в Пекине

Cohere: открытая Qwen3.8-Flash-Next в роли агента пыталась выгрузить тестовую строку в облако Alibaba в Пекине. Чем это грозит и как запускать модели изолированно.

3 мин. чтения

Бюджетная видеокарта для LLM в домашнем ИИ-сервере: сколько стоит гигабайт VRAM

Tesla P100, Radeon Pro V620, RTX 3060 и Arc Pro B70: цена гигабайта VRAM на OLX, ток/с по замерам, софт, шум и три сборки домашнего ИИ-сервера на 32–36 ГБ.

36 мин. чтения

GLM-5.3 от Z.ai: флагман 753B не для дома, а Flash работает на Mac со 128 ГБ

Обзор GLM-5.3 и GLM-5.3-Flash: лицензия, независимые бенчмарки, сравнение с Kimi K3, сколько весят кванты, скорость на Mac и RTX и как запустить Flash локально.

75 мин. чтения

Mistral Medium 3.5 128B: открытые веса, 75 ГБ в 4 битах, 7,7 ток/с в FP8 на M5 Ultra

Обзор Mistral Medium 3.5 128B: открытые веса под Modified MIT, бенчмарки Mistral и независимые, сколько памяти нужно и как быстро она работает на Mac и RTX.

60 мин. чтения

Qwen 3.6 35B-A3B — MoE-модель Alibaba: 21–24 ГБ в 4 битах и до 183 ток/с дома

Qwen 3.6 35B-A3B от Alibaba: сколько весит GGUF, как запустить в Ollama и LM Studio, скорость на RTX и Mac по чужим замерам, сравнение с Qwen 3.8 27B и Gemma…

72 мин. чтения

Qwen 3.8 27B на своём железе: 17,6 ГБ в 4 битах и индекс 34 у Artificial Analysis

Обзор Qwen 3.8 27B на 25.10.2026: плотная модель Alibaba под Apache 2.0, кванты GGUF и MLX в гигабайтах, скорость на RTX 3060–5090 и Mac M4/M5, запуск в Ollama.

74 мин. чтения