ollama

Qwen 3.8 27B в VRAM 12, 16 и 24 ГБ — какой квант взять и сколько ток/с ждать

Сколько видеопамяти нужно Qwen 3.8 27B на RTX 3060, 16-гигабайтных картах и RTX 3090/4090: квант, контекст, скорость, команды llama.cpp и ловушки настроек.

44 мин. чтения

Qwen 3.6 35B-A3B — MoE-модель Alibaba: 21–24 ГБ в 4 битах и до 183 ток/с дома

Qwen 3.6 35B-A3B от Alibaba: сколько весит GGUF, как запустить в Ollama и LM Studio, скорость на RTX и Mac по чужим замерам, сравнение с Qwen 3.8 27B и Gemma…

72 мин. чтения

Qwen 3.8 27B на своём железе: 17,6 ГБ в 4 битах и индекс 34 у Artificial Analysis

Обзор Qwen 3.8 27B на 25.10.2026: плотная модель Alibaba под Apache 2.0, кванты GGUF и MLX в гигабайтах, скорость на RTX 3060–5090 и Mac M4/M5, запуск в Ollama.

74 мин. чтения

DeepSeek V4.1 Flash на домашнем ПК: 64 ГБ RAM, одна видеокарта и 265 ГБ SSD

Как запустить DeepSeek V4.1 Flash на ПК с 64 ГБ RAM и видеокартой на 12 ГБ: GGUF от ISTA-DASLab, движок Strata, скорость 4–11 ток/с и почему DeepInfer не для дома.

34 мин. чтения

OpenWorker Эндрю Ына: открытый ИИ-агент с 25+ коннекторами, который пока в бете

OpenWorker — открытый ИИ-агент из репозитория Эндрю Ына: как устроен, какие модели подключить, как установить, сколько стоит и чем рискуете, давая ему почту.

36 мин. чтения

Nvidia Nemotron 3.5: Super VL на 120B для компаний и Bolt на 24 ГБ для своего ПК

Nvidia выпустила открытые Nemotron 3.5 Super VL (120B) и Bolt 74B-A9B для ИИ-агентов в ЦОД и на ПК. Лицензия, требования к VRAM и как запустить Bolt в Ollama.

3 мин. чтения

Ботнет PoeLLM: более 3400 серверов с LiteLLM и Ollama, адрес управления — в стихах

Black Lotus Labs: с апреля 2026 года ботнет PoeLLM заразил более 3400 серверов с открытыми LiteLLM и Ollama и майнит на них крипту. Кого касается и что закрыть.

3 мин. чтения

Ollama, LM Studio и llama.cpp на одной модели: от 0,3% разницы до трёх раз

Ollama, LM Studio и llama.cpp на одной модели: сколько забирает обёртка, почему чужие замеры расходятся в разы и какие настройки решают больше выбора программы.

33 мин. чтения