Что произошло
3 октября 2026 года немецкая Aleph Alpha выложила на Hugging Face Kolibri-1 — открытую (open-weight) языковую модель для немецкого и английского. Это «смесь экспертов» (MoE) на 78,1 млрд параметров, из которых на каждый токен работают только 3,46 млрд. Лицензия Apache 2.0 разрешает коммерческое использование и запуск на собственных серверах, без обращения к чужому API.
Детали
- Архитектура. 50 слоёв, в каждом MoE-слое 384 эксперта и один общий, на токен выбираются 6. Проще говоря, модель состоит из множества узких подсетей и на каждом шаге включает лишь малую их часть, поэтому отвечает быстрее «плотной» модели того же размера.
- Контекст. Родное окно — 262 144 токена, максимум — около 1 млн. Для сложных задач компания советует не выходить за 262 тыс.
- Обучение. 20 трлн токенов предобучения на 768 ускорителях Nvidia B200 в дата-центрах Германии и Финляндии. По данным блога Aleph Alpha, 21,3% токенов предобучения — немецкие. Знания модели — по 18 июня 2026 года.
- Бенчмарки (данные компании). GPQA Diamond — 84,3, AIME 2025 — 96,9. У Nvidia Nemotron 3 Super в той же таблице 78,0 и 91,7, у Mistral Small 4 — 74,7 и 79,8. В кодинге (HumanEval+) Kolibri с 92,7 чуть уступает Nemotron с 94,7.
- Железо. Официальные веса в формате FP8 занимают около 78 ГБ. Минимум по карточке модели — две A100 80 ГБ, две H100 или одна H200/B200.
Что это значит
- Кого касается. В первую очередь европейские госструктуры и компании из регулируемых отраслей — госуправление, промышленность, авиакосмос. Им нужна модель, которую можно держать у себя. Для энтузиастов локального ИИ это ещё один крупный MoE, но не новый лидер: в знаниях и вызове инструментов Kolibri уступает Qwen3.6 35B-A3B (MMLU-Pro 80,0 против 84,3, BFCL v4 61,4 против 67,2 — по сводке DataCamp).
- Возможность в цифрах. Официальная сборка требует серверной видеопамяти, но за первые три дня сообщество выложило неофициальные GGUF- и MLX-версии. GGUF Q4_K_M весит 47,5 ГБ, 4-битная MLX-сборка — около 43 ГБ. Это уровень Mac с 64 ГБ объединённой памяти или ПК с 64 ГБ ОЗУ и выгрузкой части слоёв на видеокарту. Всего 3,46 млрд активных параметров делают такой запуск терпимым по скорости. Учтите: к GGUF-сборке приложен патч для llama.cpp, а качество любительских квантований Aleph Alpha не проверяла. Если нужна европейская модель под одну видеокарту, проще взять Mistral Small на своём ПК.
- Горизонт. Попробовать можно уже сейчас: веса открыты с 3 октября, официальный путь — vLLM по инструкции из карточки модели.
Контекст
Kolibri продолжает линию «суверенного» европейского ИИ, которую в Германии уже открывала открытая модель Soofi S 30B. Сама Aleph Alpha подписала обязывающее соглашение о слиянии с канадской Cohere: объединённая компания будет работать под брендом Cohere, а сделка ещё ждёт одобрения регуляторов.
