Що сталося
30 липня 2026 року Thinking Machines — стартап колишньої технічної директорки OpenAI Міри Мураті — виклала ваги моделі Inkling-Small. Це зменшена версія Inkling, відкритої лише двома тижнями раніше: 276 млрд параметрів проти 975 млрд у старшої моделі. Ліцензія — Apache 2.0, ваги лежать на Hugging Face.
Деталі
Inkling-Small побудована за схемою «суміші експертів»: модель величезна цілком, але на кожне слово вмикається лише мала її частина. Тут це 12 млрд параметрів із 276 — токен спрямовується до шести з 256 спеціалізованих блоків плюс два спільні. У старшої Inkling на слово працює 41 млрд.
Що модель уміє: приймає текст, зображення і звук, відповідає текстом, тримає контекст до 1 млн токенів. За незалежним зведеним індексом Artificial Analysis Intelligence Index вона набрала 40 балів — на один бал менше, ніж Inkling з її 975 млрд параметрів. Серед відкритих моделей такого самого розміру й менших вищого результату поки немає. Донавчання доступне через власний сервіс компанії Tinker.
Вимоги до заліза лишаються серверними. Стандартна збірка BF16 просить від 600 ГБ відеопамʼяті — це чотири прискорювачі NVIDIA B300 або вісім H200. Стиснена версія NVFP4 опускає планку приблизно до 180 ГБ. За даними команди Unsloth, їхня квантована збірка формату GGUF запускається вже на 128 ГБ оперативної памʼяті.
Що це означає
Стосується це двох груп. Перша — компанії, які хочуть власну модель на власному залізі: розрив між «ваги у відкритому доступі» і «ми це справді запустимо» скоротився в рази, але не зник — 180 ГБ відеопамʼяті це все ще стійка, а не робоча станція. Друга — ентузіасти локального ШІ: 128 ГБ оперативної памʼяті вже досяжні на топових міні-ПК і ноутбуках зі спільною памʼяттю, хоча швидкість на такій конфігурації буде помітно нижчою за серверну.
Цифра, заради якої варто дивитися на реліз: мінус один бал індексу за вчетверо меншого розміру. Це та сама теза, що й у корейської Solar Open 2 — якість упирається не в загальну кількість параметрів, а в те, скільки їх працює одночасно. Горизонт короткий: збірки під популярні рушії запуску зʼявляються у перші ж дні, і старшу Inkling молодша версія за ціною запуску обходить уже зараз.
