Вчетверо меньше — на один балл слабее: Thinking Machines выложила веса Inkling-Small

3 мин. чтения
BYBIT · СПОТ И ФЬЮЧЕРСЫ
Крипта с нуля
Комиссия 0,1%, торги 24/7, старт с $10
Открыть счёт

Что произошло

30 июля 2026 года Thinking Machines — стартап бывшего технического директора OpenAI Миры Мурати — выложила веса модели Inkling-Small. Это уменьшенная версия Inkling, открытой всего двумя неделями раньше: 276 млрд параметров против 975 млрд у старшей модели. Лицензия — Apache 2.0, веса лежат на Hugging Face.

Детали

Inkling-Small построена по схеме «смеси экспертов»: модель огромна целиком, но на каждое слово включается лишь малая её часть. Здесь это 12 млрд параметров из 276 — токен направляется в шесть из 256 специализированных блоков плюс два общих. У старшей Inkling на слово работает 41 млрд.

Что модель умеет: принимает текст, изображения и звук, отвечает текстом, держит контекст до 1 млн токенов. По независимому сводному индексу Artificial Analysis Intelligence Index она набрала 40 баллов — на один балл меньше, чем Inkling с её 975 млрд параметров. Среди открытых моделей такого же размера и меньше более высокого результата пока нет. Дообучение доступно через собственный сервис компании Tinker.

Требования к железу остаются серверными. Стандартная сборка BF16 просит от 600 ГБ видеопамяти — это четыре ускорителя NVIDIA B300 или восемь H200. Сжатая версия NVFP4 опускает планку примерно до 180 ГБ. По данным команды Unsloth, их квантованная сборка формата GGUF запускается уже на 128 ГБ оперативной памяти.

Что это значит

Касается это двух групп. Первая — компании, которые хотят свою модель на своём железе: разрыв между «весами в открытом доступе» и «мы это правда запустим» сократился в разы, но не исчез — 180 ГБ видеопамяти это всё ещё стойка, а не рабочая станция. Вторая — энтузиасты локального ИИ: 128 ГБ оперативной памяти уже достижимы на топовых мини-ПК и ноутбуках с общей памятью, хотя скорость на такой конфигурации будет заметно ниже серверной.

Цифра, ради которой стоит смотреть на релиз: минус один балл индекса при вчетверо меньшем размере. Это тот же тезис, что и у корейской Solar Open 2 — качество упирается не в общее число параметров, а в то, сколько их работает одновременно. Горизонт короткий: сборки под популярные движки запуска появляются в первые же дни, и старшую Inkling младшая версия по цене запуска обходит уже сейчас.

Bybit
$30,100 + $5,030
100 USDT в подарок
Получить →
Поделиться
Связаться:
Крипто- и data-аналитик, инженер-программист (факультет компьютерных наук ХНУРЭ). В IT с 2008 года: администрировал корпоративный мониторинг в «Vodafone Украина», семь лет разрабатывал и продвигал веб-проекты, пять лет руководил маркетингом на метриках — конверсия, CTR, ROI, LTV.Криптовалютными рынками занимаюсь с 2021 года: ончейн-метрики, токеномика, макроэкономические индикаторы. Разработал собственную data-driven модель анализа рынка на 30+ метрик. Стек — Python (pandas, NumPy, SciPy, matplotlib), математическая статистика и EDA; сбор и сверку данных автоматизирую AI-агентами.Принцип — «Don't trust, verify»: каждая цифра проверена по первоисточнику, ключевые — минимум по двум независимым; прогнозы — только сценарии с условиями. Тезис без данных не публикуется.