Корея виклала у відкритий доступ модель на 250 мільярдів параметрів, яка рахує як модель на 15 мільярдів

3 хв. читання

Що сталося

22 липня 2026 року корейська компанія Upstage виклала на Hugging Face відкриті ваги моделі Solar Open 2 — 250 мільярдів параметрів, з яких на кожен токен працюють лише 15 мільярдів. Модель заявлена з вікном контексту в мільйон токенів і ліцензією, що дозволяє комерційне використання. Це флагманський реліз державної програми Кореї зі створення власних базових моделей, де Upstage — провідна організація.

Деталі

Економії досягнуто двома рішеннями. Перше — «суміш експертів»: модель розбита на 320 невеликих підмереж плюс одна спільна, і на кожне слово вмикаються лише 8 із них. Друге — гібридна увага: три чверті з 48 шарів використовують спрощений механізм, а позиційне кодування прибрано повністю, що й дозволяє розтягнути контекст.

Заявлені результати (усі цифри — від самої Upstage, незалежних перевірок поки немає): 86,2 на MMLU-Pro, 92,4 на LiveCodeBench, 70,4 на SWE-Bench Verified. Ключове порівняння компанії — корейський офісний тест Ko-GDPval: 86,8 проти 86,9 у DeepSeek-V4-Pro, моделі більш ніж у шість разів більшої.

Сам вендор зазначає і провал: на Terminal Bench Hard, де агент працює в командному рядку, модель набирає 28,3 за 34,1–41,7 у фронтирних моделей.

Навчання йшло приблизно на 12 трильйонах токенів на прискорювачах NVIDIA B200. Офіційно підтримуються три мови: англійська, корейська та японська.

Для запуску потрібні серйозні ресурси: у нестиснутому вигляді ваги займають 500,6 ГБ і потребують щонайменше чотирьох прискорювачів H200, у чотирибітному — 153,3 ГБ і двох. Ентузіасти на форумі NVIDIA вже заміряли швидкість на парі компактних станцій DGX Spark: близько 15 токенів на секунду.

Що це означає

Кого стосується. Тих, хто тримає моделі на своєму залізі й стежить за відкритими вагами: у ніші з’явився ще один претендент рівня фронтира. Звичайному користувачеві чату — майже ніяк: української та російської в переліку підтримуваних мов немає, а бенчмарки міряли англійською, корейською та японською.

Ризик і можливість — у цифрах. Можливість: результат рівня моделі на 1,6 трильйона параметрів за власних 250 мільярдів — це помітно дешевше в експлуатації. Ризик у двох місцях. Перший: 153 гігабайти відеопам’яті навіть після стиснення — поріг, який відсікає все, окрім серверів. Другий: ліцензія вимагає, щоб будь-яка донавчена на її основі модель мала в назві слово Solar і позначку «Built with Solar» — для компанії, що будує свій продукт, це суттєва умова.

Горизонт. Найближча перевірка — незалежні заміри: поки всі бенчмарки надані розробником. Перші сторонні сигнали вже є і підтверджують заявлену швидкість, але щодо якості відповідей практики обережніші за пресреліз.

Ми розібрали модель докладно — архітектуру, реальні вимоги до заліза, пастки квантування та ліцензії — у повному огляді Solar Open 2.

Поділитися
Зв'язатися:
Крипто- та data-аналітик, інженер-програміст (факультет комп'ютерних наук ХНУРЕ). В IT з 2008 року: адміністрував корпоративний моніторинг у «Vodafone Україна», сім років розробляв і просував веб-проєкти, п'ять років керував маркетингом на метриках — конверсія, CTR, ROI, LTV.Криптовалютними ринками займаюся з 2021 року: ончейн-метрики, токеноміка, макроекономічні індикатори. Розробив власну data-driven модель аналізу ринку на 30+ метрик. Стек — Python (pandas, NumPy, SciPy, matplotlib), математична статистика та EDA; збір і звірку даних автоматизую AI-агентами.Принцип — «Don't trust, verify»: кожна цифра перевірена за першоджерелом, ключові — щонайменше за двома незалежними; прогнози — лише сценарії з умовами. Теза без даних не публікується.