Що сталося
15 жовтня 2026 року Nvidia випустила сімейство відкритих моделей Nemotron 3.5 для ШІ-агентів — програм, які самі виконують багатокрокові завдання: читають документи, викликають інструменти, переходять сайтами. Флагман Nemotron 3.5 Super VL на 120 млрд параметрів розрахований на сервери компаній. Nemotron 3.5 Bolt 74B-A9B стиснули до 24 ГБ пам’яті, і він працює на ПК. Ваги, датасети й рецепти навчання відкриті.
Деталі
| Super VL | Bolt 74B-A9B | Bolt E4B | |
|---|---|---|---|
| Параметри (усього / активних) | 120B / 12B | 74B / 9B | не розкрито |
| Вхідні дані | текст, зображення, відео | текст, зображення, відео | — |
| Контекст | до 1 млн токенів | до 256 тис. токенів | — |
| Пам’ять | NVFP4 (4 біти) | 24 ГБ, нативні 2 біти | 4 ГБ |
| Залізо за карткою | 1× DGX Spark, 1× H200, 2× H100 | GeForce RTX, RTX/DGX Spark | GeForce RTX, Jetson |
| Доступність | зараз | зараз | 23 жовтня |
Обидві моделі — гібрид Mamba-2 і трансформера з архітектурою MoE (суміш експертів: на кожен токен працює лише частина параметрів, звідси «A12B» і «A9B» у назвах). Ліцензія — OpenMDW-1.1 від Linux Foundation, вона дозволяє комерційне використання й донавчання.
Super VL доступна на Hugging Face, OpenRouter, ModelScope і в NVIDIA NIM. Nvidia стверджує, що модель тримає точність її найбільшого reasoning-флагмана за п’ятої частини параметрів і працює в 5 разів швидше за найближчого відкритого конкурента. Це заміри самої компанії. Серед перших користувачів — CrowdStrike, Perplexity, Salesforce і Atlassian.
Bolt уже є в Ollama (ollama run nemotron-3.5-bolt, завантаження близько 25 ГБ), LM Studio і llama.cpp (формат GGUF).
Що це означає
Для власників потужних відеокарт Bolt — один із небагатьох способів запустити агента рівня 70B без хмари. Цифра «24 ГБ» у назві — це обсяг самих ваг, а не вимога до відеокарти. Офіційні рецепти llama.cpp у картці моделі потребують дискретну RTX із 32 ГБ і більше для контексту 64 тис. токенів. Це рівень RTX 5090 (про її стелю в 32 ГБ ми писали окремо). Для повних 256 тис. токенів потрібно 48 ГБ. З Mac через Ollama не вийде: на сторінці моделі прямо сказано, що Apple Silicon поки не підтримується.
Власникам DGX Spark і ноутбуків RTX Spark пощастило більше: за заміром Nvidia на RTX Spark зі 128 ГБ Bolt видає близько 84 токенів/с. У тій самій таблиці Nvidia менші Qwen3.6 35B-A3B і Gemma 4 26B-A4B швидші — 97 і 101 токен/с. Bolt виграє точністю в агентних тестах, а не швидкістю.
Тим, у кого карти на 8–16 ГБ, варто дочекатися Bolt E4B 23 жовтня: йому вистачить 4 ГБ.
Контекст
Ноутбуки на чипі RTX Spark надійшли в продаж минулого тижня — перші заміри локального ШІ на них ми розбирали в новині про старт продажів RTX Spark.
