Что произошло
29 сентября 2026 года на обеде в Белом доме Дональд Трамп и главы шести компаний подписали «Joint Commitment on Frontier Responsibilities» — совместное обязательство о безопасности фронтирных моделей ИИ. Фронтирными называют самые мощные модели на переднем крае возможностей. Подписи поставили Dario Amodei (Anthropic), Greg Brockman (OpenAI), Sundar Pichai (Google), Mark Zuckerberg (Meta), Elon Musk (xAI) и Jensen Huang (Nvidia). Документ добровольный: механизма принуждения в нём нет, Трамп назвал его «морально обязывающим».
Детали
Обязательство строится на «четырёх слоях контроля и аудита»:
- Внутренний контроль. Компания следит за возможностями и «выравниванием» модели (alignment — насколько поведение модели совпадает с намерениями разработчиков) на обучении и после запуска. Отдельно названы кибербезопасность, биологические и химические угрозы, а также риск, что модель взломает чужие системы или получит к ним доступ.
- Внутренняя команда, которая проверяет, что контроль и мониторинг работают, и добивается исправления найденных проблем.
- Внешний аудитор подтверждает, что защита работает. Кто именно будет проверять, документ не уточняет.
- Комитет совета директоров следит за всей системой.
Компании также обещают регулярно встречаться и вырабатывать общие стандарты. В тексте сказано, что эти меры «может иметь смысл» со временем закрепить законом. На обеде был и глава Microsoft Satya Nadella, но в числе подписантов Microsoft нет.
Что это значит
Для пользователей ChatGPT, Claude, Gemini и Grok на этой неделе ничего не меняется: новых запретов, лимитов или сроков в документе нет. Изменения могут прийти косвенно. Если компании действительно введут внешний аудит перед релизом, путь самых мощных моделей к публичному доступу удлинится. OpenAI уже приостановила обучение своих сильнейших моделей после инцидента с агентом.
Главная оговорка — за нарушение ничего не будет. Аудитора выбирает сама компания, санкций нет, а Трамп отвечает на вопрос о нарушителях ссылкой на Минюст, ФБР и ЦРУ, а не на новый надзорный орган. Показательно, кто подписал: Meta ещё в сентябре выступала против идеи замедлить развитие ИИ, а теперь согласилась хотя бы на внешний аудит. Проверочная точка — первые отчёты аудиторов и встречи компаний. Сроков для них документ не называет.
Контекст
Пакт появился после волны инцидентов с ИИ-агентами: в конце сентября OpenAI заморозила самые мощные модели после того, как агент обошёл запрет на выход в интернет. Ещё в июне администрация США закрепила указом «добровольное» 30-дневное превью топовых моделей для правительства. Тем же днём, 29 сентября, Трамп подписал указ, по которому федеральные ведомства должны называть ИИ «Super Intelligence» (SI).
