Трамп и крупнейшие IT-компании договорились о саморегулировании ИИ

Руководители ведущих технологических компаний США подписали добровольное соглашение о безопасности искусственного интеллекта. Оно предусматривает внутренний контроль и независимый аудит, но пока не устанавливает обязательных государственных требований.

Президент США Дональд Трамп 29 сентября провёл в Белом доме встречу с руководителями крупнейших разработчиков искусственного интеллекта. По её итогам участники подписали соглашение о самостоятельном контроле рисков при развитии технологии. Среди подписантов — представители Anthropic, Google, Meta, Nvidia, OpenAI и Илон Маск. Трамп охарактеризовал документ как «морально обязывающий».

Как сообщает Reuters, OpenAI на встрече представлял президент компании Грэг Брокман, Anthropic — Дарио Амодеи, Google — Сундар Пичаи, Nvidia — Дженсен Хуанг, Meta — Марк Цукерберг.

Соглашение предусматривает четыре уровня контроля. Компании должны отслеживать поведение своих моделей, выделить внутреннюю команду для проверки защитных механизмов, привлекать независимых аудиторов и передавать результаты проверок отдельному комитету совета директоров. Особое внимание уделяется кибербезопасности, биологическим и химическим угрозам, а также предотвращению непредусмотренного доступа ИИ к техническим системам.

Участники также договорились регулярно обсуждать стандарты безопасности. При этом документ допускает, что в дальнейшем эти подходы могут закрепить в законодательстве. Пока речь идёт о добровольных обязательствах бизнеса. По данным CBS News, Трамп сообщил об обсуждении создания комитета из десяти человек, который мог бы следить за развитием инициативы.

Единой позиции относительно дальнейших мер у отрасли пока нет. Согласно материалу Reuters, Амодеи заявил, что конкретные правила ещё обсуждаются. Цукерберг назвал соглашение начальным этапом, а Хуанг подчеркнул необходимость ответственного и безопасного развития технологии.

Одновременно Трамп подписал указ об использовании термина «суперинтеллект» вместо «искусственного интеллекта» в официальных коммуникациях и ряде документов федеральной исполнительной власти. Это решение касается государственного словоупотребления и само по себе не означает изменения возможностей существующих моделей.