OpenAI и Anthropic обсуждали взаимную проверку ИИ-моделей на безопасность

Компании рассматривали юридически обязывающее соглашение о тестировании разработок друг друга. Переговоры касались поиска уязвимостей и рисков несанкционированного поведения ИИ, однако их результат неизвестен.

OpenAI и Anthropic обсуждали возможность предоставить друг другу доступ к своим ИИ-моделям для проверки безопасности, сообщает The Information.

По данным публикации, стороны рассматривали юридически обязывающее соглашение, а юристы прорабатывали его условия. Проверки должны были выявлять уязвимости и ситуации, в которых модели способны действовать без соответствующего разрешения.

Для разработчиков такой подход потенциально дает дополнительный взгляд на собственные системы. Команда конкурента может использовать другие сценарии испытаний и обнаружить проблемы, которые не проявились при внутреннем тестировании. Однако взаимная проверка сама по себе не гарантирует безопасности: результат зависит от глубины доступа, методики и того, как компания устраняет выявленные недостатки.

Согласно пересказу издания, переговоры начались до описанного в материале инцидента со взломом Hugging Face агентами OpenAI. При этом неизвестно, подписали ли стороны соглашение и приступили ли к совместной работе. Поэтому говорить о запуске постоянного механизма взаимного контроля пока преждевременно.

Схожую идею ранее высказывал Илон Маск. В июле 2026 года он предложил разработчикам давать конкурентам возможность проверять новые модели перед выпуском. В сентябре Маск повторил инициативу и допустил участие китайских компаний.

Обсуждение отражает более широкий вопрос: как организовать внешнюю оценку мощных ИИ-систем, сохранив коммерческую самостоятельность разработчиков. Взаимное тестирование конкурентами и независимый аудит предполагают разные модели контроля. В первом случае проверяющие сами участвуют в технологической гонке, поэтому особенно важны понятные условия доступа и обращения с результатами испытаний.

В доступной публикации не раскрываются перечень моделей, сроки проверок и порядок устранения обнаруженных проблем. Эти детали позволили бы оценить, насколько обсуждавшееся соглашение могло повлиять на безопасность продуктов и решения об их выпуске.