Цукерберг поддержал независимые проверки ИИ, но усомнился в необходимости общего замедления

Глава Meta считает, что конкуренция и ответственность за возможный ущерб стимулируют разработчиков обеспечивать безопасность искусственного интеллекта. При этом он поддержал привлечение внешних экспертов к оценке моделей.

Марк Цукерберг обозначил свою позицию в дискуссии о необходимости замедлить развитие передового искусственного интеллекта. По его мнению, каждая ИИ-лаборатория должна самостоятельно определять безопасный темп работы и принимать необходимые меры, не дожидаясь договоренностей с конкурентами, об этом сообщает Forbes.

Глава Meta связывает безопасность моделей с их коммерческой востребованностью. Пользователи, по его словам, не захотят доверять ИИ-агентам, которые действуют непредсказуемо или не выполняют поручения. Поэтому соответствие поведения системы целям человека становится одним из условий конкуренции. Дополнительным стимулом Цукерберг назвал риск серьезной юридической ответственности, если технология причинит вред.

В качестве примера он привел решение Meta отложить выпуск ИИ-инструмента Muse на несколько месяцев. По словам Цукерберга, дополнительное время потребовалось для работы над безопасностью и защищенностью продукта. Компания приняла это решение самостоятельно, не ставя его в зависимость от аналогичных действий других разработчиков. Об этом пишет Bloomberg в публикации The Business Times.

Одновременно Цукерберг поддержал независимую оценку ИИ-систем. Привлечение внешних экспертов и консультантов он назвал лучшей отраслевой практикой и отметил, что Meta уже использует такой подход. Его позиция предполагает сочетание ответственности самих разработчиков с внешней проверкой их работы.

Заявление прозвучало на фоне призывов руководителя Anthropic Дарио Амодеи к скоординированному замедлению разработки наиболее мощных моделей. Амодеи считает, что исследователям необходимо больше времени для изучения потенциальных угроз. Его инициативу поддержали глава OpenAI Сэм Альтман и Илон Маск.

Обсуждение усилилось после публичных предупреждений специалистов по безопасности ИИ. Исследователь Anthropic Джейкоб Коксон и бывший сотрудник Google DeepMind Билал Чугтай сообщили об уходе из компаний и выразили опасения относительно дальнейшего развития технологии.

Таким образом, участники дискуссии сходятся в необходимости проверок безопасности, но предлагают разные способы управления темпом разработки. Амодеи выступает за согласованные действия ведущих лабораторий, тогда как Цукерберг делает акцент на самостоятельных решениях компаний, рыночных стимулах и независимой экспертизе.