Цукерберг предложил обеспечить безопасность ИИ через независимые проверки и ответственность компаний
Глава Meta Марк Цукерберг считает, что разработчики способны самостоятельно замедлять работу над ИИ ради безопасности. Он поддержал независимую оценку моделей, но поставил под сомнение необходимость согласованного торможения всей отрасли.
Марк Цукерберг присоединился к дискуссии о рисках искусственного интеллекта и предложениях замедлить разработку передовых моделей. По мнению руководителя Meta, у каждой ИИ-компании есть собственные стимулы обеспечивать безопасность продуктов и полномочия принимать необходимые решения.
В основе его позиции — связь между надежностью технологии и доверием пользователей. Цукерберг считает, что люди не станут пользоваться ИИ-агентами, которые игнорируют поручения или действуют вопреки их интересам. Поэтому способность модели выполнять задачи в соответствии с намерениями человека становится конкурентным преимуществом. Дополнительным фактором он назвал юридическую ответственность за возможный ущерб от работы систем, пишет Forbes.
В качестве примера глава Meta рассказал о переносе выпуска ИИ-инструмента Muse на несколько месяцев. По его словам, компания использовала это время для усиления безопасности и защищенности продукта. Решение приняли самостоятельно, не требуя, чтобы конкуренты сначала согласились на аналогичные ограничения.
При этом Цукерберг поддержал участие независимых оценщиков и консультантов в проверке моделей. Он назвал такую экспертизу лучшей отраслевой практикой и сообщил, что Meta уже привлекает внешних специалистов. Таким образом, самостоятельная ответственность лабораторий в его подходе сочетается с независимым контролем качества и безопасности.
Заявление прозвучало после призыва главы Anthropic Дарио Амодеи замедлить развитие наиболее мощных ИИ-систем. Амодеи предложил координировать действия ведущих компаний, чтобы дать исследователям больше времени для изучения угроз. Его позицию поддержали руководитель OpenAI Сэм Альтман и Илон Маск.
Дополнительное внимание к вопросу привлекли публичные выступления специалистов по безопасности. Исследователь Anthropic Джейкоб Коксон и бывший сотрудник Google DeepMind Билал Чугтай сообщили об уходе из компаний и предупредили о рисках дальнейшего развития технологии. Их заявления усилили обсуждение того, насколько существующие механизмы контроля соответствуют возможностям новых моделей.
Разногласия между руководителями затрагивают прежде всего способ управления этими рисками. Сторонники координации предлагают согласовывать темп разработки между лабораториями. Цукерберг делает акцент на решениях отдельных компаний, для которых безопасность должна стать частью повседневной работы и условием сохранения доверия клиентов.
