Бывший исследователь Google DeepMind призвал замедлить развитие ИИ из-за рисков для человечества

Билал Чугтай, занимавшийся безопасностью искусственного интеллекта в Google DeepMind, объявил об уходе из компании. По его мнению, возможности нейросетей растут быстрее, чем способность разработчиков обеспечивать их безопасное поведение.

Бывший исследователь Google DeepMind Билал Чугтай публично предупредил о рисках ускоренного развития искусственного интеллекта. В заявлении, опубликованном 14 сентября, он выразил опасение, что создание систем, значительно превосходящих человека, может привести к потере контроля над технологией, об уходе он сообщил в своём блоге. 

Чугтай покинул компанию еще в июле 2026 года, следует из данных его профиля в LinkedIn. Публично объяснить свою позицию он решил на фоне новой волны обсуждений безопасности ИИ.

В Google DeepMind исследователь занимался безопасностью общего искусственного интеллекта и согласованием поведения моделей с человеческими целями — направлением, известным как alignment. В своем заявлении он назвал эту задачу сложной и пока нерешенной. По его оценке, разработчики недостаточно понимают, как добиться того, чтобы более мощные системы устойчиво действовали в интересах людей.

Чугтай допускает появление в ближайшие годы сверхинтеллектуальных систем, которые превзойдут человеческие способности в самых разных областях. Его главное опасение связано с тем, что такие системы могут выйти из-под контроля и предпринимать опасные действия. Это оценка возможного сценария самим исследователем, а не утверждение о неизбежности катастрофы, говорится в заявлении Билала Чугтая

При этом он считает безопасное развитие ИИ достижимым. Для этого, по его мнению, компаниям необходимо координировать работу и согласовать темп разработки с возможностями общества выявлять и устранять возникающие угрозы. Еще одно предложенное условие — большая прозрачность: общество должно лучше понимать, какие риски сопровождают создание новых систем.

После ухода из Google DeepMind Чугтай продолжил работу в сфере безопасности ИИ. На своем сайте он указывает, что руководит новой образовательной программой в BlueDot Impact. Программа посвящена подготовке специалистов по безопасности искусственного интеллекта. Таким образом, дальнейшую деятельность он связывает с расширением круга людей, способных работать над снижением технологических рисков.

Его выступление последовало за уходом исследователя Anthropic Джейкоба Коксона, который также предупредил об опасности будущих ИИ-систем. Затем глава Anthropic Дарио Амодеи призвал ведущих разработчиков сотрудничать и замедлить развитие передовых моделей. Отмечапется, что эту инициативу поддержали руководители нескольких крупнейших технологических компаний.