The Atlantic: в OpenAI обсуждали доступ к будущему ИИ для правительств. Компания отрицает планы продажи
По данным The Atlantic, в 2017 году руководство OpenAI рассматривало привлечение финансирования от государств в обмен на доступ к будущим разработкам. Компания заявляет, что не обсуждала продажу AGI Китаю или России.
Внутренние разногласия о финансировании и безопасности искусственного интеллекта стали одной из причин раскола в OpenAI, после которого появилась Anthropic. Об этом пишет The Atlantic. Ключевым эпизодом издание называет обсуждение так называемого «плана стран» в 2017 году.
Как сообщает The Atlantic, сооснователи OpenAI Грэг Брокман и Илья Суцкевер рассматривали возможность привлечь деньги от правительств США, Китая и России в обмен на права доступа к будущей технологии общего искусственного интеллекта — AGI.
Согласно изложению The Atlantic, первоначально обсуждалась международная коалиция для совместного управления развитием ИИ. Позднее идея приобрела характер финансовой стратегии, предполагавшей конкуренцию государств за доступ к разработкам.
OpenAI оспаривает такую трактовку. Представитель компании сообщил изданию, что она кратковременно рассматривала международное сотрудничество, но не планировала продавать AGI Китаю или России. Сведения о подобных обсуждениях также не означают, что технология была создана или передана какой-либо стране.
Дарио Амодеи, работавший тогда в OpenAI, выступил против предложенного подхода. По данным публикации, он опасался усиления гонки вооружений и использования мощных ИИ-систем для нарушения прав человека. Этот спор подорвал его доверие к руководству.
Описанная схема не была реализована. В 2019 году OpenAI получила инвестиции Microsoft в размере $1 млрд. Однако разногласия продолжились: Амодеи сомневался, насколько последовательно руководство отстаивало требования безопасности в переговорах с партнёром.
В 2020 году Амодеи и несколько коллег покинули OpenAI. В следующем году они основали Anthropic. Материал связывает этот уход с совокупностью конфликтов вокруг управления, коммерческих решений и безопасности, а не с одним предложением о финансировании.
