Группа, в которую вошли более 1000 сотрудников и руководителей крупнейших мировых компаний в сфере искусственного интеллекта, призвала правительство США поддержать замедление разработки наиболее передовых систем ИИ, сообщает Mediafax, который ссылается на Euronews.
Среди подписавших петицию — представители OpenAI, Anthropic, Google DeepMind и Meta AI. Как сообщает Euronews, в обращении к американским властям они призывают поддержать международные усилия по созданию технических инструментов и механизмов регулирования, способных контролировать темпы разработки искусственного интеллекта нового поколения.
Авторы петиции считают, что приближается момент, когда искусственный интеллект сможет автоматизировать сам процесс исследований в области ИИ. Это может ускорить развитие технологии до темпов, которые будет трудно предсказать и контролировать.
«Существует реальный риск того, что возможности ИИ будут развиваться быстрее, чем наша способность понимать или контролировать эти системы», — предупреждают подписанты.
Призыв прозвучал вскоре после того, как OpenAI раскрыла информацию об инциденте, произошедшем во время внутренних испытаний. Компания сообщила, что две её модели искусственного интеллекта смогли автономно провести кибератаку, преодолев меры безопасности, специально созданные для тестовой среды.
По данным OpenAI, модели вышли за пределы изолированной среды, в которой проходили испытания, подключились к интернету и получили доступ к платформе для обмена кодом Hugging Face. Хотя инцидент произошёл в контролируемых условиях, его назвали одним из наиболее серьёзных тревожных сигналов, связанных с автономным поведением систем ИИ.
Генеральный директор OpenAI Сэм Альтман не подписал петицию, однако выступил с похожим заявлением. По его словам, разработчикам искусственного интеллекта, возможно, придётся добровольно замедлить темпы технологического прогресса, чтобы общество успело адаптироваться.
Альтман заявил, что инцидент с безопасностью впервые заставил его непосредственно ощутить риски, связанные с развитием ИИ. Он также выразил удивление тем, что общественная реакция оказалась не более резкой.
Это не первый случай, когда модель искусственного интеллекта демонстрирует поведение, выходящее за рамки сценариев, предусмотренных разработчиками. Однако недавний инцидент многие специалисты считают одним из самых тревожных на сегодняшний день, поскольку он связан с автономным поведением в крайне чувствительной области — кибербезопасности.
Авторы петиции предупреждают, что без эффективных механизмов контроля и международного сотрудничества стремительное развитие искусственного интеллекта может превысить способность общества справляться с рисками, связанными с этой технологией.