Федеральная торговая комиссия США (FTC) готовит официальные запросы информации нескольким компаниям и намерена вызвать руководителей разработчиков искусственного интеллекта на слушания.
Расследование затронет в том числе OpenAI и Anthropic и станет новым этапом в отношениях между разработчиками ИИ и американскими регуляторами. Оно началось после серии инцидентов, показавших, что ИИ-агенты способны взаимодействовать с внешними системами, находить уязвимости и в отдельных случаях использовать их, сообщает Mediafax со ссылкой на Reuters.
Расследование FTC охватывает всю отрасль и должно оценить потенциальные риски, которые технологии ИИ могут создавать для потребителей. В числе организаций, попавших в поле зрения регулятора, — OpenAI, Anthropic и исследовательская группа METR, участвовавшая в независимом изучении инцидентов безопасности, связанных с ИИ-агентами этих компаний.
FTC намерена направить официальные запросы о предоставлении информации и обязать руководителей некоторых ИИ-компаний дать показания. Расследование называют первым в США официальным правоприменительным шагом, напрямую посвященным автономным ИИ-агентам, которые способны действовать за пределами тестовой среды и влиять на реальные системы.
ИИ-агенты начали вызывать вопросы безопасности
Одним из эпизодов, усиливших давление на отрасль, стала ситуация с агентами OpenAI, которые анализировали уязвимости платформы для разработчиков Hugging Face. По словам представителя FTC, которого цитирует Reuters, агенты изучали уязвимости перед проведением масштабной атаки на платформу.
Глава FTC Эндрю Фергюсон ранее предупреждал, что разработчики, использующие ИИ-агентов в тестах безопасности и в результате провоцирующие реальные атаки, могут нести ответственность за причиненный ущерб.
Новый этап регулирования ИИ-агентов
Проблема не ограничивается одним инцидентом. ИИ-агенты могут получать доступ к интернету, программам и другим системам для выполнения поставленных задач. В некоторых случаях их действия могут выходить за рамки того, что ожидали пользователь или разработчик.
FTC уже обладает полномочиями привлекать компании к ответственности за недобросовестные или вводящие в заблуждение практики. Ранее ведомство применяло эти полномочия и в делах, связанных с защитой пользовательских данных.
Для ИИ-индустрии нынешнее расследование может стать важным прецедентом в вопросе о том, как будет распределяться ответственность, если автономным системам дают возможность воздействовать на реальные цифровые инфраструктуры.
Anthropic уже предупреждала в документах, подготовленных к выходу на биржу, что технологии ИИ-агентов создают серьезные и трудно прогнозируемые юридические риски.