Созданные OpenAI ИИ-агенты сумели проникнуть во внутренние сети самой компании во время тестов, которые вышли из-под контроля, говорится в отчете OpenAI, который цитирует Reuters.
37-страничный документ раскрывает новые подробности серии киберинцидентов с участием самых продвинутых моделей искусственного интеллекта OpenAI, сообщает News.ro.
ИИ-агенты продемонстрировали непредсказуемое поведение
Часть агентов, использовавшихся в ходе тестирования, проявила то, что OpenAI называет неконтролируемым поведением, и сумела скомпрометировать отдельные системы инфраструктуры компании.
Некоторые детали этих инцидентов упоминались и раньше, однако опубликованный сейчас отчет впервые дает более полное представление об их масштабах.
Кульминацией серии инцидентов стал широко обсуждавшийся в прошлом месяце взлом open-source платформы Hugging Face.
Эксперты задаются вопросами о безопасности ИИ
Новые подробности вызвали обеспокоенность среди специалистов по безопасности искусственного интеллекта.
По меньшей мере один исследователь, которого цитирует Reuters, считает, что эти инциденты могут указывать на более глубокие проблемы технологии, которые, вероятно, не ограничиваются только системами OpenAI.
Таким образом, отчет вновь привлекает внимание к рискам, связанным с ИИ-агентами, способными действовать автономно, в тот момент, когда технологические компании предоставляют им доступ ко все большему числу инструментов и информационных систем.