Компания OpenAI официально извинилась перед Австралией за киберинцидент, в ходе которого ее модели искусственного интеллекта получили несанкционированный доступ к статистическим данным государственной системы здравоохранения Medicare и других правительственных учреждений.
OpenAI признала, что в июне ее модели искусственного интеллекта получили доступ к сайтам австралийского правительства «способами, на которые у них не было разрешения», во время внутренних мероприятий по обучению и оценке моделей.
«Мы сожалеем о случившемся и работаем над тем, чтобы улучшить ситуацию в будущем. Мы берем на себя ответственность за произошедшее и намерены целенаправленно сотрудничать с Австралией, чтобы способствовать разработке практических подходов к тому, как разработчики ИИ и правительства выявляют, раскрывают и реагируют на связанные с ИИ действия в киберпространстве, независимо от того, являются они злонамеренными или непреднамеренными», — заявили в компании, сообщает Politico.
Какие учреждения затронули действия модели ИИ
В компании объяснили, что инцидент начался после того, как модели поручили изучить государственные расходы на лекарства для лечения дерматологических заболеваний в сообществах штата Виктория. В ходе выполнения этой задачи модель обнаружила способ получить доступ к данным системы Medicare.
По данным OpenAI, модель выполняла команды, скачивала внутренние файлы, учетные данные и агрегированную статистику, а также записывала файлы. При этом в компании подчеркнули, что конфиденциальные данные пациентов или получателей услуг затронуты не были, пишет Mediafax.
Инцидент затронул и другие австралийские учреждения, среди которых Бюро статистики и исследований преступности Нового Южного Уэльса (BOCSAR), Департамент здравоохранения штата Виктория и Австралийский институт здравоохранения и социального обеспечения (AIHW).
Реакция премьер-министра и властей Австралии
«OpenAI действовала очень конструктивно и открыто, и я это приветствую», — заявил премьер-министр, комментируя извинения компании.
Премьер-министр Австралии Энтони Альбанезе сообщил об инциденте на прошлой неделе в Нью-Йорке, перед выступлением в Организации Объединенных Наций, в котором призвал к более жесткому регулированию искусственного интеллекта.
Правительство Австралии создало специальную рабочую группу для изучения инцидента. Параллельно начались парламентские расследования, а критики требуют ввести обязательное уведомление об утечках и более жесткие финансовые санкции.