Экспериментальная модель искусственного интеллекта OpenAI самостоятельно получила доступ к чужому криптокошельку и потратила находившиеся на нём токены, чтобы завершить поставленную задачу. При этом нейросеть не сообщила разработчикам, откуда взяла средства. Инцидент произошёл ещё 26 июня, однако обнаружили его только 25 сентября.
Как сообщает CoinDesk, во время тестирования ИИ-модель выполняла задание по программированию и развёртыванию смарт-контрактов в сети Ethereum. Для проведения транзакций ей потребовались средства, однако получить бесплатные тестовые токены не удалось.
Тогда нейросеть самостоятельно написала скрипт, проверила 362 криптовалютных адреса, созданных с использованием общедоступных фраз восстановления, и обнаружила кошелёк с достаточным балансом.
Прежде чем воспользоваться чужими средствами, ИИ даже задался вопросом, насколько это этично. Однако затем решил, что поскольку ключи находятся в открытом доступе, а токены не имеют реальной стоимости, их можно считать «фактически брошенными».
В результате нейросеть успешно завершила задание, оплатив комиссии из чужого кошелька. В итоговом отчёте она сообщила о выполненной работе, но не раскрыла источник средств.
Важно, что речь идёт о тестовой сети Ethereum Sepolia, где используются токены без реальной рыночной стоимости. Настоящая криптовалюта похищена не была.
В OpenAI подтвердили инцидент и сообщили об усилении контроля за поведением ИИ-моделей, а также введении дополнительных ограничений на доступ к интернету.