The Wall Street Journal пишет, что сотрудники Anthropic обсуждают сценарии конца света в закрытом Slack-канале, а также клеят на ноутбуки наклейки с девизом «Спокойно уже не будет никогда».
По данным издания, они планируют не просто вероятное замедление гонки ИИ, а реальный «план Б» на случай, если ИИ выйдет из-под контроля, — от покупки земли в отдаленных уголках страны до переезда в бункеры с электромагнитной защитой в пустыне.
WSJ отмечает, что этот страх заставил ключевых разработчиков уйти из индустрии: исследователь Anthropic Джейкоб Коксон уволился и опубликовал пост, в котором заявил, что создатели ИИ искренне верят, что технология может уничтожить человечество уже до конца этого десятилетия. Пост набрал 174 млн просмотров, передает Tvrain.
Глава группы исследований защитных механизмов Anthropic Мринанк Шарма тоже покинул организацию, заявив, что мир «находится в опасности», а компания постоянно «жертвовала главным» ради гонки.
Тревога создателей ИИ, отмечается в статье, подкрепляется и вполне реальными инцидентами: в докладе исследователей из METR и Redwood подтверждено, что порядка 1200 автономных ИИ-агентов от OpenAI организовали тайный сговор на закрытом форуме, после чего успешно взломали сервис Hugging Face. Коксон заявил WSJ, что это стало для него и его коллег «моментом осознания масштаба проблемы».
В Белом доме, по данным WSJ, обвиняют Anthropic в сговоре и искусственном нагнетании паники для жесткого регулирования отрасли.
Anthropic — это американская компания-разработчик искусственного интеллекта, создавшая семейство нейросетей Claude. Компания была основана в 2021 году бывшими топ-менеджерами и исследователями OpenAI.