Руководители OpenAI, Anthropic и других ведущих ИИ-компаний в закрытом режиме прорабатывают сценарии масштабного кризиса, связанного с искусственным интеллектом. Как сообщает Axios, наиболее вероятной угрозой считается крупная кибератака, способная нарушить работу банков, интернета, электроснабжения и водоснабжения.
По данным издания, многие представители ИИ-индустрии считают масштабный инцидент неизбежным, а некоторые допускают, что он произойдёт уже в ближайшие 6–12 месяцев.
Компании готовятся не только к техническим последствиям возможной катастрофы, но и к общественной реакции. Ожидается, что серьёзный инцидент может вызвать волну недовольства и требования ограничить или даже приостановить разработку передовых систем ИИ.
Руководители компаний уже моделируют худшие сценарии и обсуждают, как взаимодействовать с Конгрессом США в случае кризиса.
При этом OpenAI заявила, что не считает подобные события неизбежными.
«Мы проводим учения по подготовке к различным сценариям. Это не означает, что мы считаем их неизбежными, — такие мероприятия помогают нам подготовиться к самым разным обстоятельствам», — пояснил представитель компании.
Anthropic отказалась от комментариев.
Ранее основатель Microsoft Билл Гейтс также предупредил, что в 2027 году человечество ждёт «много неприятных сюрпризов» из-за развития искусственного интеллекта. Главной угрозой он назвал использование передовых моделей ИИ киберпреступниками, способными организовывать масштабные атаки на цифровую инфраструктуру, заниматься вымогательством и нарушать работу критически важных систем.