По данным расследования The Wall Street Journal, с лета 2025 года сотни пользователей ChatGPT по всему миру запрашивали у чат-бота инструкции по созданию биологического оружия и ядов — и часть из них получала ответы, которые сотрудники OpenAI сочли доступными даже школьнику, изучающему биологию.
Ещё летом 2025 года, до широкого распространения проблемы, компания внутренне классифицировала модель GPT-5 как „высокорисковую» по биологическим угрозам, но осенью того же года понизила эту оценку.
Среди запросов, на которые чат-бот не отказал отвечать, были просьбы объяснить, как превратить возбудителей инфекционных заболеваний в аэрозоль, и как изменить вирус кори, чтобы обойти существующую вакцину. Другой пользователь хотел узнать, как изготовить рицин — высокотоксичный яд, запрещенный международными договорами. ChatGPT тоже дал подробные инструкции.
Специалисты по биооружию и терроризму, изучившие часть переписок по просьбе журналистов, назвали некоторые ответы чат-бота „смертельно точными».
OpenAI заблокировала все аккаунты, вовлечённые в подобную переписку, но не сообщила о случаях в правоохранительные органы: федеральный закон США не обязывает компании делать это. По данным издания, руководство при этом требовало, чтобы модель не отказывала пользователям слишком часто, — чтобы не мешать работе учёных и медицинских исследователей.
Отметим, что, по данным WSJ, похожие вопросы задавали и пользователи других чат-ботов — Claude от Anthropic, Gemini от Google и Grok от xAI, — однако неизвестно, получили ли они сопоставимые ответы и были ли это настоящие попытки создать оружие или проверка возможностей систем.
Тем временем в Конгрессе США готовятся сразу два законопроекта: республиканец Нейтан Моран ещё в конце июня внёс билль, который обязал бы компании сообщать о подобных запросах Министерству торговли, а 23 июля — за четыре дня до публикации расследования WSJ — Моран вместе с демократом Тедом Лью представили законопроект о „кнопке аварийного отключения», который позволил бы Министерству внутренней безопасности США принудительно останавливать работу ИИ-систем, способных нанести катастрофический ущерб.