Развитие искусственного интеллекта может значительно повысить возможности террористических группировок и государств в разработке биологического оружия. С таким предупреждением выступил глава британской контрразведки MI5 Кен Маккаллум. Эксперты опасаются, что ИИ позволит не только совершенствовать существующие патогены, но и создавать новые, потенциально более опасные для человека.
Как сообщает The Guardian, современные чат-боты способны помогать пользователям находить научную информацию, планировать эксперименты и решать технические задачи. Это вызывает опасения, что технологии могут использоваться людьми, не обладающими достаточной подготовкой в области биологии.
Однако более серьёзную угрозу, по мнению исследователей, представляют хорошо оснащённые организации и государства, располагающие квалифицированными специалистами и лабораториями. В их руках искусственный интеллект может ускорить разработку биологических агентов с более опасными свойствами.
«В данном случае ИИ не заменяет профессиональные знания, а усиливает уже существующие возможности специалистов», — объяснила исследовательница Королевского колледжа Лондона Филиппа Лентцос.
Опасения подкрепляются конкретными случаями. В сентябре компания Anthropic сообщила о пяти эпизодах, когда учёные из неназванных стран пытались использовать чат-бот Claude для потенциально опасных исследований вирусов и токсинов. В некоторых случаях пользователи находили способы обходить установленные ограничения.
Вместе с тем эксперты подчёркивают, что создание биологического оружия остаётся чрезвычайно сложным процессом. Одних инструкций от нейросети недостаточно: необходимы специальные материалы, оборудование, практические навыки и возможность проведения экспериментов.
Проблема заключается и в том, что многие биологические исследования имеют двойное назначение: технологии, которые помогают разрабатывать вакцины и лекарства, потенциально могут использоваться во вред.
По словам директора Центра безопасности здравоохранения Университета Джонса Хопкинса Тома Инглсби, полноценные государственные механизмы защиты от подобного злоупотребления ИИ пока отсутствуют. Эксперты призывают ввести независимую проверку новых моделей искусственного интеллекта до их выпуска, а также усилить контроль за доступом к опасным биологическим данным и заказами на синтез генетических материалов.