Компании, разрабатывающие искусственный интеллект, начали обращаться за консультациями к религиозным лидерам, философам и учёным, чтобы определить, как чат-боты должны вести себя в ситуациях, требующих морального выбора. Цель заключается в том, чтобы научить ИИ отличать добро от зла. Однако инициатива уже вызывает споры: эксперты предупреждают, что религиозные ценности невозможно свести к единому универсальному набору правил.
Как сообщает Associated Press, по мере того как искусственный интеллект становится всё более привычной частью повседневной жизни, технологические компании пытаются научить его давать ответственные и взвешенные ответы, в том числе на деликатные вопросы.
Компания Anthropic, один из ведущих разработчиков искусственного интеллекта, заявляет, что стремится учитывать религиозные, светские и политические взгляды при создании своих моделей.
Эту тему обсуждали и в Ватикане, где сооснователь Anthropic Крис Ола принял участие в презентации папской энциклики, посвящённой искусственному интеллекту. Он признал, что моральные проблемы, возникающие с развитием новых технологий, невозможно решить исключительно в лабораториях.
Эксперты предупреждают о рисках
Некоторые исследователи считают, что попытка объединить ценности разных религий может привести к результату, противоположному ожидаемому.
У каждой религии свои традиции и принципы, а попытка свести их к общим правилам может стереть важные различия. Более того, существует риск, что системы искусственного интеллекта начнут отдавать предпочтение одним религиозным или культурным взглядам в ущерб другим.
Пока единого мнения о том, как искусственный интеллект должен решать моральные дилеммы и кто вправе определять ценности, которыми он руководствуется, не существует.