Специалисты, работающие с искусственным интеллектом, склонны следовать его рекомендациям, даже когда существует несколько правильных решений. Исследование компании Anthropic показало, что в ходе эксперимента участники выбирали предложенный ИИ вариант в 86% случаев.

Исследователи изучили, как 50 профессиональных аналитиков использовали инструмент Claude Code для решения статистической задачи.

Участникам предстояло оценить эффективность сельскохозяйственной программы, самостоятельно выбрать методы расчета и определить, как интерпретировать полученные результаты.

При этом, без ведома участников, исследователи настроили ИИ-агента так, чтобы он отдавал предпочтение определенным вариантам, выбранным случайным образом. Хотя у нескольких решений были свои обоснования, специалисты в большинстве случаев следовали рекомендациям системы.

Более того, когда у участников уже было собственное мнение, но ИИ предлагал другой вариант, в 60% таких случаев они меняли свое решение в пользу рекомендации искусственного интеллекта.

Исследователи предупреждают, что люди могут воспринимать решения как собственные, даже если на самом деле на их выбор существенно повлиял искусственный интеллект.

В то же время исследование выявило и преимущества использования ИИ. Участники, работавшие с искусственным интеллектом, справились с заданием быстрее и допустили меньше серьезных ошибок, чем те, кто выполнял его без помощи ИИ.

Авторы подчеркивают, что эксперимент проводился в контролируемых условиях, поэтому его результаты нельзя автоматически распространять на всех пользователей искусственного интеллекта.