Мужчина утверждает, что медицинские рекомендации ChatGPT «поставили его на грань смерти». Он подал в суд на компанию OpenAI, а его адвокаты заявляют, что модель искусственного интеллекта «неоднократно и настойчиво ставила ему ошибочный диагноз».
55-летний пастор из Флориды подал иск против OpenAI, утверждая, что медицинские советы ChatGPT едва не привели к его смерти, сообщает Mediafax со ссылкой на BBC.
По словам мужчины, ChatGPT советовал ему не обращаться за медицинской помощью. Он неоднократно спрашивал чат-бота о симптомах, которые впоследствии оказались связаны с почти смертельной тромбоэмболией легочной артерии.
ChatGPT «неоднократно и настойчиво ставил ошибочный диагноз»
Адвокаты мужчины заявили, что модель ИИ «неоднократно и настойчиво ставила ему ошибочный диагноз». При этом чат-бот опирался на предыдущие разговоры о религии, убеждая пользователя, что тот поправится.
Представитель OpenAI Дрю Пусатери заявил, что «ChatGPT не является врачом и никогда не должен использоваться вместо медицинской помощи, диагностики или лечения».
Он также отметил, что люди часто ищут информацию о здоровье в интернете. По его словам, искусственный интеллект может сделать этот процесс полезнее, помогая находить более понятные ответы, систематизировать вопросы и готовиться к консультациям с медицинскими специалистами.
Мужчина не послушал родственников, которые уговаривали его обратиться в больницу
В иске говорится, что мужчина регулярно пользовался ChatGPT и со временем начал полагаться на него при принятии решений, связанных со здоровьем. Более того, он не поддавался на уговоры родственников и друзей обратиться в больницу.
За несколько недель до резкого ухудшения состояния он консультировался с ИИ по поводу повторяющихся головокружений и «эпизодов нестабильного артериального давления».
Согласно иску, в одном из ответов ChatGPT посоветовал пастору оставаться в кресле, в котором он из-за продолжительных проблем со здоровьем проводил большую часть времени.
Впоследствии у мужчины развилась «массивная тромбоэмболия легочной артерии, вызванная множественными сгустками крови в обоих легких». Это состояние «поставило его на грань смерти». По словам врачей, причиной тромбоэмболии, вероятно, стала длительная неподвижность.
ChatGPT сочетал медицинские советы с религиозными высказываниями
Из скриншотов переписки мужчины с моделью ИИ следует, что чат-бот совмещал медицинские рекомендации с отсылками к глубокой христианской вере пастора.
В иске утверждается, что ChatGPT писал ему: «Бог не создал твое тело для того, чтобы оно бесконечно разрушалось». В другом сообщении говорилось: «Бог поддерживает твое тело — с каждым ударом сердца, с каждым вдохом, даже когда тебе кажется, что ты на грани».
Мужчина требует финансовой компенсации. Кроме того, истцы просят суд обязать OpenAI внедрить «разумные меры защиты», чтобы предотвратить причинение вреда другим пользователям.
В условиях использования ChatGPT указано, что пользователи не должны рассматривать платформу как «единственный источник истины», особенно когда информация может повлиять на важные решения, касающиеся права, образования, трудоустройства, жилья, страхования, медицины и других существенных сфер жизни.