Глава Meta Марк Цукерберг не поддержал идею о том, что крупнейшим разработчикам искусственного интеллекта следует коллективно замедлить развитие своих моделей ради безопасности. По его мнению, у самих компаний уже достаточно стимулов не допускать опасного развития технологий — от конкуренции за доверие пользователей до риска финансовой и юридической ответственности. Об этом сообщает Reuters.
«Доверие и соответствие человеческим целям быстро становятся важнейшими характеристиками, которые будут отличать одних агентов и модели от других», — заявил Цукерберг. По его словам, разработчики, которые не уделяют этому достаточно внимания, будут проигрывать конкурентам.
В качестве примера он привел Meta: в начале года компания отложила запуск ИИ-агента Muse, чтобы усилить меры безопасности, причем не стала ждать аналогичных действий от остальных участников рынка.
«Мы не просили всех остальных сначала сделать то же самое. Мы просто сделали это в рамках нашей обычной работы», — сказал Цукерберг.
Его заявление прозвучало спустя несколько дней после того, как глава Anthropic Дарио Амодеи призвал ИИ-компании замедлить развитие некоторых возможностей моделей. Особую обеспокоенность у него вызывает так называемое рекурсивное самосовершенствование — способность ИИ участвовать в создании собственных, более совершенных версий. Призыв Амодеи впоследствии публично поддержали глава OpenAI Сэм Альтман и основатель xAI Илон Маск.
Цукерберг при этом заявил, что «значительное большинство» вычислительных ресурсов Meta направлено не на создание самосовершенствующегося ИИ, а на продукты для текущих потребностей пользователей.
Дискуссия идет и на фоне позиции властей США, которые пока не поддерживают идею скоординированного замедления отрасли. Президент Дональд Трамп в понедельник преуменьшил опасения по поводу возможных негативных последствий ИИ и заявил, что в США уже существуют необходимые механизмы защиты.