Король Карл III соберет в Шотландии некоторых из самых влиятельных представителей индустрии искусственного интеллекта и призовет их сделать все возможное, чтобы технология оставалась «на службе человечества». На встрече ожидаются представители Nvidia, Google DeepMind, OpenAI и Anthropic, пишет Reuters.
Встреча пройдет в Dumfries House, резиденции короля в Шотландии, на фоне растущей обеспокоенности стремительным развитием искусственного интеллекта и тем, что меры безопасности не успевают за появлением новых систем.
Карл III намерен призвать лидеров отрасли дать гарантии, что по мере развития автономных ИИ-агентов люди не потеряют контроль над собственной жизнью.
«Решения, которые принимаются в этот период, сформируют мир, который унаследуют будущие поколения», скажет монарх, согласно фрагментам речи, опубликованным Букингемским дворцом. Он подчеркнет, что речь идет не только о развитии технологии, но и о ее использовании в интересах людей, сообществ и окружающей среды.
Среди участников ожидаются основатель и глава Nvidia Дженсен Хуанг, основатель Google DeepMind Демис Хассабис, финансовый директор OpenAI Сара Фрайар, а также британский министр по вопросам искусственного интеллекта Канишка Нараян.
В обсуждениях также должен принять участие Паоло Бенанти, советник Папы Льва XIV, который ранее призывал правительства замедлить темпы развития искусственного интеллекта.
Дискуссия о рисках ИИ в последние недели усилилась. Двое исследователей Anthropic предупредили, что все более мощные системы при определенных сценариях могут представлять даже экзистенциальную угрозу для человечества. Глава Anthropic Дарио Амодеи также призвал замедлить темпы развития технологии.
При этом встреча в Шотландии, как ожидается, не завершится заключением каких-либо обязательных соглашений. В ходе обсуждений, в частности, будет рассмотрена возможность выработки общих принципов развития и использования искусственного интеллекта.