27-летний британский исследователь Джейкоб Коксон объявил об уходе из компании Anthropic и заявил, что полностью покидает индустрию искусственного интеллекта. По его словам, разработчики вслепую движутся к созданию неконтролируемого сверхинтеллекта.
Серьезные обвинения в адрес OpenAI и Anthropic
В серии публикаций в соцсети X Коксон заявил, что ни OpenAI, ни Anthropic не ведут себя ответственно в технологической гонке, сообщает AFP.
Джейкоб Коксон по образованию математик. Ранее он занимался обучением моделей искусственного интеллекта на огромных объемах данных и непосредственно участвовал в разработке таких систем.
«Ни одна из компаний не действует ответственно. Они с головокружительной скоростью движутся к сверхинтеллекту, способному самостоятельно совершенствоваться, и играют нашими жизнями», заявил Коксон.
Сверхчеловеческие системы
Коксон предупредил, что вскоре такие системы могут превзойти человека.
«Не стоит недооценивать мощь этой технологии. Эти системы вскоре станут сверхчеловеческими, способными взломать любую компьютерную систему, за одну ночь совершить революцию в любой сфере и получить реальную власть и ресурсы», отметил Коксон.
Исследователь утверждает, что, хотя руководители компаний публично стараются говорить об искусственном интеллекте сдержанно, в частных разговорах многие разработчики признаются, что опасаются возможностей создаваемых систем, пишет Mediafax.
«Люди, которые разрабатывают искусственный интеллект, искренне считают, что до конца десятилетия он может уничтожить нас всех. Хотя публично исследователи выступают с успокаивающими заявлениями, в частных разговорах они выражают страх», заявил исследователь.
Гонка с Китаем и проблема безопасности
Коксон ранее ушел из OpenAI, чтобы присоединиться к Anthropic, компании, которая уделяет особое внимание вопросам безопасности. Однако, по его словам, несмотря на то что в Anthropic гораздо лучше понимают последствия развития систем ИИ, компания оказалась втянута в ту же гонку, что и OpenAI.
«В OpenAI многие до конца не осознали последствия для всей цивилизации. В Anthropic эти последствия хорошо понимают, однако компания участвует в гонке за право стать первой. Там считают, что никто другой не будет действовать ответственно, поэтому они должны сделать это сами, несмотря на риски», заявил Коксон.
В других интервью исследователь также предупреждал, что в технологической гонке с Китаем вопросы безопасности могут отойти на второй план со всеми вытекающими из этого рисками.
По словам Коксона, отрасль уже вошла в критическую фазу, которую некоторые его коллеги называют «endgame», то есть финальной стадией или развязкой.