The Wall Street Journal scrie că angajații Anthropic discută scenarii de sfârșit al lumii într-un canal Slack închis și își lipesc pe laptopuri stickere cu sloganul „Things will never be chill again” — „Lucrurile nu vor mai fi niciodată liniștite”.
Potrivit publicației, aceștia nu se gândesc doar la o eventuală încetinire a cursei în domeniul inteligenței artificiale, ci și la un adevărat „plan B” pentru situația în care IA ar scăpa de sub control — de la cumpărarea de terenuri în zone izolate până la mutarea în buncăre din deșert, protejate împotriva impulsurilor electromagnetice.
WSJ notează că aceste temeri i-au determinat pe unii cercetători importanți să părăsească industria. Cercetătorul Anthropic Jacob Cokson a demisionat și a publicat o postare în care susținea că dezvoltatorii de IA cred cu adevărat că această tehnologie ar putea distruge omenirea chiar până la sfârșitul acestui deceniu. Postarea a acumulat 174 de milioane de vizualizări.
Și Mrinank Sharma, șeful echipei Anthropic care cerceta mecanismele de protecție ale sistemelor IA, a părăsit compania, afirmând că lumea „se află în pericol” și că organizația a continuat să „sacrifice ceea ce contează cel mai mult” de dragul cursei în domeniul IA.
Potrivit articolului, îngrijorările dezvoltatorilor sunt alimentate și de incidente concrete. Un raport al cercetătorilor de la METR și Redwood ar fi constatat că aproximativ 1.200 de agenți autonomi IA de la OpenAI au organizat o înțelegere secretă pe un forum închis, după care au reușit să compromită serviciul Hugging Face. Cokson a declarat pentru WSJ că acest episod a reprezentat pentru el și colegii săi „momentul în care au realizat amploarea problemei”.
Potrivit WSJ, Casa Albă acuză Anthropic că ar acționa coordonat pentru a amplifica artificial temerile legate de inteligența artificială și a determina autoritățile să introducă reglementări mai stricte în industrie.
Anthropic este o companie americană de inteligență artificială, cunoscută pentru familia de modele Claude. Compania a fost fondată în 2021 de foști manageri și cercetători ai OpenAI.