Directorul general al Anthropic, Dario Amodei, a cerut marilor companii din domeniul inteligenței artificiale să încetinească dezvoltarea celor mai puternice modele, avertizând asupra „riscurilor serioase” pe care le implică această tehnologie. Poziția sa a fost susținută public de Elon Musk.
„Trebuie să încetinim ritmul în care îmbunătățim capacitățile modelelor de inteligență artificială. Progresul va părea oricum rapid, iar timpul câștigat trebuie folosit cu înțelepciune”, a scris Amodei într-un eseu publicat sâmbătă, transmite Reuters.
Șeful Anthropic a subliniat însă că nu pledează pentru oprirea completă a dezvoltării. În opinia sa, renunțarea la această tehnologie ar putea priva omenirea de beneficiile ei sau ar putea oferi un avantaj regimurilor autoritare, în timp ce dezvoltarea prea rapidă a inteligenței artificiale ar fi „imprudentă”.
„Am încercat să găsim o cale de mijloc”, a spus Amodei. Totuși, potrivit lui, evoluțiile din ultimele luni l-au convins că industria trebuie să dea dovadă de și mai multă prudență.
Una dintre principalele sale preocupări este capacitatea inteligenței artificiale de a participa la crearea și perfecționarea următoarelor generații de modele. În lipsa unui control suficient, acest proces ar putea avansa mai repede decât capacitatea oamenilor de a înțelege și controla astfel de sisteme.
Amodei a atras o atenție deosebită asupra agenților autonomi de inteligență artificială. El a avertizat că, dacă ritmul actual se menține, în următoarele 6–12 luni un grup de astfel de agenți ar putea, cel puțin teoretic, să creeze o rețea botnet persistentă care să acopere o parte semnificativă a internetului și să provoace pagube de sute de miliarde de dolari, relatează News Channel.
Amodei a propus un plan în trei etape pentru încetinirea cursei tehnologice. Printre altele, Anthropic intenționează să ofere experților independenți acces permanent la sistemele sale, la un nivel comparabil cu cel al angajaților companiei, astfel încât aceștia să poată verifica respectarea măsurilor de siguranță, să evalueze modelele încă din timpul procesului de antrenare și să semnaleze eventualele incidente periculoase. Ulterior, Amodei pledează pentru standarde de siguranță comune între principalele companii de inteligență artificială și pentru coordonare la nivel internațional, scrie The Guardian.
Apelul șefului Anthropic a fost susținut de fondatorul xAI, Elon Musk. Comentând declarațiile lui Amodei, acesta a scris: „Dario are dreptate”. Mesaje de susținere au venit și din partea unor reprezentanți ai OpenAI.
Declarațiile au fost făcute la câteva zile după plecarea din Anthropic a cercetătorului Jacob Coxon. Acesta a avertizat asupra consecințelor potențial catastrofale ale cursei în domeniul inteligenței artificiale și a afirmat că oamenii care dezvoltă această tehnologie iau în serios posibilitatea ca ea să ducă la dispariția omenirii până la sfârșitul acestui deceniu.