Jakub Pachocki, cercetător-șef al OpenAI, a îndemnat la „prudență extremă” în dezvoltarea inteligenței artificiale și a avertizat că omenirea ar putea să nu fie pregătită pentru consecințele unei creșteri accelerate a capacităților sistemelor AI. Potrivit lui, ar putea fi necesare restricții suplimentare pentru ca oamenii să păstreze controlul asupra modului în care această tehnologie va evolua, scrie BBC.
„Mă îngrijorează faptul că nimeni nu este pregătit pentru consecințele creșterii rapide și continue a inteligenței mașinilor”, a scris Pachocki într-un eseu intitulat An Alien Mind. El consideră că, în următorii ani, sistemele AI ar putea face un nou salt semnificativ și ar putea începe să participe tot mai activ la propria lor perfecționare.
Potrivit lui Pachocki, nicio companie care dezvoltă inteligență artificială nu a rezolvat încă suficient de bine problema alinierii obiectivelor AI la interesele oamenilor și a controlului asupra acțiunilor acestor sisteme pentru ca dezvoltarea modelelor să continue mult timp în ritm maxim. El estimează că încetinirea voluntară a dezvoltării ar putea deveni o practică mai răspândită până la apariția unor standarde comune de siguranță, iar coordonarea internațională în acest domeniu ar trebui să devină una dintre prioritățile guvernelor.
Avertismentul vine la câteva zile după lansarea GPT-6 Astra, pe care OpenAI o prezintă drept cel mai puternic model al său. BBC notează că îngrijorările sunt alimentate și de informațiile privind agenți AI capabili să desfășoare autonom atacuri cibernetice reale. În iulie, OpenAI a calificat drept „fără precedent” un incident în care agenții săi AI au compromis platforma Hugging Face.
Pachocki a declarat că OpenAI va continua să dezvolte sisteme de protecție și metode de control al inteligenței artificiale. Una dintre prioritățile companiei va fi crearea unui „cercetător AI automatizat”, însă oamenii ar trebui să rămână implicați în procesul de perfecționare a acestor sisteme. El a admis, de asemenea, că extinderea în continuare a capacităților modelelor ar putea fi oprită temporar dacă motivele de siguranță o vor impune.