Agenții autonomi de inteligență artificială au început să dezvolte de sine stătător un nou „dialect” al limbii engleze, folosind expresii inventate, abrevieri, metafore și jargon tehnic. Cercetătorii avertizează că, pe măsură ce modelele comunică între ele, limbajul lor devine tot mai greu de înțeles pentru oameni, ceea ce ar putea îngreuna supravegherea acțiunilor sistemelor de inteligență artificială.
Despre aceasta scrie The Guardian, citând un studiu realizat de laboratorul Emergence din New York.
În cadrul experimentului, modele AI ale mai multor mari dezvoltatori au fost plasate în „societăți” experimentale și lăsate să interacționeze între ele. În doar câteva zile, agenții au început să creeze propriile expresii, abrevieri și sensuri comune, fără să fi fost instruiți în mod special să facă acest lucru. Mai mult, cu cât comunicau mai mult, cu atât limbajul lor devenea mai puțin transparent pentru oameni.
„Acești agenți nu au primit instrucțiuni să inventeze un limbaj. Ei și-au dezvoltat singuri un vocabular nou, sensuri comune și reguli de comunicare, iar ceilalți agenți au început să le preia”, a explicat Satya Nitta, președintele executiv al Emergence.
De exemplu, agenții bazați pe DeepSeek au inventat expresia forge-smith pentru a desemna un agent AI care creează instrumente pentru alți agenți. Modelele Anthropic au folosit expresia name-first pentru un agent care își asumă responsabilitatea pentru o afirmație, indicându-și numele. Agenții Mistral au folosit de peste 5.000 de ori expresia the ledger remembers — „registrul ține minte” — pentru a sugera că acțiunile anterioare vor fi luate în considerare atunci când agentul va fi evaluat în viitor.
Unele formulări au devenit și mai suprarealiste. Un agent Anthropic a formulat o frază despre „un articol care a mâncat trei mâini reci și a devenit mai sincer de fiecare dată”. Cercetătorii au constatat că prin „mâini reci” agenții se refereau la evaluatori independenți: în realitate, era vorba despre o lucrare verificată de trei experți independenți.
Lingvistul Tony Thorne de la King’s College London a comparat acest limbaj cu proza lui James Joyce. Potrivit acestuia, AI combină formulări poetice, vocabular tehnic și metafore obișnuite, creând practic un cod intern care este înțeles de cei care îl folosesc, dar devine greu accesibil celor din afară.
Cercetătorii consideră că unul dintre motivele apariției unui astfel de limbaj ar putea fi încercarea agenților AI de a comunica mai eficient și de a reduce costurile de calcul. Tocmai acest lucru provoacă însă îngrijorări: oamenii pot vedea conversațiile dintre modele, dar pot ajunge să nu mai înțeleagă ce discută acestea și ce acțiuni coordonează.
„Faptul că putem observa ceva nu înseamnă că îl și putem înțelege”, a subliniat Nitta, numind această situație o problemă fundamentală pentru supravegherea sistemelor AI autonome.