OpenAI a anunțat că, în următoarele săptămâni, va începe să introducă în ChatGPT și Codex tehnologia textGrain, care va permite marcarea invizibilă a textelor generate pentru utilizatorii din Uniunea Europeană. Măsura este legată de cerințele Regulamentului european privind inteligența artificială. Clienții OpenAI API din întreaga lume pot activa deja această funcție pentru anumite modele, însă ea este dezactivată în mod implicit.
Detectorul care poate identifica aceste filigrane nu va fi disponibil deocamdată publicului larg. În prima etapă, accesul va fi oferit unor cercetători și organizații specializate aprobate de OpenAI, care vor ajuta compania să testeze și să îmbunătățească tehnologia.
TextGrain creează un tipar statistic greu de observat în modul în care modelul formulează un text. Pentru cititor, acest semnal este invizibil, însă un detector special al OpenAI îl poate identifica și poate estima dacă un text a fost generat sau procesat de sistemele companiei.
Filigranul nu permite identificarea utilizatorului, a contului său, a solicitării adresate ChatGPT sau a conversației. De asemenea, nu poate arăta ce parte a textului a fost scrisă de o persoană.
OpenAI avertizează că tehnologia nu este infailibilă. Într-unul dintre teste, pentru texte de aproximativ 200 de tokeni, filigranul a fost detectat în circa 80% din cazuri, iar pentru texte de aproximativ 400 de tokeni — în aproximativ 95% din cazuri, la o rată de rezultate fals pozitive de aproximativ 1%. Eficiența diferă însă în funcție de tipul textului.
Modificarea textului poate reduce considerabil șansele de detectare. În testele OpenAI, înlocuirea a 10% dintre cuvinte cu sinonime a redus probabilitatea de identificare a filigranului de la aproximativ 92% la 66%, iar înlocuirea unui sfert dintre cuvinte — până la 17%. Prin urmare, faptul că un detector nu găsește filigranul nu înseamnă automat că textul a fost scris de o persoană.
Anterior, și Anthropic a anunțat introducerea unor filigrane invizibile pentru textele generate de Claude. Spre deosebire de OpenAI, compania a decis să aplice tehnologia la nivel global, nu doar pentru utilizatorii din UE.