Revoluția watermark-ului: ChatGPT devine transparent în Europa

Imaginează-ți că fiecare cuvânt pe care-l citești e marcat, dar nu în mod vizibil. Asta face OpenAI cu noul său sistem „textGrain”, care introduce un watermark invizibil în textele generate de AI. Este o mutare care va schimba radical peisajul inteligenței artificiale în Europa.

Acest watermark nu vine cu etichete sau simboluri, ci se bazează pe modul în care modelul alege cuvintele. Un detector special va putea identifica acest semnal invizibil pentru a verifica dacă un text provine dintr-o sursă AI. De ce este important? Pentru că Uniunea Europeană a impus reguli stricte prin EU AI Act, care obligă furnizorii de AI generativ să facă textele lor identificabile.

Încă din 5 octombrie, clienții API din întreaga lume pot opta pentru watermark, deși acesta este dezactivat implicit. Utilizatorii eligibili din UE vor avea acces la această funcție în câteva săptămâni. Dar iată unde devine interesant: OpenAI recunoaște că modificarea textului poate compromite detectarea watermark-ului. În testele efectuate, dacă înlocuiești 10% dintre cuvinte cu sinonime, rata de detectare scade drastic, de la 92% la 66%. Când schimbi un sfert din cuvinte, ajungi la doar 17% detectare.

Astfel, acest sistem, deși inovator, nu este infailibil. OpenAI subliniază că detectarea watermark-ului nu poate determina proporția dintre contribuția umană și cea AI într-un text. De asemenea, nu poate identifica utilizatorul sau organizația care a generat textul. Așadar, chiar dacă un text nu are watermark, nu înseamnă că a fost scris de un om.

Acest sistem va fi disponibil inițial doar pentru cercetători și organizații specializate, nu pentru publicul larg. Este o mișcare strategică care ar putea să schimbe regulile jocului în ceea ce privește responsabilitatea și transparența în utilizarea AI.

Într-o lume în care informațiile circulă cu rapiditate, OpenAI deschide o discuție crucială: cum putem ști cine este autorul real al unui text? Cu watermark-urile invizibile, răspunsurile devin tot mai complexe. Ce ne rezervă viitorul? Un lucru e sigur: tehnologia evoluează, iar noi trebuie să ne adaptăm.