Razmatra se uvođenje vodenog žiga za ChatGPT da bi se sprečilo varanje

Kompanija OpenAI razmišlja o uvođenju alata čiji je zadatak da otkrije eseje koje je napisao ChatGPT i to s velikim procentom preciznosti. Reč je o vodenom žigu, koji bi označavao sadržaj kreiran veštačkom inteligencijom.

Ovakvog alata i metoda još nema, jer se navodno vode debate o tome da li on treba da "ugleda svetlo dana" iako je već spreman, prenosi klix.ba.

- Naši timovi su razvili metod označavanja teksta vodenim žigom, a mi nastavljamo da razmatramo ovu mogućnost dok istražujemo alternative - saopšteno je iz kompanije OpenAI.

Međutim, vodeni žig je samo jedno od nekoliko mogućih rešenja, među kojima su klasifikatori i metapodaci koji su razmatrani u sklopu opsežnog istraživanja o poreklu teksta. Ovaj metod je veoma precizan u određenim situacijama, no nije baš efikasan u slučaju određenih oblika neovlašćenih manipulacija poput korišćenja sistema prevođenja, preformulacija s drugim generativnim modelom ili traženja od modela da ubaci poseban znak između svake reči i potom brisanje tog znaka.

Takođe, označavanje teksta vodenim žigom bi moglo "neproporcionalno uticati na neke grupe".

- To bi moglo da stigmatizuje korišćenje AI tehnologije kao korisnog alata za pisanje za one kojima engleski jezik nije maternji - navode iz kompanije. Stoga OpenAI "vaga" ove rizike.

Kompanija daje prioritet alatu za autentifikaciju audiovizuelnih sadržaja. Poseban naglasak je na poreklu teksta zbog "složenosti i njegovog verovatnog uticaja na širi ekosistem izvan kompanije OpenAI".