Nema varanja: OpenAI namjerava uvesti vodeni žig za ChatGPT

Kompanija OpenAI je potvrdila navode da razmišlja o uvođenju alata čiji je zadatak da otkrije eseje koje je napisao ChatGPT i to s velikim procentom preciznosti.

Riječ je o vodenom žigu, koji bi označavao sadržaj kreiran umjetnom inteligencijom. Zasad ovakvog alata i metode nema jer se navodno još vode debate o tome da li on treba ugledati svjetlo dana iako je već spreman.

- Naši timovi su razvili metodu označavanja teksta vodenim žigom te mi nastavljamo razmatrati ovu mogućnost dok istražujemo alternative, saopćeno je iz OpenAI-ja.

Međutim, vodeni žig je samo jedno od nekoliko mogućih rješenja, među kojima su klasifikatori i metapodaci koje je kompanija razmatrala u sklopu opsežnog istraživanja o porijeklu teksta.

Ova metoda je veoma precizna u određenim situacijama, no nije baš efikasna u slučaju određenih oblika neovlaštenih manipulacija, poput korištenja sistema prevođenja, preformulacija s drugim generativnim modelom ili traženja od modela da ubaci poseban znak između svake riječi i potom brisanja tog znaka. Također, označavanje teksta vodenim žigom bi moglo neproporcionalno utjecati na neke grupe.

- To bi moglo stigmatizirati korištenje AI tehnologije kao korisnog alata za pisanje za one kojima engleski jezik nije maternji, navode iz kompanije.

Kompanija daje prioritet alatu za autentifikaciju audiovizuelnih sadržaja. Poseban naglasak je na porijeklu teksta zbog složenosti i njegovog vjerovatnog utjecaja na širi ekosistem izvan kompanije OpenAI.