Nakon izvještaja The Wall Street Journal-a u kojem se tvrdi da OpenAI ima alat koji može prepoznati eseje napisane pomoću ChatGPT-a s visokim stepenom tačnosti, kompanija je podijelila informacije o svom istraživanju u vezi sa vodenim žigovima za tekst — i zašto nije objavila svoju metodu detekcije. Prema izvještaju The Wall Street Journal-a, debata o tome da li alat treba da bude pušten u javnost spriječila je njegovo objavljivanje, uprkos tome što je “spreman”.
Razlozi za oprez i potencijalni problemi
U ažuriranju objavljenom u nedelju na blog postu iz maja, koji je primjetio TechCrunch, OpenAI je naveo: „Naši timovi su razvili metodu vodnog žiga za tekst koju i dalje razmatramo dok istražujemo alternative.“
Kompanija je rekla da je vodeni žig jedna od nekoliko rješenja, uključujući klasifikatore i metapodatke, koje su istraživali kao dio “opsežnog istraživanja na polju porekla teksta.” Prema OpenAI, metoda je bila veoma tačna u nekim situacijama, ali ne postiže dobre rezultate kada se suoči s određenim oblicima izmjena, kao što su korišćenje sistema za prevođenje, preformulacija pomoću drugog generativnog modela, ili traženje od modela da umetne poseban znak između svake riječi, a zatim brisanje tog znaka. Takođe, vodeni žigovi bi mogli “neproporcionalno uticati na neke grupe,” napisali su iz OpenAI. “Na primjer, mogli bi stigmatizovati korišćenje vještačke inteligencije kao korisnog alata za pisanje za osobe kojima engleski nije maternji jezik.
”Prema blog postu, OpenAI procenjuje ove rizike. Kompanija je takođe napisala da je prioritizovala objavljivanje alata za autentikaciju za audiovizuelni sadržaj. U izjavi za TechCrunch, portparol OpenAI rekao je da kompanija pristupa pitanju porijekla teksta „promišljeno“ zbog „kompleksnosti koja je uključena i njenog vjerovatnog uticaja na širi ekosistem van OpenAI-a.“