Jutjub kanali koji koriste vještačku inteligenciju za pravljenje videa sa lažnim naučnim informacijama preporučuju se djeci kao “obrazovni sadržaj”, otkrio je BiBiSijev (BBC) tim za borbu protiv globalnih dezinformacija.
Pronašli su više od 50 kanala na više od 20 jezika koji šire dezinformacije maskirane kao STEM [nauka, tehnologija, inženjerstvo, matematika] sadržaj.
Oni sadrže pseudonaučne, lažne informacije i teorije zavjere – da piramide proizvode električnu energiju, negiranje da su ljudi svojim aktivnostima doveli do klimatskih promjena i postojanje vanzemaljaca.
Njihova analiza pokazuje da Jutjub preporučuje ove “lažne naučne” video snimke djeci uz legitiman obrazovani sadržaj.
Više klikova, više novca
Kajl Hil je Jutjuber i naučni edukator sa ogromnim brojem mladih gledalaca.
Prije nekoliko mjeseci počeo je da primjećuje sporne snimke na Jutjub fidu (početnoj stranici).
Kaže da su njegovi pratioci počeli da ga kontaktiraju povodom preporučenog sadržaja koji je djelovao legitimno, ali je bio pun lažnih informacija.
Izgledalo je da tvorci kradu sadržaj koji je tačan, ali manipulišu njime, a da ih sajt potom preporučuje gledaocima.
Kako bi privukli gledaoce, snimci su puni kontroverznih tvrdnji, a ispraćeni su senzacionalističkim komentarima, tabloidnim naslovima i dramatičnim slikama – što ih više ljudi gleda, to više prihoda dobijaju od reklama.
Jutjub takođe ima koristi od svega – dobija oko 45 odsto prihoda od reklama jednog videa.
Autori video snimke taguju kao “edukativni sadržaj”, što znači da je veća vjerovatnoća da će biti preporučivani djeci.
– S obzirom na to da sam čovjek od nauke, shvatio sam to lično. Izgleda da su ovi kanali otkrili šta tačno treba da rade da bi maksimizovali preglede uz minimalan trud – kaže Hil.
Verifikovanje lažnjaka
BiBiSijev tim pronašao je desetine Jutjub kanala koji proizvode ovaj tip sadržaja, na jezicima kao što su arapski, ruski, španski i tajlandski.
Mnogi imaju više od milion pretplatnika, zbog čega i snimci često steknu milione pregleda.
Autori intenzivno objavljuju nov sadržaj, mnogi i više snimaka dnevno.
Da bi uspjeli da postignu taj tempo, posumnjali su da koriste programe vještačke inteligencije, kao što su ČetGPT (Chat GPT) ili MidDžurni (MidJourney).
Riječ je o programima koji mogu da – umjesto pretraživanja interneta u potrazi za nečim – stvore nov sadržaj kad se od njih to zatraži.
Da bi ovo potvrdili, snimke sa svakog kanala su obradili koristeći alate za otkrivanje vještačke inteligencije i ekspertsku analizu, kako bi procijenili da li su snimak, naracija i scenario napravljeni uz pomoć vještačke inteligencije.
Njihova analiza pokazala je da je većina videa koristila vještačku inteligenciju za generisanje teksta i slika, kao i da je manipulisano sadržajem iz pravih naučnih videa.
Ishod je sadržaj koji djeluje autentično, ali je uglavnom neistinit.
Dopiranje do djece
Željeli su da vide da li bi video snimci sa “lažnim naučnim sadržajem” bili preporučivani djeci, pa su otvorili dječje naloge na glavnom sajtu Jutjuba.
(Sva djeca sa kojom su razgovarali rekla su im da koriste njega umjesto Jutjub Kids.)
Poslije četiri dana gledanja pravih edukativnih videa, preporučeni su im i snimci nastali uz pomoć vještačke inteligencije.
Kad su kliknuli na njih, preporučeno im je još više ovih lažnih naučnih kanala.
Pokazali su dio preporučenog sadržaja dvijema grupama djece uzrasta između 10 i 12 godina – jednoj u Velikoj Britaniji i jednoj na Tajlandu – da bi vidjeli da li će povjerovati u ono što gledaju.
Jedan video se bavio zavjerama u vezi sa neidentifikovanim letećim objektima i vanzemaljcima.
Drugi je lažno tvrdio da su piramide iz Gize pravile električnu energiju.
– Uživala sam gledajući. Ispočetka nisam bila sigurna da vanzemaljci postoje, ali sada mislim da postoje – rekla je jedna djevojčica.
Drugo dijete je bilo impresionirano električnim piramidama.
– Nisam znao da su ljudi tako davno mogli da prave električnu energiju za upotrebu moderne tehnologije – navelo je dijete.
Međutim, neka djeca su uspjela da prepoznaju prisustvo vještačke inteligencije na snimcima.
– Bilo mi je prilično smiješno to što nisu čak ni koristili ljudski glas, mislim da taj glas nije bio ljudski – reklo je jedno dijete.
Kad su im objasnili da je ove snimke generisala vještačka inteligencija i da su sadržali lažne informacije, bili su šokirani.
– Zapravo sam prilično zbunjen. Mislio sam da je to stvarno – rekao je jedan dečak.
– Vjerovatno bih povjerovao da nam niste rekli da su lažni – dodao je drugi.
Djeca su sklona da povjeruju u dezinformacije
Prosvjetni radnici kažu da iskorišćavanje prirodne dječje znatiželje za nove, intrigantne ideje može da ih zbuni u vezi sa onim što je zaista istina.
– Ovi snimci dobro prolaze jer se bave zavjerama. Svi smo fascinirani stvarima koje su protivne onome što nam se zvanično govori, a djeca su podložnija tome od odraslih – kaže profesorka Viki Neš, direktorka Oksfordskog internet instituta.
Sa tim je saglasna i Kler Sili, nastavnica u osnovnoj školi u Velikoj Britaniji.
– Djeca će često ono što vide najprije doživeti kao činjenicu. Tek kad su malo starija možda će početi to da preispituju – navela je ona.
Neš dovodi u pitanje i da li platforme smiju da zarađuju novac od reklama koje ide uz ove snimke.
– Ideja da Jutjub i Gugl zarađuju više novca od reklama serviranih uz pseudonaučne vijesti djeluje mi prilično neetički – ocijenila je ona.
BiBiSijev tim kontaktirao je kompanije koje proizvode ovakav sadržaj uz pomoć vještačke inteligencije.
Jedna je odgovorila da je njihov sadržaj namijenjen prevashodno u “zabavne svrhe”.
Negiraju da im je ciljna publika djeca i tvrde da ne koriste vještačku inteligenciju “za većinu” scenarija.
Iz Jutjuba za mlađe od trinaest godina preporučuju Jutjub Kids, gdje postoji veća kontrola snimaka koji tu smiju da se prikazuju.
Ističu da su čvrsto riješeni da uklanjaju dezinformacije sa svojih platformi i da porodicama obezbijede “sigurno i kvalitetno iskustvo”.
Takođe su ih sa Jutjuba uputili na informativne panele za koje tvrde da daju dodatni kontekst iz izvora treće strane o sadržaju povezanom sa zavjerama.
Otkrili su da oni postoje samo za nekolicinu videa na svih 50 kanala.
Iz Jutjuba nisu komentarisali pitanja u vezi sa prihodima od reklama koje bi mogli da dobijaju od ovih videa.
“Trudimo se da se sustignemo”
Kako se alati vještačke inteligencije sve više usavršavaju, ovakav sadržaj biće sve lakše napraviti, a kvalitet videa biće sve teže identifikovati.
Sili je zabrinuta i kaže da i nastavnici i roditelji moraju da se pripreme za to.
– Ne znamo još kako sadržaj koji je generisala vještačka inteligencija tačno utiče na razumijevanje djece. Mi se kao nastavnici trudimo da to sve ispratimo kako bismo uspjeli da izađemo na kraj s ovim – poručila je ona.