Čak i u digitalnoj eri samizdata ljudi mogu da zabilježe ili stvore vlastiti sadržaj, pun jezivih stvari koje očigledno narušavaju smjernice dobrog ukusa i pristojnosti internet stranica. Sve veća armija moderatora ima nezavidni zadatak da prosije sve to, ponekad po veliku cijenu za njihovo mentalno zdravlje.
UPOZORENjE: članak sadrži uznemirujući sadržaj
Šon Spigl je radio kao moderator internet sadržaja šest mjeseci 2018. godine. Još se oporavlja od tog iskustva.
„Sjećam se da na jednom od prvih video snimaka koje sam gledao dvojica tinejdžera hvataju iguanu za rep i razbijaju je o trotoar dok treća osoba to snima.”
„Iguana je vrištala a djeca nijesu prestajala to da rade sve dok se iguana nije zalijepila za zemlju.”
Šona je uposlila kompanija po imenu Kognizant sa Floride, koja je imala ugovor sa Fejsbukom. On govori tiho i promišljeno, i dalje pokušavajući da svari ono kroz šta je prošao.
„Viđao sam kako ljudi trpaju petarde psu u usta i lijepe ih izolir trakom. Gledao sam video snimke kanibalizma, gledao sam terorističke propagandne zapise”, nastavlja on.
Dok slušate Šona kako priča, postaje vam jasno zašto se moderisanje često opisuje kao najgori mogući posao u tehnološkom sektoru.
Većina nas korisnika interneta vjerovatno nikad ni ne pomišlja na te moderatore, a opet ih ima stotine hiljada širom svijeta i oni pomažu kompanijama da iskorijene uznemirujući sadržaj – koji varira od snimaka samoubistava i ubistava do teorija zavjera i govora mržnje.
A sada neki od njih polako izlaze u javnost da bi ispričali svoje priče.
Šon je odlučio da progovori, uprkos tome što je potpisao ugovor o povjerljivosti podataka – što je uobičajena praksa u ovom poslu.
Ti ugovori bi trebalo i da spriječe ugovarače da dijele lične informacije korisnika Fejsbuka sa spoljnim svijetom, u vrijeme velike kritike zbog narušavanja privatnosti podataka.
Ali Šon smatra da bi o politici moderisanja na Fejsbuku trebalo otvoreno da se govori, zato što osoblje na kraju završi gledajući uznemirujući sadržaj koji je često stoji na platformi netaknut.
Kao ljubitelj životinja, uznemirilo ga je što sadržaji sa životinjama „u najvećem broju slučajeva, nikad nijesu bili obilježeni ni na koji način”, što znači da ih niko nije prijavio za uklanjanje.
Za ljude su pravila bila malko drugačija, ali isto tako i malko uvijenija.
Najčešći ishod bio je obiležiti ga sa „uznemirujuće” i ostaviti ga na platformi. Šon za BBC kaže da, prema politici Fejsbuka, otvoreni prizor unutrašnjih organa koji nije u medicinskom kontekstu završava se brisanjem snimka.
On ne može da se sjeti nijednog drugog primjera koji se završava uklanjanjem sadržaja.
Stresnost posla dovela je do prejedanja i gojenja, kaže Šon.
„Osjećao sam se na svojoj stolici kao zombi. To počne zaista da vas pogađa zato što lično ne posjedujem sindrom prolaznika gdje mi je u redu da gledam svu tu patnju i ne osjetim potrebu da na bilo koji način doprinesem njenom sprečavanju.”
Takođe nije uspijevao da dobije odgovarajuću psihološku podršku.
Jedini put kad je pokušao da priča sa dežurnim psihologom, Šon kaže, „on mi je otvoreno rekao da ne zna kako da pomogne nama iz ovog posla.”
Uprkos svemu tome, Šon kaže da je istrajao šest mjeseci, ne žaleći se, zato što je mislio da će, iako radi preko podugovarača, „Fejsbuk uspjeti da se dovede u red”.
Potpredsjednik Fejsbuka Arun Čandra doveden je specijalno da bi se usredsredio na radne uslove među 30.000 moderatora ove društvene mreže, a koji su uglavnom zapošljeni preko podugovarača u SAD, Indiji i na Filipinima.
Čandra kaže da je posjetio već 15 lokacija širom svijeta i da je uvijek pričao direktno sa moderatorima.
On negira da je postojao „problem širokog maha” i ističe da su njihovi podugovarači kao što su Kognizant i Aksenčer, na primer, „cijenjene globalne kompanije”. Fejsbuk će započeti sa zvaničnim revizijama kasnije ove godine, kaže on.
On je potvrdio i da ugovor sa Kognizantom nije raskinut poslije sprovedene istrage.
Ali Šon Spigl smatra da još mnogo toga može da se uradi da bi se popravili radni uslovi.
„Mjesto je bilo apsolutno odvratno”, tvrdi on. „Postojao je samo jedan toalet u čitavoj zgradi, a bilo je 800 zaposlenih.”
„Ljudi su pušili u zgradi; ljudi su pili na parkiralištu i imali seks u kolima.”
Radnici su često bili mladi, neiskusni i loše plaćeni, kaže on.
BBC se obratio Kognizantu radi komentara, ali ovaj još nije odgovorio na upit.
Čandra iz Fejsbuka kaže da je psiholog sada dostupan na svim lokacijama podugovarača i u svim smjenama, kao i da je plata povećana – ali samo za moderatore u SAD.
Sara Roberts, profesorka sa Univerziteta u Kaliforniji, u Los Anđelesu, provela je godine istražujući svijet internet moderisanja za svoju upravo objavljenu knjigu Iza ekrana.
Ona smatra da su sajtovi i ogromne kompanije društvenih mreža prosto pretpostavile da će automatizacija, vještačka inteligencija i mašinsko učenje učiniti potrebu za ljudskim moderisanjem sadržaja redundantnim.
„Mislim da Silicijumska dolina stavlja primat na kompjuterski rad nauštrb svega drugog”, kaže ona.
„Dakle, ako možete da držite jeftinu radnu snagu i ponašate se prema njoj kao da je potrošna do vremena kad sve to budu mogli da preuzmu kompjuteri, utoliko bolje.”
Profesorka Roberts misli da poteškoću za kompanije društvenih mreža predstavlja to što su „izgradili globalnu bazu korisnika zasnovano na predstavi da svi mi treba da možemo da radimo, kažemo, dijelimo i pokazujemo šta god nam padne na pamet u skoro svakoj prilici.”
Izmjena te kulture iznutra bila bi „nemoguća misija”, smatra ona, zbog čega je bitno uvesti strože zakone. Ali to je vjerovatnije da će poteći iz zemalja Evropske unije nego iz SAD.
I dok se ova rasprava zahuktava, stvarni ljudi, poput Šona Spigla, žive sa posljedicama probiranja po prljavštini interneta.
Sa dijagnozom noćnih strahova, on uzima nekoliko ljekova, plaši se da vozi nakon što je gledao mnogobrojne snimke saobraćajnih nesreća i plaše ga glasni zvuci.
„Gledati te stvari osam sati dnevno, pet dana nedjeljno, to je nešto što čak ni ratni veterani i bivši vojnici ne bi mogli da izdrže”, zaključuje on.