Moderatori društvenih mreža: Svaki dan se prijavljujem u komoru za mučenje

Kada je prošlog mjeseca Sulejmanović svirepim ubistvom tri osobe, među kojima je bila i njegova nevjenčana supruga koju je usmrtio pred njihovim desetomjesečnim djetetom, šokirao javnost, teško da je ko mogao zamisliti brutalniji zločin. Ipak, možda nešto gora je bila činjenica da je ubica sve prenosio uživo putem svog profila na Instagramu. Gotovo cijeli dan je video kružio društvenim mrežama prije nego ga je Instagram uklonio.

Brutalne video snimke koje se, nažalost, redovno plasiraju na raznim platformama, i dalje ručno pregleda, a potom i uklanja na hiljade moderatora uposlenih širom svijeta. Ovo je priča o njima.

„Morao sam da pogledam svaki kadar nedavnog videa u kojem žrtvu zbodu nožem… Te slike me nikada neće napustiti,” kaže Harun*, jedan od mnogih moderatora koji pregledavaju štetne online sadržaje u Indiji, dok kompanije društvenih medija sve više sele izazovan posao van obale.

Moderatori koji rade u Hyderabadu, glavnom IT centru u južnoj Aziji, govorili su o utjecaju koji pregled slika i video zapisa seksualnog i nasilnog sadržaja, uključujući i djecu žrtve trgovine ljudima, ima na njihovo mentalno zdravlje.

Mnoge platforme društvenih medija u Velikoj Britaniji, Evropskoj uniji i SAD premjestile su rad u zemlje poput Indije i Filipina.

Iako je OpenAI, tvorac ChatGPT-a, rekao da bi se umjetna inteligencija mogla koristiti za ubrzavanje moderiranja sadržaja, ne očekuje se da će okončati potrebu za hiljadama ljudskih moderatora zaposlenih na platformama društvenih medija.

Moderatori sadržaja u Hyderabadu kažu da ih je rad čini emocionalno uznemirenim, nerijetko depresivnim i insomničnim. „Morao sam da pogledam svaki kadar nedavnog videa na koje je djevojka zbodena. Najviše me uznemirilo to što joj prolaznici nisu pomogli - kaže Harun.

“Ovo je jedan video koji me je pogodio kao nijedan drugi ikada prije. Možda ste vidjeli video u zamućenoj verziji, ali ja sam morao da ga pogledam potpuno i jasno. Nikada me neće napustiti.”

22-godišnji Harun, 22, bio je jedan od osam moderatora koji su pristali razgovarati s Guardianom pod uslovom da ostanu anonimni. Njihova prosječna plata manja je od 18 maraka dnevno. Dok intervjuisani kažu da su bili ohrabreni da potraže pomoć u stresnim situacijama, samo je jedan od moderatora smatrao da je podrška bila od pomoći.

“Ti treneri postoje kao formalnost jer ove globalne kompanije vjerovatno moraju da ispune zakonsku klauzulu. Kada smo preopterećeni nakon pregleda osjetljivog videa, oni nas jednostavno prebace na manje osjetljivi sadržaj dok se ne počnemo osjećati bolje”, kaže Harun.

Akash* je imao 21 godinu kada je diplomirao. Budući da je od rođenja imao problema s pokretljivošću, često se osjećao obeshrabrenim kada bi dobijao odbijenice od kompanija sa sjedištem u Hyderabadu.

“Niko me ne bi zaposlio jer sam invalid. Očajnički sam želio da budem nezavisan i da zarađujem za život”, kaže on. “Kada mi je headhunter za osobe sa invaliditetom rekao da postoji konkurs za moderatora, prijavio sam se očekujući odbijenicu. “Bio sam tako uzbuđen kada sam konačno pronašao posao. Od tada sam shvatio da ovo nije ono za šta sam se prijavio. Osjećam se kao da se svaki dan prijavljujem u komoru za mučenje.”

Akash kaže da ga je invaliditet prisilio da radi u izolaciji i da je sva komunikacija s klijentom i menadžmentom bila na mreži. “Bilo je slučajeva kada sam označio video koji sadrži golotinju djece i primao neprekidne pozive od svojih nadzornika. Nisam siguran da li je to zato što sam iz društva u kojem se ne gledaju polugole slike maloljetnika, ali mi to jednostavno nije prihvatljivo.

“Većina ovih polugolih slika maloljetnika je iz SAD-a ili Evrope, ali u protekle tri godine dobio sam više upozorenja od svojih supervizora da ne označavam ove video zapise. “Jedan od njih me je zamolio da „ojačam“ kada sam se požalio da o ovim video snimcima treba detaljno razgovarati jer perverznjaci na internetu ostavljaju predatorske pedofilne komentare na video snimcima djece.”

Neha* radi kao moderator na pregledu osjetljivog sadržaja više od četiri godine. Kaže da joj je "krv uzavrela" kada su šefovi rekli njoj i drugim moderatorima na sastanku tima da se "opuste i ne 'uzimaju to k srcu" sadržaje poput seksualnog nasilja". "Samo želim da radim u kompaniji koja pedofilima ne daje platformu", kaže ona. “Zgrožena sam. Sada sam prestala da se žalim i tražim novi posao. Barem da za krvoproliće s kojima se suočavamo svaki drugi dan, bolje plaćaju imala bih novca da platim psihoterapiju.” Drugi moderator, Rishi*, (23), koji radi posebno na sadržaju iz EU, kaže: „Posvađao sam se sa svojim supervizorima kada sam spomenuo da moramo zabraniti video zapise na kojima bolesnici ubijaju i pretvaraju se da jedu životinjske leševe. Ovi video snimci su rijetki, ali zašto pustiti nešto tako sadističko na platformu našeg klijenta? Osim ako nije namjera ostvariti veći prihod putem takvih videa? Postoji potreba za striktnom regulativom, posebno za aplikacije za prijenos uživo. Upravljamo sadržajem kako bismo zaštitili mentalno zdravlje ljudi uz rizik našeg emocionalnog blagostanja.”

Harun kaže: „Sve što rade je stvaranje mlade radne snage koja je depresivna. Kao da se smeće cijelog svijeta bacaju u Indiju.”

Martha Dark, direktorica neprofitne organizacije za informatiku i socijalnu pravdu Foxglove, kaže da je moderatorima potrebna bolja zaštita od "traume koja mijenja život".

“Moderatori sadržaja preuzimaju ogroman rizik da nas zaštite, boreći se svaki dan protiv bujice nasilja i zlostavljanja djece. Bez njih nema društvenih mreža”, kaže ona.

„Moderiranje sadržaja nije iznevjerilo samo radnike; iznevjerilo je sve nas čineći društvene mreže opasnijim mjestom.”

Dark dodaje da AI "nije i možda nikada neće moći" da efikasno moderira sadržaj. “Jedino pravo rješenje je ulaganje u moderatore sadržaja koji već rade taj posao.”

*Imena su promijenjena

federalna.ba/The Guardian