Istraživanje Global Witnessa: Algoritam TikToka djeci predlaže eksplicitne videozapise

TikTok, jedna od najpopularnijih društvenih mreža među djecom i tinejdžerima, našao se na udaru kritika nakon što je humanitarna organizacija Global Witness otkrila da algoritam platforme preporučuje pornografski i seksualizirani sadržaj čak i dječjim nalozima. Istraživači su istakli da se problem javlja čak i kada se aktiviraju sigurnosne postavke koje bi trebale spriječiti izloženost neprimjerenom sadržaju.

Kako je istraživanje provedeno

U periodu od kraja jula do početka augusta 2024. godine, istraživači iz Global Witness-a kreirali su četiri lažna TikTok naloga predstavljajući se kao 13-godišnjaci. Za svaki nalog koristili su lažne datume rođenja i pritom nisu morali dostavljati dodatne dokaze o identitetu.

Iako su uključili opciju “restricted mode”, koja bi trebala spriječiti prikazivanje sadržaja za odrasle ili sadržaja sa složenim temama”, algoritam je automatski predlagao seksualizirane pretrage i videozapise. Bez da su sami pretraživali pornografski sadržaj, u odjeljku “you may like” (moglo bi vam se svidjeti) nalazili su preporuke koje su sugerisale sadržaje o ženama koje simuliraju masturbaciju, prikaze žena u javnosti koje pokazuju donje rublje ili izlažu grudi, pa čak i ekstremnih slučajeva — eksplicitnih pornografskih filmova, često ubačenih unutar “nevinog” sadržaja kako bi zaobišli moderaciju.

Ava Lee iz Global Witness-a opisala je nalaze kao “ogroman šok”: “TikTok ne samo da ne sprječava djecu da pristupe neprimjerenom sadržaju — već im ga algoritam sugerira odmah nakon kreiranja naloga.”

Reakcija TikToka

Global Witness je odmah obavijestio TikTok o problemu. Platforma je potvrdila da je poduzela mjere uklanjanja neprimjerenog sadržaja i pokrenula poboljšanja u funkciji pretrage. TikTok također tvrdi da posjeduje više od 50 sigurnosnih funkcija namijenjenih zaštiti tinejdžera, uključujući automatsko uklanjanje devet od 10 videozapisa koji krše pravila prije nego što ih korisnici uopće pogledaju.

Međutim, istraživanje iz jula i augusta pokazalo je da problem unatoč ranijim naporima i dalje postoji.

Novi propisi i Children's Codes

Važnost problema dodatno naglašava Online Safety Act koji je 25. jula 2024. godine uveo tzv. Children's Codes u Velikoj Britaniji. Novi propisi zahtijevaju od platformi da primjenjuju visoko efikasnu provjeru dobi kako bi spriječili da djeca pristupe pornografiji, kao i da algoritme prilagode tako da blokiraju sadržaj koji promoviše samoozljeđivanje, suicid ili poremećaje u ishrani.

Global Witness je upravo nakon stupanja na snagu Children’s Codes-a proveo drugo istraživanje i potvrdio da algoritmi TikToka i dalje preporučuju seksualizirani sadržaj. Ava Lee ističe: “Svi se slažemo da djecu treba zaštititi na internetu… Sada je vrijeme da se uključe i regulatori.”

Šira slika i rizici

Eksperti upozoravaju da ovakve preporuke mogu imati dugoročne posljedice. Djeca mogu biti prerano izložena seksualnom sadržaju, što utiče na razvoj njihove psihe i shvatanje zdravih seksualnih normi. Algoritmi koji ciljaju najmlađe mogu normalizovati seksualizaciju, a platforme nisu u potpunosti transparentne oko toga kako filtriraju i moderiraju sadržaj. Regulatori i roditelji suočeni su s izazovom kako efikasno kontrolirati pristup neprimjerenom sadržaju u digitalnom okruženju koje se stalno mijenja.

Istraživanje Global Witness-a pokazuje da TikTok, uprkos sigurnosnim opcijama i tvrdnjama o zaštiti djece, još uvijek sugeriše seksualno eksplicitan sadržaj mladim korisnicima. Dok platforma tvrdi da poduzima mjere, stručnjaci i regulatori pozivaju na dodatni nadzor i prilagođavanje algoritama.

Za roditelje i staratelje, ovo istraživanje služi kao alarm: nadzor nad aktivnostima djece na TikToku više nije opcionalan, već neophodan za njihovu sigurnost.

federalna.ba/BBC