Kako tehnologija prepoznavanja lica identificira mrtve u Ukrajini

Prošlog mjeseca kontroverzna tvrtka za prepoznavanje lica Clearview AI objavila je da je svoju tehnologiju dala ukrajinskoj vladi.

BBC-ju je dat dokaz kako se koristi za identifikaciju živih i mrtvih.

Ova priča sadrži grafičke opise koji bi mogli uznemiriti neke čitatelje.

Čovjek nepomično leži na podu, nagnute glave. Njegovo tijelo je golo, osim par bokserica Calvin Klein. Oči su mu obrubljene nečim što izgleda kao modrice.

Tijelo je pronađeno u Harkovu, na istoku Ukrajine - u olupini rata. BBC je vidio slike snimljene na mjestu događaja, ali ne zna okolnosti oko njegove smrti. Postoje jasni dokazi o traumi glave. Imao je i tetovažu na lijevom ramenu.

Ukrajinske vlasti nisu znale tko je taj čovjek, pa su se odlučile obratiti vrhunskoj metodi: prepoznavanju lica pomoću umjetne inteligencije.

Clearview je možda najpoznatiji i najkontroverzniji sustav za prepoznavanje lica na svijetu.

Tvrtka je sakupila milijarde fotografija s društvenih mreža, poput Facebooka i Twittera, kako bi stvorila ogromnu bazu podataka onoga što njezin izvršni direktor i osnivač Hoan Ton-That naziva "tražicom za lica".

"Radi kao Google. Ali umjesto da unese niz riječi ili teksta, korisnik stavlja fotografiju lica", objašnjava gospodin Ton-That.

Tvrtka se suočila s nizom pravnih izazova. Facebook, YouTube, Google i Twitter poslali su Clearviewu pisma o prekidu i odustajanju - tražeći od njih da prestanu koristiti slike s web-mjesta. Ured britanskog povjerenika za informiranje čak je kaznio tvrtku jer nije obavijestila ljude da prikuplja njihove fotografije.

Sada je njegova upotreba od strane ukrajinske vlade postavila pitanja o implikacijama ubacivanja ove moćne tehnologije u aktivni rat.

Osnivačica Clearview AI, Hoan Ton-That

Clearview se u velikoj mjeri - iako s podjelama - koristi od strane policije u Americi. Ton-That kaže da je 3200 vladinih agencija kupilo ili isprobalo tehnologiju.

Nakon invazije Vladimira Putina na Ukrajinu, osnivačica Clearviewa vidjela je još jednu aplikaciju za tu tehnologiju.

"Vidjeli smo slike ljudi koji su bili ratni zarobljenici i bježali, i znate, navelo nas je na razmišljanje da bi to potencijalno mogla biti tehnologija koja bi mogla biti korisna za identifikaciju, ali i za provjeru", kaže on.

On je ukrajinskoj vladi brzo ponudio tehnologiju - ponuda je prihvaćena.

U Harkovu su vlasti snimile lice mrtvaca - podignutu glavu, upale oči usmjerene prema kameri.

Snimili su sliku i prošli kroz Clearviewovu bazu podataka. Pretragom je pronađeno nekoliko slika nekoga tko je vrlo sličan mrtvom čovjeku.

Jedna slika je snimljena na, čini se, vrući dan. Čovjek je bio bez majice. Imao je tetovažu na lijevom ramenu.

Dizajn je odgovarao. Imali su ime.

Korištenje prepoznavanja lica za identifikaciju mrtvih nije novo, a Clearview nije jedina platforma koja se koristi za to u Ukrajini.

"Ove stvari koristimo već godinama", kaže Aric Toler, direktor istraživanja u Bellingcatu, organizaciji specijaliziranoj za istraživačko novinarstvo.

Bellingcat je 2019. godine koristio tehnologiju prepoznavanja lica kako bi pomogao identificirati Rusa koji je snimio mučenje i ubojstvo zatvorenika u Siriji. Ovo nije prvi rat za prepoznavanje lica.

Ali njegova je upotreba u Ukrajini šira nego u bilo kojem prethodnom sukobu. Gospodin Toler kaže da u Rusiji koristi platformu za prepoznavanje lica FindClone i da je bila od posebne pomoći za identifikaciju mrtvih ruskih vojnika.

Kao i kod Clearviewa, FindClone pretražuje javno dostupne internetske slike, uključujući ruske stranice društvenih medija.

Mogu se pronaći čak i ljudi koji nemaju račune na društvenim mrežama.

"Možda nemaju profil na društvenim mrežama, ali njihove žene ili djevojke mogu... ponekad imaju profile i žive u malom gradu s velikom vojnom bazom. Ili mogu imati puno prijatelja koji su trenutno u njihovoj jedinici", G. Toler objašnjava, opisujući korištenje FindClonea kao istražnog alata.

Ova posljednja točka je temeljna u razumijevanju moći tehnologije prepoznavanja lica.

To znači da čak i ako osoba nikada nije imala profil na društvenim mrežama, a misli da je obrisala internet sa svoje slike - i dalje se može pronaći. Pojavljivanjem na fotografiji koju je prenio prijatelj ili jednostavno u pozadini nasumične slike na internetu, oni su u bazi podataka.

To znači da se čak i vojno ili sigurnosno osoblje, koje jedva da ima ikakva prisutnost na internetu, još uvijek može ući u trag.

Pitanje točnosti

Kritičari međutim ističu da tehnologija prepoznavanja lica nije uvijek ispravna - te da bi u vrijeme rata pogreške mogle imati potencijalno katastrofalne posljedice.

Clearview se ne koristi samo za identifikaciju mrtvih tijela u Ukrajini. Tvrtka je također potvrdila da ju je ukrajinska vlada koristila na kontrolnim točkama kako bi pomogla identificirati osumnjičene neprijatelje.

Clearview je BBC-u pokazao e-mail ukrajinske agencije koji potvrđuje da se sustav koristi za identifikaciju živih.

"Sustav nam je dao priliku da brzo potvrdimo točnost podataka privedenih osumnjičenika", stoji u e-mailu ukrajinskog dužnosnika koji nije želio biti imenovan.

"Tijekom korištenja Clearview AI-a, izvršeno je više od 1000 upita za pretraživanje kako bi se provela odgovarajuća provjera i identifikacija", stoji u e-poruci.

To zabrinjava neke analitičare.

Conor Healy je stručnjak za prepoznavanje lica u IPVM-u, organizaciji koja ocjenjuje sigurnosnu tehnologiju.

"Važno je da ukrajinske snage prepoznaju da ovo nije 100% točan način određivanja je li vam netko prijatelj ili neprijatelj", kaže gospodin Healy.

"To ne bi trebala biti tehnologija života ili smrti u kojoj ili prođeš ili ne uspješ, gdje bi te mogli zatvoriti ili, ne daj Bože, čak i ubiti. To se uopće ne smije koristiti."

Drugi su izdali još strašnija upozorenja. Albert Fox Cahn, iz nadzorne grupe Surveillance Technology Oversight Project, nazvao je to "katastrofom ljudskih prava u nastajanju".

"Kada prepoznavanje lica pogriješi u mirnodopskim uvjetima, ljudi bivaju pogrešno uhićeni. Kada prepoznavanje lica napravi pogreške u ratnoj zoni, nevini ljudi bivaju ubijeni", rekao je za Forbes.

BBC je kontaktirao ukrajinsku vladu za komentar o korištenju Clearviewa, ali nije dobio odgovor.

Gospođa Ton-That je branila točnost Clearviewove tehnologije, rekavši da su testovi otkrili da je više od 99% točna.

Mnogo ovisi ipak o kvaliteti slike, položaju glave ili je li lice prekriveno, na primjer, maskom.

Zatim, tu je i pitanje privatnosti, koje je bilo problematično za Clearview u SAD-u i Europi. Tvrtka povlači javno dostupne slike iz tvrtki poput Facebooka i Instagrama kako bi izgradila svoju bazu podataka.

Ali nije pitao tvrtke društvenih medija, ili bilo koga u stvari, može li preuzeti ove slike. Ako ovo čitate, gotovo ste sigurno u bazi podataka, iako vjerojatno niste dali Clearviewu dopuštenje za korištenje vaše slike.

Prošle godine Ured britanskog povjerenika za informiranje kaznio je Clearview jer nije obavijestio ljude da prikuplja njihove fotografije s platformi društvenih medija.

Ton-That prihvaća da još uvijek postoji rasprava oko zakonitosti tehnologije prepoznavanja lica, ali vjeruje da Clearview djeluje u okviru zakona - rekavši da je tehnologija "pogrešno shvaćena".

Međutim, tehnologija prepoznavanja lica očito ima distopijske primjene. U studenom prošle godine BBC je izvijestio da se u Kini izrađuju planovi za korištenje tehnologije prepoznavanja lica za ciljanje novinara.

Ton-That kaže da Clearview ne bi dopuštao takve vrste pretraživanja, čak i kad bi se mogle koristiti na ovaj način. Kaže da Clearview ne radi s autoritarnim vladama i da tvrtka ne bi radila s Rusijom.

Međutim, postoje aplikacije za Clearviewovu tehnologiju u vojnom kontekstu. Prošle godine tvrtka je potpisala ugovor s Pentagonom kako bi istražila stavljanje svoje tehnologije u naočale za proširenu stvarnost, na primjer. To je jedna od nekoliko tvrtki koje razvijaju umjetnu inteligenciju za prepoznavanje lica s vojnim ugovorima.

Zagovornici privatnosti također imaju još jednu brigu. Tehnologija prepoznavanja lica mogla bi biti korisna ukrajinskim vlastima u vrijeme rata. Ali hoće li jednostavno predati tehnologiju Clearviewu u vrijeme mira?

"Postoji niz primjera tehnologija koje su uvedene u ratno vrijeme i koje su prisutne iu miru", kaže gospodin Healy.

"Nadam se da to nije njihov pristup."

federalna.ba/bbc.com