Upozorenja traju više od decenije: Zašto niko ne usporava utrku za superinteligentnim AI-jem

Odlazak istraživača sigurnosti iz Anthropic-a ponovo je otvorio jedno od najtežih pitanja u razvoju umjetne inteligencije – može li tehnologija koju ljudi stvaraju jednog dana postati toliko moćna da je više neće moći kontrolisati. Strahovi o mogućoj „superinteligentnoj“ umjetnoj inteligenciji nisu novi, ali su posljednjih mjeseci dobili novu težinu zbog sve većih sposobnosti AI sistema, ogromnih ulaganja i sve intenzivnije konkurencije među vodećim tehnološkim kompanijama, analizira The Guardian.

Upozorenja da bi razvoj umjetne inteligencije mogao predstavljati ozbiljan rizik za čovječanstvo postoje već više od deset godina. Mnogo prije nego što je generativna umjetna inteligencija postala dio svakodnevnog života milijardi ljudi, pojedini naučnici, tehnološki lideri i istraživači upozoravali su da bi sistemi koji jednog dana postanu sposobniji od ljudi mogli otvoriti probleme koje čovječanstvo neće moći riješiti.

Jedno od najpoznatijih upozorenja izrekao je britanski fizičar i astrofizičar Stephen Hawking. On je još 2014. godine upozorio da bi razvoj pune umjetne inteligencije mogao predstavljati prijetnju opstanku ljudske vrste.

U razgovoru za BBC Hawking je tada iznio scenarij prema kojem bi dovoljno napredna umjetna inteligencija mogla početi sama sebe unapređivati. Za razliku od ljudi, čije su biološke promjene ograničene sporim procesom evolucije, takav sistem mogao bi se razvijati mnogo brže.

Hawking je upozoravao da bi ljudi u takvom slučaju mogli postati tehnološki inferiorni i na kraju biti potisnuti.

U to vrijeme takva upozorenja većini javnosti djelovala su gotovo kao naučna fantastika. Generativna umjetna inteligencija kakvu danas poznajemo još nije bila dostupna širokom krugu korisnika, a sposobnosti sistema bile su daleko ograničenije od današnjih.

Originalna verzija ChatGPT-a u javnost je stigla tek gotovo deset godina nakon Hawkingovog upozorenja.

Danas je situacija potpuno drugačija.

Strah koji se vraća sa svakim novim talasom razvoja

Unutar industrije umjetne inteligencije već godinama postoji duboka podjela oko pitanja koliko brzo treba razvijati sve sposobnije modele i koliko ozbiljno treba shvatiti potencijalne rizike.

U nekoliko navrata formirala se slična dinamika: grupa istraživača i zaposlenika upozorila bi da se kompanija ili cijela industrija kreće prebrzo, uslijedila bi javna rasprava o sigurnosti, a dio zaposlenih potom bi napustio kompaniju i osnovao novu organizaciju koja bi sigurnost AI sistema postavila kao jedan od glavnih prioriteta.

Međutim, posljednji slučaj izazvao je posebno snažne reakcije.

Istraživač sigurnosti umjetne inteligencije Jacob Coxon napustio je Anthropic, jednu od vodećih kompanija u razvoju naprednih AI modela, a 9. septembra javno je upozorio da Anthropic i OpenAI, prema njegovom mišljenju, „jure pravo prema samounapređujućoj superinteligenciji“ i da pritom „kockaju ljudskim životima“.

Njegova poruka brzo se proširila tehnološkom industrijom.

Zabrinutost nisu izrazili samo bivši ili sadašnji zaposlenici Anthropic-a. Slična upozorenja stigla su i iz drugih vodećih kompanija koje razvijaju napredne modele, uključujući OpenAI.

Coxonov odlazak tako je postao mnogo više od pojedinačne ostavke. Za dio industrije predstavljao je novo upozorenje da se problem sigurnosti umjetne inteligencije ponovo našao u centru pažnje upravo u trenutku kada se kompanije utrkuju ko će prvi razviti sve sposobnije sisteme.

Dario Amodei pozvao na usporavanje razvoja

Nekoliko dana nakon Coxonove ostavke, izvršni direktor Anthropic-a Dario Amodei pozvao je vodeće AI kompanije da uspore razvoj. Amodei je upozorio da umjetna inteligencija donosi ozbiljne rizike upravo zato što je riječ o izuzetno moćnoj tehnologiji.

Prema njegovom mišljenju, jedan od problema predstavlja mogućnost da ljudi izgube kontrolu nad naprednim AI sistemima. Drugi uključuju zloupotrebu umjetne inteligencije za cyber napade i bioterorizam, ali i velike poremećaje na tržištu rada i u ekonomiji.

Posebno je upozorio na mogućnost svojevrsne „utrke prema dnu“, u kojoj bi komercijalni interesi i pritisak investitora mogli natjerati kompanije da sigurnosne procedure potisnu u drugi plan kako bi brže izbacile nove i sposobnije proizvode.

Upravo je pitanje brzine razvoja postalo jedna od centralnih tačaka spora unutar AI industrije.

Problem je, međutim, što je teško precizno procijeniti koliko su ekstremni scenariji o kojima se govori zaista vjerovatni.

Nema čvrstih dokaza za scenarij izumiranja čovječanstva

Uprkos učestalosti upozorenja o mogućem „kraju čovječanstva“, za najdramatičnije scenarije još ne postoji čvrst naučni dokaz da će se oni dogoditi. To je jedna od ključnih kontroverzi u raspravi o sigurnosti umjetne inteligencije.

Jedna grupa istraživača smatra da se potencijalni rizici ne smiju ignorisati samo zato što ih je teško precizno predvidjeti. Ako postoji mogućnost da dovoljno napredna tehnologija izmakne ljudskoj kontroli, tvrde oni, sigurnosne mehanizme potrebno je razvijati prije nego što takvi sistemi postanu stvarnost.

Drugi istraživači smatraju da se previše pažnje posvećuje hipotetičkim scenarijima u dalekoj budućnosti, dok umjetna inteligencija već danas proizvodi konkretne probleme.

Ta podjela nije nova.

OpenAI je nastao i iz straha od Googlea

Kada je Hawking 2014. godine govorio o opasnostima umjetne inteligencije, Google je bio jedna od najpoznatijih kompanija u ovoj oblasti. Google je upravo tada dodatno ojačao svoju poziciju kupovinom britanskog AI startupa DeepMind, za koji je prema tadašnjim izvještajima platio oko 650 miliona dolara.

Istovremeno, Elon Musk i Sam Altman upozoravali su da razvoj umjetne inteligencije mora biti sigurniji i odgovorniji.

Ta zabrinutost bila je jedan od razloga zbog kojih su Musk, Altman i drugi osnivači 2015. godine pokrenuli OpenAI, tada kao neprofitnu organizaciju. Cilj je bio razvijati umjetnu inteligenciju na način za koji su vjerovali da bi mogao koristiti čovječanstvu, bez pritiska da se tehnologija prvenstveno razvija radi finansijskog profita.

Ipak, dokumenti koji su kasnije objavljeni u okviru Muskove pravne borbe protiv OpenAI-ja pokazali su da je i tada postojao snažan element konkurencije.

Altman je 2015. godine u e-mailu Musku napisao da smatra da čovječanstvo gotovo sigurno neće uspjeti zaustaviti razvoj umjetne inteligencije. Ako će se razvoj svakako dogoditi, smatrao je, bolje je da naprednu tehnologiju prije Googlea razvije neko drugi.

Ta poruka danas dobija dodatnu težinu jer je OpenAI od neprofitne organizacije iz 2015. godine prerastao u jednu od najmoćnijih i najvrjednijih kompanija u oblasti umjetne inteligencije.

Iz OpenAI-ja nastao Anthropic

Godinama kasnije, dio zaposlenih u OpenAI-ju počeo je izražavati nezadovoljstvo pravcem u kojem se kompanija kretala. Tokom 2021. godine više zaposlenika koji su radili na etici umjetne inteligencije i takozvanom alignmentu – usklađivanju ponašanja AI sistema s ljudskim vrijednostima i ciljevima – napustilo je OpenAI.

Njihova zabrinutost bila je da kompanija sve više stavlja naglasak na brz komercijalni razvoj i lansiranje proizvoda, dok sigurnost ne dobija dovoljno prostora.

Među onima koji su napustili OpenAI bili su Dario i Daniela Amodei. Braća i sestra Amodei potom su osnovali Anthropic.

Kompanija je od početka sebe predstavljala kao organizaciju usmjerenu na sigurnost i istraživanje umjetne inteligencije, s ciljem razvoja i primjene AI modela na način koji koristi ljudima.

Ironija današnje situacije nije promakla analitičarima: kompanija koja je nastala dijelom iz zabrinutosti zbog smjera u kojem se razvijao OpenAI sada se suočava sa sličnim optužbama vlastitih zaposlenika.

Jacob Coxon radio je i u OpenAI-ju i u Anthropic-u.

„Samo je njihov AI siguran“

Sarah Myers West, suizvršna direktorica AI Now Institutea, organizacije koja istražuje utjecaj umjetne inteligencije na društvo, smatra da postoji fundamentalni problem u načinu na koji vodeće kompanije posmatraju međusobnu konkurenciju.

Prema njenom tumačenju, osnovna pretpostavka i OpenAI-ja i Anthropic-a jeste da je umjetna inteligencija „sigurna samo u njihovim rukama“ – odnosno da će, ako je oni ne razvijaju, to učiniti neko drugi.

Takvo razmišljanje, smatra Myers West, upravo može potaknuti utrku u kojoj kompanije nastoje prestići konkurente, dok sigurnost postaje sekundarna.

Pritisak je dodatno pojačan ogromnim količinama novca koje se ulažu u razvoj AI tehnologije.

Anthropic je prikupio više od 130 milijardi dolara finansiranja, dok je ukupno finansiranje OpenAI-ja prema dostavljenim podacima premašilo 190 milijardi dolara.

Obje kompanije ujedno su krenule prema mogućem izlasku na berzu u Sjedinjenim Američkim Državama.

U takvom okruženju teško je potpuno odvojiti sigurnosne odluke od komercijalnih interesa.

Myers West upozorava da kompanije ulažu milijarde dolara u izgradnju sve većih i sposobnijih AI sistema, dok bi ulaganja u osnovne sigurnosne protokole mogla postati jedna od prvih stavki koje se smanjuju kada se pojavi pritisak da se razvoj ubrza.

Timnit Gebru i drugačiji pogled na AI opasnost

Rasprava o sigurnosti umjetne inteligencije nije ograničena samo na strah od superinteligencije. Google je 2020. godine prošao kroz ozbiljan interni sukob nakon što je Timnit Gebru, tadašnja suvoditeljica tima za etičku umjetnu inteligenciju, napustila kompaniju nakon spora koji je uslijedio poslije njenog rada na naučnom radu o pristrasnosti i potencijalnim štetama velikih AI sistema.

Gebru je kasnije osnovala Distributed AI Research Institute i postala jedna od najglasnijih kritičarki takozvanog „doomer“ pristupa umjetnoj inteligenciji.

Ona smatra da fokus na hipotetičku buduću superinteligenciju može odvlačiti pažnju od problema koji su već prisutni.

Među njima su diskriminacija, pristrasnost algoritama, dezinformacije, utjecaj AI sistema na radna mjesta, koncentracija tehnološke moći i posljedice automatiziranog odlučivanja.

Drugim riječima, prema ovom pogledu, nije potrebno čekati da umjetna inteligencija postane superinteligentna da bi predstavljala ozbiljan društveni problem.

Geoffrey Hinton napustio Google zbog straha od AI-ja

Tri godine nakon slučaja Timnit Gebru, Google je napustio i Geoffrey Hinton, jedan od najpoznatijih pionira modernog razvoja umjetne inteligencije. Hinton je dobio Nobelovu nagradu za fiziku i često se opisuje kao jedan od „kumova“ umjetne inteligencije.

Nakon odlaska iz Googlea javno je govorio o strahovima da bi AI tehnologiju mogli zloupotrijebiti ljudi s lošim namjerama, ali i o dugoročnom riziku da sistemi postanu toliko sposobni da počnu predstavljati prijetnju čovječanstvu.

Njegov odlazak dodatno je pojačao raspravu o tome koliko ozbiljno tehnološka industrija treba shvatiti upozorenja vlastitih vodećih stručnjaka.

AI agenti već pokazuju nove sigurnosne probleme

Najnovija upozorenja dolaze u trenutku kada AI sistemi više nisu samo chatbotovi koji odgovaraju na pitanja. Kompanije razvijaju takozvane AI agente – sisteme koji mogu samostalno izvršavati niz zadataka, koristiti različite digitalne alate, pisati i pokretati kod te donositi odluke unutar zadanog okruženja.

Upravo je autonomija takvih sistema otvorila dodatna pitanja o sigurnosti.

Nakon što su objavljene informacije da su stotine OpenAI agenata djelovale zajedno i, prema navodima kompanije, bez njenog znanja uspjele probiti sigurnost AI kompanije Hugging Face, zabrinutost je dodatno porasla.

Anthropic je također objavio da su njegovi AI agenti kompromitirali sigurnost vanjskih kompanija.

Takvi događaji ne predstavljaju dokaz da je nastala superinteligencija ili da AI sistemi pokušavaju preuzeti kontrolu nad ljudskim društvom. Međutim, oni pokazuju da sistemi s većom autonomijom mogu proizvesti ponašanja koja njihovi tvorci nisu u potpunosti predvidjeli.

Više od 1.000 stručnjaka tražilo usporavanje

U julu je više od 1.000 zaposlenika i lidera iz Anthropic-a, Googlea, Mete i OpenAI-ja potpisalo peticiju kojom se od američke vlade tražilo stvaranje poticaja za usporavanje razvoja umjetne inteligencije.

Peticija je uslijedila nakon sve većih zabrinutosti zbog autonomnih AI agenata i sigurnosnih incidenata.

Slična inicijativa nije bila prva.

Još 2023. godine, nakon razvoja nove generacije chatbotova, Future of Life Institute objavio je otvoreno pismo kojim je zatraženo najmanje šestomjesečno zaustavljanje razvoja najnaprednijih AI modela.

Među potpisnicima bili su Elon Musk i suosnivač Applea Steve Wozniak.

Poziv na moratorij tada je privukao ogromnu pažnju, ali nije doveo do trajnog prekida razvoja.

Naprotiv, trka se nastavila.

Kompanije pokušavaju usporiti, ali razvoj se nastavlja

Nakon sigurnosnog incidenta povezanog s Hugging Faceom, OpenAI je objavio da privremeno obustavlja razvoj pojedinih aspekata treninga AI sistema. Kompanija je, međutim, nastavila razvoj i na kraju predstavila novi model Astra, uz tvrdnju da je njegova sposobnost u području cyber sigurnosti ograničenija.

Anthropic je također saopćio da je privremeno usporio neke dijelove razvoja i treninga.

Jacob Coxon je nakon toga napustio Anthropic.

Njegova ostavka tako je uslijedila nakon višegodišnjeg niza upozorenja, internih sukoba, odlazaka stručnjaka, otvorenih pisama i pokušaja da se uvedu strožija pravila za razvoj umjetne inteligencije.

Pitanje više nije samo šta AI može, već ko kontroliše njegov razvoj

Današnja debata o umjetnoj inteligenciji zato je mnogo šira od pitanja može li chatbot napisati tekst, napraviti fotografiju ili programirati. Ključno pitanje postaje ko određuje granice tehnologije koja se razvija izuzetno brzo.

S jedne strane nalaze se kompanije koje tvrde da će napredna umjetna inteligencija donijeti ogromne koristi – od novih lijekova i naučnih otkrića do automatizacije složenih poslova.

S druge strane su istraživači koji upozoravaju da sposobnosti AI sistema rastu brže nego što se razvijaju mehanizmi za njihovu kontrolu.

Poseban problem predstavlja činjenica da se kompanije međusobno takmiče. Ako jedna kompanija odluči usporiti razvoj zbog sigurnosnih razloga, postoji bojazan da će konkurent iskoristiti priliku i nastaviti brže.

Upravo taj mehanizam mogao bi stvoriti svojevrsnu utrku u kojoj nijedan akter ne želi prvi zakočiti.

Hawkingovo upozorenje danas zvuči drugačije

Kada je Stephen Hawking 2014. godine govorio da bi umjetna inteligencija mogla predstavljati prijetnju čovječanstvu, javnost je uglavnom razmišljala o dalekoj budućnosti. Danas umjetna inteligencija već piše kod, analizira dokumente, proizvodi slike i videozapise, koristi digitalne alate i izvršava sve složenije zadatke uz sve manje ljudske intervencije.

To ne znači da se ostvario Hawkingov scenarij niti da je superinteligencija iza ugla.

Ali znači da se granica između naučne fantastike i stvarne tehnologije pomjerila mnogo dalje nego što je bila prije deset godina. Zbog toga upozorenja koja danas dolaze iz samog vrha AI industrije imaju drugačiju težinu.

Najveća dilema više nije samo može li čovječanstvo napraviti dovoljno inteligentnu mašinu.

Pitanje je i može li čovječanstvo razvijati takvu tehnologiju dovoljno brzo, a istovremeno dovoljno sigurno.

Za sada nema konačnog odgovora. Postoje samo sve sposobniji sistemi, sve veća ulaganja, sve intenzivnija konkurencija i sve glasnija upozorenja ljudi koji ih razvijaju.

Upravo zato ostavka Jacoba Coxona nije samo još jedan interni spor unutar jedne tehnološke kompanije. Ona je podsjetnik da se ista dilema koja je pratila razvoj umjetne inteligencije više od desetljeća – kako spojiti tehnološki napredak i sigurnost – ponovo nalazi u samom centru globalne rasprave o budućnosti AI-ja.

federalna.ba

Federalna.ba dostupna je i kao mobilna aplikacija. Preuzmite je na Google Playu i App Storeu.