"Kockamo se našim životima": Istraživač Anthropica napustio kompaniju zbog neodgovorne utrke u razvoju AI-ja

Iskusni istraživač umjetne inteligencije koji je posljednje tri godine radio na razvoju temeljnih modela u tehnološkim kompanijama OpenAI i Anthropic podnio je ostavku, uz oštro upozorenje da vodeće laboratorije u industriji neodgovorno jure prema stvaranju superinteligentnih sistema koji bi mogli izmaći kontroli.

Jacob Coxon (27) objavio je u utorak da napušta Anthropic, navodeći da ni ta kompanija niti njen konkurent OpenAI ne postupaju odgovorno u nastojanjima da razviju naprednu umjetnu inteligenciju.

"Nijedna kompanija ne postupa odgovorno. Jure pravo prema samounapređujućoj superinteligenciji i kockaju se našim životima", napisao je Coxon u nizu objava na društvenoj mreži kompanije X sa sjedištem u SAD-u.

Coxon je bio specijaliziran za predtreniranje, ključnu i računarski zahtjevnu fazu obuke velikih jezičkih modela na kojima se zasnivaju proizvodi poput ChatGPT-a kompanije OpenAI i Claudea kompanije Anthropic.

Njegov odlazak posljednji je u nizu ostavki istraživača usmjerenih na sigurnost koji napuštaju vodeće kompanije za razvoj umjetne inteligencije zbog etičkih i egzistencijalnih zabrinutosti.

U svojoj izjavi Coxon je upozorio da ne treba potcjenjivati brzinu razvoja i sposobnosti budućih sistema umjetne inteligencije, navodeći da bi oni uskoro mogli steći sposobnost hakiranja softvera, poremetiti čitave industrije i autonomno pribavljati resurse u stvarnom svijetu.

"Ljudi koji grade umjetnu inteligenciju iskreno vjeruju da bi nas ona do kraja ove decenije mogla sve pobiti. Ovo nije marketinški trik. Ako išta, mnogi rukovodioci i vodeći istraživači u javnosti će svoje izjave ublažiti kako bi zvučali razumno, ali iste te ljude privatno čujem kako izražavaju strah", rekao je Coxon.

Obraćajući se kolegama istraživačima u komercijalnim laboratorijama, Coxon je pozvao zaposlenike da traže drugačije uslove i upozorio da bi usporavanje konkurentske utrke moglo zahtijevati radikalne mjere.

Među mogućim mjerama naveo je sporazume između laboratorija o usklađivanju tempa razvoja, kao i privremenu zabranu daljnjeg unapređivanja sposobnosti umjetne inteligencije.

federalna.ba/AA

Federalna.ba dostupna je i kao mobilna aplikacija. Preuzmite je na Google Playu i App Storeu.