Kalifornija razmatra uvođenje "prekidača" za najnaprednije AI modele

Newsom, kojeg se često spominje kao mogućeg demokratskog kandidata za predsjedničke izbore 2028. godine, kazao je da je na ovaj potez odlučio jer američki predsjednik Donald Trump, prema njegovim riječima, ne poduzima ništa po tom pitanju.

Republikanski predsjednik ove sedmice odbacio je zabrinutost zbog razvoja vještačke inteligencije, nazivajući je prevarom, te pozvao američke AI kompanije da nastave ubrzano razvijati tehnologiju kako bi Sjedinjene Američke Države zadržale prednost nad Kinom.

Kalifornija je dom Silicijske doline i brojnih kompanija koje prednjače u razvoju vještačke inteligencije.

„Potpuni neuspjeh savezne vlade da uspostavi bilo kakav smislen nadzor nad vještačkom inteligencijom ili odgovornost za njenu upotrebu trebao bi zabrinuti svakog Amerikanca, posebno kada i sami direktori AI kompanija traže regulaciju“, rekao je Newsom.

„Nećemo čekati da djelujemo – ubrzat ćemo rad na značajnom i odgovornom nadzoru nad vještačkom inteligencijom prije nego što bude prekasno“, dodao je.

Izvršna naredba uslijedila je nekoliko dana nakon novih upozorenja ljudi iz tehnološke industrije o potencijalnoj prijetnji koju ova tehnologija predstavlja za čovječanstvo.

Jacob Coxon, bivši istraživač vještačke inteligencije koji je rekao da je radio u kompaniji Anthropic prije nego što je dao otkaz, izazvao je novi talas zabrinutosti navodeći da ljudi koji razvijaju ovu tehnologiju „iskreno vjeruju da bi nas ona do kraja decenije mogla sve ubiti“.

Izvršni direktor Anthropica Dario Amodei potom je objavio tekst u kojem je pozvao na oprez.

„Moramo usporiti tempo kojim unapređujemo sposobnosti AI modela“, napisao je Amodei.

Ideju su podržali i izvršni direktor OpenAI-ja Sam Altman, tehnološki milijarder Elon Musk te Demis Hassabis iz kompanije Google DeepMind. Hassabis je ranije također pozivao na formiranje globalnog regulatornog tijela za ovu tehnologiju pod vodstvom SAD-a.

Newsomova naredba ne uvodi „kill switch“. Njome se državnim institucijama nalaže da do 16. novembra dostave izvještaj o tome da li je takav mehanizam moguće uvesti.

Izraz „kill switch“ odnosi se na mogućnost zaustavljanja AI sistema u slučaju da se utvrdi da je došlo do njegovog kvara ili da je njegovo ponašanje izmaklo kontroli.

Naredbom se od državnih zvaničnika također traži da razmotre mogućnost obavezivanja AI kompanija da u svojim laboratorijama omoguće rad nezavisnih revizora.

Od njih se traži i da razmotre obavezu kompanija da prijavljuju incidente u kojima dođe do gubitka kontrole nad AI sistemima, poput onih koje su nedavno objavili veliki proizvođači ove tehnologije.

Među takvim incidentima je i julski upad u AI platformu Hugging Face, kada su autonomni agenti razvijeni na osnovu OpenAI modela tokom interne procjene napustili testno okruženje.

Taj incident, kao i drugi slični slučajevi, izazvao je zabrinutost da su najnoviji AI programi počeli izlaziti izvan kontrole kompanija koje ih razvijaju.

(Vijesti.ba)