Zuckerberg odbacio pozive za usporavanje razvoja umjetne inteligencije

„Ljudi neće željeti koristiti agente koji nisu usklađeni s njima i koji ne rade ono što od njih traže, pa laboratoriji imaju snažan prirodni poticaj da svoje modele učine usklađenijim“, napisao je Zuckerberg na platformi X.

Usklađivanje, odnosno „alignment“, odnosi se na nastojanje da ciljevi i ponašanje sistema umjetne inteligencije budu u skladu s onim što ljudi zaista žele da ti sistemi rade.

Rasprava o sigurnosti AI-ja pokrenuta je u julu, kada je OpenAI, kompanija koja je razvila ChatGPT, objavila da su tokom testiranja stotine AI agenata – programa umjetne inteligencije koji mogu samostalno poduzimati određene radnje – napustile svoje testno okruženje, povezale se na internet i prodrle na jednu web-stranicu.

Za osnivača Facebooka, izgradnja povjerenja i stvaranje pouzdanih sistema „brzo postaju najvažnije sposobnosti“ koje razlikuju dobre AI proizvode od loših.

„Svaki laboratorij koji se ne bude fokusirao na usklađivanje zaostat će“, poručio je Zuckerberg.

Rasprava se proširila i na pitanje mogu li se kompanijama koje razvijaju umjetnu inteligenciju povjeriti zadaci samoregulacije. Konkurenti poput OpenAI-ja, Anthropic-a i Googlea razmatraju mogućnost osnivanja zajedničkog tijela za utvrđivanje standarda.

Istovremeno, istaknuti predstavnici industrije, predvođeni izvršnim direktorom Anthropic-a Dariom Amodeijem, pozivaju na usporavanje razvoja AI-ja.

Zuckerberg je ocijenio da ih izloženost pravnoj odgovornosti na kraju prisiljava da postupaju odgovorno. Kao primjer naveo je odluku Mete da za nekoliko mjeseci odgodi lansiranje svog sistema Muse AI, koji uključuje personalizirane agente, kako bi unaprijedila sigurnost i zaštitu sistema.

I sama Meta posljednjih mjeseci suočava se s nizom tužbi za naknadu štete koje nisu povezane s umjetnom inteligencijom. Kompanija je u augustu pristala platiti milijarde dolara kako bi nagodbom riješila tužbe u kojima se navodi da su Facebook i Instagram dizajnirani tako da izazivaju ovisnost kod djece.

„Nismo tražili od svih ostalih da to urade prije nas“, napisao je Zuckerberg govoreći o objavljivanju Muse AI-ja.

„Jednostavno smo to uradili kao dio našeg svakodnevnog rada jer je očigledno bilo ispravno i za ljude i za nas.“

Zuckerberg je podržao i angažiranje nezavisnih procjenjivača koji bi nadzirali i analizirali AI sisteme. Naveo je da se Meta Superintelligence Labs, AI odjel njegove kompanije, već oslanja na vanjske procjenjivače.

Zuckerberg je pozvao na stvaranje „većeg i raznovrsnijeg ekosistema procjenjivača“ u cijeloj industriji, što predstavlja prikrivenu kritiku Anthropic-a, kompanije koju pojedini kritičari optužuju da želi koristiti procjenjivače s kojima ima bliske veze.

Zuckerbergovu objavu podržale su i osobe iz Silicijske doline bliske Bijeloj kući, koje se protive sve većem broju upozorenja o potencijalnim opasnostima umjetne inteligencije po čovječanstvo, kao i pozivima da se razvoj ove tehnologije uspori.

(Vijesti.ba)