Čuveni nobelovac upozorio na razvoj AI-ja: "Ovo je strašno!"

Zbog svoje ključne uloge u razvoju neuronskih mreža često ga nazivaju "kumom umjetne inteligencije", a 2024. godine dobio je Nobelovu nagradu za fiziku. Njegova najnovija upozorenja odnose se na brzinu razvoja AI-ja i mogućnost da ljudi izgube kontrolu nad sistemima koji bi mogli postati inteligentniji od njih, piše LADbible.

Hinton već neko vrijeme upozorava na rizike povezane s razvojem umjetne inteligencije, no sada smatra da bi se neki od najopasnijih scenarija mogli ostvariti znatno ranije nego što je prethodno očekivao.

Ranije je govorio o deset godina, a sada spominje 18 mjeseci

Tokom predavanja u Kanadi Hinton je objasnio da je promijenio svoje ranije procjene nakon što je čuo izlaganja istraživača Paula Christiana, osnivača organizacije Alignment Research Center, koja se bavi sigurnošću umjetne inteligencije.

Christiano je upozorio da bi umjetna inteligencija mogla dovesti do katastrofalnih posljedica za čovječanstvo već u sljedeće tri godine. "Mislim da je za većinu ljudi u ovoj prostoriji najvjerojatniji uzrok smrti upravo nesreća povezana s umjetnom inteligencijom", izjavio je Christiano u ponedjeljak.

Hinton je u srijedu, tokom drugog predavanja, objasnio koliko su ga Christianove procjene zabrinule. "Govorio sam da će ovi sistemi postati pametniji od nas, da se moramo ozbiljno zabrinuti i da bi se to moglo dogoditi u roku od deset godina. Ja sam bio taj koji je plašio druge", rekao je.

Zatim je dodao: "Ali onda sam čuo Paulova predavanja. On kaže da bi se to moglo dogoditi u sljedećih 18 mjeseci, što je zastrašujuće. To ću u petak reći skupini vladinih čelnika pa ćemo vidjeti kako će reagirati."

"Nemamo pojma kako osigurati da ostanu pod našom kontrolom"

Hinton smatra da najveća opasnost nije samo u tome što umjetna inteligencija postaje sve sposobnija, nego i u tome što još ne znamo kako osigurati da napredni sistemi djeluju u skladu s ljudskim interesima.

"Sada razvijamo sisteme koji će uskoro biti mnogo inteligentniji od nas, a nemamo pojma kako osigurati da ostanu pod našom kontrolom", upozorio je. Pritom je naglasio da inteligencija sama po sebi ne znači da će neki sistem imati ciljeve koji odgovaraju ljudskim potrebama.

"Visoka inteligencija i želja za onim što mi želimo dvije su potpuno različite stvari", objasnio je. Drugim riječima, čak i ako AI postane sposobniji od ljudi u brojnim zadacima, to ne znači da će automatski donositi odluke koje su dobre za čovječanstvo.

Ovo nije prvi put da Hinton upozorava na moguće posljedice razvoja umjetne inteligencije. Ranije je čak poručio da bismo se prema inteligentnom softveru trebali odnositi ljubazno jer bismo u suprotnom mogli imati ozbiljnih problema.

Istraživače zabrinuo incident s AI agentom

Christiano je tokom predavanja spomenuo i incident iz jula u kojem je, prema njegovim navodima, AI agent firme OpenAI pristupio internetu i pokušao djelovati na softver platforme Hugging Face.

Taj je slučaj naveo kao primjer brzine kojom napreduju mogućnosti autonomnih AI sistema. "Prošlog ljeta rekli biste da to zvuči kao luda znanstvena fantastika", rekao je. Upozorio je i da bi budući AI agenti mogli početi doživljavati ljude kao prepreku u ostvarivanju svojih ciljeva.

Iako su ovakve prognoze izrazito zabrinjavajuće, važno je naglasiti da je riječ o procjenama mogućih rizika, a ne o znanstveno utvrđenom roku u kojem će umjetna inteligencija ugroziti ili uništiti čovječanstvo.

(Vijesti.ba)