OpenAI nudi pola miliona dolara za "čuvanje čovječanstva" od umjetne inteligencije

Nude godišnju platu od čak 555.000 dolara za poziciju koja podrazumijeva – kako navode – zaštitu čovječanstva od potencijalno opasnih posljedica razvoja umjetne inteligencije.

Riječ je o radnom mjestu “voditelja pripremljenosti”, osobe koja bi trebala nadzirati i procjenjivati rizike koje donose sve moćniji AI sistemi, uključujući prijetnje po mentalno zdravlje ljudi, kibernetičku sigurnost, ali i mogućnost zloupotrebe tehnologije u biološke ili druge destruktivne svrhe.

Iz OpenAI-ja poručuju da se radi o izuzetno zahtjevnoj funkciji. Izvršni direktor kompanije Sam Altman upozorio je da posao nije nimalo lak te da će izabrana osoba biti “bačena u vatru” već od prvog dana. Dodao je da je riječ o ključnoj ulozi u trenutku kada se svijet suočava s ubrzanim razvojem umjetne inteligencije i nedovoljno jasnim pravilima njene upotrebe.

Upozorenja ne dolaze samo iz OpenAI-ja. Direktor Microsoft AI-ja Mustafa Suleyman izjavio je kako bi svi trebali biti barem malo zabrinuti zbog smjera u kojem se tehnologija razvija, dok je Demis Hassabis iz Google DeepMinda upozorio da bi umjetna inteligencija, bez adekvatne kontrole, mogla izmaći ljudskoj kontroli.

Stručnjaci ističu da je problem dodatno pojačan činjenicom da globalna regulativa gotovo ne postoji. Jedan od pionira umjetne inteligencije, Yoshua Bengio, slikovito je poručio da “sendvič danas ima više propisa nego umjetna inteligencija”.

Zabrinutost dodatno pojačavaju nedavni incidenti. Kompanija Anthropic je saopćila da su njihovi sistemi već bili meta sofisticiranih napada u kojima je AI djelovao gotovo autonomno, dok je OpenAI priznao da su njihovi modeli postali znatno sposobniji za hakiranje nego prije samo nekoliko mjeseci. U međuvremenu, pojavile su se i tužbe u kojima se tvrdi da je upotreba AI alata doprinijela tragičnim ishodima, uključujući slučajeve teških psihičkih slomova.

Iako OpenAI tvrdi da intenzivno radi na sigurnosnim mehanizmima i boljem prepoznavanju rizičnih situacija, sve je jasnije da će budućnost umjetne inteligencije zavisiti ne samo od tehnološkog napretka, već i od ljudi koji će imati zadatak da je – obuzdaju.

(Vijesti.ba)