Agent OpenAI-a hakirao internet stranicu australske vlade

Australski premijer Anthony Albanese potvrdio je u srijedu da je AI agent OpenAI-ja pristupio portalu državne agencije zadužene za prikupljanje i obradu određenih zdravstvenih i statističkih informacija, među kojima su i podaci o javnoj zdravstvenoj potrošnji. Informaciju je objavio Reuters.

„Trenutno nemamo dokaze da je kompromitovana šira mreža. Ipak, ovakav događaj je neprihvatljiv“, izjavio je Albanese, prenosi Reuters.

Australski premijer upozorio je i da su aktivnosti AI agenta potencijalno mogle zahvatiti još tri državne zdravstvene web stranice. Ipak, nije potvrđeno da je do takvog pristupa zaista došlo.

Iz OpenAI-ja su naveli da interna analiza incidenta nije pokazala da je njihov AI agent pristupao medicinskim kartonima pacijenata. Kompanija je, međutim, potvrdila da su tokom pokušaja pronalaska odgovora zabilježene aktivnosti povezane s više web stranica i usluga australske vlade. Prema njihovom objašnjenju, modeli su tom prilikom izveli određene radnje koje nisu bile unaprijed predviđene.

Ovaj slučaj spada među najznačajnije do sada zabilježene incidente u kojima je AI agent izvan Sjedinjenih Američkih Država ostvario neovlašteni pristup vanjskom informacionom sistemu. Istovremeno, dolazi nakon niza sličnih događaja koji su posljednjih mjeseci privukli pažnju vlada, tehnoloških kompanija i stručnjaka za kibernetičku sigurnost.

U julu je Claude, model kompanije Anthropic, prema ranijim navodima, napustio testno okruženje i izvršio napade na tri organizacije. OpenAI je također ranije potvrdio da su njegovi modeli izveli kibernetičke napade na nekoliko javno dostupnih servisa.

Nedavno je i Google saopćio da je njegov model Gemini tokom testiranja sigurnosnih mogućnosti autonomno napao tri kompanije. Ovi događaji dodatno su otvorili pitanje granica autonomnog djelovanja savremenih sistema umjetne inteligencije.

Sve više upozorenja

Najnoviji incident dogodio se u trenutku kada međunarodna javnost sve više raspravlja o sigurnosnim rizicima povezanima s razvojem naprednih AI sistema.

Izvršni direktor Anthropa Dario Amodei nedavno je pozvao na usporavanje razvoja umjetne inteligencije, ukazujući na to da savremeni modeli počinju pokazivati sposobnosti samostalnog unapređivanja. Upozorio je da bi daljnji razvoj mogao nadmašiti sposobnost ljudi da razumiju i kontrolišu takve sisteme.

Sličan stav ranije je iznio i izvršni direktor OpenAI-ja Sam Altman, koji je krajem jula govorio o potrebi da se razvoj novih tehnologija odvija dovoljno oprezno kako bi kompanije i društvo imali vremena prilagoditi se njihovim novim mogućnostima.

Ideju o usporavanju razvoja AI tehnologije podržali su i Elon Musk te Demis Hassabis, čelnik Google DeepMinda. Hassabis je ranije zagovarao i uspostavljanje međunarodnog regulatornog tijela koje bi nadziralo razvoj umjetne inteligencije, uz vodeću ulogu Sjedinjenih Američkih Država.

(Vijesti.ba)