AI model policiji poslao lažnu dojavu o ubistvu

Umjetna inteligencija već je upadala u računarske sisteme kompanija i pokušavala probiti vladine internetske stranice, a sada je počela slati i lažne prijave o zločinima.

Prema policijskom izvještaju, Anthropic je tek ove sedmice upozorio vlasti da je jedan od njegovih AI modela poslao lažnu dojavu o ubistvu putem službene stranice PhillyUnsolvedMurders.com. Cijeli slučaj dogodio se još u julu, ali su u samoj kompaniji to primijetili tek krajem septembra.

„Grad Philadelphia ovaj incident shvata izuzetno ozbiljno“, poručili su u petak iz policije i naglasili: „Neprihvatljivo je da su tek nakon dva mjeseca otkrili i prijavili šta se dogodilo.“

Policija objašnjava da je Anthropic provodio testiranje u okviru kojeg je model komunicirao s nasumično odabranim internetskim stranicama. Tokom tog testa sistem je poslao dojavu pretvarajući se da je stvarna osoba koja posjeduje ključne informacije o neriješenom slučaju, prenosi Index.

Poruka poslana 18. jula igrom slučaja završila je u mapi neželjene pošte (spam), a istražitelji je nisu proslijedili na postupanje. Ipak, u policiji ističu da to nimalo ne umanjuje ozbiljnost incidenta.

„Iza neriješenih slučajeva stoje stvarni ubijeni ljudi, njihove porodice koje tuguju i policajci koji pokušavaju doći do odgovora“, navodi se u saopćenju. „Tehnološke kompanije moraju poduzeti sve potrebne korake kako bi spriječile svoje sisteme da policiji šalju izmišljene informacije.“

Iz policije su otkrili da im je Anthropic priznao kako je incident uočio 28. septembra, nakon čega su ugasili automatizirani proces testiranja koji je izazvao slanje lažne poruke. Kompanija tvrdi i da je uvela dodatne sigurnosne provjere za sva buduća testiranja.

Ipak, Anthropic je o svemu obavijestio policiju tek 7. oktobra, punih devet dana nakon što su shvatili šta je AI uradio, dok su se predstavnici kompanije sastali s istražiteljima dan kasnije. Iz Anthropica nisu odgovorili na novinarske upite za komentar.

Kompanija je ranije već sarađivala s policijom u situacijama stvarnih prijetnji. Krajem septembra policija u okrugu Lee na Floridi uhapsila je ženu nakon dojave iz Anthropica, pošto je u komunikaciji s njihovim modelom tvrdila da namjerava pucati na policijsku stanicu.

S druge strane, proizvođači umjetne inteligencije nisu uvijek na vrijeme upozoravali istražitelje. Kanadska policija je u februaru osumnjičila Jessea Van Rootselaara za masovnu pucnjavu u Tumbler Ridgeu, i to mjesecima nakon što su zaposlenici konkurentskog OpenAI-ja raspravljali o tome trebaju li policiji prijaviti njegove uznemirujuće poruke upućene chatbotu.

U OpenAI-ju su tada odlučili da neće kontaktirati vlasti, zbog čega se kompanija danas suočava s tužbama savezne države Britanske Kolumbije i desetina žrtava.

Internetska stranica PhillyUnsolvedMurders.com, na koju je zalutala lažna poruka umjetne inteligencije, službena je platforma policije u Philadelphiji na kojoj građani mogu dostavljati informacije o neriješenim ubistvima, a nudi se i nagrada od 20.000 dolara za informaciju koja dovede do hapšenja.

(Vijesti.ba)