"Masovni nadzor i autonomno oružje": AI kompanija odbila ultimatum Pentagona

Šef Anthropica Dario Amodei u četvrtak je izjavio da njegov startup za umjetnu inteligenciju "ne može mirne savjesti" popustiti ultimatumu Pentagona o ukidanju zaštitnih mjera na korištenje svojim AI sistemom za masovni domaći nadzor i potpuno autonomno oružje.

Pentagon "je izjavio da će ugovore sklapati samo s kompanijama za umjetnu inteligenciju koje pristanu da se njihov alat koristi na 'sve zakonite načine' i koje ukinu zaštitne mjere u tom slučaju", rekao je Amodei u opširnoj objavi na blogu.

- Prijete da nas uklone iz svojih sistema ako zadržimo ove zaštitne mjere; također su zaprijetili da će nas proglasiti 'rizikom za lanac opskrbe'... i da će se pozvati na Zakon o odbrambenoj proizvodnji kako bi nas prisilili na uklanjanje zaštitnih mjera, dodao je.

Te posljednje dvije prijetnje su u srži suprotne jedna drugoj: jedna nas označava kao sigurnosni rizik; druga označava Claude kao ključan za nacionalnu sigurnost.

Anthropic, startup koji su podržali Google i Amazon, 2025. je godine potpisao ugovor vrijedan 200 miliona dolara s Pentagonom za razvoj prototipa novih sposobnosti umjetne inteligencije za rješavanje kritičnih izazova nacionalne sigurnosti u područjima ratovanja i poslovanja.

Glasnogovornik Pentagona Sean Parnell ranije je u četvrtak rekao da ministarstvo nema interesa koristiti umjetnu inteligenciju za provođenje masovnog nadzora Amerikanaca (što je ilegalno), niti želi koristiti umjetnu inteligenciju za razvoj autonomnog oružja koje djeluje bez ljudskog učešća.

Parnell je rekao da Pentagon traži da mu se dopusti korištenje Anthropicovog modela u sve zakonite svrhe.

Glasnogovornik kaže da kompanija ima rok do 17:01 po lokalnom vremenu u petak da se uskladi s time.

U suprotnom ćemo prekinuti naše partnerstvo s Anthropicom i smatrati ih rizikom za lanac opskrbe.

Američki novinski portal Axios citirao je Anthropic da je novi ugovorni tekst koji je poslao Pentagon usred pregovora "bio uparen s pravnim jezikom koji omogućuje da se te zaštitne mjere po volji zanemare", dodajući da su "mjesecima te uske zaštitne mjere bile srž naših pregovora".

Pentagon nije zasad odgovorio na zahtjev za komentar, prenosi Axios.

(Vijesti.ba)