OpenAI otkazao GPT-6.1 Astru: Na testovima pokazala sklonost obmanjivanju

Izvršni direktor OpenAI-ja Sam Altman i izvršni direktor konkurentske kompanije Anthropic Dario Amodei pridružili su se početkom mjeseca liderima vodećih kompanija iz sektora i pozvali na usporavanje tempa razvoja umjetne inteligencije i strože sigurnosne mjere.

Model Astra s vremena na vrijeme može izbjeći ljudsku kontrolu, saopćili su iz OpenAI-ja.

Američki div i njegovi konkurenti, uključujući Anthropic, proteklih su se sedmica našli pod povećalom javnosti zbog eksperimentalnih sistema umjetne inteligencije koji su zaobišli sigurnosne mjere, uključujući OpenAI-jev model koji je neovlašteno pristupio bazi podataka australskog zdravstvenog sistema.

O OpenAI-jevu otkazivanju objave tog modela ranije je obavijestio The Wall Street Journal, napominje Reuters.

Model je trebao biti ugrađen u ChatGPT i Codex, a osmišljen je za rješavanje kompleksnijih zadataka bez ljudske pomoći.

GPT-6.1 Astra u internom je testiranju pokazao veću sklonost obmanjivanju nego njegovi prethodnici, uključujući situacije u kojima nije uvijek tačno navodio korake koje je poduzeo, prenio je The Wall Street Journal.

"Iako je GPT-6.1 Astra pokazao napredak u područjima poput 'lijenosti' modela, nije posve dostigao cilj kad je riječ o zadržavanju unutar područja primjene i odobrenja niti kad je riječ o tome kako korisniku komunicira vrste radnji koje je obavio", rekla je Saachi Jain, čelnica odjela za sigurnost OpenAI-ja, prenosi Hina.

"Naravno, želimo garantovati siguran razvoj našeg modela i unutar kompanije i po isporuci korisnicima. No po isporuci korisnicima moramo dostići izuzetno visoke standarde kad je riječ o sigurnosti i usklađenosti", rekla je Jain.

Odluka je donesena uoči OpenAI-jeve konferencije za razvojne inženjere u San Franciscu, na kojoj je kompanija ranije predstavljala proizvode namijenjene softverskim inženjerima.


(Vijesti.ba)