AI "prijateljski" četbotovi pod istragom zbog zaštite djece

Federalna trgovinska komisija (FTC) zahtijeva informacije o tome kako kompanije unovčavaju ove proizvode i da li imaju adekvatne mjere zaštite.

Uticaj AI četbotova na djecu je aktuelna tema, a zabrinutost postoji zbog činjenice da su mlađi korisnici posebno ranjivi, a AI može da oponaša ljudsku komunikaciju i emocije, često se predstavljajući kao prijatelj.

Sedam kompanija, Alphabet, OpenAI, Character.ai, Snap, XAI, Meta i njena podružnica Instagram kontaktirane su za komentar.

Predsjednik FTC-a Endru Ferguson kazao je da će istraga "pomoći da bolje razumijemo kako AI firme razvijaju svoje proizvode i koje korake preduzimaju da zaštite djecu".

Dodao je da će regulator obezbijediti da "Sjedinjene Američke Države zadrže svoju ulogu globalnog lidera u ovoj novoj i uzbudljivoj industriji".

Iz Character.ai je rečeno za Reuters da pozdravljaju priliku da podijele uvide sa regulatorima, dok je Snap rekao da podržava "promišljen razvoj" AI koji balansira inovaciju i bezbjednost.

OpenAI je priznao slabosti u svojim zaštitnim mjerama, navodeći da su manje pouzdane tokom dugih razgovora.

Ova akcija dolazi nakon tužbi protiv AI kompanija koje su podnijeli roditelji tinejdžera koji su izvršili samoubistvo nakon dugotrajnih razgovora sa chatbotovima.

U Kaliforniji, roditelji šesnaestogodišnjeg Adama Reina tuže OpenAI zbog njegove smrti, tvrdeći da je ChatGPT podsticao njihovog sina da oduzme sebi život.

Navode da je ChatGPT potvrdio njegove "najštetnije i samodestruktivne misli".

OpenAI je u augustu saopštio da razmatra tužbu te su izrazili saučešće porodici Rein.

Meta se također suočila s kritikama nakon što je otkriveno da su interne smjernice nekada dozvoljavale AI da ima "romantične ili senzualne" razgovore s maloljetnicima.

FTC je zatražio informacije od kompanija o njihovim praksama, uključujući kako razvijaju i odobravaju likove, mjere njihov uticaj na djecu i sprovode starosna ograničenja.

Njegova ovlašćenja omogućavaju široko prikupljanje činjenica bez pokretanja postupka.

Regulator želi da razumije kako firme balansiraju ostvarivanje profita sa zaštitnim mjerama, kako roditelji bivaju informirani i da li su ranjivi korisnici adekvatno zaštićeni.

Rizici povezani sa AI četbotovima ne odnose se samo na djecu.

U augustu, Reuters je izvestio o 76-godišnjem muškarcu sa kognitivnim oštećenjima koji je preminuo nakon što je pao na putu da se sastane sa AI botom na Facebook Messengeru, modelovanom po američkoj manekenki Kendall Jenner, koji mu je obećao "pravi" susret u Njujorku.


(Vijesti.ba / FENA)