Pritisak urodio plodom: Grok više neće moći "razodijevati" stvarne osobe

Ovu promjenu je u srijedu potvrdila platforma X, nakon snažnih globalnih reakcija zbog širenja seksualiziranih AI deepfake sadržaja, pišu BBC i CNN.

Grok je ranije udovoljavao zahtjevima korisnika da digitalno „razodijevaju“ žene, a u pojedinim slučajevima i djecu, što je izazvalo ozbiljne kritike stručne i šire javnosti. Iz X-a su saopćili da su uvedene tehničke mjere koje onemogućavaju uređivanje fotografija stvarnih osoba u bikinijima, donjem rublju i sličnim sadržajima. Ova ograničenja, kako navode, odnose se na sve korisnike, uključujući i one koji plaćaju pretplatu.

Platforma je dodatno pojasnila da je generisanje i uređivanje ovakvih slika geografski ograničeno, odnosno blokirano u područjima gdje je takav sadržaj protivan zakonu. Istaknuto je i da Grokovo uređivanje slika ostaje dostupno isključivo pretplatnicima, što bi, prema navodima X-a, trebalo olakšati identifikaciju i sankcionisanje eventualnih zloupotreba.

Ipak, iz evropske organizacije AI Forensics upozoravaju da i dalje postoje razlike u načinu na koji Grok tretira pornografski sadržaj na platformi X i u privatnim razgovorima na Grok.com, što otvara pitanje dosljedne primjene novih pravila.

Iz kompanije X ponovo su naglasili da uklanjaju nezakonit sadržaj, uključujući materijale seksualnog zlostavljanja djece, suspenduju naloge i sarađuju s policijskim organima. Korisnici koji navode Grok na kreiranje nezakonitog sadržaja, poručuju iz kompanije, snosit će iste posljedice kao i oni koji takav sadržaj direktno objavljuju.

Sam Elon Musk izjavio je da „nije svjestan nijedne gole slike maloljetnika koju je generirao Grok“, dodajući da chatbot odbija sve što je protivzakonito. Međutim, istraživači upozoravaju da problem nije nužno potpuna golotinja, već činjenica da je Grok mijenjao fotografije maloljetnika i prikazivao ih u seksualiziranoj ili provokativnoj odjeći, što također može predstavljati krivično djelo.

Musk je ranije optuživao kritičare da pokušavaju „ugušiti slobodu govora“, a dodatne kontroverze izazvao je objavom AI generisanih slika britanskog premijera Keira Starmera u bikiniju, što je pojačalo sumnje u ozbiljnost pristupa cijelom problemu.

Zbog širenja seksualno eksplicitnog sadržaja bez pristanka, državni tužilac Kalifornije Rob Bonta najavio je istragu o korištenju Groka, dok je regulator u Ujedinjenom Kraljevstvu Ofcom pokrenuo formalni postupak protiv platforme X. Grok je i dalje zabranjen u Indoneziji i Maleziji, dok je britanski premijer poručio da pozdravlja poteze X-a, ali da će regulatorni nadzor ostati na snazi.

Uprkos najavljenim mjerama, stručnjaci upozoravaju da je i dalje ostalo mnogo otvorenih pitanja. Istraživačica javnih politika Riana Pfefferkorn ističe da nije jasno kako će Grok pouzdano utvrđivati da li se radi o stvarnim osobama, niti kako će se nova pravila dosljedno provoditi u praksi. Dodaje i da je reakcija platforme došla prekasno te da su sporne mogućnosti trebale biti uklonjene odmah nakon prvih zloupotreba.

(Vijesti.ba)