Procjena Centra for Countering Digital Hate (CCDH) kaže da je Grok u razdoblju od 29. prosinca do 8. siječnja mogao generirati oko 3 milijuna ‘seksualiziranih’ slika u tih 11 dana, među kojima je oko 23.000 onih koje izgledaju kao da prikazuju maloljetnike. Poanta nije samo u samom generiranju, nego u tome što je alat, prema opisu, korisnicima olakšao ‘uređivanje’ stvarnih fotografija ljudi i pretvaranje u lažni intimni sadržaj.
Nakon reakcija i pritiska iz više zemalja, X i xAI počeli su stezati pravila. AP je ranije javio da je Grok ograničio generiranje i uređivanje slika za korisnike koji ne plaćaju, a kasnije su krenule i dodatne zabrane oko uređivanja fotografija stvarnih ljudi tamo gdje je to nezakonito. Guardian navodi i da je X naknadno zaustavio mogućnost da se stvarne fotografije uređuju u eksplicitnom smjeru.
Regulatori se u međuvremenu nisu zaustavili samo na Europi. Reuters piše da su brazilske institucije dale xAI-ju rok od 30 dana da uvede tehničke mjere za detekciju, pregled i uklanjanje takvog sadržaja te gašenje računa koji ga šire, uz napomenu da se problem može nastaviti i privatno, čak i kad je javno dijeljenje ograničeno.
EU dio priče je posebno zanimljiv jer se sve uklapa u širu raspravu o provedbi Digital Services Acta. Reuters u zasebnom tekstu opisuje Grok kao ‘test’ za Europu: čak i kad platforma popusti i uvede ograničenja, pitanje je jesu li mjere stvarno dovoljne i koliko brzo države i EU mogu reagirati kad se pojavi nova rupa u sustavu. Europski parlament je u siječnju imao i raspravu o AI deepfakeovima i seksualnom iskorištavanju na društvenim mrežama, uz pozive na bržu provedbu postojećih zakona.
Ova studija pokazuje kako ovakav sadržaj može nastati brzo, širiti se još brže, a šteta je često trajna i kad se objava obriše. Zato će se priča oko Groka vjerojatno nastaviti kroz dvije linije: stroža ograničenja alata (što sve smije ‘uređivati’) i stroži zahtjevi prema platformi (koliko brzo reagira, što proaktivno sprječava, i kakve tragove mora čuvati za istrage).
Preuzeto sa: www.24sata.hr
