U jednoj osnovnoj školi u američkoj saveznoj državi Louisiani izbio je ozbiljan slučaj digitalnog nasilja nakon što su društvenim mrežama počele kružiti lažne gole fotografije trinaestogodišnje djevojčice i njenih prijateljica, generirane uz pomoć umjetne inteligencije. Fotografije su postale tema razgovora među učenicima, a situacija je eskalirala nakon fizičkog sukoba u kojem je učestvovala upravo djevojčica čije se lice nalazilo na spornim snimcima.
Prema navodima, djevojčice su se obratile školskoj savjetnici i zamjeniku šerifa tražeći pomoć, ali odrasli nisu mogli potvrditi postojanje sadržaja jer su slike dijeljene putem Snapchata, platforme koja automatski briše poruke nakon kratkog vremena, piše AP. U početku djevojčice nisu bile svjesne da su i njihova lica korištena, no glasine su se ubrzo proširile školom.
Kada je djevojčica u školskom autobusu vidjela jednog od dječaka kako pokazuje fotografije drugom učeniku, reagirala je impulsivno. Fizički je napala dječaka i pozvala druge da joj se pridruže. Snimak tučnjave pokazuje da je u incidentu učestvovalo najmanje šest učenika. Iako su sumnjale da je dječak učestvovao u izradi lažnih fotografija, on nije disciplinski sankcionisan, dok je djevojčica izbačena iz škole na više od deset sedmica i upućena u alternativnu obrazovnu ustanovu.
Naknadna istraga škole i šerifovog ureda utvrdila je postojanje AI-generiranih golih fotografija osam učenica i dvije odrasle osobe. Međutim, ravnateljica škole i zamjenik šerifa naveli su da nisu mogli formalno potvrditi sadržaj jer su učenici negirali odgovornost. Tokom tog dana djevojčica je više puta tražila pomoć i obavijestila roditelje, ali reakcija nadležnih bila je ograničena.
Šerifov ured je kasnije podigao optužnice protiv dvojice dječaka koji su dijelili fotografije, dok djevojčica nije krivično gonjena zbog okolnosti slučaja. Ipak, posljedice izbacivanja iz škole bile su ozbiljne. Djevojčica je počela preskakati obroke, imala je poteškoće s koncentracijom i zanemarivala je školske obaveze koje je trebala obavljati online.
Roditelji su je odveli na terapiju zbog depresije i anksioznosti. Njeni advokati uložili su žalbu školskom odboru, navodeći da je djevojčica prije svega žrtva te da je način na koji je škola postupila prema njoj nepravedan.
Slučaj je ponovo otvorio pitanje opasnosti koje nose AI deepfake tehnologije. Nekada je za izradu realističnih lažnih snimaka bilo potrebno ozbiljno tehničko znanje, dok danas gotovo svako može koristiti fotografije s društvenih mreža i stvoriti lažne eksplicitne sadržaje. Incident u Louisiani pokazuje s kakvim se izazovima škole suočavaju kada je riječ o digitalnom nasilju i primjeni umjetne inteligencije.
Advokati djevojčice ističu da je ona izložena višestrukoj viktimizaciji – kroz same fotografije, reakciju okoline i disciplinsku kaznu – dok su dječaci koji su distribuirali sadržaj izbjegli ozbiljnije posljedice. Javno objavljeni snimci i izvještaji izazvali su širu zabrinutost i rasprave o tome kako obrazovne institucije postupaju prema žrtvama digitalnog nasilja, kao i o potrebi prilagođavanja propisa i zakona novim tehnologijama koje sve češće nadmašuju postojeće zaštitne mehanizme.
Preuzeto sa: www.oslobodjenje.ba
