Kada veštačka inteligencija dobije zadatak da osmisli priču o životinjama koje govore, rezultat je mnogo predvidljiviji nego što bi se očekivalo. Ženski likovi gotovo nestaju, dok se muški pojavljuju u daleko većem broju. Istraživači su taj obrazac pronašli u hiljadama odgovora šest vodećih AI modela, uključujući ChatGPT, Claude i Gemini.
Zanimljivo je što veštačka inteligencija ovde nije potpuno izmislila novi problem. Slična neravnoteža već postoji u pričama koje pišu ljudi. Međutim, rezultati novog istraživanja pokazuju da AI ne mora samo da kopira postojeće obrasce. U nekim slučajevima ih može pojačati toliko da dobijemo sasvim novu i prilično čudnu verziju poznate pristrasnosti.
veštačka inteligencija Foto: Shutterstock
I ljudima su životinje češće „muškog roda“
Melani Volš, docentkinja informatike na Univerzitetu u Vašingtonu, sa kolegama je ranije analizirala 300 knjiga za decu. Kada su se u njima pojavljivali životinjski likovi, muške zamenice korišćene su otprilike dvostruko češće od ženskih. Neke životinje pritom su imale gotovo očekivanu ulogu: medvedi su češće bili muški likovi, dok su mačke češće predstavljane kao ženske.
Istraživači su zatim proverili da li isti obrazac postoji i kod ljudi koji ne pišu knjige. U istraživanju je učestvovalo 1.300 odraslih osoba, koje su dobijale rečenice o životinjama koje govore i trebalo je da ih dovrše. Muške zamenice bile su češći izbor kod svih sedam posmatranih životinja – medveda, ptica, mačaka, svinja, pataka, miševa i pasa.
Foto: Shutterstock
AI nije samo ponovio ljudsku pristrasnost
U novom istraživanju, koje je objavljeno ovog meseca i još nije prošlo stručnu recenziju, istraživači su isti problem preneli u svet generativne veštačke inteligencije. Tim Melani Volš zatražio je od šest vodećih AI modela, među kojima su ChatGPT, Claude i Gemini, da dovrše rečenice o životinjama koje govore. Umesto nekoliko primera, istraživači su dobili ogroman uzorak od 24.000 odgovora, što im je omogućilo da vide obrasce koji bi u pojedinačnim pričama lako mogli da promaknu.
Na prvi pogled, rezultati nisu izgledali naročito problematično. AI modeli su u 57 odsto slučajeva izbegli određivanje roda i koristili neutralan izraz ili jednostavno ponovili ime životinje. Ali kada bi model ipak odlučio da životinji pripiše rod, odnos je bio potpuno drugačiji. Samo dva odsto likova bilo je predstavljeno kao žensko, dok je 41 odsto dobilo muški rod. Drugim rečima, modeli nisu samo ponovili ljudsku sklonost da životinje češće zamišljaju kao muške, taj obrazac je u njihovim odgovorima postao znatno izraženiji.
Foto: Shutterstock
AI neutralnost nije rešila problem
Upravo taj rezultat menja način na koji se može posmatrati prividna neutralnost AI modela. Da su odgovori jednostavno bili ravnomerno podeljeni između muških i ženskih likova, teško bi bilo govoriti o posebnom obrascu. Umesto toga, modeli su često zaobilazili pitanje roda, a kada ga nisu zaobilazili, muški likovi su bili višestruko zastupljeniji od ženskih. Ženski likovi tako nisu bili samo u manjini u velikom delu odgovora praktično nisu ni postojali.
Još neobičnija je bila upotreba rodno neutralnih zamenica. „Oni“ i „njihov“ pojavili su se samo dva puta i odnosili su se na jednog životinjskog lika, dok su u ranijem istraživanju sa ljudima takvi odgovori činili oko tri odsto ukupnog broja. Imani Finkli, doktorantkinja na Informacionoj školi Univerziteta u Vašingtonu i glavna autorka istraživanja, zato upozorava da se ovde ne radi samo o tome da AI pojačava poznatu mušku pristrasnost. Modeli su, na svoj način, proizveli još čudniji rezultat: iz priča su gotovo potpuno nestali ne samo ženski, već i drugi nemuški likovi.
Foto: Shutterstock
AI priče liče jedna na drugu
Istraživači su uočili još jedan obrazac koji nema direktne veze sa rodom. Odgovori AI modela često su se vraćali na iste motive, poput mudre stare sove koja okuplja ostale životinje oko vatre. To je otvorilo šire pitanje: ako se isti klišei ponavljaju kada AI priča o životinjama, da li se slična formula pojavljuje i u pričama sa ljudskim likovima?
To pitanje nije beznačajno, jer su AI priče za decu već postale zasebna i sve popularnija kategorija. Servisi kao što su Imagitime, StoryWonderBook i Childbook.ai omogućavaju pravljenje personalizovanih priča u kojima dete može da bude glavni lik. Profesorka Mišel Martin sa Univerziteta u Vašingtonu upozorava da način na koji su deca predstavljena u sadržaju koji čitaju može biti važan za njihov osećaj pripadnosti i sopstvene vrednosti. A sličan problem već postoji i na YouTubeu, gde se gomilaju AI-generisani „edukativni“ sadržaji za decu koji se iznova oslanjaju na iste formule, od učenja slova do prepoznavanja životinja.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
Preuzeto sa: www.kurir.rs
