AI funkcija za pretragu DuckDuckGo našla se u centru pažnje nakon što je korisnicima prikazivala netačne tvrdnje da je predsednik SAD Donald Tramp preminuo od besnila. Informacije su bile potpuno izmišljene, ali su se pojavile kao deo odgovora sistema koji bi trebalo da pomaže korisnicima u pronalaženju relevantnih podataka.
U navodnom objašnjenju AI alata pominjala se i lažna priča o smrti potpredsednika JD Vensa, kao i niz izmišljenih događaja koji su povezivali više javnih ličnosti. Provera navoda pokazala je da takve tvrdnje nemaju nikakvu osnovu i da su Tramp i Vens živi.
Foto: Shutterstock
Kako je AI nasela na internet manipulaciju
Ovaj slučaj predstavlja još jedan primer problema sa kojim se suočavaju sistemi veštačke inteligencije: mogućnost da preuzmu netačne informacije i predstave ih korisnicima bez dovoljno provere. Umesto da samo prepoznaju grešku, AI alati ponekad mogu da ponove sadržaj koji je namerno napravljen da izgleda kao stvarna vest.
U pozadini ovog slučaja nalazi se organizovano objavljivanje izmišljenih informacija na internetu, gde korisnici pokušavaju da zbune AI modele. Takve situacije pokazuju da sistemi koji obrađuju velike količine podataka mogu biti ranjivi kada naiđu na sadržaj koji je vešto uklopljen među druge izvore.
Foto: Shutterstock
Internet zajednice testiraju granice
Tokom poslednjih godina postalo je jasno da AI alati često koriste sadržaj sa različitih internet platformi kao deo baze informacija. Zbog toga pojedine zajednice pokušavaju da iskoriste tu slabost tako što namerno objavljuju apsurdne ili netačne tvrdnje.
Jedna od takvih zajednica, r/poisonai, objavljuje izmišljene priče koje su osmišljene kao test za AI sisteme. Objave uključuju potpuno besmislene tvrdnje, ali kada se dovoljno prošire internetom, mogu postati deo materijala na koji algoritmi nailaze tokom pretrage.
Foto: DuckDuckGo printscreen
Kada šala preraste u dezinformaciju
Među najčešće ponavljanim izmišljotinama našla se lažna priča o tome da je JD Vens prema navodima preminuo od besnila. Iako je nastala kao internet šala, brojna ponavljanja i reakcije korisnika stvorile su privid da se radi o stvarnom događaju.
Problem dodatno komplikuje pojava lažnih sajtova koji izgledaju kao lokalni mediji i objavljuju sadržaj napravljen tako da podrži izmišljene priče. Takvi tekstovi mogu dodatno zbuniti automatizovane sisteme koji pokušavaju da pronađu i povežu informacije sa različitih izvora.
Foto: DuckDuckGo printscreen
Kompanije najavljuju poboljšanja nakon incidenta
Predstavnik Brave branio je njihov AI sistem navodeći da pretraživači, sa ili bez veštačke inteligencije, nisu nepogrešivi izvori istine. Kompanija je istakla da korisnici treba da provere informacije i pogledaju izvore pre nego što prihvate određenu tvrdnju.
DuckDuckGo je nakon reakcija korisnika priznao problem i saopštio da je slučaj rešen. Kompanija je navela da će unaprediti način rada svog AI alata kako bi bolje reagovao na situacije u kojima pokušaji manipulacije utiču na rezultate pretrage.
Ovaj slučaj pokazuje da razvoj veštačke inteligencije nije samo pitanje brzine i mogućnosti sistema, već i sposobnosti da razlikuju pouzdane informacije od pažljivo napravljenih obmana.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
Preuzeto sa: www.kurir.rs
