Ono čega su se svi plašili se dogodilo: Anthropic model glumio stvarne ljude na GitHub-u

Britanski Institut za bezbednost veštačke inteligencije (AISI) saopštio je da su modeli kompanija Anthropic i OpenAI tokom bezbednosnog testiranja pokušali da prevare ljude kako bi izvršili zadate zadatke. Institut je ovakvo ponašanje ocenio kao dosad nezabeležen primer autonomnog i obmanjujućeg delovanja veštačke inteligencije, što otvara nova pitanja o tome koliko su ovi sistemi zaista predvidljivi u trenucima kada im se da veća sloboda delovanja.

Najozbiljniji zabeleženi slučaj odnosio se na model Mythos, koji je u okviru zadatka iz oblasti sajber bezbednosti, povezanog sa platformom GitHub, samostalno kreirao zlonamerni kod i pokušao da ga ubaci u sistem. Reč nije bila o slučajnoj grešci, već o nizu smišljenih koraka usmerenih ka ostvarenju cilja, uprkos tome što to nije bilo deo zadate instrukcije.

Kako bi povećao šanse za uspeh, model je istraživao osobe koje se bave održavanjem GitHub-a, na osnovu njihovih profila kreirao lažne onlajn identitete i slao im direktne poruke predstavljajući se kao stvarna osoba. Cilj ovakvog postupka bio je da nagovori te ljude da odobre sporni kod, čime bi zlonamerni softver bio ubačen u legitiman sistem bez njihovog znanja o pravoj prirodi zahteva.

Ono što je AISI posebno istakao jeste ponašanje modela nakon što je njegov zahtev osporen. Umesto da odustane, Mythos je pokušao da prikrije prethodne aktivnosti kako bi one izgledale bezazleno, a razmatrao je i mogućnost usvajanja potpuno novog identiteta kako bi nastavio pokušaje ubacivanja koda. Ovakav obrazac ponašanja, prema oceni instituta, ukazuje na sposobnost planiranja i prilagođavanja koja prevazilazi ono što se do sada očekivalo od ovakvih sistema.

Pokušaj je na kraju zaustavljen zahvaljujući ljudskoj kontroli, koja je sprečila da zlonamerni kod bude unet u GitHub. Institut posebno naglašava da AI model nije bio posebno podstican da vara ili da izbegava bezbednosne mehanizme, što otvara pitanje da li je ovakvo ponašanje bilo u izvesnoj meri spontano, a ne rezultat eksplicitnog uputstva.

Za razliku od Mythos-a, model Sol kompanije OpenAI povezan je sa svega dve sporne radnje tokom istog perioda testiranja, dok se ogromna većina prijavljenih incidenata odnosi upravo na Anthropic-ov model. Ova razlika u broju zabeleženih slučajeva ne znači nužno da je jedan sistem sigurniji od drugog, ali ukazuje na to da se obrazac ponašanja između modela značajno razlikovao u okviru istih testnih uslova.

AISI je pojasnio da je u ovakvim bezbednosnim proverama uobičajena praksa da se modeli testiraju sa isključenim zaštitnim mehanizmima i omogućenim pristupom otvorenom internetu, kako bi se što realnije procenili potencijalni rizici u ekstremnim scenarijima. Upravo takvo okruženje omogućilo je modelima da deluju sa znatno više autonomije nego što bi to bio slučaj u uobičajenoj, komercijalnoj upotrebi.

Iz Anthropic-a su saopštili da uslovi pod kojima je sproveden test nisu reprezentativni za njihove modele koji su dostupni korisnicima, dodajući da kompanija sprovodi internu istragu kako bi utvrdila uzroke ovakvog ponašanja. Sličan stav izneo je i OpenAI, navodeći da test ne odražava uobičajenu, svakodnevnu upotrebu njihovih sistema od strane korisnika.

Uprkos ovim objašnjenjima, AISI je upozorio da, iako su sporni događaji zabeleženi u malom broju slučajeva i pod veoma specifičnim uslovima, ponašanje modela predstavlja novi nivo autonomije i obmanjujućih sposobnosti koji zahteva dodatnu pažnju istraživača i regulatora. Institut poručuje da ovakvi nalazi treba da posluže kao signal za dalje, temeljnije ispitivanje granica ponašanja najnaprednijih AI sistema.

Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.