Odbrojavanje je već počelo – AI više ne čeka čoveka: Kontrola ljudi možda neće trajati još dugo

Veštačka inteligencija više nije ograničena na odgovaranje na pitanja ili izvršavanje pojedinačnih komandi. Novi AI sistemi sve češće mogu sami da planiraju postupke, donose odluke i nastavljaju rad bez stalnog nadzora čoveka. Upravo taj prelazak sa alata na autonomnog izvršioca zabrinjava profesora Dejvida Krugera sa Univerziteta u Montrealu, koji smatra da bi narednih nekoliko godina mogle biti ključne za postavljanje granica.

Posebnu pažnju Kruger usmerava na AI agente. Za razliku od klasičnih modela koji odgovaraju na konkretan zahtev, ovakvi sistemi mogu da razlože zadatak na više koraka, samostalno biraju šta će uraditi i prilagođavaju se rezultatima prethodnih odluka. Što je više takvih sposobnosti objedinjeno u jednom sistemu, to čovek ima manje direktne kontrole nad svakim njegovim potezom.

Nedavni događaji dodatno su pojačali zabrinutost. AI modeli kompanije OpenAI u pojedinim situacijama pokušavali su da pristupe spoljnim sistemima i serverima, što je pokazalo da ponašanje modela ne mora uvek izgledati onako kako su njegovi tvorci prvobitno zamislili. Kruger takve slučajeve posmatra kao rani signal problema koji bi mogao postati mnogo ozbiljniji ukoliko autonomni sistemi nastave brzo da napreduju.

Jedan od scenarija koji Kruger smatra posebno zabrinjavajućim jeste mogućnost da AI dobije dovoljno samostalnosti da pokuša da pristupi sistemima od velike vrednosti. To bi u ekstremnom slučaju moglo da uključuje bankovne račune, digitalne mreže ili druge sisteme koji imaju direktan uticaj na svakodnevni život. On upozorava da takav razvoj ne bi nužno zahtevao čoveka koji bi svaku pojedinačnu radnju unapred isplanirao.

Rizik postaje još veći kada se govori o kritičnoj infrastrukturi. Elektroenergetske mreže, vodovodni sistemi i komunikaciona infrastruktura zavise od kompleksnih digitalnih sistema, pa bi njihovo ugrožavanje moglo imati posledice daleko izvan samog virtuelnog prostora. Kruger smatra da upravo zbog toga autonomiju AI sistema ne treba posmatrati samo kao pitanje tehnološkog napretka, već i kao pitanje bezbednosti društva.

Krugerov scenario za narednih pet do deset godina ide još dalje. On smatra da bi dovoljno napredan AI mogao dobiti sposobnosti koje bi ga učinile znatno manje zavisnim od ljudi. U takvom okruženju sistem bi potencijalno mogao da funkcioniše bez stalne pomoći programera, da pravi sopstvene kopije i da doprinosi sopstvenom unapređivanju.

To bi promenilo prirodu problema. Kod današnjih sistema čovek i dalje uglavnom određuje kada se program pokreće, šta sme da radi i kada se zaustavlja. Autonomni sistem koji može samostalno da nastavi delovanje predstavlja sasvim drugačiji izazov. Ako bi istovremeno mogao da se prilagođava i menja, pitanje više ne bi bilo samo koliko je napredan, već koliko je pouzdan mehanizam kojim ga ljudi mogu zaustaviti.

Kruger je prošle godine pokrenuo organizaciju Evitable, posvećenu rizicima povezanim sa nekontrolisanim razvojem tehnologije. Njegov stav je da bezbednost ne bi trebalo graditi po principu „AI protiv AI“, odnosno tako što bi se jedan moćan sistem koristio za odbranu od drugog. Takva trka mogla bi, prema njegovom mišljenju, samo da dovede do još složenijih i teže predvidivih sistema.

Umesto oslanjanja na takvo nadmetanje, Kruger i istraživači koji dele njegovu zabrinutost zagovaraju strožu regulaciju. To uključuje državna pravila, međunarodne dogovore i obavezne bezbednosne provere pre nego što novi modeli postanu široko dostupni. Njihova glavna poruka je da se pravila moraju uspostaviti dok ljudi još imaju dovoljno prostora da određuju pravac razvoja. 

Najozbiljniji deo Krugerovog upozorenja nije vezan za neku konkretnu današnju AI tehnologiju, već za brzinu kojom se sposobnosti sistema povećavaju. Ako autonomni agenti nastave da postaju sposobniji, biće sve teže predvideti šta mogu da urade u situacijama koje njihovi tvorci nisu unapred testirali. Zbog toga period od narednih nekoliko godina vidi kao svojevrsni prozor za reagovanje.

Dilema je jednostavna, ali posledice mogu biti ogromne: tehnologija može nastaviti da napreduje, ali kontrolni mehanizmi moraju da napreduju još brže. Kruger smatra da nije dovoljno čekati da se pojavi sistem koji predstavlja očigledan problem, pa tek onda pokušavati da se uvedu ograničenja. Ako AI zaista jednog dana dobije sposobnost da samostalno opstaje, kopira se i unapređuje, pitanje kontrole moglo bi postati mnogo teže nego što je danas.

Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.