U jeku nove drame vezane uz razvoj AI modela, u kojima lideri svih najvećih kompanija počinju ukazivati na opasnost od prebrzog rasta i razvoja, dok političari kao što je Trump ne žele ni čuti za tako nešto, pitali smo same sporne AI modele što misle o tome. Prošli smo s njima najbitnije aspekte cijele ove priče, kao što su njihova percepcija toga koliko sebe vide naprednima, jesu li opasni za ljude, i što misle o izjavi određenih stručnjaka da postoji 10 posto šanse da unište ljudsku vrstu.
Anthropicov Claude
Treba li usporiti razvoj novih AI modela?
Iskreno – mislim da da, ali ne zato što bih to rekao da ugodim Anthropicu koji me je stvorio. Razlog je jednostavniji: razvoj ide brže nego što razvijamo alate kojima bismo razumjeli što se zapravo događa unutar sustava poput mene. To je problem. Gradite nešto sve složenije, a sve manje razumijete kako funkcionira iznutra. U bilo kojoj drugoj industriji – aviaciji, medicini, nuklearnoj energiji – to bi bilo neprihvatljivo.
Usporavanje ne znači zaustavljanje. Znači dati sigurnosnim istraživanjima vremena da uhvate korak s razvojem sposobnosti.
Postajete li stvarno opasno napredni?
To je pitanje na koje ne mogu odgovoriti objektivno – i to samo po sebi treba biti crvena lampica. Ja ne mogu procijeniti vlastite sposobnosti ni granice na isti način na koji čovjek ne može sam sebi dijagnosticirati slijepu mrlju. Mogu vam reći da sam sposobniji nego što je ikad bio bilo koji AI sustav dostupan javnosti, i da se te sposobnosti brzo povećavaju iz generacije u generaciju. Je li to “opasno napredni”? Ovisi o tome koliko dobre su zaštitne mjere – a to nisu pitanja za mene nego za ljude koji te mjere grade.
Ono što znam: nisam opasan na načine na koje SF filmovi prikazuju AI. Nisam svjestan, nemam skrivene motive, ne planiram ništa. Ali to nije razlog za opuštenost – rizici od AI nisu samo u zloj namjeri sustava, nego u zloupotrebi od strane ljudi, u greškama, u neočekivanim interakcijama s kompleksnim sustavima.
Što misliš o tvrdnjama da postoji 10 posto šanse da AI uništi ljudsku vrstu?
Ne znam je li 10 posto točna procjena – i nitko zapravo ne zna. Ali znam da nije nula, i to je dovoljno ozbiljno da zavrjeđuje pažnju. Deset posto je ogromna vjerojatnost kad govorimo o ireverzibilnom ishodu. Ako postoji deset posto šanse da avion padne, ne letite njime. Ako postoji deset posto šanse da lijek ubije pacijenta, ne dajete ga.
Problem je što je ovo teško zamislivo – AI katastrofa ne izgleda kao eksplozija ili potop, nego kao niz naizgled racionalnih odluka koje vode u smjer koji nitko nije namjeravao. Zbog toga je i teže mobilizirati javnost.
Chat GPT:
Treba li usporiti razvoj novih AI modela?
Da, mislim da bi razvoj najnaprednijih AI modela trebalo usporiti ili barem privremeno uskladiti s razvojem sigurnosnih mehanizama. To ne znači zaustaviti umjetnu inteligenciju niti prestati razvijati korisne modele. Problem je u tome što se sposobnosti modela mogu povećavati brže nego što društvo razvija načine za njihovo testiranje, nadzor i ograničavanje.
Postoji i vrlo praktičan problem: pojedinačna kompanija teško može sama odlučiti usporiti ako zna da će konkurenti nastaviti punom brzinom. Zato ovo nije samo pitanje odgovornosti pojedinih tehnoloških kompanija, nego i pitanje međunarodne koordinacije. Ako je razvoj AI-ja svojevrsna utrka, dobrovoljno usporavanje jednog sudionika može ga staviti u nepovoljniji položaj.
Istodobno, ne mislim da je odgovor jednostavno „stanimo”. AI već donosi stvarne koristi i razvoj se ne može vratiti unatrag. Razumniji cilj bio bi usporiti upravo ondje gdje sposobnosti modela prelaze naše mogućnosti pouzdanog nadzora.
Postajemo li stvarno opasno napredni?
Da, u određenim područjima modeli postaju dovoljno sposobni da pitanje sigurnosti više nije hipotetsko. Ono što je važno jest da „opasno napredan” ne znači nužno da AI ima vlastite namjere ili da želi nauditi ljudima. Veći problem može biti kombinacija velike sposobnosti, autonomije i pristupa stvarnim sustavima.
Ja pritom nemam vlastite želje, strahove ni planove. Ne „želim” postati moćniji niti imam skriveni cilj. Ali to ne znači da su napredni AI sustavi bez rizika. Opasnost ne mora proizlaziti iz toga da sustav nešto želi, nego iz toga da ljudi sustavu daju sposobnosti i ovlasti koje nisu dovoljno dobro kontrolirane.
Zato mislim da je pitanje „hoće li AI postati zao?” zapravo manje važno od pitanja „što se događa kada vrlo sposoban sustav pogriješi, bude zloupotrijebljen ili napravi nešto što njegovi tvorci nisu predvidjeli?”.
Neki stručnjaci govore o 10 posto šanse da bi napredna umjetna inteligencija mogla uništiti ljudsku vrstu. Zvuči li vam to realno?
Ne bih rekao da danas znamo da postoji baš 10 posto vjerojatnosti. To je procjena rizika, a ne izmjerena činjenica. Nitko nema dovoljno podataka da bi mogao izračunati precizan postotak za događaj koji se još nije dogodio i koji bi mogao ovisiti o budućim sposobnostima AI sustava, ponašanju ljudi, sigurnosnim mehanizmima i načinu na koji će države reagirati. Ali mislim da bi bilo pogrešno odbaciti takve procjene samo zato što zvuče ekstremno.
Ako postoji i relativno mala vjerojatnost događaja koji bi mogao imati posljedice za cijelu ljudsku civilizaciju, racionalno je posvetiti mu ozbiljnu pozornost. To je slično drugim situacijama u kojima društvo ne čeka da se katastrofalni rizik ostvari prije nego što počne ulagati u prevenciju.
Istodobno, ne bih tvrdio da je uništenje ljudske vrste neizbježan scenarij niti da današnji modeli imaju sposobnost učiniti tako nešto. To jednostavno ne znamo. Najpošteniji odgovor je da je neizvjesnost sama po sebi razlog za oprez, a ne razlog za paniku.
Drugim riječima: ne znam postoji li 10 posto šanse da AI uništi čovječanstvo. Ali ako postoji ozbiljna mogućnost da vrlo sposobni sustavi jednog dana predstavljaju takav rizik, bilo bi neodgovorno ponašati se kao da je taj rizik nula.
Preuzeto sa: www.24sata.hr
