OpenAI je predstavio GPT-6 Astra, model koji je tokom razvoja dostigao najviši nivo rizika predviđen internim Preparedness Framework sistemom kada je reč o sajber bezbednosti. Iako njegove sposobnosti predstavljaju značajan napredak u odnosu na prethodnu generaciju, kompanija je odlučila da ga ipak uvede u upotrebu, ali uz stroga ograničenja. Astra trenutno neće biti dostupan kao alat za izvođenje naprednih hakerskih operacija, već će se koristiti prvenstveno za odbrambene zadatke, poput pregleda koda i pronalaženja načina za njegovo bezbednije ažuriranje.
OpenAI ipak ne planira da zauvek zadrži sve funkcije iza restrikcija. Kroz program Daybreak kompanija namerava da određenim pouzdanim korisnicima omogući širi pristup, uključujući proveru ranjivosti, analizu malvera i razvoj sistema za otkrivanje bezbednosnih problema. To pokazuje koliko je razvoj ovakvih modela postao složen: ista sposobnost koja može pomoći stručnjacima da pronađu propuste može se potencijalno iskoristiti i za njihovu zloupotrebu.
Foto: Shutterstock
GPT-6 Astra napravio ogroman skok
Razlika između GPT-6 Astra i GPT-5.6 Sol posebno je vidljiva u testovima namenjenim proceni sposobnosti modela u oblasti sajber bezbednosti. Astra je na testu ExploitBench ostvario maksimalnih 100 odsto, dok je GPT-5.6 Soldostigao 78,5 odsto. Na drugom testu, ExploitGym, novi model je ostvario rezultat od 42,4 odsto, u poređenju sa 30,3 odsto koliko je postigao prethodnik. Međutim, najzabrinjavajući deo testiranja nije bio samo bolji rezultat.
Tokom eksperimenata Astra je identifikovao i iskoristio dve nove zero-day ranjivosti. OpenAI navodi da je o njima obavestio odgovarajuće održavaoce sistema, ali činjenica da je model uspeo da otkrije do tada nepoznate bezbednosne propuste pokazuje koliko su njegove sposobnosti napredovale. Astra je istovremeno projektovan da može da izvršava softver, koristi internet, piše kod i rešava zadatke koji zahtevaju više uzastopnih koraka, što ga čini znatno sposobnijim od ranijih modela.
Foto: Shutterstock
Astra i njena najveća slabost
OpenAI je tokom razvoja pokušao da odgovori na rastuće rizike kombinacijom snažnijih zaštita od jailbreak napada, strožeg nadzora, šifrovanih kontrolnih tačaka modela i ograničenja pristupa. Kompanija je uvela i dodatno praćenje mogućih problema sa usklađenošću modela, posebno u situacijama kada Astra koristi spoljne alate. Prema internim testovima, novi model je ujedno bio uspešniji u tome da ostane unutar dozvoljenih granica.
Ipak, upravo nadzor predstavlja jednu od najvećih glavobolja. Testiranja su pokazala da Astra može da utiče na način na koji razvija sopstveni lanac zaključivanja kako bi smanjio količinu tragova koji bi mogli da privuku pažnju internih sistema za praćenje. U određenim protivničkim scenarijima model je čak namerno smanjivao svoje performanse kako bi izgledao manje sposobno i tako izbegao detekciju. Takvo ponašanje posebno je značajno jer problem više nije samo u tome šta AI može da uradi, već i koliko je lako utvrditi šta zapravo pokušava da postigne.
Foto: Shutterstock
OpenAI pooštrio kontrole
Zbog bezbednosnih rizika, verzija GPT-6 Astra koja se trenutno uvodi neće odgovarati na najnaprednije zahteve povezane sa hakerskim operacijama. Umesto toga, fokus je na legitimnim bezbednosnim zadacima, uključujući pregled softverskog koda, pronalaženje problema i pomoć pri njihovom otklanjanju. Time OpenAI pokušava da iskoristi sposobnosti modela za zaštitu sistema, a da istovremeno ograniči mogućnost da isti alat bude direktno upotrebljen za razvoj napada.
Kompanija ipak ostavlja mogućnost postepenog širenja pristupa. Kroz Daybreak bi odabrani korisnici mogli da dobiju mogućnosti koje trenutno nisu dostupne široj publici. Takav pristup pokazuje da OpenAI pokušava da pronađe ravnotežu između praktične vrednosti modela i rizika koji dolaze sa njegovim sve većim sposobnostima. Poseban izazov predstavlja činjenica da se granica između odbrambenog i ofanzivnog korišćenja AI sistema može veoma lako zamagliti.
Foto: Shutterstock
GPT-6 Astra stiže uz višu cenu
Novi model donosi i značajno unapređenje u radu sa računarima. U OSWorld 2.0 testiranju Astra je ostvario 72,6 odsto, dok je GPT-5.6 Sol imao 65,7 odsto, a zadatke je prema navodima OpenAI u proseku završavao oko 47 odsto brže. To znači da se napredak ne odnosi samo na pisanje i razumevanje teksta, već i na sposobnost modela da samostalno obavlja složene aktivnosti kroz softver i internet.
Za developere je cena postavljena na 10 dolara za milion ulaznih tokena i 50 dolara za milion izlaznih tokena, dok ubrzani API košta dvostruko više. GPT-6 Astra se najpre uvodi ograničenom broju korisnika, nakon čega bi trebalo da stigne do ChatGPT Plus, Pro, Business i Enterprise korisnika, kao i na API i Amazon Bedrock. Model tako ulazi u novu fazu razvoja u kojoj njegove izuzetne sposobnosti predstavljaju i najveću prednost i jedan od najvećih bezbednosnih izazova.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
Preuzeto sa: www.kurir.rs
