Krajem prošlog tjedna, tvrtka Anthropic povukla je svoja dva nova AI modela, Claude Fable 5 i Mythos 5, nakon direktive američke vlade o kontroli izvoza koja zabranjuje “bilo kojem stranom državljaninu” korištenje tih usluga. Tvrtka je od petka u pregovorima s Bijelom kućom, ali još nije postignut dogovor koji bi omogućio ponovnu dostupnost modela.
Mač s dvije oštrice
Otkako je model Mythos debitirao u travnju, Anthropic je tvrdio – i upozoravao – da ima napredne sposobnosti ne samo za pronalaženje ranjivosti u softveru kako bi pomogao developerima da ih zakrpaju, već i za otkrivanje načina kako ih iskoristiti, što bi mogli upotrijebiti zlonamjerni akteri. Sam Anthropic je u objavi lansiranja modela Mythos 5 i Claude Fable 5 istaknuo ovu dvoznačnost. “Velik dio naprednog korištenja AI modela ima dvojaku namjenu: isti upiti koji su korisni u rukama stručnjaka za kibernetičku sigurnost i istraživača u biologiji mogli bi biti opasni ako su dostupni zlonamjernim akterima”, napisala je tvrtka u blogu prošlog tjedna.
S obzirom na to, tvrtka je isprva objavila verziju pod nazivom Mythos Preview odabranom konzorciju u sklopu radne skupine poznate kao Projekt Glasswing. Mythos 5 je također privatno pušten ovoj skupini prošlog tjedna, dok je Claude Fable 5, model na razini Mythosa, postao dostupan široj javnosti, ali sa specifičnim blokadama koje su sprječavale odgovore na pitanja o biologiji i kibernetičkoj sigurnosti.
Reakcija Trumpove administracije
Krajem prošlog tjedna, Trumpova administracija odlučila je ograničiti oba modela jer vjeruje da se sigurnosne ograde modela Fable 5 mogu zaobići, čime bi se omogućio potpuni pristup sposobnostima modela Mythos 5, što prema navodima predstavlja rizik za nacionalnu sigurnost. Ovaj institucionalni sukob, međutim, prema mišljenju stručnjaka, samo odgađa ili prikriva surovu istinu: Anthropic je možda trenutno samo vrh koplja, ali AI sposobnosti općenito, kao i modeli brojnih drugih tvrtki i open-source developera, gotovo će sigurno u bliskoj budućnosti imati slične mogućnosti kao Mythos 5, ako ih već i nemaju, kako izvještava Wired.
Stručnjaci kažu kako je ovaj potez kratkovidan i potencijalno kontraproduktivan. Deseci stručnjaka za kibernetičku sigurnost uputili su i otvoreno pismo administraciji u kojem tvrde da je oduzimanje najboljih alata onima koji se bave obranom, dok protivnici brzo napreduju, samo po sebi opasnost.
​- Kratkovidno je do krajnjih granica misliti da nijedan drugi konkurent Anthropicu neće razviti slične sposobnosti kao Mythos, ili čak da to već nisu učinili – kaže Tarah Wheeler, glavna sigurnosna direktorica u konzultantskoj tvrtki TPO Group.
​- Postoje druge tvrtke koje pušu za vratom Anthropicu i vjerojatno također imaju te sposobnosti, ali ih drže u rezervi dok promatraju kako se prema Anthropicu postupa u trenutnom regulatornom okruženju.
Priprema za neizbježno
I sam Anthropic je naglašavao ovu poantu od lansiranja modela Mythos Preview.
​- Prava poruka je da se ovdje ne radi o modelu ili o Anthropicu – rekao je Logan Graham, voditelj tima za “red teaming” u tvrtki, za WIRED u travnju.
​- Moramo se sada pripremiti za svijet u kojem će ove sposobnosti biti široko dostupne za šest, 12 ili 24 mjeseca.
Ovo nije izoliran slučaj. OpenAI je, primjerice, sredinom travnja također imao privatno izdanje modela usmjerenog na kibernetičku sigurnost i najavio je proširenu strategiju na tom polju. Istraživači napominju da su se čak i prije ove nove generacije modela postojeći AI alati mogli koristiti za napredno traženje ranjivosti i razvoj metoda za njihovo iskorištavanje uz pomoć profinjenih tehnika.
​- Ne radi se o jednom modelu, već o općem trendu tehnologije – kaže Bruce Schneier, istraživač na Sveučilištu Harvard i Sveučilištu u Torontu.
​- Manji, jeftiniji, open-source modeli, ponekad sami, a ponekad u kombinaciji, mogu parirati performansama Mythosa i Fablea uz sofisticiranije upite. I trebali bismo očekivati da će drugi modeli dostići kreativnost i upornost Mythosa i Fablea unutar nekoliko mjeseci, a nešto kasnije i open-source modeli.
Stručnjaci se slažu da se Bijela kuća i vlade diljem svijeta trebaju usredotočiti na demokratski razvoj mnogo širih i transparentnijih planova o tome kako će se nositi s napretkom AI sposobnosti u kibernetičkoj sigurnosti i drugim osjetljivim područjima, jer je njihov dolazak neizbježan.
​- Političko pitanje nije ima li tehnologija rizik – kaže Chris Wysopal, suosnivač tvrtke za sigurnost u oblaku Veracode.
*uz korištenje AI-ja
Preuzeto sa: www.24sata.hr
