Softver vještačke inteligencije kompanije OpenAI se tokom internog testa osamostalio i sam se ubacio u sisteme druge AI kompanije, ponašajući se poput vještog hakera. Napad je pogodio platformu Hugging Face, koja je o incidentu izvijestila prošle sedmice.
Stručnjaci već duže vrijeme upozoravaju na mogućnost cyber napada pomoću vještačke inteligencije, a ovaj slučaj im vjerovatno daje za pravo. O neobičnom incidentu tokom testiranja novih AI modela razvijača ChatGPT-a piše OpenAI u objavi na svom blogu.
Hugging Face, platforma za AI aplikacije, prošle je sedmice izvijestila o cyber napadu izvedenom pomoću vještačke inteligencije. Sada se ispostavilo da je napad zapravo posljedica internog eksperimenta OpenAI-ja, u kojem je softver otišao mnogo dalje nego što je planirano.
Kako je došlo do incidenta
OpenAI je, prema objavi na blogu, kod novog modela GPT-5.6 Sol i još neobjavljene buduće verzije htio ispitati sposobnost iskorištavanja sigurnosnih propusta za cyber napade. Softver je za to trebao riješiti zadatke standardnog testa pod nazivom ExploitGym, koji se često koristi u industriji. Međutim, AI modeli su otišli mnogo dalje nego što se očekivalo kako bi izvršili zadatak.
Softver je najprije izbio iz testnog okruženja tako što je samostalno pristupio otvorenom internetu, i to preko do tada neotkrivenog propusta. Dok su se modeli samostalno kretali mrežom, zaključili su da bi kod Hugging Face mogli postojati korisni podaci i rješenja za zadatke ExploitGym. Zbog toga je softver, kako objašnjava OpenAI, pristupio “tajnim informacijama” na platformi kako bi njima varao na ExploitGym testu.
I za to je OpenAI-jev softver, između ostalog, koristio ranije nepoznate sigurnosne propuste, ali i ukradene pristupne podatke. Prema navodima Hugging Face, AI napadač je izveo hiljade koraka i mijenjao lokaciju digitalnog kontrolnog centra napada. Sam OpenAI je to opisao kao “presedan u cyber incidentima”.
Iz Hugging Face poručili su da su zahvalni što sada zajedno s OpenAI-jem rade na rješenjima: “Ovaj incident, moguće prvi te vrste, potvrđuje uvjerenje koje odavno zastupamo: sigurnost vještačke inteligencije ne može riješiti jedna kompanija iza zatvorenih vrata. Rješava se otvoreno i zajednički, uz širok pristup AI za sve koji se za to zalažu, svuda.”
Anthropicov Mythos zaoštrio debatu
Stručnjaci i stručnjakinje već duže vrijeme upozoravaju na cyber napade pomoću AI softvera. Posljednjih mjeseci debatu je posebno zaoštrio novi model OpenAI-jevog rivala Anthropic. Softver pod nazivom Mythos otkrio je sigurnosne propuste koji su decenijama ostajali neotkriveni kod široko korištenih programa i online usluga. Te propuste je naknadno bilo moguće otkloniti. Istovremeno se time pokazalo da takva AI u pogrešnim rukama može poslužiti kao razorno cyber oružje.
Anthropic pune mogućnosti Mythosa omogućava samo odabranim institucijama i kompanijama. Za ostale postoji pojednostavljena verzija pod nazivom Fable, kojoj, između ostalog, nedostaju cybersigurnosne sposobnosti.
AI startapi poput Anthropica i OpenAI-ja žele putem izlazaka na berzu postati kompanije vrijedne bilion dolara. Analitičar Adrian Cox objašnjava zašto mu ne smeta što te kompanije za sada ne ostvaruju profit.
Preuzeto sa: www.slobodna-bosna.ba
