Microsoft navodi da se AI agenti ubrzano pretvaraju u ‘digitalne kolege’ u firmama, a koristi ih više od 80 posto kompanija s liste Fortune 500. Problem je što se agenti često stvaraju izvan IT odjela, kroz low code i no code alate, pa ih organizacije ponekad ni ne vide, a kamoli nadziru. U Microsoftovom ekosustavu agenti se grade i puštaju u rad kroz više platformi, od Fabric i Foundry do Copilot Studija i Agent Buildera, što dodatno ubrzava njihovo širenje.
Izvješće naglašava da se usvajanje agenata širi globalno i da Europa, Bliski istok i Afrika čine 42 posto aktivnih AI agenata, zatim dolazi SAD s 29 posto, Azija s 19 posto te Amerike s 10 posto. Rast je posebno izražen u sektorima gdje je puno procesa i regulative, nakon razvoja softvera i tehnologije koji čini 16 posto, proizvodnja je na 13 posto globalne uporabe, financijske usluge na 11 posto, a maloprodaja na 9 posto. Agenti se u tim industrijama koriste za izradu prijedloga, analize financijskih podataka, trijažu sigurnosnih upozorenja, automatizaciju ponavljajućih procesa i brzo izvlačenje uvida iz podataka.
Najosjetljiviji dio priče je ono što Microsoft opisuje kao ‘shadow AI’, situacija u kojoj se agenti koriste bez odobrenja, jasnih pravila i kontrole ovlasti. Kad agent ima preširoke privilegije ili dobije pogrešne ulazne podatke, može postati ranjivost, pa čak i nenamjerni ‘dvostruki agent’ koji se može zloupotrijebiti. U izvješću se zato naglašava da agentima treba postaviti jasne uloge, ograničene privilegije i kontinuirani nadzor, slično kao i kod ljudi i IT sustava. Kao jedan od ključnih signala rizika navodi se podatak da 29 posto zaposlenika poseže za neodobrenim agentima.
Regionalni direktor za tehnologiju u Microsoftu Tomislav Vračić poručio je da inovacije i sigurnost moraju napredovati istom brzinom te da bez pravila, vidljivosti i odgovornosti agenti mogu postati ozbiljan sigurnosni problem. U praksi to znači da se upravljanje agentima ne bi smjelo svesti na ‘neka IT to riješi’, nego ga treba postaviti kao poslovno pitanje, uz jasna pravila i odgovornost. Microsoft u izvješću naglašava i pristup Zero Trust te centralizirano upravljanje kao okvir za smanjenje rizika i jačanje povjerenja.
U Cyber Pulseu se dodatno ističe da upravljanje AI em nije samo posao IT a ili CISO a, nego zajednička odgovornost koja uključuje pravnike, HR, podatkovne timove, poslovno vodstvo i uprave. Kao upozorenje navodi se i podatak iz Microsoftovog Data Security Indexa da samo 47 posto organizacija uvodi specifične sigurnosne kontrole za generativni AI. Zaključak izvješća je da sigurnost i inovacije nisu suprotne strane, nego da dobro upravljanje stvara transparentnost, a transparentnost postaje konkurentska prednost, posebno u sve reguliranijem digitalnom okruženju.
