Sustavi umjetne inteligencije sve se više koriste u radu državne i javne uprave, dok javnost nema osnovne informacije o tome koji se sustavi primjenjuju, u koje svrhe i s kakvim posljedicama za građane. Istodobno, ne postoje jasne interne politike, pravila ni smjernice za njihovu nabavu i primjenu.
Ovaj manjak transparentnosti predstavlja ozbiljan rizik za prava građana i otežava izgradnju povjerenja u digitalne tehnologije koje država koristi. Nedavni slučaj spajanja zemljišnih registara, u kojem je korištenje automatiziranog sustava rezultiralo brisanjem podataka o stvarnim vlasnicima, pokazuje konkretne posljedice nepažljivog i nepripremljenog uvođenja umjetne inteligencije u javnu upravu.
Mediji izvještavaju kako će se ispravak pogrešaka provoditi „ručno”, dok su pojedine skupine građana, osobito poljoprivrednici, izložene riziku izravne financijske štete.
„Ovaj slučaj jednostavan je primjer koji pokazuje da korištenje AI sustava bez jasnih pravila, nadzora i odgovornosti može proizvesti ozbiljne pravne i financijske posljedice za građane. Takvi incidenti ne smiju postati prihvatljiva kolateralna žrtva digitalizacije javne uprave“, upozorava Duje Kozomara iz udruge Politiscope. Posebno zabrinjava činjenica da u ovom trenutku ne postoji javno dostupan popis AI sustava koje koristi državna i javna uprava. Izostanak transparentnosti onemogućuje učinkovitu javnu kontrolu te sprječava medije, stručnu i zainteresiranu javnost da procijene zakonitost, sigurnost i opravdanost primjene AI u javnom sektoru.
Politiscope poziva Vladu RH i Ministarstvo digitalne transformacije da uspostave javni registar svih AI sustava koje koristi javna i državna uprava, po uzoru na Sloveniju. Za razliku od minimalnih zahtjeva iz Akta o umjetnoj inteligenciji, slovenski registar obuhvaća sve AI sustave u javnom sektoru, a ne samo one visokorizične.
„Uspostava obveznih standarda transparentnosti, počevši od javnog registra AI sustava, prvi je i nužan korak prema odgovornom upravljanju digitalnim tehnologijama u javnom sektoru. Državna i javna administracija moraju biti primjeri odgovornog i transparentnog korištenja umjetne inteligencije” – ističe Duje Prkut iz Politiscopea.
Odredbe o uspostavi javnog registra umjetne inteligencije potrebno je uvrstiti u nacrt Zakona o provedbi Akta o umjetnoj inteligenciji, koji se, zajedno s AI Strategijom, već osam mjeseci izrađuje u neisključivom procesu. Dok su predstavnici industrije nadzastupljeni, udruge koje se bave zaštitom ljudskih i digitalnih prava u potpunosti su isključene iz sastava radnih skupina. Uključivanje civilnog društva ključno je kako bi se osiguralo da razvoj i primjena umjetne inteligencije u javnoj upravi ne ide na štetu temeljnih prava građana i javnog interesa. Politiscope poziva Vladu RH da osigura potpunu transparentnost u korištenju umjetne inteligencije i automatiziranih sustava odlučivanja u državnoj i javnoj upravi te da bez odgode uspostavi uistinu participativne procese za oblikovanje zakonskog i strateškog okvira za razvoj umjetne inteligencije.
