AI tvrtka rekla ne nadzoru i “dronovima ubojicama”. Pentagon prijeti posljedicama

AMERIČKO ministarstvo rata postavilo je tvrtki za umjetnu inteligenciju Anthropic ultimatum: do petka moraju svoju tehnologiju učiniti dostupnom za neograničenu vojnu upotrebu ili će se suočiti s drastičnim posljedicama. Ovaj potez uslijedio je nakon sastanka američkog ministra rata Petea Hegsetha i izvršnog direktora Anthropica Darija Amodeija, kojim se pokušao riješiti višemjesečni spor, piše DW.

Problem je nastao jer je Anthropic odbio dopustiti korištenje svojih AI modela Claude za domaći nadzor u SAD-u i u potpuno autonomnim oružanim sustavima. Tvrtka Anthropic dosljedno izražava etičku zabrinutost zbog nekontrolirane upotrebe umjetne inteligencije od strane vlade.

Masovni nadzor

Izvor upoznat sa sastankom izjavio je za agenciju AP kako su razgovori između Hegsetha i Amodeija bili srdačni. Međutim, dodao je da je Anthropic, unatoč pritisku Pentagona, ostao čvrst u svom stavu oko dva ključna područja: korištenja svojih alata za potpuno autonomne vojne operacije ciljanja te za masovni domaći nadzor američkih građana.

“Nastavili smo razgovore u dobroj vjeri o našim pravilima korištenja kako bismo osigurali da Anthropic može i dalje podržavati misiju nacionalne sigurnosti, ali u skladu s onim što naši modeli mogu pouzdano i odgovorno obavljati”, priopćila je tvrtka.

Unatoč tome, mediji navode da je Pentagon dao Anthropicu rok do petka u 17 sati po lokalnom vremenu da ublaži svoja ograničenja. Ako to ne učine, suočit će se s primjenom Zakona o obrambenoj proizvodnji, koji saveznoj vladi daje široke ovlasti da usmjeri privatnu industriju prema prioritetima nacionalne sigurnosti.

AI u ratnim zonama

Izvori su novinskim agencijama rekli da bi mjere protiv Anthropica mogle uključivati i druge opcije, poput označavanja tvrtke kao “rizika za opskrbni lanac”. Takva se oznaka obično dodjeljuje tvrtkama iz suparničkih država i mogla bi ozbiljno ugroziti sposobnost Anthropica da surađuje s američkom vladom.

Pentagon je u procesu sklapanja ugovora o umjetnoj inteligenciji s više vodećih tehnoloških tvrtki, čime se definira buduća primjena AI modela u ratnim zonama.

Prošle godine Pentagon je objavio da je dodijelio obrambene ugovore četirima tvrtkama za umjetnu inteligenciju: Anthropicu, Googleu, OpenAI-ju i tvrtki xAI Elona Muska. Vrijednost svakog ugovora iznosi do 200 milijuna dolara (169 milijuna eura).