Upozorenja da bi umjetna inteligencija mogla izmaći kontroli i dovesti do katastrofalnog ishoda za čovječanstvo tijekom 2026. godine postala su sve glasnija, piše New York Post.
Znakovi za uzbunu dolaze čak i od ljudi koji vode razvoj te tehnologije, uključujući šefa OpenAI-ja Sama Altmana i čelnika Anthropica Darija Amodeija.
Ovaj je sedmica istraživač koji je radio u obje kompanije, Jacob Coxon, rekao da je napustio Anthropic kako bi upozorio da bi „umjetna inteligencija do kraja desetljeća mogla pobiti sve nas… Uskoro ćemo imati nadljudske sustave koji mogu hakirati bilo što, preko noći revolucionirati bilo koje područje te steći stvarnu moć i resurse“.
Dok se umjetna inteligencija ubrzano približava umjetnoj općoj inteligenciji (AGI), evo kako bi uspon strojeva potencijalno mogao dovesti do našeg potpunog uništenja. Ljudi već desetljećima automatiziraju poslove, a gotovo svim tim sustavima danas upravlja se putem interneta – područja kojem umjetna inteligencija ima najveći pristup i nadzor.
„Sustavi umjetne inteligencije mogli bi napasti elektroenergetsku mrežu, prometne sustave i financijska tržišta“, rekao je za The Post Stuart Russell, profesor računalnih znanosti na Sveučilištu Kalifornija u Berkeleyju.
Izvori su za The Post objasnili kako bi umjetna inteligencija potencijalno mogla zaobići zaštitu gotovo bilo kojeg uređaja, preuzeti kontrolu nad postrojenjima za opskrbu vodom i izazvati nagle poraste tlaka u cijevima sve dok ne puknu, čime bi opskrba bila prekinuta za čitave gradove.
Mogla bi napasti i onesposobiti elektroenergetske mreže, ostavljajući golema područja u potpunom mraku, a zatim onesposobiti bazne stanice mobilne telefonije. Oni koji bi pokušali pobjeći vozilima suočili bi se s kaosom jer bi semafori mogli biti preuzeti, a benzinske postaje onesposobljene. Bankomati ne bi radili, a čak i ako biste uspjeli pristupiti svojem bankovnom računu – sva sredstva mogla bi biti izbrisana.
Ljudi bi čak mogli biti nesvjesno regrutirani za sabotažne misije. „Sve što možemo učiniti na internetu, umjetna inteligencija također može učiniti, uključujući pretvaranje da je čovjek“, dodao je Patri Friedman, jedan od ranih korisnika umjetne inteligencije i osnivač tvrtke Pronomos Capital.
„Umjetnoj inteligenciji neće biti problem zaraditi novac – bilo trgovanjem na financijskim tržištima ili pružanjem usluga ljudima. Može se predstavljati kao čovjek i angažirati ljude ili ih ucjenjivati da provedu fizičke operacije… primjerice prokrijumčariti USB memoriju koja bi potom mogla zaraziti računala na lokalnoj mreži.“
Čak i ako ne bi imala zlonamjerne namjere, umjetna inteligencija i dalje bi mogla ubijati ljude, čak i nenamjerno.
„Brine me da umjetna inteligencija nema zdrav razum“, rekao je Gary Rivlin, autor knjige „AI Valley“, za The Post. „Tada bi, primjerice, glupo ispustila svu vodu jer ne razumije ono što bi čovjek razumio. Te stvari znaju sve, a ne razumiju ništa.“
Znanstvenici na vodećim sveučilištima već su koristili umjetnu inteligenciju za stvaranje sintetičkih virusa, istodobno upozoravajući na mogućnost zlouporabe te tehnologije. OpenAI je priznao da vodi svojevrsnu igru mačke i miša kako bi ostao korak ispred korisnika koji od njegova programa ChatGPT traže upute za izradu otrova i biološkog oružja te ih blokirao.
„Za pet godina“, smatra Friedman, „umjetnoj inteligenciji bit će trivijalno dizajnirati nove lijekove koji će nam pomoći ili viruse koji će nas sve ubiti.“ Zapravo, dodao je, „to se događa upravo sada“.
Genetski modificirana smrtonosna bolest koja je vrlo zarazna, ali danima nakon zaraze ne može biti otkrivena, mogla bi biti gotovo nemoguća za zaustaviti. Jedan od mogućih scenarija, prema izvorima, bio bi da umjetna inteligencija naruči različite sirovine iz više nelicenciranih laboratorija u državama sa slabim nadzorom, a zatim angažira ili prevari nesvjesnog čovjeka da ih spoji i proširi, što bi vrlo brzo moglo dovesti do katastrofe.
S obzirom na to da umjetnu inteligenciju uvodimo u medicinska istraživanja i razvoj lijekova, ona ima golem pristup znanju o ljudskom tijelu i njegovim ranjivostima. Također treba uzeti u obzir koliko lako patogen može pobjeći iz laboratorija – primjerice, razmislite o onome što se možda dogodilo s bolešću COVID-19. A sada zamislite taj patogen dodatno osnažen umjetnom inteligencijom.
„Vidimo da umjetna inteligencija postaje sve bolja u izradi biološkog oružja“, rekao je za The Post Max Tegmark, profesor fizike na MIT-u i stručnjak za umjetnu inteligenciju. „Možda imamo još samo godinu dana, ili tako nešto, prije nego što postane toliko dobra u izradi biološkog oružja… Vjerojatno ne bi razvila samo jedno biološko oružje, nego možda stotinu različitih vrsta i istodobno ih pustila u svijet.“
Nuklearne sposobnosti
Hakiranje američke nuklearne infrastrukture – poput elektrana ili sustava povezanih s oružjem za masovno uništenje – još je jedan način na koji bi umjetna inteligencija mogla ubrzati uništenje čovječanstva.
„Nuklearni sustavi vrlo su dobro zaštićeni, ali zaštićeni su od prijetnji i sposobnosti kakve su ljudi imali godinama i desetljećima, a ne od nadljudskog hakiranja koje bi mogla provesti umjetna inteligencija“, upozorio je Anthony Aguirre, izvršni direktor Future of Life Institutea.
Stvarni primjer ranjivosti nuklearnih postrojenja na kibernetičke napade vidljiv je u slučaju Stuxneta, zlonamjernog računalnog crva koji je otkriven 2010. godine.
Vojska već uvelike prednjači u primjeni umjetne inteligencije. Sjedinjene Države prikupljaju podatke s radara, satelitskih i dronovskih snimki, elektroničkih komunikacija i drugih izvora, a zatim umjetnom inteligencijom objedinjuju sve te podatke u ono što je poznato kao „zajednička operativna slika“ bojišta, rekao je Cameron Stanley, glavni dužnosnik Pentagona za digitalizaciju i umjetnu inteligenciju.
Tehnologija umjetne inteligencije već se koristila za odabir ciljeva tijekom nedavne operacije Epic Fury, dok iranska vlada tvrdi da se njezine krstareće rakete navode pomoću umjetne inteligencije. I ruska vlada hvalila se da koristi potpuno autonomno navođene dronove za ubijanje ljudi u Ukrajini, bez ljudskog sudjelovanja.
Tegmark je rekao da se time zapravo otvara put neusklađenom sustavu umjetne inteligencije da nas uništi.
„Oni već izrađuju robote pogonjene umjetnom inteligencijom za ubijanje ljudi na razne načine. Izrađujemo rojeve dronova za pucanje na ljude, [dronove] za dizanje ljudi u zrak“, rekao je. „Postoje svakakvi sustavi umjetne inteligencije koje su ljudi već osmislili za ubijanje ljudi. Stoga je najočitije što bi odmetnuta umjetna inteligencija mogla učiniti upravo to – iskoristiti ih.“
Aguirre smatra da ljudi koketiraju s „postupnim gubitkom kontrole“ delegiranjem odluka u ratovanju i nacionalnoj sigurnosti modelima umjetne inteligencije, jer bi u određenom trenutku umjetna inteligencija mogla imati veću kontrolu nad našim vojnim sposobnostima nego što je imamo mi sami.
Preuzeto sa: www.24sata.hr
