Ova mera se uvodi kako bi se sprečilo zloupotrebljavanje platforme i unapredila bezbednost korisnika u slučajevima sumnjive aktivnosti, a sistem podrazumeva da korisnici mogu biti zamoljeni da dostave dokumenta poput pasoša ili lične karte, kao i da prođu dodatnu verifikaciju putem fotografije uživo.
Ovaj potez uklapa se u širi trend tehnoloških kompanija koje pokušavaju da pooštre kontrolu nad pristupom naprednim AI alatima zbog sve češćih zloupotreba i sajber prevara. Stručnjaci upozoravaju da veštačka inteligencija više nije samo alat za produktivnost, već i potencijalno moćno sredstvo za prevaru, manipulaciju i automatizovane napade, te zbog toga raste pritisak na kompanije da uvedu strože bezbednosne i identifikacione mehanizme.
Anthropic Foto: Shutterstock
Kako funkcioniše sistem provere identiteta
Prema podacima iz Anthropic-ovog centra za pomoć, proces verifikacije sprovodi se preko specijalizovanog partnera za digitalnu identifikaciju, a korisnici se mogu suočiti sa zahtevom da pošalju zvanični dokument i urade selfie proveru u realnom vremenu. Kompanija tvrdi da se ovi podaci koriste isključivo za potvrdu identiteta i da se ne koriste za obuku modela veštačke inteligencije.
Međutim, sama činjenica da se uvodi ovako detaljna provera u AI servisima otvorila je brojna pitanja o granici između bezbednosti i privatnosti. Kritičari upozoravaju da ovakav sistem može postati standard koji bi omogućio prikupljanje velikih količina osetljivih biometrijskih podataka. Posebno zabrinjava činjenica da se verifikacija može aktivirati čak i u slučajevima kada sistem proceni da postoji rizik od zloupotrebe naloga.
Foto: Shutterstock
Privatnost korisnika u centru kontroverze
Iako kompanija naglašava da su podaci zaštićeni i da se koriste samo u svrhu verifikacije, deo stručne javnosti i korisnika izražava zabrinutost zbog potencijalnih rizika od curenja podataka. Posebno se ističe da se radi o veoma osetljivim informacijama, uključujući biometrijske podatke i slike zvaničnih dokumenata.
Dodatnu kontroverzu izaziva i izbor eksternog partnera za obradu podataka, što znači da informacije ne ostaju isključivo unutar jedne kompanije. U teoriji, to povećava sigurnosnu površinu napada i potencijalni rizik od zloupotrebe, iako su svi učesnici u procesu ugovorom obavezani na stroge standarde zaštite podataka. Stručnjaci za sajber bezbednost ističu da nijedan sistem obrade osetljivih podataka nije apsolutno bez rizika.
Foto: Shutterstock
Zašto AI platforme uvode ovakve mere
Glavni razlog za uvođenje identifikacije korisnika jeste sve veći broj zloupotreba AI sistema u kriminalne svrhe, uključujući prevaru, krađu identiteta i pokušaje zaobilaženja bezbednosnih filtera. Kompanije poput Anthropic-a tvrde da se ovakve mere primenjuju samo u specifičnim slučajevima, kada sistem detektuje potencijalno rizično ponašanje korisnika.
Pored toga, regulatorni pritisci širom sveta zahtevaju od tehnoloških firmi da bolje kontrolišu ko koristi napredne AI modele, što posebno važi za sisteme koji mogu da generišu kod, analiziraju podatke ili automatski izvršavaju kompleksne zadatke. U tom kontekstu, verifikacija identiteta se posmatra kao alat za balansiranje između inovacije i bezbednosti.
Foto: Shutterstock
Budućnost digitalnog identiteta u AI eri
Stručnjaci upozoravaju da bi ovakvi sistemi mogli postati standard u budućnosti, naročito kako AI modeli postaju sve moćniji i autonomniji. To bi značilo da će pristup naprednim digitalnim alatima sve više zavisiti od toga ko ste u fizičkom svetu, a ne samo od naloga i lozinke. U tom slučaju, granica između digitalnog i realnog identiteta postaje sve tanja.
Istovremeno, raste i zabrinutost da bi ovakvi sistemi mogli ograničiti anonimnost na internetu i promeniti način na koji ljudi koriste digitalne servise. Dok jedni smatraju da je to neophodan korak za bezbedniji internet, drugi upozoravaju da se time otvara prostor za novu vrstu digitalnog nadzora. Budućnost će pokazati da li će AI identifikacija postati standard zaštite ili nova tačka spora u borbi za privatnost korisnika.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
Preuzeto sa: www.kurir.rs
