Meta je pronašla novi izvor podataka za treniranje svojih AI modela: vlastite zaposlenike. Kompanija planira koristiti podatke prikupljene iz pokreta mišem i pritisaka tipki svojih djelatnika u nastojanju da izgradi sposobniju i učinkovitiju umjetnu inteligenciju, što je izazvalo značajnu zabrinutost i otpor unutar tvrtke.
Ova priča, koju prenosi TechCrunch, pokazuje dokle su tehnološke kompanije spremne ići u potrazi za novim izvorima podataka za treniranje, koji su ključan resurs za AI modele i pomažu im da uče kako učinkovitije obavljati zadatke i odgovarati na upite korisnika.
Novi interni alat za praćenje
Meta je pokrenula novi interni program pod nazivom “Inicijativa za sposobnost modela” (MCI), kojim će pratiti i snimati pritiske tipki, pokrete mišem i sadržaj ekrana svojih zaposlenika u Sjedinjenim Američkim Državama. Alat se instalira na službena računala zaposlenika i prikupljat će podatke iz poslovnih aplikacija i web stranica. Prema Meti, glavni cilj je poboljšati sposobnost njihovih AI modela da oponašaju ljudsku interakciju s računalima, posebno u područjima gdje su trenutno slabi, poput snalaženja u padajućim izbornicima i korištenja tipkovničkih prečaca.
Ova strategija dio je šireg plana razvoja AI agenata koji bi mogli samostalno obavljati radne zadatke. U izjavi za TechCrunch, glasnogovornik Mete potvrdio je inicijativu.
“Ako gradimo agente koji pomažu ljudima u obavljanju svakodnevnih zadataka pomoću računala, naši modeli trebaju stvarne primjere kako ih ljudi zapravo koriste – stvari poput pokreta mišem, klikanja na gumbe i navigacije kroz padajuće izbornike. Kako bismo pomogli, pokrećemo interni alat koji će bilježiti ove vrste unosa na određenim aplikacijama kako bi nam pomogao u treniranju naših modela. Postoje zaštitne mjere za zaštitu osjetljivog sadržaja, a podaci se ne koriste u bilo koje druge svrhe.”
Zaposlenici zabrinuti, isključivanje nije opcija
Najava je izazvala snažnu negativnu reakciju mnogih zaposlenika Mete, koji su izrazili nelagodu i zabrinutost za privatnost na internim forumima. Jedan od najpopularnijih komentara na internoj objavi o programu glasio je: “Kako se možemo isključiti?”. U odgovoru je Metin glavni tehnološki direktor, Andrew Bosworth, naveo da ne postoji mogućnost isključivanja praćenja na službenim prijenosnim računalima.
Tvrtka je uvjeravala svoje zaposlenike da se prikupljeni podaci neće koristiti za ocjenjivanje radnog učinka i da postoje zaštitne mjere za osjetljive informacije. Međutim, nisu precizirali što se smatra “osjetljivim sadržajem” koji bi bio izuzet od prikupljanja. U naknadnom internom dopisu, kojim su pokušali umiriti zaposlenike, naveli su da će sadržaj ekrana biti maskiran tijekom treniranja i da će pristup sirovim podacima biti ograničen. Dopis je također savjetovao zaposlenicima koji nisu zadovoljni kontrolama da izbjegavaju obavljanje privatnih poslova na službenim računalima.
Strah da zaposlenici treniraju vlastite zamjene
Ovaj potez dolazi u vrijeme kada se Meta prema navodima priprema za novi krug otpuštanja, što je dovelo do straha da zaposlenici zapravo treniraju vlastite zamjene. Inicijativa je dio šireg fokusa tvrtke na umjetnu inteligenciju, a glavni tehnološki direktor Andrew Bosworth iznio je viziju u kojoj će AI agenti “primarno obavljati posao”, dok će ih ljudski zaposlenici usmjeravati i poboljšavati.
Iako korištenje internih podataka za treniranje umjetne inteligencije nije jedinstveno za Metu, obvezna priroda ove inicijative ponovno je skrenula pozornost na pitanja nadzora na radnom mjestu i privatnosti podataka. Pravni stručnjaci napominju da bi se takav program mogao suočiti sa značajnim preprekama prema europskoj GDPR regulativi, koja je mnogo stroža u pogledu praćenja zaposlenika. Za sada je program ograničen na Metine zaposlenike u SAD-u. Ovaj trend otkriva i problematične implikacije za privatnost u AI industriji, gdje jučerašnje interne korporativne komunikacije sve više postaju sirovina za novi korporativni lanac opskrbe. Prošlog tjedna objavljeno je da se stare startup tvrtke pretražuju zbog njihovih korporativnih komunikacija (iz Slack arhiva, Jira tiketa i drugih internih platformi za razmjenu poruka), koje bi se mogle pretvoriti u gorivo za umjetnu inteligenciju.
*uz korištenje AI-ja
Preuzeto sa: www.24sata.hr
