Lucrătorii kenyeni care antrenează ochelarii AI Meta spun că văd cele mai intime momente ale utilizatorilor

O investigație realizată de ziarele suedeze Svenska Dagbladet și Göteborgs-Posten a dezvăluit că lucrătorii cu contract din Kenya angajați de Sama—o firmă kenyană de externalizare care furnizează servicii de adnotare a datelor—pentru a ajuta la antrenarea sistemelor AI ale Meta Platforms sunt expuși profund la imagini și videoclipuri personale capturate de utilizatorii ochelarilor inteligenți Ray-Ban ai companiei.

Raportul, publicat pe 27 februarie, aruncă lumină asupra muncii umane ascunse din spatele avansului Meta în inteligența artificială purtabilă și ridică noi întrebări despre protecția datelor, transferurile transfrontaliere de date și impactul psihologic asupra moderatorilor de conținut care lucrează pentru Sama în Nairobi.

Ochelarii inteligenți Ray-Ban ai Meta, dezvoltați în parteneriat cu EssilorLuxottica, sunt comercializați ca un asistent alimentat de AI care poate traduce limbi, descrie împrejurimile, captura fotografii și videoclipuri hands-free și răspunde la întrebări despre ceea ce vede un utilizator.

Cu toate acestea, dincolo de promisiunea futuristă, interviuri cu angajați actuali și foști ai Sama și Meta realizate de Svenska Dagbladet au dezvăluit că înregistrările realizate prin ochelari ajung la mii de kilometri distanță în Kenya, unde adnotatorii de date le revizuiesc și le etichetează pentru a îmbunătăți performanța sistemului.

Intimitate, încălcată în tăcere

Mai mulți lucrători kenyeni au declarat ziarului suedez că întâlnesc în mod regulat materiale sensibile în cursul muncii lor, incluzând scene casnice obișnuite până la momente intime de care utilizatorii ar putea să nu-și fi dat seama că sunt capturate.

În unele cazuri, au spus lucrătorii, înregistrările includ informații financiare precum carduri bancare vizibile în cadru sau înregistrări realizate în spații private precum dormitoare și băi.

„În unele videoclipuri, poți vedea pe cineva mergând la toaletă sau dezbrăcându-se", a declarat reporterilor un angajat Sama. „Nu cred că știu, pentru că dacă ar ști, nu ar înregistra."

Un alt contractor a susținut că a revizuit înregistrări care arată purtătorul ochelarilor așezându-i pe o noptieră, doar pentru ca soția sa să intre în cameră și să se dezbrace, probabil neștiind că este privită. Alte înregistrări ar fi arătat purtătorul vizionând pornografie sau chiar înregistrându-se în timp ce face sex

Conform investigației, a existat puțină transparență pentru dispozitivele purtabile. Retailerii din Europa ar fi oferit informații inconsistente despre dacă datele capturate de ochelari rămân pe dispozitiv sau sunt transmise pe serverele Meta. Testările independente citate în raport au indicat că multe dintre funcțiile AI ale ochelarilor necesită conectivitate la cloud, ceea ce înseamnă că imaginile și inputurile vocale pot fi procesate la distanță, nu local pe dispozitiv.

Conexiunea Sama

Sama, fost Samasource, furnizează servicii de adnotare a datelor pentru companii mari de tehnologie precum Meta și OpenAI. Compania a fost acuzată în trecut de încălcări ale drepturilor muncii în unele dintre contractele sale, în special cu OpenAI.

Sama solicită acorduri stricte de confidențialitate care limitează ceea ce angajații pot dezvălui public. Dar relatările publicate de ziarele suedeze sugerează că promisiunea AI-ului fără fricțiuni este susținută de un sistem de muncă în care recenzorii umani trec prin volume mari de date brute, nefiltrate, astfel încât algoritmii să poată învăța să recunoască obiecte, medii și context.

Meta afirmă în politicile sale de confidențialitate că conținutul utilizatorilor poate face obiectul revizuirii umane pentru a îmbunătăți produsele și a asigura siguranța. Pentru utilizatorii europeni, filiala irlandeză a companiei este responsabilă de conformitatea cu Regulamentul General privind Protecția Datelor (GDPR) al UE.

Cu toate acestea, investigația ridică întrebări despre modul în care datele colectate în Europa sau Statele Unite sunt transferate și procesate în țări precum Kenya, care nu au o decizie de adecvare din partea UE care să recunoască regimurile lor de protecție a datelor ca echivalente cu GDPR.

În timp ce adnotarea datelor, moderarea conținutului și antrenarea AI au devenit esențiale pentru ambițiile tehnologice ale Nairobi, aceste locuri de muncă—în principal pentru studenți și tineri absolvenți—vin cu salarii mici, volume mari de muncă și expunere la materiale tulburătoare.

Meta și-a apărat practicile în declarații publice anterioare, afirmând că investește în garanții de confidențialitate și minimizează cantitatea de date utilizate pentru antrenare. Totuși, relatările publicate de ziarele suedeze sugerează că linia dintre inteligența automatizată și supravegherea umană este mai neclară decât presupun mulți consumatori.