AI-ul cu ochii pe noi

Un bărbat întreabă oameni, pe stradă, dacă să ia trenul sau metroul până la o stație anume, în Amsterdam. Peste câteva minute, se reîntâlnește cu aceiași oameni pe stradă, doar că acum le știe numele, știe unde lucrează și le cere să confirme aceste informații. Noi vedem toate astea într-o filmare difuzată în emisiunea olandeză Eva, la finalul anului 2024. Bărbatul care a identificat oamenii, pe stradă, este jurnalistul Alexander Klöpping.

Montajul video din emisiunea Eva îl arată pe Klöpping purtând ochelari Ray-Ban Meta. Pe jumătate din ecran vedem ce vede jurnalistul, prin ochelari, iar pe cealaltă jumătate vedem căutări web care găsesc identitatea reală a celor cu care vorbește bărbatul pornind de la video-ul înregistrat de ochelari. Montajul e făcut să ne dea impresia că ochelarii rulează algoritmi de AI care identifică automat oamenii. Nu e adevărat. Nu în totalitate.

Adevărul e că ochelarii purtați de Klöpping transmiteau în timp real acel video către echipa acestuia, într-un canal de WhatsApp. Colegii săi făceau manual căutările într-o aplicație online specializată în căutarea unei persoane plecând de la poza sa (Pimeyes) și îi transmiteau apoi jurnalistului informații despre persoanele cu care vorbea. Un creator de conținut pe YouTube, Aragorn Meulendijks, a postat un video în care critică stilul alarmist în care sunt prezentați ochelarii Meta. Jurnalistul a recunoscut, într-un răspuns adresat acestui creator, că identificarea oamenilor a durat zeci de secunde și nu a fost făcută de ochelari.

Însă, abilitatea de a combina tehnologii (dispozitive de înregistrare, baze de date cu imagini, platforme de social media și algoritmi de AI) pentru a identifica oamenii în spațiul public este reală.

AnhPhu Nguyen și Caine Ardayfio, studenți la Harvard, au demonstrat același lucru, folosind aceiași ochelari Meta. Ei nu au dezvăluit detaliile exacte despre cum au combinat tehnologiile folosite, însă au postat un ghid online pe care oricine îl poate urma pentru a cere ștergerea informațiilor despre sine din cele mai utilizate website-uri care agregă imagini cu oameni, cu profilele lor de social media și alte informații.

Cu mult înainte de studenții de la Harvard și jurnalistul din Olanda, Dries Depoorter, un artist din Belgia, a creat The Follower, un montaj cu imagini de pe Instagram și clipuri video de la camerele de supraveghere a spațiului public care surprind momentul în care respectivele fotografii au fost făcute (despre care am scris și în 2022 în Panorama in contextul CCTV). Înainte de el, artistul american Marcus DeSieno a creat No Man's Land, o serie în care fotografiază screenshot-urile proprii, cu care surprinde feed-urile unor camere CCTV amplasate în zone izolate, fără persoane în cadru, precum parcuri naționale. Dacă DeSieno a ales să surprinsă sălbăticia prin camerele CCTV, artistul olandez Pierre Derks a creat, în aceeași perioadă, o instalație artistică în care proiectează imagini de la camere CCTV care permit accesul oricui la feed-ul video, fiindcă sunt accesibile pe Internet și nesecurizate.

Are voie un privat să supravegheze spațiul public?

Am mai scris în detaliu despre supravegherea spațiului public folosind camere video în 2022. Proiectul nostru pune în discuție atât legalitatea amplasării camerelor pe spațiul public, de către autoritățile statului, cât cheltuiesc autoritățile cu achiziția acestor sisteme și, într-un final, cum răspund autoritățile când le cerem să ne spune măcar unde au amplasat camere. Un articol despre etica supravegherii în sine aduce la un loc toate aceste aspecte.

Dacă supravegherea este făcută de o persoană privată, mergând pe stradă, ca in speța noastra inițială, este foarte posibil sa se aplice GDPR, dacă avem în vedere interpretările CJUE (“În măsura în care o supraveghere video precum cea în discuție în litigiul principal se extinde, fie și parțial, la spațiul public și, în consecință, este îndreptată în afara sferei private a persoanei care efectuează prelucrarea datelor prin acest mijloc, aceasta nu poate fi considerată drept o activitate exclusiv «personală sau domestică»)

De aici încolo, discuția devine mai detaliată, în funcție de scopul folosirii datelor - de ex. exprimarea artistică are niște excepții foarte largi - am discutat mai în detaliu în articolul din 2022).

Când vine vorba de folosirea algoritmilor de inteligență artificială în cadrul supravegherii (inclusiv video), regulamentul UE AI Act consideră ca fiind inacceptabile, din punctul de vedere al riscului, orice produse software destinate consumului care:

• folosesc algoritmii de inteligență artificială pentru a crea sau extinde baze de date destinate recunoașterii faciale a persoanelor, colectând date media de la camerele CCTV de supravegherea sau de pe Internet;

• folosesc algoritmii de inteligență artificială pentru a cataloga persoanele pe baza datelor biometrice (inclusiv structura feței), deducând etnia lor, opiniile politice, credința religioasă, orientarea sexuală etc.

Mai mult, Comisia Europeană a publicat un ghid care ar trebui să lămurească ce tipuri de aplicații care folosesc inteligență artificială sunt permise spre comercializare. Ghidul clarifică ce intră și ce nu intră în categoria de risc inacceptabil, așa cum o definește AI Act. În privința supravegherii și identificării în spațiul public, ghidul pare mai degrabă să relaxeze din ce în ce mai mult restricțiile și să creeze portițe pe care comercianții să le folosească pentru a putea în continuare să vândă aplicații care ne urmăresc și ne dibuiesc în mod automat.

Spre exemplu, când vine vorba de folosirea algoritmilor de inteligență artificială pentru a crea baze de date pentru recunoașterea și identificarea persoanelor, scrape-uind internetul, ghidul spune următoarele:

• dacă scraping-ul imaginilor nu folosește algoritmi de inteligență artificială, atunci produsul final nu e încadrat la risc inacceptabil;

• dacă produsul folosește datele colectate pentru a crea imagini cu personaje fictive, nu e risc inacceptabil - deși, în acest proces, vorbim tot de un scraping folosind IA al imaginilor unor persoane reale, din mediul online, și toate aceste date stau pe serverul a una sau mai multe entități cu grade discutabile de securizare.

Dar

Suntem în situația în care atât jurisprudența CEDO cât și regulamentul AI Act subliniază importanța proporționalității măsurilor de supraveghere, de identificare automatizată, de folosire a algoritmilor inteligenței artificiale pentru a deduce caracteristici sensibile ale persoanelor pe baza materialului foto/video. Însă, pe noi, practica, nu teoria, ne... urmărește.

Dacă acceptăm acum aceste practici de monitorizare și identificare a persoanelor în spațiul public, infrastructura tehnică va rămâne în loc, montată pe stâlpi și instalată pe servere, accesibilă inclusiv instituțiilor și autorităților publice . Să presupunem că ne încredem în guvernanții noștri actuali și în autoritățile actuale cu regulile lor de funcționare. Dar vedem, azi ce ușoră pare o schimbare la față drastică a unei democrații și dezintegrarea unora dintre structurile statale în Statele Unite ale Americii. Infrastructura pe care o construim azi ar putea oricând să ajungă pe mâna unui guvern, a unui președinte sau a unui regim de guvernare care sunt ostile, cu porniri autoritare.

În alte cuvinte, e periculos să acceptăm încălcarea drepturilor omului atunci când sunt făcute sub mandatul unei conduceri care "n-are nimic cu noi".

Organizația La Quadrature du Net din Franța a publicat o broșură în care detaliază istoria a ceea ce ei numesc algorithmic videosurveillance. Munca lor de activism și de advocacy s-a concentrat și asupra practicilor de monitorizare și identificare în spațiul public în Franța, însă organizația trage semnalul de alarmă, că aceleași practici sunt acum folosite în Spania, Germania și alte state membre. În capitolul său final, broșura dă sfaturi concrete despre ce putem face noi, cetățenii, pentru a ne opune unei tehno-poliții, cum o numesc ei.

La Quadrature ne arată câteva direcții în care am putea merge, atunci când ne dorim să tragem semnalul de alarmă legat de supravegherea și identificarea prin mijloace video (și asistate de AI):

• documentăm tehnologia, cum e folosită, care sunt repercusiunile și rezultatele folosirii;

• putem cere acces atât la datele noastre, personale, înregistrare de aceste sisteme de supraveghere (prin GDPR); putem cere acces și la detalii tehnice despre întregul sistem, inclusiv modelele echipamentelor, abilitățile lor, detalii despre care e cadrul legal de procesare al datelor (prin Legea 544/2001); dată obținute aceste informații, putem ajuta presa locală sau națională, oferindu-le și lor acces la documente;

• putem acționa la nivel local, petiționând autoritățile, participând la audiții cu primarii sau reprezentanții de partid din oraș - față de ei, ne exprimăm opunerea față de supravegherea disproporționată, nenecesară a spațiului public, cu argumente; ajută mult să ne aliem cu grupuri diferite din regiuni diferite, pentru a arăta un front comun împotriva acestui fenomen în creștere;

• putem scrie Autorității Naționale de Supraveghere a Prelucrării Datelor cu Caracter Personal, pentru a o informa despre orice echipamente amplasate în spațiul public, care colectează și prelucrează disproporționat și nenecesar datele noastre - ApTI a publicat o astfel de sesizare, care poate fi luată ca model și adaptată.

Dincolo de aceste metode, merită să fim creativi. Putem atrage atenția asupra acestui fenomen prin postere, flyere, prin discuții deschise în comunitățile noastre, prin instalații artistice sau scriind și publicând opinii în presa locală și națională. Ce este important este să arătăm faptul că nu ne dorim să renunțăm la drepturile noastre fundamentale, indiferent cine controlează ochii care ne supraveghează.