De ce un raft pentru drepturi digitale?
Trăim într-o societate informațională. Spațiul digital acoperă mult din lumea noastră, de la interacțiuni banale, cotidiene, până la procese decizionale complicate și semnificative pentru cetățenii unei societăți democratice.
Pentru a găsi o ordine în marea tumultoasă a societății informaționale, noi, la ApTI, am propus o serie de lecturi care să lumineze, pe de o parte, lumea digitală în care trăim. Pe de altă parte, lecturile problematizează această societate și efectele dăunătoare pe care le produce la adresa drepturilor noastre fundamentale.
Lecturile nu sunt puse într-o ordine cronologică, sau ierarhizate pe baza vreunui criteriu anume. Ele pot fi citite în orice ordine. Această listă încearcă să atingă câteva subiecte de discuție contemporane într-un mod critic.
De la AI, la platforme digitale și supraveghere, lecturile propuse înmagazinează o serie de perspective necesare pentru a înțelege unde ne aflăm azi când vine vorba de discursul critic la adresa tehnologiei.
Era capitalismului de supraveghere: Lupta pentru un viitor uman la noua frontieră a puterii (2019), de Shoshana Zuboff
La ApTI scriem mult despre pericolele monitorizării în masă. Dar ce este monitorizarea algoritmică? Cum apare ea? Care-i sunt componentele cheie care o definesc? Și de ce merge? Cercetătoarea Shoshana Zuboff investighează istoria recentă a tehnologiilor algoritmice bazate pe monitorizare. Argumentul ei este simplu și persuasiv: platformele digitale contemporane - ce numim noi colocvial social media - necesită monitorizare pentru a face pariuri pe comportamentul nostru viitor. Miza acestui sistem algoritmic? Livrarea de reclame personalizate, cât mai granular micro țintite. Scopul final e maximizarea profiturilor spre detrimentul drepturilor noastre fundamentale.
Discriminating Data Correlation, Neighborhoods, and the New Politics of Recognition (2021), de Wendy Hui Kyong Chun
Dacă Zuboff argumenta că scopul monitorizării algoritmice este să creeze cetățeni previzibili și predictivi, Wendy Chun încearcă să schițeze complexitatea acestei societăți algoritmice. Chun, inginer și cercetător în studii media, argumentează că, în spatele platformelor digitale bazate pe logica monitorizării pentru maximizarea profiturilor, stă o arhitectură a segregării sociale. Chun detaliază modul în care noi suntem plasați pe social media în cartiere digitale.
Ea detaliază cum platformele digitale au puterea de a crea categorii sociale (iubitorii de pisici), sub-categorii (iubitorii de pisici portocalii) și infra-categorii (iubitorii de pisici portocalii prostuțe) pentru segregarea socială a utilizatorilor. Segregarea se face discriminator și netranspaprent. Deseori, suntem puși în aceste categorii, datele ne sunt culese abuziv, iar drepturile noastre fundamentale ajung să fie secundare - dacă nu complet ignorate în tot procesul de construcție a profilului nostru digital.
Platform Capitalism (2016), de Nick Srnicek
Cum funcționează economia digitală contemporană? Sunt datele noul „petrol”? Care sunt tipologiile de platforme digitale de azi? Nick Srnicek, cercetător în economie, încearcă să răspundă la aceste întrebări. Cartea lui Srnicek, chit că a fost publicată în 2016, rămâne relevantă până și astăzi. Srnick ne prezintă, în mod succint și detaliat, modul de operare economic al platformelor digitale de azi și care le sunt imperativele. Din această analiză putem observa că există niște contradicții fundamentale între modul de operare al platformelor digitale contemporane și protecția drepturilor omului pe internet. Platformele digitale caută să-și maximizeze profiturile și efectul de rețea, intensificând supravegherea. Drepturile fundamentale în acest context au de suferit.
Seeing like a Platform: An Inquiry into the Condition of Digital Modernity (2025), de Petter Törnberg și Justus Uitermark
Cum ne văd platformele pe noi, utilizatorii? Ce efecte produc ele asupra modului în care interacționăm unul cu altul? Cum se explică anumite fenomene ale culturii digitale (influencing, share-uit-ul pe story, brand-ul personal, curatorierea feed-ului personal)? Törnberg și Uitermark, cercetători din științele sociale, încearcă să contureze o imagine despre „modernitatea digitală” și efectele ei asupra societății, culturii, politicii și legii. Cei doi autori încearcă să schițeze modul de funcționare al puterii platformelor de azi. Ei accentuează modul în care platformele digitale perpetuează prejudecăți preexistente prin perspectiva lor profund statistică asupra noastră. Dar și cum aceste platforme creează noi forme de discriminare algoritmică prin clusterizarea indivizilor, mai ales prin intermediul tehnologiilor de tip AI.
infocracy: Digitization and the Crisis of Democracy (2022), de Byung-Chul Han
Digitalizarea este invocată deseori ca o soluție magică la problemele noastre sociale contemporane. Dar cine decide asupra digitalizării? Cum echilibrăm pericolele aduse la adresa drepturilor omului, lipsa de transparență cu presupusa eficiență adusă de digitalizare? Conform filosofului coreano-german Byung-Chul Han, în doar 80 de pagini de text, am intrat într-o nouă eră a puterii. Era „infocrației” unde cine deține informația (servicii secrete, companii, statul) despre populația generală a unei societăți deține implicit și multă putere asupra acelei populații. În infocrația contemporană, algoritmii predictivi, ținuți sub secret comercial, sunt extraordinar de puternici în a determina cine ce vede pe social media, ce ajungem să credem, pe cine votăm și cum ne raportăm unii la alții. Digitalizarea vieții publice s-ar putea să intensifice aceste asimetrii de putere. Iar drepturile noastre fundamentale s-ar putea să sufere în procesul digitalizării - dacă este făcută nedemocratic.
Sad by Design: on Platform Nihilism (2019), de Geert Lovnik
E foarte greu să nu cazi pradă unor sentimente negative după niște ore de scrolling pe social media. Lovnik încearcă să afle de ce se întâmpla asta. De ce ne simțim, cronic, depresivi, triști, cinici când ne angajăm în discuții pe social media? Conform lui Lovnik, logica culturală a platformelor digitale contemporane este una a nihilismului: adică nimic nu mai are sens. În era AI slop acest insight pare mai adevărat ca niciodată. Ce contează pentru platformă e să ne țină captați în ecosistemul ei, să ne culeagă date pentru livrarea de reclame personalizate. Asta duce la o „tristețe” fundamentală a utilizatorului produsă de design-ul platformelor. Lovnik problematizează design-ul platformelor și ne amintește că nu e nimic neutru la cum funcționează azi aceste platforme digitale. În schimb, poate că ar trebui să ne gândim la alte mijloace de comunicare în era digitală contemporană.
Algorithms of Resistance, the Everyday Fight Against Platform Power (2024), de Tiziano Bonini și Emiliano Treré
Dacă platformele ne fac triști și nihiliști pentru că așa ne țin captivi și ne pot, astfel, livra reclame personalizate mai departe, cum putem rezista? Sociologii Tiziano Bonini și Emiliano Treré documentează mijloacele prin care lucrători de Bolt, influenceri și activiști subminează logica platformelor pentru interesele lor personale. Ei documentează în cartea lor modul în care platformele digitale afectează libertatea utilizatorilor, dar și cum utilizatorii contemporani pot exploata design-ul platformelor pentru varii scopuri. De aici reiese o dinamică interesantă, unde utilizatorii pot deveni conștienți de efectele nocive ale societății algoritmice și pot rezista prin mijloace diverse.
Atlas of AI: Power, Politics and the Planetary Costs of Artificial Intelligence (2021), de Kate Crawford
Care-i faza cu AI-ul? Conform cercetătoarei Kate Crawford, inteligența artificială contemporană nu e nici inteligentă, nici artificială. Această tehnologie care se vrea miraculoasă este un „registru de putere” și ascunde relații abuzive de producție, conform autoarei. AI-ul este o tehnologie planetară, dependentă de extracție de resurse și date în moduri deseori abuzive. Cartea încearcă să provoace și să chestioneze narațiunile dominante de azi legate de inteligența artificială, arătând că, de fapt, la mijloc sunt niște mașinării statistice complexe, care consumă multă-multă energie naturală și necesită o cantitate enormă de muncă umană de moderare și curățare.
Conform lui Crawford, AI-ul ridică multe probleme la adresa drepturilor omului. Discriminare automatizată, reproducerea și perpetuarea prejudecăților preexistente din societate, consumul imens de energie, lipsa de transparență decizională, și multe altele.
Why AI Undermines Democracy and What To Do About It (2024), de Mark Coeckelbergh
Cum afectează AI-ul democrația contemporană? Conform filosofului expert în etica tehnologiei, Mark Coeckelbergh, AI-ul riscă să reducă calitatea democrațiilor noastre, afectând transparența decizională din partea statelor contemporane. Mai mult, implementarea sistemelor de AI în decizii executive, atât în guvern, cât și în companii private, poate duce la discriminări sistematice. Iar asta ridică riscuri sistematice la adresa democrațiilor noastre contemporane. Coeckelbergh se întreabă cum putem (și dacă putem) face AI-ul să fie mai democratic. Și cum putem face democrațiile noastre mai rezistente la efectele nocive ale AI-ului.
An Artificial Revolution: On Power, Politics and AI (2020), de Ivana Bartoletti
Ivana Bartoletti, Former Visiting Policy Fellow la Oxford Internet Institute și activistă feministă pe drepturi digitale, se întreabă de ce nu există o rezistență antifascistă la adresa AI-ului. Conform autoarei, AI-ul intensifică exploatările deja existente în societățile noastre contemporane. Mai ales cele la adresa femeilor. Așa că aceasta militează pentru un refuz al AI-ului. Refuzul AI-ului, pentru ea, înseamnă organizarea și militarea împotriva efectelor nocive produse de sistemele de AI împotriva drepturilor fundamentale ale cetățenilor ca act de rezistență. Bartoletti ne invită să ne gândim altfel la tehnologie și să fim mai critici cu ceea ce numim noi „AI”.
RESISTING AI: An Anti-fascist Approach to Artificial Intelligence (2022), de Dan McQuillan
Dacă un lucru este clar pentru McQuillan, este faptul că tehnologiile de AI nu sunt neutre din punct de vedere politic. Cineva le deține și le produce cu scopuri clare: putere și profituri. Așa că McQuillan ne ghidează spre o abordare antifascistă, feministă și decolonială a AI-ului. Ne arată de ce trebuie să schimbăm modul în care funcționează AI-ul. Trebuie să punem AI-ul în mână societății, și să decidem în mod colectiv ce facem cu acesta. Sau dacă îl vrem, măcar, ca parte din societatea noastră. McQuillan ne ghidează spre experimentare și construcție practică a unor altor tipuri de tehnologii. Poate facem AI care respectă drepturile noastre fundamentale. Sau AI care e creat pentru protecția acestor dintâi drepturi. Sau poate nu mai facem AI. Cerul este limita, dar miza cărții este reconceptualizarea modului în care folosim și producem tehnologia.
The Smartness Mandate (2023), de Orit Halpern și Robert Mitchell
De ce toate tehnologiile contemporane devin „smart”? De la frigider la toaletă, există o directivă a industriei spre smartificarea tuturor tehnologiilor. Conform lui Halpern și Mitchell, acest tip de dezvoltare nu e deloc neutră sau inevitabilă. În schimb, este un fenomen care se datorează nevoii de colectare a cât mai multor date, de calitate și granulare legate de comportamentul nostru, corpul nostru și identitatea noastră. Cartea vorbește despre acest „mandat” al smartificării și ce înseamnă pentru modul în care înțelegem lumea din jurul nostru, pe noi înșine și pe ceilalți. Cum vor arăta drepturile noastre fundamentale într-o lume a tehnologiilor smart, împânzită peste tot în viețile noastre?
Dumnezeu, om, animal, mașină: Tehnologie, metaforă și căutarea sensului (2023) de Meghan O’Gieblyn
Se tot vorbește de AGI (Artificial General Intelligence) ca o tehnologie care ne va distruge sau salva. Ca un fel de robot suprainteligent care se va dezvolta inevitabil din genAI-ul de tip LLM de astăzi. Scriitoarea Meghan O’Gieblyn spulberă astfel de mitologii printr-o investigație istorică și critică la adresa noțiunii de mașină gânditoare. Ea arată caracterul metaforic al discursului industriei de AI de astăzi. Și arată cum antropomorfizarea tehnologiei se face de la cele mai banale tehnologii, până la cele contemporane, generative. O’Gieblyn subliniază că în spatele acestei mistificări a unor tehnologii statistice stă o dorință fundamental omenească de a găsi un sens în lume. Iar această dorință poate fi ușor cooptată de actori care vor să vândă o mașinărie statistică sau alta. Hype-ul pentru gen AI e un fel de a comercializa sensuri. Metaforele folosite de industrie ascund efectele nocive aduse la adresa drepturilor noastre fundamentale. Ele trebuie investigate și criticate.
Communicative AI: A Critical Introduction to Large Language Models (2025), de Mark Coeckelbergh și David J. Gunkel
Care-i faza cu LLM-urile ca ChatGPT? Cum funcționează ele? Gândesc sau nu? Conform celor doi autori, LLM-urile nu gândesc, ci produc text (next-token prediction) pe model statistic. Autorii spulberă niște mituri fundamentale despre tehnologiile generative de tip large language model (model de limbaj extins) și oferă niște meditații filosofice despre natura limbajului. A fost limbajul prima tehnologie greu de reglementat de om? Este limbajul autonom de noi? Vorbește limbajul prin noi și nu noi prin limbaj? Conform autorilor, răspunsul este da, limbajul este o tehnologie care vorbește prin noi. De aceea, consideră ei, LLM-urile sunt interesante filosofic, fiindcă ne arată ceva interesant despre limbajul nostru natural. Dar aceste tehnologii nu sunt altceva decât niște papagali stocastici, în ultimă instanță.
Data Grab: The New Colonialism of Big Tech and How to Fight Back (2024), de Ulises A. Mejias și Nick Couldry
Dacă colonialismul nu s-a încheiat, ci și-a schimbat hainele? Conform lui Mejias și Couldry, companiile de tip Big Tech de astăzi continuă o serie de practici coloniale prin modul lor de operare. Centre de date construite în țări sărace din sudul global și date culese abuziv din țări din sudul global. Conform autorilor, modul în care operează Big Tech-ul contemporan implică un furt în masă. La fel cum națiunile Europene au furat teritorii pentru minerale și culturi obținute în mod ilegal, bogăție și dominație, companiile de tehnologie fură date personale importante pentru viețile noastre.
La fel ca acapararea de terenuri din trecut, acapararea de date din prezent transformă datele noastre în materie primă pentru generarea de profituri corporative împotriva propriilor noastre interese. Logica de operare a Big Tech-ului asupra țărilor de la periferia globală e de tip terra nullius (logică colonială), de parcă nimeni nu locuiește acolo și nimeni n-a locuit vreodată acolo, de parcă nu sunt oameni cu drepturi fundamentale care ajung să antreneze modele de AI și să fie traumatizați în acest proces al exploatării muncii ieftine pentru tehnologii marketate în vest ca fiind „inteligente”.