• Tweet

Cu fiecare nouă întoarcere a șurubului digital, structurile (sociale și economice) ale prezentului sunt blocate un pic mai mult. Nu cumva asistăm la o revoluție digitală conservatoare, care ne influențează modul de viață, modul de gândire și chiar modul de reglementare socială, în beneficiul unei guvernări algoritmice periculoase pentru libertățile publice și democrație?

Urgența de a dezvolta puncte de vedere critice asupra acestor transformări devine din ce în ce mai evidentă pe zi ce trece. Cum a ajuns o fotografie cu o femeie în bikini să fie clasificată drept "ușuratică" de către un algoritm de recunoaștere vizuală? Cum a ajuns un portret al unui copil care poartă ochelari de soare să fie etichetat drept "ratat"? Acestea sunt rezultatele obținute în urmă cu patru ani de Kate Crawford, cercetător și profesor în domeniul inteligenței artificiale, și Trevor Paglen, artist, geograf și fotograf. Împreună au analizat istoria recunoașterii imaginilor prin sisteme automate și algoritmi.

Scopul lor: să înțeleagă modul în care aceste sisteme din ce în ce mai fiabile sunt antrenate să "vadă" și să "clasifice" lumea. Proiectul "Training Humans" a fost documentat pe scară largă de atunci. Concluzia sa: până în prezent nu există nicio modalitate "neutră", "naturală" sau "apolitică" de a antrena inteligența artificială. Tendința sistematică de a colecta, clasifica și califica datele ridică întrebări esențiale. Cine decide ce înseamnă aceste imagini? Cine definește categoriile? Ce reprezentări sociale sunt inevitabil implicate într-o astfel de lucrare?

Pentru Kate Crawford și Trevor Paglen, încercarea de a se elibera de prejudecățile încorporate în crearea unui model matematic este un demers imposibil. Încercările IBM de a "matematiza reprezentativitatea" li se par inutile și deosebit de întortocheate. Într-adevăr, utilizarea unui algoritm care ponderează alegerile făcute de operatorii umani pentru a antrena un alt algoritm de recunoaștere vizuală printr-o metodă la jumătatea distanței dintre o "păpușă rusească" și un "turc mecanic" produce foarte des rezultate fragile și periculoase din punct de vedere normativ. Această practică este simptomatică pentru o cursă spre frunte care pare să amplifice un pic mai mult erorile din trecut la fiecare etapă, scrie Reseau International.

Algoritmii ca armă de reproducere în masă

La urma urmei, după cum scrie Marianne Bellotti, un dezvoltator autodidact și antropolog care a lucrat pentru Departamentul de Afaceri Digitale al SUA, "oamenii nu iau decizii mai bune cu mai multe date, așa că de ce ar trebui să credem că inteligența artificială ar fi diferită?" Asemenea lui Sisif, condamnat de zei să urce un bolovan uriaș pe un deal abrupt în fiecare dimineață înainte de a se prăbuși din nou în fiecare seară, specialiștii își petrec 80% din timp curățând seturile de date pe care le au. În speranța că "o mai bună informare" va duce - în sfârșit - la rezultate mai bune.

Dar raționalitatea cu care dorim să împovărăm sistemele informatice pe care le creăm nu există. În lumea reală, deciziile publice, politice și economice nu sunt luate cu scopul de a fi precise și exacte, ci în așa fel încât să se reducă la minimum efortul necesar. Marianne Bellotti continuă: "înțelegerea deplină a unei situații este mai puțin de dorit decât instrumentele pentru a lua o decizie mai rapidă". Prin urmare, o decizie va fi întotdeauna rezultatul unei negocieri între diferiții actori implicați, ținând cont de problemele și de mediul lor. Un proces pe care nicio eșantionare perfectă de date (dacă există) nu îl poate constrânge vreodată.

Evoluțiile tehnologice în domeniul inteligenței artificiale (AI) vor fi întotdeauna supuse prejudecăților și imperativelor (personale, financiare, mentale) ale celor care le controlează. Aceasta este o direcție moștenită în mare parte din trecut - ceea ce explică, fără îndoială, de ce sistemele de recunoaștere facială vândute de Microsoft, IBM sau de gigantul chinez Megvii sunt deosebit de defectuoase atunci când sunt utilizate pe femei de culoare, în timp ce funcționează mai bine pe bărbați albi... Mireille Hildebrandt, avocat și filosof olandez specializat în informatică, pune în spatele acronimului AI (Artificial Intelligence) conceptul deosebit de precis de "Inferență automată". Ceea ce ne este prezentat ca o revoluție nu este decât o extindere a sistemelor de gândire existente.

Digitalizarea muncii: ingrediente noi, rețete vechi

O consolidare a structurilor existente care se reflectă în mare măsură în lumea muncii. Începând cu însuși modul în care sunt codificate instrumentele digitale de "productivitate". Software-ul de videoconferință Zoom, care a reușit să se impună în timpul pandemiei, crescând de la 10 milioane de utilizatori zilnici la peste 300 de milioane în câteva luni, este o ilustrare perfectă. Hubert Guillaud, jurnalist și neobosit investigator al internetului, intervievat de Xavier de La Porte, explică faptul că unele funcții ale programului sunt accesibile doar organizatorului reuniunii online. Astfel, "gazda" poate tăia microfonul unui participant, poate autoriza sau interzice partajarea ecranului sau chiar poate, pur și simplu, să elimine un utilizator dintr-o reuniune.

Puterea ierarhică a trecutului a fost codificată în funcțiile instrumentului viitorului. Colaborarea orizontală născută în urma limitării, care ar fi trebuit să pună pe toată lumea pe picior de egalitate, a luat sfârșit. Într-un articol celebru publicat în anul 2000 (Code is Law - Freedom in Cyberspace), profesorul de drept și activistul Lawrence Lessig de la Harvard atrăgea deja atenția asupra acestei noi puteri care apărea, departe de ochii publicului larg sau ai organismelor reprezentative. Pentru că o companie privată care codifică un instrument folosit de sute de milioane de oameni are control total asupra a ceea ce aceștia vor face - sau nu - pe el. "Codul este lege".

"Conservatorismul înseamnă să crezi că un grup de oameni ar trebui să fie protejat, dar nu constrâns, și că un alt grup ar trebui să fie constrâns, dar nu protejat. Cuvintele sunt ale unui comentator de forum al cărui nume îl știm doar noi, Frank Wilhoit, dar sună teribil de adevărat: în consolidarea câștigătorilor obișnuiți, tehnologia trebuie să slăbească și perdanții obișnuiți. În lumea muncii, irupția (sau "întreruperea"?) roboticii, care ar fi trebuit să înlocuiască locurile de muncă cele mai puțin calificate, nu a avut loc (gigantul japonez SoftBank tocmai a renunțat la producția roboților Pepper, destinați îngrijirii populației îmbătrânite). Dar a fost folosită ca o sperietoare de multe companii, în frunte cu Amazon, pentru a impune un ersatz al acesteia: controlul computerizat constant al angajaților.

Aceasta este ceea ce Callum Cant, jurnalist, scriitor și autor al cărții Riding for Deliveroo, numește "managementul algoritmic". Amazon și Uber au transformat munca într-o succesiune de microinstrucțiuni măsurate și limitate în timp, care elimină autonomia și înțelegerea de către angajat a ceea ce se întâmplă. El compară această situație cu cea din Detroit în anii 1950 și 1960, când muncitorii de pe liniile de asamblare a automobilelor erau liberi să se plimbe prin fabrici în timpul pauzei pentru a vedea întreaga linie de producție desfășurându-se în fața ochilor lor. O claritate care pare total de neatins astăzi.

Această strategie de control provine de mult timp și nu este deloc inovatoare. "Organizarea științifică a muncii" susținută de inginerul american Frederick Winslow Taylor la începutul secolului XX a dat naștere taylorismului și apoi fordismului. Din moment ce angajatul este angajat pentru potențialul său de forță de muncă, cum putem să ne asigurăm că acest potențial este folosit la maxim, tot timpul? Cu alte cuvinte, pentru a prelua controlul asupra ei? Multă vreme, muncitorul a fost cel care își cunoștea cel mai bine munca, o cunoaștere care îi scăpa angajatorului său și care îi permitea astfel să își controleze "potențialul" și efortul. Taylor și-a propus să studieze munca, să inverseze cunoștințele și să le pună în mâinile celor care o organizează. El a împărțit și a cronometrat sarcinile pentru a elimina orice marjă, latență sau autonomie.

Rentieri digitali

În vârful piramidei conservatoare se află cei "care trebuie protejați, dar nu constrânși". Am scris în altă parte despre cum inovarea, care în teoria economică a pieței ar trebui să zdruncine jucătorii, și-a pierdut de fapt puterea de a "sparge rentele", deoarece marile companii inovează prea repede și încetinesc în mod deliberat răspândirea tehnologiei, iar acestea dispun de date și capital masiv, ceea ce le face imposibil să recupereze decalajul. În plus, Amazon, Apple, Facebook și Google își consolidează afacerile inițiale, în timp ce înghit într-un ritm frenetic jucătorii din sectoarele pe care le râvnesc. Care este rezultatul? Monștrii hibrizi, care au ajuns să atragă atenția unor congresmeni americani, îngrijorați de "conflictele de interese" și de "autopromovarea serviciilor lor".
Cum a ajuns Big Tech atât de mare, dintr-un infografic realizat de Washington Post, care enumeră toate achizițiile realizate de Amazon, Apple, Facebook și Google.

Kean Birch și D.T. Cochrane, profesor și cercetător la Universitatea York din Canada, vorbesc despre formarea unor întregi "ecosisteme" a căror supraviețuire și creștere nu se mai bazează pe capacitatea de a inova, ci pe construcția expertă a unor rente, pe care le clasifică în patru categorii

Chirii Enclave

Cele mai multe dintre aceste ecosisteme sunt închise, chiar dacă au devenit pasaje obligatorii. Apoi, este necesar să plătească Apple pentru a distribui aplicații posesorilor de iPhone sau să accepte să partajeze datele utilizatorilor pentru a oferi un serviciu pe casca de realitate virtuală Oculus a Facebook.

Chiriile sunt legate de așteptările pozitive ale pieței

Fiind mari și deosebit de profitabile, aceste companii se pot împrumuta ieftin pe piețele financiare, ceea ce le permite să finanțeze creșterea și achizițiile externe, consolidând în același timp așteptările pozitive... și așa mai departe.

În virtutea vechimii lor și a multiplicității punctelor de contact (dispozitive conectate, software profesional, sănătate, muzică etc.), marii actori din domeniul tehnologiei au acumulat și continuă să acumuleze o cunoaștere inegalabilă a populațiilor în timp real. Acest lucru le permite să vândă acces la segmente foarte mici sau, dimpotrivă, să dezvolte ei înșiși noi servicii pe baza unor nevoi pe care numai ei le pot anticipa.

Chirie de reflexivitate

Autorii se referă la ceea ce am menționat mai devreme ("codul este lege"), și anume că aceste companii, care operează în afara oricărui control extern, pot stabili sau chiar modifica regulile jocului în cadrul propriului ecosistem. De exemplu, Facebook a mințit mult timp cu privire la adevărata acoperire a reclamelor sale pentru clienții săi, iar Amazon a modificat algoritmii de căutare de pe platforma sa pentru a avantaja propriile produse.

Inversarea raportului de forțe

Iată-ne din ce în ce mai aproape de viziunile techno-futuriste de coșmar ale lui William Gibson, autorul cărții Neuromancer și părintele Cyberpunk-ului. Un gen literar, cinematografic și vizual, care descrie o umanitate care s-a abandonat în mare parte tehnologiei în fiecare colț al vieții sale și chiar și al trupurilor sale (prin intermediul protezelor sau al diverselor "augmentații"). Acestea sunt, de asemenea, lumi puternic stratificate, în care prăpastia dintre "cei de sus" (nu uitați, care trebuie protejați fără a fi constrânși) și cei de jos este cu siguranță imposibil de acoperit și asumată ca atare. Lumi în care marile companii private sunt noile puteri politice și de reglementare a vieții noastre. După cum spune William Gibson însuși: "schimbarea tehnologică este o scuză bună pentru a nu schimba nimic".

În vremuri de criză, este tentant și (prea) uman să ne agățăm de trecut, să îl păstrăm viu în toată gloria sa liniștitoare. Dar, scrie Eva Illouz, sociolog franco-israelian, "a încerca să iluminezi prezentul cu trecutul este ca și cum ai căuta un obiect pierdut sub un felinar, pentru că este singurul loc unde există lumină". Folosirea actuală a tehnologiei asigură ordinea (menținerea celei existente) mai degrabă decât dreptatea (reechilibrarea relațiilor), ca să parafrazez un interviu recent cu actorul și regizorul Jean-Pierre Darroussin.

Sub aparența unui marș progresiv înainte, neoliberalismul tehnologic ne conduce direct spre o stagnare care ar îngheța societatea actuală. Împreună cu filozofa Barbara Stiegler, putem face apel la marea figură a pragmatismului american, John Dewey. Respingând "o adaptare pasivă a maselor la mediul degradat creat de revoluția industrială, Dewey nu a încetat niciodată să se opună la ceea ce el credea că este adevăratul sens al revoluției darwiniste: faptul că ființele vii s-au adaptat întotdeauna prin modificarea activă a mediului lor.

În loc să înghețăm structurile trecutului, ar trebui să folosim munca experimentală a inteligenței colective pentru a multiplica inițiativele democratice și a inventa un alt viitor comun "de jos". O mișcare care răsare ici și colo în dezvoltarea tehnologică: apărarea "designului participativ", a transparenței sau a reapropierii cunoștințelor și a datelor în fața confiscării și asimetriei informațiilor la care ne supun marii actori tehnologici.

Matthieu Belbèze