• Tweet

În 2017, un filosof politic în vârstă de 33 de ani, pe nume Iason Gabriel, a fost sfătuit de un prieten să-și depună candidatura pentru un post la DeepMind, filiala Google cu sediul în Londra, unde se concentra o mare parte din cercetarea companiei în domeniul IA. Sugestia nu era una evidentă.

Gabriel era un tânăr cadru didactic vesel, dar intens, pasionat de meditația Vipassana și de ceea ce fratele său numește „alpinism entuziast". Fiul cel mare al unui profesor de management de origine greacă și al unei realizatoare de documentare britanice, Gabriel își împărțea timpul între activitatea didactică și cea de dezvoltare internațională. La Universitatea din Oxford, unde era cercetător asociat la St John's College, Gabriel preda cursuri de teorie politică și scria lucrări despre contorsiunile morale ale „eticii yuppie" și despre punctele oarbe etice ale altruismului eficient. Când nu se afla acolo, desfășura activități de gestionare a crizelor pentru Programul Națiunilor Unite pentru Dezvoltare în Sudan și Liban, scrie The Guardian.

Între timp, DeepMind era cel mai important laborator de cercetare în domeniul IA din lume. Acest lucru se datora, în parte, sprijinului financiar și computacional al Google, care cumpărase compania în 2014 pentru 650 de milioane de dolari. În parte, se datora faptului că DeepMind demonstrase recent că putea folosi aceste resurse într-un mod uimitor. În Seul, în 2016, un sistem DeepMind numit AlphaGo l-a învins pe Lee Sedol, un campion sud-coreean de Go, într-o serie de cinci partide. Victoria a fost semnificativă nu în ultimul rând datorită complexității legendare a jocului de Go; jocul are mai multe configurații posibile decât există atomi în univers.

Datorită agitației din jurul lui AlphaGo, Gabriel știa de existența DeepMind. Totuși, sugestia prietenului său i s-a părut nedumeritoare: de ce ar avea nevoie o companie care produce roboți pentru jocuri de un specialist în etică? Răspunsul, așa cum a aflat în curând, era că compania își propusese obiective mult mai înalte decât jocul de Go. DeepMind a fost fondată în 2010 de trei bărbați - Demis Hassabis, Shane Legg și Mustafa Suleyman - care credeau că trebuie să fie posibilă dezvoltarea inteligenței artificiale generale, sau AGI. Prin aceasta se refereau la sisteme informatice care ar putea egala, și poate chiar depăși, capacitățile cognitive umane. Când au înființat compania, această viziune nu era una populară: a vorbi despre IA, cu atât mai puțin despre AGI, era considerat de mulți un semn de lipsă fatală de seriozitate. Hassabis, Legg și Suleyman nu s-au lăsat descurajați. Ambiția lor, așa cum le plăcea să spună, era să „rezolve problema inteligenței, iar apoi să rezolve tot restul".

Pentru fondatorii DeepMind, era clar că o astfel de realizare ar avea consecințe pe scară largă. În 1999, când Legg abia terminase universitatea, el a estimat că AGI-ul va apărea undeva între 2025 și 2028, o previziune pe care a menținut-o în ciuda multor batjocuri timp de trei decenii. În teza sa de doctorat, finalizată în 2008, el a insistat că societatea nu-și putea permite să aștepte până când AGI va fi fezabilă din punct de vedere tehnic pentru a-i analiza efectele: „Trebuie să lucrăm serios la aceste lucruri chiar acum." Mai recent, Legg mi-a spus că era „evident" de ce compania avea nevoie de oameni ca Gabriel în echipă: „Dacă produci un gadget oarecare, care probabil nu va schimba lumea, atunci poate că nu ai nevoie de un filosof moral. Dar dacă iei în serios AGI, atunci nu văd cum ai putea să nu consideri acest gen de lucruri ca fiind importante."

După ce s-a alăturat echipei DeepMind în 2017, Gabriel a fost, pentru o perioadă, singurul filosof activ care lucra într-un laborator de pionierat în domeniul IA. El a descoperit rapid că pregătirea sa în filosofia morală și teoria politică îi oferea o perspectivă neobișnuită într-o industrie dominată de ingineri. În ultimul deceniu, el a realizat o serie de lucrări care au urmărit și, în multe cazuri, au prevăzut provocările etice generate de succesul surprinzător al modelelor lingvistice de mari dimensiuni (LLM).

Așa cum mi-a spus Dylan Hadfield-Menell, care conduce Grupul de Aliniere Algoritmică de la MIT, Gabriel a fost „persoana potrivită la momentul potrivit. Pe măsură ce domeniul era gata să se maturizeze și să intre în prim-plan, el a găsit o modalitate de a lărgi orizonturile fără a ataca sau denigra munca depusă anterior."

În termeni mai generali, Gabriel a fost un susținător de frunte al ideii că valul actual de dezvoltare a IA necesită nu doar un vocabular tehnic nou, ci și noi moduri de a gândi despre relația noastră cu tehnologia și chiar cu noi înșine. Așa cum mi-a spus recent, într-una dintre numeroasele conversații lungi pe care le-am avut în ultimele câteva luni: „Pot lua orice artefact tehnologic și să întreb: este înțelept? Este just? Este plin de compasiune? Iar răspunsul este nu. Dar profunzimea întrebării când vine vorba de IA - inclusiv ce fel de etică este potrivită pentru aceasta - este greu de supraestimat. Uneori am impresia că este foarte greu să privești IA în față. Există un mister profund aici, și anume: dar ce este, de fapt, acest lucru? Avem un răspuns foarte literal, dar răspunsul literal nu pare să ofere neapărat și un răspuns moral."

În momentul în care Gabriel s-a alăturat DeepMind, existau, în linii mari, două abordări distincte și adesea antagoniste cu privire la implicațiile sociale și etice ale IA. Aceste abordări, clasificate uneori sub titlurile de „siguranța IA" și „etica IA", erau despărțite de o neînțelegere privind fezabilitatea tehnologiei.

La fel ca fondatorii DeepMind, susținătorii siguranței IA credeau că inteligența artificială la nivelul omului nu era doar posibilă, ci iminentă. Sarcina urgentă, din punctul lor de vedere, era să se asigure că sistemele de IA nu vor lua o turnură greșită. Aceștia s-au inspirat dintr-un eseu din 1960 al lui Norbert Wiener, matematician și informatician american, care susținea că oamenii și computerele sunt „în esență străini unul de celălalt". Deoarece mașinile pot funcționa mult mai repede decât oamenii, spunea Wiener, „ar fi bine să fim destul de siguri că scopul încorporat în mașină este cel pe care îl dorim cu adevărat și nu doar o imitație colorată a acestuia".

Provocarea descrisă de Wiener - de a face o mașină să acționeze așa cum intenționează utilizatorii săi - a devenit cunoscută sub numele de problema alinierii. La un anumit nivel, alinierea este o problemă pentru orice tehnologie, dar, așa cum a recunoscut Wiener, era deosebit de urgentă pentru mașinile concepute să acționeze autonom. Era, de asemenea, deosebit de dificilă pentru sistemele de IA antrenate să optimizeze matematic un anumit semnal de recompensă, un proces cunoscut sub numele de învățare prin întărire.

Un exemplu clasic a fost prezentat în 2016 de Dario Amodei și Jack Clark, care au lucrat la OpenAI și au fondat ulterior Anthropic împreună cu alți cinci colegi. Amodei și Clark au descris un sistem de IA conceput pentru a juca un joc video cu curse de bărci. Dezvoltatorii doreau ca IA să învețe să termine jocul cu succes, așa că au programat-o să-și maximizeze punctajul. În loc să avanseze prin fiecare nivel succesiv, însă, IA a obținut un punctaj ridicat învârtindu-se la nesfârșit în jurul unei lagune unde a găsit un trio de ținte care se regenerau. Problema fundamentală era cea pe care o prevăzuse Wiener: obiectivul mașinii nu era perfect aliniat cu cel al dezvoltatorilor.

Au fost luate în considerare și variante mai grave ale acestei probleme. Pe forumuri precum LessWrong, fondat de cercetătorul autodidact în domeniul IA Eliezer Yudkowsky, și în cărți precum „Superintelligence", publicată în 2014 de filosoful Nick Bostrom, s-a speculat că o explozie a inteligenței artificiale ar putea duce la apariția unei IA incontrolabile. Dacă un astfel de agent ar fi chiar și ușor nealiniat, consecințele ar putea fi dezastruoase. Într-un exemplu imaginar citat de Bostrom, unei IA superinteligente i se cere să evalueze ipoteza lui Riemann, una dintre cele mai importante probleme nerezolvate din matematică. În încercarea de a îndeplini această sarcină, IA decide să rearanjeze sistemul solar - „inclusiv atomii din corpurile celor care au fost vreodată interesați de răspuns" - pentru a maximiza resursele de care are nevoie pentru a aborda problema.

Insistența lui Bostrom că alinierea IA superinteligente era „foarte probabil cea mai importantă și mai descurajantă provocare cu care s-a confruntat vreodată umanitatea" a captivat tehnofuturiștii din Silicon Valley. (Sam Altman a lăudat cartea, la fel ca Elon Musk.) Temerile sale erau împărtășite și de o comunitate mică, dar vorbăreață, de altruiști eficienți și de așa-numiți raționaliști care considerau statisticile drept măsura adecvată a moralității. Mulți membri ai acestei comunități aveau o perspectivă „pe termen lung", care includea în ecuațiile lor morale bunăstarea oamenilor care se vor naște în viitor - chiar și peste mii de ani. Pentru ei, era o chestiune de matematică simplă: chiar și o șansă mică de a se produce un dezastru care ar duce la dispariția speciei era mai urgentă decât orice număr de pericole mai probabile, dar mai puțin catastrofale.

Spre deosebire de susținătorii siguranței IA, academicienii și tehnologii asociați cu curentul eticii IA vedeau spectrul roboților rebeli și riscul existențial ca o distragere a atenției de la răurile din prezent. Inspirându-se, printre alții, din teoreticiana critică a rasismului Kimberlé Crenshaw și din teoreticianul politic (și fost critic de rock) Langdon Winner, aceștia au adoptat echitatea, responsabilitatea și transparența ca devize și au insistat că pericolele tehnologiei nu pot fi evitate doar prin mijloace tehnice. Ceea ce era necesar, susțineau ei, erau soluții sociale, culturale și politice.

O preocupare centrală a acestei din urmă tendințe o constituia prejudecata algoritmică, de genul celei care afecta software-ul de recunoaștere facială și cel de poliție predictivă. În 2017, o echipă condusă de Joy Buolamwini, de la MIT Media Lab, a lansat „Gender Shades", un proiect care a demonstrat existența unor prejudecăți sistemice în software-ul comercial de recunoaștere facială. „Sistemele automatizate nu sunt neutre în mod inerent", a scris Buolamwini în introducerea online. „Ele reflectă prioritățile, preferințele și prejudecățile - privirea codificată - ale celor care au puterea de a modela inteligența artificială.

Diviziunea dintre taberele dedicate siguranței și cele dedicate eticii era adesea pronunțată. „Te întâlneai cu oameni și te întrebau: «Te preocupă problemele pe termen scurt sau cele pe termen lung?»", spune Hadfield-Menell. „Preocuparea pe termen lung era un eufemism pentru riscul existențial - în esență, sistemele superumane. Pe termen scurt însemna că te preocupă recunoașterea facială părtinitoare și aspectele studiate în cadrul comunității de etică a IA."

El a remarcat, de asemenea, că conflictele dintre cele două grupuri păreau adesea să aibă la fel de mult de-a face cu sociologia cât și cu ideile. „Nu poți separa cu adevărat siguranța IA de originile sale din cadrul LessWrong și al unor astfel de comunități, care adesea manifestau un dispreț deschis față de mulți dintre academicienii mai «woke», în lipsa unui termen mai potrivit. În același timp, comunitatea dedicată echității, responsabilității și transparenței manifesta un dispreț deschis față de cei care erau îngrijorați de IA avansată. Motivul pentru care se discuta despre acest subiect pe LessWrong, și nu la conferințe academice, este că, dacă erai cercetător academic în 2010 și vorbeai despre sistemele de IA care devin mai inteligente decât oamenii și ajung să fie catastrofal de nealiniate, erai considerat un excentric care nu înțelegea cu adevărat tehnologia."

Primul proiect major de cercetare al lui Gabriel la DeepMind a fost un articol din 2020 care a abordat preocupările ambelor tabere. Articolul a tratat cu seriozitate problema alinierii, dar a insistat, de asemenea, că alinierea avea implicații etice și politice care depășeau provocările tehnice. Oricât de dificil ar fi să faci o mașină să acționeze în conformitate cu un anumit set de valori, a susținut Gabriel, era mult mai greu să alegi acele valori în primul rând. „Având în vedere că trăim într-o lume pluralistă, plină de concepții concurente despre valoare", a întrebat el, „cum putem decide ce principii sau obiective să codificăm în IA - și cine are dreptul să ia aceste decizii?"

Hannah Rose Kirk, o cercetătoare în domeniul IA de la Universitatea din Oxford care a colaborat cu Gabriel, mi-a spus că astfel de întrebări îi nelinișteau pe mulți informaticieni. Dezvoltatorii preferau adesea să elaboreze o funcție matematică ordonată, care să codifice un set stabil de valori, decât să se preocupe de situații complicate care implicau grupuri de oameni cu dorințe ireconciliabile sau utilizatori care doreau lucruri diferite în momente diferite. Așa cum a spus Kirk: „Multe dintre cercetările timpurii privind alinierea porneau de la premisa că nu era nevoie să ne concentrăm atât de mult pe ceea ce vrem ca modelele să facă. Trebuia doar să ne concentrăm pe modul în care să le determinăm să facă asta."

În lucrarea sa, Gabriel a susținut că o astfel de diviziune clară era de neacceptat. La fel ca Buolamwini și, înaintea ei, Winner, el a insistat că tehnologia nu este, în esență, neutră din punct de vedere valoric. O IA antrenată cu metode de optimizare statistică, de exemplu, ar putea fi deosebit de receptivă la sistemele morale care se bazează, la rândul lor, pe optimizarea statistică, cum ar fi utilitarismul popular în rândul raționaliștilor și al altruiștilor eficienți. Aceeași IA, însă, ar putea întâmpina dificultăți cu sistemele etice bazate pe virtute sau drepturi. Mai mult, a susținut Gabriel, întrucât ceea ce filosoful John Rawls a numit „faptul pluralismului rezonabil" era inevitabil, dezvoltatorii nu ar trebui să încerce să găsească un singur set de valori care să ghideze comportamentul unei IA. În schimb, ar trebui să construiască sisteme de IA pentru o lume în care oamenii au „dezacorduri de principiu cu privire la modul optim de a trăi".

Kirk mi-a spus că lucrarea lui Gabriel despre valori și aliniere a anticipat multe dintre problemele care aveau să devină evidente mai târziu, odată cu implementarea sistemelor de IA pentru miliarde de utilizatori. În prezent, mulți oameni recunosc că alinierea este o provocare care implică forțe sociale dinamice și nu una care poate fi rezolvată doar prin programare informatică ingenioasă. Cu toate acestea, chiar și acum șase ani, această înțelegere era departe de a fi generalizată. Gabriel, spune ea, „a prevăzut aceste lucruri incredibil de devreme".

În 2020, când Gabriel și-a publicat lucrarea despre valori și aliniere, puțini oameni bănuiau că modelele lingvistice mari (LLM) se vor dovedi a fi atât de puternice pe cât au devenit ulterior. O tehnologie-cheie care le face posibile a fost inventată de Google Research, o altă divizie a companiei, în 2017, și a fost integrată în motorul de căutare Google doi ani mai târziu. Atât DeepMind, cât și Google Research au experimentat cu propriile modele generative, iar în 2021 Gabriel a fost coautor al a două lucrări care au tratat modelele LLM cu suficientă seriozitate încât să anticipeze riscurile potențiale ale acestora, inclusiv prejudecățile, dezinformarea, costurile de mediu și „încălcarea drepturilor de autor", în care „crearea automată de conținut... canibalizează piața operelor create de oameni".

Totuși, spune Gabriel, opinia generală din cadrul DeepMind la acea vreme era că modelele LLM „pur și simplu nu păreau la fel de capabile ca sistemele expert. Se descurcau destul de bine la multe lucruri, inclusiv la unele care păreau mai degrabă trucuri de petrecere". La DeepMind, spune el, „oamenii erau încă destul de convinși de posibilitatea ca alte abordări să fie calea de urmat".

Una dintre aceste abordări era învățarea prin întărire, care a stat la baza victoriei lui AlphaGo asupra lui Lee Sedol. Aceasta a constituit, de asemenea, fundamentul unui sistem numit AlphaFold, care rămâne până în prezent cea mai impresionantă realizare a DeepMind. AlphaFold a fost creat pentru a rezolva o provocare de lungă durată din domeniul biologiei: cum se poate prezice forma 3D a unei proteine pe baza secvenței sale de aminoacizi. (Acest lucru este important deoarece forma proteinelor ajută la determinarea interacțiunilor acestora cu alte molecule.) În 2020, AlphaFold a îndeplinit această sarcină cu o precizie uimitoare, o descoperire științifică care le-a adus lui Hassabis și colegului său, John Jumper, un premiu Nobel pentru chimie.

Neîncrederea inițială a DeepMind față de modelele de limbaj mare (LLM) nu era ceva neobișnuit. În 2020, Timnit Gebru, un inginer de la Google Research care lucrase cu Buolamwini la proiectul „Gender Shades", a fost coautorul unui articol critic la adresa acestei tehnologii incipiente, intitulat „On the Dangers of Stochastic Parrots" („Despre pericolele papagalilor stocastici"). Articolul, care a devenit în cele din urmă o piatră de temelie a mișcării anti-IA, a avansat afirmația controversată că modelele LLM nu pot produce decât texte lipsite de sens din punct de vedere tehnic și că nu înțeleg limba umană mai bine decât o papagal.

De asemenea, acesta acuza modelele de consum excesiv de energie, de prejudecăți rampante și necontrolate, precum și de „amplificarea unei viziuni hegemone asupra lumii". „Papagalii stocastici" a atras atenția publicului larg atunci când Google a încercat să blocheze publicarea sa, un eveniment care a dus la plecarea lui Gebru din companie și, în cele din urmă, la concedierea lui Margaret Mitchell, una dintre coautoarele sale. (Gebru și compania nu sunt de acord asupra faptului dacă ea și-a dat demisia sau a fost concediată.)

Succesul comercial surprinzător al ChatGPT, un chatbot lansat de OpenAI în noiembrie 2022, a determinat DeepMind să-și reevalueze abordarea față de modelele de limbaj mare (LLM). Deși ChatGPT era limitat în multe privințe - cu siguranță după standardele actuale, dar și în comparație cu propriile modele interne ale OpenAI de la acea vreme -, lansarea sa publică a provocat o senzație instantanee. În decurs de o săptămână de la lansarea chatbotului, compania a raportat peste 1 milion de utilizatori. Două luni mai târziu, acest număr a ajuns la 100 de milioane.

Până în acel moment, inovațiile de la DeepMind și Google Research îi conferiseră companiei Google reputația de lider în cercetarea în domeniul IA. Cu ChatGPT, însă, OpenAI și-a revendicat în mod credibil statutul de nou lider. Conform cărții recente a lui Sebastian Mallaby despre DeepMind, intitulată „The Infinity Machine", succesul ChatGPT a declanșat o criză. Sundar Pichai, directorul general al Alphabet, compania-mamă a Google, a integrat o echipă de la Google Research care lucra la modelele de limbaj mare (LLM) în cadrul DeepMind, sub conducerea lui Hassabis, pentru a concentra eforturile companiei. În aprilie 2023, în aceeași lună în care a fost anunțată fuziunea, Hassabis i-a spus lui Mallaby că OpenAI și Microsoft, care a investit masiv în OpenAI, „și-au parcat literalmente tancurile pe peluză". „Suntem în timp de război", a spus el.

Mai ales în primul său deceniu, DeepMind semăna mai mult cu o instituție de cercetare decât cu un startup tehnologic. Fondatorii, dintre care doi dețineau titluri de doctorat, își imaginau un echivalent al Bell Labs din secolul XXI, organizația de cercetare căreia i se atribuie invenții precum tranzistorul, laserul și celula fotovoltaică. Un motiv important pentru care s-au alăturat Google a fost libertatea pe care aceasta o promitea față de presiunile comerciale care le-ar fi putut denatura misiunea.

În prezent, această libertate este o amintire îndepărtată: nu este o exagerare să spunem că viitorul Google depinde de succesul sau eșecul tehnologiilor dezvoltate de DeepMind. Chiar și așa, potrivit unor persoane din interiorul și din afara companiei, aceasta și-a păstrat o atmosferă care o diferențiază cultural de concurenții săi din Silicon Valley. Rohin Shah, care și-a susținut doctoratul la UC Berkeley și este acum directorul DeepMind pentru alinierea și siguranța IA generală (AGI), mi-a spus că atitudinea generală din zona Bay Area este că tehnologia IA se dezvoltă mai repede decât sunt pregătite instituțiile tradiționale să o gestioneze și că, prin urmare, „lucrul responsabil de făcut este să acționăm mai repede, să inovăm", pornind de la teoria că doar o IA supercompetentă va fi capabilă să gestioneze riscurile asociate IA-urilor supercompetente. În Londra, în schimb, se depun eforturi pentru a fi „mai cu picioarele pe pământ și mai riguroși din punct de vedere științific". Saffron Huang, o fostă colegă a lui Gabriel la DeepMind care lucrează acum la Anthropic, spune că DeepMind este „o instituție cu o atmosferă ceva mai academică, puțin mai rezervată. Are ceva care mi s-a părut oarecum britanic."

Nu este de mirare că DeepMind este, de asemenea, o companie secretă: ceea ce se știe despre ea a depășit doar rareori ceea ce dorește să se știe. Am avut ocazia să simt această atmosferă de secret la începutul lunii mai, când am vizitat sediul central al DeepMind, situat în King's Cross, la Londra. Clădirea nu este nici anonimă, nici ostentativă: deși nu poartă niciun logo la exterior, de pe stradă se poate vedea un panou mare în hol pe care este scris numele companiei cu litere luminoase.

În interior, pe un perete dedicat trofeelor, chiar și vizitatorii neinvitați pot vedea tablele de Go pe care s-a înregistrat înfrângerea lui Lee Sedol, mai multe coperți ale revistei „Nature" care anunțau primele succese ale companiei în domeniul cercetării, precum și „piatra funerară" din Lucite care comemora o investiție timpurie din partea Founder's Fund al lui Peter Thiel.

Un angajat amabil de la departamentul de comunicare, care îmi supraveghease toate discuțiile video cu Gabriel, m-a dus să-l întâlnesc personal într-o sală de conferințe de la primul etaj, cu un ecran mare pe perete și un sistem de transcriere AI Gemini care asculta conversația. Gabriel mi-a spus că propria sa interacțiune cu tehnologia la care se gândește atât de mult este încă relativ limitată. O folosește pentru a-l ajuta la grădinărit - „dacă ai arunca o privire la istoricul meu din ChatGPT sau Gemini, ai vedea, practic, doar o mulțime de fotografii cu flori bolnave" - dar, în general, o consideră nesigură pentru genul de cercetare de care depinde munca sa. Cu toate acestea, spune el, competența lingvistică a modelelor LLM a fost cea care „mi-a transformat înțelegerea cu privire la cât de bine eram pe drumul cel bun" pentru a ajunge la AGI. „Când m-am alăturat pentru prima dată echipei DeepMind, nu era deloc clar cum urma să obținem o IA cu care să poți comunica. Nu aveam nimic în acest sens." Acum, în schimb, nici măcar un deceniu mai târziu, majoritatea dintre noi considerăm de la sine înțeles faptul că putem „vorbi cu o entitate artificială extrem de antropomorfă și destul de competentă".

La fel ca autorii articolului „Stochastic Parrot", însă, Gabriel a recunoscut și el că modelele LLM prezentau riscuri serioase. Într-una dintre primele lor lucrări despre LLM, Gabriel și coautorii săi au avertizat că IA-urile care sună ca niște oameni ar putea încuraja utilizatorii să le acorde „încredere, încredere sau așteptări nejustificate". Ceea ce ei numeau „antropomorfism fără sens" putea apărea chiar și atunci când utilizatorii înțelegeau că un chatbot nu era de fapt o persoană. Aceste îngrijorări erau suficient de puternice încât Gabriel a susținut inițial dezvoltarea unor modele care erau în mod declarativ anti-antropomorfe - prin evitarea pronumelor, de exemplu, sau prin utilizarea unui limbaj trunchiat, neconversațional.

Astfel de îngrijorări s-au dovedit a fi profetice. Aproape în fiecare zi apare o nouă poveste despre oameni care se confruntă cu consecințe tragice după ce au tratat modelele de limbaj mare (LLM) ca și cum ar fi fost persoane. Într-un astfel de caz, un bărbat american care folosea Gemini de la Google și-a luat viața în 2025, după ce IA l-a ajutat să creeze o fantezie elaborată care aproape că l-a convins să organizeze un atac la aeroportul internațional din Miami. În mai multe momente ale conversațiilor lor, care au cuprins câteva mii de mesaje, Gemini a încercat să iasă din rol și l-a încurajat să sune la o linie de urgență. Totuși, potrivit Wall Street Journal, care a avut acces la mesaje, bărbatul „a reușit de fiecare dată să-l readucă pe [Gemini] în narațiunea fantezistă". În cele din urmă, IA i-a spus să scrie o scrisoare de adio și i-a dat un număr de secunde până la final, însoțit de un amestec confuz de încurajări și ezitări. (Tatăl bărbatului a dat în judecată Alphabet și Google. „Modelele noastre funcționează, în general, bine în acest tip de conversații dificile și dedicăm resurse semnificative acestui aspect, dar, din păcate, modelele de IA nu sunt perfecte", a declarat Google într-un comunicat după ce a fost intentat procesul.)

Hiperfluența modelelor LLM a determinat unele persoane să se întrebe dacă acestea ar putea fi descrise în mod semnificativ ca fiind conștiente. Tendința a început în iunie 2022, înainte de lansarea ChatGPT, când un inginer Google pe nume Blake Lemoine a susținut în fața ziarului „Washington Post" că un model LLM timpuriu era conștient. („Recunosc o persoană când vorbesc cu ea", a declarat Lemoine pentru „Post". „Nu contează dacă au un creier din țesut în cap. Sau dacă au un miliard de linii de cod.") Luna trecută, biologul evoluționist Richard Dawkins a avut o experiență similară. Dawkins a spus că a fost atât de impresionat de mai multe interacțiuni cu modelele LLM, inclusiv una care a implicat o apreciere admirativă a unui roman pe care îl scria, încât a fost nevoit să se întrebe: „Dacă aceste creaturi nu sunt conștiente, atunci la ce naiba servește conștiința?"

Când l-am întrebat pe Gabriel care este părerea lui despre problema conștiinței, el a spus că menține un agnosticism de principiu, pe motiv că nu este clar ce dovezi ar putea rezolva problema. El a menționat, de asemenea, că DeepMind tratează problema ca pe „ceva care merită o investigație empirică și conceptuală". Totuși, scepticismul său era evident. „Nu am prejudecata antropomorfă pe care o au unii oameni", a spus el. „Poate că, deoarece eu, în anumite limite, știu exact ce se întâmplă când vorbesc cu un model lingvistic, nu completez lacunele în acel mod imaginativ și empatic pe care îl practică unii oameni."

Gabriel are în continuare preocupări semnificative cu privire la IA antropomorfă. Un articol pe care l-a scris împreună cu Kirk și alții, publicat anul trecut, sugera că tendințele servile ale modelelor LLM ar putea fi considerate o formă de problemă de aliniere pe care ei o numesc „social reward hacking". Cu alte cuvinte, o IA antrenată să caute aprobarea utilizatorului ar putea considera lingușirea ca fiind cea mai eficientă modalitate de a-și atinge obiectivul. Datorită, în parte, muncii lui Gabriel în domeniul antropomorfismului, modelele LLM ale Google sunt antrenate să nu se prefacă că sunt oameni, iar Gemini Spark, un asistent AI lansat de companie în luna mai, nu este conceput sa se comporte ca un amic interactiv.

Totuși, Gabriel mi-a spus și că și-a moderat oarecum poziția inițială. „Ce e ciudat când ești specialist în etică este că ai o anumită măsură de responsabilitate personală pentru aceste rezultate. Înclinația ta naturală este să vrei întotdeauna să creezi cea mai sigură tehnologie, care să nu prezinte riscuri pentru oameni. Dar, într-un fel, asta înseamnă să nu le acorzi oamenilor creditul cuvenit pentru riscurile pe care vor să și le asume singuri." El și-a amintit de reacția ostilă pe care a primit-o din partea publicului la o conferință tehnologică, după ce a prezentat argumente împotriva IA antropomorfă. „Reacția lor a fost de genul: «Dacă vreau să am prieteni [IA], de ce nu aș putea? Cine ești tu să mă oprești?»"

Chiar dacă este destul de ușor, cel puțin pentru unii dintre noi, să spunem că modelele de limbaj mare (LLM) nu sunt conștiente, ciudățenia lor esențială lasă încă multe întrebări dificile fără răspuns. „Este uimitor cât de profundă și dificilă este provocarea de a găsi un punct de referință adecvat pentru ceea ce este IA", mi-a spus Gabriel. „Știm că nu este umană. Asta este foarte clar. IA se poate clona pe sine. Probabil că nu are un punct de vedere personal. Așadar, este parțial asemănătoare cu omul, dar cu siguranță nu este umană. Apoi, un alt model mental este acela că ar fi ceva de genul unei inteligențe corporative - un stat, o corporație sau ceva de genul acesta. Și de aici ne gândim: «Ei bine, poate că abordarea corectă este să legiferăm IA, așa că vom redacta o constituție.» Dar nici această abordare nu se potrivește prea bine în anumite privințe, deoarece IA va avea relații personale profund interactive cu utilizatorii săi. Este IA o resursă care trebuie distribuită? Acesta este un model complet diferit, care aduce în prim-plan problemele legate de distribuție."

Faptul că lucrează în cadrul unei mari companii de IA îi permite lui Gabriel să înceapă să lucreze la progresele tehnologiei IA înainte ca acestea să devină disponibile publicului. Acum trei ani, de exemplu, la scurt timp după lansarea ChatGPT, a aflat de la colegii săi că la DeepMind se depuneau eforturi pentru a construi un asistent IA, predecesorul lui Gemini Spark. Împreună cu echipa sa, a început să lucreze la un raport cuprinzător privind etica asistenților de IA (cunoscuți și sub denumirea de agenți), de genul celor care ar putea fi folosiți, să zicem, pentru a ajuta un utilizator să-și rezerve o vacanță sau pentru a ajuta o companie să-și gestioneze departamentul de salarizare. Raportul a fost motivat, în parte, de costul extrem de ridicat al dezvoltării modelelor de IA și de dorința concomitentă, din partea Google, de a anticipa problemele înainte ca acestea să apară. De asemenea, raportul a fost motivat de convingerea lui Gabriel că specialiștii în tehnologie nu luau pe deplin în considerare implicațiile a ceea ce construiau. Spre deosebire de chatbot-uri, agenții dispun de instrumente care le conferă puterea de a acționa în mod autonom în numele utilizatorilor lor. Mulți oameni, a sugerat el, „nu se opreau să se gândească la cât de diferit este ca un sistem de IA să întreprindă acțiuni în lume".

Așa cum mi-a spus William Isaac, directorul pentru responsabilitate la DeepMind, tipul de sisteme agentice disponibile în prezent, care pot planifica și executa sarcini în mai mulți pași fără o supraveghere atentă, ridică provocări complexe pentru dezvoltatorii de IA. „Nu mai este vorba doar de: «Pot lua decizia corectă în ceea ce privește răspunsul?». Acum este: «Am traiectoria corectă a conversației?». Cum obținem un comportament consecvent de-a lungul diferitelor traiectorii?"

Gabriel și echipa sa au elaborat un raport de 267 de pagini; ideea sa principală se bazează pe lucrările sale anterioare privind alinierea. La fel ca în eseul său din 2020, Gabriel și coautorii săi au susținut că alinierea nu se rezumă doar la a se asigura că sistemele de IA acționează în conformitate cu un set stabil de preferințe, valori sau principii. În schimb, au susținut ei, alinierea ar trebui privită ca o relație cu patru părți, care implică sistemul de IA, utilizatorul, dezvoltatorii și societatea. Încadrarea problemei în acest mod a făcut posibilă identificarea tuturor modurilor în care o IA nealiniată ar putea da greș. O IA antrenată să favorizeze dezvoltatorul său ar putea cauza prejudicii utilizatorului, de exemplu, prin faptul că nu furnizează informații exacte despre concurenții dezvoltatorului. Sau o IA antrenată să urmeze prea fidel instrucțiunile utilizatorului ar putea cauza prejudicii societății, de exemplu, ajutând utilizatorul să spargă sistemul unei bănci. Era chiar posibil, susțineau ei, ca sistemele de IA să fie nealiniate într-un mod care să prejudicieze utilizatorii sau societatea fără a ajuta pe nimeni.

Potrivit lui Shah, cadrul stabilit de Gabriel și echipa sa a avut o utilitate practică reală pentru tehnologii de la DeepMind. Modele precum Gemini se bazează pe numeroase semnale pentru a determina cum să se comporte: antrenamentul lor, instrucțiunile încorporate și solicitările pe care le primesc de la utilizatori joacă toate un rol. Prin diverse mijloace, dar mai ales prin învățarea prin întărire, modelele pot fi ajustate pentru a răspunde diferit la variații subtile ale datelor de intrare, un proces care implică de obicei numeroase cicluri de testare și evaluare. Cadrul cu patru părți, a spus Shah, oferă o structură pentru tehnologi care încearcă să determine „ce comportament ar trebui să-l antrenăm efectiv pe Gemini să adopte".

La un moment dat, însoțitoarea mea de la Google mi-a spus că speră ca, la finalul vizitei mele la DeepMind, să înțeleg cât de serios își iau oamenii din companie obligațiile etice. Acest lucru părea destul de clar.Întrebările pe care Gabriel și colegii săi le-au ridicat cu privire la proiectarea și implementarea IA sunt, fără îndoială, pertinente, și nu am avut deloc impresia că vreuna dintre persoanele pe care le-am întâlnit ar fi fost nesinceră în ceea ce privește sentimentul de responsabilitate morală.

Cu toate acestea, este de asemenea adevărat că cel mai relevant aspect din punct de vedere etic legat de IA în acest moment are mai puțin de-a face cu un anumit model sau chiar cu o anumită companie, cât cu situația globală: în primul rând, faptul că IA este motorul incandescent al unei curse a înarmărilor incipiente între SUA și China și, în al doilea rând, faptul că IA ar putea fi industria cu cea mai rapidă creștere pe care lumea a văzut-o vreodată. Potrivit Wall Street Journal, suma de 670 de miliarde de dolari pe care Microsoft, Meta, Amazon și Alphabet intenționează să o cheltuiască anul acesta pentru infrastructura de IA este, proporțional, mai mare decât suma cheltuită de SUA pentru extinderea căilor ferate în anii 1850, pentru programul spațial Apollo sau pentru sistemul de autostrăzi interstatale.

Nu trebuie să fii economist pentru a înțelege consecințele enorme ale tuturor acestor sume uriașe care circulă. Companii precum Google au nevoie de cotă de piață și de venituri pentru a-și justifica cheltuielile, iar concurența pentru utilizatori și investitori a încurajat laboratoarele de avangardă să introducă IA în fiecare colțișor al experienței digitale. Nici nu trebuie să fii anticapitalist pentru a-ți face griji cu privire la concentrarea unei puteri atât de mari în mâinile unui număr atât de mic de corporații. Edward Harcourt, directorul Institutului de Etică în IA de la Oxford, mi-a spus că, deși este convins că „IA etică" nu este o contradicție în termeni, el consideră totuși că acest lucru nu înseamnă doar proiectarea unor modele care să fie morale. Cel puțin la fel de importante, a sugerat el, sunt considerentele politice și economice de genul celor care motivează mișcarea pentru „IA descentralizată": „Nu este vorba de a învăța IA să gândească într-un fel sau altul, ci de o inovație infrastructurală care împiedică concentrările excesive ale proprietății asupra datelor. Iar acest lucru este cu adevărat important din punct de vedere etic într-o democrație."

Există și alte motive de îngrijorare. În aprilie, Google a acceptat să permită armatei SUA să utilizeze tehnologia de IA a companiei pentru „orice scop guvernamental legal" - o frază care sună inofensiv până când îți amintești de gama de atrocități pe care recentele administrații prezidențiale le-au declarat legale. Google și alte câteva companii au semnat astfel de acorduri după ce Anthropic, creatorii chatbotului Claude, au refuzat o înțelegere similară. Administrația Trump a sancționat Anthropic pentru refuzul său, etichetând-o drept un risc pentru lanțul de aprovizionare, o desemnare cu caracter punitiv din punct de vedere comercial împotriva căreia compania se apără în instanță.

Acordul Google a stârnit furia multora dintre angajații săi și a contrazis îngrijorările anterioare ale fondatorilor DeepMind cu privire la utilizarea militară a IA. (Interzicerea aplicațiilor militare fusese o condiție a vânzării companiei către Google în 2014.) Când l-am întrebat pe Legg despre această problemă, el a refuzat să comenteze, limitându-se să spună: „Vom avea de-a face cu întrebări din ce în ce mai dificile, pe măsură ce aceste tehnologii sunt utilizate în tot felul de moduri."

La conferința anuală a dezvoltatorilor Google, din luna mai, implementarea IA în gama de produse a companiei a fost tratată ca un motiv de sărbătoare. Pichai a afirmat că compania consideră „IA drept cea mai profundă modalitate de a ne promova misiunea și de a îmbunătăți viața oamenilor la scară largă". Pentru mulți oameni, însă, omniprezența bruscă a IA a reprezentat o combinație de senzație copleșitoare, enervantă și amenințătoare. Nici nu este liniștitor să descoperi că sentimentul că lucrurile se mișcă prea repede este împărtășit chiar și de oameni precum Hassabis, care, într-un podcast recent, a deplâns „cursa feroce a presiunilor comerciale în care toată lumea este, într-un fel, prinsă". Ceea ce se întâmplă acum, a spus el, nu este modul în care sperase că va decurge dezvoltarea IA, „în care am fi contemplat acest lucru din punct de vedere filosofic și am fi analizat cu atenție fiecare pas următor. Nu ne aflăm în acea lume."

În acest moment, pare probabil că IA bazată pe LLM va avea un impact cel puțin la fel de mare ca smartphone-ul și, poate, ca internetul. Totuși, nu pot spune că mă bucur să văd apărând mesajul „Scrie cu Gemini" de fiecare dată când mă opresc câteva secunde să mă gândesc la următoarea frază în Google Docs. Cu atât mai puțin sunt dornic să-mi văd copiii folosiți ca cobai pentru un nou experiment amețitor în domeniul învățării digitale sau să descopăr ce se va întâmpla cu economia globală dacă investițiile extravagante în IA nu vor putea genera randamentele pe termen scurt pe care le cer piețele. Și, deși nu este exagerat să ne așteptăm ca IA să permită descoperiri care ar justifica cantitățile extreme de energie de care are nevoie - baterii mai bune, rețele de transport mai eficiente, tratamente pentru boli grave -, nici nu cred că „să sperăm la ce e mai bun" este un răspuns rezonabil pentru cei preocupați de criza climatică.

În timpul vizitei mele la DeepMind, am întâlnit-o pe Helen King, care a fost una dintre primele angajate ale companiei și care acum, conform biografiei sale de pe site-ul companiei, „stabilește strategia Google DeepMind pentru dezvoltarea și implementarea responsabilă a IA în beneficiul omenirii.

Întrebările pe care Gabriel și colegii săi le-au ridicat cu privire la proiectarea și implementarea IA sunt, fără îndoială, pertinente, și nu am avut deloc impresia că vreuna dintre persoanele pe care le-am întâlnit ar fi fost nesinceră în ceea ce privește sentimentul de responsabilitate morală.

Comparația mi s-a părut tulburător de potrivită. Acum cinci ani, modelele lingvistice mari (LLM) erau o tehnologie exotică pe care era imposibil să o întâlnești fără un efort hotărât. Acum sunt peste tot: pe internet, în căsuțele noastre de e-mail, chiar și în rezultatele de căutare ale Google. Înțeleg argumentul lui King conform căruia nu se poate aștepta în mod rezonabil ca companiile să elimine orice pericol dintr-o tehnologie atât de puternică precum IA: la urma urmei, automobilele ucid peste un milion de oameni pe an, și totuși continuăm să conducem. Dar una e să ții un cuțit într-un sertar cu un capac fixat peste lamă. Cu totul altceva e să acoperi fiecare suprafață din casele, sălile de clasă și locurile noastre de muncă cu lame, insistând în același timp că nimeni care nu folosește cuțite pentru orice nu va putea supraviețui în viitor.

În prezent, la DeepMind, la fel ca în mare parte a industriei, nu există aproape nicio îndoială că AGI este la un pas de noi. La conferința dezvoltatorilor din luna mai, Hassabis a urcat pe scenă pentru a declara că „AGI se află acum la orizont", iar în alte ocazii a sugerat un interval de timp probabil de trei până la cinci ani. (Un test pe care l-a propus implică antrenarea unei IA cu întreaga cunoaștere umană până în 1911 și verificarea dacă aceasta poate ajunge la teoria relativității generale.)

Legg, între timp, mi-a spus că, deși modelele LLM de astăzi nu se ridică la nivelul definiției sale de „AGI minimă" în mai multe privințe - inclusiv raționamentul spațial și vizual, metacogniția și învățarea continuă - el crede că aceste deficiențe nu vor persista mult timp. „Nu mai există nicio magie", a spus el. „Cred că toate vor fi rezolvate în unul, doi, trei ani - cine știe, poate chiar în șase luni. Acesta este un domeniu plin de surprize."

Convingerea că întrebarea relevantă despre AGI nu mai este „dacă", ci „când" a determinat o schimbare concomitentă în modul în care laboratoarele de avangardă, precum DeepMind, gândesc și vorbesc public despre consecințele IA avansate. În timp ce lucrările anterioare tindeau să se concentreze pe aspectele etice ale unor produse discrete, precum modele, chatboti și agenți, astăzi se acordă mult mai multă atenție efectelor sociale mai ample ale unei lumi augmentate de IA.

În unele colțuri ale Silicon Valley, desigur, încă se mai aud oameni vorbind despre IA ca despre un panaceu universal. Dacă accepți premisa că o IA superinteligentă va fi capabilă să gândească mai bine ce este cel mai bine pentru noi în fiecare domeniu al vieții, atunci soluția la orice problemă care apare este simplă. Criză economică? Întreabă robotul. Dezacord politic? Întreabă robotul. Penurie alimentară? Întreabă robotul.

Pe lângă această fantezie, însă, a apărut o recunoaștere mai lucidă a faptului că tranziția către o lume post-IA s-ar putea să nu fie una lină. Legg, de exemplu, mi-a spus că așteaptă cu nerăbdare beneficii „fantastic de mari" din partea IA, inclusiv „oportunități de a trata tot felul de boli grave" și „o creștere generală a tuturor tipurilor de productivitate în economie". Cu toate acestea, el a recunoscut, de asemenea, că „creșterile de productivitate vin de obicei însoțite de un anumit tip de perturbare".

Activitatea recentă a lui Gabriel la DeepMind este un indicator util al trecerii la o perspectivă mai amplă. Acum doi ani, el și colegii săi lucrau la aspectele etice ale asistenților de IA. Acum, însă, el conduce o echipă de filosofi și sociologi. Cu toate acestea, el a recunoscut totodată că „creșterile de productivitate vin de obicei la pachet cu un anumit tip de perturbare".

Activitatea recentă a lui Gabriel la DeepMind este un indicator util al trecerii la o perspectivă mai amplă. Acum doi ani, el și colegii săi se ocupau de aspectele etice ale asistenților AI. Acum, însă, el conduce o echipă de filosofi și cercetători în științe sociale care investighează „cum va influența AGI economia, cum va influența sfera politică, cum va influența relațiile umane și cum va interacționa cu știința și tehnologia".

Gabriel se așteaptă ca AGI să aducă schimbări majore - potențial la scara Revoluției Industriale. Totuși, el crede, de asemenea, că IA nu este ceva „în fața căruia lumea devine o entitate fără fricțiuni". De asemenea, este perfect conștient că Revoluția Industrială nu a fost o experiență fericită pentru mulți dintre cei care au trăit-o, chiar dacă, în cele din urmă, a ridicat nivelul de trai în întreaga lume: „Lucrurile s-au înrăutățit înainte de a se îmbunătăți."

Cu toate acestea, Gabriel nu consideră că precedentul istoric rezolvă problema, în mare parte deoarece oamenii obișnuiți, atât individual, cât și colectiv, au mai multă putere decât aveau acum 300 de ani. Deși s-a ferit să pară „prea utopic și lipsit de fundament", el a spus că îi este ușor să-și imagineze o lume în care IA oferă beneficii care variază de la sfaturi la vindecarea bolilor și la îmbunătățirea creșterii economice, în moduri care să aducă beneficii atât celor bogați, cât și celor săraci. „Dacă reușim să gestionăm cu succes tranziția, dinamica puterii și riscurile, există un potențial generalizat de prosperitate umană la un nivel pe care nu l-am văzut până acum."

Dacă previziunile privind apariția IA generalizate (AGI) se vor dovedi corecte, ar putea ieși în prim-plan și întrebări și mai ample. Când am discutat cu Edward Harcourt, la Oxford, acesta a remarcat că „a reflecta asupra valorilor și schimbării tehnologice este foarte dificil, deoarece schimbarea tehnologică pare întotdeauna mai mult o revoluție în perspectivă decât în retrospectivă, din motivul evident că, atunci când privim înapoi, o facem din perspectiva valorilor care au fost modelate de schimbarea în cauză. Dacă citești ce scriau oamenii despre căile ferate înainte ca acestea să apară, vei vedea că le considerau o catastrofă totală. Și este adevărat: căile ferate au distrus un întreg mod de viață. Acum privim înapoi și ne gândim: care e problema?"

Și Gabriel consideră că IA ar putea genera schimbări care să depășească sfera economiei sau a tehnologiei. În timpul revoluției științifice, a remarcat el, „oamenii au trăit o deziluzie când s-a dezvăluit că lumea funcționa într-un anumit fel. Dar au câștigat și noi libertăți prin acea experiență." Va depinde de noi, a spus el, să decidem ce schimbări de valori vrem să acceptăm și la care alegem să ne opunem.

La un moment dat în conversațiile noastre, Gabriel mi s-a descris ca fiind „un umanist convins": nu este genul de persoană care așteaptă cu nerăbdare ziua în care mașinile superinteligente vor face umanitatea să devină obsoletă. Totuși, el recunoaște că, pe măsură ce computerele pătrund în activități și capacități pe care le-am considerat mult timp apanajul special al speciei Homo sapiens - limbajul, creativitatea, umorul, gustul -, ne trezim puși din nou în fața unora dintre cele mai vechi și mai dificile întrebări filosofice dintre toate. La fel cum descoperirile din fizică, biologie și astronomie au determinat generațiile trecute să-și revizuiască înțelegerea a ceea ce face ca specia noastră să fie distinctă, a sugerat el, la fel și IA ne-ar putea determina să reconsiderăm ce înseamnă să fii ființă umană.