• Tweet

Autor: Anil Seth

De secole, oamenii sunt fascinați de perspectiva creării unor ființe artificiale după chipul și asemănarea noastră. De dezvoltarea unor minți sintetice și a unor corpuri artificiale care nu numai că gândesc, ci și simt, fiind atât inteligente, cât și conștiente. În marea majoritate a acestei perioade, această perspectivă părea foarte îndepărtată; un subiect pentru science-fiction și filosofie, nu pentru prezent. Însă, în ultimii ani, ascensiunea rapidă a AI - și mai ales a modelelor lingvistice - a schimbat totul.

Săptămâna trecută, firma de pionierat în domeniul AI, Anthropic, a publicat o nouă cercetare privind modelul său lingvistic, Claude, în care cercetătorii au afirmat că au găsit semne ale apariției conștienței în funcționarea sa internă. Ei nu au susținut că Claude este de fapt conștient în același mod în care sunt oamenii, dar descoperirile au ridicat cu siguranță miza în ceea ce privește posibilitatea apariției conștiinței de tp AI.

În prezent, există un mediu din ce în ce mai receptiv la acest tip de gândire. Richard Dawkins, renumitul biolog evoluționist, a concluzionat recent că Claude (sau Claudia, cum l-a numit el) nu putea decât să fie conștient, având în vedere sofisticarea abilităților sale de conversație.

Miza este mare. Dacă AI este (sau poate fi) conștientă, consecințele ar fi cutremurătoare. AI-urile conștiente ar putea suferi, ceea ce ar duce la o catastrofă morală fără precedent. Iar dacă siliciul poate fi conștient, atunci poate că propriile noastre creiere și corpuri imperfecte vor fi în curând înlocuite de mașini care nu îmbătrânesc niciodată și nu pot muri. Unii oameni cred chiar că AI-urile vor fi descendenții noștri, purtând flacăra conștiinței departe în viitor și prin întreaga galaxie.

Cercetarea efectuată de Anthropic, condusă de Jack Lindsey, este impresionantă. Echipa sa a dezvoltat o nouă modalitate de a analiza acrobațiile statistice dintre datele de intrare ale unui model lingvistic - orice i se introduce - și rezultatul acestuia. Ei au descoperit o activitate care părea să formeze un fel de „spațiu de lucru mental" pentru model. Acest spațiu de lucru conținea tot felul de cuvinte și expresii asociate cu conversația curentă, păstra elemente relevante într-un fel de memorie pe termen scurt și demonstra selectivitate față de orice sarcină avea de îndeplinit. De asemenea, acesta prezenta urme de raționament pas cu pas și multe alte aspecte.

În esență, descoperirile lor par să dezvăluie faptul că AI creează în mod spontan un spațiu intern pentru a „gândi" asupra a ceea ce face și pentru a organiza informațiile relevante, înainte de a decide ce să spună efectiv ca răspuns la o anumită solicitare.

Punctul crucial pentru cercetători a fost faptul că aceste caracteristici sunt similare cu cele identificate de una dintre cele mai proeminente teorii actuale privind conștiința umană: teoria spațiului de lucru global. Această teorie a fost introdusă în anii 1980 de către specialistul în științe cognitive Bernard Baars și dezvoltată de-a lungul multor ani de către neuroscientistul Stanislas Dehaene. Teoria propune că experiențele conștiente au loc atunci când informația este pusă la dispoziția altor părți ale creierului.

Este „spațiul de lucru" din interiorul lui Claude o dovadă solidă a conștiinței? Pentru a răspunde la această întrebare, trebuie mai întâi să definim ce este conștiința. Nu există un consens în această privință, dar un punct de plecare rezonabil îl oferă filosoful Thomas Nagel. Acum cincizeci de ani, în eseul său „Cum este să fii un liliac?", el a susținut că, pentru un organism conștient, „există ceva care descrie cum este să fii acel organism". A fi eu însumi înseamnă ceva, a fi tu însuți înseamnă ceva și, probabil, a fi un câine sau un elefant înseamnă ceva. Dar a fi un scaun, o masă sau o persoană aflată sub anestezie generală profundă nu înseamnă nimic. Conștiința este orice fel de experiență: durerea unei carii dentare, o înțepătură de gelozie, plăcerea de a mânca înghețată într-o zi toridă.

O consecință importantă a acestei definiții este că conștiința este diferită de inteligență. În timp ce conștiința ține de simțire și de a fi, inteligența ține de a face - de îndeplinirea unor funcții de un fel sau altul. O greșeală frecventă pe care o fac oamenii când vine vorba de AI este să confunde cele două - să considere semnele de inteligență drept dovezi ale conștiinței. Dar doar pentru că conștiința și inteligența merg mână în mână la oameni, asta nu înseamnă că merg mână în mână în general. Presupunerea că ar fi așa este o reflectare a propriei noastre psihologii, nu o înțelegere a naturii realității.

Acesta este unul dintre motivele pentru care noua cercetare a Anthropic este valoroasă. Ea nu se bazează exclusiv pe prejudecățile noastre psihologice. În schimb, merge mai adânc pentru a căuta semne ale procesării conștiente a informației care ar putea fi împărtășite de oameni și mașini. Și susține că a găsit câteva.

Toate acestea sunt lucruri fascinante, dar există încă multe diferențe între Claude și tine și mine, precum și motive întemeiate să credem că aceste diferențe rămân esențiale. În primul rând, descoperirile Anthropic nu îndeplinesc cerințele tipice ale teoriei spațiului de lucru global (de exemplu, nu există activitate recurentă în Claude, un tip specific de buclă de feedback a informației pe care o vedem in creierul uman).

Există însă o diferență mai fundamentală: Claude este un program de calculator care rulează pe siliciu, în timp ce noi (și alte animale conștiente) suntem ființe vii. Creierele noastre sunt încorporate în corpuri care sunt integrate în lumi.

De ce este importantă această diferență? Pentru că însăși posibilitatea existenței unei AI conștiente depinde de presupunerea că conștiința este o chestiune de calcul și că calculele responsabile de conștiința noastră ar putea fi la fel de bine implementate în siliciu, în cadrul IA.

Cu cât ne uităm mai atent la creierele reale, cu atât devine mai clar că acestea nu sunt doar computere făcute din carne. În cazul creierelor, spre deosebire de computere, nu poți separa clar ceea ce fac (software-ul) de ceea ce sunt (hardware-ul). La rândul său, acest lucru înseamnă că este puțin probabil ca ceea ce fac să fie doar o chestiune de calcul - întrucât capacitatea de a separa software-ul de hardware este esențială pentru modul în care funcționează computerele moderne.

Pe parcurs, se pare că am uitat că computerul este doar o metaforă pentru creier. O metaforă puternică, cu siguranță, dar totuși o metaforă. Și vom avea mereu probleme când confundăm o metaforă cu lucrul în sine - harta cu teritoriul.

Pentru mine, ceea ce arată noua cercetare a Anthropic este că atât creierele vii, cât și computerele din siliciu pot găsi soluții similare atunci când se confruntă cu probleme similare. La fel cum zborul este posibil atât cu aripile care bat, cât și cu motoarele cu reacție, creierele umane și modelele lingvistice pot găsi modalități de a exprima lucruri plauzibile fie prin conștiință (creierele), fie fără aceasta (modelele lingvistice). Însă procesarea informației care are loc în interiorul lui Claude nu are mai multe șanse să ducă la conștiință decât are o simulare a unui sistem meteorologic să genereze un uragan real.

Sistemele de AI devin din ce în ce mai puternice pe zi ce trece. Dar, pentru a ne oferi cea mai bună șansă de a naviga în această nouă lume, ar trebui să ne amintim cât de diferiți suntem de creațiile noastre aproape magice. Când ne vindem mințile prea ieftin mașinilor noastre, nu numai că le supraestimăm pe acestea, ci ne subestimăm pe noi înșine.