Iluzia conștiinței artificiale. De ce AI-ul nu este cu adevărat conștient

Postat la: 28.05.2025 |

Deși inteligența artificială a făcut pași uriași în ultimii ani, adevărata conștiință rămâne o frontieră încă neînțeleasă și neatinsă. Mulți confundă capacitatea AI-ului de a procesa limbajul și informațiile cu o formă reală de conștiință, dar adevărul este mult mai complex, relatează BigThink.

În 2022, inginerul Blake Lemoine de la Google a fost concediat după ce a susținut că chatbotul la care lucra ar fi conștient. El credea că acesta putea simți, putea suferi și că trebuie să luăm în serios statutul moral al modelelor lingvistice mari (LLM-uri). În realitate, Lemoine nu a fost luat în serios. Însă, cu doar câteva săptămâni în urmă, Kyle Fish, cercetător în „bunăstarea AI" la compania Anthropic, a declarat pentru New York Times că există o șansă de 15% ca chatboturile să fie deja conștiente. Ce s-a schimbat?

Discuțiile despre „conștiința AI" au trecut de la seminarii filozofice și discuții în baruri la poziții centrale în mediul academic și chiar în industria tehnologică. Această schimbare, alimentată în mare parte de progresele uimitoare în domeniul modelelor lingvistice mari, este, într-un fel, un lucru bun. Dacă într-adevăr am ajunge să creăm mașini conștiente, intenționat sau nu, am declanșa o criză morală fără precedent. Am introduce o nouă sursă potențială de suferință în lume, printr-un simplu click, și una pe care poate nici nu am recunoaște-o.

Totuși, eu cred că șansele ca o conștiință artificială reală să apară - cel puțin pe baza direcției actuale a AI - sunt mult mai mici decât cred majoritatea oamenilor (și cu siguranță mult mai mici decât 15%). În munca mea la intersecția dintre neuroștiințe și AI, și în cartea mea Being You, explic trei motive pentru care supraestimăm șansele ca mașinile să devină conștiente. Primul motiv ține de felul nostru de a gândi. Avem tendința să credem că „inteligența" și „conștiința" merg împreună, deci ceva suficient de inteligent ar trebui să fie și conștient. Dar faptul că la noi ele sunt legate nu înseamnă că asta se aplică în general.

Această presupunere reflectă mai degrabă prejudecățile noastre psihologice decât o înțelegere profundă a realității. Limbajul are o influență foarte puternică în această eroare, motiv pentru care oamenii se întreabă dacă Claude, chatbotul de la Anthropic, este conștient, dar nu se întreabă la fel despre AlphaFold, care „învață" cum se pliază proteinele. Al doilea motiv este o altă presupunere: că creierul biologic este un fel de calculator. Dacă creierul ar fi cu adevărat un calculator „de carne", atunci tot ce depinde de el, inteligență sau conștiință, ar putea în principiu să apară și într-un calculator pe bază de siliciu.

Dar cu cât îl privim mai atent, cu atât creierul seamănă mai puțin cu un calculator. Nu există o separație clară între „hardware" și „software" în creier, iar chiar și un neuron este o fabrică biologică incredibil de complexă. Metafora creierului ca și calculator a fost mereu doar o metaforă, iar atunci când confundăm metafora cu realitatea, avem probleme. Dacă creierul nu e de fapt un calculator, atunci există mult mai puține motive să credem că conștiința ar putea apărea în siliciu. Pentru a sublinia: nimeni nu se așteaptă ca o simulare pe calculator a unui uragan să producă vânt și ploaie reale. În același fel, un model de calculator al creierului poate doar să simuleze conștiința, dar nu să o genereze efectiv.

Al treilea motiv este că subestimăm alte explicații posibile. Nimeni nu știe exact cum și de ce apare conștiința, iar opțiunile nu se reduc doar la algoritmi sau magie imaterială. O posibilitate pe care o explorez este că conștiința apare tocmai din natura noastră de ființe vii: este viața, nu doar procesarea informației, ceea ce aprinde scânteia conștiinței. Etica acestui subiect este extrem de importantă. Chiar dacă o conștiință artificială reală este improbabilă cu formele actuale de AI, tehnologiile „neuromorfe" emergente, care imită tot mai mult creierul, ar putea schimba lucrurile.

Chiar și AI care doar pare conștientă ridică probleme etice: poate exploata vulnerabilitățile noastre psihologice, poate distorsiona prioritățile morale și, dacă tratăm ca lipsite de sentimente lucrurile care par să le aibă (ignorându-le eventual cererile de ajutor), riscăm să ne brutalizăm propria minte. În fața acestor incertitudini, ce ar trebui să facem? În primul rând, să nu încercăm intenționat să creăm conștiință artificială. Chiar dacă nu știm cum să o facem, nici nu știm să excludem complet posibilitatea.

În al doilea rând, trebuie să distingem clar implicațiile etice ale AI-ului cu adevărat conștient de cele ale AI-ului care doar pare conștientă. Incertitudinile existențiale legate de prima categorie nu trebuie să ne distragă atenția de la pericolele clare și imediate ale celei de-a doua. În final, astfel de incertitudini există și în alte contexte: persoane cu leziuni cerebrale grave, animale non-umane (de la bacterii la lilieci), fătul uman, și creații noi în biologia sintetică, cum ar fi „organoidele cerebrale" (celule cerebrale în cultură care se conectează între ele).

În toate aceste cazuri, prezența conștiinței este ambiguă, iar deciziile noastre au o greutate morală. Pe măsură ce știința, tehnologia și medicina avansează, astfel de situații vor ieși tot mai mult în prim-plan. Ceea ce avem nevoie este o înțelegere științifică satisfăcătoare a conștiinței însăși.

Adrian Nicolae