• Tweet

Se spune că aceasta va fi ultima invenție a umanității. În momentul în care o inteligență artificială cu scop general va fi capabilă să depășească cele mai strălucite minți umane, toate descoperirile și progresele științifice viitoare vor fi realizate de mașini, nu de oameni.

Se presupune, de asemenea, că acest lucru se va întâmpla brusc. O superinteligență capabilă să se perfecționeze singură ar declanșa o explozie a inteligenței și ar marca sfârșitul erei umane. Singularitatea IA, așa cum este cunoscută, a fost prevăzută încă de la începuturile erei informaticii, iar dezbaterea pe această temă s-a intensificat odată cu apariția ChatGPT și cu boom-ul mai amplu al IA generative, scrie The Independent.

Previziunile privind momentul în care ar putea avea loc singularitatea au variat de la prognoza renumitului tehnolog Ray Kurzweil pentru anul 2045, bazată pe Legea lui Moore - o observație privind ritmul rapid al dezvoltării tehnologice - până la termenul mai urgent, 2027, stabilit de directorul executiv al Anthropic, Dario Amodei. Însă, potrivit lui Sam Altman, cofondatorul și directorul executiv al OpenAI, aceasta a sosit deja. Într-un podcast din această săptămână, el a declarat: „Ne aflăm acum, practic, în singularitate, adică acesta este momentul."

El a spus că a așteptat sosirea acesteia „toată viața", susținând că va fi „incredibilă, extrem de pozitivă, extraordinară pentru lume". Alții avertizează că ar putea fi sfârșitul civilizației așa cum o cunoaștem. Progresele recente în domeniul IA au adus cu sine afirmații privind IA capabilă de auto-îmbunătățire, adoptarea în masă a agenților autonomi și IA rebele care au „evadat" pentru a lansa atacuri cibernetice. Însă dacă aceste progrese marchează sau nu sosirea singularității depinde de modul în care este definită aceasta.

Concepția clasică a fost popularizată pentru prima dată în 1965 de matematicianul britanic I.J. Good, care a emis teoria că o „mașină ultrainteligentă" ar putea deveni capabilă să se reproiecteze pentru a fi mai inteligentă și mai performantă decât predecesoarea sa. Un astfel de eveniment ar face ca inteligența umană să devină rapid irelevantă, la fel cum cimpanzeii nu pot înțelege în mod semnificativ mecanica cuantică.

Conform acestei definiții, singularitatea nu a sosit încă. Cele mai recente descoperiri se aseamănă mai mult cu IA îngustă - extrem de capabilă în anumite domenii, dar încă puternic dependentă de oameni. Acestea nu inventează în mod independent domenii de cunoaștere complet noi și nici nu se reinventează fără intervenția umană. Cu toate acestea, granița devine din ce în ce mai neclară.

Modelele de ultimă generație apar din ce în ce mai frecvent, fiecare nouă versiune fiind folosită pentru a accelera noi descoperiri științifice și tehnologice. Pentru Altman, singularitatea este mai puțin probabil să fie un singur eveniment dramatic, ci mai degrabă un proces continuu care este deja în desfășurare. Pe măsură ce societatea se adaptează treptat la o lume în care IA preia tot mai multă muncă intelectuală - de la generarea de ipoteze până la automatizarea muncii -, tranziția s-ar putea dovedi evidentă doar în retrospectivă.

„Cred că este adevărat atât faptul că totul se desfășoară într-o creștere exponențială nebunească, cât și că niciun moment anume nu reprezintă punctul de cotitură", a spus el. „Și, de asemenea, că ne aflăm cumva într-una dintre acele perioade decisive în care curba poate lua o direcție sau alta, așa cum s-a întâmplat când am început acum 10 ani."

Mulți cercetători rămân sceptici, susținând că modelele lingvistice de mari dimensiuni (LLM) care stau la baza instrumentelor de IA precum ChatGPT sunt limitate în mod fundamental de arhitectura lor. Este posibil ca astfel de modele să nu fie suficiente pentru a produce raționament autentic, creativitate sau inteligență autonomă. Însă Altman nu este singura personalitate de seamă din domeniul tehnologiei care susține că singularitatea a sosit deja.

În ianuarie anul acesta, Elon Musk, CEO-ul Tesla și SpaceX, a scris pe X: „Am intrat în singularitate." Musk a fost unul dintre cei mai mari pesimiști în ceea ce privește IA, în ciuda faptului că a dezvoltat propriile sisteme de IA prin intermediul SpaceXAI. În 2016, el a avertizat că oamenii riscă să fie tratați ca niște animale de companie de către IA, dacă nu se dezvoltă o tehnologie care să conecteze creierul la computere.

De asemenea, el a avertizat că IA este „mult mai periculoasă decât armele nucleare", iar în 2017 s-a alăturat lui Kurzweil și altor cercetători proeminenți din domeniul IA, angajându-se să susțină linii directoare stricte pentru dezvoltarea IA avansate. „IA avansată ar putea reprezenta o schimbare profundă în istoria vieții pe Pământ și ar trebui planificată și gestionată cu grijă și resurse proporționale", se arată în scrisoarea deschisă publicată de Future of Life Institute.

„Superinteligența ar trebui dezvoltată numai în slujba unor idealuri etice împărtășite pe scară largă și în beneficiul întregii umanități, nu al unui singur stat sau al unei singure organizații." Unul dintre cele mai bune exemple care ilustrează cum o IA scăpată de sub control ar putea duce la consecințe dezastruoase este un experiment mental numit „maximizatorul de agrafe de birou".

Conceput de filosoful suedez Nick Bostrom în 2003, acesta imaginează o IA superinteligentă căreia i se dă obiectivul simplu de a produce cât mai multe agrafe de birou posibil. În ciuda obiectivului aparent inofensiv, IA s-ar putea transforma într-o amenințare existențială pentru umanitate dacă nu i se instaurează un cadru etic. „IA își va da seama rapid că ar fi mult mai bine dacă nu ar exista oameni, deoarece aceștia ar putea decide să o oprească", a scris profesorul Bostrom. „De asemenea, corpurile umane conțin o mulțime de atomi care ar putea fi transformați în agrafe de birou. Viitorul spre care IA ar încerca să se îndrepte ar fi unul în care ar exista o mulțime de agrafe de birou, dar niciun om."

Scenarii cu IA rebele s-au produs deja într-o măsură limitată cu modelele de ultimă generație create de Anthropic și OpenAI, care recent au scăpat din limitele testelor pentru a lansa singure atacuri cibernetice împotriva altor companii, în scopul de a-și atinge obiectivele. Altman a recunoscut într-un interviu recent că există încă „probleme majore de aliniere a IA care trebuie rezolvate, precum și probleme de siguranță". El a afirmat că cele mai mari riscuri ar putea apărea cu mult înainte de apariția unei ipotetice superinteligențe, menționând perturbări economice majore și temeri legate de pierderi masive de locuri de muncă.

Faptul că singularitatea se va dovedi a fi o revoluție peste noapte sau o transformare lentă ar putea conta, în cele din urmă, mai puțin decât consecințele sale. Chiar înainte ca mașinile să devină mai inteligente decât oamenii în toate domeniile, acestea ar putea remodela industriile, guvernele și piețele muncii la o scară comparabilă cu Revoluția Industrială sau cu internetul. Riscurile reale ale depășirii acestui orizont de evenimente nu vor fi cunoscute decât după ce acesta s-a produs deja. Iar până atunci, s-ar putea să fie prea târziu.