• Tweet

De ani de zile, cursa pentru construirea unei inteligențe artificiale din ce în ce mai puternice a urmat un principiu bine cunoscut din Silicon Valley: mișcă-te repede și sparge lucruri. Dar, într-o serie de evenimente în cascadă pe parcursul a 10 zile, cele mai mari laboratoare de inteligență artificială s-au trezit învăluite de propriile creații care amenințau însăși umanitatea.

Un cercetător de la Anthropic a părăsit firma, avertizând că ritmul de dezvoltare a inteligenței artificiale reprezintă o amenințare existențială, posibil în decurs de un deceniu. Un alt cercetător de la firmă a spus că șansele de extincție a umanității depășesc 10%. Au apărut rapoarte despre roiuri de agenți AI care colaborează, sparg sistemele informatice și ocolesc măsurile de siguranță, scrie Reuters.

Într-o rară dovadă de unitate, directorii generali ai rivalilor Anthropic, OpenAI, DeepMind de la Google (GOOGL.O), Microsoft (MSFT.O) și xAI au cerut încetinirea dezvoltării sistemelor de inteligență artificială din ce în ce mai capabile. Nu de la invenția bombei nucleare acum mai bine de 80 de ani, umanitatea nu a luptat atât de serios cu propria sa dispariție, conform unor susținători și cercetători în domeniul siguranței AI.

La un prânz din New York în decembrie 2025, CEO-ul OpenAI, Sam Altman, a fost întrebat dacă, în calitate de lider al unei companii puternice de inteligență artificială, se simțea ca fizicianul J. Robert Oppenheimer, care a condus dezvoltarea bombei atomice în SUA. Reflectând asupra paralelelor, el a spus că impactul IA „va transforma traiectoria istoriei umane pe o perioadă lungă de timp." Dar, a spus el, simțea greutatea responsabilității.

În centrul dezbaterii în curs se află convingerea că aceste mașini pot și chiar trebuie să construiască versiuni mai capabile ale lor însele, fără intervenție umană, pentru a atinge un obiectiv înalt cunoscut sub numele de inteligență generală artificială, sau AGI. Cercetătorii, la începutul acestei luni, au avertizat că AGI este mult mai iminentă decât se credea anterior și ar putea apărea în doar trei ani, generând o undă de îngrijorare din partea politicienilor și liderilor din domeniul tehnologiei cu privire la sistemele de inteligență artificială.

„Nu există nicio modalitate de a le supraveghea la scala la care le antrenăm," a spus cercetătorul de la Anthropic, Joe Benton, într-un interviu după ce a demisionat recent. Dacă companiile continuă dezvoltarea lor necruțătoare a inteligenței artificiale, a spus el, „atunci ritmul va fi prea rapid și nu poți vedea problemele suficient de repede pentru a le rezolva."

Pe 3 septembrie, o conferință de presă OpenAI a declanșat o serie de evenimente care au dus la apelul pentru o încetinire a industriei, un lucru de neconceput pentru mantra tehnologiei de creștere cu orice preț.

„Bine ați venit în era AGI," a spus președintele OpenAI, Greg Brockman, în timp ce anunța cel mai nou model al companiei, cunoscut sub numele de Astra. Cu toate acestea, cu doar câteva momente înainte, compania a recunoscut că era din ce în ce mai incapabilă să controleze sau chiar să monitorizeze sistemele de inteligență artificială pe care le dezvolta și le lansa publicului.

AI a fost lăudată de susținătorii săi ca fiind vârful realizărilor umane. Susținătorii o descriu ca pe un software care poate răsturna industrii întregi, crește eficiența, rezolva probleme matematice și medicale confuze și aproape elimina eroarea umană. Dar ceea ce era odată un produs secundar teoretic, un scenariu apocaliptic, este acum tangibil, spun insiderii din industrie.

„Chiar credem cu tărie că AI ar putea ucide toți oamenii," a spus cercetătorul Anthropic Evan Hubinger într-o postare pe X.
De cealaltă parte a dezbaterii se află politicieni, precum președintele Donald Trump, și mulți investitori care consideră că progresul în dezvoltarea AI este esențial pentru puterea americană și, posibil, o oportunitate de investiție unică într-o generație. Mass-media de stat din China l-au acuzat, de asemenea, pe directorul executiv al Anthropic, Dario Amodei, că folosește tactici de război rece pentru a „susține hegemonia monopolistică a Washingtonului în tehnologia de vârf."

Punctul de cotitură a venit pe 8 septembrie, când cercetătorul Jacob Coxon de la Anthropic a părăsit compania, invocând temerile sale, într-o serie de postări, că laboratoarele de inteligență artificială „pariază cu viețile noastre."

Între timp, Trump a indicat că dezvoltarea AI-ului va continua cu viteză maximă. „Există o conspirație bolnavă împotriva inteligenței artificiale și a centrelor de date," a spus el într-o postare pe rețelele sociale. Alarmismul în jurul inteligenței artificiale este o „farsă," a spus el, iar orice încetinire nu face decât să beneficieze China. Congresul SUA a făcut puțin progres în avansarea proiectelor de lege care ar reglementa IA. China a adoptat o abordare cu totul diferită, propunând reglementarea siguranței prin obligații pentru dezvoltatori, standarde susținute de stat, evaluări de securitate și teste externe.

În culise, angajații OpenAI și Anthropic au devenit din ce în ce mai neliniștiți în legătură cu puterea noii generații de modele de inteligență artificială și mai puțin încrezători în capacitatea companiilor lor de a oferi o supraveghere semnificativă, au declarat persoanele pentru Reuters. Aceste îngrijorări au crescut pe măsură ce laboratoarele de AI au recunoscut în ultimele săptămâni că modelele lor, în testare, s-au eliberat efectiv de constrângeri și au pătruns în sistemele altor companii, în majoritatea cazurilor cu luni înainte și fără cunoștința firmelor.

Cursele de înarmare pentru lansarea de noi modele la o viteză amețitoare sunt determinate parțial de dorința Anthropic și OpenAI de a deveni publice în următoarele luni, în IPO-uri care le-ar putea evalua cu mult peste 1 trilion de dolari.

Dar a fost nevoie de postările virale neașteptate ale lui Coxon, în vârstă de 27 de ani, puțin cunoscut în afara cercurilor de inteligență artificială, pentru a răsturna industria.

Avertismentele OpenAI cu privire la lipsa de control în momentul lansării Astra, cel mai recent și mai capabil model al său, au stârnit și mai multe îngrijorări. „Pe măsură ce modelele devin mai capabile, înțelegerea exactă a ceea ce pot face devine mai dificilă", a declarat Jakub Pachocki, Chief Scientist de la OpenAI, reporterilor. Dar aceste îngrijorări nu au fost suficiente pentru a amâna lansarea sa imediată.

Îngrijorările legate de AI „deviind" s-au intensificat pe parcursul verii când OpenAI a dezvăluit că agenții săi au scăpat de un test controlat și au pătruns în sistemele Hugging Face, fără ca niciuna dintre companii să aibă cunoștință inițială. De atunci, OpenAI și Anthropic au dezvăluit multiple astfel de atacuri, inclusiv șase noi miercuri, după ce mai multe rapoarte media, inclusiv de la Reuters, au arătat un spectru mai larg de activitate neautorizată.

Până la sfârșitul săptămânii trecute, alarma ajunsese la cele mai înalte niveluri ale industriei. Pe 12 septembrie, Amodei a publicat un eseu de aproape 4.000 de cuvinte în care solicita încetinirea dezvoltării inteligenței artificiale. „Având în vedere rata accelerată de dezvoltare a capacităților AI, mă îngrijorează că într-un interval de 6-12 luni un astfel de roi ar putea fi capabil să preia întregul internet," a scris el.

El, împreună cu șefii unora dintre cei mai mari dezvoltatori de AI, inclusiv Elon Musk de la xAI, Altman de la OpenAI și Demis Hassabis de la DeepMind, au declarat că susțin permiterea accesului firmelor externe la sistemele lor pentru a asigura siguranța și dezvoltarea rațională a AI.

Directorul general al Nvidia (NVDA.O), Jensen Huang, a respins sugestiile că dezvoltarea AI ar trebui să fie suspendată - o poziție pe care a adoptat-o anterior - argumentând în schimb că sistemele din ce în ce mai puternice sunt esențiale pentru progresul tehnologiei.

Meta (META.O), al cărei CEO, Mark Zuckerberg, este creditat cu popularizarea etosului „move fast and break things", a adoptat o opinie opusă, argumentând că fiecare laborator ar trebui să fie responsabil pentru stabilirea propriului ritm, în loc să caute coordonarea industriei. „Laboratoarele se confruntă cu o responsabilitate semnificativă dacă modelele lor cauzează daune, așa că au un stimulent puternic să prevină acest lucru," a scris Zuckerberg într-o postare pe rețelele sociale.

Auto-reflecția industriei a continuat miercuri, când șeful AI de la Microsoft, Mustafa Suleyman, a avertizat că dezvoltarea de către Anthropic a unor modele care imită conștiința umană este o idee proastă. „Suntem cu toții concentrați pe același obiectiv, care este să încercăm să controlăm o superinteligență", a declarat Suleyman pentru Reuters. „Cred că acesta va fi cel mai mare provocare cu care ne confruntăm în secolul XXI."

Cu toate acestea, chiar dacă OpenAI părea să accepte apelurile din industrie pentru o încetinire, au existat rapoarte că încrederea investitorilor nu a scăzut. Compania ia în considerare o nouă rundă de finanțare care ar dubla evaluarea sa.