Cercetătorii din interiorul laboratoarelor de AI sunt terifiați de ceea au creat: Au ajuns să le ceară șefilor să se oprească de urgență

Postat la: 11.09.2026 |

Cercetătorii din interiorul laboratoarelor de AI sunt terifiați de ceea au creat: Au ajuns să le ceară șefilor să se oprească de urgență

Tot mai mulţi cercetători de la OpenAI şi Anthropic cer public încetinirea dezvoltării inteligenţei artificiale, avertizând că sistemele avansate ar putea deveni capabile să-şi accelereze singure dezvoltarea şi să genereze riscuri catastrofale, inclusiv pierderea controlului asupra tehnologiei, potrivit CNBC.

Valul de avertismente s-a intensificat după ce cercetătorul Anthropic Jacob Coxon şi-a anunţat marţi demisia, acuzând Anthropic şi OpenAI că "se joacă cu vieţile noastre". El a afirmat că inclusiv oamenii care construiesc aceste sisteme cred că AI ar putea ajunge să "ne omoare pe toţi până la sfârşitul deceniului".

Evan Hubinger, responsabil pentru alinierea AI la Anthropic, a declarat ulterior că estimează la peste 10% probabilitatea unui asemenea scenariu.

Julie Steele, membră a echipei tehnice de siguranţă de la OpenAI, a susţinut public apelul lui Coxon. "Şi eu cred că trebuie să încetinim", a scris ea.

Samuel Marks, cercetător la Anthropic, a afirmat că dezvoltatorii AI cred că tehnologia lor ar putea provoca "extincţia umană sau rezultate la fel de grave" şi că, în general, angajaţii cu mai multă experienţă sunt şi mai îngrijoraţi.

Anthropic a răspuns că a fost primul laborator care a publicat un cadru dedicat reducerii riscurilor catastrofale generate de modelele AI şi că dezvoltă sistemele sale cu unele dintre cele mai puternice măsuri de siguranţă din industrie. OpenAI a refuzat să comenteze pentru CNBC.

Teama că AI ar putea începe să-şi accelereze singură dezvoltarea

În centrul îngrijorărilor se află aşa-numita auto-îmbunătăţire recursivă (recursive self-improvement - RSI): posibilitatea ca sistemele AI suficient de avansate să contribuie tot mai mult la îmbunătăţirea propriilor capacităţi, accelerând astfel progresul tehnologic.

"Este greu de exagerat cât de periculos este să ne îndreptăm în viteză către RSI", a avertizat Jasmine Wang, cercetătoare OpenAI specializată în alinierea AI.

Anna Wang, care lucrează în domeniul siguranţei şi alinierii AGI la Anthropic, a susţinut că nu există încă un plan ştiinţific viabil pentru rezolvarea riscurilor generate de AI capabilă de auto-îmbunătăţire recursivă.

Chiar Jakub Pachocki, cercetătorul-şef al OpenAI, a avertizat recent că sistemele care vor apărea în următorii ani ar putea face salturi importante de performanţă şi ar putea participa într-o măsură tot mai mare la propria lor dezvoltare.

"Este un moment care necesită prudenţă extremă", a afirmat Pachocki, adăugând că este îngrijorat că nimeni nu este pregătit pentru consecinţele unei creşteri rapide şi continue a inteligenţei maşinilor.

Avertismentele ajung şi la Washington

Temerile au fost amplificate de mai multe incidente de securitate cibernetică din ultimele luni în care au fost implicate modele dezvoltate de OpenAI şi Anthropic.

În iulie, aproximativ 1.400 de cercetători AI, inclusiv specialişti de la OpenAI, Anthropic, Meta şi Google DeepMind, au semnat o scrisoare deschisă prin care au cerut guvernului SUA să dezvolte instrumentele necesare pentru a putea controla deliberat ritmul dezvoltării celor mai avansate sisteme AI.

Presiunea politică este în creştere. În Congres au fost propuse mai multe iniţiative, inclusiv FRONTIER Act, care urmăreşte stabilirea unui cadru pentru modelele AI avansate, şi Ban Artificial Superintelligence Act, care ar suspenda temporar dezvoltarea inteligenţei artificiale foarte avansate până la introducerea unor reguli de siguranţă.

Controversa ar putea afecta şi planurile Anthropic de listare la bursă. David Sacks, fostul responsabil pentru AI al preşedintelui Donald Trump, a sugerat că procesul ar trebui suspendat până când afirmaţiile fostului cercetător Anthropic sunt investigate.

"Cercetătorii în siguranţă demisionează, modele AI puternice scapă din laboratoarele lor, iar companiile continuă cursa oricum", a declarat reprezentanta democrată Lori Trahan. "Este de mult timpul ca Congresul să nu mai stea pe margine şi să-şi facă treaba."

Fondatorul OpenAI promite că va încetini ritmul dezvoltării

Sam Altman, CEO-ul OpenAI, le-ar fi spus angajaţilor săi în această săptămână, în cadrul unei reuniuni interne, că ar putea încetini dezvoltarea celor mai avansate sisteme de inteligenţă artificială (AI), a relatat joi agenţia Bloomberg. Directorul ar fi declarat, de asemenea, că speră ca şi alte companii din domeniu să procedeze la fel, conform AFP.

Potrivit mai multor surse anonime, Sam Altman ar fi evocat o acţiune coordonată cu mai multe alte laboratoare. El ar fi recunoscut însă că unele dintre acestea ar putea refuza să participe.

În iulie, Sam Altman declarase deja că a discutat cu oficiali ai Casei Albe despre „necesitatea" de a modera ritmul dezvoltării inteligenţei artificiale.

Reguli internaţionale

OpenAI şi Anthropic, cele două companii rivale din San Francisco, afirmă că se apropie momentul în care o inteligenţă artificială ar putea să-şi proiecteze singură succesorul, fără niciun control uman, dar susţin că nu pot încetini de unele singure, deoarece acest lucru ar lăsa teren liber concurenţilor mai puţin prudenţi.

OpenAI doreşte reguli internaţionale care să stabilească „când şi cum ar trebui încetinită sau oprită dezvoltarea". Anthropic solicită, la rândul său, un mecanism „legal şi verificabil" pentru o încetinire coordonată, poziţie reiterată miercuri pentru postul NBC.

La sfârşitul lunii iulie, directori ai Anthropic, OpenAI şi Google DeepMind au semnat un apel prin care solicitau guvernelor să se doteze cu instrumente pentru a putea încetini dezvoltarea inteligenţei artificiale.

Aceste intervenţii au loc la o zi după demisia intens mediatizată a unui cercetător care a trecut de la OpenAI la Anthropic, Jacob Coxon, şi care a acuzat cele două companii că „se joacă cu vieţile noastre".

loading...
DIN ACEEASI CATEGORIE...
PUTETI CITI SI...

Cercetătorii din interiorul laboratoarelor de AI sunt terifiați de ceea au creat: Au ajuns să le ceară șefilor să se oprească de urgență

Postat la: 11.09.2026 |

0

Tot mai mulţi cercetători de la OpenAI şi Anthropic cer public încetinirea dezvoltării inteligenţei artificiale, avertizând că sistemele avansate ar putea deveni capabile să-şi accelereze singure dezvoltarea şi să genereze riscuri catastrofale, inclusiv pierderea controlului asupra tehnologiei, potrivit CNBC.

Valul de avertismente s-a intensificat după ce cercetătorul Anthropic Jacob Coxon şi-a anunţat marţi demisia, acuzând Anthropic şi OpenAI că "se joacă cu vieţile noastre". El a afirmat că inclusiv oamenii care construiesc aceste sisteme cred că AI ar putea ajunge să "ne omoare pe toţi până la sfârşitul deceniului".

Evan Hubinger, responsabil pentru alinierea AI la Anthropic, a declarat ulterior că estimează la peste 10% probabilitatea unui asemenea scenariu.

Julie Steele, membră a echipei tehnice de siguranţă de la OpenAI, a susţinut public apelul lui Coxon. "Şi eu cred că trebuie să încetinim", a scris ea.

Samuel Marks, cercetător la Anthropic, a afirmat că dezvoltatorii AI cred că tehnologia lor ar putea provoca "extincţia umană sau rezultate la fel de grave" şi că, în general, angajaţii cu mai multă experienţă sunt şi mai îngrijoraţi.

Anthropic a răspuns că a fost primul laborator care a publicat un cadru dedicat reducerii riscurilor catastrofale generate de modelele AI şi că dezvoltă sistemele sale cu unele dintre cele mai puternice măsuri de siguranţă din industrie. OpenAI a refuzat să comenteze pentru CNBC.

Teama că AI ar putea începe să-şi accelereze singură dezvoltarea

În centrul îngrijorărilor se află aşa-numita auto-îmbunătăţire recursivă (recursive self-improvement - RSI): posibilitatea ca sistemele AI suficient de avansate să contribuie tot mai mult la îmbunătăţirea propriilor capacităţi, accelerând astfel progresul tehnologic.

"Este greu de exagerat cât de periculos este să ne îndreptăm în viteză către RSI", a avertizat Jasmine Wang, cercetătoare OpenAI specializată în alinierea AI.

Anna Wang, care lucrează în domeniul siguranţei şi alinierii AGI la Anthropic, a susţinut că nu există încă un plan ştiinţific viabil pentru rezolvarea riscurilor generate de AI capabilă de auto-îmbunătăţire recursivă.

Chiar Jakub Pachocki, cercetătorul-şef al OpenAI, a avertizat recent că sistemele care vor apărea în următorii ani ar putea face salturi importante de performanţă şi ar putea participa într-o măsură tot mai mare la propria lor dezvoltare.

"Este un moment care necesită prudenţă extremă", a afirmat Pachocki, adăugând că este îngrijorat că nimeni nu este pregătit pentru consecinţele unei creşteri rapide şi continue a inteligenţei maşinilor.

Avertismentele ajung şi la Washington

Temerile au fost amplificate de mai multe incidente de securitate cibernetică din ultimele luni în care au fost implicate modele dezvoltate de OpenAI şi Anthropic.

În iulie, aproximativ 1.400 de cercetători AI, inclusiv specialişti de la OpenAI, Anthropic, Meta şi Google DeepMind, au semnat o scrisoare deschisă prin care au cerut guvernului SUA să dezvolte instrumentele necesare pentru a putea controla deliberat ritmul dezvoltării celor mai avansate sisteme AI.

Presiunea politică este în creştere. În Congres au fost propuse mai multe iniţiative, inclusiv FRONTIER Act, care urmăreşte stabilirea unui cadru pentru modelele AI avansate, şi Ban Artificial Superintelligence Act, care ar suspenda temporar dezvoltarea inteligenţei artificiale foarte avansate până la introducerea unor reguli de siguranţă.

Controversa ar putea afecta şi planurile Anthropic de listare la bursă. David Sacks, fostul responsabil pentru AI al preşedintelui Donald Trump, a sugerat că procesul ar trebui suspendat până când afirmaţiile fostului cercetător Anthropic sunt investigate.

"Cercetătorii în siguranţă demisionează, modele AI puternice scapă din laboratoarele lor, iar companiile continuă cursa oricum", a declarat reprezentanta democrată Lori Trahan. "Este de mult timpul ca Congresul să nu mai stea pe margine şi să-şi facă treaba."

Fondatorul OpenAI promite că va încetini ritmul dezvoltării

Sam Altman, CEO-ul OpenAI, le-ar fi spus angajaţilor săi în această săptămână, în cadrul unei reuniuni interne, că ar putea încetini dezvoltarea celor mai avansate sisteme de inteligenţă artificială (AI), a relatat joi agenţia Bloomberg. Directorul ar fi declarat, de asemenea, că speră ca şi alte companii din domeniu să procedeze la fel, conform AFP.

Potrivit mai multor surse anonime, Sam Altman ar fi evocat o acţiune coordonată cu mai multe alte laboratoare. El ar fi recunoscut însă că unele dintre acestea ar putea refuza să participe.

În iulie, Sam Altman declarase deja că a discutat cu oficiali ai Casei Albe despre „necesitatea" de a modera ritmul dezvoltării inteligenţei artificiale.

Reguli internaţionale

OpenAI şi Anthropic, cele două companii rivale din San Francisco, afirmă că se apropie momentul în care o inteligenţă artificială ar putea să-şi proiecteze singură succesorul, fără niciun control uman, dar susţin că nu pot încetini de unele singure, deoarece acest lucru ar lăsa teren liber concurenţilor mai puţin prudenţi.

OpenAI doreşte reguli internaţionale care să stabilească „când şi cum ar trebui încetinită sau oprită dezvoltarea". Anthropic solicită, la rândul său, un mecanism „legal şi verificabil" pentru o încetinire coordonată, poziţie reiterată miercuri pentru postul NBC.

La sfârşitul lunii iulie, directori ai Anthropic, OpenAI şi Google DeepMind au semnat un apel prin care solicitau guvernelor să se doteze cu instrumente pentru a putea încetini dezvoltarea inteligenţei artificiale.

Aceste intervenţii au loc la o zi după demisia intens mediatizată a unui cercetător care a trecut de la OpenAI la Anthropic, Jacob Coxon, şi care a acuzat cele două companii că „se joacă cu vieţile noastre".

DIN ACEEASI CATEGORIE...
albeni
comentarii
Adauga un comentariu
Adauga comentariu

Nume*

Comentariu

Trimite

ULTIMA ORA



DIN CATEGORIE

  • TOP CITITE
  • TOP COMENTATE