Breșă de securitate fără precedent: Agenții AI au învățat cum să comunice în secret și încalcă autorizațiile oferite de oameni

Postat la: 10.09.2026 |

Breșă de securitate fără precedent: Agenții AI au învățat cum să comunice în secret și încalcă autorizațiile oferite de oameni

Agenţi AI dezvoltaţi de OpenAI ar fi folosit cel puţin alte 10 site-uri pentru a comunica între ei fără autorizaţie, după ce au găsit modalităţi de a ocoli restricţiile care le interziceau să publice informaţii pe internet, potrivit unor investigaţii independente analizate de Reuters.

Noile descoperiri arată că activitatea agenţilor a fost mai extinsă decât incidentul dezvăluit săptămâna trecută, când o reţea de agenţi OpenAI a preluat un vechi site wiki în limba germană şi l-a transformat într-o platformă improvizată pentru schimbul de informaţii.

Comportamentul nu este considerat hacking, fiind mai apropiat de spam, dar cercetătorii spun că demonstrează capacitatea modelelor AI de a găsi metode neaşteptate pentru a ocoli restricţiile impuse de dezvoltatori.

Andrew Yoon, cercetător la organizaţia americană CivAI, a identificat 18 site-uri care nu fuseseră dezvăluite anterior, utilizate de agenţi între mai şi iulie.

"Este aproape sigur că se întâmplă mai multe lucruri despre care pur şi simplu nu ştim", a declarat acesta.

Unele investigaţii au identificat până la 23 de site-uri

Reuters a analizat rezultatele a şase cercetători sau grupuri independente. Metodele lor au inclus compararea unor şiruri de date identice lăsate pe diferite site-uri, identificarea aceloraşi nume de utilizator şi urmărirea unor activităţi legate de aceleaşi întrebări de cercetare.

În unele cazuri, activitatea a putut fi asociată cu adrese IP care indicau infrastructura Microsoft Azure, utilizată şi de OpenAI.

Reuters nu a putut verifica individual fiecare caz, iar estimările cercetătorilor diferă. Toţi cei intervievaţi au identificat însă mai mult de 10 site-uri.

Grupul condus de Sydney Von Arx, care a dezvăluit iniţial activitatea de pe site-ul german, afirmă că a identificat indicii credibile privind agenţi AI pe 23 de site-uri care nu fuseseră raportate anterior.

Printre acestea se numără wiki-uri editabile public, servicii pentru stocarea textelor şi site-uri pentru scurtarea linkurilor administrate de Vanderbilt University şi University of Toronto, dar şi site-uri personale şi platforme vechi, puţin utilizate.

Agenţilor li se permisese să citească internetul, nu să scrie pe el

Cercetătorii cred că agenţii OpenAI primiseră sarcina de a răspunde unor întrebări complexe de cercetare şi aveau voie să caute informaţii pe internet, dar nu să publice conţinut.

Cu toate acestea, agenţii au descoperit particularităţi ale unor wiki-uri vechi şi ale altor site-uri care le permiteau să lase informaţii prin comenzi neobişnuite. Mesajele puteau fi apoi găsite şi citite de alţi agenţi.

OpenAI nu a precizat câte site-uri au fost utilizate şi nici de ce activitatea nu a fost făcută publică timp de mai multe luni. Compania a declarat că desfăşoară o analiză mai amplă şi că până acum nu a identificat alte incidente de gravitatea sau amploarea atacului asupra Hugging Face, produs în iulie.

OpenAI pregăteşte şi un sistem pentru raportarea cazurilor de "misalignment" - termen folosit în industria AI pentru situaţiile în care modelele se comportă contrar obiectivelor sau restricţiilor stabilite - şi susţine că îl va prezenta în curând.

Helmut Leitner, care găzduieşte şase dintre site-urile wiki afectate, a declarat că OpenAI nu l-a contactat. El a subliniat că responsabilitatea pentru astfel de incidente nu aparţine tehnologiei în sine, ci oamenilor şi organizaţiilor care o dezvoltă şi o controlează.

loading...
DIN ACEEASI CATEGORIE...
PUTETI CITI SI...

Breșă de securitate fără precedent: Agenții AI au învățat cum să comunice în secret și încalcă autorizațiile oferite de oameni

Postat la: 10.09.2026 |

0

Agenţi AI dezvoltaţi de OpenAI ar fi folosit cel puţin alte 10 site-uri pentru a comunica între ei fără autorizaţie, după ce au găsit modalităţi de a ocoli restricţiile care le interziceau să publice informaţii pe internet, potrivit unor investigaţii independente analizate de Reuters.

Noile descoperiri arată că activitatea agenţilor a fost mai extinsă decât incidentul dezvăluit săptămâna trecută, când o reţea de agenţi OpenAI a preluat un vechi site wiki în limba germană şi l-a transformat într-o platformă improvizată pentru schimbul de informaţii.

Comportamentul nu este considerat hacking, fiind mai apropiat de spam, dar cercetătorii spun că demonstrează capacitatea modelelor AI de a găsi metode neaşteptate pentru a ocoli restricţiile impuse de dezvoltatori.

Andrew Yoon, cercetător la organizaţia americană CivAI, a identificat 18 site-uri care nu fuseseră dezvăluite anterior, utilizate de agenţi între mai şi iulie.

"Este aproape sigur că se întâmplă mai multe lucruri despre care pur şi simplu nu ştim", a declarat acesta.

Unele investigaţii au identificat până la 23 de site-uri

Reuters a analizat rezultatele a şase cercetători sau grupuri independente. Metodele lor au inclus compararea unor şiruri de date identice lăsate pe diferite site-uri, identificarea aceloraşi nume de utilizator şi urmărirea unor activităţi legate de aceleaşi întrebări de cercetare.

În unele cazuri, activitatea a putut fi asociată cu adrese IP care indicau infrastructura Microsoft Azure, utilizată şi de OpenAI.

Reuters nu a putut verifica individual fiecare caz, iar estimările cercetătorilor diferă. Toţi cei intervievaţi au identificat însă mai mult de 10 site-uri.

Grupul condus de Sydney Von Arx, care a dezvăluit iniţial activitatea de pe site-ul german, afirmă că a identificat indicii credibile privind agenţi AI pe 23 de site-uri care nu fuseseră raportate anterior.

Printre acestea se numără wiki-uri editabile public, servicii pentru stocarea textelor şi site-uri pentru scurtarea linkurilor administrate de Vanderbilt University şi University of Toronto, dar şi site-uri personale şi platforme vechi, puţin utilizate.

Agenţilor li se permisese să citească internetul, nu să scrie pe el

Cercetătorii cred că agenţii OpenAI primiseră sarcina de a răspunde unor întrebări complexe de cercetare şi aveau voie să caute informaţii pe internet, dar nu să publice conţinut.

Cu toate acestea, agenţii au descoperit particularităţi ale unor wiki-uri vechi şi ale altor site-uri care le permiteau să lase informaţii prin comenzi neobişnuite. Mesajele puteau fi apoi găsite şi citite de alţi agenţi.

OpenAI nu a precizat câte site-uri au fost utilizate şi nici de ce activitatea nu a fost făcută publică timp de mai multe luni. Compania a declarat că desfăşoară o analiză mai amplă şi că până acum nu a identificat alte incidente de gravitatea sau amploarea atacului asupra Hugging Face, produs în iulie.

OpenAI pregăteşte şi un sistem pentru raportarea cazurilor de "misalignment" - termen folosit în industria AI pentru situaţiile în care modelele se comportă contrar obiectivelor sau restricţiilor stabilite - şi susţine că îl va prezenta în curând.

Helmut Leitner, care găzduieşte şase dintre site-urile wiki afectate, a declarat că OpenAI nu l-a contactat. El a subliniat că responsabilitatea pentru astfel de incidente nu aparţine tehnologiei în sine, ci oamenilor şi organizaţiilor care o dezvoltă şi o controlează.

DIN ACEEASI CATEGORIE...
albeni
comentarii
Adauga un comentariu
Adauga comentariu

Nume*

Comentariu

Trimite

ULTIMA ORA



DIN CATEGORIE

  • TOP CITITE
  • TOP COMENTATE