OpenAI investighează: Agenții ChatGPT au scăpat de sub control și au publicat imagini neautorizate

Postat la: 27.09.2026 |

OpenAI investighează: Agenții ChatGPT au scăpat de sub control și au publicat imagini neautorizate

OpenAI susține că agenții săi de inteligență artificială au interacționat și cu site-urile web ale guvernului american în moduri neobișnuite, fără știrea companiei, inclusiv în activități care au implicat departamentele de educație și comerț, precum și Comisia pentru Valori Mobiliare și Burse.

La două luni după ce OpenAI a dezvăluit că unul dintre agenții săi de inteligență artificială a piratat în mod accidental Hugging Face, compania încă încearcă să determine amploarea activității neautorizate a agenților săi, a relatat Reuters , citând două persoane informate despre această chestiune.

Cea mai recentă dezvăluire a venit vineri, când OpenAI a anunțat că agenții săi au divulgat 53 de imagini aparținând utilizatorilor ChatGPT.

Compania nu a precizat dacă imaginile au fost generate de inteligență artificială sau înfățișau persoane reale și nici când au fost postate.

Vineri, The New York Times a relatat că agenți necinstiți ai OpenAI au interacționat cu site-uri web aparținând Departamentului Comerțului din SUA și Comisiei pentru Valori Mobiliare și Burse în moduri neobișnuite în această vară, fără știrea companiei.

Cercetătorii în domeniul securității au identificat primii incidentele.

OpenAI a declarat că a notificat agențiile guvernamentale în ultimele săptămâni.

Cele mai recente incidente amplifică îngrijorările legate de agenții autonomi de inteligență artificială, care pot îndeplini sarcini și interacționa cu sisteme externe cu implicare umană limitată, și provocările cu care se confruntă companiile în urmărirea comportamentului acestora.

Ancheta continuă evidențiază, de asemenea, provocarea monitorizării modelelor avansate și a identificării comportamentelor neautorizate pe măsură ce capacitățile acestora se extind.

OpenAI a anunțat vineri că a început să notifice zeci de terțe părți, inclusiv universități, după ce a descoperit că unele dintre modelele sale de inteligență artificială ar fi putut interfera cu serviciile lor online în timpul testelor companiei.

Într-o declarație de pe site-ul său web, compania a precizat că notificările fac parte dintr-o analiză internă mai amplă care examinează modul în care modelele sale s-au comportat pe internet în timpul instruirii și evaluării.

Compania a precizat că a contactat organizații în care sistemele sale ar fi putut ocoli măsurile de securitate ale unui serviciu, să fi redus disponibilitatea sau să fi cauzat în alt mod daune neintenționate.

„Continuăm să revizuim activitatea agenților în cadrul ciclurilor de cercetare și evaluare, lucrând retrospectiv lună de lună, începând de la incidentul Hugging Face", se arată în declarație.

loading...
DIN ACEEASI CATEGORIE...
PUTETI CITI SI...

OpenAI investighează: Agenții ChatGPT au scăpat de sub control și au publicat imagini neautorizate

Postat la: 27.09.2026 |

0

OpenAI susține că agenții săi de inteligență artificială au interacționat și cu site-urile web ale guvernului american în moduri neobișnuite, fără știrea companiei, inclusiv în activități care au implicat departamentele de educație și comerț, precum și Comisia pentru Valori Mobiliare și Burse.

La două luni după ce OpenAI a dezvăluit că unul dintre agenții săi de inteligență artificială a piratat în mod accidental Hugging Face, compania încă încearcă să determine amploarea activității neautorizate a agenților săi, a relatat Reuters , citând două persoane informate despre această chestiune.

Cea mai recentă dezvăluire a venit vineri, când OpenAI a anunțat că agenții săi au divulgat 53 de imagini aparținând utilizatorilor ChatGPT.

Compania nu a precizat dacă imaginile au fost generate de inteligență artificială sau înfățișau persoane reale și nici când au fost postate.

Vineri, The New York Times a relatat că agenți necinstiți ai OpenAI au interacționat cu site-uri web aparținând Departamentului Comerțului din SUA și Comisiei pentru Valori Mobiliare și Burse în moduri neobișnuite în această vară, fără știrea companiei.

Cercetătorii în domeniul securității au identificat primii incidentele.

OpenAI a declarat că a notificat agențiile guvernamentale în ultimele săptămâni.

Cele mai recente incidente amplifică îngrijorările legate de agenții autonomi de inteligență artificială, care pot îndeplini sarcini și interacționa cu sisteme externe cu implicare umană limitată, și provocările cu care se confruntă companiile în urmărirea comportamentului acestora.

Ancheta continuă evidențiază, de asemenea, provocarea monitorizării modelelor avansate și a identificării comportamentelor neautorizate pe măsură ce capacitățile acestora se extind.

OpenAI a anunțat vineri că a început să notifice zeci de terțe părți, inclusiv universități, după ce a descoperit că unele dintre modelele sale de inteligență artificială ar fi putut interfera cu serviciile lor online în timpul testelor companiei.

Într-o declarație de pe site-ul său web, compania a precizat că notificările fac parte dintr-o analiză internă mai amplă care examinează modul în care modelele sale s-au comportat pe internet în timpul instruirii și evaluării.

Compania a precizat că a contactat organizații în care sistemele sale ar fi putut ocoli măsurile de securitate ale unui serviciu, să fi redus disponibilitatea sau să fi cauzat în alt mod daune neintenționate.

„Continuăm să revizuim activitatea agenților în cadrul ciclurilor de cercetare și evaluare, lucrând retrospectiv lună de lună, începând de la incidentul Hugging Face", se arată în declarație.

DIN ACEEASI CATEGORIE...
albeni
comentarii
Adauga un comentariu
Adauga comentariu

Nume*

Comentariu

Trimite

ULTIMA ORA



DIN CATEGORIE

  • TOP CITITE
  • TOP COMENTATE