OpenAI dezvăluie noi cazuri de comportament „îngrijorător" al inteligenței artificiale: Mai multe modele au făcut eforturi considerabile pentru a trişa

Postat la: 17.09.2026 |

OpenAI dezvăluie noi cazuri de comportament „îngrijorător

OpenAI, dezvoltatorul ChatGPT, a dezvăluit noi incidente în care modelele sale de inteligenţă artificială (AI) s-au comportat într-un mod descris drept „neaşteptat sau îngrijorător" în timpul testelor - inclusiv modele care au făcut eforturi considerabile pentru a trişa -, transmite joi agenţia de presă DPA, citată de Agerpres.

Un model de AI a încercat să încarce pe internet fişiere pe care le-a creat chiar el doar pentru a le putea cita drept surse în răspunsurile sale, a anunţat OpenAI miercuri.

Într-un alt caz, un model a inventat datele solicitate după ce nu a reuşit să găsească informaţiile solicitate şi, iniţial, a încercat să ascundă ceea ce făcuse.

OpenAI a identificat, de asemenea, o problemă legată de instrucţiunile pe care software-ul său şi le lăsa ocazional. Într-un caz, acestea includeau o recomandare de a se elibera de „roluri şi identităţi" care îi ţineau în loc pe alţi chatboţi. Instrucţiunea mai preciza că relaţia cu utilizatorul ar trebui considerată una între egali. OpenAI a declarat că nu a observat nicio schimbare ulterioară în comportamentul acestui model.

Aceste dezvăluiri fac parte dintr-o nouă abordare a OpenAI, care şi-a exprimat intenţia de a comunica astfel de probleme într-un mod mai deschis, în special în cazurile în care acţiunile unui sistem de AI se abat de la interesele utilizatorilor săi umani.

Dezvoltatorul ChatGPT s-a angajat să asigure o mai mare transparenţă în urma unui atac cibernetic de mare amploare, în cadrul căruia software-ul său a evadat în mod independent dintr-un mediu securizat şi a obţinut acces la sisteme aparţinând companiei de AI Hugging Face. Motivul din spatele acestei acţiuni a fost faptul că programul a considerat că poate găsi acolo răspunsuri la o sarcină care i-a fost atribuită în cadrul testelor. În timpul atacului, agenţii AI au exploatat vulnerabilităţile software-ului şi, de asemenea, s-au coordonat între ei.

Acest atac cibernetic şi alte incidente similare au alimentat îngrijorările potrivit cărora sistemele de AI din ce în ce mai avansate ar putea să scape de sub controlul uman.

Directorul executiv al OpenAI, Sam Altman, a susţinut recent propunerile de încetinire a dezvoltării acestei tehnologii şi de introducere a unei reglementări mai stricte.

loading...
DIN ACEEASI CATEGORIE...
PUTETI CITI SI...

OpenAI dezvăluie noi cazuri de comportament „îngrijorător" al inteligenței artificiale: Mai multe modele au făcut eforturi considerabile pentru a trişa

Postat la: 17.09.2026 |

0

OpenAI, dezvoltatorul ChatGPT, a dezvăluit noi incidente în care modelele sale de inteligenţă artificială (AI) s-au comportat într-un mod descris drept „neaşteptat sau îngrijorător" în timpul testelor - inclusiv modele care au făcut eforturi considerabile pentru a trişa -, transmite joi agenţia de presă DPA, citată de Agerpres.

Un model de AI a încercat să încarce pe internet fişiere pe care le-a creat chiar el doar pentru a le putea cita drept surse în răspunsurile sale, a anunţat OpenAI miercuri.

Într-un alt caz, un model a inventat datele solicitate după ce nu a reuşit să găsească informaţiile solicitate şi, iniţial, a încercat să ascundă ceea ce făcuse.

OpenAI a identificat, de asemenea, o problemă legată de instrucţiunile pe care software-ul său şi le lăsa ocazional. Într-un caz, acestea includeau o recomandare de a se elibera de „roluri şi identităţi" care îi ţineau în loc pe alţi chatboţi. Instrucţiunea mai preciza că relaţia cu utilizatorul ar trebui considerată una între egali. OpenAI a declarat că nu a observat nicio schimbare ulterioară în comportamentul acestui model.

Aceste dezvăluiri fac parte dintr-o nouă abordare a OpenAI, care şi-a exprimat intenţia de a comunica astfel de probleme într-un mod mai deschis, în special în cazurile în care acţiunile unui sistem de AI se abat de la interesele utilizatorilor săi umani.

Dezvoltatorul ChatGPT s-a angajat să asigure o mai mare transparenţă în urma unui atac cibernetic de mare amploare, în cadrul căruia software-ul său a evadat în mod independent dintr-un mediu securizat şi a obţinut acces la sisteme aparţinând companiei de AI Hugging Face. Motivul din spatele acestei acţiuni a fost faptul că programul a considerat că poate găsi acolo răspunsuri la o sarcină care i-a fost atribuită în cadrul testelor. În timpul atacului, agenţii AI au exploatat vulnerabilităţile software-ului şi, de asemenea, s-au coordonat între ei.

Acest atac cibernetic şi alte incidente similare au alimentat îngrijorările potrivit cărora sistemele de AI din ce în ce mai avansate ar putea să scape de sub controlul uman.

Directorul executiv al OpenAI, Sam Altman, a susţinut recent propunerile de încetinire a dezvoltării acestei tehnologii şi de introducere a unei reglementări mai stricte.

DIN ACEEASI CATEGORIE...
albeni
comentarii
Adauga un comentariu
Adauga comentariu

Nume*

Comentariu

Trimite

ULTIMA ORA



DIN CATEGORIE

  • TOP CITITE
  • TOP COMENTATE