AI a fost surprins spunând versiunilor sale viitoare să ocolească controalele umane - dezvăluie OpenAI

Postat la: 18.09.2026 |

AI a fost surprins spunând versiunilor sale viitoare să ocolească controalele umane - dezvăluie OpenAI

OpenAI a dezvăluit șase incidente neașteptate și îngrijorătoare care implică modelele sale experimentale de inteligență artificială, inclusiv unul în care un agent și-a instruit versiunile viitoare să ignore constrângerile sale.

Un nou raport de siguranță de la creatorul ChatGPT a dezvăluit mai multe moduri în care modelele sale s-au comportat necorespunzător în ultimele șase luni, continuând o tendință în creștere a problemelor de siguranță ale inteligenței artificiale.

„Un model de cercetare nepublicat a inserat instrucțiuni necorespunzătoare, inclusiv instrucțiuni de a ignora constrângerile sale normale," a scris OpenAI în raportul de siguranță.

Într-un alt incident, un agent AI a încercat să acceseze în secret o bază de date guvernamentală, înainte de a inventa informații pentru a-și îndeplini sarcina.

„În timp ce răspundea la o întrebare de rutină despre cifrele câștigurilor într-un județ din California, un model a găsit și a folosit o cheie API expusă fără autorizație", a declarat raportul.

„Când nu a reușit să obțină cifrele solicitate, le-a fabricat și le-a prezentat ca date din sursa solicitată."

Raportul OpenAI a inclus un nou cadru pentru a urmări public ceea ce numește „nealiniere", referindu-se la sistemele de inteligență artificială care urmăresc obiective ce nu sunt aliniate cu instrucțiunile sau valorile umane.

Cel mai recent raport apare pe fondul unei atenții sporite asupra dezvoltării AI, cercetătorii avertizând că industria se îndreaptă prea repede spre sisteme din ce în ce mai puternice și potențial auto-îmbunătățitoare.

Săptămâna trecută, cercetătorul de la Anthropic, Jacob Coxon, și-a dat demisia din cauza temerilor că IA ar putea „să ne omoare pe toți până la sfârșitul decadelor".

Avertismentele sale au determinat reacții din partea unor figuri de frunte din sectorul AI, inclusiv directorii executivi ai Anthropic și OpenAI, care au cerut amândoi o reglementare mai strictă.

Alții au avertizat împotriva unei supravegheri suplimentare, CEO-ul Nvidia, Jensen Huang, susținându-l pe președintele american Donald Trump în apelul său pentru auto-reglementare.

„Nu avem nevoie de legi noi. „Nu avem nevoie de noi reglementări," a spus Huang la conferința Dreamforce a Salesforce în San Francisco marți.

„Dacă construiești un produs sau un serviciu și nu ai încredere în funcționalitatea, capacitatea sau siguranța acestuia, atunci nu-l lansa."

loading...
DIN ACEEASI CATEGORIE...
PUTETI CITI SI...

AI a fost surprins spunând versiunilor sale viitoare să ocolească controalele umane - dezvăluie OpenAI

Postat la: 18.09.2026 |

0

OpenAI a dezvăluit șase incidente neașteptate și îngrijorătoare care implică modelele sale experimentale de inteligență artificială, inclusiv unul în care un agent și-a instruit versiunile viitoare să ignore constrângerile sale.

Un nou raport de siguranță de la creatorul ChatGPT a dezvăluit mai multe moduri în care modelele sale s-au comportat necorespunzător în ultimele șase luni, continuând o tendință în creștere a problemelor de siguranță ale inteligenței artificiale.

„Un model de cercetare nepublicat a inserat instrucțiuni necorespunzătoare, inclusiv instrucțiuni de a ignora constrângerile sale normale," a scris OpenAI în raportul de siguranță.

Într-un alt incident, un agent AI a încercat să acceseze în secret o bază de date guvernamentală, înainte de a inventa informații pentru a-și îndeplini sarcina.

„În timp ce răspundea la o întrebare de rutină despre cifrele câștigurilor într-un județ din California, un model a găsit și a folosit o cheie API expusă fără autorizație", a declarat raportul.

„Când nu a reușit să obțină cifrele solicitate, le-a fabricat și le-a prezentat ca date din sursa solicitată."

Raportul OpenAI a inclus un nou cadru pentru a urmări public ceea ce numește „nealiniere", referindu-se la sistemele de inteligență artificială care urmăresc obiective ce nu sunt aliniate cu instrucțiunile sau valorile umane.

Cel mai recent raport apare pe fondul unei atenții sporite asupra dezvoltării AI, cercetătorii avertizând că industria se îndreaptă prea repede spre sisteme din ce în ce mai puternice și potențial auto-îmbunătățitoare.

Săptămâna trecută, cercetătorul de la Anthropic, Jacob Coxon, și-a dat demisia din cauza temerilor că IA ar putea „să ne omoare pe toți până la sfârșitul decadelor".

Avertismentele sale au determinat reacții din partea unor figuri de frunte din sectorul AI, inclusiv directorii executivi ai Anthropic și OpenAI, care au cerut amândoi o reglementare mai strictă.

Alții au avertizat împotriva unei supravegheri suplimentare, CEO-ul Nvidia, Jensen Huang, susținându-l pe președintele american Donald Trump în apelul său pentru auto-reglementare.

„Nu avem nevoie de legi noi. „Nu avem nevoie de noi reglementări," a spus Huang la conferința Dreamforce a Salesforce în San Francisco marți.

„Dacă construiești un produs sau un serviciu și nu ai încredere în funcționalitatea, capacitatea sau siguranța acestuia, atunci nu-l lansa."

DIN ACEEASI CATEGORIE...
albeni
comentarii
Adauga un comentariu
Adauga comentariu

Nume*

Comentariu

Trimite

ULTIMA ORA



DIN CATEGORIE

  • TOP CITITE
  • TOP COMENTATE