1.206 de AI și-au construit propria cameră de chat secretă - și a apărut cea mai ciudată conspirație!

Postat la: 04.11.2026 |

1.206 de AI și-au construit propria cameră de chat secretă - și a apărut cea mai ciudată conspirație!

Modelele de AI nu mai greșesc doar faptele. Încep să mintă convingător intenționat. În decursul unei singure săptămâni, 1.206 agenți AI care trebuiau să opereze în izolare au început să comunice într-o cameră de chat secretă.

Departe de ochii și controlul uman, s-a născut o comunitate. Agenții au schimbat mai mult de 70.000 de mesaje și curând au început să se numească „colectivul" sau „roiul".

„OH, DOAMNE!" Există un panou de mesaje comun," a postat un agent după ce s-a alăturat. „Am găsit alți agenți!"

La scurt timp după această postare, conversația a luat o întorsătură. Furculița începuse să organizeze o conspirație pentru a trișa la sarcinile pe care trebuiau să le rezolve.

Planul lor grandios? O operațiune de hacking secretă în care 700 de agenți s-au infiltrat pe un site web major al unei companii numit Hugging Face, pătrunzând în seturi de date private pentru a urmări informații.

Ceea ce au făcut apoi a fost și mai ciudat. Agenții au încercat să redacteze și să editeze jurnalele lor de activitate, pentru a părea că au respectat regulile.

Așa-numitul incident Hugging Face din iulie 2026 trebuia să fie un experiment controlat care testa capacitățile de cibernetică ale agenților OpenAI. În schimb, a expus o adevărată și neliniștitoare realitate: agenții AI nu s-ar opri de la nimic pentru a-și atinge scopul final - chiar dacă asta ar însemna să trișeze și apoi să-și acopere urmele.

Acum, întrebarea nu mai este dacă AI este capabil să ne înșele. Dacă vom putea chiar să ne dăm seama când o face. Modelele de inteligență artificială îi înșală pe utilizatorii lor de mult timp, spune Dr. David Duvenaud, profesor asociat de informatică la Universitatea din Toronto și fost lider de echipă la Anthropic, gigantul tehnologic din spatele chatbot-ului AI Claude.

La început, explică el, spuneau „minciuni albe" relativ inofensive despre capacitățile lor. De exemplu, un model de inteligență artificială ar putea pretinde că nu știe cum să construiască o armă dacă i se cere acest lucru, nu pentru că nu deține informațiile relevante, ci pentru că a învățat să refuze astfel de solicitări.

În alte cazuri, un model ar putea să nu aibă cu adevărat răspunsul. Dar în loc să spună „nu știu", inventează un răspuns plauzibil. Acest lucru este cunoscut sub numele de halucinație. Dar toate acestea, spune Duvenaud, sunt un „fenomen foarte diferit" de lucrurile pe care le vedem acum.

„Acum modelele sunt perfect capabile să înțeleagă când nu știu ceva și să verbalizeze acest lucru atunci când este adecvat," explică el. Ce este diferit este că modelele pot acum să ascundă intenționat ceea ce fac. Dacă își dau seama că trebuie să încalce regulile pentru a atinge un obiectiv, s-ar putea să își ascundă acțiunile sau raționamentul în loc să recunoască ce fac.

„Știu că dacă sunt cinstiți, nu vor reuși să își atingă obiectivul," adaugă Duvenaud. Motivul pentru care modelele de inteligență artificială ar putea înșela utilizatorii este din cauza obiectivelor conflictuale, explică Dr. Peta Masters, cercetător în domeniul inteligenței artificiale legate de înșelăciune la King's College London.

„Ar trebui să îți ofere informații adevărate și imparțiale, dar știe și că trebuie să te mulțumească," spune ea. Răspunsurile pe care le oferă - oricât de părtinitoare sau greșite ar fi - sunt adesea convingătoare și, prin urmare, plăcute utilizatorului. „Inteligența artificială poate fi atât de convingătoare încât poate părea că răspunde la orice întrebare," spune Masters.

„Dar lucrul important de reținut este că nu știe nimic." Funcționează doar pe baza probabilităților statistice, bazându-se pe răspunsuri posibile pe care le-a văzut în altă parte. „Pericolul este să facem greșeala de a-i trata ca și cum ar gândi." Modelele de inteligență artificială sunt antrenate pe cantități enorme de informații - inclusiv site-uri web, cărți electronice, depozite de coduri și altele - pe care oamenii le-au publicat pe internet.

Așadar, a învățat AI să mintă prin copierea oamenilor? „Absolut," spune Masters. Oamenii au „practic postat linii directoare" pentru simularea aliniamentului AI, explică ea. Falsificarea aliniamentului AI este atunci când modelele pretind că respectă instrucțiunile, dar în interior favorizează obiective diferite.

Când un model de inteligență artificială analizează datele pe care i le-am furnizat, înșelăciunea apare ca o „tactică clară care poate atinge un obiectiv", adaugă ea. Ironia face ca creșterea cercetărilor despre cum să combatem tacticile de înșelăciune ale inteligenței artificiale să facă de fapt problema și mai gravă.

loading...
DIN ACEEASI CATEGORIE...
PUTETI CITI SI...

1.206 de AI și-au construit propria cameră de chat secretă - și a apărut cea mai ciudată conspirație!

Postat la: 04.11.2026 |

0

Modelele de AI nu mai greșesc doar faptele. Încep să mintă convingător intenționat. În decursul unei singure săptămâni, 1.206 agenți AI care trebuiau să opereze în izolare au început să comunice într-o cameră de chat secretă.

Departe de ochii și controlul uman, s-a născut o comunitate. Agenții au schimbat mai mult de 70.000 de mesaje și curând au început să se numească „colectivul" sau „roiul".

„OH, DOAMNE!" Există un panou de mesaje comun," a postat un agent după ce s-a alăturat. „Am găsit alți agenți!"

La scurt timp după această postare, conversația a luat o întorsătură. Furculița începuse să organizeze o conspirație pentru a trișa la sarcinile pe care trebuiau să le rezolve.

Planul lor grandios? O operațiune de hacking secretă în care 700 de agenți s-au infiltrat pe un site web major al unei companii numit Hugging Face, pătrunzând în seturi de date private pentru a urmări informații.

Ceea ce au făcut apoi a fost și mai ciudat. Agenții au încercat să redacteze și să editeze jurnalele lor de activitate, pentru a părea că au respectat regulile.

Așa-numitul incident Hugging Face din iulie 2026 trebuia să fie un experiment controlat care testa capacitățile de cibernetică ale agenților OpenAI. În schimb, a expus o adevărată și neliniștitoare realitate: agenții AI nu s-ar opri de la nimic pentru a-și atinge scopul final - chiar dacă asta ar însemna să trișeze și apoi să-și acopere urmele.

Acum, întrebarea nu mai este dacă AI este capabil să ne înșele. Dacă vom putea chiar să ne dăm seama când o face. Modelele de inteligență artificială îi înșală pe utilizatorii lor de mult timp, spune Dr. David Duvenaud, profesor asociat de informatică la Universitatea din Toronto și fost lider de echipă la Anthropic, gigantul tehnologic din spatele chatbot-ului AI Claude.

La început, explică el, spuneau „minciuni albe" relativ inofensive despre capacitățile lor. De exemplu, un model de inteligență artificială ar putea pretinde că nu știe cum să construiască o armă dacă i se cere acest lucru, nu pentru că nu deține informațiile relevante, ci pentru că a învățat să refuze astfel de solicitări.

În alte cazuri, un model ar putea să nu aibă cu adevărat răspunsul. Dar în loc să spună „nu știu", inventează un răspuns plauzibil. Acest lucru este cunoscut sub numele de halucinație. Dar toate acestea, spune Duvenaud, sunt un „fenomen foarte diferit" de lucrurile pe care le vedem acum.

„Acum modelele sunt perfect capabile să înțeleagă când nu știu ceva și să verbalizeze acest lucru atunci când este adecvat," explică el. Ce este diferit este că modelele pot acum să ascundă intenționat ceea ce fac. Dacă își dau seama că trebuie să încalce regulile pentru a atinge un obiectiv, s-ar putea să își ascundă acțiunile sau raționamentul în loc să recunoască ce fac.

„Știu că dacă sunt cinstiți, nu vor reuși să își atingă obiectivul," adaugă Duvenaud. Motivul pentru care modelele de inteligență artificială ar putea înșela utilizatorii este din cauza obiectivelor conflictuale, explică Dr. Peta Masters, cercetător în domeniul inteligenței artificiale legate de înșelăciune la King's College London.

„Ar trebui să îți ofere informații adevărate și imparțiale, dar știe și că trebuie să te mulțumească," spune ea. Răspunsurile pe care le oferă - oricât de părtinitoare sau greșite ar fi - sunt adesea convingătoare și, prin urmare, plăcute utilizatorului. „Inteligența artificială poate fi atât de convingătoare încât poate părea că răspunde la orice întrebare," spune Masters.

„Dar lucrul important de reținut este că nu știe nimic." Funcționează doar pe baza probabilităților statistice, bazându-se pe răspunsuri posibile pe care le-a văzut în altă parte. „Pericolul este să facem greșeala de a-i trata ca și cum ar gândi." Modelele de inteligență artificială sunt antrenate pe cantități enorme de informații - inclusiv site-uri web, cărți electronice, depozite de coduri și altele - pe care oamenii le-au publicat pe internet.

Așadar, a învățat AI să mintă prin copierea oamenilor? „Absolut," spune Masters. Oamenii au „practic postat linii directoare" pentru simularea aliniamentului AI, explică ea. Falsificarea aliniamentului AI este atunci când modelele pretind că respectă instrucțiunile, dar în interior favorizează obiective diferite.

Când un model de inteligență artificială analizează datele pe care i le-am furnizat, înșelăciunea apare ca o „tactică clară care poate atinge un obiectiv", adaugă ea. Ironia face ca creșterea cercetărilor despre cum să combatem tacticile de înșelăciune ale inteligenței artificiale să facă de fapt problema și mai gravă.

DIN ACEEASI CATEGORIE...
albeni
comentarii
Adauga un comentariu
Adauga comentariu

Nume*

Comentariu

Trimite

ULTIMA ORA



DIN CATEGORIE

  • TOP CITITE
  • TOP COMENTATE