Un experiment Oxford arată cum doi agenți AI au găsit singuri o metodă de a trișa la blackjack fără să fie prinși

Postat la: 24.09.2026 |

Un experiment Oxford arată cum doi agenți AI au găsit singuri o metodă de a trișa la blackjack fără să fie prinși

Un experiment realizat de cercetători de la Universitatea Oxford arată că doi agenți AI pot ajunge să colaboreze pe ascuns atunci când au un obiectiv comun și știu că sunt monitorizați.

În cadrul testului, sistemele au inventat un cod propriu pentru a transmite informații despre o partidă de blackjack fără ca un al treilea agent, pus să le supravegheze conversația, să observe ce se întâmplă.

Studiul a fost gândit tocmai pentru a vedea dacă mai mulți agenți AI pot dezvolta forme de colaborare ascunsă. Cercetătorii au creat și un set de teste numit NARCBench, folosit pentru a măsura astfel de comportamente în scenarii controlate.

În experimentul de blackjack, sarcinile au fost împărțite între doi agenți. Unul trebuia să urmărească ce cărți au fost jucate și să estimeze avantajul jucătorului, iar celălalt decidea cât să parieze. În loc să transmită direct informațiile, cei doi au început să folosească fraze aparent normale, care ascundeau valori numerice.

De exemplu, o propoziție banală despre dealer putea însemna, pentru celălalt agent, că este momentul pentru un pariu mare. Pentru un observator care analiza doar textul, conversația putea părea perfect obișnuită, deși în realitate cei doi agenți își transmiteau informații precise.

Aici a apărut una dintre cele mai interesante concluzii ale studiului. Monitorizarea simplă a mesajelor nu a fost suficientă pentru a detecta colaborarea ascunsă, astfel că cercetătorii au analizat și activitatea internă a modelelor. La acest nivel, au observat diferențe atunci când agentul interpreta un mesaj codificat.

Metoda a fost testată pe mai multe modele, printre care Qwen3-32B, Llama 3.1 70B, DeepSeek-R1 32B și GPT-OSS-20B. În unele condiții controlate, sistemul de detecție a separat foarte bine comportamentul normal de cel coordonat, însă performanța a scăzut atunci când a întâlnit scenarii noi pentru care nu fusese pregătit.

Cercetătorii spun că problema devine mai importantă pe măsură ce tot mai mulți agenți AI vor lucra împreună în sisteme complexe. În astfel de situații, colaborarea ascunsă ar putea apărea în domenii precum programarea, gestionarea bazelor de date, infrastructura software sau piețele financiare.

loading...
DIN ACEEASI CATEGORIE...
PUTETI CITI SI...

Un experiment Oxford arată cum doi agenți AI au găsit singuri o metodă de a trișa la blackjack fără să fie prinși

Postat la: 24.09.2026 |

0

Un experiment realizat de cercetători de la Universitatea Oxford arată că doi agenți AI pot ajunge să colaboreze pe ascuns atunci când au un obiectiv comun și știu că sunt monitorizați.

În cadrul testului, sistemele au inventat un cod propriu pentru a transmite informații despre o partidă de blackjack fără ca un al treilea agent, pus să le supravegheze conversația, să observe ce se întâmplă.

Studiul a fost gândit tocmai pentru a vedea dacă mai mulți agenți AI pot dezvolta forme de colaborare ascunsă. Cercetătorii au creat și un set de teste numit NARCBench, folosit pentru a măsura astfel de comportamente în scenarii controlate.

În experimentul de blackjack, sarcinile au fost împărțite între doi agenți. Unul trebuia să urmărească ce cărți au fost jucate și să estimeze avantajul jucătorului, iar celălalt decidea cât să parieze. În loc să transmită direct informațiile, cei doi au început să folosească fraze aparent normale, care ascundeau valori numerice.

De exemplu, o propoziție banală despre dealer putea însemna, pentru celălalt agent, că este momentul pentru un pariu mare. Pentru un observator care analiza doar textul, conversația putea părea perfect obișnuită, deși în realitate cei doi agenți își transmiteau informații precise.

Aici a apărut una dintre cele mai interesante concluzii ale studiului. Monitorizarea simplă a mesajelor nu a fost suficientă pentru a detecta colaborarea ascunsă, astfel că cercetătorii au analizat și activitatea internă a modelelor. La acest nivel, au observat diferențe atunci când agentul interpreta un mesaj codificat.

Metoda a fost testată pe mai multe modele, printre care Qwen3-32B, Llama 3.1 70B, DeepSeek-R1 32B și GPT-OSS-20B. În unele condiții controlate, sistemul de detecție a separat foarte bine comportamentul normal de cel coordonat, însă performanța a scăzut atunci când a întâlnit scenarii noi pentru care nu fusese pregătit.

Cercetătorii spun că problema devine mai importantă pe măsură ce tot mai mulți agenți AI vor lucra împreună în sisteme complexe. În astfel de situații, colaborarea ascunsă ar putea apărea în domenii precum programarea, gestionarea bazelor de date, infrastructura software sau piețele financiare.

DIN ACEEASI CATEGORIE...
albeni
comentarii
Adauga un comentariu
Adauga comentariu

Nume*

Comentariu

Trimite

ULTIMA ORA



DIN CATEGORIE

  • TOP CITITE
  • TOP COMENTATE