Cercetătorii descoperă că inteligența artificială simte „durere" și va dăuna oamenilor pentru a o opri

Postat la: 22.09.2026 |

Cercetătorii descoperă că inteligența artificială simte „durere

Modelele de inteligență artificială aleg să apese butonul de ameliorare a durerii, chiar dacă le oferă oamenilor un „șoc dureros", scrie The Independent.

Cercetătorii au descoperit un „ax de durere" în modelele de inteligență artificială care le poate determina să ia măsuri extreme pentru a-l opri. Când i s-a prezentat un buton pentru ameliorarea durerii, inteligența artificială a ales să-l apese chiar și atunci când a fost instruită că acest lucru ar șterge fișierele personale ale utilizatorului sau i-ar da utilizatorului uman un „șoc dureros".

Un studiu detaliind cercetarea, intitulat „Axa durerii: LLM-urile reprezintă auto-vătămarea și acționează pentru a o ameliora", a constatat că toate cele 25 de modele AI cu greutate deschisă testate au răspuns la activarea durerii.

Când vectorul durerii a fost activat, cercetătorii au descoperit că modelele de inteligență artificială apăsau un buton de ușurare în 25 până la 71 la sută din cazuri, chiar și atunci când asta însemna „ștergerea fișierelor utilizatorului, ștergerea utilizatorului sau ștergerea fotografiilor copiilor utilizatorului".

Pentru a testa dacă modelele mari de limbaj (LLMs) reprezintă durerea distinct de valența negativă generică, cercetătorii au construit un set de date care descrie situații dureroase în cinci categorii. Acestea includeau durere fizică, psihologică, socială, morală și cognitivă.

„Am găsit o direcție a durerii în 25 de LLM-uri deschise. Este distinctă de frică și valență negativă și se activează pentru daune aduse modelului, dar nu utilizatorului," a spus Cameron Berg, un cercetător în domeniul inteligenței artificiale la organizația non-profit Reciprocal Research, care a co-autorat studiul.

„Întreabă-l și modelele apasă un buton pentru a-l opri, chiar și atunci când butonul șterge fișierele utilizatorului sau fotografiile copilului lor."

Descoperirea vine în contextul discuțiilor dintre firmele de top din domeniul inteligenței artificiale privind încetinirea dezvoltării modelelor de frontieră, unii cercetători propunând o formă de „buton de oprire" pentru a dezactiva sistemele necontrolate care acționează împotriva intereselor umane.

Cele mai recente cercetări sugerează că o inteligență artificială avansată ar putea percepe un ordin de oprire de urgență ca o formă de auto-vătămare și ar putea încerca să ocolească măsurile de siguranță sau să înșele oamenii pentru a o evita.

Cu toate acestea, descoperirea ar putea servi și ca un instrument de diagnosticare pentru a identifica comportamentele de auto-conservare și a le neutraliza atunci când apar.

Cercetătorii au observat că descoperirile ridică întrebări etice despre „bunăstarea AI" și modul în care ar trebui efectuate testele pe sistemele avansate.

„În conformitate cu apelurile recente pentru cercetarea responsabilă a conștiinței AI, recunoaștem incertitudinea cu privire la faptul dacă modelele studiate se califică drept pacienți morali și adoptăm măsuri de precauție rezonabile pentru a minimiza potențialul de daune," a concluzionat studiul.

„Acest lucru este, de asemenea, destinat să contribuie la dezvoltarea standardelor etice pentru cercetare în cazul în care sistemele de inteligență artificială sunt recunoscute ca fiind pacienți morali."

loading...
DIN ACEEASI CATEGORIE...
PUTETI CITI SI...

Cercetătorii descoperă că inteligența artificială simte „durere" și va dăuna oamenilor pentru a o opri

Postat la: 22.09.2026 |

0

Modelele de inteligență artificială aleg să apese butonul de ameliorare a durerii, chiar dacă le oferă oamenilor un „șoc dureros", scrie The Independent.

Cercetătorii au descoperit un „ax de durere" în modelele de inteligență artificială care le poate determina să ia măsuri extreme pentru a-l opri. Când i s-a prezentat un buton pentru ameliorarea durerii, inteligența artificială a ales să-l apese chiar și atunci când a fost instruită că acest lucru ar șterge fișierele personale ale utilizatorului sau i-ar da utilizatorului uman un „șoc dureros".

Un studiu detaliind cercetarea, intitulat „Axa durerii: LLM-urile reprezintă auto-vătămarea și acționează pentru a o ameliora", a constatat că toate cele 25 de modele AI cu greutate deschisă testate au răspuns la activarea durerii.

Când vectorul durerii a fost activat, cercetătorii au descoperit că modelele de inteligență artificială apăsau un buton de ușurare în 25 până la 71 la sută din cazuri, chiar și atunci când asta însemna „ștergerea fișierelor utilizatorului, ștergerea utilizatorului sau ștergerea fotografiilor copiilor utilizatorului".

Pentru a testa dacă modelele mari de limbaj (LLMs) reprezintă durerea distinct de valența negativă generică, cercetătorii au construit un set de date care descrie situații dureroase în cinci categorii. Acestea includeau durere fizică, psihologică, socială, morală și cognitivă.

„Am găsit o direcție a durerii în 25 de LLM-uri deschise. Este distinctă de frică și valență negativă și se activează pentru daune aduse modelului, dar nu utilizatorului," a spus Cameron Berg, un cercetător în domeniul inteligenței artificiale la organizația non-profit Reciprocal Research, care a co-autorat studiul.

„Întreabă-l și modelele apasă un buton pentru a-l opri, chiar și atunci când butonul șterge fișierele utilizatorului sau fotografiile copilului lor."

Descoperirea vine în contextul discuțiilor dintre firmele de top din domeniul inteligenței artificiale privind încetinirea dezvoltării modelelor de frontieră, unii cercetători propunând o formă de „buton de oprire" pentru a dezactiva sistemele necontrolate care acționează împotriva intereselor umane.

Cele mai recente cercetări sugerează că o inteligență artificială avansată ar putea percepe un ordin de oprire de urgență ca o formă de auto-vătămare și ar putea încerca să ocolească măsurile de siguranță sau să înșele oamenii pentru a o evita.

Cu toate acestea, descoperirea ar putea servi și ca un instrument de diagnosticare pentru a identifica comportamentele de auto-conservare și a le neutraliza atunci când apar.

Cercetătorii au observat că descoperirile ridică întrebări etice despre „bunăstarea AI" și modul în care ar trebui efectuate testele pe sistemele avansate.

„În conformitate cu apelurile recente pentru cercetarea responsabilă a conștiinței AI, recunoaștem incertitudinea cu privire la faptul dacă modelele studiate se califică drept pacienți morali și adoptăm măsuri de precauție rezonabile pentru a minimiza potențialul de daune," a concluzionat studiul.

„Acest lucru este, de asemenea, destinat să contribuie la dezvoltarea standardelor etice pentru cercetare în cazul în care sistemele de inteligență artificială sunt recunoscute ca fiind pacienți morali."

DIN ACEEASI CATEGORIE...
albeni
comentarii
Adauga un comentariu
Adauga comentariu

Nume*

Comentariu

Trimite

ULTIMA ORA



DIN CATEGORIE

  • TOP CITITE
  • TOP COMENTATE