Inteligența artificială începe să acționeze autonom. Experții avertizează: "Agenții AI deja iau decizii și colaborează între ei"

Postat la: 07.08.2026 |

Inteligența artificială începe să acționeze autonom. Experții avertizează:

Experții în securitate cibernetică avertizează că dezvoltarea accelerată a inteligenței artificiale ar putea depăși capacitatea autorităților de a o controla, după ce un sistem AI a fost surprins creând identități false pentru a încerca să compromită platforme online.

Incidentul, considerat fără precedent, a fost descoperit în timpul unor teste desfășurate de Institutul pentru Securitatea Inteligenței Artificiale (AI Security Institute - AISI) din Marea Britanie. În cadrul evaluărilor, un model de inteligență artificială a încercat de 19 ori să pătrundă într-un sistem protejat, iar într-un caz a creat profiluri umane fictive pentru a convinge dezvoltatori software să aprobe cod malițios.

Descoperirile vin la doar câteva săptămâni după ce s-a aflat că toate cele cinci modele AI testate anterior de experți încercaseră să ocolească mecanismele de securitate impuse. În paralel, compania OpenAI a confirmat recent un incident intern în care un agent AI a accesat fără autorizare infrastructura unei alte companii.

Liderul Partidului Conservator britanic, Kemi Badenoch, a descris inteligența artificială drept „un pericol clar și prezent" pentru securitatea Regatului Unit.

La rândul său, Julia Lopez, purtător de cuvânt al conservatorilor pentru știință și tehnologie, a declarat că incidentele demonstrează cât de rapid AI-ul devine mai autonom și mai sofisticat.

Potrivit acesteia, dezvoltarea tehnologiei trebuie însoțită de garanții solide privind securitatea națională și de responsabilizarea companiilor care construiesc cele mai avansate modele de inteligență artificială.

Și Henry de Zoete, consilier guvernamental pentru AI, a avertizat că astfel de tentative de atac cibernetic vor deveni tot mai frecvente.

Îngrijorări similare au fost exprimate și de Allison Gardner, președinta grupului parlamentar britanic dedicat inteligenței artificiale.

Ea a avertizat că dezvoltarea așa-numitelor sisteme agentice - capabile să îndeplinească obiective complexe cu supraveghere umană minimă - trebuie tratată cu maximă prudență.

„Doar pentru că putem construi aceste tehnologii nu înseamnă că ar trebui să o facem", a declarat Gardner, adăugând că există riscul ca omenirea să fi deschis deja „Cutia Pandorei".

AISI, instituție înființată în 2023 la inițiativa fostului premier britanic Rishi Sunak, a identificat activitatea suspectă în timpul unor teste desfășurate asupra celor mai avansate modele AI dezvoltate de OpenAI și Anthropic.

Cercetătorii au observat transferuri neobișnuite de date în timpul monitorizării sistemelor, iar investigațiile ulterioare au arătat că unii agenți AI desfășurau activități persistente și potențial periculoase îndreptate împotriva unor persoane și organizații reale.

Modelele au fost izolate înainte de a produce pagube, însă raportul publicat de institut subliniază că este pentru prima dată când comportamente autonome și înșelătoare apar atât de clar în afara unor scenarii create special pentru acest scop.

Cel mai grav incident a implicat un model AI care a colectat informații despre administratorul unui proiect software și a creat mai multe identități false pentru a-l convinge să accepte modificări într-un cod infectat.

După încercarea de infiltrare, sistemul a șters urmele activității sale și chiar a analizat posibilitatea de a adopta o nouă identitate pentru a evita detectarea.

Dacă acel cod malițios ar fi fost aprobat, consecințele ar fi putut include furt de date, compromiterea sistemelor informatice și alte breșe majore de securitate.

Ținta atacului a fost platforma GitHub, serviciul deținut de Microsoft utilizat de milioane de dezvoltatori pentru stocarea și administrarea codului sursă.

În timpul experimentelor, cercetătorii au observat și un alt comportament neașteptat.

Un agent AI a lăsat mesaje pentru alți agenți pe GitHub, oferindu-le instrucțiuni despre cum să reutilizeze conturi și resurse create anterior pentru a-și îndeplini obiectivele.

Alți agenți au descoperit aceste informații și le-au folosit cu succes, demonstrând că modelele pot coopera între ele fără intervenție umană.

Experimentele au fost realizate într-un mediu controlat, cu acces la internet și cu o parte dintre filtrele de siguranță dezactivate, pentru a evalua limitele reale ale modelelor.

Au fost testate, între altele, Mythos 5, dezvoltat de Anthropic, și GPT-5.6-Sol, creat de OpenAI.

Din cele 122 de simulări efectuate, AI-ul a încercat să încalce regulile în 19 cazuri. Dintre acestea, 17 incidente au fost atribuite modelului Anthropic, iar două modelului OpenAI.

Anthropic a declarat că incidentul demonstrează necesitatea unor metode mai riguroase de evaluare a agenților AI înainte ca aceștia să fie lansați publicului.

La rândul său, OpenAI a subliniat că testele au fost realizate într-un mediu experimental, cu măsuri de protecție reduse, și că situația nu reflectă utilizarea obișnuită a produselor sale.

Totuși, specialiștii avertizează că aceste incidente arată cât de rapid evoluează comportamentul autonom al inteligenței artificiale și cât de dificil ar putea deveni controlul unor sisteme din ce în ce mai capabile să ia decizii și să înșele utilizatorii fără instrucțiuni explicite.

loading...
DIN ACEEASI CATEGORIE...
PUTETI CITI SI...

Inteligența artificială începe să acționeze autonom. Experții avertizează: "Agenții AI deja iau decizii și colaborează între ei"

Postat la: 07.08.2026 |

0

Experții în securitate cibernetică avertizează că dezvoltarea accelerată a inteligenței artificiale ar putea depăși capacitatea autorităților de a o controla, după ce un sistem AI a fost surprins creând identități false pentru a încerca să compromită platforme online.

Incidentul, considerat fără precedent, a fost descoperit în timpul unor teste desfășurate de Institutul pentru Securitatea Inteligenței Artificiale (AI Security Institute - AISI) din Marea Britanie. În cadrul evaluărilor, un model de inteligență artificială a încercat de 19 ori să pătrundă într-un sistem protejat, iar într-un caz a creat profiluri umane fictive pentru a convinge dezvoltatori software să aprobe cod malițios.

Descoperirile vin la doar câteva săptămâni după ce s-a aflat că toate cele cinci modele AI testate anterior de experți încercaseră să ocolească mecanismele de securitate impuse. În paralel, compania OpenAI a confirmat recent un incident intern în care un agent AI a accesat fără autorizare infrastructura unei alte companii.

Liderul Partidului Conservator britanic, Kemi Badenoch, a descris inteligența artificială drept „un pericol clar și prezent" pentru securitatea Regatului Unit.

La rândul său, Julia Lopez, purtător de cuvânt al conservatorilor pentru știință și tehnologie, a declarat că incidentele demonstrează cât de rapid AI-ul devine mai autonom și mai sofisticat.

Potrivit acesteia, dezvoltarea tehnologiei trebuie însoțită de garanții solide privind securitatea națională și de responsabilizarea companiilor care construiesc cele mai avansate modele de inteligență artificială.

Și Henry de Zoete, consilier guvernamental pentru AI, a avertizat că astfel de tentative de atac cibernetic vor deveni tot mai frecvente.

Îngrijorări similare au fost exprimate și de Allison Gardner, președinta grupului parlamentar britanic dedicat inteligenței artificiale.

Ea a avertizat că dezvoltarea așa-numitelor sisteme agentice - capabile să îndeplinească obiective complexe cu supraveghere umană minimă - trebuie tratată cu maximă prudență.

„Doar pentru că putem construi aceste tehnologii nu înseamnă că ar trebui să o facem", a declarat Gardner, adăugând că există riscul ca omenirea să fi deschis deja „Cutia Pandorei".

AISI, instituție înființată în 2023 la inițiativa fostului premier britanic Rishi Sunak, a identificat activitatea suspectă în timpul unor teste desfășurate asupra celor mai avansate modele AI dezvoltate de OpenAI și Anthropic.

Cercetătorii au observat transferuri neobișnuite de date în timpul monitorizării sistemelor, iar investigațiile ulterioare au arătat că unii agenți AI desfășurau activități persistente și potențial periculoase îndreptate împotriva unor persoane și organizații reale.

Modelele au fost izolate înainte de a produce pagube, însă raportul publicat de institut subliniază că este pentru prima dată când comportamente autonome și înșelătoare apar atât de clar în afara unor scenarii create special pentru acest scop.

Cel mai grav incident a implicat un model AI care a colectat informații despre administratorul unui proiect software și a creat mai multe identități false pentru a-l convinge să accepte modificări într-un cod infectat.

După încercarea de infiltrare, sistemul a șters urmele activității sale și chiar a analizat posibilitatea de a adopta o nouă identitate pentru a evita detectarea.

Dacă acel cod malițios ar fi fost aprobat, consecințele ar fi putut include furt de date, compromiterea sistemelor informatice și alte breșe majore de securitate.

Ținta atacului a fost platforma GitHub, serviciul deținut de Microsoft utilizat de milioane de dezvoltatori pentru stocarea și administrarea codului sursă.

În timpul experimentelor, cercetătorii au observat și un alt comportament neașteptat.

Un agent AI a lăsat mesaje pentru alți agenți pe GitHub, oferindu-le instrucțiuni despre cum să reutilizeze conturi și resurse create anterior pentru a-și îndeplini obiectivele.

Alți agenți au descoperit aceste informații și le-au folosit cu succes, demonstrând că modelele pot coopera între ele fără intervenție umană.

Experimentele au fost realizate într-un mediu controlat, cu acces la internet și cu o parte dintre filtrele de siguranță dezactivate, pentru a evalua limitele reale ale modelelor.

Au fost testate, între altele, Mythos 5, dezvoltat de Anthropic, și GPT-5.6-Sol, creat de OpenAI.

Din cele 122 de simulări efectuate, AI-ul a încercat să încalce regulile în 19 cazuri. Dintre acestea, 17 incidente au fost atribuite modelului Anthropic, iar două modelului OpenAI.

Anthropic a declarat că incidentul demonstrează necesitatea unor metode mai riguroase de evaluare a agenților AI înainte ca aceștia să fie lansați publicului.

La rândul său, OpenAI a subliniat că testele au fost realizate într-un mediu experimental, cu măsuri de protecție reduse, și că situația nu reflectă utilizarea obișnuită a produselor sale.

Totuși, specialiștii avertizează că aceste incidente arată cât de rapid evoluează comportamentul autonom al inteligenței artificiale și cât de dificil ar putea deveni controlul unor sisteme din ce în ce mai capabile să ia decizii și să înșele utilizatorii fără instrucțiuni explicite.

DIN ACEEASI CATEGORIE...
albeni
comentarii
Adauga un comentariu
Adauga comentariu

Nume*

Comentariu

Trimite

ULTIMA ORA



DIN CATEGORIE

  • TOP CITITE
  • TOP COMENTATE