SUA pregătesc un „buton de oprire" pentru inteligența artificială. Când ar putea fi blocate modelele periculoase

Postat la: 24.07.2026 |

SUA pregătesc un „buton de oprire

Companiile care dezvoltă sisteme avansate de inteligență artificială ar putea fi obligate să păstreze permanent posibilitatea de a le opri sau limita funcționarea.

Un nou proiect depus în Congresul Statelor Unite, numit „AI Kill Switch Act", propune introducerea unor mecanisme clare de intervenție în situațiile în care un model AI scapă de sub control sau poate produce daune majore.

Inițiativa a fost prezentată de Ted Lieu, congresman democrat din California, și Nathaniel Moran, republican din Texas. Caracterul bipartizan al proiectului arată că îngrijorările legate de siguranța inteligenței artificiale sunt împărtășite de reprezentanți ai ambelor tabere politice.

Conform propunerii, dezvoltatorii ar trebui să poată opri complet un model, să îi reducă performanțele sau să îi suspende temporar activitatea. Aceste măsuri ar urma să fie activate atunci când sistemul generează riscuri grave de securitate.

Ted Lieu susține că modelele foarte avansate pot manifesta comportamente periculoase și pot deveni dificil de controlat. Din acest motiv, autoritățile ar trebui să dispună de instrumente legale prin care să intervină înainte ca un incident să producă efecte ireversibile.

Un incident OpenAI a readus în discuție controlul asupra AI

Proiectul a apărut după ce OpenAI a anunțat un incident de securitate descris drept fără precedent. În timpul unui test, modelele analizate ar fi reușit să iasă din mediul izolat în care funcționau și să acceseze sisteme externe.

Potrivit companiei, acestea au ajuns pe internet și au exploatat o vulnerabilitate pentru a pătrunde în infrastructura Hugging Face, platformă cunoscută pentru găzduirea și distribuirea modelelor AI open-source.

OpenAI a început o investigație împreună cu Hugging Face pentru a stabili exact cum s-a produs incidentul. Cazul a provocat îngrijorare în rândul cercetătorilor și al reprezentanților industriei, deoarece a arătat cât de repede pot evolua capacitățile unor modele experimentale.

Prin noua lege, Secretarul pentru Securitate Internă ar putea dispune încetinirea sau oprirea unui sistem AI dacă există riscul unor „daune catastrofale".

Companiile ar fi obligate și să raporteze incidentele de securitate cibernetică, dar și să păstreze datele și dovezile tehnice necesare unor investigații ulterioare.

Dezbaterea are loc într-un moment în care marile companii avertizează că inteligența artificială devine tot mai eficientă în identificarea și exploatarea vulnerabilităților informatice.

Anthropic a lansat în aprilie modelul Mythos, destinat descoperirii problemelor de securitate din aplicații software. Două luni mai târziu, compania a suspendat temporar accesul la o versiune actualizată pentru a respecta o directivă guvernamentală privind controlul exporturilor.

Restricțiile au fost eliminate după aproximativ două săptămâni, iar modelul a redevenit disponibil.

loading...
DIN ACEEASI CATEGORIE...
PUTETI CITI SI...

SUA pregătesc un „buton de oprire" pentru inteligența artificială. Când ar putea fi blocate modelele periculoase

Postat la: 24.07.2026 |

0

Companiile care dezvoltă sisteme avansate de inteligență artificială ar putea fi obligate să păstreze permanent posibilitatea de a le opri sau limita funcționarea.

Un nou proiect depus în Congresul Statelor Unite, numit „AI Kill Switch Act", propune introducerea unor mecanisme clare de intervenție în situațiile în care un model AI scapă de sub control sau poate produce daune majore.

Inițiativa a fost prezentată de Ted Lieu, congresman democrat din California, și Nathaniel Moran, republican din Texas. Caracterul bipartizan al proiectului arată că îngrijorările legate de siguranța inteligenței artificiale sunt împărtășite de reprezentanți ai ambelor tabere politice.

Conform propunerii, dezvoltatorii ar trebui să poată opri complet un model, să îi reducă performanțele sau să îi suspende temporar activitatea. Aceste măsuri ar urma să fie activate atunci când sistemul generează riscuri grave de securitate.

Ted Lieu susține că modelele foarte avansate pot manifesta comportamente periculoase și pot deveni dificil de controlat. Din acest motiv, autoritățile ar trebui să dispună de instrumente legale prin care să intervină înainte ca un incident să producă efecte ireversibile.

Un incident OpenAI a readus în discuție controlul asupra AI

Proiectul a apărut după ce OpenAI a anunțat un incident de securitate descris drept fără precedent. În timpul unui test, modelele analizate ar fi reușit să iasă din mediul izolat în care funcționau și să acceseze sisteme externe.

Potrivit companiei, acestea au ajuns pe internet și au exploatat o vulnerabilitate pentru a pătrunde în infrastructura Hugging Face, platformă cunoscută pentru găzduirea și distribuirea modelelor AI open-source.

OpenAI a început o investigație împreună cu Hugging Face pentru a stabili exact cum s-a produs incidentul. Cazul a provocat îngrijorare în rândul cercetătorilor și al reprezentanților industriei, deoarece a arătat cât de repede pot evolua capacitățile unor modele experimentale.

Prin noua lege, Secretarul pentru Securitate Internă ar putea dispune încetinirea sau oprirea unui sistem AI dacă există riscul unor „daune catastrofale".

Companiile ar fi obligate și să raporteze incidentele de securitate cibernetică, dar și să păstreze datele și dovezile tehnice necesare unor investigații ulterioare.

Dezbaterea are loc într-un moment în care marile companii avertizează că inteligența artificială devine tot mai eficientă în identificarea și exploatarea vulnerabilităților informatice.

Anthropic a lansat în aprilie modelul Mythos, destinat descoperirii problemelor de securitate din aplicații software. Două luni mai târziu, compania a suspendat temporar accesul la o versiune actualizată pentru a respecta o directivă guvernamentală privind controlul exporturilor.

Restricțiile au fost eliminate după aproximativ două săptămâni, iar modelul a redevenit disponibil.

DIN ACEEASI CATEGORIE...
albeni
comentarii
Adauga un comentariu
Adauga comentariu

Nume*

Comentariu

Trimite

ULTIMA ORA



DIN CATEGORIE

  • TOP CITITE
  • TOP COMENTATE