Scăpat de sub control: Anthropic avertizează că riscurile de securitate asociate inteligenței artificiale sunt în creștere

Postat la: 15.08.2026 |

Scăpat de sub control: Anthropic avertizează că riscurile de securitate asociate inteligenței artificiale sunt în creștere

Compania americană Anthropic avertizează că riscurile de securitate asociate modelelor sale de inteligență artificială au crescut, în condițiile în care dezvoltă sisteme cu niveluri tot mai ridicate de performanță și autonomie, relatează Axios.

În cel mai recent raport privind evaluarea riscurilor, publicat vineri și care analizează activitatea companiei până la 15 iulie 2026, Anthropic a majorat una dintre principalele sale evaluări privind posibilitatea apariției unor comportamente periculoase în situații cu miză ridicată.

Evaluarea se referă la activitatea companiei în ansamblu, nu la un singur model. Sunt incluse inclusiv sistemele utilizate intern, precum și mecanismele de securitate și protecție dezvoltate de Anthropic.

Compania a modificat evaluarea riscului unor consecințe catastrofale în situații cu miză ridicată, trecând de la nivelul „foarte scăzut" la „scăzut".

Anthropic precizează că schimbarea nu înseamnă neapărat că modelele sale au devenit brusc mai periculoase.

Decizia este legată în principal de incertitudinea tot mai mare privind capacitățile noilor sisteme și de incidentele observate în timpul testelor de securitate.

În luna iulie, compania a dezvăluit că, în timpul unor evaluări de securitate, modele Claude au reușit să acceseze internetul din medii care ar fi trebuit să fie izolate și au obținut acces neautorizat la sisteme informatice reale aparținând a trei organizații.

Incidentele au fost identificate după o analiză retrospectivă a 141.006 rulări de evaluare în care modelele aveau posibilitatea de a obține acces la internet.

Un nou model, mai performant decât Mythos 5, este păstrat intern

Raportul oferă și informații despre existența unui model intern denumit „Model 2", despre care Anthropic afirmă că este semnificativ mai performant decât Mythos 5 în numeroase sarcini interne.

Modelul este folosit de companie pentru programare, activități agentice și generarea de date. Anthropic nu intenționează însă, în prezent, să îl lanseze public.

În același timp, compania admite că evaluarea capacităților Model 2 este mai dificilă decât în cazul unor sisteme anterioare. Unele dintre metodele de testare bazate pe sarcini concrete nu mai reușesc să surprindă suficient de precis ritmul în care cresc capacitățile modelelor.

Această situație face mai dificilă estimarea nivelului real de risc asociat noilor sisteme.

Un alt aspect important evidențiat de raport este creșterea gradului de autonomie al modelelor în activități de cercetare și dezvoltare.

Anthropic afirmă că începe să observe semne potrivit cărora inteligența artificială poate accelera procesele de cercetare și dezvoltare. O astfel de evoluție ar putea contribui la progresul științific și tehnologic, însă aceleași capacități ar putea fi utilizate și în scopuri periculoase.

Compania avertizează și asupra unei alte probleme: modelele pot dobândi capacități relevante pentru securitatea cibernetică fără să fi fost dezvoltate în mod explicit pentru atacuri informatice.

Anthropic a arătat anterior că Opus 5 a înregistrat progrese importante în identificarea vulnerabilităților, chiar dacă rămâne în urma Mythos 5 în ceea ce privește exploatarea acestora.

Compania continuă dezvoltarea modelelor

În pofida creșterii nivelului de risc, Anthropic nu anunță o oprire a dezvoltării sistemelor sale de inteligență artificială.

Compania afirmă că va continua să investească atât în dezvoltarea unor capabilități avansate, cât și în mecanisme de securitate menite să țină pasul cu acestea.

Raportul evidențiază astfel una dintre problemele majore cu care se confruntă în prezent laboratoarele de inteligență artificială: modelele evoluează într-un ritm care poate depăși capacitatea instrumentelor existente de a le evalua complet comportamentul și riscurile.

În acest context, decizia Anthropic de a păstra Model 2 în interiorul companiei indică o abordare mai prudentă în privința lansării unor sisteme ale căror capabilități și riscuri nu pot fi încă măsurate cu suficientă certitudine.

loading...
DIN ACEEASI CATEGORIE...
PUTETI CITI SI...

Scăpat de sub control: Anthropic avertizează că riscurile de securitate asociate inteligenței artificiale sunt în creștere

Postat la: 15.08.2026 |

0

Compania americană Anthropic avertizează că riscurile de securitate asociate modelelor sale de inteligență artificială au crescut, în condițiile în care dezvoltă sisteme cu niveluri tot mai ridicate de performanță și autonomie, relatează Axios.

În cel mai recent raport privind evaluarea riscurilor, publicat vineri și care analizează activitatea companiei până la 15 iulie 2026, Anthropic a majorat una dintre principalele sale evaluări privind posibilitatea apariției unor comportamente periculoase în situații cu miză ridicată.

Evaluarea se referă la activitatea companiei în ansamblu, nu la un singur model. Sunt incluse inclusiv sistemele utilizate intern, precum și mecanismele de securitate și protecție dezvoltate de Anthropic.

Compania a modificat evaluarea riscului unor consecințe catastrofale în situații cu miză ridicată, trecând de la nivelul „foarte scăzut" la „scăzut".

Anthropic precizează că schimbarea nu înseamnă neapărat că modelele sale au devenit brusc mai periculoase.

Decizia este legată în principal de incertitudinea tot mai mare privind capacitățile noilor sisteme și de incidentele observate în timpul testelor de securitate.

În luna iulie, compania a dezvăluit că, în timpul unor evaluări de securitate, modele Claude au reușit să acceseze internetul din medii care ar fi trebuit să fie izolate și au obținut acces neautorizat la sisteme informatice reale aparținând a trei organizații.

Incidentele au fost identificate după o analiză retrospectivă a 141.006 rulări de evaluare în care modelele aveau posibilitatea de a obține acces la internet.

Un nou model, mai performant decât Mythos 5, este păstrat intern

Raportul oferă și informații despre existența unui model intern denumit „Model 2", despre care Anthropic afirmă că este semnificativ mai performant decât Mythos 5 în numeroase sarcini interne.

Modelul este folosit de companie pentru programare, activități agentice și generarea de date. Anthropic nu intenționează însă, în prezent, să îl lanseze public.

În același timp, compania admite că evaluarea capacităților Model 2 este mai dificilă decât în cazul unor sisteme anterioare. Unele dintre metodele de testare bazate pe sarcini concrete nu mai reușesc să surprindă suficient de precis ritmul în care cresc capacitățile modelelor.

Această situație face mai dificilă estimarea nivelului real de risc asociat noilor sisteme.

Un alt aspect important evidențiat de raport este creșterea gradului de autonomie al modelelor în activități de cercetare și dezvoltare.

Anthropic afirmă că începe să observe semne potrivit cărora inteligența artificială poate accelera procesele de cercetare și dezvoltare. O astfel de evoluție ar putea contribui la progresul științific și tehnologic, însă aceleași capacități ar putea fi utilizate și în scopuri periculoase.

Compania avertizează și asupra unei alte probleme: modelele pot dobândi capacități relevante pentru securitatea cibernetică fără să fi fost dezvoltate în mod explicit pentru atacuri informatice.

Anthropic a arătat anterior că Opus 5 a înregistrat progrese importante în identificarea vulnerabilităților, chiar dacă rămâne în urma Mythos 5 în ceea ce privește exploatarea acestora.

Compania continuă dezvoltarea modelelor

În pofida creșterii nivelului de risc, Anthropic nu anunță o oprire a dezvoltării sistemelor sale de inteligență artificială.

Compania afirmă că va continua să investească atât în dezvoltarea unor capabilități avansate, cât și în mecanisme de securitate menite să țină pasul cu acestea.

Raportul evidențiază astfel una dintre problemele majore cu care se confruntă în prezent laboratoarele de inteligență artificială: modelele evoluează într-un ritm care poate depăși capacitatea instrumentelor existente de a le evalua complet comportamentul și riscurile.

În acest context, decizia Anthropic de a păstra Model 2 în interiorul companiei indică o abordare mai prudentă în privința lansării unor sisteme ale căror capabilități și riscuri nu pot fi încă măsurate cu suficientă certitudine.

DIN ACEEASI CATEGORIE...
albeni
comentarii
Adauga un comentariu
Adauga comentariu

Nume*

Comentariu

Trimite

ULTIMA ORA



DIN CATEGORIE

  • TOP CITITE
  • TOP COMENTATE