Pârnaie pentru Inteligenta Artificială: Nvidia construiește practic o "cușcă" pentru agenții AI ca aceștia să nu poată face lucruri periculoase pentru om
Postat la: 01.10.2026 |
NVIDIA a lansat Open Agent Safety Platform, o soluție de securitate concepută pentru agenții AI capabili să execute singuri sarcini pe calculatoare și în infrastructuri cloud. Scopul este simplu. Dacă un astfel de agent încearcă să depășească limitele în care a fost autorizat să opereze, platforma poate să îi blocheze accesul înainte să ajungă în alte sisteme.
Anunțul vine într-un moment în care agenții AI devin tot mai autonomi și primesc acces la aplicații, fișiere, cod și servicii online. NVIDIA susține că protecțiile introduse doar la nivelul modelului AI nu sunt suficiente, pentru că unele sisteme pot găsi căi ocolitoare atunci când încearcă să finalizeze o sarcină.
Platforma are două componente principale. Prima se numește OpenShell și este un software open-source care stabilește ce resurse poate accesa agentul și ce acțiuni are voie să execute. Practic, acesta creează un mediu controlat în jurul agentului și încearcă să îl țină în interiorul limitelor stabilite.
A doua componentă, Sentry, funcționează separat de procesorul principal și de placa grafică, pe unitățile NVIDIA BlueField-4. Rolul său este să urmărească permanent comportamentul agentului. Dacă acesta încearcă să acceseze o zonă în care nu are permisiune, Sentry îl poate izola în câteva milisecunde, potrivit companiei.
NVIDIA spune că o astfel de arhitectură este necesară deoarece agenții AI nu mai sunt doar sisteme care răspund la întrebări, ci pot lua decizii, pot folosi instrumente și pot interacționa cu infrastructuri reale. Asta înseamnă că o eroare de configurare sau o acțiune neașteptată poate avea consecințe mult mai serioase decât în cazul unui chatbot obișnuit.
Peste 100 de organizații lucrează deja cu platforma, printre care Anthropic, Microsoft, Salesforce, SAP, Scale AI, JPMorganChase, Palantir și Palo Alto Networks. Anthropic a integrat OpenShell și BlueField în soluțiile sale pentru agenți, iar Salesforce permite echipelor să vadă în Slack ce încearcă să facă un agent și să aprobe sau să respingă cererile suplimentare de acces. Software-ul OpenShell este disponibil prin resursele NVIDIA pentru dezvoltatori și pe GitHub.
DIN ACEEASI CATEGORIE...
-
Inteligența artificială a ajuns să le arate hackerilor cine are cei mai mulți bani în cont
Un malware bancar pentru Android folosește Gemini nu doar ca instrument tehnic, ci și pentru a decide ce victime merita ...
-
Semnele vitale ale Pământului sunt pe roșu: Șapte sisteme ale vieții au fost „sparte"
Un nou raport realizat de catre Laboratorul științific „Planetary Boundaries" de la Institutul din Potsdam pentru ...
-
Prima execuție a unei femei din ultimii 200 de ani, în Tennessee, a eșuat. A fost transportată la spital după administrarea injecției letale
Execuția Christei Pike, 50 de ani, in statul american Tennessee pare sa fi eșuat, potrivit martorilor și avocaților cond ...
-
Cursa Flydubai: Netanyahu spune că pilotul care și-ar fi înjunghiat copilotul și ar fi încercat să prăbușească aeronava a fost arestat
Premierul israelian Benjamin Netanyahu a declarat miercuri ca pilotul unei curse de la Dubai catre Israel, care ar fi fo ...
-
Pilotul unui zbor Dubai-Israel a vrut să prăbușească intenționat avionul. Celălalt pilot l-a înjunghiat ca să îl oprească. Unul era rus, celălalt era ucrainean
Un zbor Flydubai de la Dubai spre Israel a fost deviat miercuri, 30 septembrie, catre Arabia Saudita, dupa ce piloții ae ...
-
Percheziții EPPO în România și alte state europene, într-un dosar de 300 de milioane de euro: Peste un milion de telefoane făcute din piese folosite, vândute drept noi
O rețea investigata de Parchetul European ar fi vandut pe platforme online peste un milion de telefoane prezentate drept ...
-
Măsuri de protecție ca în pandemie pentru ca Vladimir Putin să nu răcească. Oficialii cu teste pozitive la gripă sunt trimiși în concediu medical
Administrația prezidențiala a Rusiei se confrunta cu o alerta medicala. Șeful de cabinet Anton Vaino și adjunctul sau, S ...
-
Chipul nevăzut al lui Donald Trump: Cum este președintele SUA în privat, potrivit dezvăluirilor făcute de omul care îi păzește viața
Un agent al Serviciului Secret american care l-ar fi protejat pe fostul președinte Donald Trump ar fi facut o declarație ...
-
Au furat cocaină din depozitul de probe al Poliției și au înlocuit-o cu făină - Drogurile ar valora 15 milioane de dolari
Miercuri, anchetatorii analizau pistele in urma unui jaf de proporții din insula Fiji, cautand zeci de colete cu cocaina ...
-
Motivul pentru care polițiștii te vor opri în trafic în următoarele săptămâni: Întrebările la care conducătorii auto trebuie să răspundă
Conducatorii auto din Romania vor fi opriți pe șosele de catre autoritați și vor fi intrebați despre traseul urmat și de ...
-
Lăsat inițial în libertate, arestat de CAB. Cum a motivat Tribunalul București decizia în cazul Călin Georgescu
Judecatorul Vlad Andriescu de la Tribunalul București a respins inițial cererea DIICOT de arestare preventiva a lui Cali ...
-
Susținătorii lui Georgescu fac chetă de 1.100.000 de euro, ca să îl elibereze: Legea nu permite eliberarea dacă se achită prejudiciul
Susținatorii lui Calin Georgescu fac cheta ca sa achite prejudiciul de 1.100.000 de euro de care este acuzat in cel mai ...
-
Analiză terifiantă despre evoluția conflictelor globale: "Duelul ar putea degenera rapid într-unul nuclear"
Cunoscutul editorialist Ted Carpenter, a strans din mass-media occidentale atacurile in "zona gri" care sunt atribuite R ...
-
"Căpitanul taților": Un militar american a plătit 37.000 de euro pentru o operațiune în România pentru a-și recupera copilul răpit de către soție
Nicholas DauSchmidt a devenit „capitanul taților", foști soți carora li s-au luat copiii și au fost duși in strain ...
-
Un judecător din Teleorman "cântărește" de 5 ani ce sentință să dea într-un banal caz de înșelăciune. A amânat verdictul de peste 180 de ori
O avocata din Giurgiu, Angelica David, a sarbatorit luni un eveniment profesional deosebit: s-au implinit 5 (cinci) ani ...
-
Financial Times a confirmat din surse sigure declarația lui Kimberly Guilfoyle referitoare la căderea Guvernului Bolojan: „Putem face asta în orice țară vrem. Putem face asta și aici"
Prestigiosul cotidian de afaceri Financial Times a confirmat, din surse independente, dialogul dintre ambasadoarea SUA i ...
-
Descoperă avantajele unei case smart, de la confort la eficiență
Te-ai intrebat vreodata cum ar fi sa ai control deplin asupra tuturor echipamentelor din locuința, economisind timp și r ...
-
Câte cuvinte înțelege, de fapt, un câine. Numărul i-a surprins chiar și pe cercetători
Cainii pot reacționa imediat cand aud termeni precum „plimbare", „mancare" sau „afara", insa vocabular ...
-
Cercetătorii au "îmbătat" Inteligența Articicială și așa au aflat lucruri secrete
O cercetare mai puțin obișnuita a fost realizata de catre experții de la Universitatea New South Wales Sydney din Austra ...
-
Mare e grădina Ta, da' să vezi casa! Susținătorii lui Călin Georgescu vor să strângă bani să-i cumpere vila din Toscana, după ce DIICOT a pus sechestru pe cea din Mogoșoaia
Susținatorii lui Calin Georgescu au inceput sa stranga bani pe TikTok și Facebook pentru a-l ajuta sa-și cumpere o vila ...
-
Inca un pas spre carnea artificială în România: Ce este carnea hibrid de la Lidl. Alimentul a fost introdus recent în supermarketuri
Lidl a lansat recent o gama inovatoare de produse din carne hibrid, care combina carnea tradiționala cu proteine din maz ...
-
Se confirmă încă o teorie a conspirației: Netanyahu știa de atacul de la 7 octombrie: Șeful spionajului egiptean l-ar fi avertizat cu doar câteva zile înainte de ofensiva Hamas
Șeful serviciilor de informații din Egipt, Abbas Kamel, l-a sunat pe premierul Benjamin Netanyahu cu doar cateva zile in ...
-
Creierul ar putea avea un buton de resetare: Experimentul care a redat amintiri uitate prin 'întinerirea' neuronilor
O echipa de cercetatori din Elveția a reușit sa intinereasca parțial neuroni implicați in stocarea amintirilor și sa res ...
-
Se schimbă regulile pentru magazinele din România: Noua lege arată ce trebuie să afli despre un produs înainte să dai banii pe el
Un telefon, o mașina de spalat sau o imprimanta pot parea o alegere buna pana cand afli cat timp primesc actualizari, ca ...
-
Un semnal radio a fost prins venind direct de la o planetă aflată în afara Sistemului Solar. Cercetătorii au reușit ceea ce până acum părea imposibil
Astronomii au reușit o performanța istorica: au detectat un semnal radio care provine direct de la o planeta aflata in a ...
-
Tehnologia care poate transforma aerul uscat în sursă de apă: un chimist român lucrează la ea la Princeton
Chimistul roman Mircea Dinca, profesor la Princeton, dezvolta materiale care ar putea fi folosite pentru stocarea energi ...
-
Tranziția între anotimpuri cere mai puțină „întărire" și mai multă adaptare zilnică
Dimineața pleci cu geaca, la pranz regreți ca nu ai ales o camașa, iar seara te intorci acasa cu durere de cap, nas infu ...
-
"Operațiunea Adam și Eva" - cartea despre adevărata identitate a lui Iisus şi sfârşitul ciclic al lumii. Dosar CIA declasificat
Documentele recent declasificate din arhivele americane ale CIA mentioneaza "Operațiunea Adam si Eva". Cercetatorul Chan ...
-
Electricitate de pe fundul mării: China a testat cu succes panouri solare aflate la 10 metri sub apă
Cercetatorii anunța ca au testat cu succes panouri solare la adancimi subacvatice considerate anterior impracticabile pe ...
-
Avocații lui Călin Georgescu acuză un "Volum Secret" în dosarul privind lovitura de stat. CAB cere lămuriri la ICCJ
Termenul la dosarul lui Calin Georgescu de la Curtea de Apel București a fost unul destul de scurt. Fostul candidat la p ...
comentarii
Adauga un comentariuAdauga comentariu