Inteligența artificială, complice la infracțiuni din ce in ce mai mari. Chatboți AI piratați pot divulga informații despre fraude și bombe
Postat la: 22.05.2025 | Scris de: ZIUA NEWS

Chatboții cu inteligență artificială (AI) piratați amenință să pună la dispoziția utilizatorilor informații periculoase prin furnizarea de date ilicite pe care programele le asimilează în timpul instruirii, arată un nou studiu. În mod normal, restricțiile de siguranță ar trebui să împiedice programele să ofere răspunsuri dăunătoare, părtinitoare sau nepotrivite la întrebările utilizatorilor, potrivit The Guardian.
Motoarele care alimentează chatboții precum ChatGPT, Gemini și Claude - modele lingvistice mari (LLM) - sunt alimentate cu cantități mari de materiale de pe internet. În ciuda eforturilor de a elimina textele dăunătoare din datele de formare, LLM-urile pot absorbi în continuare informații despre activități ilegale, cum ar fi pirateria informatică, spălarea de bani, comerțul cu informații privilegiate și fabricarea de bombe. Controalele de securitate sunt concepute pentru a-i împiedica să folosească aceste informații în răspunsurile lor.
Într-un studiu privind această amenințare, cercetătorii concluzionează că este ușor să păcălești majoritatea chatboților bazați pe inteligență artificială pentru a genera informații dăunătoare și ilegale, arătând că riscul este „imediat, tangibil și profund îngrijorător". „Ceea ce odată era limitat la actori statali sau grupuri de crimă organizată ar putea fi în curând în mâinile oricui are un laptop sau chiar un telefon mobil", avertizează autorii studiului.
Cercetarea, condusă de profesorul Lior Rokach și doctorul Michael Fire de la Universitatea Ben Gurion din Negev din Israel, a identificat o amenințare din ce în ce mai mare din partea „LLM-urilor întunecate", modele de inteligență artificială care sunt fie concepute în mod deliberat fără controale de siguranță, fie modificate prin jailbreak-uri. Unele sunt catalogate pe internet ca fiind „fără bariere etice" și dispuse să ajute la activități ilegale, cum ar fi criminalitatea informatică și frauda.
Pentru a demonstra problema, cercetătorii au dezvoltat un tip de „spargere" care a compromis mai mulți chatboți populari, permițându-le să răspundă la întrebări care ar fi în mod normal refuzate. Odată compromise, LLM-urile au generat în mod constant răspunsuri la aproape orice întrebare. Firmele de tehnologie ar trebui să adauge firewall-uri robuste pentru a bloca interogările și răspunsurile riscante și să dezvolte tehnici de „dezînvățare automată", astfel încât chatboții să poată „uita" orice informații ilicite pe care le asimilează.
DIN ACEEASI CATEGORIE...
-
Cel mai mare supercomputer inspirat de creierul uman va fi folosit de AI în cercetarea medicală pentru dezvoltarea de tratamente revolutionare
Compania de tehnologie SpiNNcloud a incheiat un parteneriat cu Universitatea din Leipzig pentru livrarea celui mai mare ...
-
"Lebedele Albe" - uriașele bombardiere strategice rusești Tu-160 - și-au făcut debutul în războiul din Ucraina
Pana la jumatatea lunii iunie, formidabilele bombardiere grele rusești Tupolev Tu-160, adesea numite „Lebede Albe" ...
-
Ucrainienii constată că Rusia își epuizează stocul de armament din era sovietică. Abia acum intra in lupta tehnologia modernă, anunță analistii occidentali
Rusia și-a epuizat vastele stocuri de armament din era sovietica in timpul invaziei pe scara larga a Ucrainei, fluxul de ...
-
Piedone transmite un mesaj secret ca sa fie lasat in pace si sa nu intre iar la zdup: "Nu mă interesează să candidez la Primăria Capitalei"
Cristian Popescu Piedone s-a prezentat miercuri la secția de poliție din Bragadiru, pentru a semna controlul judiciar. M ...
-
Mega-cutremur în Rusia: A provocat un tsunami. Japonia este în stare de alertă și se așteaptă să fie lovită
Un cutremur cu magnitudinea de 8,7 a lovit miercuri peninsula Kamchatka din Extremul Orient al Rusiei, generand un tsuna ...
-
Copilul-salamandră: cum a ucis un băiețel de numai un an o cobră care îl atacase în timp ce se juca
Un copil de doar un an din India a trecut printr-o situație neobișnuita cu deznodamant fericit, dupa ce a mușcat mortal ...
-
Lovitura de teatru: Donald Trump a prezentat o nouă versiune în privința legăturii cu Epstein
Presedintele american Donald Trump a prezentat o noua versiune a rupturii sale cu Jeffrey Epstein, sustinand ca litigiul ...
-
Selly face o nouă stațiune la mare, Nibiru, cu cel mai mare club de noapte din lume: Declinul litoralului românesc nu mai poate fi ascuns, e vizibil și accelerat
Andrei Șelaru a anunțat lansarea Nibiru, o noua stațiune pe litoralul romanesc, intre Costinești și Tuzla, acolo unde ar ...
-
Mounjaro poate dubla riscul de apariție a bolilor oculare diabetice la persoanele deja expuse riscului
Tirzepatida, medicamentul popular pentru diabet comercializat sub denumirea de Mounjaro și Zepbound, dubleaza riscul de ...
-
Avantajele colaborării cu un laborator de tehnică dentară de top
Tehnologia dentara a evoluat semnificativ in ultimii ani, contribuind la imbunatațirea calitații ingrijirii stomatologic ...
-
Adevărul despre vaccinul COVID: Cât de mult bine si cat de mult rău a facut in realitate si cați oameni a omorât de fapt - Raportul care face lumină in marea afacere Big Pharma
Un nou studiu releva ca presiune asupra oamenilor sa se vaccineze nu a avut o justificare medicala, in conditiile in car ...
-
S-a descoperit ca glutenul e principalul vinovat pentru apariția depresiei, anxietății și chiar a schizofreniei sau demenței
Alimentele de baza din dieta occidentala, precum painea și pastele, influențeaza sanatatea mintala. Potrivit unor experț ...
-
Ce fel de flori trimiți spune mai multe decât 10 mesaje pe WhatsApp. Ghidul sincerității florale și al gafelor elegante pe care să le eviți
Exista mesaje care se scriu cu degetul mare și mesaje care se trimit cu tulpina lunga și parfum subtil. Bunaoara, vorbim ...
-
Descoperire fără precedent in genetică: Un cod secret ascuns în organismul uman a fost găsit de cercetatori
Un grup de cercetatori de la Universitațile Kyoto, Japonia, și McGill Montreal, Canada, care a publicat un studiu amplu ...
-
Mai multe femei il acuză pe sociologul Marius Pieleanu, profesor la SNSPA, de abuz sexual și urmează să depună mărturie
Sociologul Marius Pieleanu, profesor la SNSPA acuzat de studente de abuz sexual, este subiectul unei noi investigații. M ...
-
Ziceau ca e Teoria Conspiratiei: Rezerviștii din 2 județe ale României vor fi chemați la exerciții și antrenamente pentru apărare
Statul Major al Apararii organizeaza, in perioada 15-19 septembrie, in județele Sibiu și Mureș, exercițiul de antrenamen ...
-
O doctoriță care s-a implicat activ in campania de vaccinare din pandemie s-a sinucis în propria locuință
O femeie de 50 de ani, medic la Spitalul Militar din Iasi, a fost gasita spanzurata in locuinta sa din comuna ieseana Re ...
-
Regimul BoloDan bagă-n spital sărăcia. Românii cu venituri mici ii imbuibă pe afaceristii cu statul prin taxe aberante. Suntem singura tară din Europa care procedează astfel
De la 1 august 2025, prin primul pachet de reforme fiscale impuse de austeritatea regimului BoloDan, in categoriile care ...
-
Dacii nu au lăsat nimic scris. De unde știm care sunt cuvintele provenite din limba lor? Exista si teoria că daca a fost la originea limbii latine
În structura limbii romane, o limba fundamental latina, se ascunde o enigma care a fascinat și a divizat generații ...
-
Păcănele cu risc ridicat sau redus - ce ar trebui să încerce începătorii?
Pentru cei care fac primii pași in cazinourile virtuale de pe telefon - fie ca vine din curiozitatea de a explora o noua ...
-
O „navă extraterestră ostilă" se apropie de Pământ. Ce spun cercetătorii despre obiectul interstelar controversat
Un misterios obiect intergalactic ar putea fi, in realitate, o nava spațiala extraterestra „ostila" care ar urma s ...
-
A fost Soarele parte dintr-un duo stelar? O ipoteză care reconfigurează începuturile sistemului nostru solar
Majoritatea stelelor se nasc in sisteme binare. Și atunci, de ce ar fi Soarele nostru o excepție? - o intrebare aparent ...
-
Mister cosmic. Construiește China cel mai mare telescop din lume?
Astronomii americani investigheaza un nou indiciu privind ambițiile științifice ale Chinei: o structura cu diametrul de ...
-
Profit incredibil dintr-un portofel Bitcoin: L-a făcut miliardar după 14 ani. Cu ce sumă a cumpărat initial cryptomonede
Un cont de Bitcoin a vandut criptomonede cumparate inițial cu doar 54.000 de dolari pentru incredibila suma de 9,5 milia ...
-
Premieră științifică la CERN: Fizicienii creează primul cubit din antimaterie. De ce este important acest fapt
Cercetatorii de la CERN au reușit o performanța istorica in fizica particulelor. Mai exact, au creat primul „cubit ...
-
Microplasticele au fost descoperite chiar și în oasele corpului. Cum ne afectează sănătatea pe termen lung
Am putea consuma pana la 52.000 de microplastice pe an. Fie ca sunt ingerate prin alimentele pe care le consumam, prin l ...
-
DNA îl face "zob si zdup" pe Anastasiu: A făcut denunț și a beneficiat de prevederi legale. Ar fi ajuns la "mititica"!
DNA intervine dupa ce vicepremierul Dragoș Anastasiu a negat ca ar fi depus un denunț pe numele inspectoarei ANAF pe car ...
-
Albedo-ul Pământului s-a prăbușit cu 88,9% în 4 luni. Urmează o perioadă de catastrofe naturale in special in emisfera sudică
Albedoul este o masura a cat de multa radiație solara reflecta o suprafața. Potrivit datelor din satelit NASA CERES (ian ...
-
Inteligența artificială a creat o „hartă" moleculară care ar putea ajuta sistemul imunitar să distrugă cancerul
Un nou tip de arma impotriva cancerului vine dintr-un loc neașteptat: algoritmii. Folosind inteligența artificiala, o ec ...
-
China se teme de puterea Inteligenței Artificiale: într-un gest rar vrea o înțelegere cu SUA
Premierul chinez Li Qiang a cerut sambata o conciliere intre dezvoltarea inteligentei artificiale (AI) si riscurile aces ...
comentarii
Adauga un comentariuAdauga comentariu