Halucinațiile AI devin din ce în ce mai grave. Și nu, nu vor dispărea prea curând
Postat la: 12.05.2025 | Scris de: ZIUA NEWS

Deși OpenAI, Google și alți giganți tehnologici au lansat în ultimele luni actualizări menite să îmbunătățească capacitatea chatboturilor de a raționa și a răspunde mai precis, testele recente arată că aceste versiuni noi sunt adesea mai puțin fiabile decât cele anterioare.
Vinovate sunt așa-numitele „halucinații", erori de conținut în care modelele oferă informații false, irelevante sau complet inventate. Și, potrivit unor analize independente, nu doar că problema persistă, dar pare să se agraveze. Un raport tehnic publicat de OpenAI a scos la iveală faptul că cele mai noi modele de limbaj, o3 și o4-mini, lansate în aprilie 2025, înregistrează rate de halucinație mult mai mari decât versiunea anterioară, o1, din 2024.
În sarcini precum rezumarea informațiilor publice despre persoane, modelul o3 a halucinat în 33% din cazuri, iar o4-mini în 48%. Spre comparație, o1 avea o rată de eroare de doar 16%. Nici ceilalți jucători din industrie nu stau mai bine. Un clasament realizat de compania Vectara, care monitorizează acuratețea modelelor AI în diverse sarcini, arată că mai multe modele „de raționament", inclusiv DeepSeek-R1, dezvoltat de compania DeepSeek, au înregistrat creșteri în două cifre ale ratei de halucinație față de versiunile anterioare.
OpenAI susține că procesul de raționament nu este în sine cauza acestor erori. „Halucinațiile nu sunt neapărat mai frecvente în modelele de raționament, însă lucrăm activ pentru a reduce ratele ridicate observate la o3 și o4-mini", a declarat un purtător de cuvânt al companiei. Problema nu este doar una tehnică, ci are implicații directe pentru utilizarea practică a acestor tehnologii. Un chatbot care oferă constant informații false nu este un asistent de cercetare util.
Un „paralegal virtual" care citează cazuri inexistente poate compromite un proces. Un agent de relații cu clienții care transmite politici expirate poate afecta reputația unei companii. Clasamentul Vectara evaluează modelele în funcție de consistența lor factuală în sarcini de rezumare a unor documente. Potrivit lui Forrest Sheng Bao, cercetător la Vectara, ratele de halucinație sunt „aproape identice" între modelele de raționament și cele care nu folosesc astfel de tehnici, cel puțin în cazul sistemelor dezvoltate de OpenAI și Google. Google nu a oferit comentarii suplimentare.
Emily Bender, lingvist computațional la Universitatea din Washington, atrage atenția că aceste teste nu reflectă acuratețea modelelor în alte tipuri de sarcini. Mai mult, termenul „halucinație" este considerat problematic. „Induce ideea că aceste erori sunt anomalii ce pot fi eliminate și umanizează excesiv mașinile, când spunem că halucinează, sugerăm că percep realitatea, ceea ce nu e cazul", declară Bender.
Și Arvind Narayanan, expert în AI la Universitatea Princeton, avertizează că problema este mai complexă. Modelele pot greși și din alte motive, precum utilizarea unor surse nesigure sau învechite. Suplimentarea datelor de antrenament și a puterii de calcul nu a dus automat la creșterea acurateței. Narayanan sugerează că, în unele cazuri, folosirea AI e justificată doar dacă verificarea răspunsurilor e mai rapidă decât cercetarea de la zero. Dar pentru multe aplicații critice, cea mai sigură soluție ar putea fi pur și simplu să nu ne bazăm deloc pe chatboturi pentru informații factuale.
DIN ACEEASI CATEGORIE...
-
Iranul a lovit sediul Mossad-ului cu rachete balistice - Atac de amploare cu arme necunoscute apărării Iron Dome
Iranul a anunțat ca a lovit sediul Mossad-ului și centrul de informații militare al Israelului in cursul celui mai recen ...
-
Ursula nu se lasă până când nu ne nenorocește pe toți: UE vrea să reînvie practica bancară care a dus la criza financiară din 2008
Uniunea Europeana vrea sa readuca in prim-plan o practica financiara adesea legata de criza economica din 2008, incercan ...
-
Adrian Fetecău ne surprinde cu romanul „Mihai și Mihaela". Foarte bun pentru toțI cei care (încă mai) cred că dragostea nu a murit!
Apariție editoriala surpriza! Dupa noua carți cu subiecte „rupte din realitate", in special din lumea sportului, A ...
-
Un expert aviatic vine cu explicații: Ce se întâmplă cu corpul uman când un avion se prăbușește?
Tragedia aviatica Air India din 12 iunie, a dus la un val de frica printre pasagerii curselor aeriene, dar puțini știu c ...
-
Teoria conspirației se încinge: Rusia acuză Marea Britanie că planifică atacuri teroriste care să fie comise de Ucraina
Serviciul de Informatii Externe al Rusiei (SVR) a acuzat luni Londra de elaborarea unor planuri de atacuri teroriste pe ...
-
Meta introduce publicitate pe WhatsApp. Cum se va schimba configurația aplicației
Platforma de mesagerie WhatsApp, apartinand Meta, a anuntat luni introducerea in perioada urmatoare a unor noi spatii pu ...
-
Oamenii de știință din Antarctica sunt nedumeriți după ce au descoperit unde radio misterioase provenind de sub calota glaciară
Planeta Pamant continua sa ascunda o mulțime de secrete pe care știința moderna pare inca departe de a le descoperi. Una ...
-
Ce au în comun RFK Jr, Joe Rogan și Mel Gibson: medicamentul „miraculos" care îi menține tineri
Apariția lui Mel Gibson in emisiunea Joe Rogan Experience la inceputul acestui an a starnit un val de reacții pe interne ...
-
Ne omoară cu zile: O toxină aeropurtată produsă de om si extrem de periculoasă a fost detectată din intamplare in mediul inconjurător
Oamenii de știința de la Universitatea din Colorado Boulder au descoperit o toxina aeropurtata alarmanta, produsa de om, ...
-
Urmărește cel mai tare documentar al momentului - "Agenda: viziunea lor, viitorul tău: închisoarea digitală care ne așteaptă pe toți"
„Profețiile facute in 1931 [in „Brave New World"] se implinesc mult mai repede decat credeam... Coșmarul org ...
-
Mesele principale te ucid! S-a descoperit cel mai bun principiu de a te hrani daca vrei sa fii frumos si sanatos si sa traiesti mult
Dr. Vernon Coleman sugereaza ca a lua trei mese principale pe zi este nenatural și poate duce la creșterea in greutate ș ...
-
Ghidul complet al florilor de apartament
Florile ne invața despre rabdare. Despre liniștea cu care se deschid, indiferent de zgomotul de afara. Într-un apa ...
-
Peștii trec prin suferințe oribile înainte de moarte cu toate ca in multe religii se crede ca sunt doar un pic mai presus de plante
Peștii capturați in scop comercial trec prin suferințe intense inainte de moarte. Cercetatorii au analizat modul in care ...
-
Primele firme cu miliarde de dolari se prăbușesc strivite de Inteligenta Artificială. Celelalte urmeaza si ele "principiul dominoului"
Inteligenta artificiala genereaza o transformare profunda in industria publicitatii si ii nelinisteste pe investitori, a ...
-
Nume de cod "C": Una dintre cele mai puternice și mai bine informate femei din lume a fost pusă în fruntea MI6 ca-n filmele cu James Bond
Marea Britanie a numit-o duminica pe Blaise Metreweli, ofiter de cariera in serviciile secrete, la conducerea serviciulu ...
-
Cel mai cunoscut prezicator in ale tehnologiei profeteste momentul în care "medicina va putea ocoli moartea". El a mai anuntat in trecut aparitia iPhone
Ray Kurzweil, fost director de inginerie la Google și unul dintre cei mai cunoscuți futurologi ai Silicon Valley - intre ...
-
Controversă națională: Unde va fi înmormântat Ion Iliescu? Locul de veci al fostului președinte iscă un nou scandal!
Starea de sanatate fragila a fostului președinte Ion Iliescu, internat la Terapie Intensiva cu o afecțiune pulmonara gra ...
-
Nicușor Dan știa el ceva: S-a descoperit că mucusul ne poate proteja de demență!
Cercetarile recente evidentiaza un aliat biologic neasteptat in lupta impotriva bolilor: mucusul. Mult timp privita ca u ...
-
X-files în timpul accidentului aviatic al Air India: la fel de straniu este că același lucru s-a produs și în urmă cu 27 de ani
Singurul pasager care a scapat cu viața din accidentul recent al unui Boeing 787 al Air India aduce in atenție un detali ...
-
Umbla o noua escrocherie prin lume: O femeie a rămas fără 30.000 de lei după ce le-a dat telefonul unor necunoscuți
O femeie din Maramureș a ramas fara 30.000 de lei dupa ce le-a dat telefonul unor necunoscuți, sub pretextul investiției ...
-
Noapte horror sub Iron Dome: Iranul anunță că a folosit noul său tip de rachetă balistică în atacurile contra Israelului
Iranul afirma ca a folosit noul sau tip de racheta balistica in ultimele lovituri asupra Israelului. Potrivit agentiei d ...
-
Șeful Ocolului Silvic, sfâșiat de ursul vânat în Argeș: transportat la spital în stare gravă după ce a fost atacat
Situație dramatica in județul Argeș! Virgil Zamfira, șeful Ocolului Silvic Domnești, a fost grav ranit in aceasta dimine ...
-
Regina Întunericului acuză că Ciprian Pian a murit cu zile: se simțea rău și nimeni nu l-a băgat în seamă
Gabriela Lucuțar, supranumita Regina Întunericului, acuza ca Ciprian Pian s-ar fi simțit rau timp de doua zile pan ...
-
Sebastian Burduja dă vina pe populație pentru explozia facturilor la energie. Asta dupa ce i-a înglodat in datorii pe comnsumatori
Ministrul Energiei, Sebastian Burduja, a declarat despre ridicarea plafonarii pretului la energie, de la 1 iulie, ca "ac ...
-
Cromozomul Y, care determină sexul bărbaților, ar putea dispărea. Este în proces de degenerare, avertizează specialiștii
Cromozomul Y uman este in proces de degenerare și ar putea disparea in cateva milioane de ani, ducand la extincția oamen ...
-
Adevarul despre suplimentele alimentare. Medic: "Sunt reclame care pot pune viaţa pacienţilor în pericol"
Medicul Daciana Toma, medic primar de medicina de familie, a explicat intr-un interviu acordat news.ro care este pericol ...
-
NASA face o descoperire misterioasă: "Zidul de foc" de 50.000 de grade Celsius
Lansate in 1977, sondele Voyager ale NASA au fost concepute pentru a explora marginea Sistemului Solar și mediul interst ...
-
Studiu cutremurător: 10% dintre liceeni consumă droguri, 70% beau alcool, 40% joacă la păcănele
Un studiu recent realizat in liceele din Capitala arata o realitate alarmanta: majoritatea adolescenților beau alcool, m ...
-
Locul 11A, noroc, strategie sau mit: Poziția singurului supraviețuitor al prăbușirii avionului Boeing 787 stârnește controverse
Supravietuirea unui pasager, care a scapat printr-o usa de evacuare la cateva secunde dupa ce avionul Boeing 787 Dreamli ...
-
Deja e foarte grav: Mark Rutte cere intervenția NATO în conflictul Israel - Iran
Secretarul general al NATO, Mark Rutte, a declarat vineri ca este crucial ca aliatii NATO, inclusiv Statele Unite, sa ac ...
comentarii
Adauga un comentariuAdauga comentariu