Halucinațiile AI devin din ce în ce mai grave. Și nu, nu vor dispărea prea curând
Postat la: 12.05.2025 | Scris de: ZIUA NEWS

Deși OpenAI, Google și alți giganți tehnologici au lansat în ultimele luni actualizări menite să îmbunătățească capacitatea chatboturilor de a raționa și a răspunde mai precis, testele recente arată că aceste versiuni noi sunt adesea mai puțin fiabile decât cele anterioare.
Vinovate sunt așa-numitele „halucinații", erori de conținut în care modelele oferă informații false, irelevante sau complet inventate. Și, potrivit unor analize independente, nu doar că problema persistă, dar pare să se agraveze. Un raport tehnic publicat de OpenAI a scos la iveală faptul că cele mai noi modele de limbaj, o3 și o4-mini, lansate în aprilie 2025, înregistrează rate de halucinație mult mai mari decât versiunea anterioară, o1, din 2024.
În sarcini precum rezumarea informațiilor publice despre persoane, modelul o3 a halucinat în 33% din cazuri, iar o4-mini în 48%. Spre comparație, o1 avea o rată de eroare de doar 16%. Nici ceilalți jucători din industrie nu stau mai bine. Un clasament realizat de compania Vectara, care monitorizează acuratețea modelelor AI în diverse sarcini, arată că mai multe modele „de raționament", inclusiv DeepSeek-R1, dezvoltat de compania DeepSeek, au înregistrat creșteri în două cifre ale ratei de halucinație față de versiunile anterioare.
OpenAI susține că procesul de raționament nu este în sine cauza acestor erori. „Halucinațiile nu sunt neapărat mai frecvente în modelele de raționament, însă lucrăm activ pentru a reduce ratele ridicate observate la o3 și o4-mini", a declarat un purtător de cuvânt al companiei. Problema nu este doar una tehnică, ci are implicații directe pentru utilizarea practică a acestor tehnologii. Un chatbot care oferă constant informații false nu este un asistent de cercetare util.
Un „paralegal virtual" care citează cazuri inexistente poate compromite un proces. Un agent de relații cu clienții care transmite politici expirate poate afecta reputația unei companii. Clasamentul Vectara evaluează modelele în funcție de consistența lor factuală în sarcini de rezumare a unor documente. Potrivit lui Forrest Sheng Bao, cercetător la Vectara, ratele de halucinație sunt „aproape identice" între modelele de raționament și cele care nu folosesc astfel de tehnici, cel puțin în cazul sistemelor dezvoltate de OpenAI și Google. Google nu a oferit comentarii suplimentare.
Emily Bender, lingvist computațional la Universitatea din Washington, atrage atenția că aceste teste nu reflectă acuratețea modelelor în alte tipuri de sarcini. Mai mult, termenul „halucinație" este considerat problematic. „Induce ideea că aceste erori sunt anomalii ce pot fi eliminate și umanizează excesiv mașinile, când spunem că halucinează, sugerăm că percep realitatea, ceea ce nu e cazul", declară Bender.
Și Arvind Narayanan, expert în AI la Universitatea Princeton, avertizează că problema este mai complexă. Modelele pot greși și din alte motive, precum utilizarea unor surse nesigure sau învechite. Suplimentarea datelor de antrenament și a puterii de calcul nu a dus automat la creșterea acurateței. Narayanan sugerează că, în unele cazuri, folosirea AI e justificată doar dacă verificarea răspunsurilor e mai rapidă decât cercetarea de la zero. Dar pentru multe aplicații critice, cea mai sigură soluție ar putea fi pur și simplu să nu ne bazăm deloc pe chatboturi pentru informații factuale.
DIN ACEEASI CATEGORIE...
-
Noul președinte ANAF va fi Adrian Nicuşor Nica, actualul șef al Corpului de control al premierului
Noul președinte ANAF va fi Adrian Nicusor Nica, actualul șef al Corpului de control al premierului. El o va inlocui pe N ...
-
Breșă uriașă de securitate: Hackerii din Iran au pus mâna pe mesajele consilierilor lui Donald Trump
Hackerii avertizeaza ca ar putea incerca sa vanda e-mailuri de la consilierii președintelui american Donald Trump. Ameri ...
-
Super puterea mondială care a acaparat soarele. A instalat într-o lună panouri fotovoltaice cât toată Europa într-un an
China a stabilit un nou record mondial in domeniul energiei solare. A instalat 93 de gigawați de capacitate fotovoltaica ...
-
Exodul creierelor pe contrasens: Opt cercetători americani au devenit primii „refugiați științifici" în Europa
Mareția Americii a fost construita in timp și una dintre pietrele de temelie a fost atragerea celor mai stralucite minți ...
-
Zeci de mii de decese in perioada următoare: Europa se pregătește pentru cel mai mare val mare de morți din cauza caniculei. In total, sute de mii de persoane
Zeci de mii de persoane ar putea muri intre 30 iunie și 30 august din cauza valului de caldura extrem care lovește ...
-
Vlad Țepeș nu e inmormantat la Snagov, ci la Milano. A fost descifrată misterioasa inscripție de pe mormântul lui Dracula
Timp de zece ani unii cercetatori au emis ipoteza ca ramașițele prințului Vlad - care a trait intre 1431 și 1477, cunosc ...
-
Provocarea criminală care a trecut "pe sub radar" pe TikTok: Băiat de 12 ani mort după ce a acceptat "jocul cu eșarfa"
Un baiat de 12 ani și-a pierdut viața dupa ce a incercat o provocare virala periculoasa de pe rețelele sociale. Deși par ...
-
Medicul lui Netanyahu numit consilier de premierul Bolojan: "Sunt român și voi fi patriot până la finalul vieții!"
Dr. Herman Berkovits, medicul personal al prim-ministrului israelian Benjamin Netanyahu, a fost numit consilier onorific ...
-
Ghid Practic pentru camparea cu vehicule în România: Aventură pe patru roți
Romania, cu peisajele sale diverse și drumurile pitorești, reprezinta un paradis neexplorat pentru iubitorii de camping. ...
-
Kovesi intră tare în licitațiile organizate în România: anchetă de amploare, cu o fraudă de 100 de milioane de euro
Parchetul European (EPPO) din București a sesizat Tribunalul București, punand sub acuzare trei persoane - inclusiv unul ...
-
„Trumponomics": Economia mondială e în pragul unei schimbări epocale. Avertismentul analiștilor
Într-o lume economica din ce in ce mai fragmentata și tensionata, instituțiile financiare globale incep sa bata cu ...
-
Oamenii de știință avertizează că universul are un „buton de autodistrugere" care ar putea elimina viața într-o clipă
De-a lungul deceniilor, cosmologia a propus scenarii tot mai imaginative pentru modul in care s-ar putea sfarși universu ...
-
Adevărata dietă alimentară optimă pentru inimă. Studiul amplu pe 30 de ani care oferă claritate într-o dezbatere medicală veche
Un studiu amplu, desfașurat pe parcursul a trei decenii și avand aproape 200.000 de participanți, ofera claritate intr-o ...
-
Motivul incredibil pentru care un fost consilier local și-a bătut soția până a omorât-o. A declarat polițiștilor că a fost ucisă de un hoț care a intrat în casă
Un fost consilier local intr-un sat din județul Braila, și-a ucis in bataie soția din cauza ca nu muncea suficient. Barb ...
-
Dezvăluiri despre operatia la limită a Eleni Udrea. Adrian Alexandrov rupe tăcerea și prezintă firul evenimentelor: "Putea sa moară!"
Adrian Alexandrov, partenerul Elenei Udrea, a vorbit despre starea de sanatate a fostei ministre a Turismului, care a fo ...
-
Misterul de la Tunguska: "Cerul s-a despicat și întreaga parte nordică era acoperită de foc". Ce spune NASA despre cea mai puternică explozie văzută de om
Cel mai devastator și totodata șocant pentru cei care i-au vazut efectele a fost inregistrat pe 30 iulie 1908, in taigau ...
-
Cum utilizezi ChatGPT pentru a generarea unui venit lunar stabil: Metoda prin care poți câștiga peste 5.000 de dolari lunar
Potrivit unui articol recent publicat in Forbes de Rachel Wells, ChatGPT se dovedește a fi aliatul ideal pentru freelanc ...
-
Grupare de hoți români prinși după ce au comis mai multe jafuri: Furau coduri PIN și retrăgeau mii de euro de la bancomate
O grupare de hoți profesioniști, formata din doi barbați și o femeie de naționalitate romana, a fost destructurata in Pa ...
-
Fire sniper: "Suntem ţinta tirurilor unui lunetist" - mai multe persoane au fost ucise în SUA, într-o ambuscadă întinsă pompierilor care stingeau un incendiu
Cel putin doua persoane au fost ucise duminica in statul american Idaho, (nord-vest) intr-o ambuscada intinsa pompierilo ...
-
Ce manevra trebuie sa faci la aerul condiționat ca să consume mai puțin curent si sa te simti confortabil pe canicula
Radhika Khosla, profesor asociat la școala Smith de la Universitatea Oxford, susține ca aparatele de aer condiționat nu ...
-
Războiul Sfânt al Americii în profețiile apocaliptice care prezic conflictul religios cu Iranul
Cand vine vorba de viitorul conflictului dintre SUA și Iran, cei mai mulți oameni cauta indicii in fotografii prin satel ...
-
Românul care a îngrozit Berlinul: Polițiștii au spart ușa casei ororilor și au înghețat când au văzut sângele și cadavrele
Un bloc de locuințe din Berlin-Köpenick a devenit centrul unei povești șocante, dupa ce un barbat de origine romana ...
-
Un aureat al Premiului Nobel a fost înșelat de un taximetrist în București: i-a cerut 400 de euro pentru o cursă de la aeroport la un hotel din centru
Barbatul de 43 de ani care a inselat un cetatean nigerian, incasand de la acesta aproape 400 de euro pentru o cursa taxi ...
-
Români săltați de gărzi inarmate din pădurile Spaniei în timp ce dormeau. Polițiștilor nu le-a venit să creadă ce au găsit în duba pe care o păzeau
O operațiune de rutina s-a transformat intr-un film de acțiune pentru Garda Civila din Salamanca, care a descoperit opt ...
-
Elon Musk se simte trădat de Donald Trump ca si intreaga miscare MAGA: Este absolut nebunesc şi distructiv!
Miliardarul Elon Musk, antreprenor in domeniul tehnologiei, a criticat sambata ultima versiune a vastului proiect de leg ...
-
SEISM 2025: Câți oameni ar muri la un cutremur foarte mare în România. Raed Arafat a făcut un exercitiu pentru cel mai negru scenariu
Exercitiul SEISM 2025 a angrenat forte impresionante din tara si din strainatate, in vederea gestionarii cat mai bune a ...
-
Teoria care propune timpul tridimensional ca „structura primară a tuturor lucrurilor" ar putea unifica fizica cuantică și gravitația
Un om de știința de la Universitatea din Alaska Fairbanks (UAF) a propus o teorie a „timpului tridimensional" care ...
-
Moment tensionat cu Papa Leon: Un obiect l-a lovit în cap. Mulțimea a rupt bariera de securitate
Un moment extrem de tensionat a marcat ultima apariție publica a Papei Leon al XIV-lea, la un eveniment organizare de Zi ...
-
Spor de risc pentru mersul la WC în clădirea Guvernului: "Să știți că, în instituții publice, în toalete găsim stafilococ auriu"
Dupa ce Ilie Bolojan a anunțat taierea mai multor sporuri pentru bugetari, liderul angajaților din Guvern a venit cu un ...
-
Operațiune extrem de spectaculoasă în celebrul serviciu secret MI6: Scenariu de film pentru a identifica un spion al Rusiei
Sefii serviciilor secrete britanice au fost nevoiti sa lanseze una dintre cele mai delicate si riscante anchete de dupa ...
comentarii
Adauga un comentariuAdauga comentariu