Un nou instrument al OpenAI descris ca având „robustețe și precizie la nivel uman" halucinează tratamente medicale periculoase
Postat la: 29.10.2024 | Scris de: ZIUA NEWS

Gigantul tehnologic OpenAI a prezentat un nou instrument de transcripție alimentat de inteligența artificială Whisper. Potrivit companiei, acesta are „robustețe și precizie la nivel uman", potrivit Fortune.
Dar Whisper are un defect major: este predispus să inventeze texte sau chiar propoziții întregi. Acest lucru a fost confirmat de inginerii software, dezvoltatorii și cercetătorii care l-au creat. Ei au spus că unele dintre textele inventate - cunoscute în industrie ca halucinații - pot include comentarii rasiale, retorică violentă și chiar tratamente medicale imaginare. Ei au adăugat că astfel de invenții sunt problematice. Asta deoarece Whisper este folosit într-o mulțime de industrii din întreaga lume pentru a traduce și transcrie interviuri, pentru a genera texte și pentru a crea subtitrări pentru videoclipuri.
Mai îngrijorătoare, au spus ei, este grăbirea centrelor medicale de a utiliza instrumente bazate pe Whisper. Acestea folosesc IA-ul pentru a transcrie rețetele pe care le primesc pacienții. OpenAI a avertizat anterior diferite industrii că instrumentul nu ar trebui utilizat în „domenii cu risc ridicat". Este dificil de perceput întreaga amploare a problemei, dar specialiștii au spus că au întâlnit des halucinațiile lui Whisper. Un cercetător de la Universitatea din Michigan a găsit halucinații în 8 din 10 transcrieri audio pe care le-a inspectat.
Un inginer de învățare automată a spus că a descoperit inițial halucinații în aproximativ jumătate din cele peste 100 de ore de transcrieri Whisper pe care le-a analizat. Un al treilea dezvoltator a spus că a găsit halucinații în aproape fiecare dintre cele 26.000 de transcrieri pe care le-a creat cu Whisper. Problemele persistă chiar și în mostre audio scurte și bine înregistrate. Un studiu recent realizat de informaticieni a descoperit 187 de halucinații în peste 13.000 de fragmente audio.
Astfel de greșeli ar putea avea „consecințe cu adevărat grave", în special în mediul spitalicesc, a spus Alondra Nelson, care a condus până anul trecut Biroul Casei Albe pentru Politică pentru Știință și Tehnologie pentru administrația Biden. „Nimeni nu vrea un diagnostic greșit", a spus Nelson, profesor la Institutul pentru Studii Avansate din Princeton, New Jersey. „Ar trebui să existe o limită", a adăugat ea.
DIN ACEEASI CATEGORIE...
-
Un avion de vânătoare invizibil F-35 care zbura în Texas a trimis date clasificate către o bază aeriană aflată la 8.000 km distanță, în Danemarca
Contractantul american din domeniul apararii Lockheed Martin a declarat ca unul dintre avioanele sale de vanatoare steal ...
-
Bloomberg: Rusia și America au făcut promovat naționalismul fioros
Lui Vladimir Putin, Donald Trump și - cu mențiune speciala - JD Vance li se datoreaza mulțumiri: naționalismul agresiv ș ...
-
A fost adoptat tratatul impotriva pandemiilor: Statele membre ale OMS au ajuns la o înțelegere după mai bine de trei ani de negocieri
Statele membre ale Organizatiei Mondiale a Sanatatii (OMS) au adoptat marti un acord cu privire la modul de pregatire pe ...
-
Încălzirea globală a trecut linia roșie: Creșterea nivelului mării va deveni imposibil de controlat - Se anunță migrații interne catastrofale
Creșterea nivelului marii va deveni, in curand, imposibil de gestionat și va duce la „migrație interna catastrofal ...
-
Google decide în locul utilizatorilor. Conținutul ajunge în AI, chiar dacă nu vrei
Un document intern prezentat in procesul antitrust intentat Google dezvaluie ca gigantul tech a ales conștient sa nu le ...
-
Bărbat ridicat de Poliție după ce a scris pe Facebook că ar împușca cu mândrie c...ţii din USR, PNL, PSD şi UDMR, dar şi „toţi poponarii şi pe toate lesbiencele din ţara asta
Un barbat este cercetat de politistii din Ilfov si a fost dus la audieri, dupa ce a scris pe Facebook ca ar aprecia ocaz ...
-
Procurorii conduși de Kovesi, sute de percheziții în România într-un dosar mamut de fraudă cu subvenții pentru apicultură
Procurorii Parchetului European (EPPO) din Timișoara au efectuat 307 percheziții in ultimele doua luni, in 15 județe din ...
-
Acord istoric între UE și Marea Britanie: Practic, tocmai s-a trecut peste Brexit
Prim-ministrul Sir Keir Starmer a declarat ca este timpul sa trecem peste „luptele politice" cu privire la Brexit, ...
-
Tranziția de la cosmetice convenționale la cosmetice organice
Iți voi spune un secret: pielea ta e ca un burete uriaș. Tot ce pui pe ea ajunge intr-un fel sau altul in interiorul cor ...
-
Donald Trump nu dă nici doi bani pe Nicusor Dan: Tăcere totală dinspre SUA, ambasadorul american de la Bucuresti se retrage
Înainte de alegeri, oficialii din SUA erau cu ochii pe Romania. La alegeri au fost trimiși reprezenanți ai SUA in ...
-
Românul care a dat foc casei premierului Marii Britanii a fost prins și este judecat la Londra
Politia britanica a declarat marti ca un cetatean roman, Stanislav Carpiuc, in varsta de 26 de ani, este inculpat pentru ...
-
Profeția care a semănat teroare în Asia: Oamenii fug din calea Apocalipsei din 5 iulie. Turismul este în picaj după valul de anulări
O profeție bizara dintr-un manga japonez publicat acum peste doua decenii a reușit, in 2025, ceea ce pandemia abia a zdr ...
-
NASA avertizează: cea mai mare erupție solară din 2025 lovește Pământul. Cum vor fi afectați românii în aceste zile
Astronomii avertizeaza ca in urmatoarele zile și saptamani ne-am putea confrunta cu fenomene meteorologice spațiale extr ...
-
Cum investesc super bogații lumii pentru marea criza mondiala care va incepe in curand: Bunurile trebuie să îndeplinească o condiție esențială
În timp ce cumparatorii obisnuiti din segmentul de lux isi reduc cheltuielile, cei mai bogati clienti ai lumii con ...
-
Noul Papă generează o problemă neașteptată: Lovitură în plin pentru Giorgia Meloni
Transformarea cardinalului Prevost in Leon al XIV-lea duce papalitatea dincolo nu doar de Italia, ci și de Europa. Cu to ...
-
În sfârșit s-a aflat cauza blackoutului care a lăsat milioane de oameni fără curent în Spania și Portugalia
Un nou raport detaliat a identificat cauza probabila a penelor de curent de mari proporții care au afectat Spania și anu ...
-
Criptomonede, răpiri și degete tăiate. Crima organizată a pus ochii pe cei cu avere „digitală"
Valul de agresiuni brutale indreptate impotriva investitorilor in criptomonede arata cat de ușor trece luxul digital in ...
-
Tristan Tate susține că va pleca din România după victoria lui Nicușor Dan: "A fost frumos cât a durat"
Tristan Tate, fratele lui Andrew Tate, a postat vineri, 2 mai, un mesaj in care susținea ca toți prietenii sai romani vo ...
-
Alexandr Dughin, ideologul lui Putin, reacționează vehement după victoria lui Nicușor Dan și îndeamnă la „revoluție la scară largă"
Alexandr Dughin, ideologul rus cunoscut drept unul dintre adepții viziunii lui Vladimir Putin, a reacționat virulent la ...
-
Exit-poll CURS/AVANGARDE: Nicușor Dan a obținut procentul de 54,10%, George Simion - 45,90%
Romanii și-au votat președintele. Rezultatele preliminare ale exit-poll-ului realizat de CURS in turul al doilea al aleg ...
-
„Dacă acest război va începe, va începe aici". SUA se pregătesc pentru o confruntare cu China
Statele Unite accelereaza pregatirile pentru un potențial conflict militar cu China, in special in contextul escaladarii ...
-
De ce să alegi birouri reglabile pe înălțime în locul unui model clasic?
Daca ești printre cei care inca se mai intreaba daca un birou clasic este „suficient de bun", poate e momentul sa ...
-
Un bătrân în vârstă de 105 ANI a mers vot, în baston: „Este un erou țării. Fiecare pas al său este o lecție de spirit civic"
Un batran in varsta de 105 ani, din comuna Varvoru de Jos, județul Dolj, a mers la vot in aceasta dimineața și a oferit ...
-
Noi contracte pentru Elon Musk, susținute de Administrația Trump: Japonia analizează subvenții pentru stațiile de încărcare Tesla, în cadrul discuțiilor tarifare cu SUA
Japonia ia in considerare un plan de acordare a unor subvenții pentru construirea de stații de incarcare pentru vehicule ...
-
Sam Altman vrea ca ChatGPT să „țină minte toată viața ta". O perspectivă atât captivantă, dar și îngrijorătoare
Sam Altman, CEO-ul OpenAI, a prezentat o viziune ampla pentru viitorul ChatGPT la un eveniment de inteligența artificial ...
-
Oamenii de știință au descoperit „rețeta" care ar putea alimenta Terra cu energie pentru următorii 170.000 de ani
O echipa de cercetatori condusa de profesorul Chris Ballentine de la Universitatea Oxford a publicat marți, 13 mai, in N ...
-
Statuia de bronz a primei doamne a SUA, Melania Trump, din orașul său natal din Slovenia, a fost furată. Polițiștii au deschis o anchetă
Sculptura in marime naturala a fost taiata cu ferastraul și furata din orașul ei natal marți. Dezvelita in 2020, in timp ...
-
Cetățenie la televizor? SUA conduse de președintele Trump ia în calcul un reality-show pentru imigranți
Departamentul pentru Securitate Interna al SUA (DHS) analizeaza o propunere care pare desprinsa dintr-un serial satiric: ...
-
Turcii au descoperit în Marea Neagră un zăcământ de gaze naturale estimat la 75 de miliarde de metri cubi
O nava de explorare turca a descoperit un nou zacamant de gaz natural in apele adanci ale Marii Negre, cu rezerve estima ...
-
Ucraina, laboratorul NATO. O mașină „Enigma" a secolului XXI prezice atacurile înainte ca acestea să aibă loc
Într-o epoca in care razboiul nu se mai poarta doar cu arme, ci și cu date, algoritmi și predicții, o companie est ...
comentarii
Adauga un comentariuAdauga comentariu