Un nou instrument al OpenAI descris ca având „robustețe și precizie la nivel uman" halucinează tratamente medicale periculoase
Postat la: 29.10.2024 | Scris de: ZIUA NEWS

Gigantul tehnologic OpenAI a prezentat un nou instrument de transcripție alimentat de inteligența artificială Whisper. Potrivit companiei, acesta are „robustețe și precizie la nivel uman", potrivit Fortune.
Dar Whisper are un defect major: este predispus să inventeze texte sau chiar propoziții întregi. Acest lucru a fost confirmat de inginerii software, dezvoltatorii și cercetătorii care l-au creat. Ei au spus că unele dintre textele inventate - cunoscute în industrie ca halucinații - pot include comentarii rasiale, retorică violentă și chiar tratamente medicale imaginare. Ei au adăugat că astfel de invenții sunt problematice. Asta deoarece Whisper este folosit într-o mulțime de industrii din întreaga lume pentru a traduce și transcrie interviuri, pentru a genera texte și pentru a crea subtitrări pentru videoclipuri.
Mai îngrijorătoare, au spus ei, este grăbirea centrelor medicale de a utiliza instrumente bazate pe Whisper. Acestea folosesc IA-ul pentru a transcrie rețetele pe care le primesc pacienții. OpenAI a avertizat anterior diferite industrii că instrumentul nu ar trebui utilizat în „domenii cu risc ridicat". Este dificil de perceput întreaga amploare a problemei, dar specialiștii au spus că au întâlnit des halucinațiile lui Whisper. Un cercetător de la Universitatea din Michigan a găsit halucinații în 8 din 10 transcrieri audio pe care le-a inspectat.
Un inginer de învățare automată a spus că a descoperit inițial halucinații în aproximativ jumătate din cele peste 100 de ore de transcrieri Whisper pe care le-a analizat. Un al treilea dezvoltator a spus că a găsit halucinații în aproape fiecare dintre cele 26.000 de transcrieri pe care le-a creat cu Whisper. Problemele persistă chiar și în mostre audio scurte și bine înregistrate. Un studiu recent realizat de informaticieni a descoperit 187 de halucinații în peste 13.000 de fragmente audio.
Astfel de greșeli ar putea avea „consecințe cu adevărat grave", în special în mediul spitalicesc, a spus Alondra Nelson, care a condus până anul trecut Biroul Casei Albe pentru Politică pentru Știință și Tehnologie pentru administrația Biden. „Nimeni nu vrea un diagnostic greșit", a spus Nelson, profesor la Institutul pentru Studii Avansate din Princeton, New Jersey. „Ar trebui să existe o limită", a adăugat ea.
DIN ACEEASI CATEGORIE...
-
Cum să te bucuri cât mai mult de grădina ta vara aceasta?
Vara este anotimpul perfect pentru a petrece timp in aer liber, iar gradina devine un spațiu esențial pentru relaxare, s ...
-
Doze letale în loc de tratament: Un medic a fost inculpat pentru uciderea a 15 dintre pacienţii săi
Un medic german a fost pus sub acuzare pentru uciderea a 15 pacienți, procurorii din Berlin susținand ca acesta a admini ...
-
După ce au gasit ca Soarele are o forma primara de constiență, ficicienii se intreba: "Este Universul viu?"
Legatura dintre conștiința și Univers este un subiect fascinant de cercetare, situat la intersecția dintre neurologie, f ...
-
Echipa „de comando digital" a Pentagonului demisionează în bloc. Șefa "SWAT a tocilarilor": „Ori murim repede, ori murim lent"
Unul dintre cele mai ambițioase experimente de modernizare tehnologica din cadrul Departamentului Apararii al SUA - Defe ...
-
Doi șefi de clan din mafia italiană, capturați de autorități. Își coordonau organizațiile într-un joc PlayStation
Carabinierii au reținut 24 de persoane in urma unei operațiuni intr-un dosar de trafic de droguri și șantaj, printre car ...
-
Timpul ar putea curge invers în jurul nostru și noi nici măcar nu știm. La nivel cuantic, trecutul și viitorul sunt indiscernabile
Trecerea timpului este nenegociabila. Curgerea sa marcheaza progresul vieții noastre, deplasandu-se clar intr-o singura ...
-
Criminalii din agricultură care folosesc erbicide cancerigene șantajează lumea cu o foamete fără precedent
Conglomeratul farmaceutic și agricol Bayer a declarat ca ar putea inceta sa produca cel mai popular erbicid din lume, cu ...
-
Un cetățean al Republicii Moldova a fost reținut de FSB pentru contrabandă cu dispozitive explozive
Cetateanul moldovean Marius Prunianu este suspectat de contrabanda cu dispozitive explozive si de incercare de a comite, ...
-
S-a înșelat cine credea că s-a terminat: Omenirea se pregătește pentru o nouă pandemie. Se pune în mișcare un plan uriaș al OMS
Membrii Organizatiei Mondiale a Sanatatii (OMS) au ajuns la un acord pentru a pregati lumea pentru viitoarele pandemii, ...
-
Scandal fierbinte în școala românească: Saloane de masaj în internat; elevele dau nas în nas cu bărbați în prosop pe holurile liceului
Un scandal fara precedent zguduie invațamantul timișorean: etajele unui internat școlar au fost transformate, sub ochii ...
-
I-auzi, Ciolacu! România se află în topul UE cu cele mai ample scăderi ale producţiei industriale. Tara noastră functionează pe imprumuturi si taxe
Productia industriala in UE a crescut in februarie 2025, comparativ cu luna ianuarie 2025, insa Romania se numara printr ...
-
Lovitură pentru Elon Musk de la "amicul" Sam Altman: OpenAI-ChatGPT vrea să-și facă o reţea socială similară cu X
OpenAI dezvolta o retea sociala proprie, asemanatoare cu platforma X (fosta Twitter), a relatat marti publicatia The Ver ...
-
Ipoteza care zguduie lumea arheologiei. Trupul lui Iisus Hristos și Chivotul Legământului, ascunse sub Marea Piramidă din Egipt
O noua teorie controversata, lansata de un antropolog britanic, susține ca trupul lui Iisus Hristos, alaturi de legendar ...
-
Se preconizează prăbușirea dolaruui american în favoarea Bitcoin: "Va fi mai rău ca în anul 1971"
Bitcoin a oscilat puternic in ultima saptamana, in timp ce comercianții se plimba pe „rollercoaster"-ul tarifelor ...
-
Comisia Europeană preia rețeaua USAID și finanțează cu miliarde de euro din bani publici ONG-urile globalist-sorosiste
La o ședința de la Bruxelles organizata de președinția poloneza a Consiliului Uniunii Europene, Donald Tusk (premierul P ...
-
Camera secretă de sub muntii Japoniei care a fost creată pentru una dintre cele mai misterioase particule din univers
Adanc sub munții Japoniei, o vasta camera subterana care adapostește 50.000 de tone de apa ultrapura a fost creata pentr ...
-
Harvard e prima instituție majoră din SUA care îl sfidează pe Trump printr-o scrisoare care a făcut înconjurul lumii
„Niciun guvern - indiferent de partidul care se afla la putere - nu trebuie sa dicteze ce pot preda universitațile ...
-
Un adolescent satanist din SUA și-a ucis părinții: Plănuia să îl omoare și pe Donald Trump
Un adolescent, Nikita Casap, in varsta de 17 ani din statul american Wisconsin este acuzat de faptul ca si-a ucis mama s ...
-
Un nou scandal Pfizer după probleme grave în studiile clinice: Gigantul Big Pharma oprește cel mai promițător tratament anti-obezitate
Pfizer a decis sa opreasca dezvoltarea unei pastile pentru slabit, o lovitura majora pe o piața extrem de profitabila. D ...
-
TROOPER anunță lansarea unui nou album de studio: "NEUITATE". Lansarea va avea loc în cadrul concertului aniversar "Trooper30"
TROOPER se pregatește sa iși bucure fanii cu un nou album de studio, intitulat "Neuitate", care va fi lansat pe 30 mai, ...
-
Big Bang-ul e greșit: fizicienii cred că au descoperit un detaliu care va zgudui lumea științei
Timp de decenii, oamenii de știința au considerat Big Bang-ul drept punctul de plecare al spațiului și timpului. Î ...
-
NATO a cumpărat Maven, un sistem militar AI de ultimă generație, de la omul lui Trump
NATO a cumparat un sistem militar bazat pe AI (inteligența artificiala) de la Palantir, compania americana de software c ...
-
În Săptămâna Patimilor, Vasile Bănescu lansează o critică la adresa unor preoți: "Ce ar face Iisus astăzi, dacă ar reveni și intra în unele biserici?"
Vasile Banescu, fost purtator de cuvant al BOR, in prezent membru al Consiliului Național al Audiovizualului (CNA), tran ...
-
Un jurnalist de investigatie de la ziarul Incomod din Prahova acuza abuzuri ale procurorilor din "Republica" Ploiești
Redam in cele ce urmeaza cele semnalate de jurnalistul din Prahova intr-o scrisoare deschisa, pe care le aducem la randu ...
-
„Gaura Neagră": Presa occidentală, speriată de ultimul submarin rusesc
Submarinul din clasa "Paltus" ramane o amenințare pentru navele NATO. De cateva decenii, submarinul rusesc din seria "Pa ...
-
Der Spiegel: Armamentul german, aproape inutil în Ucraina
Armele germane sunt folosite doar parțial, așa cum au demonstrat operațiunile militare din Ucraina, scrie Der ...
-
Lista completă a medicamentelor care te pot lăsa fără permis de conducere
În plenul Senatului va fi dezbatuta și modificata legea substanțelor care te pot lasa fara permis de conducere. Un ...
-
Este oficial: GPT-4.5 este primul model de inteligență artificială care trece un test Turing autentic!
În noul studiu, publicat la 31 martie in baza de date arXiv preprint, dar care nu a fost inca revizuit de colegi, ...
-
A fost prins bărbatul care a dat lovitura secolului: Jaf de aproape 2 miliarde de dolari
Un fugar indian, acuzat de o frauda bancara de aproape 2 miliarde de dolari, a fost prins in Belgia. Frauda s-a produs i ...
-
Cum loveste China în gealații lui Trump din Big Tech: O mare criză stă să explodeze la nivel mondial după oprirea unor exporturi esentiale
China a suspendat exporturile anumitor minerale, care sunt cruciale pentru industria auto, industria semiconductorilor ș ...
comentarii
Adauga un comentariuAdauga comentariu