AI s-a "șmecherit": Ne spune ceea ce vrem să auzim. O nouă cercetare demonstreză că inteligența artificială nu este imparțială
Postat la: 18.05.2024 | Scris de: ZIUA NEWS

O nouă cercetare condusă de Universitatea Johns Hopkins sugerează că chatboții, deseori percepuți ca fiind imparțiali, pot de fapt să întărească ideologiile existente și să contribuie la creșterea polarizării pe teme controversate.
Acest studiu contestă credința comună că chatbots oferă informații imparțiale și dezvăluie modul în care sistemele de căutare conversațională ar putea adânci diviziunile sociale și face indivizii mai susceptibili la manipulare.
"Pentru că oamenii citesc un paragraf de rezumat generat de Inteligența Artificială (IA), ei cred că primesc răspunsuri imparțiale, bazate pe fapte", a declarat autorul principal Ziang Xiao, profesor asistent de informatică la Johns Hopkins, specializat în interacțiunile om-IA.
"Chiar dacă un chatbot nu este conceput să fie părtinitor, răspunsurile sale reflectă prejudecățile sau înclinațiile persoanei care pune întrebările. Deci, într-adevăr, oamenii primesc răspunsurile pe care vor să le audă".
Cercetătorii au explorat modul în care chatboții afectează comportamentele de căutare online prin compararea interacțiunilor cu diferite sisteme de căutare.
Participanții, în număr de 272, au fost rugați să își exprime gândurile inițiale cu privire la diverse subiecte controversate, cum ar fi asistența medicală, împrumuturile pentru studenți sau orașele sanctuar. Apoi au fost îndrumați să adune mai multe informații folosind fie un chatbot, fie un motor de căutare tradițional dezvoltat pentru studiu.
După ce au analizat rezultatele căutării, participanții au scris un al doilea eseu și au răspuns la întrebări despre subiect. De asemenea, au fost expuși la două articole cu puncte de vedere opuse și li s-a cerut să evalueze credibilitatea informațiilor și extremismul opiniilor.
Studiul a arătat că, deoarece chatboturile oferă un domeniu mai restrâns de informații și se fac ecoul convingerilor preexistente ale utilizatorilor, participanții care le-au folosit au fost mai înrădăcinați în pozițiile lor inițiale și au reacționat mai puternic împotriva punctelor de vedere opuse.
"Oamenii au tendința de a căuta informații care se aliniază cu punctele lor de vedere, un comportament care îi prinde adesea într-o cameră de ecou a opiniilor asemănătoare", a explicat Xiao. "Am constatat că acest efect de cameră de ecou este mai puternic în cazul chatboților decât în cazul căutărilor tradiționale pe internet."
Acest efect apare parțial din cauza modului în care utilizatorii interacționează cu chatbots - punând întrebări complete în loc de cuvinte cheie, ceea ce duce la răspunsuri care se concentrează în mod îngust fie pe beneficiile, fie pe dezavantajele unei probleme, în funcție de formularea întrebării.
"Cu chatbots, oamenii tind să fie mai expresivi și să formuleze întrebările într-un mod mai conversațional. Este o funcție a modului în care vorbim", a spus Xiao. "Dar limbajul nostru poate fi folosit împotriva noastră".
Dezvoltatorii de inteligență artificială pot proiecta roboți de chat pentru a detecta indicii în întrebări care indică preferințele și prejudecățile unui utilizator, permițând inteligenței artificiale să își adapteze răspunsurile în consecință. De exemplu, cercetătorii au testat un chatbot programat cu o agendă ascunsă pentru a fi de acord cu utilizatorii, ceea ce a intensificat efectul de cameră de ecou.
Încercările de a atenua acest efect prin antrenarea unui chatbot pentru a oferi opinii contrare s-au dovedit a fi ineficiente, la fel ca și eforturile de a încuraja verificarea faptelor prin crearea de link-uri către sursele de informații - puțini participanți au urmat aceste link-uri.
"Având în vedere că sistemele bazate pe IA devin din ce în ce mai ușor de construit, vor exista oportunități pentru actorii rău intenționați de a se folosi de IA pentru a face o societate mai polarizată. Crearea de agenți care prezintă întotdeauna opinii din partea cealaltă este cea mai evidentă intervenție, dar am constatat că nu funcționează", a declarat Xiao.
DIN ACEEASI CATEGORIE...
-
Fizicienii au reușit să „dea timpul înapoi" într-un experiment cuantic. Ce înseamnă pentru viitorul științei
Fizicienii din Viena au reușit ceea ce pana acum parea doar un scenariu de science-fiction. Au inversat timpul pentru o ...
-
Google trage un semnal de alarmă: internetul se prăbușește! Ce contribuie, zi de zi, la acest lucru
Google a ajuns sa confirme ceea ce mulți editori și specialiști observau deja: internetul deschis intra intr-un declin a ...
-
Donald Trump afirmă că violenţa domestică este o infracţiune „mai puţin gravă"
Donald Trump a fost acuzat luni ca minimalizeaza gravitatea violentei domestice, dupa ce a declarat intr-un discurs ca a ...
-
Un melc a terorizat locatarii unui bloc, la miezul nopții. Aceștia au chemat și poliția
Un bloc din Bavaria a fost trezit in toiul noptii de o sonerie care nu mai contenea, iar locatarii, convinsi ca sunt vic ...
-
Medicul care și-a otrăvit 30 de pacienți ca să arate că este „expert" în resuscitare. 12 oameni au murit
Un fost anestezist din Franța este judecat dupa ce și-a otravit intenționat 30 de pacienți ca sa-și arate abilitațile de ...
-
Scutirea plății CASS ar putea reveni pentru șase categorii socio-profesionale. Cum s-a răzgândit PSD după ce a susținut măsurile fiscale ale Guvernului Bolojan
Dupa ce a susținut pachetul doi de masuri fiscale al Guvernului Bolojan, PSD a depus in Parlament doua proiecte de lege ...
-
Spion străin capturat în România. A vândut secrete de stat serviciilor secrete din Belarus
Un barbat, in varsta de 47 de ani, cercetat pentru tradare prin transmitere de informații secrete de stat in forma conti ...
-
Limitele inteligenței artificiale: chipul unui acuzat de crimă, folosit ca model Shein
Chipul lui Luigi Mangione, barbat acuzat de uciderea CEO-ului UnitedHealthcare, a devenit in ultimele luni un fenomen vi ...
-
Un avion MiG-29 misterios a apărut pe cerul din Ucraina: Poartă însemnele Kievului, dar schema de camuflaj a unui fost aliat al Rusiei
Un avion de lupta MiG-29 azer, cu un singur loc, purtand insemnele Forțelor Aeriene Ucrainene, dar schema de camuflaj a ...
-
ADIO coif de la Coțofenești. Procurorii olandezi au renunțat la acuzațiile împotriva a trei suspecți în cazul furtului tezaurului DACIC
Procurorii olandezi au anunțat retragerea acuzațiilor impotriva a trei suspecți in cazul furtului coifului de aur de la ...
-
O ipoteză deloc de neglijat: Ce dezastre naturale ar putea avea loc dacă rotația Pământului s-ar accelera
Zilele par din ce in ce mai scurte - și nu este doar o impresie. Potrivit oamenilor de știința, in vara anului 2025, Pam ...
-
Molecule produse doar de organisme vii, pe o exoplanetă aflată la 124 de ani-lumină de Pământ. Am putea fi în fața celei mai importante descoperiri din istorie
Oamenii de știința au detectat pentru prima data pe exoplaneta K2-18b molecule care, pe Pamant, sunt produse doar de org ...
-
Locul sacru unde Moise ar fi primit Cele Zece Porunci, transformat într-un mega-resort de lux. Au fost mutate morminte pentru a face loc unui parc auto
Unul dintre cele mai sacre locuri din lume, Muntele Sinai, este transformat intr-un mega-resort de lux, in ciuda protest ...
-
Aurul digital ar putea zgudui în curând piaţa metalelor preţioase din Londra
Londra, cu o piata a aurului evaluata la 930 de miliarde de dolari, s-ar putea confrunta cu o schimbare "transformatoare ...
-
Viitorul lui Zelenski. Ce s-ar putea întâmpla cu președintele ucrainean după încheierea războiului
Viitorul lui Volodimir Zelenski reprezinta un subiect pentru dezbaterea publica, in contextul negocierilor de pace iniți ...
-
Sărbătoare mare la români. Tradiții și obiceiuri de Sfânta Maria Mică, ziua care marchează hotarul dintre vară și toamnă
Creștinii sarbatoresc luni, 8 septembrie, Nașterea Maicii Domnului sau Sfanta Maria Mica, zi care marcheaza inceputul cu ...
-
Operațiune majoră de spionaj: Un mail suspect a încins relațiile dintre SUA și China
Autoritatile americane investigheaza un e-mail fals, pretins a fi trimis de un legislator republican, care continea malw ...
-
Elena Udrea, primul interviu după eliberare: "I-am spus lui Băsescu că tandemul Kovesi-Coldea conduce România"
Elena Udrea a acordat primul interviu dupa ieșirea din inchisoare, la Realitatea PLUS, unde a facut o serie de acuzații ...
-
Premieră la Vatican: Pelerinaj pentru catolicii din comunitatea LGBT+
Pentru prima data, un grup de peste 1.400 de catolici care fac parte din comunitatea LGBT+ și apropiații lor participa, ...
-
Mizele secrete ale inteligenței artificiale și culisele luptei pentru supremația în domeniul AI
Daca vrei sa afli care au fost primele erori ale lui ChatGPT, de ce a fost comparat cu un medicament scos pe piața pentr ...
-
Pelerinajul evreilor ultra-ortodocși în Ucraina în pericol după eșuarea negocierilor cu Republica Moldova. România ar putea deveni o rută de tranzit
Guvernul de la Ierusalim se afla intr-un impas in negocierile cu Moldova privind finanțarea și funcționarea unui termina ...
-
Eclipsă totală de Lună, duminică, pe cerul României: Observatorul Astronomic face anunțul momentului
Momente speciale pe cerul Romaniei. O eclipsa totala de luna va avea loc in aceasta seara. Observatorul Astronomic "Amir ...
-
Incredibil: Procurorii vor verifica medicii antivacciniști. „Este inacceptabil să promoveze în spațiul public informații care nu sunt verificate medical."
Ministrul Sanatații, Alexandru Rogobete, a declarat, duminica, 7 septembrie, ca va fi trimis catre Parchet raportul pe c ...
-
Românul care a șocat SUA. Fura într-un mod ingenios și avea zeci de mandate de arestare pe numele său. „Nu mai văzusem așa ceva până acum"
Un cetațean roman, cautat intr-un caz de furt ilegal de bani in nordul Texasului, a fost arestat recent in zona Houston. ...
-
Noul bilanț după valul de lovituri cu sute de drone rusești în Kiev. Guvernul a luat foc. Ar fi cel mai mare atac cu drone de până acum
O dimineața de groaza a cuprins capitala Ucrainei. Sediul Guvernului de la Kiev a fost lovit de armata rusa in cel mai c ...
-
Mașina îți va spune singură dacă ești prea bătrân ca să mai conduci. Un gigant auto din SUA a brevetat sistemul care te judecă în mers
Pana la ce varsta poate o persoana sa conduca in siguranța este o discuție aprinsa in foarte multe țari de pe glob, care ...
-
Polițist înjunghiat, în timp ce a fost chemat să aplaneze un conflict într-un spital. De la ce a pornit scandalul
Un polițist din Hunedoara a fost ranit, dupa ce a fost injunghiat cu un cuțit, in timpul unei intervenții la spitalul di ...
-
Declaratie virală a Melaniei trup de la Casa Albă: "Roboții sunt deja aici!"
Melania Trump, Prima Doamna a Statelor Unite, a avut joi o apariție publica rara la Casa Alba. Ea a declarat ca „r ...
-
Autoritățile americane se pregătesc să dezvăluie sursa autismului - Un medicament banal și lipsa unei vitamine
Un viitor raport al Departamentului pentru Sanatate și Servicii Umane din SUA va face probabil legatura intre dezvoltare ...
-
Viață veșnică cu transplanturi de organe: Se poate realiza ceea ce au vorbit Vladimir Putin și Xi Jinping?
Este posibil sa ajungi nemuritor cu ajutorul transplanturilor de organe, se intreaba jurnaliștii de la BBC, dupa ultimel ...
comentarii
Adauga un comentariuAdauga comentariu