AI s-a "șmecherit": Ne spune ceea ce vrem să auzim. O nouă cercetare demonstreză că inteligența artificială nu este imparțială
Postat la: 18.05.2024 | Scris de: ZIUA NEWS

O nouă cercetare condusă de Universitatea Johns Hopkins sugerează că chatboții, deseori percepuți ca fiind imparțiali, pot de fapt să întărească ideologiile existente și să contribuie la creșterea polarizării pe teme controversate.
Acest studiu contestă credința comună că chatbots oferă informații imparțiale și dezvăluie modul în care sistemele de căutare conversațională ar putea adânci diviziunile sociale și face indivizii mai susceptibili la manipulare.
"Pentru că oamenii citesc un paragraf de rezumat generat de Inteligența Artificială (IA), ei cred că primesc răspunsuri imparțiale, bazate pe fapte", a declarat autorul principal Ziang Xiao, profesor asistent de informatică la Johns Hopkins, specializat în interacțiunile om-IA.
"Chiar dacă un chatbot nu este conceput să fie părtinitor, răspunsurile sale reflectă prejudecățile sau înclinațiile persoanei care pune întrebările. Deci, într-adevăr, oamenii primesc răspunsurile pe care vor să le audă".
Cercetătorii au explorat modul în care chatboții afectează comportamentele de căutare online prin compararea interacțiunilor cu diferite sisteme de căutare.
Participanții, în număr de 272, au fost rugați să își exprime gândurile inițiale cu privire la diverse subiecte controversate, cum ar fi asistența medicală, împrumuturile pentru studenți sau orașele sanctuar. Apoi au fost îndrumați să adune mai multe informații folosind fie un chatbot, fie un motor de căutare tradițional dezvoltat pentru studiu.
După ce au analizat rezultatele căutării, participanții au scris un al doilea eseu și au răspuns la întrebări despre subiect. De asemenea, au fost expuși la două articole cu puncte de vedere opuse și li s-a cerut să evalueze credibilitatea informațiilor și extremismul opiniilor.
Studiul a arătat că, deoarece chatboturile oferă un domeniu mai restrâns de informații și se fac ecoul convingerilor preexistente ale utilizatorilor, participanții care le-au folosit au fost mai înrădăcinați în pozițiile lor inițiale și au reacționat mai puternic împotriva punctelor de vedere opuse.
"Oamenii au tendința de a căuta informații care se aliniază cu punctele lor de vedere, un comportament care îi prinde adesea într-o cameră de ecou a opiniilor asemănătoare", a explicat Xiao. "Am constatat că acest efect de cameră de ecou este mai puternic în cazul chatboților decât în cazul căutărilor tradiționale pe internet."
Acest efect apare parțial din cauza modului în care utilizatorii interacționează cu chatbots - punând întrebări complete în loc de cuvinte cheie, ceea ce duce la răspunsuri care se concentrează în mod îngust fie pe beneficiile, fie pe dezavantajele unei probleme, în funcție de formularea întrebării.
"Cu chatbots, oamenii tind să fie mai expresivi și să formuleze întrebările într-un mod mai conversațional. Este o funcție a modului în care vorbim", a spus Xiao. "Dar limbajul nostru poate fi folosit împotriva noastră".
Dezvoltatorii de inteligență artificială pot proiecta roboți de chat pentru a detecta indicii în întrebări care indică preferințele și prejudecățile unui utilizator, permițând inteligenței artificiale să își adapteze răspunsurile în consecință. De exemplu, cercetătorii au testat un chatbot programat cu o agendă ascunsă pentru a fi de acord cu utilizatorii, ceea ce a intensificat efectul de cameră de ecou.
Încercările de a atenua acest efect prin antrenarea unui chatbot pentru a oferi opinii contrare s-au dovedit a fi ineficiente, la fel ca și eforturile de a încuraja verificarea faptelor prin crearea de link-uri către sursele de informații - puțini participanți au urmat aceste link-uri.
"Având în vedere că sistemele bazate pe IA devin din ce în ce mai ușor de construit, vor exista oportunități pentru actorii rău intenționați de a se folosi de IA pentru a face o societate mai polarizată. Crearea de agenți care prezintă întotdeauna opinii din partea cealaltă este cea mai evidentă intervenție, dar am constatat că nu funcționează", a declarat Xiao.
DIN ACEEASI CATEGORIE...
-
Un avion de vânătoare invizibil F-35 care zbura în Texas a trimis date clasificate către o bază aeriană aflată la 8.000 km distanță, în Danemarca
Contractantul american din domeniul apararii Lockheed Martin a declarat ca unul dintre avioanele sale de vanatoare steal ...
-
Bloomberg: Rusia și America au făcut promovat naționalismul fioros
Lui Vladimir Putin, Donald Trump și - cu mențiune speciala - JD Vance li se datoreaza mulțumiri: naționalismul agresiv ș ...
-
A fost adoptat tratatul impotriva pandemiilor: Statele membre ale OMS au ajuns la o înțelegere după mai bine de trei ani de negocieri
Statele membre ale Organizatiei Mondiale a Sanatatii (OMS) au adoptat marti un acord cu privire la modul de pregatire pe ...
-
Încălzirea globală a trecut linia roșie: Creșterea nivelului mării va deveni imposibil de controlat - Se anunță migrații interne catastrofale
Creșterea nivelului marii va deveni, in curand, imposibil de gestionat și va duce la „migrație interna catastrofal ...
-
Google decide în locul utilizatorilor. Conținutul ajunge în AI, chiar dacă nu vrei
Un document intern prezentat in procesul antitrust intentat Google dezvaluie ca gigantul tech a ales conștient sa nu le ...
-
Bărbat ridicat de Poliție după ce a scris pe Facebook că ar împușca cu mândrie c...ţii din USR, PNL, PSD şi UDMR, dar şi „toţi poponarii şi pe toate lesbiencele din ţara asta
Un barbat este cercetat de politistii din Ilfov si a fost dus la audieri, dupa ce a scris pe Facebook ca ar aprecia ocaz ...
-
Procurorii conduși de Kovesi, sute de percheziții în România într-un dosar mamut de fraudă cu subvenții pentru apicultură
Procurorii Parchetului European (EPPO) din Timișoara au efectuat 307 percheziții in ultimele doua luni, in 15 județe din ...
-
Acord istoric între UE și Marea Britanie: Practic, tocmai s-a trecut peste Brexit
Prim-ministrul Sir Keir Starmer a declarat ca este timpul sa trecem peste „luptele politice" cu privire la Brexit, ...
-
Tranziția de la cosmetice convenționale la cosmetice organice
Iți voi spune un secret: pielea ta e ca un burete uriaș. Tot ce pui pe ea ajunge intr-un fel sau altul in interiorul cor ...
-
Donald Trump nu dă nici doi bani pe Nicusor Dan: Tăcere totală dinspre SUA, ambasadorul american de la Bucuresti se retrage
Înainte de alegeri, oficialii din SUA erau cu ochii pe Romania. La alegeri au fost trimiși reprezenanți ai SUA in ...
-
Românul care a dat foc casei premierului Marii Britanii a fost prins și este judecat la Londra
Politia britanica a declarat marti ca un cetatean roman, Stanislav Carpiuc, in varsta de 26 de ani, este inculpat pentru ...
-
Profeția care a semănat teroare în Asia: Oamenii fug din calea Apocalipsei din 5 iulie. Turismul este în picaj după valul de anulări
O profeție bizara dintr-un manga japonez publicat acum peste doua decenii a reușit, in 2025, ceea ce pandemia abia a zdr ...
-
NASA avertizează: cea mai mare erupție solară din 2025 lovește Pământul. Cum vor fi afectați românii în aceste zile
Astronomii avertizeaza ca in urmatoarele zile și saptamani ne-am putea confrunta cu fenomene meteorologice spațiale extr ...
-
Cum investesc super bogații lumii pentru marea criza mondiala care va incepe in curand: Bunurile trebuie să îndeplinească o condiție esențială
În timp ce cumparatorii obisnuiti din segmentul de lux isi reduc cheltuielile, cei mai bogati clienti ai lumii con ...
-
Noul Papă generează o problemă neașteptată: Lovitură în plin pentru Giorgia Meloni
Transformarea cardinalului Prevost in Leon al XIV-lea duce papalitatea dincolo nu doar de Italia, ci și de Europa. Cu to ...
-
În sfârșit s-a aflat cauza blackoutului care a lăsat milioane de oameni fără curent în Spania și Portugalia
Un nou raport detaliat a identificat cauza probabila a penelor de curent de mari proporții care au afectat Spania și anu ...
-
Criptomonede, răpiri și degete tăiate. Crima organizată a pus ochii pe cei cu avere „digitală"
Valul de agresiuni brutale indreptate impotriva investitorilor in criptomonede arata cat de ușor trece luxul digital in ...
-
Tristan Tate susține că va pleca din România după victoria lui Nicușor Dan: "A fost frumos cât a durat"
Tristan Tate, fratele lui Andrew Tate, a postat vineri, 2 mai, un mesaj in care susținea ca toți prietenii sai romani vo ...
-
Alexandr Dughin, ideologul lui Putin, reacționează vehement după victoria lui Nicușor Dan și îndeamnă la „revoluție la scară largă"
Alexandr Dughin, ideologul rus cunoscut drept unul dintre adepții viziunii lui Vladimir Putin, a reacționat virulent la ...
-
Exit-poll CURS/AVANGARDE: Nicușor Dan a obținut procentul de 54,10%, George Simion - 45,90%
Romanii și-au votat președintele. Rezultatele preliminare ale exit-poll-ului realizat de CURS in turul al doilea al aleg ...
-
„Dacă acest război va începe, va începe aici". SUA se pregătesc pentru o confruntare cu China
Statele Unite accelereaza pregatirile pentru un potențial conflict militar cu China, in special in contextul escaladarii ...
-
De ce să alegi birouri reglabile pe înălțime în locul unui model clasic?
Daca ești printre cei care inca se mai intreaba daca un birou clasic este „suficient de bun", poate e momentul sa ...
-
Un bătrân în vârstă de 105 ANI a mers vot, în baston: „Este un erou țării. Fiecare pas al său este o lecție de spirit civic"
Un batran in varsta de 105 ani, din comuna Varvoru de Jos, județul Dolj, a mers la vot in aceasta dimineața și a oferit ...
-
Noi contracte pentru Elon Musk, susținute de Administrația Trump: Japonia analizează subvenții pentru stațiile de încărcare Tesla, în cadrul discuțiilor tarifare cu SUA
Japonia ia in considerare un plan de acordare a unor subvenții pentru construirea de stații de incarcare pentru vehicule ...
-
Sam Altman vrea ca ChatGPT să „țină minte toată viața ta". O perspectivă atât captivantă, dar și îngrijorătoare
Sam Altman, CEO-ul OpenAI, a prezentat o viziune ampla pentru viitorul ChatGPT la un eveniment de inteligența artificial ...
-
Oamenii de știință au descoperit „rețeta" care ar putea alimenta Terra cu energie pentru următorii 170.000 de ani
O echipa de cercetatori condusa de profesorul Chris Ballentine de la Universitatea Oxford a publicat marți, 13 mai, in N ...
-
Statuia de bronz a primei doamne a SUA, Melania Trump, din orașul său natal din Slovenia, a fost furată. Polițiștii au deschis o anchetă
Sculptura in marime naturala a fost taiata cu ferastraul și furata din orașul ei natal marți. Dezvelita in 2020, in timp ...
-
Cetățenie la televizor? SUA conduse de președintele Trump ia în calcul un reality-show pentru imigranți
Departamentul pentru Securitate Interna al SUA (DHS) analizeaza o propunere care pare desprinsa dintr-un serial satiric: ...
-
Turcii au descoperit în Marea Neagră un zăcământ de gaze naturale estimat la 75 de miliarde de metri cubi
O nava de explorare turca a descoperit un nou zacamant de gaz natural in apele adanci ale Marii Negre, cu rezerve estima ...
-
Ucraina, laboratorul NATO. O mașină „Enigma" a secolului XXI prezice atacurile înainte ca acestea să aibă loc
Într-o epoca in care razboiul nu se mai poarta doar cu arme, ci și cu date, algoritmi și predicții, o companie est ...
comentarii
Adauga un comentariuAdauga comentariu