AI s-a "șmecherit": Ne spune ceea ce vrem să auzim. O nouă cercetare demonstreză că inteligența artificială nu este imparțială
Postat la: 18.05.2024 | Scris de: ZIUA NEWS

O nouă cercetare condusă de Universitatea Johns Hopkins sugerează că chatboții, deseori percepuți ca fiind imparțiali, pot de fapt să întărească ideologiile existente și să contribuie la creșterea polarizării pe teme controversate.
Acest studiu contestă credința comună că chatbots oferă informații imparțiale și dezvăluie modul în care sistemele de căutare conversațională ar putea adânci diviziunile sociale și face indivizii mai susceptibili la manipulare.
"Pentru că oamenii citesc un paragraf de rezumat generat de Inteligența Artificială (IA), ei cred că primesc răspunsuri imparțiale, bazate pe fapte", a declarat autorul principal Ziang Xiao, profesor asistent de informatică la Johns Hopkins, specializat în interacțiunile om-IA.
"Chiar dacă un chatbot nu este conceput să fie părtinitor, răspunsurile sale reflectă prejudecățile sau înclinațiile persoanei care pune întrebările. Deci, într-adevăr, oamenii primesc răspunsurile pe care vor să le audă".
Cercetătorii au explorat modul în care chatboții afectează comportamentele de căutare online prin compararea interacțiunilor cu diferite sisteme de căutare.
Participanții, în număr de 272, au fost rugați să își exprime gândurile inițiale cu privire la diverse subiecte controversate, cum ar fi asistența medicală, împrumuturile pentru studenți sau orașele sanctuar. Apoi au fost îndrumați să adune mai multe informații folosind fie un chatbot, fie un motor de căutare tradițional dezvoltat pentru studiu.
După ce au analizat rezultatele căutării, participanții au scris un al doilea eseu și au răspuns la întrebări despre subiect. De asemenea, au fost expuși la două articole cu puncte de vedere opuse și li s-a cerut să evalueze credibilitatea informațiilor și extremismul opiniilor.
Studiul a arătat că, deoarece chatboturile oferă un domeniu mai restrâns de informații și se fac ecoul convingerilor preexistente ale utilizatorilor, participanții care le-au folosit au fost mai înrădăcinați în pozițiile lor inițiale și au reacționat mai puternic împotriva punctelor de vedere opuse.
"Oamenii au tendința de a căuta informații care se aliniază cu punctele lor de vedere, un comportament care îi prinde adesea într-o cameră de ecou a opiniilor asemănătoare", a explicat Xiao. "Am constatat că acest efect de cameră de ecou este mai puternic în cazul chatboților decât în cazul căutărilor tradiționale pe internet."
Acest efect apare parțial din cauza modului în care utilizatorii interacționează cu chatbots - punând întrebări complete în loc de cuvinte cheie, ceea ce duce la răspunsuri care se concentrează în mod îngust fie pe beneficiile, fie pe dezavantajele unei probleme, în funcție de formularea întrebării.
"Cu chatbots, oamenii tind să fie mai expresivi și să formuleze întrebările într-un mod mai conversațional. Este o funcție a modului în care vorbim", a spus Xiao. "Dar limbajul nostru poate fi folosit împotriva noastră".
Dezvoltatorii de inteligență artificială pot proiecta roboți de chat pentru a detecta indicii în întrebări care indică preferințele și prejudecățile unui utilizator, permițând inteligenței artificiale să își adapteze răspunsurile în consecință. De exemplu, cercetătorii au testat un chatbot programat cu o agendă ascunsă pentru a fi de acord cu utilizatorii, ceea ce a intensificat efectul de cameră de ecou.
Încercările de a atenua acest efect prin antrenarea unui chatbot pentru a oferi opinii contrare s-au dovedit a fi ineficiente, la fel ca și eforturile de a încuraja verificarea faptelor prin crearea de link-uri către sursele de informații - puțini participanți au urmat aceste link-uri.
"Având în vedere că sistemele bazate pe IA devin din ce în ce mai ușor de construit, vor exista oportunități pentru actorii rău intenționați de a se folosi de IA pentru a face o societate mai polarizată. Crearea de agenți care prezintă întotdeauna opinii din partea cealaltă este cea mai evidentă intervenție, dar am constatat că nu funcționează", a declarat Xiao.
DIN ACEEASI CATEGORIE...
-
Bolojan & C0 isi ridica poalele peste cap: prima manifestare Pride din Oradea
Sefii tuturor comunitatilor religioase din Oradea (ortodoxa, romano-catolica, greco-catolica, reformata, luterana, penti ...
-
Diferențe de preț majore la polițele RCA după eliminarea plafonării. Cât costă acum asigurarea obligatorie
Persoanele care incheie luna aceasta Asigurarea de Raspundere Civila Auto (RCA) vor plati sume substanțial mai mari dupa ...
-
O gafă uriașă a generat una dintre cele mai mari breșe din istoria serviciilor secrete: Mii de oameni sunt în pericol
Identitatile a peste 100 de oficiali britanici, inclusiv membri ai fortelor speciale si ai serviciului secret MI6, au fo ...
-
Europa trece în ritm alert la economie de război: Situație cum nu s-a mai văzut de la WW2
În Europa situația se schimba vizibil și pare ca intreaga Uniune Europeana trece spre economia de razboi. În ...
-
O criză transatlantică e gata să explodeze: Trump oferă arme Ucrainei, dar cere ca Europa să plătească nota
Pe fondul intensificarii atacurilor rusești asupra Ucrainei și al apelurilor urgente pentru sisteme antiaeriene, noua st ...
-
La asta sa se refere Apocalipsa cand vorbeste de o uriasă explozie? 100 de vulcani se pregătesc să amenințe viața planetei noastre
Criza climatica și topirea ghețarilor pot conduce la intensificarea activitații vulcanice, conform unui studiu recent. F ...
-
Din culisele economiei globale: ce dezvăluie Raportul Mondial privind Energia despre limitele energetice și crizele iminente ale resurselor
Institutul pentru Energie a publicat recent raportul sau actualizat privind energia, „Statistical Review of World ...
-
O femeie a murit pentru că nu i s-a făcut avort. Trei medici, trimiși la închisoare
Trei medici de la un spital polonez au fost condamnati joi la inchisoare pentru ca au asteptat prea mult timp inainte de ...
-
Primul pas catre o criptomoneda globală la paritate cu dolarul: Congresul SUA aprobă legislația privind stablecoins
Camera Reprezentanților a Statelor Unite a aprobat un proiect de lege care stabilește un cadru de reglementare pentru cr ...
-
Multinaționalele la control - ANAF începe mult asteptata verificare a exporturilor de profituri
Agenția Naționala de Administrare Fiscala (ANAF) a lansat o ampla acțiune de colectare de date privind cheltuielile real ...
-
Călătoria interstelară: Tehnologii ascunse și fizica reală din spatele „warp drive"-ului
Un subiect aparent desprins din filmele SF capata tot mai multa credibilitate in randul celor apropiați de surse militar ...
-
Un bărbat din Caransebeș e filmat cum fură banii donați pentru o fetiță cu cancer. Voia să-i joace la păcănele. Banii se aflau într-o cutie la un cabinet medical
Un barbat din Caransebeș a furat dintr-un cabinet medical cutia in care se strangeau banii pentru o fetita bolnava de ca ...
-
Vine un nou val urias de concedieri: Peste 28% dintre companiile din România sunt în curs de adoptare a tehnologiilor de robotizare și automatizare
Robotica și automatizarea au un impact semnificativ asupra industriilor unde sunt implementate, mai ales prin stimularea ...
-
Pantofii uriași găsiți lângă Zidul lui Hadrian stârnesc misterul în jurul soldaților din Roma antică
În colinele verzi ale nordului Angliei, arheologii mai scot la iveala un fragment dintr-un trecut uitat: o colecți ...
-
S-a descoperit o lume misterioasă pe Pământ: Două structuri gigantice ce pot distruge omenirea
Un grup de cercetatori condus de catre Universitatea Wollongong din Australia, care a publicat un nou studiu pe 9 iulie ...
-
Ministerul Energiei a plătit aproape 30.000 de euro pentru elaborarea unui proiect de lege. Ce firmă a încasat banii, în timp ce funcționarii erau "restructurați"
Ministerul Energiei a angajat in martie 2025 o firma privata pentru intocmirea proiectului de Ordonanța de Urgența care ...
-
Inteligența artificială de la Google îngrijorează utilizatorii. AI-ul accesează WhatsApp și apelurile fără permisiune clară. Cum poți opri asta
O actualizare recenta a aplicației Gemini de la Google a starnit valuri de nemulțumire printre utilizatorii Android, dup ...
-
Adevaratul motiv pentru care Bitcoin a atins un nivel record după o crestere spectaculoasa
Bitcoin s-a tranzactionat marti in jurul valorii de 116.000 de dolari, dupa ce a revenit usor de la un maxim istoric ce ...
-
"Putrezirea creierului"- Fenomenul care afectează mintea și blochează gândirea dependentilor de filmulete pe Tik-tok si alte retele sociale
„Brainrot" sau „putrezirea creierului" nu mai este doar un termen de gluma pe internet. A devenit un fenomen ...
-
Haiducii energiei: Românii fură curent și gaze ca la concurs. Cifrele alarmante au fost făcute publice
Peste 660 de cazuri de potential consum fraudulos de energie au fost identificate in primele sase luni ale acestui an in ...
-
Sfaturi utile despre cum să ne pregătim pentru explozia prețurilor din august: primele produse care vor suferi majorări puternice
Creșterea TVA-ului incepand cu 1 august, impreuna cu acciza marita la carburanți, cu eliminarea plafonarii la RCA și fac ...
-
Microsoft pregătește Quick Machine Recovery: Windows 11 se va repara singur, fără stick-uri sau instalări complicate
În curand, nu va mai fi nevoie de stick-uri USB, CD-uri sau proceduri tehnice greoaie atunci cand sistemul de oper ...
-
Românii vor avea tarife dinamice la energie. Orele în care curentul va fi chiar și de 3 ori mai ieftin. Care este riscul
Ministrul Energiei, Bogdan Ivan, a afirmat ca furnizorii vor veni in perioada urmatoare cu astfel de tarife, in așa fel ...
-
Gata cu încălzirea globală: NASA a luat o decizie extrem de controversată care a stîrnit un mare scandal la Washington
Agentia spatiala americana NASA a renuntat la planul de a publica pe site-ul sau raportul privind clima la nivel nationa ...
-
Pentagonul bagă 200 de milioane de dolari pentru a folosi chatbot-ul nazist al lui Elon Musk
Pentagonul a anunțat semnarea unui contract de 200 de milioane de dolari pentru utilizarea chatbotului de inteligenta ar ...
-
Idiotul lui Selly care a înjurat România și i-a facut proști pe români la "Beach, Please" are 6 clase. Este fiul infractorului Vali Nebunu
Albert NBN, trapperul care a injurat Romania la "Beach, Please" a abandonat școala in clasa a șaptea și este fiul unui i ...
-
Scandal cât casa la plecarea lui Alfred Stern: "Nu ați înțeles că OMV Petrom și România nu sunt moșia dvs!"
Fostul ministru al energiei și membru al Consiliului de Supraveghere OMV Petrom, Razvan Nicolescu, ii cere șefului OMV, ...
-
România cumpără sistemul israelian Iron Dome care s-a dovedit a fi depășit de rachetele hipersonice iraniene. Rușii dețin misile mult mai performante
Romania va achiziționa sistemul de aparare aeriana Iron Dome, creat și utilizat de Israel, devenind astfel prima țara eu ...
-
Seling Europe by the pound. Cel mai mare bancher din lume prezice declinul economic al bătrânului continent până la o valoare de nimic
Directorul general al JPMorgan Chase, Jamie Dimon, a transmis un mesaj transant in cadrul unei interventii la Departamen ...
-
Inteligența artificială care iti controlează mintea: se schimbă tot ce știam despre cum gândim
Inteligenta artificiala (AI) are un impact din ce in ce mai important asupra medicinei si cercetarii, iar o noua descope ...
comentarii
Adauga un comentariuAdauga comentariu