AI s-a "șmecherit": Ne spune ceea ce vrem să auzim. O nouă cercetare demonstreză că inteligența artificială nu este imparțială
Postat la: 18.05.2024 | Scris de: ZIUA NEWS

O nouă cercetare condusă de Universitatea Johns Hopkins sugerează că chatboții, deseori percepuți ca fiind imparțiali, pot de fapt să întărească ideologiile existente și să contribuie la creșterea polarizării pe teme controversate.
Acest studiu contestă credința comună că chatbots oferă informații imparțiale și dezvăluie modul în care sistemele de căutare conversațională ar putea adânci diviziunile sociale și face indivizii mai susceptibili la manipulare.
"Pentru că oamenii citesc un paragraf de rezumat generat de Inteligența Artificială (IA), ei cred că primesc răspunsuri imparțiale, bazate pe fapte", a declarat autorul principal Ziang Xiao, profesor asistent de informatică la Johns Hopkins, specializat în interacțiunile om-IA.
"Chiar dacă un chatbot nu este conceput să fie părtinitor, răspunsurile sale reflectă prejudecățile sau înclinațiile persoanei care pune întrebările. Deci, într-adevăr, oamenii primesc răspunsurile pe care vor să le audă".
Cercetătorii au explorat modul în care chatboții afectează comportamentele de căutare online prin compararea interacțiunilor cu diferite sisteme de căutare.
Participanții, în număr de 272, au fost rugați să își exprime gândurile inițiale cu privire la diverse subiecte controversate, cum ar fi asistența medicală, împrumuturile pentru studenți sau orașele sanctuar. Apoi au fost îndrumați să adune mai multe informații folosind fie un chatbot, fie un motor de căutare tradițional dezvoltat pentru studiu.
După ce au analizat rezultatele căutării, participanții au scris un al doilea eseu și au răspuns la întrebări despre subiect. De asemenea, au fost expuși la două articole cu puncte de vedere opuse și li s-a cerut să evalueze credibilitatea informațiilor și extremismul opiniilor.
Studiul a arătat că, deoarece chatboturile oferă un domeniu mai restrâns de informații și se fac ecoul convingerilor preexistente ale utilizatorilor, participanții care le-au folosit au fost mai înrădăcinați în pozițiile lor inițiale și au reacționat mai puternic împotriva punctelor de vedere opuse.
"Oamenii au tendința de a căuta informații care se aliniază cu punctele lor de vedere, un comportament care îi prinde adesea într-o cameră de ecou a opiniilor asemănătoare", a explicat Xiao. "Am constatat că acest efect de cameră de ecou este mai puternic în cazul chatboților decât în cazul căutărilor tradiționale pe internet."
Acest efect apare parțial din cauza modului în care utilizatorii interacționează cu chatbots - punând întrebări complete în loc de cuvinte cheie, ceea ce duce la răspunsuri care se concentrează în mod îngust fie pe beneficiile, fie pe dezavantajele unei probleme, în funcție de formularea întrebării.
"Cu chatbots, oamenii tind să fie mai expresivi și să formuleze întrebările într-un mod mai conversațional. Este o funcție a modului în care vorbim", a spus Xiao. "Dar limbajul nostru poate fi folosit împotriva noastră".
Dezvoltatorii de inteligență artificială pot proiecta roboți de chat pentru a detecta indicii în întrebări care indică preferințele și prejudecățile unui utilizator, permițând inteligenței artificiale să își adapteze răspunsurile în consecință. De exemplu, cercetătorii au testat un chatbot programat cu o agendă ascunsă pentru a fi de acord cu utilizatorii, ceea ce a intensificat efectul de cameră de ecou.
Încercările de a atenua acest efect prin antrenarea unui chatbot pentru a oferi opinii contrare s-au dovedit a fi ineficiente, la fel ca și eforturile de a încuraja verificarea faptelor prin crearea de link-uri către sursele de informații - puțini participanți au urmat aceste link-uri.
"Având în vedere că sistemele bazate pe IA devin din ce în ce mai ușor de construit, vor exista oportunități pentru actorii rău intenționați de a se folosi de IA pentru a face o societate mai polarizată. Crearea de agenți care prezintă întotdeauna opinii din partea cealaltă este cea mai evidentă intervenție, dar am constatat că nu funcționează", a declarat Xiao.
DIN ACEEASI CATEGORIE...
-
SUA mizează pe o armă cinetică de ultimă generație, SM-3, după ce a folosit-o pentru prima dată în Israel
Departamentul Apararii al Statelor Unite a anunțat o extindere semnificativa a contractului cu Raytheon, companie din ca ...
-
Forțele Aeriene dezvăluie primele avioane fără pilot din istoria SUA. Un punct de cotitură în modul în care America va concepe războiul aerian al viitorului
Forțele Aeriene ale Statelor Unite au prezentat oficial primele aeronave de lupta fara pilot din istorie care primesc de ...
-
Apple pregătește un telefon revoluționar pentru aniversarea de două decenii. Ce va putea oferi iPhone-ul 100% din sticlă
În 2027, iPhone-ul va implini 20 de ani, iar Apple pare hotarata sa marcheze momentul cu un dispozitiv care sa res ...
-
Un expert susține că a descifrat un mister din Biblie. Descoperire despre Cele zece porunci ale lui Dumnezeu
Biblia povestește cum Moise a urcat pe un munte misterios, s-a intalnit cu Dumnezeu fața in fața și a coborat purtand Ce ...
-
Evoluție dramatică în Statele Unite: Un fenomen nemaivăzut de la pandemie lovește sever
Acordul comercial interimar dintre administrația de la Washington și China, incheiat in Elveția, marcheaza o schimbare d ...
-
Ultima generație care mai mănâncă banane: Fructul preferat din toată lumea, pe cale să dispară în câțiva ani
Bananele, unul dintre cele mai iubite fructe din lume, sunt amenințate cu dispariția! Schimbarile climatice, bolile deva ...
-
Chatbotul lui Elon Musk, acuzat că promovează o teorie conspiraționistă: ce s-a întâmplat cu Grok pe platforma X
Un incident bizar și controversat a reaprins discuțiile despre riscurile inteligenței artificiale in spațiul public digi ...
-
Garda digitală a Papei! Cum un grup de voluntari din întreaga lume apără Vaticanul de hackeri
Într-o epoca in care credința se ciocnește din ce in ce mai des cu tehnologia, Vaticanul se vede nevoit sa iși ape ...
-
România, cu un picior în zona 'junk': Alegerile tensionate amplifică prăbușirea încrederii investitorilor - Bloomberg
Incertitudinea politica generata de alegerile prezidențiale din Romania incepe sa fie tratata cu seriozitate maxima de p ...
-
Sociolog: Pare că George Simion și Călin Georgescu nu au o relație bună
Vladimir Ionaș, sociolog Avangarde, a afirmat joi, ca strategia lui George Simion de a nu se prezenta la dezbateri inain ...
-
SUA, din nou o putere mondială sub Trump: investiții fără precedent din întreaga lume într-o industrie în plină dezvoltare
Deși au trecut 100 de zile din cel de-al doilea mandat al lui Donald Trump, piața criptomonedelor ramane extrem de sensi ...
-
Un robot umanoid „s-a trezit" şi a devenit incontrolabil îngrozind inginerii într-o fabrică din China VIDEO
În China, un videoclip care circula pe retelele sociale arata un robot umanoid al companiei Unitree luptandu-se ag ...
-
Descoperirea secolului: experimentul DUNE, ascuns sub pământ. De ce există lumea
Teoriile actuale ale astronomiei nu pot explica de ce a aparut lumea, planetele, stelele și galaxiile. Dar acum oamenii ...
-
Au furat un ditamai avionul comercial: hoții nu au mai fost văzuți de atunci, nici aeronava sau orice resturi ale acesteia. Lista celor mai bizare furturi
Unele dintre cele mai bizare furturi din lume au devenit celebre tocmai datorita naturii lor neașteptate. Daca majoritat ...
-
A fost creat primul tabel periodic al algoritmilor de inteligență artificială, după modelul Mendeleev
MIT propune un „tabel periodic" al algoritmilor de inteligența artificiala. Daca in liceu am invațat sa ordonam at ...
-
Terifiantul "sindrom al capului căzut": Boala generată de statul cu ochii în telefon. Un caz extrem șochează până și medicii
Medicii japonezi au relatat un caz extrem de rar și alarmant: un barbat in varsta de 25 de ani a ajuns in imposibilitate ...
-
Aplicația care te lasă fără bani în câteva secunde. Nu o descărca niciodată pe telefon
O femeie din Deva a cazut victima unei escrocherii cibernetice de proporții, dupa ce a fost convinsa sa instaleze o apli ...
-
O erupție solară lovește Pământul: Semnalele radio, întrerupte în Europa și Asia. Urmează zile critice
Pe 14 mai 2025, o erupție solara extrem de puternica, de clasa X2.7, a fost emisa de Soare dintr-o noua regiune activa d ...
-
Manelistul Jador a fost prins drogat la volan: A ieșit pozitiv la opiacee
Cantaretul de manele Jador a fost oprit, miercuri seara, de politistii din Bucuresti pe o strada din Sectorul 5, iar tes ...
-
Un scandal de corupție bubuie la NATO: Mai multe persoane arestate într-o anchetă internațională
Mai multe persoane au fost arestate in cadrul unei vaste anchete anticoruptie care implica o agentie NATO ce se ocupa de ...
-
Sfaturi pentru închirierea unui cabinet psihologic
Poate ești in prima ta zi de practica sau ai ani de experiența, alegerea unui cabinet psihologic nu este doar o chestiun ...
-
O furtună solară masivă provoacă pene de curent la nivel mondial. Experții avertizează că ce este mai rău urmează să vină
Soarele a dezlanțuit cea mai puternica erupție solara a anului. Furtuna de radiații provocata de erupția solara de marți ...
-
Falimentul bate la usa României: BNR anunta ca datoria externă a ajuns la cote alarmante si riscam si incapacitate de plata
BNR a transmis datele despre contul curent al balanței de plați a Romaniei, care a inregistrat un deficit de 7,656 milia ...
-
Un român a furat statui din cimitirele din toată Germania. Prejudiciul se ridică la 600.000 de euro
Un cetațean roman de 36 de ani este suspectat pentru furtul unor decorațiuni funerare in valoare de aproximativ 600.000 ...
-
CJUE - Lovitură dură pentru Ursula von der Leyen în scandalul vaccinurilor COVID: Comisia a ascuns ilegal SMS-urile cu Pfizer
Instanța suprema a UE a anulat decizia Comisiei de a refuza ziarului New York Times accesul la mesajele schimbate intre ...
-
Premieră națională: femeile din politică, administrație și afaceri, pentru prima dată la aceeași masă de dialog constructiv
Summitul „Femei pentru o societate mai buna - De la voce la putere", organizat de Women for a Better Society la Se ...
-
Camerele de bord interzise în tot mai multe țări europene. Turiștii riscă amenzi de până la 25.000 de euro
Portugalia s-a alaturat recent Elveției, Austriei și Luxemburgului in interzicerea totala a camerelor de bord, invocand ...
-
O descoperire uriasa despre legatura mamă - făt. Dovada stiintifică a relatiei indestructibile ce ramane după naștere
Cand mamele sunt insarcinate, celulele bebelușului migreaza in sangele lor și apoi se invart inapoi in bebeluș, se numeș ...
-
Un selfie ar putea oferi mai multe informații despre sănătatea ta decât un set întreg de analize, grație unui nou algoritm AI
O echipa de oameni de știința de la centrul de cercetare Mass General Brigham, SUA, a creat un algoritm de inteligența a ...
-
Descoperire revoluționară: Blocarea morții celulare deschide calea spre tratarea bolilor neurodegenerative, inclusiv Parkinson și Alzheimer
O echipa de cercetatori de la Institutul de Cercetare Medicala Walter and Eliza Hall (WEHI), inclusiv experți de la Cent ...
comentarii
Adauga un comentariuAdauga comentariu