AI s-a "șmecherit": Ne spune ceea ce vrem să auzim. O nouă cercetare demonstreză că inteligența artificială nu este imparțială
Postat la: 18.05.2024 | Scris de: ZIUA NEWS
0
O nouă cercetare condusă de Universitatea Johns Hopkins sugerează că chatboții, deseori percepuți ca fiind imparțiali, pot de fapt să întărească ideologiile existente și să contribuie la creșterea polarizării pe teme controversate.
Acest studiu contestă credința comună că chatbots oferă informații imparțiale și dezvăluie modul în care sistemele de căutare conversațională ar putea adânci diviziunile sociale și face indivizii mai susceptibili la manipulare.
"Pentru că oamenii citesc un paragraf de rezumat generat de Inteligența Artificială (IA), ei cred că primesc răspunsuri imparțiale, bazate pe fapte", a declarat autorul principal Ziang Xiao, profesor asistent de informatică la Johns Hopkins, specializat în interacțiunile om-IA.
"Chiar dacă un chatbot nu este conceput să fie părtinitor, răspunsurile sale reflectă prejudecățile sau înclinațiile persoanei care pune întrebările. Deci, într-adevăr, oamenii primesc răspunsurile pe care vor să le audă".
Cercetătorii au explorat modul în care chatboții afectează comportamentele de căutare online prin compararea interacțiunilor cu diferite sisteme de căutare.
Participanții, în număr de 272, au fost rugați să își exprime gândurile inițiale cu privire la diverse subiecte controversate, cum ar fi asistența medicală, împrumuturile pentru studenți sau orașele sanctuar. Apoi au fost îndrumați să adune mai multe informații folosind fie un chatbot, fie un motor de căutare tradițional dezvoltat pentru studiu.
După ce au analizat rezultatele căutării, participanții au scris un al doilea eseu și au răspuns la întrebări despre subiect. De asemenea, au fost expuși la două articole cu puncte de vedere opuse și li s-a cerut să evalueze credibilitatea informațiilor și extremismul opiniilor.
Studiul a arătat că, deoarece chatboturile oferă un domeniu mai restrâns de informații și se fac ecoul convingerilor preexistente ale utilizatorilor, participanții care le-au folosit au fost mai înrădăcinați în pozițiile lor inițiale și au reacționat mai puternic împotriva punctelor de vedere opuse.
"Oamenii au tendința de a căuta informații care se aliniază cu punctele lor de vedere, un comportament care îi prinde adesea într-o cameră de ecou a opiniilor asemănătoare", a explicat Xiao. "Am constatat că acest efect de cameră de ecou este mai puternic în cazul chatboților decât în cazul căutărilor tradiționale pe internet."
Acest efect apare parțial din cauza modului în care utilizatorii interacționează cu chatbots - punând întrebări complete în loc de cuvinte cheie, ceea ce duce la răspunsuri care se concentrează în mod îngust fie pe beneficiile, fie pe dezavantajele unei probleme, în funcție de formularea întrebării.
"Cu chatbots, oamenii tind să fie mai expresivi și să formuleze întrebările într-un mod mai conversațional. Este o funcție a modului în care vorbim", a spus Xiao. "Dar limbajul nostru poate fi folosit împotriva noastră".
Dezvoltatorii de inteligență artificială pot proiecta roboți de chat pentru a detecta indicii în întrebări care indică preferințele și prejudecățile unui utilizator, permițând inteligenței artificiale să își adapteze răspunsurile în consecință. De exemplu, cercetătorii au testat un chatbot programat cu o agendă ascunsă pentru a fi de acord cu utilizatorii, ceea ce a intensificat efectul de cameră de ecou.
Încercările de a atenua acest efect prin antrenarea unui chatbot pentru a oferi opinii contrare s-au dovedit a fi ineficiente, la fel ca și eforturile de a încuraja verificarea faptelor prin crearea de link-uri către sursele de informații - puțini participanți au urmat aceste link-uri.
"Având în vedere că sistemele bazate pe IA devin din ce în ce mai ușor de construit, vor exista oportunități pentru actorii rău intenționați de a se folosi de IA pentru a face o societate mai polarizată. Crearea de agenți care prezintă întotdeauna opinii din partea cealaltă este cea mai evidentă intervenție, dar am constatat că nu funcționează", a declarat Xiao.
DIN ACEEASI CATEGORIE...
![albeni](https://www.ziuanews.ro/static/images/albeni.jpeg)
ULTIMA ORA
-
Klaus Iohannis a rămas în ploaie la Paris. Președintele a stat între Carmen Iohannis și Maia Sandu
Preşedintele Klaus Iohannis şi soţia sa Carmen au fost prezenţi, vineri seară, la ceremonia de deschidere a Jocurilor Olimpice de la Paria. Cuplul prezidenţial român a stat lângă Maia Sandu, preşedinta Republicii Moldova fiind îmbrăcată în costum tradiţional.
-
Transnistrenii fug de "Mama Rusie"! Peste 97% dintre cetățenii din stânga Nistrului și-au luat cetățenia Republicii Moldova
Conform informațiilor furnizate de către Agenția Servicii Publice din Republica Moldova, până la 30 iunie, curent, în Registrul de stat al populației au fost luați în evidență 369 183 de locuitori domiciliați în regiunea transnistreană. Dintre aceștia, 360.215 persoane dețin cetățenia Republicii Moldova (330 538 în anul 2020 sau +29 677/ 8.2%).
-
"Batjocură demonică": Ceremonia de deschidere a Jocurilor Olimpice șochează cu travestiți în "Cina cea de taină"!
Ceremonia de deschidere a Jocurilor Olimpice de la Paris a fost criticată dur după ce un act a înfuriat telespectatorii din întreaga lume.
-
NASA, anunț răsunător: a obținut cea mai bună dovadă potențială de viață extraterestră de până acum
NASA a găsit pe Marte o bucată de rocă care s-ar putea dovedi într-o bună zi a fi prima dovadă clară a vieții extraterestre. Pentru a fi clar, NASA nu declară că a descoperit viață marțiană. Mai degrabă, roverul Perseverance a prelevat o mostră dintr-o rocă cu atribute care ar fi putut proveni din activitatea microbiană antică.
-
FBI vrea să-l audieze pe Trump, după controversele referitoare la glonțul care ar fi atins urechea fostului președinte
FBI încearcă să îl audieze pe fostul preşedinte Donald Trump în ancheta sa privind tentativa de asasinat pentru a obţine o declaraţie a victimei - o parte standard a anchetei, deoarece este victima unei infracţiuni, a declarat un oficial american.
-
Un cercetător care a ajutat mari companii să dezvolte alimente ultraprocesate „dă din casă": 2 moduri surprinzătoare în care producătorii le fac irezistibile
Conform profesorului Barry Smith, expert în alimentația multisenzorială de la Universitatea din Londra, alimentele ultraprocesate precum chipsurile, fursecurile și ciocolata sunt concepute pentru a crea dependență, transmite Busines Insider.
-
Finlanda a anulat condamnările a 7 bărbați care au violat o femeie cu dizabilități. Instanța a decis că handicapul femeii nu înseamnă că nu își poate da consimțământul
Un tribunal din Finlanda a anulat condamnările 7 bărbați găsiți vinovați de violarea unei femei cu dizabilități intelectuale. Aceștia au fost întemnițați pentru că au violat-o în mod repetat pe femeie timp de 3 ani, potrivit Remix News.
-
Apare cardul european de vaccinare, din septembrie 2024. Proiect pilot în cinci state UE
Un proiect pilot privind lansarea cardului european de vaccinare va fi implementat, din septembrie 2024, în cinci state UE, anunță euvabeco.eu.
-
Iese "la incalzire" Michelle: Obama o consideră „incompetentă" pe Kamala
Fostul președinte al Statelor Unite ale Americii, Barack Obama, nu a susținut candidatura la președinție a vicepreședintelui Kamala Harris, in schimb crede ca sotia sa Michele ar fi cea mai potrivita pentru rolul de presedinte al SUA.
DIN CATEGORIE
- TOP CITITE
- TOP COMENTATE
- 1.Liderul japonez își cere scuze față de cei nevaccinați: "Ați avut dreptate, vaccinurile ucid milioane de oameni dragi nouă!"
- 2.Trei inele negre de fum plutesc deasupra capitalei Germaniei. Fenomene similare au fost observate în întreaga lume
- 3.Hipermarketurile globaliste au găsit o nouă metodă de a-și bate joc de români: Fenomenul uplation golește cardurile!
- 4.Dedesubturile murdare ale unei industrii de miliarde ies la iveală: omul care a ajutat Coca-Cola să dea dependență dezvăluie cum suntem păcăliți
- 5.Statele lumii se pregătesc de noua pandemie. A început cursa pentru „înarmarea" cu vaccin
- 6.Universitatea București sare în apărarea lui Andrei Nae, profesorul îmbrăcat în fustă: „Există un cod de incluziune"
- 7.Predicțiile din The Simpsons pentru anul 2024 încep să se adeverească: Ce urmează conform previziunilor din celebrul serial de animație VIDEO
- 8.Fructele false, cu textură spongios-cauciucata, au inceput sa se vanda in supermaketurile din toata lumea. La fel și peștii din hârtie! VIDEO
- 9.A inceput prima fază a dictaturii digitale iar lumea o ia drept bună: Cum funcţionează portofelul digital lansat de UE şi când va fi disponibil în România
- 10.Triada coruptă de la vârful Europei: Plicuri cu bani, afaceri cu Rusia, Pfizer și alte scandaluri
comentarii
Adauga un comentariuAdauga comentariu