AI s-a "șmecherit": Ne spune ceea ce vrem să auzim. O nouă cercetare demonstreză că inteligența artificială nu este imparțială
Postat la: 18.05.2024 | Scris de: ZIUA NEWS

O nouă cercetare condusă de Universitatea Johns Hopkins sugerează că chatboții, deseori percepuți ca fiind imparțiali, pot de fapt să întărească ideologiile existente și să contribuie la creșterea polarizării pe teme controversate.
Acest studiu contestă credința comună că chatbots oferă informații imparțiale și dezvăluie modul în care sistemele de căutare conversațională ar putea adânci diviziunile sociale și face indivizii mai susceptibili la manipulare.
"Pentru că oamenii citesc un paragraf de rezumat generat de Inteligența Artificială (IA), ei cred că primesc răspunsuri imparțiale, bazate pe fapte", a declarat autorul principal Ziang Xiao, profesor asistent de informatică la Johns Hopkins, specializat în interacțiunile om-IA.
"Chiar dacă un chatbot nu este conceput să fie părtinitor, răspunsurile sale reflectă prejudecățile sau înclinațiile persoanei care pune întrebările. Deci, într-adevăr, oamenii primesc răspunsurile pe care vor să le audă".
Cercetătorii au explorat modul în care chatboții afectează comportamentele de căutare online prin compararea interacțiunilor cu diferite sisteme de căutare.
Participanții, în număr de 272, au fost rugați să își exprime gândurile inițiale cu privire la diverse subiecte controversate, cum ar fi asistența medicală, împrumuturile pentru studenți sau orașele sanctuar. Apoi au fost îndrumați să adune mai multe informații folosind fie un chatbot, fie un motor de căutare tradițional dezvoltat pentru studiu.
După ce au analizat rezultatele căutării, participanții au scris un al doilea eseu și au răspuns la întrebări despre subiect. De asemenea, au fost expuși la două articole cu puncte de vedere opuse și li s-a cerut să evalueze credibilitatea informațiilor și extremismul opiniilor.
Studiul a arătat că, deoarece chatboturile oferă un domeniu mai restrâns de informații și se fac ecoul convingerilor preexistente ale utilizatorilor, participanții care le-au folosit au fost mai înrădăcinați în pozițiile lor inițiale și au reacționat mai puternic împotriva punctelor de vedere opuse.
"Oamenii au tendința de a căuta informații care se aliniază cu punctele lor de vedere, un comportament care îi prinde adesea într-o cameră de ecou a opiniilor asemănătoare", a explicat Xiao. "Am constatat că acest efect de cameră de ecou este mai puternic în cazul chatboților decât în cazul căutărilor tradiționale pe internet."
Acest efect apare parțial din cauza modului în care utilizatorii interacționează cu chatbots - punând întrebări complete în loc de cuvinte cheie, ceea ce duce la răspunsuri care se concentrează în mod îngust fie pe beneficiile, fie pe dezavantajele unei probleme, în funcție de formularea întrebării.
"Cu chatbots, oamenii tind să fie mai expresivi și să formuleze întrebările într-un mod mai conversațional. Este o funcție a modului în care vorbim", a spus Xiao. "Dar limbajul nostru poate fi folosit împotriva noastră".
Dezvoltatorii de inteligență artificială pot proiecta roboți de chat pentru a detecta indicii în întrebări care indică preferințele și prejudecățile unui utilizator, permițând inteligenței artificiale să își adapteze răspunsurile în consecință. De exemplu, cercetătorii au testat un chatbot programat cu o agendă ascunsă pentru a fi de acord cu utilizatorii, ceea ce a intensificat efectul de cameră de ecou.
Încercările de a atenua acest efect prin antrenarea unui chatbot pentru a oferi opinii contrare s-au dovedit a fi ineficiente, la fel ca și eforturile de a încuraja verificarea faptelor prin crearea de link-uri către sursele de informații - puțini participanți au urmat aceste link-uri.
"Având în vedere că sistemele bazate pe IA devin din ce în ce mai ușor de construit, vor exista oportunități pentru actorii rău intenționați de a se folosi de IA pentru a face o societate mai polarizată. Crearea de agenți care prezintă întotdeauna opinii din partea cealaltă este cea mai evidentă intervenție, dar am constatat că nu funcționează", a declarat Xiao.
DIN ACEEASI CATEGORIE...
-
TopBet România conduce în promovarea cotelor echitabile în sectorul pariurilor online
Romanii au o relație veche cu pariurile sportive, una care merge mana-n mana cu pasiunea autentica pentru competiție. De ...
-
Încep înscrierile în Programul Rabla - Lista completă a noilor condiții
Administratia Fondului pentru Mediu (AFM) anunta lansarea sesiunii de inscriere in cadrul Programului Rabla Auto 2025 pe ...
-
Scandal la Guvern: Șeful Cancelariei premierului ar fi cerut lista cu protestatari
Sindicatul Angajaților din Aparatul de Lucru al Guvernului acuza șeful Cancelariei prim-ministrului, Mihai Jurca, ca a c ...
-
Un pastor din SUA acuzat de abuz sexual asupra unor copii ai străzii din București. Abuzurile ar fi durat opt ani, perioada în care americanul făcea misionariat în România
Doi barbați romani au depus plangeri la Tribunalul Districtual din California, acuzand un fost pastor al bisericii Harve ...
-
România alocă cei mai puțini bani pentru sănătate dintre țările UE. Tratamentele a peste 700.000 de pacienți sunt în pericol dacă nu se suplimentează bugetul în acest an
Romania are cele mai mici sume alocate pentru sanatate din Uniunea Europeana, iar bugetul subdimensionat din acest an pu ...
-
Scandalul Brigitte-bărbat: Soția lui Macron obligată să furnizeze „probe științifice și fotografice" că este femeie!
Emmanuel și Brigitte Macron intenționeaza sa prezinte probe fotografice intr-un tribunal din SUA pentru a demonstra ca e ...
-
"Laserul spațial evreiesc" devine realitate. Un fost premier al Israelului confirmă o conspirație legată de familia Rothschild
Armata israeliana și compania Rafael au anunțat ca sistemul antiaerian laser „Iron Beam" a terminat cu succes toat ...
-
Cine sunt jurnaliștii, influencerii și justițiabilii care apar în rechizitoriul prin care Călin Georgescu a fost trimis în judecată
În rechizitoriul din dosarul in care procurorii l-au trimis in judecata pe Calin Georgescu apar mai multe nume cun ...
-
Air Force One cu Donald Trump la bord a fost la un pas de un incident aviatic major. O aeronavă cu pasageri era pe aceeași traiectorie si urma sa loveasca avionul prezidential
Un moment tensionat in spațiul aerian american a atras atenția publicului. O aeronava Spirit Airlines și Air Force One s ...
-
Procurorii ar putea cere arestarea lui Călin Georgescu. Fostul candidat independent la prezidențiale a fost trimis în judecată pentru tentativă de lovitură de stat
Procurorii ar putea cere joi, 18 septembrie, arestarea fostului candidat independent la alegerile prezidențiale, Calin G ...
-
Soarele se ‘trezește' și va face ravagii în următoarele decenii: NASA avertizează asupra impactului devastator pentru omenire
Oamenii de știința de la NASA avertizeaza ca activitatea solara ar putea ramane ridicata sau chiar sa creasca in urmatoa ...
-
China spulberă lumea medicală cu ultima 'bombă' - lipiciul de oase care 'repară' fracturile în doar două minute
O echipa de cercetatori din provincia Zhejiang, China, a dezvoltat un nou tip de adeziv medical capabil sa „sudeze ...
-
După cazul Charlie Kirk, ABC apasă STOP la ‘Jimmy Kimmel Live!' - Comentariile care au stârnit revoltă
ABC, rețeaua deținuta de Disney, a anunțat ca „Jimmy Kimmel Live!" va fi oprit pe termen nelimitat, fara data de r ...
-
Viitorul medicinei se anunță cel puțin promițător: Un nou instrument AI poate identifica pacienții cu risc ridicat de a dezvolta boli înainte să apară simptomele
Cercetatorii au dezvoltat un nou instrument de inteligența artificiala capabil sa estimeze riscul unui pacient de a dezv ...
-
Cum să alegi cel mai bun gel UV pentru manichiura
Într-o piața saturata de opțiuni pentru geluri UV, alegerea celui mai potrivit produs pentru manichiura personala ...
-
Sky News: Putin are un atu secret împotriva Marii Britanii
Serviciile secrete s-au autodepașit: detaliile operațiunii au fost dezvaluite de postul de televiziune Sky New ...
-
„Vă crucific ca pe Iisus". Patru români plecați la muncă în Germania au primit bătaie în loc de salarii. Sechestrați și obligați să muncească până la sânge
Patru romani, printre care și o femeie, au trait un adevarat coșmar in Germania, unde au fost pacaliți cu promisiunea un ...
-
Linia întîi - Noi aeronave și efective militare ale SUA vor fi dislocate în România. Nicușor Dan a aprobat suplimentarea forțelor la Baza Mihail Kogălniceanu
Președintele Nicușor Dan a aprobat suplimentarea forțelor la Baza 57 Aeriana Mihail Kogalniceanu, inclusiv aeronave ISR, ...
-
Călin Georgescu, primele declarații despre noul dosar în care a fost trimis în judecată: Ei știu că eu pot face asta!
Fostul candidat la presedintie Calin Georgescu, trimis in judecata pentru complicitate la tentativa la comiterea unor ac ...
-
Percheziții ale DNA și Jandarmeriei la Drumuri - Directorul DRDP Iași, vizat de procurori; s-au ridicat mai multe documente
Procurorii Direcției Naționale Anticorupție (DNA ), sprijiniți de jandarmi, au efectuat in aceasta dimineața percheziții ...
-
Ce se întâmplă în Antarctica? Două impulsuri radio inexplicabile care par să provină de sub vasta calotă glaciară au fost detectate de cercetători
La peste 29 de kilometri deasupra peisajului inghețat al Antarcticii, o serie de instrumente zburatoare a captat un feno ...
-
Dintre misterele asasinării lui Charlie Kirk - Bătrânul care ar fi încercat să deturneze atenția poliției pentru a îl ajuta pe Tyler Robinson
Un barbat in varsta de 71 de ani, care a fost reținut pentru scurt timp dupa asasinarea lui Charlie Kirk, a incercat sa- ...
-
Ce zice Parchetul: Întreaga rețea din jurul lui Călin Georgescu - zeci de milioane, intereselor obscure și miros puternic de propagandă rusească
Calin Georgescu, alaturi de alte 21 de persoane, a fost trimis in judecata de Parchetul de pe langa Înalta Curte d ...
-
Cercetătorii au reușit să transforme lumina în sunet în premieră mondială
Cercetatorii de la Academia de Științe a Informațiilor Cuantice din Beijing (BAQIS) au reușit o premiera mondiala specta ...
-
Avocatul lui Călin Georgescu desființează acuzațiile: "Un simulacru de rechizitoriu, va fi desființat de Justiție"
Lucian Catrinoiu, avocatul lui Calin Georgescu, critica dur rechizitoriul intocmit de procurori in dosarul in care fostu ...
-
FBI, în centrul unui scandal după moartea lui Charlie Kirk - Kash Patel este chemat să dea explicații în Congres: "Agenția nu va mai fi folosită ca armă politică"
Kash Patel, directorul FBI, se confrunta marți cu doua audieri in Congres, din partea membrilor Senatului și Camerei Rep ...
-
Românii, pe primul loc în UE la incapacitatea de a-și permite un set de bunuri sau activități sociale
Cea mai mare pondere a persoanelor care s-au confruntat cu privațiuni materiale și sociale severe a fost inregistrata in ...
-
„Un miracol de la Dumnezeu". Comunitatea ortodoxă română, la prima slujbă în catedrala proaspăt cumpărată în Dublin
Episcopia Ortodoxa Romana a Irlandei și Islandei a achiziționat recent propria Catedrala Episcopala, o biserica anglican ...
-
Cum poate fi păcălită Inteligența Artificială ca să nu fure datele utilizatorilor. Poze banale pot conţine comenzi invizibile pentru AI
Un simplu wallpaper descarcat de pe internet ar putea fi suficient pentru a compromite un computer pe care ruleaza un ag ...
-
Eticheta alimentară, tot mai greu de descifrat. Cum au fost înlocuite alimentele naturale cu subproduse chimice
În goana dupa supraproducție la prețuri cat mai mici, industria alimentara a fost nevoita sa combine chimia cu buc ...
comentarii
Adauga un comentariuAdauga comentariu