2024 este cel mai mare an electoral din istorie. 2 miliarde de oameni se vor duce la vot in epoca deep fake generat de AI

Postat la: 19.12.2023 |

Regatul Unit, SUA și India - cea mai populată națiune din lume - sunt doar trei dintre țările care urmează să organizeze alegeri în 2024, fiecare pentru prima dată de când instrumentele puternice generative de inteligență artificială precum ChatGPT și Midjourney au devenit populare.

Peste două miliarde de oameni din 50 de țări ar putea merge la urne în 2024, ceea ce este un nivel record. Regatul Unit urmează să organizeze alegeri generale, SUA au alegeri prezidențiale în noiembrie, iar cea mai populată țară din lume, India, va vota pentru următorul său prim-ministru.

Va fi pentru prima dată când unele dintre cele mai mari democrații ale lumii organizează un vot național de când instrumentele AI generative, inclusiv ChatGPT și Midjourney, au devenit populare. Martina Larkin, directorul executiv al Project Liberty, o organizație non-profit care încearcă să promoveze siguranța pe internet, a avertizat că politicienii se află „în vârful piramidei" atunci când vine vorba de dezinformarea bazată pe inteligență artificială.

Deepfake-urile, în care personalități de mare profil sunt clonate digital în videoclipuri realiste, sunt deosebit de îngrijorătoare. Președintele american Joe Biden, posibilul adversar Donald Trump și ucraineanul Volodymyr Zelenskyy au căzut în mod repetat victime ale unor astfel de clipuri, în timp ce vocea liderului laburist Sir Keir Starmer a fost clonată în scopuri nefaste.

Larkin a spus că o astfel de dezinformare s-ar putea răspândi „la o scară mult mai mare" în perioada premergătoare alegerilor din 2024. Guvernele se gândesc la cum să reglementeze tehnologia, dar unele se mișcă mai repede decât altele. Biden a dezvăluit propuneri din octombrie, care includ ca tot conținutul generat de inteligență artificială să fie marcat.

UE a ajuns la un acord cu privire la modul de reglementare al Inteligenței Artificiale, deși acesta nu va intra în vigoare cel mai devreme în 2025. Blocul european va organiza alegeri parlamentare anul viitor. În Marea Britanie, guvernul a fost precaut cu privire la necesitatea unei reglementări, temându-se că ar înfrâna inovația tehnologică.

Echipele de fact-checkers au cerut guvernului să sporească gradul de conștientizare a publicului cu privire la pericolele falsurilor de inteligență artificială pentru a-i ajuta să recunoască imaginile false și să pună la îndoială ceea ce văd online. Un purtător de cuvânt al guvernului a spus că a luat „foarte în serios" amenințarea conținutului digital manipulat.

„Lucrăm intens la nivelul guvernului pentru a ne asigura că suntem pregătiți să răspundem rapid oricăror amenințări la adresa proceselor noastre democratice, prin intermediul Grupului de lucru pentru Apărarea Democrației și prin echipele guvernamentale dedicate", au spus aceștia.

„Legea noastră privind siguranța online merge mai departe prin introducerea de noi cerințe pe platformele sociale pentru a elimina rapid dezinformarea - inclusiv acolo unde este generată de inteligență artificială". Conform legii, autoritatea de reglementare a mass-media Ofcom are sarcina de a ajuta la creșterea gradului de conștientizare a publicului cu privire la dezinformarea online.

Companiile de rețele sociale sunt, de asemenea, obligate din punct de vedere legal să ia măsuri împotriva dezinformării atunci când aceasta constituie o infracțiune sau riscă o amendă. Și Legea Electorală cere tuturor celor care difuzează publicitate politică, inclusiv materiale generate de inteligență artificială, să includă o amprentă cu numele și adresa.

„Gândește-te la persoanele rău intenționate din Rusia sau China - oricum nu le pasă de aceste linii directoare", a spus Shivajee Samdarshi, director de produs la firma de securitate cibernetică Venafi. El a avertizat că conținutul generat de inteligență artificială „dobește complet temelia încrederii" - și ar putea avea un impact și mai semnificativ asupra alegerilor decât rețelele sociale.

Companii precum Meta s-au confruntat cu critici pentru că nu au făcut suficient pentru a combate știrile false în timpul alegerilor din SUA din 2016 și a referendumului pentru Brexit și, ca și guvernele, sunt sub presiune pentru a introduce reglementări pentru IA.

Kunal Anand, care obișnuia să conducă securitatea pentru site-ul de social media MySpace, cândva dominant, a spus că o combinație de IA generativă, roboți și rețelele sociale ar putea „accelera narațiunile false" ca niciodată înainte. „Oamenii trebuie să verifice ceea ce văd, mai mult ca niciodată", a spus el.

„Nu este ușor să detectezi deepfake-urile. Dar dacă ceva pare îndoielnic, verifică-l. Fiți conștienți și diversificați-vă sursele de știri. Du-te și joacă-te cu aceste instrumente AI generative, nu doar pentru scrierea conținutului, ci și cu generarea de imagini și videoclipuri. Îți va da o idee despre ce sunt aceste instrumente și cum funcționează," a mai spus acesta.