sâmbătă, februarie 24, 2024

Amenințarea Deepfake: Impactul asupra alegerilor din 2024, în România (VIDEO)

SCIENCE+Amenințarea Deepfake: Impactul asupra alegerilor din 2024, în România (VIDEO)
  • În 2024, în România sunt programate cinci rânduri de alegeri – europarlamentare, locale, parlamentare și prezidențiale (două tururi).

  • Mesajele distribuite pe rețelele de socializare vor avea o mare importanță în bătălia electorală, Facebook, Instagram și TikTok fiind cele mai folosite rețele din România.

  • Subiecte neverificate și știri false ajung în feed-urile utilizatorilor, iar aceștia aproape niciodată nu descoperă că sunt mințiți, iar algoritmii nu pot face diferența între știrile reale și cele false.

  • Utilizarea softurilor „deepfake” care modifică atât sunetul, cât și imaginile video a început să își facă simțită prezența. Există posibilitatea ca acestea să influențeze rezultatul alegerilor dacă autoritățile nu fac nimic. Deja pe Tiktok şi nu numai există videoclipuri cu lideri politici români în diverse ipostaze, realizate cu ajutorul inteligenței artificiale. Autorii spun că sunt niște pamflete, dar pericolul folosirii acestei tehnologii este real.

  • Reporter 24 aduce în discuție acest subiect și pentru a le oferi oamenilor instrumentele necesare ca să facă diferența între un fișier video sau audio original și unul alterat de aceste tehnologii. Pornim de la experiența din Slovacia, unde astfel de fișiere au fost folosite în campania electorală care a dus la victoria unui partid pro-Kremlin.

Am stat de vorbă cu Martin Hodás, jurnalist specializat în tehnologie la cea mai importantă revistă slovacă de acest gen, Zive.sk, care se axează pe social media și dezinformare. El a vorbit despre cum tehnologia deepfake a fost folosită în alegerile din Slovacia.

„Cu vreo două săptămâni înainte de ziua votului, au fost câteva instanţe în care am găsit astfel de fişiere alterate cu AI, care atacau un anume partid politic – Slovacia Progresivă.  De această dată n-a fost vorba de video-deepfake ci de audio-deepfake. Au folosit voci sintetizate ale politicienilor, spunând lucruri pe care nu le-au spus de fapt”, a declarat Martin Hodás.

„Principala sursă pentru distribuire a fost Telegram, platforma de mesagerie care este foarte folosită în Slovacia, dar s-a extins şi pe social media, cum ar fi Facebook, pe email-uri sau Whatsapp”, a adăugat el.

Martin Hodás mai spune că deşi, în unele cazuri, calitatea înregistrărilor nu era cea mai bună, mesajul tot a avut efect.

„Au fost video-uri create de partidul de extremă dreaptă Republica, care erau fake-uri care sunau foarte bine. Îl imitau pe preşedinte şi pe liderului partidului Slovacia Progresivă. Acestea au fost foarte convingătoare, dar pe de altă parte acestea erau clipuri oficiale de campanie, aşa că era un disclaimer că sunetul este fals, dar l-au folosit în campanie. Era vorba de o calitate înaltă, deci a fost un efort considerabil. Un alt grup de fişiere e din surse pe care nu le-am putut identifica, cine le-a creat de fapt, iar înregistrările erau de o calitate mai joasă, şi dacă ai o „ureche critică” puteai să-ţi dai seama că erau lucruri nelalocul lor, nuanţe, intonaţii ale vocilor şi aşa mai departe. Erau foarte nenaturale şi aveau o calitate scăzută. Dar, în ciuda acestui lucru, zeci de mii de persoane le-au distribuit şi au crezut că sunt reale. Aşa că a existat un anume impact, în ciuda calităţii scăzute”, a mai declarat Hodás.

De unde vă informaţi despre politica din România? Răspundeţi la un scurt sondaj

Jurnalistul slovac arată că, în cele mai multe cazuri, astfel de softuri sunt gratuite sau foarte ieftine şi, practic, oricine le poate folosi, în orice scop.

„Nu ştim cu ce softuri AI au fost create, dar există o serie care sunt disponibile gratuit sau foarte ieftine, un dolar pe lună sau aşa ceva, cu care poţi crea vocea sintetizată a cuiva, bazată pe înregistrări audio. Spre exemplu, în cazul politicienilor, sunt foarte multe discursuri publice şi declaraţii pe care le poţi folosi pentru a învăţa AI-ul, pentru a-l antrena să imite limbajul. E foarte uşor, nu trebuie să te pricepi la tehnologie. Dacă pui un pic de efort şi de timp, îl poţi crea singur. De aici e şi teama având în vedere viitorul, pentru că şi oamenii obişnuiţi pot să folosească această tehologie”, a conchis Hodás.

Ce s-ar putea întâmpla în România?

Radu Delicote, profesor asociat la Şcoala Naţională  de Studii Politice şi administrative,  consultant și analist poltiic internaţionalinternațional, spune că şi în România există pericolul  ca tehnologia deepfake să influenţeze votul. În prezent, astfel de softuri sunt folosite doar ca metodă de distracţie şi de ridicualizare a politicienilor. Deja pe Tiktok, Facebook sau Instagram au apărut clipuri modificate cu ajutorul AI în care președintele, premierul sau alți lideri politici sunt în ipostaze de lăutari sau de beţivi.

În alte clipuri, însă, reprezentanţii autorităţilor fac declaraţii „serioase”, cum ar fi aceea în care premierul Marcel Ciolacu promite că va da 100.000 euro românilor care se întorc din diaspora.

@ai.pamflet #aipamflet #amuzament #fazecomice #pamflet #romani #diaspora #romaniinuk #romaniingermania #romaniinlondra #romaniinanglia #romaniindiaspora #pamflet ♬ original sound – AI Pamflet

„Pericolul există, în sensul în care votul rămâne un element pur emoţional. Electoratul, fiind asaltat constant cu multe mesaje, fiind asaltat constat cu foarte multe multă agendă schimbătoare, primeşte informări din foarte multe locuri şi aşa ajunge automat să nu mai verifice informaţia. Riscul ca să ne uităm astăzi la inteligenţa artificială şi să spunem că deepfake este următorul pas în campaniile negative, în România, mi se pare că uităm un pic şi esenţa de astăzi. Manipularea prin social-media în care arunci cu informaţii din stânga în dreapta este mai prezentă astăzi în campaniile politice decât potenţialul risc pe care poate să-l aibă deepfake. Sigur, astăzi, deepfake-ul în mentalul colectiv românesc este deja folosit pentru convingerea electorală pentru că noi suntem în campanie. România, în super-anul electoral 2024, nu mai are perioadă de precampanie şi campanie. O să constataţi foarte mult pe TikTok sau pe Instagram, deepfake-ul e folosit ca elemnt de mişto politic. Moştourile există la nivel de deepfake, la nivel de inteligenţă artificială folosită pentru a râde de un politician sau altul. Acest element de mişto are şi va avea un impact în cadrul alegerilor”, a declarat el.

De unde vă informaţi despre politica din România? Răspundeţi la un scurt sondaj

În schimb, Radu Delicote crede că astfel de fişiere modificate cu ajutorul inteligenţei articificiale pot fi folosite şi în afara campaniei electorale.

„Doi la mână, cel puţin astăzi, discutând în sfârşitul lunii ianuarie 2024, nu am văzut un element îngrijorător de deepfake cum am văzut în Slovacia. Asta nu înseamnă că n-o să se întâmple, asta nu înseamnă că nu o să se petreacă şi în context neelectoral, după alegeri”, a mai declarat acesta.

Norme UE privind AI, abia din 2026

Reporter 24 a stat de vorbă cu mai mulţi europarlamentari români cu privire la utilizarea inteligenţei artificiale în scopuri obscure.

Europarlamentarul RENEW Europe Dragoş Tudorache spune că pericolul deepfake este „cât se poate de real”. AI Act, normativul care urmează să fie adoptat de Parlamentul European ar trebui să clarifice lucrurile, însă începând cu anul 2026.

„Pericolul e cât se poate de real, e cât se poate de prezent şi sunt convins că ne va afecta deja următoarele rânduri de alegeri. Nu ştiu dacă aţi fost atenţi la prima reacţie a reprezentanţilor companiilor prezente la Davos , unde s-a cerut un top al ameninţărilor din acest an. N-au de război, n-au vorbit de alegerile din Statele Unite, n-au vorbit de China, pe primul loc a fost inteligenţa artificială şi dezinformarea amplificată de către ea. Şi deepfake-ul e doar o manifestare, o formulă a dezinformării prin AI şi folosin AI-ul pentru a o face şi mai periculoasă, şi mai de impact. Întrebarea ce facem noi? Unul dintre motivele pentru care am negociat acest nou regulament, acest act normativ pentru care am fost responsabil în Parlamentul European, aţi văzut că am terminat în decembrie negocierile, zilele astea se termină şi partea tehnică, şi undeva în februarie-martie să putem vota. Ne rezolvă asta problemele de anul acesta din alegeri 2024? Nu! Pentru că actul normativ va intra în vigoare abia în 2026. Dar, aici ne mai uităm şi la regulamentul privind serviciile digitale, unde există deja o responsabilitate pentru conţinut la nivelul platformelor şi o obligaţie pe care o au de a mitiga riscurile structurale care ţin de dezinformare sau de promovarea unui conţinut ilegal”, a declarat Tudorache.

Materialele făcute cu AI, marcate

Europarlamentarul spune că după ce AI Act va fi în vigoare, platformele vor fi obligate să marcheze producţiile făcute cu ajutorul inteligenţei artificiale.

„Comisia deja a început să intre pe spre X, fostul Twitter, peste Meta și deja din discuțiile pe care le-am avut cu Terry Breton, deja sunt în lucru pe toate platformele mari partea asta de responsabilizare și văzut cum își asumă fiecare măsuri de a corecta derapajele de pe platformele lor. Dar efectul pe fake news, de exemplu, va fi să spun complet în momentul în care AI Act va fi în vigoare.

Partea pozitivă, să spun, este că din discuțiile pe care le-am avut în toată perioada asta, cât au avut loc negocierile, m-am văzut cu absolut toate companiile de pe planetă care au de face cu AI, și foarte mulți din cei care gestionează conținut video, în special conținut video sau foto, dezvoltă deja soluții tehnice în avans de intrarea în vigoare a actului normativ, prin care să eticheteze conținutul care este produs de un algoritm în așa fel încât în momentul în care eu deschid un video și îl văd pe Tudorache care spune că vrea să dea foc la o sinagogă, ar trebui să văd undeva într-un colț un watermark care să spună că ăsta este un video produs de un algoritm și atunci pot să judec eu ca privitor, dacă ăla chiar e cine spune că este sau de fapt e rezultatul unui AI.

Bineînțeles că vor exista și actori care vor încerca să meargă împrejurul regulilor, ca totdeauna, dar măcar va fi o obligație. Vor fi niște măsuri tehnice pe care inclusiv platformele au interes să le dezvolte și să le utilizeze pentru că și ei vor să își crească credibilitatea față de public pentru că din asta trăiesc”, a mai spus Dragoş Tudorache.

Legislaţia UE, transpusă în cea naţională

De cealaltă parte, europarlamentarul S&D Victor Negrescu spune că autorităţile române vor fi nevoite să transpună în plan naţional legislaţia europeană, astfel încât autorităţile competente din ţară să poată contracara astfel de practici.

De unde vă informaţi despre politica din România? Răspundeţi la un scurt sondaj

„Uniunea Europeană a definit recent o serie de regulamente prin care a pregătit momentul alegerilor pentru Parlamentul European. Acele regulamente fac referire la maniera de organizare a alegerilor, dar și la combaterea informațiilor false, dar și a mecanismelor de manipulare care folosesc inteligența artificială. În prezent există mai multe grupuri de lucru la nivel european, există o coordonare între instituțiile competente. Autoritatea Electorală Permanentă, ANCOM și alte instituții abilitate la nivel național fac parte din acele structuri europene care ar urma să monitorizeze ce se întâmplă și până în momentul alegerilor. Există, de asemenea, un mecanism european pentru a solicita platformelor ca acel tip de conținut să fie dat jos imediat, un mecanism direct gestionat de Bruxelles și de către Comisia Europeană. Comisarul Ver Jurova gestionează acest mecanism și l-a explicat recent la București. Totodată, există două directive europene care explică cum trebuie să fie gestionată relația cu rețelele sociale.

Acestea sunt în curs de transpunere. Există și o componentă de regulament care s-a pus în aplicare deja și noi trebuie să găsim soluțiile pentru a le implementa la nivel național și știu că există în momentul de față un efort pentru a ne asigura că aceste lucruri vor fi funcționale și că pe de o parte respectăm democrația și libertatea de exprimare și de cealaltă parte luptăm împotriva celor care caută să inducă informații false sau să manipuleze electoratul”, a declarat Negrescu.

Articol susţinut prin intermediul proiectului SCIENCE+, derulat de Free Press For Eastern Europe, prin care se urmăreşte facilitarea creării unei rețele unice pentru a împărtăși cele mai bune practici jurnalism în domeniul sănătății și jurnalismului științific, în șase țări din Europa Centrală și de Est: Cehia, Polonia, Ungaria, Slovacia, Bulgaria și România.

Vezi si alte articole...