Deepfake-ul vs inteligența artificială: ultima frontieră tehnologică în materie de știri false

0

Realitatea virtuală și fenomenul deepfake

Realitatea virtuală este o expresie ce provine din limba engleză – virtual reality (VR), care definește ambianțe artificiale create cu ajutorul computerului sau altor dispozitive electronice, astfel încât realitatea simulată induce la nivel de percepții starea de prezență fizică reală și apartenența la un mediu multidimensional nou. În prezent, realitatea virtuală poate fi atribuită oricărui domeniu. Printre cele direct implicate în procesul de promovare a inovațiilor reprezentative inteligenței artificiale, dar și un aliat în dezvoltarea sistemelor VR sunt mijloacele de informare în masă, atât cele tradiționale, transpuse în spațiul virtual, cât și formele native ale acestuia.

Realitatea virtuală nu este doar 3D-ul, 5D-ul din cinematograf,  muzica 8D creată cu ajutorul Audio Converter sau realitatea augumentată, utilizând hologramele. Aceasta este un mediu artificial care are drept scop simularea a tot ceea ce nu este real, prin combinarea tuturor elementelor enumerate (care fac referire la văz, auz, simț) și obținerea diferitor efecte (cognitive, afective, comportamentale), dar și garantarea  unui anumit tip de impact.

Tehnologizarea informațională a cunoscut în ultimele decenii o dezvoltare fără precedent.  Interactivitatea, creativitatea, dar și libertatea de a fi prezent oriunde și oricând au oferit posibilități nelimitate anumitor utilizatori sau comunități virtuale. Ca și orice proces evolutiv rapid, ea aduce în prim-plan atât fenomene pozitive, cât și negative. În procesul creării de conținut informațional, înlăturarea barierelor spațio-temporale și a celor de îngrădire a libertății de exprimare reprezintă aspecte pozitive. Totuși, goana mijloacelor de informare în masă după audiență, tirajarea online în masă pe paginile oficiale de pe rețelele sociale și aprecierea anumitor știri a dus la apariția fenomenului fake news (știri false) – fenomen bazat pe un concept vechi, dar care a fost transformat cu ajutorul inteligenței artificiale într-un set de instrumente ce nu dau greș atunci când scopul celui care stă în spatele unui mesaj este influențarea unui individ, grup sau chiar a maselor.

Rapiditatea răspândirii știrilor false este garantată de caracterul informației și actorii implicați, iar întâietatea în acest sens o dețin domeniul politic și liderii politici, devansând chiar și știrile despre atacurile teroriste sau catastrofele naturale. Cercetări recente, făcute de specialiști media de peste Ocean, au demonstrat că până în 2022 am putea vedea mai multe știri false decât informații reale. Acest lucru ar putea provoca un fenomen pe care cercetătorii l-au numit vertijul realității  (reality vertigo), în care computerele ar putea genera un conținut fals dar atât de convingător încât majoritatea oamenilor nu ar mai putea distinge realitatea de fals.

Această trecere de la fake news la reality vertigo (RV) este marcată de un alt nivel de trucare a conținutului informațional în format video și audio, deepfake-ul, care preocupă tot mai mult experții în securitatea informațională.

Deepfake-ul este considerat mai periculos și cu un impact mult mai puternic, din moment ce înglobează toate elementele unui produs media integrat (text + fotografie + video + audio). Combinația dintre inteligența artificială (deep learning) și fals (fake) are la bază un concept numit Generative Adversarial Network (rețea generativă adversarială) ce poate fi folosit pentru a reproduce imagini video și sunet superficial, autentice pentru ochiul uman.

Dan Demeter, cercetător român în domeniul securității cibernetice, susține că deepfake-urile sunt, de obicei, video-uri cu persoane reale care spun și fac lucruri pe care nu le-au făcut în realitate. Aceste filmulețe încearcă să pară cât mai originale pentru a păcăli și a influența audiența în funcție de intențiile entității care a creat și a pus în circuit deepfake-ul”.

La nivel internațional, discuțiile despre deepfake au început din 2016, însă la sfârșitul anului 2017 acestea capătă amploare, după ce un utilizator cu nickname-ul Deepfakes a creat și a plasat în spațiul virtual video-uri în care fețele unor simpli utilizatori erau înlocuite cu cele ale unor actori celebri și/sau ale unor actori transformați instant în colegii lor.

Deepfake-uri virale

Trucajele prin montaj, în majoritatea cazurilor, sunt destul de reușite și convingătoare. Cei care s-au gândit la acestea au lansat și o serie de aplicații de prelucrare a imaginilor la care poate avea acces oricine.

Până în prezent, cele mai multe reacții au venit din partea reprezentanților industriei cinematografice. Un exemplu în acest context este și transformarea actriței Amy Adams în actorul Nicolas Cage.

Unele dintre aceste transformări au stârnit amuzament, altele însă – reacții dure, care au dat curs și unor procese de judecată, în cazul în care actrițe și actori celebri și-au găsit imaginea trucată în filmele pentru adulți.

Ținta celor care crează astfel de video-uri sunt și liderii politici mondiali. În acest sens, virale au devenit filmulețele în care apare Barack Obama ținând anumite discursuri și Angela Merkel în proces de transformare în Donald Trump.

Deepfake-urile pot fi create și în timp real, tehnologia din spatele acestora fiind îmbunătățită constant, astfel fiind foarte dificil pentru utilizatorii obișnuiți să-și dea seama că un video este fals,dacă nu dispun de un software specializat sau de anumite cunoștințe în domeniu.

Un alt deepfake viral și care a fost intens discutat în presa internațională se referă la așa zisele declarații” ale fondatorului Facebook, Mark Zuckerberg, precum că un singur om ar putea deține controlul datelor cu caracter personal ale unui număr nelimitat de utilizatori, acest lucru fiind în detrimentul său și al rețelei sociale pe care o administrează, după toate scandalurile în care a fost implicat în ultimii ani cu Agenția Cambridge Analytica, cu privire la furtul de date cu caracter personal și implicarea în alegerile din Statele Unite ale Americii.

Cel mai recent deepfake, care a devenit viral în doar câteva zile, a fost cel a lui Elon Musk, în perioada în care a lansat racheta Falcon Heavy, considerată cea mai puternică din lume. Miliardarul apare în ipostaza unui artist interpretând o piesă veche în limba rusă, Земля в иллюминаторе (Pământul prin hublou). Acesta a acumulat milioane de vizualizări într-o perioadă de timp foarte scurtă și a devenit viral pe rețelele sociale.

Deși specialiștii în domeniul securității cibernetice sunt preocupați de această problemă, iar instituțiile media internaționale prezintă aceste trucaje ca fiind periculoase, internauții de cele mai multe ori le distribuie, fie din lipsă totală de cunoștințe și/sau pentru a se amuza. Cea mai alarmantă în schema creării și distribuirii deepfake-urilor este însă vulnerabilitatea bazelor de date de unde pot fi colectate date cu caracter personal.

Recent, o aplicație numită ZAO, creată în China, a început să provoace temeri de fraudă și securitate. Aceasta folosește inteligența artificială pentru a însera fețele utilizatorilor în anumite scene de film celebre. Reacțiile în acest caz au fost împărțite: în timp ce unii experți susțin că platforma ar putea fi folosită pentru sistemul de plăți realizate cu ajutorul sistemelor de recunoaștere facială, reprezentanții marilor companii au încercat să nege această posibilitate.

Investiții și măsuri de prevenire în combaterea deepfake-urilor

Giganții din social media sunt deja pregătiți să lupte cu acest fenomen. Facebook a anunțat încă în vara anului trecut că a încheiat un parteneriat cu Microsoft și cu o serie de specialiști în domeniu pentru a putea detecta rapid deepfake-urile. Facebook a și alocat zece milione de dolari în acest sens. În această luptă, specialiștii în IT și cercetătorii în domeniul inteligenței artificiale trebuie să producă deepfake-uri cât mai realiste pentru a putea stabili un set de date prin intermediul cărora se pot crea instrumente de detectare.

Măsurile întreprinse de Google în acest sens se referă la lansarea a câteva sute de mii de video-uri deepfake pentru a-i ajuta pe cercetători să construiască unelte care, folosind inteligența artificială, pot detecta aceste deepfake-uri ce pot duce la dezinformarea în masă și la sabotaj între companii sau cyberbullying (agresiune online). Softurile la care se lucrează se bazează pe identificarea diverselor erori la nivel de pixeli, variații ale culorii pielii din înregistrări sau chiar pe variații și vibrații în timpul vorbirii.

La nivel internațional, din perspectivă legislativă, reprezentanții oficiali ai statului California din SUA au luat primele măsuri în lupta contra deepfake-urilor. Astfel, pe 7 octombrie 2019, guvernatorul Gavin Newsom a semnat două legi ce reprezintă arme importante în combaterea deepfake-urilor. Legile adoptate vin și în ajutorul instituțiilor media, care mereu, în goană după nou și audiență, sunt supuse pericolului de a prelua declarații trucate, care nu au fost făcute de fapt, sau imagini care nu au mai existat în realitate.

În prezent, soluțiile cele mai viabile în lupta împotriva deepfake-urilor sunt crearea unor algoritmi funcționali și adoptarea unor legi eficiente.

Mariana TACU, doctor în științe politice,

conferențiar universitar, FJȘC, USM

_________________________________

Realizarea acestui articol a fost posibilă datorită suportului generos din partea poporului american și poporului britanic prin intermediul Agenției Statelor Unite pentru Dezvoltare Internațională (USAID) și UK Aid. Conținutul acestui material ține de responsabilitatea autorilor și nu reflectă în mod necesar viziunea UK Aid, USAID sau a Guvernului Statelor Unite.

 

Lasa un raspuns