Podcast: Play in new window | Download (Duration: 29:37 — 40.7MB)
Spațiul online este accesat zilnic de milioane de utilizatori. Aceștia devin, în mod indirect, părtași ai violenței online, hărțuirii sexuale, a discursului de ură sau al celui discriminatoriu. Potrivit unei cercetări realizate de Parlamentul European, 20% dintre tinere au fost victime ale hărțuirii sexuale online în 2018, în statele membre ale Uniunii Europene, iar trei la sută din discursul de ură prezent pe rețelele sociale este adresat femeilor.
Bineînțeles, proprietarii rețelelor sociale și ai altor platforme din online nu sunt responsabili și nici nu pot fi trași la răspundere pentru actul inițial de violență, hărțuire sau propagare a urii. Totuși, companiile setează reguli pe care utilizatorii trebuie să le respecte.
Prieteni, astăzi, la Podcast cuMINTE, discutăm despre discursul de ură și hărțuirea online, efectele lor, precum și politicile de combatere a acestor fenomene de către giganții IT. Interlocutorul meu este Dumitru Sliusarenco, care ocupă funcția de specialist principal în politici la Google. Mai exact, Dumitru este specializat în hărțuire online și discursul de ură în departamentul de politici Youtube, care face parte din compania Google. În acest moment, Dumitru se află în San Francisco, ceea ce înseamnă că discutăm cu el prin intermediul rețelelor sociale. Dumitru, bună!
După aproape 10 ani în care ai activat în sectorul non-profit din Republica Moldova, ai ales sectorul privat, la Google, și, mai exact, în Statele Unite ale Americii. Cum s-a întâmplat acest lucru?
Dumitru Sliusarenco: Am făcut zece ani de avocatură în Moldova, pe domeniul drepturilor omului. Am lucrat pentru Promo-Lex, care este o organizație mare axată pe drepturile omului în Moldova. Acolo, am făcut în mare parte litigare strategică pe domeniul discriminare și alte domenii conexe. În ultimii trei ani m-am specializat pe discursul de ură, un fenomen nu nou, dar în creștere în special cu apariția rețelelor sociale. Mi s-a părut atunci ceva de perspectivă. Făceam un proiect mai special de monitorizare pe discurs de ură, cu date exacte, cu statistici. Cât am lucrat la acest proiect am realizat că asta merge mână în mână cu tehnologiile avansate, cu tot felul de algoritmi, cu inteligența artificială, care este utilizată pentru a analiza conținutul online. Pur și simplu, volumul este imens. Toate aceste tehnologii ajută să identificăm exprimările de ură. Am lucrat pe dosare extrem de sensibile, interesante. A apărut posibilitatea de a pleca în SUA, să fac un master. Am ajuns acolo chiar în perioada marcată de Covid și planurile mele de mi lua un job în domeniul respectiv s-au evaporat. Am folosit acest timp ca să mă pregătesc pentru aplicările la universități. Procesul este destul de complicat. Trebuie mult timp și efort. Am fost acceptat la majoritatea universităților la care îmi doream. Am ales Universitatea Berkeley din California. Am făcut un an de masterat, am învățat tot ce m-a interesat pe domeniul reglementării platformelor online. Trebuia să aplic la un job. Am fost la interviuri și Google m-a acceptat.
Ai anunțat recent că vei conduce eforturile YouTube de dezvoltare a politicilor globale în ceea ce privește discursul de ură și hărțuirea online. De când ți-ai început munca? Ce faci mai exact în cadrul Google?
În momentul când accesezi Youtube, postezi ceva sau scrii un comentariu și acesta este șters, alterat, este făcut invizibil – asta înseamnă că acest lucru a fost făcut de cineva din echipa noastră sau care lucrează cu echipa noastră. Noi suntem oamenii care creăm regulile. Ele se numesc politici. Politicile, din moment ce sunt globale, afectează o sumedenie de domenii diferite. Din acest motiv, există o sumedenie de echipe care se specializează de la monetizare, publicitate, tot felul de dezinformări etc., până la extremism, terorism, tot felul de violențe. Iar echipa noastră se ocupă de hărțuire și discursul de ură. Ce înseamnă asta? Mai multe echipe colaborează pentru ca conținutul care apare pe Youtube și este contrar politicilor de ură sau hărțuire să fie eliminat, fie redus în algoritmii de recomandări, ca să nu fie popular. În linii generale, noi ne ocupăm cu asta – să ținem Youtube curat de ură, de dezinformare, atacuri la persoană etc. Este un efort extraordinar din ce am învățat de când sunt aici. Există mii de oameni care lucrează pentru un scop comun în fiecare zi. Este un efort global. Azi discutăm despre Brazilia, mâine putem vorbi despre India și în fiecare colț al lumii ceva se întâmplă. Efortul este unul imens și complex.
În echipa ta există oameni care se ocupă de politici și alții care se ocupă de partea tehnică?
Aceasta este structura verticală. Există verticala care se ocupă de la politici, în jos, până la implementare, executare, analiză, statistică și engineering – oamenii care creează tot felul de algoritmi. Asta se numește verticală și rolul meu de aia se numește Policy Lead, adică lider, eu conduc eforturile de a avea un proces sistematizat de creare a unei politici. Ca ea să fie aranjată și coordonată cu toate echipele.
Tu, în prezent, elaborezi politici sau te conduci de politici create până acum?
Ambele. Pe interior, Youtube are multe politici. Domeniul discursului de ură este împărțit în subpolitici și ele toate trebuiesc ajustate. Uneori, trebuiesc create politici noi, pentru că e vorba de un fenomen în dezvoltare. Oamenii caută să mintă sistemul. Dacă există algoritmul care șterge cuvântul urât, atunci oamenii o să folosească diferite simboluri în locul unei litere ca să treacă de algoritmi și să păstreze comentariul sau videoul. Respectiv, politicile tot timpul trebuiesc ajustate, modificate. Un alt exemplu e când apar domenii noi, de exemplu așa un domeniu precum intersecționalitatea. Atunci când mai multe grupuri de oameni se manifestă diferit în video. Și este complicat să aplicăm câte o politică separat. Atunci se dezvoltă politici noi. Noi facem ambele lucruri, le ajustăm și pe cele vechi.
Cât de gravă ți se pare situația privind prezența discursului de ură și a hărțuirii în mediul online la general și pe rețelele sociale în particular?
Pentru mine, ura online este un fel de Covid – invizibil, dar care ne afectează extrem de mult. La această concluzie am ajuns încă în Moldova, când monitorizam discursul de ură. Nu putem măsura cât de tare ne afectează ura, nu putem măsura ceea ce citim online sau cât de tare ne afectează sănătatea mintală. Dar fenomenul nu poate fi neglijat. Dacă ar exista un algoritm care l-ar putea măsura, sunt sigur că am vedea că efectul este devastator. Din moment ce lumea migrează în comunicare pe domeniul online, este evident că există tot mai multe interacțiuni și tot mai multe emoții negative exprimate, chemări la violență, discurs de ură, discriminare. Youtube- a înregistrat aproape 3 miliarde de utilizatori, ceea ce este extrem de mult. Oficial, conform statisticilor, cred că în jur de 1-2% din conținutul de pe Youtube este discurs de ură, ceea ce e mult. Din calculele mele, în fiecare oră se încarcă circa 500 de ore de conținut cu ură. Nu este o statistică, sunt niște calcule proprii. Deci, pe zi, se încarcă extrem de mult conținut pe Youtube. Ura ne afectează, mai ales generațiile tinere care folosesc tot mai mult online-ul. Nu doar psihologic, dar modul în care ne dezvoltăm, educăm, vedem lumea, interacționăm cu lumea. Aici, în Statele Unite, problema discursului de ură este privită ca o problemă și este tratată serios. În Europa la fel. Am văzut că în Germania s-a deschis un centru pentru victimele urii cibernetice. Este un fenomen grav.
Care sunt cele mai grave consecințe asupra oamenilor, efectele de lungă și scurtă durată, pe online și chiar offline?
Cred că unul din efectele cele mai vizibile este că sunt afectate comunitățile vulnerabile, afectate de stereotipuri și prejudecăți. Este vorba de femei care sunt abuzate, persoane cu dizabilități sau cele de culoare. Aceste pături sociale se confruntă primele cu acest val de agresivitate. Atunci când acest conflict apare în viața reală, această încărcătură de emoții negative din online răbufnește foarte ușor. Acest lucru poți să îl vezi în SUA prin school shootings – împușcăturile în școli – un fenomen tragic și foarte răspândit, când copiii împușcă alți copii în școli sau locuri publice. Un alt efect este că oamenii pur și simplu cresc o doză de intoleranță și cu cât mai multă ură există, cu atât mai mult se dezvoltă și tot mai mult impact are. Ura are un impact mult mai rapid decât o știre pozitivă sau discutarea unui fenomen pozitiv. Este mult mai ușor să internalizezi ura decât să internalizezi ceva constructiv. Atunci, asta devine automat, extrem de repede împrăștiat printre oameni. Un alt efect la care mă gândesc este că discursul de ură descurajează dezbaterea constructivă. Unul dintre scopurile de bază pe care ni le punem este să avem în spațiul public discuții constructive. Fie că este vorba de politică, tratament pentru o boală etc., vrei să ai o dezbatere constructivă, ca oamenii să-și folosească capacitățile intelectuale și să ajungă la adevăr. Când apare elementul de ură, acest fapt reduce dialogul constructiv, totul se reduce la ură.
Ce mai exact fac companiile care dețin rețele sociale ca să combată aceste fenomene? Tu lucrezi pentru YouTube. Ce eforturi întreprindeți?
Se lucrează pe segmente strategice. Se face mult lucru. Cel mai important – crearea regulilor și cum să moderezi comunitatea online cât mai eficient, așa ca, pe de o parte, să înregistrezi participarea oamenilor și să le asiguri libertatea de exprimare, pe de altă parte, să nu admiți toate aceste fenomene negative care se întâmplă pe online. Se depune un efort imens. Se lucrează pe sectorul academic, de cercetare, pe abordări științifice, cu experți pentru a găsi metode eficiente de a reglementa aceste fenomene. Pe de altă parte, se folosesc tehnologiile noi, despre care am aflat câte ceva de când sunt la Berkeley și Google, dar cred că sunt departe de ele și să le înțeleg mi-ar trebui o viață. Există multe tehnologii noi, care pot foarte ușor să clasifice discriminările și discursul de ură. Clasificatorii sunt, în esență, cuvinte-cheie recunoscute ca fiind elemente de ură. De exemplu, când spui unei persoane de culoare cuvântul care începe cu litera N, acesta este un clasificator pe care algoritmii îl pot recunoaște ușor și pot identifica aceste cazuri, automat ele pot fi șterse sau trimise moderatorului spre analiză. Dacă postezi conținut cu elemente de ură, ți se ia dreptul de a monetiza, adică nu mai poți obține bani. Pentru multă lume este vorba de un venit considerabil. Acum se fac mulți bani pe online. La fel, riști ca videourile tale să fie scoase din lista de recomandări, așa ca nimeni să nu le vadă. Sunt sute de modalități de investiție în comunități, ca să fie educate. Cel mai bun răspuns îl primești când oamenii sunt educați, își cunosc drepturile, sunt activi și luptă pentru drepturile lor. Se investește în educație. Google, ca și companie în sine, are un program separat – Empowering Vulnerable Communities (capacitarea comunităților vulnerabile). Se alocă mulți bani pentru a construi școli, pentru a îmbunăți accesul diferitor comunități la educație, la oportunități, joburi etc. Asta face parte dintr-un fenomen global – Literacy, care se axează foarte mult pe dezvoltarea noilor metode de a contracara tot felul de fenomene online.
Cât de ușor este să monitorizezi discursul de ură în online, care este un spațiu imens? Ce tehnologii folosiți pentru asta?
Există metode și tehnologii interne despre care nu pot să vorbesc. Multe dintre ele sunt la diferite etape de dezvoltare. Noi folosim versiuni Beta a diferitor tehnologii. Vreau să fac o clarificare. Majoritatea moderării online pe Youtube se face manual. Algoritmii, la moment, funcționează mult mai bine pe Facebook, unde este prezent formatul text. Textul este mult mai ușor de moderat decât un video. Pentru video sunt necesari algoritmi extrem de avansați, iar pentru fiecare clasificator (cuvânt) trebuie un algoritm separat. Este extrem de mult de lucru, este complicat să înveți un algoritm. Este ca un copil: îi dai câteva cuvinte – învață; apoi alte două cuvinte și așa milioane de versiuni și combinații. Asta necesită extrem de mult timp și investiții. Discursul de ură este un domeniu extrem de contextual. Totul depinde de context. Poți să spui un cuvânt cu o intonație, cu sens bun, să lauzi. Și poți spune același cuvânt cu altă intonație, dar cu sens negativ. Respectiv, deocamdată, doar oamenii pot face asta. De aceea există mii de oameni, în toate colțurile lumii, și noi avem huburi pe diferite continente care lucrează toată ziua doar la asta – vizionează videouri și decid dacă sunt potrivite sau nu. De obicei, algoritmii intermediari identifică ceva problematic, după care aceste persoane verifică manual. Youtube se bazează pe flagging, adică semnalarea de utilizatori însuși. Acesta este un instrument foarte folosit de Youtube. Există alte tehnici de lucru, există parteneriate cu societatea civilă, care raportează seturi – cazuri care sunt asemănătoare și sunt raportate la pachet.
Să zicem că ați depistat un caz de discurs de ură sau hărțuire. Ce faceți? Eliminați conținutul pur și simplu? Sau e o procedură mai complicată? În cât timp un astfel de conținut poate fi eliminat?
Procedura internă nu pot să o explic. Dar, în linii generale, asta funcționează ca și atunci când depui o plângere. Cineva examinează cazul în primă instanță, se dă o decizie. Tu poți face apel. Și la acel apel se emite o altă decizie. Dreptul de apel este tot timpul asigurat. Ideea este că pe intern, de multe ori, cazurile sunt complicate și ajung în așa-numita grey area – zona gri, în care politica fie este neclară, fie încă nu acoperă domeniul nou care s-a dezvoltat. În așa cazuri este necesară implicarea mai multor specialiști. Dacă cazul este extrem de complicat, atunci o să ajungă la noi – echipa de politici. Noi suntem ultima treaptă de emitere a unui verdict.
Au giganții IT pârghii speciale prin care pot să monitorizeze ceea ce publică presa? Care, de altfel, este în Moldova una dintre sursele principale de răspândire a discursului de ură, potrivit celor mai recente rapoarte.
Este unul dintre cele mai sensibile subiecte, mai ales în contextul războiului din Ucraina, când apar multe instituții, dar și tot felul de canale care se autointitulează instituții media. Este extrem de greu ca să determini cât din ceea ce postează ei este conținut informativ și care este nivelul de echilibru. În general, Youtube trebuie să facă tot felul de excepții pentru media, ca să poată acoperi cât mai mult conținut. Youtube permite să acoperi un video în care este discurs de ură. Însă, este necesar ca acolo să existe semnale că acest conținut este informativ, sau documentar, sau are scop educațional. Dar dacă este, pur și simplu, discurs de ură, chiar dacă este publicat de o publicație media – probabil, o să fie șters sau aplicată o altă măsură. Dar atunci când apar tot felul de mass-media care, de fapt, nu sunt media – la asta se lucrează foarte mult, ne gândim cum să le abordăm. Majoritatea deciziilor se iau individual. Se analizează fiecare caz aparte, se verifică tot conținutul publicat de instituție, apoi se ia decizia dacă sunt șterse secvențele video sau profilul, în general, în cazul în care este vorba de propagandă sau incitare la ură.
Dumitru, ce sfaturi le-ai da ascultătorilor noștri cu privire la comportamentul în mediul online?
Pe online, ca și pe offline, trebuie să te comporți cu oamenii exact așa cum ai vrea ca ei să se comporte cu tine. Existența unei sticle în față nu scoate umanitatea din noi. Omul cu care discuți tot poate avea lacrimi, problemele sale, durerile sale. Trebuie să te gândești că exact cum te afectează pe tine multe chestii sensibile, așa și pe el poate să îl afecteze. Fiecare discurs de ură, fiecare exprimare care incită la violență sau la discriminare este o pietricică mică pusă într-o clădire mare a urii, care într-o zi se sparge și cineva este împușcat, apare un război, un stat se duce în colaps. Asta pentru că liderii lui sunt conduși de ură, de propagandă, de tot ce este mai urât. Să fim pur și simplu oameni.
Dumitru, îți mulțumesc pentru conversație și pentru sfatul care încheie această discuție.
Dragă ascultător sau ascultătoare, te încurajez și eu să ții cont de îndemnul interlocutorului meu! Totodată, raportează mesajele de ură sau hărțuirea online la care ajungi să fii martor. Și nu uita: filtrează cuMINTEa trează! Urmărește-ne pe Google Podcast, Apple Podcast, Spotify și Youtube.
Podcastul cuMINTE este realizat de Centrul pentru Jurnalism Independent cu sprijinul organizației Black Sea Trust, un proiect al Fondului German Marshall al Statelor Unite. Opiniile exprimate în acest material nu le reprezintă neapărat pe cele ale Black Sea Trust sau ale partenerilor săi.
