- 25 august 2022
- Podcast cuMINTE
- 17 minute de citit
- 1773 Vizualizări
Podcast: Play in new window | Download (Duration: 29:37 — 40.7MB)
Spațiul online este accesat zilnic de milioane de utilizatori. Aceștia devin, în mod indirect, părtași ai violenței online, hărțuirii sexuale, a discursului de ură sau al celui discriminatoriu. Potrivit unei cercetări realizate de Parlamentul European, 20% dintre tinere au fost victime ale hărțuirii sexuale online în 2018, în statele membre ale Uniunii Europene, iar trei la sută din discursul de ură prezent pe rețelele sociale este adresat femeilor.
Bineînțeles, proprietarii rețelelor sociale și ai altor platforme din online nu sunt responsabili și nici nu pot fi trași la răspundere pentru actul inițial de violență, hărțuire sau propagare a urii. Totuși, companiile setează reguli pe care utilizatorii trebuie să le respecte.
Prieteni, astăzi, la Podcast cuMINTE, discutăm despre discursul de ură și hărțuirea online, efectele lor, precum și politicile de combatere a acestor fenomene de către giganții IT. Interlocutorul meu este Dumitru Sliusarenco, care ocupă funcția de specialist principal în politici la Google. Mai exact, Dumitru este specializat în hărțuire online și discursul de ură în departamentul de politici Youtube, care face parte din compania Google. În acest moment, Dumitru se află în San Francisco, ceea ce înseamnă că discutăm cu el prin intermediul rețelelor sociale. Dumitru, bună!
După aproape 10 ani în care ai activat în sectorul non-profit din Republica Moldova, ai ales sectorul privat, la Google, și, mai exact, în Statele Unite ale Americii. Cum s-a întâmplat acest lucru?
Dumitru Sliusarenco: Am făcut zece ani de avocatură în Moldova, pe domeniul drepturilor omului. Am lucrat pentru Promo-Lex, care este o organizație mare axată pe drepturile omului în Moldova. Acolo, am făcut în mare parte litigare strategică pe domeniul discriminare și alte domenii conexe. În ultimii trei ani m-am specializat pe discursul de ură, un fenomen nu nou, dar în creștere în special cu apariția rețelelor sociale. Mi s-a părut atunci ceva de perspectivă. Făceam un proiect mai special de monitorizare pe discurs de ură, cu date exacte, cu statistici. Cât am lucrat la acest proiect am realizat că asta merge mână în mână cu tehnologiile avansate, cu tot felul de algoritmi, cu inteligența artificială, care este utilizată pentru a analiza conținutul online. Pur și simplu, volumul este imens. Toate aceste tehnologii ajută să identificăm exprimările de ură. Am lucrat pe dosare extrem de sensibile, interesante. A apărut posibilitatea de a pleca în SUA, să fac un master. Am ajuns acolo chiar în perioada marcată de Covid și planurile mele de mi lua un job în domeniul respectiv s-au evaporat. Am folosit acest timp ca să mă pregătesc pentru aplicările la universități. Procesul este destul de complicat. Trebuie mult timp și efort. Am fost acceptat la majoritatea universităților la care îmi doream. Am ales Universitatea Berkeley din California. Am făcut un an de masterat, am învățat tot ce m-a interesat pe domeniul reglementării platformelor online. Trebuia să aplic la un job. Am fost la interviuri și Google m-a acceptat.
Ai anunțat recent că vei conduce eforturile YouTube de dezvoltare a politicilor globale în ceea ce privește discursul de ură și hărțuirea online. De când ți-ai început munca? Ce faci mai exact în cadrul Google?
În echipa ta există oameni care se ocupă de politici și alții care se ocupă de partea tehnică?
Aceasta este structura verticală. Există verticala care se ocupă de la politici, în jos, până la implementare, executare, analiză, statistică și engineering – oamenii care creează tot felul de algoritmi. Asta se numește verticală și rolul meu de aia se numește Policy Lead, adică lider, eu conduc eforturile de a avea un proces sistematizat de creare a unei politici. Ca ea să fie aranjată și coordonată cu toate echipele.
Tu, în prezent, elaborezi politici sau te conduci de politici create până acum?
Ambele. Pe interior, Youtube are multe politici. Domeniul discursului de ură este împărțit în subpolitici și ele toate trebuiesc ajustate. Uneori, trebuiesc create politici noi, pentru că e vorba de un fenomen în dezvoltare. Oamenii caută să mintă sistemul. Dacă există algoritmul care șterge cuvântul urât, atunci oamenii o să folosească diferite simboluri în locul unei litere ca să treacă de algoritmi și să păstreze comentariul sau videoul. Respectiv, politicile tot timpul trebuiesc ajustate, modificate. Un alt exemplu e când apar domenii noi, de exemplu așa un domeniu precum intersecționalitatea. Atunci când mai multe grupuri de oameni se manifestă diferit în video. Și este complicat să aplicăm câte o politică separat. Atunci se dezvoltă politici noi. Noi facem ambele lucruri, le ajustăm și pe cele vechi.
Cât de gravă ți se pare situația privind prezența discursului de ură și a hărțuirii în mediul online la general și pe rețelele sociale în particular?
Pentru mine, ura online este un fel de Covid – invizibil, dar care ne afectează extrem de mult. La această concluzie am ajuns încă în Moldova, când monitorizam discursul de ură. Nu putem măsura cât de tare ne afectează ura, nu putem măsura ceea ce citim online sau cât de tare ne afectează sănătatea mintală. Dar fenomenul nu poate fi neglijat. Dacă ar exista un algoritm care l-ar putea măsura, sunt sigur că am vedea că efectul este devastator. Din moment ce lumea migrează în comunicare pe domeniul online, este evident că există tot mai multe interacțiuni și tot mai multe emoții negative exprimate, chemări la violență, discurs de ură, discriminare. Youtube- a înregistrat aproape 3 miliarde de utilizatori, ceea ce este extrem de mult. Oficial, conform statisticilor, cred că în jur de 1-2% din conținutul de pe Youtube este discurs de ură, ceea ce e mult. Din calculele mele, în fiecare oră se încarcă circa 500 de ore de conținut cu ură. Nu este o statistică, sunt niște calcule proprii. Deci, pe zi, se încarcă extrem de mult conținut pe Youtube. Ura ne afectează, mai ales generațiile tinere care folosesc tot mai mult online-ul. Nu doar psihologic, dar modul în care ne dezvoltăm, educăm, vedem lumea, interacționăm cu lumea. Aici, în Statele Unite, problema discursului de ură este privită ca o problemă și este tratată serios. În Europa la fel. Am văzut că în Germania s-a deschis un centru pentru victimele urii cibernetice. Este un fenomen grav.
Care sunt cele mai grave consecințe asupra oamenilor, efectele de lungă și scurtă durată, pe online și chiar offline?
Cred că unul din efectele cele mai vizibile este că sunt afectate comunitățile vulnerabile, afectate de stereotipuri și prejudecăți. Este vorba de femei care sunt abuzate, persoane cu dizabilități sau cele de culoare. Aceste pături sociale se confruntă primele cu acest val de agresivitate. Atunci când acest conflict apare în viața reală, această încărcătură de emoții negative din online răbufnește foarte ușor. Acest lucru poți să îl vezi în SUA prin school shootings – împușcăturile în școli – un fenomen tragic și foarte răspândit, când copiii împușcă alți copii în școli sau locuri publice. Un alt efect este că oamenii pur și simplu cresc o doză de intoleranță și cu cât mai multă ură există, cu atât mai mult se dezvoltă și tot mai mult impact are. Ura are un impact mult mai rapid decât o știre pozitivă sau discutarea unui fenomen pozitiv. Este mult mai ușor să internalizezi ura decât să internalizezi ceva constructiv. Atunci, asta devine automat, extrem de repede împrăștiat printre oameni. Un alt efect la care mă gândesc este că discursul de ură descurajează dezbaterea constructivă. Unul dintre scopurile de bază pe care ni le punem este să avem în spațiul public discuții constructive. Fie că este vorba de politică, tratament pentru o boală etc., vrei să ai o dezbatere constructivă, ca oamenii să-și folosească capacitățile intelectuale și să ajungă la adevăr. Când apare elementul de ură, acest fapt reduce dialogul constructiv, totul se reduce la ură.
Ce mai exact fac companiile care dețin rețele sociale ca să combată aceste fenomene? Tu lucrezi pentru YouTube. Ce eforturi întreprindeți?
Cât de ușor este să monitorizezi discursul de ură în online, care este un spațiu imens? Ce tehnologii folosiți pentru asta?
Există metode și tehnologii interne despre care nu pot să vorbesc. Multe dintre ele sunt la diferite etape de dezvoltare. Noi folosim versiuni Beta a diferitor tehnologii. Vreau să fac o clarificare. Majoritatea moderării online pe Youtube se face manual. Algoritmii, la moment, funcționează mult mai bine pe Facebook, unde este prezent formatul text. Textul este mult mai ușor de moderat decât un video. Pentru video sunt necesari algoritmi extrem de avansați, iar pentru fiecare clasificator (cuvânt) trebuie un algoritm separat. Este extrem de mult de lucru, este complicat să înveți un algoritm. Este ca un copil: îi dai câteva cuvinte – învață; apoi alte două cuvinte și așa milioane de versiuni și combinații. Asta necesită extrem de mult timp și investiții. Discursul de ură este un domeniu extrem de contextual. Totul depinde de context. Poți să spui un cuvânt cu o intonație, cu sens bun, să lauzi. Și poți spune același cuvânt cu altă intonație, dar cu sens negativ. Respectiv, deocamdată, doar oamenii pot face asta. De aceea există mii de oameni, în toate colțurile lumii, și noi avem huburi pe diferite continente care lucrează toată ziua doar la asta – vizionează videouri și decid dacă sunt potrivite sau nu. De obicei, algoritmii intermediari identifică ceva problematic, după care aceste persoane verifică manual. Youtube se bazează pe flagging, adică semnalarea de utilizatori însuși. Acesta este un instrument foarte folosit de Youtube. Există alte tehnici de lucru, există parteneriate cu societatea civilă, care raportează seturi – cazuri care sunt asemănătoare și sunt raportate la pachet.
Să zicem că ați depistat un caz de discurs de ură sau hărțuire. Ce faceți? Eliminați conținutul pur și simplu? Sau e o procedură mai complicată? În cât timp un astfel de conținut poate fi eliminat?
Procedura internă nu pot să o explic. Dar, în linii generale, asta funcționează ca și atunci când depui o plângere. Cineva examinează cazul în primă instanță, se dă o decizie. Tu poți face apel. Și la acel apel se emite o altă decizie. Dreptul de apel este tot timpul asigurat. Ideea este că pe intern, de multe ori, cazurile sunt complicate și ajung în așa-numita grey area – zona gri, în care politica fie este neclară, fie încă nu acoperă domeniul nou care s-a dezvoltat. În așa cazuri este necesară implicarea mai multor specialiști. Dacă cazul este extrem de complicat, atunci o să ajungă la noi – echipa de politici. Noi suntem ultima treaptă de emitere a unui verdict.
Au giganții IT pârghii speciale prin care pot să monitorizeze ceea ce publică presa? Care, de altfel, este în Moldova una dintre sursele principale de răspândire a discursului de ură, potrivit celor mai recente rapoarte.
Dumitru, ce sfaturi le-ai da ascultătorilor noștri cu privire la comportamentul în mediul online?
Pe online, ca și pe offline, trebuie să te comporți cu oamenii exact așa cum ai vrea ca ei să se comporte cu tine. Existența unei sticle în față nu scoate umanitatea din noi. Omul cu care discuți tot poate avea lacrimi, problemele sale, durerile sale. Trebuie să te gândești că exact cum te afectează pe tine multe chestii sensibile, așa și pe el poate să îl afecteze. Fiecare discurs de ură, fiecare exprimare care incită la violență sau la discriminare este o pietricică mică pusă într-o clădire mare a urii, care într-o zi se sparge și cineva este împușcat, apare un război, un stat se duce în colaps. Asta pentru că liderii lui sunt conduși de ură, de propagandă, de tot ce este mai urât. Să fim pur și simplu oameni.
Dumitru, îți mulțumesc pentru conversație și pentru sfatul care încheie această discuție.
Dragă ascultător sau ascultătoare, te încurajez și eu să ții cont de îndemnul interlocutorului meu! Totodată, raportează mesajele de ură sau hărțuirea online la care ajungi să fii martor. Și nu uita: filtrează cuMINTEa trează! Urmărește-ne pe Google Podcast, Apple Podcast, Spotify și Youtube.
Podcastul cuMINTE este realizat de Centrul pentru Jurnalism Independent cu sprijinul organizației Black Sea Trust, un proiect al Fondului German Marshall al Statelor Unite. Opiniile exprimate în acest material nu le reprezintă neapărat pe cele ale Black Sea Trust sau ale partenerilor săi.