Тролли и троллинг – от опасностей до решений

Тысячи фейковых аккаунтов и страниц, принадлежащих известной фабрике троллей, поддерживаемой правительством Российской Федерации, были удалены с Facebook за последние годы, в том числе в 2020 году. По данным этого гиганта, фейковые профили распространяли сомнительные новости, в основном на английском языке, которые касались, помимо прочего, бывшего американского президента Дональда Трампа, деятельность НАТО, разных теорий заговора, а также предвыборной кампании Джо Байдена, нового президента США. У этой сети имеются связи с Агентством интернет-исследований, российской кампанией из Санкт-Петербурга, известной во всем мире тем, что она продвигает интересы Кремля при помощи фейковых аккаунтов в социальных сетях. Раскрытая российскими журналистами еще в 2013 году, эта «фабрика троллей», как ее назвали, продолжает наводнять Интернет фейками и пропагандой. В феврале 2019 года, за десять дней до парламентских выборов в Молдове, Facebook объявил, что закрыл около 200 страниц и аккаунтов, происходящих из Молдовы и управляемых троллями.

Кто такие тролли? Насколько устойчиво еще это явление и как с ним бороться? Сегодня в подкасте CuMINTE мы побеседуем с Виктором Спыну, создателем программного расширения Trolless, и социологом Николаем Цыбриган, исследователем Лаборатории анализа информационной войны и стратегических коммуникаций из Бухареста.

Прежде всего, давайте объясним, что такое троллинг и кто такой тролль?

Виктор Спыну: Понятие тролля изначально очень далеко от того, в каком смысле мы используем этот термин сегодня, в этой передаче. Тролль – это мифологический персонаж, и в Интернет это слово попало исходя из идеи, что это человек, который любит пускать пыль в глаза и создавать конфликты в чатах, на форумах, и получает от этого удовольствие. Сегодня мы говорим о троллях как о злонамеренных комментаторах – людях, которые работают вместе, искажая информационное поле, манипулируя и продвигая определенные интересы, чаще всего скрытые. Троллинг – это скоординированные действия людей, которые работают вместе для искажения определенной информации об отдельном политическом или общественном деятеле.

Николае Цыбриган: Хочу добавить, что тролль может нацеливаться как на общественных деятелей, так и на политиков, но может нацелиться и на нас. И мы можем стать жертвами троллинга. Его цель, как уже сказал Виктор, – чтобы вы прокомментировали как можно более эмоционально, чтобы затем у него были аргументы снова беспокоить вас провокационными комментариями, а троллинг по сути представляет собой цепочку подобных действий, то есть публикаций в социальных сетях, в блогах, на форумах. Выглядят они агрессивно-оскорбительно, искажая довольно спорные доводы, часто на неинтересные темы, не имеющие ничего общего с вашей публикацией.

Почему и чем они опасны?

Николае Цыбриган: Давайте вспомним, что произошло во время выборов в США в 2016 году, когда фабрика троллей из Окиново развернула настоящую кампанию против кандидата от демократов, Хиллари Клинтон. Вспомним также знаменитую теорию заговора «Пиццагейт», практически основанную на потоке фейковых новостей о том, что якобы в подвале одной пиццерии плохие люди держали ребенка, и это побудило одного из сторонников Трампа взять оружие, пойти в ту пиццерию и якобы освободить детей. На самом деле там ничего не было. Такие атаки троллей, через распространение фейковых новостей, оказывают влияние и на реальную жизнь. То, что происходит онлайн, может перейти и офлайн. Я всегда говорю: то, что мы находимся в сети, не значит, что мы изолируем себя от реальной жизни, это просто продолжение нашей повседневной жизни. Тролли действуют на психологическом уровне и часто пользуются фейками, и такими фейками, которые очень похожи на правду. Например, история о 30 000 сирийцев, в 2016 году, когда одного из кандидатов обвиняли в том, что он собирается закрыть церкви в случае своей победы, и много других подобных историй, когда тролли практически брали информацию из слухов и приукрашивали ее.

Виктор Спыну: В первую очередь, я думаю, важно, чтобы мы и наши близкие, например, родители, научились немного понимать, кого можно включать в число друзей, если речь идет о социальных сетях. Есть одно золотое правило, которое я применяю и которое я постоянно повторяю: я никогда не принимаю в свой круг друзей тех, кого я не готов пригласить домой на чашку кофе. Создавая круг людей, которых ты знаешь, можно быть уверенным, что ты не натолкнешься на тролля и не примешь в свой круг друзей тех, кто может быть троллем, соответственно, ты минимизируешь контакт с такими персонажами. Мой второй совет – сохранять спокойствие и всегда проверять информацию. Тролли очень часто оперируют экстренными, сенсационными новостями или информацией. Чаще всего эта информация оказывается ложной или частично правдивой, что делает их, троллей, менее значимыми, но как только человек, нашедший такую новость, распространяет ее дальше, он практически делает троллю услугу, потому что, не проверив информацию, он передает ее дальше в своем круге друзей, и такими ситуациями пользуются тролли.

Троллинг как явление возник и развивался параллельно с развитием социальных сетей, так что сегодня каждый из нас, публикуя, распространяя, комментируя сообщения и взаимодействуя с другими людьми в сети, должен проявлять осторожность, потому что в любой момент «из-за угла» может явиться тролль. Как обнаружить его? Например, они стремятся спровоцировать эмоциональные ответы, обращаются к нашим эмоциям. Какие еще уловки используют тролли, когда хотят контролировать нас или манипулировать нами?

Николае Цыбриган: Существует несколько методов манипулирования, которые используют тролли, и чаще всего они импровизируют. Например, для куража они могут публиковать на форумах вредные советы, настойчиво отправлять ссылки на сайты, зараженные вирусами, чтобы причинить вред, или просто беспокоить вас с нескольких фейковых аккаунтов, потому что сейчас Facebook все еще позволяет управлять двумя аккаунтами с одного реального аккаунта. Так случилось с журналисткой Джессикой Арон (Jessica Aron), которая заметила, что постоянные атаки троллей на ее статьи привели к тому, что ее подписчики перестали комментировать, т.е. они практически разогнали ее аудиторию. Ее лояльную аудиторию охватило молчание, а тролли казались сильными и многочисленными, потому что им нужна видимость легитимного большинства, ведь раз нас много, значит мы вроде как правы. Они становятся более агрессивными, когда чувствуют, что их действия и комментарии эффективны, то есть по мере того, как они видят, что добиваются успеха, их становится больше, они становятся более агрессивными и могут атаковать. Они часто раздражаются, когда на них не обращают внимания. А еще есть троллинг-кампании, которые государства применяют для манипулирования общественным мнением, предоставляя дезинформацию и фейковые новости. Это видимые кампании, которые обнаруживает сообщество Facebook.

В Интернете все же полно реальных людей, которые действительно хотят высказаться, в том числе обиженные люди, стремящиеся поделиться своими негативными, но честными, убеждениями. Как отличить злонамеренного комментатора от тролля?

Николае Цыбриган: Прежде всего, нужно понять, что эти два понятия в некотором роде пересекаются, то есть злонамеренный комментатор может превратиться в тролля, и наоборот – тролль может быть комментатором, а этот ярлык, «Ты – тролль, а ты – комментатор», довольно субъективный и очень сложно, а то и практически невозможно, объективно отличить тролля от такого комментатора. На практике, есть некоторые особенности, отличающие злонамеренного комментатора от тролля. Комментатор заинтересован в раздувании своего сообщения, в его распространении в разных группах. Он всегда хочет быть членом сотен групп, и это можно заметить в его профиле. Так что, приглашая кого-либо в группу или принимая его в друзья, посмотрите, в каких группах присутствует его аккаунт. Тролль же, помимо всего этого, комментирует, занимается довольно сомнительными делами в социальных сетях, то есть пишет километровые комментарии, настойчиво и с многочисленными ссылками, чтобы доказать, что он прав и что его аргументы подтверждаются «доказательствами». Тролли, а зачастую и злонамеренные комментаторы, пользуются легко узнаваемыми псевдонимами и аватарами. Можно взять фотографию тролля, загрузить ее на свой рабочий стол и затем в Google Images, чтобы проверить, использовалась ли она другими аккаунтами, в других социальных сетях, или даже в социальной сети, в которой вы находитесь. Здесь я хочу подчеркнуть: последний аспект заключается в том, что комментарии троллей настолько раздражающие, что практически заставляют не прекращать отвечать на них. Здесь должен возникнуть восклицательный знак и сработать максимальное предупреждение, потому что, если продолжить взаимодействие с ним, в итоге можно самому дойти до оскорблений, и он сделает скриншот вашего сообщения и передаст его вашим друзьям.

В начале нашей беседы мы упомянули известную фабрику троллей из России и усилия гиганта Facebook по противодействию этому явлению. Социальная сеть регулярно объявляет о закрытии групп аккаунтов, используемых в разных частях мира. А как обстоят дела с троллингом в этом регионе Европы? Николае, насколько масштабно и актуально это явление в Восточной Европе и, в частности, в Молдове?

Николае Цыбриган: Чтобы определить точное количество троллей, необходим доступ к базам данных всех социальных сетей, действующих в Восточной Европе. Предположим, что можно воспользоваться отчетами Facebook, согласно которым во всем мире имеется 11% дублируемых, фейковых аккаунтов. Речь идет об около 275 миллионах профилей клонированных пользователей. Кроме того, доля фейковых аккаунтов составляет около 5%, то есть более 170 миллионов профилей. Троллинг находится где-то между этими сегментами аккаунтов, то есть 16%. Но это не значит, что все аккаунты активны или что их используют для троллинга, так что доля может быть меньше. В Молдове оценочное число таких фейковых аккаунтов составляет около 4500, то есть менее 1%, и это по причине относительно низкого уровня использования социальных сетей молдаванами – 35%. Однако эта цифра может увеличиться в ближайшие годы. Я замечаю рост и диверсификацию участия молдаван на нескольких аккаунтах.

Виктор, в 2016 году Вы вместе с двумя коллегами запустили приложение Trolles – программное расширение для Google Chrome, которое выявляет сомнительные профили и выявляет так называемых злонамеренных комментаторов. Для чего понадобился такой инструмент?

Виктор Спыну: В 2016 году троллинг и скоординированная неаутентичная деятельность в политических целях только начиналась, потому что в 2016 году имело место самое массовое вовлечение троллей и злонамеренных комментаторов в президентскую кампанию. Тогда мы ощутили присутствие группы, стоящей за этими профилями, и предложили сделать что-нибудь с этим, оптимизировать сообщество, потому что в молдавском сообществе в Facebook многие чувствовали, что что-то происходит, какое-то структурное движение, но невозможно было обнаружить, как оно происходит и где именно. Поэтому мы выдвинули идею обратиться к сообществу за помощью в выявлении этих профилей, ведущих себя очень сомнительно, и заявить о них в ленте новостей каждого в Facebook, чтобы каждый из нас видел, где действуют тролли.

Уточним, что нужно установить расширение, и, открывая какую-либо страницу на Facebook, если рядом с именем и фамилией комментатора стоит восклицательный знак, вы знаете, что это тролль. Перед тем как поставить этот восклицательный знак, вы проверяете в разных сетях или источниках, является ли этот человек реальным.

Виктор Спыну: Да. На самом деле очень сложно определить или понять, является ли человек злонамеренным комментатором или троллем, поэтому мы остановились на аспектах, которые можно относительно легко доказать. Для нас, приоритетом было обнаружить людей или профили, которые крадут личность других людей и выдают себя за них. Часто случалось, что целые семьи или фотографии целых семей из России, Украины копировались, или создавались фейковые аккаунты, где указывалось, что они из Молдовы.

Какими результатами Вы можете похвастаться за пять лет существования Trolles?

Виктор Спину: Наверное, самый большой результат, или самый значительный, был в 2019 году, когда за две недели до парламентских выборов Facebook выступил с заявлением о том, что действительно были профили, которые занимались неаутентичной деятельностью, были страницы и, более того, они работали вместе. Facebook включил в свое заявление короткое предложение о том, что эти профили могли иметь отношение к тогдашнему правительству, что мне в равной степени кажется абсолютно гениальным и ужасным.

Блокировка и приостановление аккаунтов достаточны для противодействия троллингу?

Николае Цыбриган: На мой взгляд, они довольно эффективны, но не достаточны, в том смысле, что их работа просто останавливается – я не видел, чтобы такая сеть могла быстро восстановиться, так что я считаю любое блокирование такой неаутентичной деятельности в Facebook, как ее называют компании, довольно эффективным. Кроме того, в 2019 году было замечено, что после того, как их заблокировали, тролли исчезли, не смогли восстановить свои силы, да и смысла в этом не было, потому что выборы уже прошли.

Виктор Спыну: Мне эти усилия кажутся довольно эффективными, не совсем достаточными, и довольно запоздалыми. Деятельность троллей действительно была нарушена тем, что Facebook вмешался в устранение этих профилей или в разрушение этих сообществ, но это все происходит очень медленно и требует колоссального труда. Думаю, Николае может подтвердить, что требуется приложить значительно усилий, чтобы пожаловаться в Facebook на профиль, созданный всего несколько часов назад, доказать Facebook, что его деятельность очень сомнительна и что в его отношении следует принять меры, и очень часто такое вмешательство оказывается запоздалым, так как фейк уже был выпущен. Люди его уже обсуждают, и когда этот аккаунт деактивируют, уже будет поздно.

Что еще можно предпринять на уровне государств, правительств, ИТ-компаний и т.д.?

Виктор Спыну: У меня более продвинутое видение того, что должно произойти, чтобы полностью уничтожить это явление. Я бы сказал, что нужно немного усилить давление на социальные сети, и не только на Facebook, но и на Twitter, а теперь и TikTok. Они должны ощущать это давление со стороны сообщества, со стороны правительства, потому что и правительство бывает разным, и именно тогда, когда имеется общественное давление, сети смогут что-нибудь предпринять. Потому что мы, сторонние организации, не можем показать, как именно работает социальная сеть. Крупные компании, владеющие социальными сетями, начинают предпринимать действия в этом отношении только тогда, когда ощущают давление или несут убытки. Поясню: может быть 100 человек, которые борются с троллями в какой-нибудь стране, но у них никогда не будет контроля или возможности окончательно побороть это явление. Это можно сделать только с базой данных, которую смотреть относительно легко, в которой показаны связи между отдельными профилями, чем занимаются отдельные профили, не вмешиваясь при этом в их личную информацию, и относительно легко деактивировать их потому, что эти профили делают что-то вредное для общества.

Что может сделать каждый из нас, чтобы защититься от троллей и троллинга? Какие еще инструменты вы рекомендуете?

Николае Цыбриган: Ну, инструменты не сложные, они доступны любому из нас. На личном уровне мы можем, прежде всего, опознать тролля или группу настойчивых троллей, вторгшихся на нашу стену – их опознать легко, потому что они много комментируют, вне контекста, проявляют признаки агрессии в аргументации и в речи, а некоторые даже допускают ошибки в выражениях или грамматические ошибки.

Виктор Спыну: Я согласен с Николае. Я свел бы все к трем основным действиям, которые мы можем предпринять, чтобы чувствовать себя в большей безопасности в Интернете. Во-первых, нужно тренировать свой ум, критическое мышление, чтобы относительно легко узнавать фейковые аккаунты или новости – это легко сделать с помощью поиска в Google. Во-вторых, нужно изолировать эти профили, как сказал и Николае – пожаловаться на них, позаботиться о том, чтобы другие участники беседы знали, что это тролли. В-третьих, нужно просвещать людей. Если с нами все в порядке, нужно задуматься о том, что делают наши дети в Интернете, и особенно наши родители, потому что на них, наверное, наиболее сильно влияет этот огромный объем информации.

Виктор, Николае, благодарю вас за полезную информацию, которой вы поделились сегодня с нами. А вы, уважаемые слушатели подкаста cuMINTE, запомните: если вы включились в виртуальное обсуждение какой-нибудь деликатной темы, и ваш собеседник настаивает на своей точке зрения до крайности, преувеличивает, выражается категорично, пытается разозлить вас или вызвать у вас другие отрицательные эмоции, короче, ведет себя сомнительно – берегитесь! Это может быть тролль. Теперь вы знаете, что делать.

Слушайте подкаст cuMINTE и не позволяйте манипулировать собой. Фильтруйте рассудительно! Подпишитесь на нас в Google PodcastsApple Podcasts и SoundCloud.

——————————————

Подкаст cuMINTE создан Центром независимой журналистики при поддержке Посольства Финляндии в Бухаресте, в рамках проекта «Инновационные инструменты медиаобразования для информированных граждан».