Ненастоящий я: фейковые аккаунты на страницах украинских СМИ

Facebook становится все более популярным среди украинцев, количество пользователей из Украины в этой социальной сети постоянно растет. По динамике увеличения количества пользователей мы в тройке лидеров в мире.

С ростом популярности растет также и влияние. Почти четверть украинцев (23.5%) отмечают социальные сети как основной источник новостей и политической информации.

Активные пользователи Facebook сообщают, что предпочитают эту сеть как источник информации из-за того, что там она агрегирована. Не нужно ходить по разным сайтам, если в ФБ-ленте есть страницы новостных медиа.

На то, какие посты пользователь увидит первыми в своей ленте, влияет ряд факторов, и один из них – это количество комментариев. Но что если комментарии не от настоящих людей и интерес к теме подогревается искусственно? Тогда пользователь вместо новостей, которые интересны многим людям, с большей вероятностью будет видеть новости, которые продвигаются определенными алгоритмами. 

Мы решили изучить, как боты формируют повестку дня на страницах украинских медиа. Детальное описание данных – в конце статьи.

Боты на страницах медиа

Украинские медиа адаптируются к популярности социальных сетей и массово переходят в Facebook. Для того, чтобы материал заметили, он должен собрать большое количество просмотров и реакций. Но эти реакции могут создаваться искусственно, например, с помощью фейковых аккаунтов. 

Мы исследовали активность ботов на Facebook-страницах украинских медиа, где больше всего подписчиков из Украины. 

Наиболее активными оказались боты на страницах малоизвестных СМИ с небольшим количеством подписчиков (до 200 тысяч). На них более половины всех комментариев оставлены ботами (Рис. 2). В тройке лидеров здесь NewsFacts.com (56% ботских комментариев, 24 832 фолловера), Україна24 (53% комментариев ботов от всех комментариев и 169 659 фолловеров) и Українські новини (52% комментариев публикуют боты, 6 970 фолловеров).

В топ-20 страниц, где количество комментариев ботов превышает 45%, вошли также 2 страницы популярных украинских медиа: РБК-Україна (399 256 фолловеров) и страница одного из любимых медиа президента Страна.UA (78 984 фолловера). На обеих страницах по 44% комментариев от ботов. 

В топ-20 по количеству ненастоящих комментариев вошли также 15 иностранных страниц с большой украинской аудиторией: 

• 5 международных новостных агентств;
• 9 медиа из России (среди которых 6 крупных известных медиа);
• одно СМИ из Израиля.

Количество комментариев ботов на них не превышало 31%. В среднем на таких ресурсах ботские комментарии составляют 18%.

Наибольшее соотношение комментариев ботов ко всем комментариям на страницах СGTN на русском (31%), Chastime (29%) и на подразделениях издания DW на украинском (27%) и русском (25%) языках. Наименьший процент ботов в комментариях Esquire Russia (8%) и журнала «Нож» (5%).

На трети медиа из нашей выборки (115 из 332 страниц) более 30% комментариев составляют комментарии ботов. В них входят 10 страниц СМИ из топ-20 СМИ с наибольшим охватом:

1. РБК-Україна (44% комментариев на странице составляют комментарии ботов)
2. Страна.UA (43%)
3. 112 канал (41%)
4. Сегодня (40%)
5. Гордон (40%)
6. Gazeta.ua (38%)
7. Цензор.НЕТ (35%)
8. Obozrevatel (35%)
9. Факти ICTV (34%)
10. УНИАН (31%)

Боты активно комментируют посты на страницах медиа с большой аудиторией, но больше всего они «накручивают» просмотры на страницах малоизвестных СМИ. Боты могут комментировать публикации для создания иллюзии актуальности и заинтересованности в определенной теме. Цель создания ботов – идеологическая, они пытаются сформировать определенную повестку дня и повлиять таким образом на общественное мнение. 

Поэтому особенно интересно посмотреть, насколько активны боты на страницах медиа, которым доверяют.

Боты на страницах медиа, которым доверяют

Пятерка самых популярных медиа, которые регулярно читают и которым доверяют – это издание Сегодня (39,8% комментариев – от ботов), Obozrevatel (34,7%), УНІАН (30,6%), Українська правда (28,8%) и Politeka (22,7%). 

Мы решили посмотреть, как боты комментируют новости о наиболее известных политиках на страницах этих СМИ. 

Мы проанализировали комментарии на этих страницах, в которых упоминались Владимир Зеленский, Петр Порошенко, Юлия Тимошенко, Владимир Гройсман и Святослав Вакарчук. Мы распределили эти комментарии согласно коннотации (положительная – нейтральная – отрицательная). Затем нашли комментарии от ботов среди каждой группы (рис. 3).

Преимущественно боты на страницах этих медиа «мочат» политиков. Для каждого из исследуемых политиков больше всего ботских комментариев среди критики и негатива (в среднем 18% от всех комментариев, для которых мы определили коннотацию). 

Ботских комментариев с нейтральной коннотацией в среднем более чем в 2,5 раза меньше, чем хейтерских: 6,8% против 18%. А положительных в три раза меньше, чем отрицательных – в среднем 5,7%. 

Больше всего внимания ботов на страницах исследуемых СМИ уделяется действующему и экс-президентам. На страницах исследуемых медиа их преимущественно критикуют. О Владимире Зеленском боты писали почти в полтора раза больше отрицательных и нейтральных комментариев, чем о Петре Порошенко. А вот положительных комментариев от ботов о Зеленском почти в пять раз больше, чем у бывшего президента (21% позитива о Зеленском против 4% позитива о Порошенко).

Об остальных политиках боты на этих страницах почти ничего не пишут. При этом о Вакарчуке пишут только на трех ресурсах (Сегодня, Politeka и УНІАН) и преимущественно негатив – 77% от всех ботских комментариев о нем были с критикой. 

О Юлии Тимошенко боты на этих ресурсах пишут хоть и сравнительно немного (всего 4,4% ботских комментариев касаются Тимошенко), зато преимущественно позитив. Он составляет 58% от всех ботских комментариев о ней на страницах этих ресурсов. Наибольшее количество комментариев от ботов о ней – на странице Украинской правды, и они – положительные (1,7% всех комментариев ботов на этом ресурсе – положительные комментарии о Тимошенко). 

Почти ничего на страницах этих медиа боты не пишут о Владимире Гройсмане.

Боты в комментариях под резонансными новостями

Боты комментируют посты на ФБ-страницах медиа для того, чтобы привлечь внимание, изменить отношение, вызвать эмоциональную реакцию. К каким новостям боты привлекали внимание и какие идеи пытались донести? Как они реагировали на наиболее резонансные сообщения, собравшие наибольшее количество комментариев от реальных пользователей? 

Наиболее обсуждаемыми новостями на страницах медиа за период май-июль 2019 года были общественно-политические сообщения: марш ЛГБТ и возвращение России в ПАСЕ (рис. 4 и 5). 

Интересно, что по доле ботов в комментариях лидируют новости о государственной политике: заявления Гройсмана, митинг Порошенко, спор Тимошенко и Гройсмана на одном из телеканалов (о них мы писали в предыдущей статье). 

Мы сгруппировали комментарии ботов под наиболее резонансными новостями в месседжи. Месседж – это основное сообщение, которое несет в себе определенное количество ботских комментариев. В каждый месседж вошли посты, которые были написаны разными формулировками, но содержали одинаковый смысл. Мы описали только те месседжи, в которые вошло более 50 комментариев ботов.

Наибольший общественный резонанс вызвала новость «В Киеве прошел марш ЛГБТ». Она собрала 21 640 комментариев, из них 15 954 от настоящих людей и 5 686 (26%) от ботов. Здесь мы определили 635 основных месседжей в комментариях ботов. Их немного по сравнению с другими топ-новостями, поскольку они более однообразны и концентрированны. Все они были отрицательными, с разной степенью агрессии. Большинство комментариев были с текстом «Не поддерживаю ЛГБТ» (180 комментариев из 635), 150 комментариев высказывались против колонны ЛГБТ-военных. На третьем месте среди ботских комментариев об этой новости сообщения в стиле «Ориентация – личный выбор каждого, не против ЛГБТ, но марш – это слишком». Таких сообщений 52. 

Были и ботские комментарии, которые утверждали о нетрадиционной ориентации всей власти или отдельных политиков. В частности, они упоминали Олега Ляшко, Владимира Зеленского, Петра Порошенко и Игоря Смешко.

На втором месте по общественному отклику было сообщение «Россия возвращается в ПАСЕ». Под ним комментариев ботов также 26% (2 781 комментарий бота против 8 078 комментариев настоящих людей). Для 37,5% (1 079) комментариев ботов мы определили основное сообщение. В основном они критиковали Европу (312 комментариев из 1 079). Здесь доминировали сообщения типа «Европа – продажная» (200 ботских комментариев), «Делегацию в ПАСЕ надо менять!» (158 сообщений) и «Надо выйти из ПАСЕ и поссориться с Европой» (112 сообщений). 

Под этой новостью было много месседжей с критикой действий действующего (217 комментариев) и бывшего (90 комментариев) президентов. Также были довольно неожиданные комментарии «Тереза ​​Мэй – политический труп» (28) и сообщения ботов-хейтеров Ирины Геращенко (10 комментариев).

Обе новости, получившие самый большой отклик у фейсбук-аудитории, собрали по 26% комментариев от ботов. В обоих случаях эти комментарии были отрицательные, с использованием языка вражды.

Выводы

1. Самая большая доля комментариев от ботов (более половины) – на страницах малоизвестных СМИ с количеством подписчиков на Facebook-странице до 200 тысяч: NewsFacts.com, Україна24, Українські новини.
2. На страницах украинских медиа с наибольшим охватом самая большая доля ботов в комментариях РБК-Україна (44% комментариев – от ботов), Страна.UA (43%) и 112 канала (41%).
3. Среди пяти медиа, которым доверяют украинцы, больше всего комментариев от фейковых аккаунтов на странице Сегодня (39,8%) и Obozrevatel (34,7%).
4. На страницах медиа боты преимущественно распространяют месседжи критики и хейтерства. 
5. На страницах СМИ, которым доверяют, боты преимущественно критикуют политиков. Больше всего – Владимира Зеленского (48,4% негативних ботских комментариев) и Петра Порошенко (32,9%). Совсем не пишут тут о Владимире Гройсмане и почти ничего – о Святославе Вакарчуке. А о Юлии Тимошенко боты на этих страницах пишут преимущественно хорошее.
6. На страницах исследуемых медиа пользователи больше всего обсуждали новость о том, что в Киеве прошел марш ЛГБТ и сообщение о возвращении России в ПАСЕ. Эти же новости активно комментировали боты – абсолютное количество ботских комментариев под ними самое большое. Обе новости боты комментировали отрицательно. Доминирующим типом сообщения от ботов под новостью о марше ЛГБТ было «Не поддерживаю ЛГБТ», а под новостью про ПАСЕ – критика Европы наподобие «Европа – продажная».

Как мы считали

Мы проанализировали наиболее комментируемые ботами Facebook-публикации на страницах самых популярных медиа за период с 1 мая по 8 июля 2019 года. Выборку медиа мы формировали на основе списка самых популярных СМИ Украины, к которому добавили страницы с наибольшим количеством подписчиков из Украины. В целом в эту выборку вошли 332 Facebook-страницы.

Как мы определяли ботов

Использование ботов становится все более привычным для нас: чат-боты сообщают о наличии железнодорожных билетов, помогают платить налоги и следить за новостями. Однако, наряду с «самопровозглашенными» ботами существуют боты, созданные максимально похожими на реальных людей. Их цель – изменить дискурс и повлиять на общественное мнение. Для этого они распространяют ложную и пропагандистскую информацию, пишут эмоционально заряженные посты и комментарии, которые «задевают за живое» (пример см. рис.6).

Для определения ботов Artellence разработал алгоритм машинного обучения, который анализировал публичную информацию из украинского сегмента Facebook в период 9 месяцев, с ноября по июль 2019 года. Учитывались как комментарии, так и информация из профилей. Для анализа брались только пользователи, оставившие более 10 комментариев на политические темы. В результате ботом мы считаем тех пользователей, которых модель отнесла к ботам с долей вероятности 95%.

В исследовании «ботами» мы считаем фейковые аккаунты, единственной активностью которых было регулярное написание комментариев на политические темы. В большинстве случаев это аккаунты, созданные людьми и управляемые также людьми (в таком случае их еще могут называть «троллями»). Они могут писать оригинальные комментарии или копировать уже заранее созданный и согласованный с заказчиком список месседжей. Есть также аккаунты, которыми управляют программы. В таком случае привлечение человека минимально. Но таких аккаунтов в нашем исследовании мало, и, как правило, ботами руководят все-таки люди.

В то же время поведение бота, даже если им управляет человек, очень сильно отличается от поведения реальных пользователей Facebook. Мы выделили восемь характеристик ботов:

1. В среднем скорость написания ботом комментария в 15 раз выше обычной человеческой (средняя разница во времени между двумя соседними комментариями).
2. Более половины ботов имеют «напарников» по комментированию, – аккаунты, которые комментируют вместе с ними один и тот же пост. У реальных аккаунтов людей такое поведение наблюдается только в одном случае из восьми (13%).
3. Боты в четыре раза чаще пишут под политическими постами, чем реальные люди.
4. У ботов в среднем в четыре раза меньше друзей на странице.
5. Только у 4% ботов есть хотя бы один чек-ин (отметка в определенном географическом месте). У людей этот показатель составляет 44%. 
6. Только в половине случаев бот имеет аватарку с лицом, а люди – в 92% случаев.
7. Только у 20% ботов есть комментарии под собственными постами. У людей этот показатель – 80%.
8. Всего лишь у 3% людей нет реакций под аватарками, а среди ботов этот показатель равняется 43%.

Как отбирались новости

Новости Artellence отобрали с помощью метода обработки естественного языка machine learning, – векторного анализа (NLP Word Vectors). Алгоритм анализировал тексты постов и группировал похожие по содержанию в одну новость.

Например, в начале мая была новость о комментарии Владимира Гройсмана относительно средних зарплат в Украине. Она появилась на разных сайтах с разными формулировками, но одним содержанием: «Гройсман заявил, что в ближайшие два года минимальную зарплату в Украине нужно увеличить вдвое», «Когда украинцам ожидать повышения зарплат», «Гройсман говорит, что украинцы в 2021 году будут зарабатывать по 620 долларов» и так далее. Все эти и подобные формулировки алгоритм определял как одну новость.