Реальные события приводят к увеличению количества разжигания ненависти в Интернете, показало исследование

Верхняя строка

Реальные события, такие как выборы и протесты, могут привести к вспышкам ненависти в Интернете как на основных, так и на второстепенных платформах. исследование опубликовано в среду в журнале PLOS ONE, где количество постов с ненавистью растет, несмотря на то, что многие платформы социальных сетей пытаются бороться с этим.

Ключевые факты

Используя анализ машинного обучения — способ анализа данных, который автоматизирует построение моделей — исследователи изучили семь видов языка ненависти в Интернете в 59 миллионах сообщений пользователей 1,150 онлайн-сообществ ненависти, онлайн-форумов, на которых наиболее вероятно использование языка ненависти, в том числе на таких сайтах, как Facebook, Instagram, 4Chan и Telegram.

Общее количество сообщений, включая разжигание ненависти, в скользящем среднем за семь дней имело тенденцию к увеличению в ходе исследования, которое проводилось с июня 2019 года по декабрь 2020 года, увеличившись на 67% с 60,000 100,000 до XNUMX XNUMX сообщений в день.

Иногда ненавистнические высказывания пользователей социальных сетей распространялись на группы, не участвовавшие в реальных событиях того времени.

Среди случаев, отмеченных исследователями, был рост религиозной ненависти и антисемитизма после убийства США иранского генерала Касема Сулеймани в начале 2020 года, а также рост религиозной и гендерной ненависти после выборов в США в ноябре 2020 года, во время которых Камала Харрис была избрана первой женщиной-вице-президентом.

По словам исследователей, несмотря на усилия отдельных платформ по удалению разжигания ненависти, разжигание ненависти в Интернете продолжало сохраняться.

Исследователи указали на внимание средств массовой информации как на один из ключевых факторов, способствующих распространению постов, связанных с ненавистью: например, когда Бреонна Тейлор была впервые убита полицией, было мало внимания со стороны средств массовой информации, и поэтому исследователи обнаружили минимальное количество разжигающих ненависть высказываний в Интернете, но когда несколько месяцев спустя был убит Джордж Флойд и внимание средств массовой информации росло, как и разжигание ненависти.

Большое количество

250%. Вот насколько увеличился уровень расовой ненависти после убийства Джорджа Флойда. Это был самый большой всплеск языка ненависти, обнаруженный исследователями за период исследования.

Ключевой фон

Ненавистнические высказывания раздражают социальные сети в течение многих лет: такие платформы, как Facebook и Twitter имеют политику, запрещающую ненавистнические высказывания, и обязались удалять оскорбительный контент, но это не устранило распространение этих сообщений. Ранее в этом месяце почти два десятка назначенных ООН независимых эксперты по правам человека призвали больше ответственности со стороны социальных сетей, чтобы уменьшить количество разжигания ненависти в Интернете. И эксперты по правам человека не одиноки в своем стремлении к тому, чтобы компании, работающие в социальных сетях, делали больше: Опрос USA Today-Саффолкского университета обнаружили, что 52% респондентов заявили, что платформы социальных сетей должны ограничивать ненавистный и неточный контент, а 38% считают, что сайты должны быть открытым форумом.

касательный

Через несколько дней после того, как миллиардер Илон Маск закрыл сделку по покупке Twitter в прошлом году, пообещав смягчить политику модерации сайта, на сайте произошел «всплеск ненависти». по Йоэлю Роту, бывший глава Twitter по безопасности и целостности. В то время Рот написал в Твиттере, что команда безопасности удалила более 1,500 учетных записей за ненавистное поведение за трехдневный период. Маск столкнулся с резкой критикой со стороны правозащитных групп, которые утверждают, что под руководством Маска и с ослаблением правил высказываний объем ненавистнических высказываний в Твиттере резко вырос, хотя Маск настаивал на том, количество просмотров ненавистных твитов уменьшилось.

Дальнейшее чтение

Глава службы безопасности Twitter признает «всплеск ненавистнического поведения», поскольку форма, как сообщается, ограничивает доступ к инструментам модерации (Forbes)

Некоторые оговорки относительно требования последовательности для решений о модерации контента в социальных сетях. (Forbes)

Что должны сделать политики, чтобы стимулировать лучшую модерацию контента платформы? (Forbes)