Разработан алгоритм выявления экстремистов в соцсетях до размещения постов

Чтобы выявить механизм, позволяющий деактивировать экстремистские аккаунты сразу же после их создания, она проанализировали пять тысяч аккаунтов в Twitter. Исследователи собрали всю информацию о пользователях, которая была указана в профилях, а также получили аналогичные данные для их друзей и подписчиков. Из-за этого количество профилей в базе данных возросло до 1,3 миллиона. Также ученые проанализировали 4,8 миллиона твитов, связанных с экстремистскими аккаунтами: часть из них принадлежала самим пользователями, а часть просто упоминала их или содержала соответствующие хэштеги.

Используя статистическое моделирование экстремистского поведения, результаты анализа постов и данные о пользователях, группа Д. Клаузен создала предсказательную модель, которая может определять аккаунты как экстремистские, даже если они не сделали ни одной записи в микроблоге. Это связано с тем, что алгоритм опирается не на описание постов, а на то, как в целом выглядит типичный профиль экстремиста.

«Пользователи, которые занимаются в какой-либо форме онлайн-экстремизмом, будут иметь очень похожие поведенческие характеристики в социальных сетях. Они будут связаны с определенным набором пользователей, которые формируют экстремистскую группировку. Они будут создавать новые идентичные аккаунты после блокировки старых, а затем возвращаться в соцсеть и с высокой долей вероятности восстанавливать связи с теми же лицами», — поясняет Клаузен.