Искусственный интеллект начнет модерировать комментарии в Facebook
Facebook начнет тестировать новую систему для снижения токсичности в комментариях сообществ. Об этом сообщается в блоге социальной сети.
Система, которая называется «Оповещение о конфликтах», будет использовать искусственный интеллект для анализа комментариев, которые пользователи оставляют в сообществах Facebook.
В случае обнаружения споров или потенциально конфликтных ситуаций в комментариях система будет их маркировать и отправлять администратору сообщества уведомление. Кроме того, сообщения с нецензурной лексикой или неприемлемыми высказываниями будут помечаться плашкой moderation alert. Информация о таких комментариях также будет уходить модераторам группы.
Самим администраторам сообществ дадут новые инструменты, которые, по словам разработчиков, позволят снизить уровень токсичности или свести конфликт на нет. В частности, теперь можно будет ограничить частоту комментариев от конкретного пользователя, а также частоту комментирования определенных постов.
Вместе с новой системой анализа комментариев администраторам групп в Facebook дадут инструменты по «формированию и повышению культуры сообществ». Теперь им будет доступна статистика по участникам групп, в которой будут отображаться количество их публикаций и комментариев, число удаленных сообщений, статистика блокировок.
В 2020 и 2021 годах Facebook вводил цензуру на посты и комментарии, связанные с политикой и с пандемией коронавирусной инфекции. В частности, социальная сеть запретила выкладывать контент с выступлениями экс-президента Дональда Трампа.
Большинство сообщений в социальной сети, касающихся COVID-19, помечались рекомендательными плашками ознакомиться с официальной позицией по пандемии. Часть постов, особенно те, где критиковались существующие меры борьбы с распространением коронавируса, блокировались. Однако в конце мая Facebook сообщил, что больше не будет удалять сообщения об искусственном происхождении COVID-19. В компании объяснили, что изменили правила в свете расследований о причинах коронавируса и после консультаций с экспертами в сфере здравоохранения.