СМИ узнали об автоматической блокировке экстремистских видео в Facebook
Несколько крупных сайтов, предназначенных для просмотра видеороликов, внедрили автоматическую систему блокировки экстремистского контента. Об этом Reuters рассказали два информированных источника.
Среди таких сайтов — видеохостинг YouTube и социальная сеть Facebook. Такой шаг позволяет блокировать ролики «Исламского государства» (террористическая организация, запрещена в России) или другие аналогичные материалы.
Технология, как уточняет агентство, изначально была разработана для выявления и удаления контента, который охраняется на сайтах авторским правом. Она помогает искать хеш-код файла — уникальный цифровой отпечаток, которым интернет-компании автоматически отмечают видеоролики. Это позволяет быстро удалять все материалы с определенным хешем.
Технология позволит отслеживать попытки сделать репост видео, содержание которого уже признано экстремистским, однако не будет автоматически блокировать видео, которые не были замечены раньше.
Компании не подтвердили агентству, что они используют такой метод распознавания запрещенных материалов. Однако многие люди, знакомые с технологией, заявили, что видео уже может быть проверено по базе данных запрещенного контента для выявления появлений новых роликов.
Источники Reuters рассказали, каким образом видео в базе данных изначально было охарактеризовано как экстремистское. Компании, по мнению агентства, не обсуждают этот вопрос публично, поскольку опасаются, что террористы могут научиться манипулировать их системой.
По словам одного собеседника агентства, Facebook разослал опрос среди других компаний, запрашивая их мнение о различных вариантах сотрудничества в отрасли по данному вопросу. В пресс-службе компании отказались комментировать этот вопрос. В Twitter агентству заявили, что компания все еще оценивает предложение проекта противодействия экстремизму и «еще не определила свою позицию».