Роскомнадзор запустил систему поиска порно и пропаганды ЛГБТ по видео
Роскомнадзор (РКН) запустил систему на основе искусственного интеллекта (ИИ) «Окулус», которая способна выявлять запрещенный контент на фото или видео, например экстремизм, пропаганду ЛГБТ или порнографию. Об этом «Ведомостям» сообщил представитель подведомственного РКН Главного радиочастотного центра (ФГУП ГРЧЦ), который выступал заказчиком по проекту. «Информационная система «Окулус» уже запущена и выполняет возложенные на нее задачи в полном объеме: выявляет нарушения законодательства в изображениях и видеоматериалах», — заявил представитель ГРЧЦ. По его словам, в декабре 2022 года система была протестирована, а в январе 2023 года началась интеграция системы с другими инструментами мониторинга Роскомнадзора. Подробностей результатов тестирования, а также первых итогов ее работы он не привел.
«Система распознает изображения и символы, противоправные сцены и действия, анализирует текст в фото- и видеоматериалах. «Окулус» автоматически обнаруживает такие правонарушения, как экстремистская тематика, призывы к массовым незаконным мероприятиям, суициду, пронаркотический контент, пропаганда ЛГБТ и др.», — уточнил газете представитель ГРЧЦ. Он добавил, что до внедрения системы специалисты ГРЧЦ анализировали запрещенный контент «преимущественно вручную» и «обрабатывали» свыше 200 фото и видео в день.
В дальнейшем, до 2025 года, систему планируется усовершенствовать. «Прорабатывается возможность добавления новых классов и типов нарушений, а также функции определения поз людей и их действий», — заключил представитель.
В России к числу запрещенного контента относятся материалы с признаками экстремизма и терроризма, призывами к массовым незаконным мероприятиям, выражениями явного неуважения к обществу, государству и официальным символам России, информация о способах совершения суицида и методах изготовления наркотиков, также туда входят пропаганда нетрадиционных сексуальных отношений и демонстрация употребления табачной продукции.
Тендер на разработку системы «Окулус» был впервые объявлен в сентябре 2021 года — тогда начальная цена составляла 15 млн руб., однако в итоге на нее были выделены 57,7 млн руб. ГРЧЦ рассчитывал, что система сможет анализировать 200 тыс. изображений в сутки, или два кадра или две картинки в секунду. «Коммерсантъ» со ссылкой на данные госзакупок писал, что разработкой занималась компания ООО «Эксикьюшн Эр Ди Си».
Ранее сформировать в России безопасную среду для оборота достоверной информации в интернете призывал секретарь Совета безопасности России Николай Патрушев. По его словам, для России серьезную опасность представляет распространение в интернете идей национализма, сепаратизма и разжигание национальной розни. «Многочисленные сайты и социальные сети активно используются для манипулирования сознанием людей, разрушения базовых российских моральных и культурных норм, религиозных устоев, семейных традиций, склонения подростков к суицидальному поведению, вовлечения их в криминальную субкультуру», — отмечал он. В связи с этим Патрушев призвал уделять больше внимания профилактике распространения экстремистских идеологий в интернете, а также обеспечить активное использование информационных технологий в интересах сохранения культурных, исторических и духовно-нравственных ценностей народов России.