Роскомнадзор запустил систему автоматического поиска запрещенного контента «Окулус». Она уже начала искать нарушения законодательства в фото- и видеоматериалах в Сети. Тестирование системы было проведено в декабре прошлого года, а уже в январе текущего началась ее интеграция с инструментами, которые использует Роскомнадзор для мониторинга> пишет «Российская газета».
Как пояснили «РГ» в ГРЧЦ, «Окулус» автоматически обнаруживает такие правонарушения, как экстремистская тематика, призывы к массовым незаконным мероприятиям, суициду, пронаркотический контент, пропаганда ЛГБТ. Ранее проверять такой контент приходилось вручную. «Тогда операторы ежедневно анализировали около 106 изображений и 101 видео. «Окулус» же позволит обрабатывать свыше 200 тысяч фотографий в сутки. При этом на один файл ему будет хватать трех секунд», — пояснил представитель ведомства.
«С начала СВО наблюдаются невиданные ранее объемы и скорость распространения фейков, которые направлены на подмену реальных фактов специально сконструированной «реальностью»», — сообщили в ГРЧЦ.
Так, на основании требований Генпрокуратуры РФ в 2022 году было удалено и заблокировано 102627 интернет-ресурсов, которые содержат недостоверную информацию (в том числе о ходе СВО ВС РФ на территории Украины). Для сравнения: в 2021 году таких ресурсов было 7203, в 2020 году — 1525, в 2019 году — 311.
«Наиболее применяемым инструментом в руках антироссийских источников стал визуальный контент, который способен оказать большее впечатление на эмоции пользователей. Динамика выявленного количества нарушений демонстрирует лавинообразный рост вбросов по всем видам запрещенной информации. Все это показывает важность детального анализа информационных атак в графическом контенте и возможностей противодействия им. Создание системы — это наш ответ на провокации и антироссийские действия со стороны иностранных ресурсов», — отметил представитель ГРЧЦ.
Стоимость разработки системы составила 57,7 млн рублей. Разработкой занималась ООО «Эксикьюшн Эр Ди Си» (Execution RDS). Ранее структура занималась разработкой решений на базе немецкой SAP.
«Окулус» работает совместно с единым модулем анализа (ЕМА), объединяющим несколько систем, отслеживающих разные типы контента в Сети. Обрабатывает «Окулус» только те данные, которые отбирает ЕМА. Самостоятельно искать данные «Окулус» не сможет. Отбирает материалы ЕМА в том числе в расшифровке QR-кодов, переписке в чатах и каналах мессенджеров, в надписях, URL-адресах, субтитрах и так далее. Текстовые материалы исследуются при помощи других инструментов, входящих в ЕМА.
Для обработки информации «Окулус» используется не менее 48 серверов, оснащенных современными высокопроизводительными графическими ускорителями. Распознавание информация осуществляется с использованием нейронных сетей на основе глубокого машинного обучения, ранее пояснял «РГ» Константин Буланов, директор по цифровым технологиям ГРЧЦ.
До 2025 года прорабатывается возможность добавления новых классов и типов нарушений, а также функции определения поз людей и их действий. Система будет выявлять запрещенные материалы на нескольких кадрах на видеофрагментах, в сложных рукописных текстах и рисованном контенте.
Российские разработки в направлении отслеживания опасного контента не являются чем-то уникальным. Аналогичные системы и службы существуют и в других станах мира. Так, США работает с этими проблемами на разных уровнях как внутри страны, так и на международном уровне. В частности, с 1942 года США входит в так называемый альянс «Пять глаз». Создана специальная инфраструктура — центры накопления и обработки информации. Ведутся разработки решений для автоматизации мониторинга сети. В Америке работают специальные подразделения, которые занимаются проблемами национальной кибербезопасности, в том числе исследовательское агентство США — IARPA и US CYBERCOM. В Китае функционируют несколько научно-исследовательских институтов и 12 оперативных бюро. Это министерство общественной безопасности — МОБ, министерство государственной безопасности — МГБ и др. Они отвечают организацию и за проведение радиоэлектронной борьбы, и за контроль информационных каналов, в том числе за обнаружение и перехват сведений, подрывающих инфобезопасность страны. Наиболее известные китайские проекты в этом направлении — «Система социального кредита», проект «Золотой щит».
В Великобритании тоже работает несколько госорганов (самые известные: National Cyber Force — NCF, Центр правительственной связи — GCHQ, Центр национальной компьютерной безопасности — NCSC), в ведении которых находятся все виды все виды киберопераций. Они используют разные мониторинговые и контролирующие системы, например Optic Nerve. Кроме того, в стране был создан государственный медиарегулятор Ofcom, контролирующий деятельность всех без исключения телекоммуникационных компаний.
на превью: Что такое «Окулус» и зачем он нужен Роскомнадзору? / iStock