Главный радиочастотный центр, подчиняющийся Роскомнадзору, начал тестирование системы «Вепрь». Её основная задача – раннее обнаружение и борьба с фактами «информационной напряжённости». В ГРЧЦ объясняют, что под такими точками понимают сведения, подающиеся под видом правдивых фактов, которые при этом несут угрозу гражданам и общественной безопасности.
Тестирование продлится как минимум до июня 2023 года. Система будет работать в Сети и охватывать площадки с высокой посещаемостью (от 1 млн человек). При выявлении фейков будут учитываться разные факторы, в частности уровень влияния проверяемой площадки на подписчиков, способность опубликованного фейка снизить уровень ИБ.
«Вепрь» выявит угрозы безопасности
Разработка новой системы стартовала в прошлом году. В качестве разработчика была выбрана компания из Санкт-Петербурга «Необит», почти 16 лет работающая на ФНС, ФСБ, Министерство обороны и прочие государственные организации и ведомства. Среди других разработок «Необита» – ОС «Фебос», система криптографической защиты «Флэшкриптор», система «Инфоскальпель».
На разработку «Вепря» выделяли 60 млн руб., но компания-разработчик уложилась в 30 млн руб. В основе системы – математические поисковые модели, методы машинного обучения, которые анализируют контент ресурсов с большим количеством посетителей, выявляют фейки и оценивают их влияние на информационную безопасность.
Система-краулер будет анализировать различные типы контента – изображения, символы, текст. Она умеет мониторить содержимое видео и фотографий, распознаёт действия и сценарии-триггеры.
«Окулус» ищет запрещенный контент
Предполагается, что «Вепрь» будет действовать совместно с другой интеллектуальной системой – «Окулус». Её запустили в середине февраля 2023 года. Основная задача этой разработки – отслеживать незаконный контент в интернете: нарушения законодательства в видео и картинках.
Система может распознавать символы, изображения, анализировать содержимое видеоматериалов и фотографий. Она выявляет призывы к суициду, экстремизму, контент, посвящённый наркотическим веществам, и прочие запрещённые действия.
Разработка работает по схожему принципу – проверяет различные типы площадок, например паблики, страницы на сайтах, профили в социальных сетях, но данные не собирает и не хранит, а только классифицирует и анализирует.
Раньше такую работу сотрудники Главного радиочастотного центра выполняли вручную, но больше в среднем 100 изображений и видео за сутки один оператор обработать не мог физически. «Окулус» же тратит на проверку одного изображения не больше 3 секунд, что значительно повышает скорость мониторинга.
Система ещё дорабатывается. Предполагается, что до 2025 года в неё добавят новые виды и классы нарушений, научат ее распознавать «запрещёнку» по фрагментам видео, в написанных от руки текстах и нарисованных вручную картинках.
Кстати, и «Вепрь», и «Окулус» будут работать, в том числе, и с анонимными сообщениями. Определить автора того или иного контента непросто даже для компьютерных алгоритмов, но задача вполне выполнимая – для этого система будет использовать «уникальную когнитивную карту» человека. Подобный принцип используется в чат-ботах на основе ИИ.
При проверке медиаматериалов, кроме прочего, системы будут оценивать его «окраску» и определять, позитивная, нейтральная или негативная она. Но это не значит, что весь негативный контент будет удаляться.
Читайте также: Как будет работать ChatGPT в поисковой системе Bing
