Роскомнадзор запустит систему автоматического поиска порно и экстремистских материалов в интернете. Эксперты опасаются, что она может замедлить работу соцсетей

Что произошло

Подведомственный Роскомнадзору Главный радиочастотный центр (ГРЧЦ) планирует запустить систему поиска изображений и видео в интернете, которые могут являться противоправным контентом. Соответствующий тендер на сайте госзакупок нашел «Коммерсант».

• Название системы — «Окулус», ее задача — выявлять экстремистские материалы и порнографию, пропаганду наркотиков, призывы к массовым беспорядкам и самоубийствам.
• «Окулус» будет работать на основе искусственного интеллекта, по мнению представителей ведомства, это поможет эффективнее выявлять запрещенные публикации. 
• Сейчас противоречащие закону картинки и видео ищут вручную, система позволит ускорить этот процесс. Ранее глава Роскомнадзора Андрей Липов прогнозировал, что объем информации, которую ведомство сможет проанализировать на предмет нарушений, увеличится благодаря ИИ в 14 раз.
• Запустить технологию намерены в 2022 году, завершить подготовительные работы планируют до 17 декабря 2021 года.

Но при этом

Эксперты опасаются, что при запуске системы может возникнуть ряд проблем.

• С 2019 года товарный знак Oculus закреплен за Facebook, под ним компания развивает VR-систему. В марте 2021 года Роспатент одобрил заявку компании на товарный знак «Окулус».
• Теоретически Facebook может запретить компьютерные программы и информационные сервисы под этим названием, если ГРЧЦ будет использовать его при оказании коммерческих услуг, говорит зампред комитета по интеллектуальной собственности РСПП Анатолий Семенов. 
• Однако он уточнил, что центр не относится к организациям, осуществляющим коммерческую деятельность. 
• По оценкам другого эксперта, совладельца ИТ-компании «Ланит-Терком» Владимира Уфнаровского, разработка системы «Окулус» может стоить десятки и даже сотни миллионов рублей, ее внедрение может обойтись в миллиарды, а обслуживание — в десятки миллионов в год. 
• Исполнительный директор компании Artezio, которая специализируется на разработке ПО, Павел Адылин также высказал свои опасения: система может существенно замедлить доступ в интернет, если будет фильтровать огромную массу видео и изображений. Пользователям придется ждать, пока искусственный интеллект проанализирует контент.

Контекст

Сейчас за размещение в Сети незаконных материалов предусмотрена административная и уголовная ответственность. 

• Согласно УК РФ, возбуждение ненависти или вражды, унижение достоинства человека по признакам пола и расы наказывается штрафом до 500 тыс. рублей либо лишением свободы от 2 до 5 лет. 
• За изготовление, приобретение, хранение детской порнографии предусмотрено лишение свободы от 3 до 10 лет.
• В ГРЧЦ считают, что фото и видео особенно сильно влияют на сознание человека, при этом количество контента, в том числе противозаконного, в соцсетях растет вместе с числом пользователей. 
• «По информации TikTok, количество ежемесячных пользователей сервиса выросло с 2018 года на 800%, в Facebook посты с изображениями привлекают пользователей в 2,3 раза чаще, чем сообщения без них, именно в таком контенте появляется все больше запрещенной законами РФ информации», — объяснили в ведомстве.

Тенденция

С 1 февраля в России вступили в силу поправки к закону «Об информации, информационных технологиях и о защите информации», которые обязали соцсети удалять сообщения с нецензурной лексикой. Кроме того, запрещено публиковать данные о гостайне, экстремистские материалы, порнографию, насилие, информацию об изготовлении наркотиков и продаже алкоголя, а также призывы к участию в массовых беспорядках. За исполнением закона предписано следить Роскомнадзору.

• В феврале 2021 года РКН запустил мобильное приложение для подачи жалоб на запрещенную информацию в интернете. С его помощью можно сообщить о противоправном контенте, отследить этапы рассмотрения жалобы и проверить, ограничило ли ведомство доступ к контенту.
• В июле этого года Роскомнадзор занялся доработкой системы мониторинга телерадиовещания, благодаря которой станет возможным превращать аудио в текст. Это позволит автоматизировать поиск нарушений на ТВ и в радиоэфире и избавит специалистов от необходимости просматривать и прослушивать передачи. 
• В сентябре 2021 года ГРЧЦ опубликовал тендер на создание автоматической системы поиска запрещенной информации в СМИ, соцсетях и мессенджерах. Ее задача — выявлять копии заблокированных сайтов и анализировать мнения авторов публикаций.
• Кроме того, в том же месяце РКН заблокировал шесть VPN-сервисов. Как объяснили в ведомстве, их использование облегчает доступ пользователей к запрещенному контенту. В перспективе возможно ограничение доступа еще к четырем сервисам VPN.