Австралия «закручивает гайки» ИТ-корпорациям. За что Apple и Microsoft может грозить штраф в размере $300 тыс. в день

Что произошло

Австралийский комиссар по электронной безопасности Джули Инман Грант направила запросы компаниям Meta, Apple и Microsoft с требованием предоставить данные о том, как корпорации удаляют на своих платформах контент, связанный с насилием над детьми. Об этом пишет Reuters.

• Согласно закону о безопасности в интернете, вступившему в силу в январе 2022 года, у компаний есть 28 дней, чтобы раскрыть свои стратегии по выявлению и удалению запрещенных материалов.
• В противном случае ИТ-гигантам грозит штраф в размере 555 тыс. австралийских долларов ($383 тыс.), который будет взиматься ежедневно.

Распространение материалов, связанных с насилием над несовершеннолетними, больше не ограничивается укромными уголками даркнета — это явление стало характерно и для других платформ, на которые мы и наши дети заходим каждый день <...> мы опасаемся, что этот чудовищный контент бесконтрольно распространится на таких платформах.

Джули Инман Грант
Комиссар по электронной безопасности

Как отмечает Reuters, за последние несколько лет власти Австралии ужесточили регулирование деятельности крупных технологических компаний. В частности, на сегодняшний день ИТ-гиганты обязаны предоставлять государственным органам данные анонимных пользователей, которые публикуют клеветнические материалы, а также платить местным СМИ за то, что статьи австралийских журналистов появляются на их платформах.

Почему это важно

• В 2021 году в мировой Сети обнаружили 85 млн фотографий и видео с сексуальным насилием над несовершеннолетними. По сравнению с 2020 годом, число подтвержденных случаев сексуальной эксплуатации детей выросло на 64%.
• Британская организация Internet Watch Foundation заявила, что прошлый год «стал худшим» по числу случаев сексуального насилия над несовершеннолетними в интернете за всю историю наблюдений — тогда она выявила более 200 тыс. источников с подобным контентом. Для сравнения: в 2011-м их было только 13 тыс.
• В российском сегменте интернета за 2021 год почти в 2 раза возросло число запросов, связанных с детской порнографией.
• Противоправный контент подтвердился на 17,3 тыс. ресурсов. Эта цифра может существенно вырасти, если учитывать даркнет, отметила член Общественной палаты РФ Екатерина Мизулина.
• Кроме того, участились случаи кибергруминга. Половина пострадавших от этого вида насилия — подростки в возрасте от 12 до 15 лет. Из них 84% — это девочки. Также журналисты обнаружили в приложении TikTok сотни комментариев сексуального характера под видеороликами несовершеннолетних пользователей в возрасте от 9 лет. 

Контекст

ИТ-гиганты утверждают, что уже принимают все необходимые меры для решения проблемы.

• Так, еще в 2013-м компании Google и Microsoft разработали комплекс мер по борьбе с распространением изображений детского насилия. В результате 100 тыс. поисковых запросов в браузерах Bing (браузер принадлежит Microsoft) и Google на темы, связанные с жестоким обращением с несовершеннолетними, перестали выдавать результаты. Система обрабатывает запросы на 150 языках.
• Впоследствии Microsoft разработал PhotoDNA — базу данных, которая преобразовывает обнаруженный подозрительный контент в уникальные цифровые коды, что позволило быстро проверять большие объемы фотографий. По данным корпорации, с помощью сервиса удалось выявить и удалить из Сети миллионы нелегальных изображений. PhotoDNA используют в своих сервисах Meta и Twitter.
• В 2018 году Google создала алгоритм искусственного интеллекта, способный выявлять запрещенный контент. Пока он работает только в США. Алгоритм сканирует все доступные материалы, включая данные пользователей, во время их резервного копирования в облачные сервисы Google. На весь подозрительный контент сервис ставит маркер, который впоследствии должен проверить модератор компании. Если данные признают противоправными, то Google блокирует учетную запись пользователя и проводит проверку на наличие других запрещенных материалов, после чего отправляет отчет в CyberTipline — систему приема сообщений об эксплуатации детей в интернете в США.
• Затем к процессу подключаются сотрудники Национального центра пропавших без вести и эксплуатируемых детей (NCMEC). Если контент признают противоправным, то данные передают в правоохранительные органы. В 2021 году в CyberTipline поступило почти 30 млн отчетов.
• В то же время корпорация Apple заявила, что планирует проверять iPhone на наличие материалов с насилием над детьми. Новое ПО будет сопоставлять фото на смартфоне и в iCloud со специальной базой, в которой хранится около 200 тыс. изображений жестокого обращения с детьми. В случае совпадения специалисты обратятся в полицию. Нововведение коснется только США.

Мировая практика

• В 2018 году в Германии вступил в силу закон «О защите прав пользователей в социальных сетях», согласно которому любая платформа с аудиторией не менее чем 2 млн немецких пользователей обязана удалить или заблокировать противоправный контент в течение 24 часов с момента получения жалобы. Штраф за неисполнение может достигать €50 млн. Кроме того, соцсеть, получившая более 100 жалоб на незаконный контент в течение одного календарного года, должна каждые 6 месяцев публиковать отчет о принятых мерах по ограничению незаконного контента.
• В 2021 году правительство Великобритании представило законопроект «О безопасности в интернете», в котором предусмотрена самостоятельная модерация контента владельцами онлайн-платформ. Согласно документу, компании, которые не будут защищать пользователей от вредоносного контента, оштрафуют на сумму до 10% от годового оборота или £18 млн. В настоящий момент законопроект находится на обсуждении в парламенте.
• В прошлом году в России приняли закон «О деятельности иностранных лиц в информационно-телекоммуникационной сети «Интернет» на территории РФ». Согласно документу, иностранные владельцы онлайн-платформ должны ограничивать доступ к противоправному контенту. В случае неисполнения РКН может применить к нарушителю одну или сразу несколько санкций. Например, запретить компании распространять рекламу или полностью заблокировать ее ресурсы в Рунете.