«Абсолютный иммунитет»‎ под угрозой: ИТ-гигантов хотят заставить отвечать за действия своих пользователей. Как противоправный контент приводит к трагедиям

Перспектива

Верховный суд США в ближайшие месяцы рассмотрит ряд исков, которые могут лишить ИТ-гигантов и их соцсетей «абсолютного иммунитета»‎. Речь идет о правиле, освобождающем площадки от ответственности за контент, размещенный пользователями, пишет Bloomberg.

• В соответствии с разделом 230 «Закона о телекоммуникациях», ИТ-компании защищены от юридической ответственности за действия пользователей, за исключением небольшого перечня случаев.
• Иски, которые сейчас находятся на рассмотрении суда, ставят под сомнение объективность этого правила. Один из них направлен против Google. Его подали родственники 23-летней гражданки США Ноэми Гонсалес, погибшей во время беспорядков в Париже в ноябре 2015 года. Компанию обвинили в нарушении Закона о борьбе с терроризмом, так как принадлежащий ей сервис YouTube позволял боевикам размещать свой контент и рекомендовал их видео другим пользователям. При этом экстремисты подключили к роликам рекламу, от которой Google тоже имела прибыль, утверждает истец. По его мнению, подобное «сотрудничество»‎ играет важную роль в росте запрещенных группировок и позволило боевикам осуществить теракты. Два нижестоящих суда, в том числе девятый окружной апелляционный суд США в Сан-Франциско, встали на сторону Google, заявив, что иск должен быть отклонен в соответствии с разделом 230. Однако семья Гонсалес утверждает, что рекомендации входят в зону ответственности Google. 
• Примечательно, что в мае 2020 года Верховный суд отклонил иск, поданный в 2016-м, в котором утверждалось, что Facebook оказывал материальную поддержку группировке «Хамас»‎, продвигая их контент на платформе. Обвинения были предъявлены родственниками американцев, погибших во время терактов в Израиле.

Что говорят

• Раздел 230 уже долгие годы подвергается критике. Консерваторы, включая экс-президента США Дональда Трампа, считают, что он защищает ИТ-компании, которые подвергают цензуре комментарии и аккаунты правых. Либералы же отмечают, что разработчики игнорируют язык ненависти и проявление экстремизма на своих платформах.
• Google, в свою очередь, призвал Верховный суд «к осторожности»‎ и отметил, что «легкомысленное толкование раздела 230 может поставить под угрозу основные организационные решения современного интернета»‎.
• Также ИТ-гиганты оспаривают законы, принятые в 2021 году в некоторых штатах. В Техасе, например, соцсетям запретили банить и цензурировать пользователей, основываясь на их политической позиции. Законы штата Флорида потребовали «тщательного обоснования»‎ для каждого решения о модерации контента, которое принимают разработчики. ИТ-гиганты утверждают, что подобные правила «представляют серьезную угрозу для того, как социальные сети предоставляют свои услуги пользователям»‎, в частности, приводят к распространению запрещенных материалов на онлайн-площадках.

Тенденция

Давление на ИТ-компании усиливают и другие страны.

• В 2018 году в Германии вступил в силу закон «О защите прав пользователей в соцсетях», который обязывает любую платформу с аудиторией не менее 2 млн немецких пользователей удалять или блокировать противоправный контент в течение 24 часов с момента получения жалобы. Штраф за неисполнение может достигать €50 млн. Кроме того, соцсеть, получившая более 100 жалоб на незаконный контент в течение одного календарного года, должна каждые 6 месяцев публиковать отчет о принятых мерах по ограничению распространения противоправных материалов.
• Власти Австралии также ужесточили регулирование деятельности крупных технологических компаний. В частности, ИТ-гигантов обязали предоставлять государственным органам данные анонимных пользователей, которые публикуют клеветнические материалы, а также платить местным СМИ за то, что статьи австралийских журналистов появляются на их платформах. Согласно закону о безопасности в интернете, у компаний есть 28 дней с момента получения запроса от регулятора, чтобы раскрыть свои стратегии по выявлению и удалению запрещенных материалов. В противном случае ИТ-гигантам грозит штраф в размере 555 тыс. австралийских долларов ($383 тыс.), который будет взиматься ежедневно.
• В 2021 году правительство Великобритании представило законопроект «О безопасности в интернете», в котором предусмотрена самостоятельная модерация контента владельцами онлайн-платформ. Согласно документу, компании, которые не будут защищать пользователей от вредоносного контента, оштрафуют на сумму до 10% от годового оборота или £18 млн. В настоящий момент законопроект находится на обсуждении в парламенте.

Контекст

Как отмечают СМИ, у многих ИТ-гигантов есть серьезные проблемы, связанные с модерацией.

• The Verge утверждает, что у Twitter уже давно нет эффективных инструментов для модерации контента. В отличие от других крупных компаний, разработавших собственные решения, сотрудникам этой соцсети приходится практически вручную искать и удалять противоправные материалы в публикациях. Бывали случаи, когда запрещенный контент оставался на платформе более 20 часов, несмотря на жалобы пользователей. Однажды видео с порнографией, которое неоднократно просили удалить фигурировавшие в нем жертвы, успело собрать сотни тысяч просмотров из-за медленной реакции Twitter.
• Национальный центр США по делам пропавших без вести и эксплуатируемых детей сообщил, что в 2021 году получил 22 млн жалоб на противоправный контент в Facebook. Специалисты отмечают, что хотя руководство соцсети регулярно удаляет огромное количество подобного контента, решить проблему все еще не удается. Аналогичные проблемы есть у Instagram.
• Также журналисты обнаружили в приложении TikTok сотни комментариев сексуального характера под видеороликами несовершеннолетних пользователей в возрасте от 9 лет.