Game over: разработчиков видеоигр обвинили в слишком медленной модерации контента. Этим пользуются экстремисты и террористы

Что происходит

На фоне недостаточно оперативной реакции крупных компаний-разработчиков игр на сообщения о проявлении экстремизма в их онлайн-продуктах власти многих стран мира работают над ужесточением регулирования отрасли и привлечением внимания игроков индустрии к этой проблеме. В России обсуждают создание реестра запрещенных видеоигр — по аналогии с перечнем экстремистских материалов. Об ужесточении контроля за видеоиграми задумались и в США, пишет Axios. 

• Популярность онлайн-игр приносит разработчикам не только прибыль, но и «головную боль» из-за сложности контроля за модерацией ненавистнических высказываний: автоматические фильтры в чатах, родительский контроль и работа модераторов не позволяют полностью искоренить их. 
• Ряд разработчиков сообщили о намерении использовать искусственный интеллект для быстрого обнаружения и удаления такого контента на своих площадках. 

История вопроса

В декабре 2022 года члены Демократической партии изучили отчет Антидиффамационной лиги, согласно которому с 2021 года резко выросло число пользователей видеоигр, проявляющих ненависть и высказывающих идеи превосходства белой расы.

• По данным исследования, 16% юных геймеров сталкивались с такого рода комментариями в онлайн-играх. В реальной жизни с подобными высказываниями сталкивались 14% респондентов, а в соцсетях — 26%.
• Представители демпартии, в том числе из Сената, запросили у ведущих игровых компаний, в том числе зарубежных, имеющих представительства в США, информацию о мерах по борьбе с экстремистским и ненавистническим контентом. 
• Запросы отправили в Activision Blizzard, Electronic Arts, Epic, Innersloth, Microsoft, PUBG Corp, Riot Games, Roblox, Sony, Square, Take-Two Interactive, Tencent, Ubisoft и Valve.

Ранее, в сентябре 2022 года, Центр терроризма, экстремизма и контртерроризма при институте Миддлбери в США опубликовал отчет о результатах двухлетнего расследования случаев вербовки террористов и преступников в онлайн-играх. В Министерстве нацбезопасности США пришли к выводу, что вербовка террористов наиболее распространена в онлайн-играх от небольших студий, у которых нет больших бюджетов для обеспечения качественной модерации. После этого власти страны выделили $700 млн на изучение проблемы вербовки молодежи через игры. 

Детали

9 из 14 компаний, отвечая на запрос властей США, не уточнили, как именно они оценивают, ищут и удаляют экстремистский контент. Некоторыми подробностями поделились в Epic Games, EA, Activision, Microsoft, Krafton, Sony, Innersloth и Tencent. 

• К примеру, в Epic Games заявили, что за модерацию контента от пользователей отвечают около 1,5 тыс. сотрудников компании. 
• А в Sony отметили, что предоставили игрокам возможность фиксировать недавние взаимодействия и включат их в жалобы. 
• Лишь в Roblox уточнили, что у компании есть специальная команда, занимающаяся вопросами проявления терроризма и экстремизма.

Я разочарована тем, что большинство компаний не ответили на некоторые из наших вопросов, в том числе не предоставили нам информацию о политике в отношении экстремизма, а также отчеты о прозрачности по этим темам.

Лори Трахан
член Палаты представителей США

Контекст 

Во многих странах мира действуют законы, призванные защищать несовершеннолетних от вредного и опасного онлайн-контента, в том числе в видеоиграх. К примеру, в Италии родители детей или несовершеннолетние старше 14 лет могут потребовать от платформ, размещающих контент, удалить вредоносные материалы в течение 48 часов. В КНР игры признали «духовным опиумом» и ограничили время, когда дети могут посвящать им свободное время. В России игры помечают маркировкой в соответствии с федеральным законом №436-ФЗ «О защите детей от информации, причиняющей вред их здоровью и развитию». Однако этих мер недостаточно.

• В ООН в 2019 году отметили, что в целях радикализации молодежи экстремисты все чаще используют компьютерные игры. 

Радикальные группы, в том числе неонацистские, по-прежнему активно действуют во Всемирной паутине. Они все чаще используют игры, привлекая таким образом в свои ряды подростков — вплоть до 13-летних. 

Тендайи Ачиуме
специальный докладчик по вопросу о современных формах расизма, расовой дискриминации, ксенофобии и связанной с ними нетерпимости

• В ФСБ России в 2021 году рассказали, что террористы начали клонировать популярные игры и вербовать потенциальных сторонников, воздействуя на их сознание. Директор ФСБ Александр Бортников призвал совершенствовать законодательство для защиты детей от насилия в интернете и видеоиграх.
• По данным ООН, вербовкой сторонников среди пользователей видеоигр занимается в том числе «Исламское государство». 

«Орудуют» в Сети не только террористы: вербовку подростков через онлайн-игры освоили также мексиканские наркокартели. А согласно исследованию Lloyds Bank, почти 20% геймеров, играющих в Roblox, Fortnite и FIFA, либо становились жертвами аферистов, либо были свидетелями того, как аферисты пытались обмануть кого-то из пользователей.