КиберпанкДетали

«ВКонтакте» запустил эксперимент по борьбе с оскорблениями в комментариях

Он проходит в День народного единства и продлится сутки. 

По результатам эксперимента будет принято решение, использовать ли новые функции в будущем.

Социальная сеть «ВКонтакте» запустила эксперимент, цель которого — блокировать оскорбления в комментариях. Об этом говорится в блоге социальной сети. 

  • Эксперимент «ВКонтакте» проходит в День народного единства. 
  • На протяжении суток в сети тестируются две новых функции: администраторы сообществ могут включить специальный фильтр враждебных высказываний в настройках группы, а комментаторы увидят предложение отказаться от обидных реплик.
  • Алгоритмы работают на основе нейросети, которая способна распознать оскорбления. 
  • После 4 ноября планируется запустить долгосрочное тестирование, но оно будет рассчитано лишь на отдельную фокус-группу.
  • По результатам эксперимента будет принято решение об окончательном внедрении новых алгоритмов. 

Принцип работы

  • Социальная сеть с помощью новых алгоритмов будет скрывать комментарии, которые содержат угрозы смерти или обещания причинить вред здоровью.
  • Администраторы сообществ могут видеть автоматически скрытые враждебные комментарии и, если это необходимо, отправлять пользователей в черный список группы. 
  • Фильтр оскорблений, как и другие функции в социальной сети, можно будет в любой момент выключить или включить. 
  • Также алгоритмы будут предлагать пользователям отказаться от оскорблений. Если нейросеть обнаружит враждебные комментарии, в которых автора поста будут оскорблять по национальному признаку, на почве религиозной принадлежности, возраста, пола и других характеристик, комментатор получит сообщение: «Напишите что-нибудь доброе. Пусть удивятся!». 

Опыт прошлого года

  • Аналогичный эксперимент социальная сеть «ВКонтакте» проводила год назад — 4 ноября 2019 года. 
  • На протяжении суток, если пользователь пытался опубликовать оскорбительное сообщение в комментариях, социальная сеть предлагала не тратить на это время, отказавшись от агрессии.
  • На комментарии, как и раньше, можно пожаловаться службе модерации. 
  • Руководство «ВКонтакте» отметило, что главная цель эксперимента — оградить молодое поколение от издевательств, с которыми, по мнению руководства соцсети, они и так довольно часто сталкиваются, а также минимизировать травлю по национальному признаку. 
  • «ВКонтакте» сообщило, что благодаря рекомендациям количество оскорблений в комментариях за сутки уменьшилось на 36%. 

Цензура «ВКонтакте»

  • В августе 2020 года «ВКонтакте» обновила правила поведения в социальной сети, добавив в раздел «Нормы платформы» информацию о мерах, которые сервис предпринимает для борьбы с травлей и языком вражды своих пользователей.
  • Чтобы пресечь распространение языка вражды в социальной сети, можно нажать на кнопку «Пожаловаться» и выбрать из предлагаемых категорий жалоб «Враждебные высказывания».
  • После этого пост изучат модераторы. Жалобы на «враждебные высказывания» помогут собрать данные для обучения нейросети, чтобы она могла «определять самые разные категории оскорблений и угроз». 
  • Под «враждебными высказываниями» имеется в виду контент, направленный на преследование или унижение конкретного человека или группы людей. Также в сети нельзя распространять угрозы применения насилия.

Защита от оскорблений в Facebook

  • В социальной сети Facebook могут удалить комментарии или заблокировать аккаунт, если сеть (с помощью алгоритмов или модератора) обнаружит наличие враждебного высказывания. Это прописано в правилах поведения социальной сети. 
  • Враждебным высказыванием могут оказаться нападки на людей, мотивированные их расовой или этнической принадлежностью, национальностью, вероисповеданием, сексуальной ориентацией, кастой, полом или гендерной идентичностью, а также наличием серьезного заболевания или инвалидностью.
Копировать ссылкуСкопировано