«ВКонтакте» запустил эксперимент по борьбе с оскорблениями в комментариях

Социальная сеть «ВКонтакте» запустила эксперимент, цель которого — блокировать оскорбления в комментариях. Об этом говорится в блоге социальной сети.

Эксперимент «ВКонтакте» проходит в День народного единства.
На протяжении суток в сети тестируются две новых функции: администраторы сообществ могут включить специальный фильтр враждебных высказываний в настройках группы, а комментаторы увидят предложение отказаться от обидных реплик.
Алгоритмы работают на основе нейросети, которая способна распознать оскорбления.
После 4 ноября планируется запустить долгосрочное тестирование, но оно будет рассчитано лишь на отдельную фокус-группу.
По результатам эксперимента будет принято решение об окончательном внедрении новых алгоритмов.

Принцип работы

Социальная сеть с помощью новых алгоритмов будет скрывать комментарии, которые содержат угрозы смерти или обещания причинить вред здоровью.
Администраторы сообществ могут видеть автоматически скрытые враждебные комментарии и, если это необходимо, отправлять пользователей в черный список группы.
Фильтр оскорблений, как и другие функции в социальной сети, можно будет в любой момент выключить или включить.
Также алгоритмы будут предлагать пользователям отказаться от оскорблений. Если нейросеть обнаружит враждебные комментарии, в которых автора поста будут оскорблять по национальному признаку, на почве религиозной принадлежности, возраста, пола и других характеристик, комментатор получит сообщение: «Напишите что-нибудь доброе. Пусть удивятся!».

Аналогичный эксперимент социальная сеть «ВКонтакте» проводила год назад — 4 ноября 2019 года.
На протяжении суток, если пользователь пытался опубликовать оскорбительное сообщение в комментариях, социальная сеть предлагала не тратить на это время, отказавшись от агрессии.
На комментарии, как и раньше, можно пожаловаться службе модерации.
Руководство «ВКонтакте» отметило, что главная цель эксперимента — оградить молодое поколение от издевательств, с которыми, по мнению руководства соцсети, они и так довольно часто сталкиваются, а также минимизировать травлю по национальному признаку.
«ВКонтакте» сообщило, что благодаря рекомендациям количество оскорблений в комментариях за сутки уменьшилось на 36%.

В августе 2020 года «ВКонтакте» обновила правила поведения в социальной сети, добавив в раздел «Нормы платформы» информацию о мерах, которые сервис предпринимает для борьбы с травлей и языком вражды своих пользователей.
Чтобы пресечь распространение языка вражды в социальной сети, можно нажать на кнопку «Пожаловаться» и выбрать из предлагаемых категорий жалоб «Враждебные высказывания».
После этого пост изучат модераторы. Жалобы на «враждебные высказывания» помогут собрать данные для обучения нейросети, чтобы она могла «определять самые разные категории оскорблений и угроз».
Под «враждебными высказываниями» имеется в виду контент, направленный на преследование или унижение конкретного человека или группы людей. Также в сети нельзя распространять угрозы применения насилия.

В социальной сети Facebook могут удалить комментарии или заблокировать аккаунт, если сеть (с помощью алгоритмов или модератора) обнаружит наличие враждебного высказывания. Это прописано в правилах поведения социальной сети.
Враждебным высказыванием могут оказаться нападки на людей, мотивированные их расовой или этнической принадлежностью, национальностью, вероисповеданием, сексуальной ориентацией, кастой, полом или гендерной идентичностью, а также наличием серьезного заболевания или инвалидностью.