Социальная сеть «ВКонтакте» запустила эксперимент, цель которого — блокировать оскорбления в комментариях. Об этом говорится в блоге социальной сети.
- Эксперимент «ВКонтакте» проходит в День народного единства.
- На протяжении суток в сети тестируются две новых функции: администраторы сообществ могут включить специальный фильтр враждебных высказываний в настройках группы, а комментаторы увидят предложение отказаться от обидных реплик.
- Алгоритмы работают на основе нейросети, которая способна распознать оскорбления.
- После 4 ноября планируется запустить долгосрочное тестирование, но оно будет рассчитано лишь на отдельную фокус-группу.
- По результатам эксперимента будет принято решение об окончательном внедрении новых алгоритмов.
Принцип работы
- Социальная сеть с помощью новых алгоритмов будет скрывать комментарии, которые содержат угрозы смерти или обещания причинить вред здоровью.
- Администраторы сообществ могут видеть автоматически скрытые враждебные комментарии и, если это необходимо, отправлять пользователей в черный список группы.
- Фильтр оскорблений, как и другие функции в социальной сети, можно будет в любой момент выключить или включить.
- Также алгоритмы будут предлагать пользователям отказаться от оскорблений. Если нейросеть обнаружит враждебные комментарии, в которых автора поста будут оскорблять по национальному признаку, на почве религиозной принадлежности, возраста, пола и других характеристик, комментатор получит сообщение: «Напишите что-нибудь доброе. Пусть удивятся!».
Опыт прошлого года
- Аналогичный эксперимент социальная сеть «ВКонтакте» проводила год назад — 4 ноября 2019 года.
- На протяжении суток, если пользователь пытался опубликовать оскорбительное сообщение в комментариях, социальная сеть предлагала не тратить на это время, отказавшись от агрессии.
- На комментарии, как и раньше, можно пожаловаться службе модерации.
- Руководство «ВКонтакте» отметило, что главная цель эксперимента — оградить молодое поколение от издевательств, с которыми, по мнению руководства соцсети, они и так довольно часто сталкиваются, а также минимизировать травлю по национальному признаку.
- «ВКонтакте» сообщило, что благодаря рекомендациям количество оскорблений в комментариях за сутки уменьшилось на 36%.
Цензура «ВКонтакте»
- В августе 2020 года «ВКонтакте» обновила правила поведения в социальной сети, добавив в раздел «Нормы платформы» информацию о мерах, которые сервис предпринимает для борьбы с травлей и языком вражды своих пользователей.
- Чтобы пресечь распространение языка вражды в социальной сети, можно нажать на кнопку «Пожаловаться» и выбрать из предлагаемых категорий жалоб «Враждебные высказывания».
- После этого пост изучат модераторы. Жалобы на «враждебные высказывания» помогут собрать данные для обучения нейросети, чтобы она могла «определять самые разные категории оскорблений и угроз».
- Под «враждебными высказываниями» имеется в виду контент, направленный на преследование или унижение конкретного человека или группы людей. Также в сети нельзя распространять угрозы применения насилия.
Защита от оскорблений в Facebook
- В социальной сети Facebook могут удалить комментарии или заблокировать аккаунт, если сеть (с помощью алгоритмов или модератора) обнаружит наличие враждебного высказывания. Это прописано в правилах поведения социальной сети.
- Враждебным высказыванием могут оказаться нападки на людей, мотивированные их расовой или этнической принадлежностью, национальностью, вероисповеданием, сексуальной ориентацией, кастой, полом или гендерной идентичностью, а также наличием серьезного заболевания или инвалидностью.