Что происходит
Онлайн-площадки начали публиковать информацию о принципах работы своих рекомендательных алгоритмов. Среди них — «Яндекс», VK, Wildberries, Ozon, «М.Видео-Эльдорадо», Start и другие. Раскрывать соответствующую информацию требует новый закон о рекомендательных алгоритмах, вступивший в силу 1 октября. Он распространяется на все соцсети, маркетплейсы, онлайн-кинотеатры, которые присутствуют на российском рынке.
- Согласно новому закону, в информации о рекомендательных алгоритмах должно содержаться «описание процессов и методов сбора данных, их систематизации и анализа, а также способов осуществления таких процессов и методов при таргетировании запросов пользователей». Помимо этого, требуется раскрывать виды и источники получения данных для таргетирования.
- В Роскомнадзоре подтвердили, что сайты, использующие соответствующие технологии, приступили к исполнению закона и стали информировать об их применении пользователей.
- По словам экспертов, в случае обнаружения нарушений Роскомнадзор может запросить у владельца сервиса информацию о применении рекомендательных алгоритмов. Также ведомство вправе получить доступ к программно-техническим средствам для их оценки. При подтверждении факта нарушения его нужно устранить в течение 10 дней. В случае, если сервис откажется выполнить требование, то в течение суток Роскомнадзор заблокирует его.
- Зарубежные сервисы, использующие в своей работе рекомендательные алгоритмы и присутствующие на российском рынке, тоже должны соблюдать новые требования. В частности, речь идет о Google и YouTube.
Детали
«Московские новости» ознакомились с принципами работы рекомендательных технологий, о которых рассказали онлайн-площадки.
- Например, сервисы «Яндекса» отслеживают историю поисковых запросов пользователя, их результаты, клики по ссылкам, добавленные товары в корзину, отметки «нравится» и прочие методы оценки треков, продуктов и так далее.
Рекомендательные алгоритмы учитывают много факторов. Например, «Яндекс Музыка» обращает внимание на треки и исполнителей, «Кинопоиск» — на просмотренные фильмы, а «Яндекс Маркет» — на регулярные покупки и популярные категории товаров. У одних рекомендаций есть сезонность, на другие влияют оценки «нравится» и «не нравится». Если предпочтения пользователя изменились, алгоритм это учтет, и со временем рекомендации адаптируются под новые интересы.
«Яндекс»
- VK, в свою очередь, обращает большое внимание на отметки «Мне нравится», «Поделиться», «Подписаться», «Это не интересно», «Скрыть из ленты», «Пожаловаться». Разработчики отметили, что таким образом пользователи самостоятельно влияют на работу алгоритмов, определяя, какой контент им будет показан, а также на его очередность.
В число сведений, используемых социальной сетью ВКонтакте для принятия решения о рекомендации пользователю того или иного контента, входят отметки «Мне нравится», «Это не интересно», «Поделиться», добавление аудиозаписей в раздел «Моя музыка» или видеозаписей в раздел «Мои видео», комментирование контента, частота просмотра контента того или иного сообщества или пользователя, добавление в друзья, вступление в сообщества и подписки на пользователей, а также аналогичные сведения.
VK
- Тем временем технологии на Ozon учитывают и соотносят все характеристики товара, вплоть до его времени доставки, и покупательское поведение.
Учитываются все фичи товара, влияющие на его продажу. Это характеристики товара, рейтинг и покупательское поведение: оформление заказа, просмотр товара или добавление в корзину. В общей сложности рекомендательная система Ozon учитывает около 300 различных фичей. Рекомендательная система формирует для кандидата набор оценок — товар получает оценку по шкале от 0 до 1 для каждого типа взаимодействия. Чем ближе оценка к единице, тем больше шанс того, что товар займет высокую позицию в выдаче рекомендаций.
Ozon
- Маркетплейс Wildberries собирает максимально подробные данные о пользователе, в том числе информацию о его провайдере, браузере, операционной системе и даже учитывает разрешение и «глубину цветности» экрана устройства.
В числе параметров, которые анализирует компания, — информация о действиях и запросах пользователя на Wildberries, данные о его геолокации и устройстве, длительность поисковой сессии и источник перехода на сайт, а также дата и время посещения платформы.
Wildberries
- «CберМаркет» собирает информацию о предпочтениях пользователей с помощью так называемого логирования. Подразумевается, что сервис ведет технические записи о действиях клиентов и сохраняет их на своем внутреннем хранилище с целью создания рекомендаций.
- «М.Видео» анализирует просмотры продуктов или категорий, товары в избранном, корзине или других списках, состав и даты заказов, взаимодействие через почту, чат-бот, колл-центр или по смс.
Алгоритмы также анализирует сходства в поведении клиентов. Если двум покупателям нравится одна и та же группа продуктов и их предпочтения похожи, рекомендательная система может рекомендовать то, что заинтересовало второго клиента, и наоборот. Такой подход помогает выявлять неочевидные предпочтения, предвосхитить пожелания и составлять более разносторонние рекомендации.
«М.Видео»
- Онлайн-кинотеатр Start учитывает жанры, которыми больше всего интересуются пользователи, частоту просмотров контента, а также его досматривание до конца.
Что говорят
- Ранее в Ассоциации юристов России заявляли, что рекомендации могут искусственно создавать аномальный интерес к товарам и влиять на общественное мнение, увеличивая риски социальных конфликтов.
- Также многие специалисты считают, что система алгоритмов онлайн-платформ часто удаляет контент, в котором нет запрещенной информации, но при этом оставляет действительно вредоносные материалы.
- Ожидается, что новый закон повысит прозрачность использования подобных технологий. Эксперты отмечают, что новые правила не требуют раскрытия коммерчески чувствительных нюансов работы алгоритмов и формирует доверительные отношения платформ с пользователям.
При обсуждении законопроекта с ключевыми игроками интернет-рынка эти опасения были устранены как на уровне закона, так и подзаконных актов. Сегодня большинство сервисов уже разместили информацию о применении рекомендаций у себя на сайтах.
Алексей Бырдин
гендиректор ассоциации «Интернет-видео»
- Некоторые специалисты предупреждают, что в отношении многих иностранных сервисов у Роскомнадзора уже накопилось большое количество претензий и требований, которые платформы фактически не выполняют. Новый закон может повлечь ограничение доступа к таким площадкам.
Насколько мне известно, правила работы рекомендаций YouTube в том виде, как это предусмотрено законом о рекомендательных сервисах, сейчас на платформе не представлены. Есть отдельные разъяснения принципов их работы в блоге Google, но, боюсь, это вряд ли устроит регулятора [РКН].
Антон Горелкин
один из авторов закона, зампред комитета Госдумы по информполитике, информационным технологиям и связи
Мировая практика
- Возможные риски, связанные с использованием рекомендательных алгоритмов, начали активно обсуждать с 2021 года. Тогда издание The Wall Street Journal опубликовало расследование, в котором говорилось, что алгоритмы сервисов Meta* довольно «злые», так как предлагают пользователям большое количество негативного контента.
- После сбоя в работе Facebook* в октябре 2021-го экс-менеджер соцсети Фрэнсис Хоген рассказала, что «рекомендательные алгоритмы настраиваются так, чтобы в ленте всегда были фейки, провокации, буллинг». Позже руководство соцсети заявило о готовности предоставить своему наблюдательному совету доступ к своей системе «умной ленты» и порядку ее формирования.
- В июле 2022 года Европарламент принял закон, обязавший онлайн-платформы обеспечить прозрачность работы рекомендательных алгоритмов. Правила запрещают использовать таргетированную рекламу на основе интимных предпочтений, религии, этнической принадлежности или политических убеждений человека, а также ограничивает ее применение для детской аудитории.
- При этом «очень крупные онлайн-платформы» оказались вынуждены предоставить пользователям возможность отказаться от систем рекомендации. Позднее Meta* заявила, что европейские жители могут отключить в ее сервисах рекомендательные алгоритмы при поиске и просмотре разделов Reels и Stories. TikTok также объявил, что применение этих технологий стало необязательным для жителей Европы.
- В Китае онлайн-платформам запрещено рекомендовать фейковые сообщения. Они также обязаны информировать пользователей об основных принципах работы своих сервисов и предоставлять им возможность управлять алгоритмом, например изменять параметры или вовсе отказаться от него.
*Meta Platforms признана в РФ экстремистской организацией и запрещена.