КиберпанкДеталиТехнологии

YouTube взялся за нейросети: авторов обяжут маркировать ИИ-контент. Подобные инструменты уже анонсировала Meta* и внедрил TikTok

На YouTube появится маркировка контента, сгенерированного ИИ. Если авторы не будут отмечать такие ролики, их исключат из программы монетизации. 

При этом Google опубликовал «Программу развития возможностей ИИ», в которой призывает правительства инвестировать в повсеместное внедрение нейросетей. 

Что произошло

  • YouTube опубликовал новые правила регулирования контента, созданного с помощью искусственного интеллекта (ИИ). Они вступят в силу «в ближайшие месяцы». 
  • Видеохостинг обяжет авторов сообщать, применялись ли нейросети при создании ролика. Платформа будет маркировать такие видео. 

Это особенно важно в случае с «острыми темами», включая выборы, продолжающиеся военные конфликты и кризисы в системе общественного здравоохранения, а также любой контент, связанный с официальными лицами. 

заявление вице-президентов YouTube в блоге компании
  • Под роликами, сгенерированными ИИ, появится плашка: «Измененный или синтезированный контент. Звук или изображение в этом видео были изменены или сгенерированы с помощью цифровых технологий». 
  • В случае многократного нарушения правил маркировки видео могут удалить с платформы, а автора — исключить из партнерской программы монетизации YouTube. Сгенерированные ролики, в которых демонстрируется насилие или содержится любой другой неправомерный контент, будут удаляться видеохостингом независимо от наличия маркировки. 

Детали

  • Особое внимание в YouTube уделили музыке, сгенерированной искусственным интеллектом. Такой контент стал серьезным «побочным эффектом» развития нейросетей. Один из самых ярких примеров — трек Heart on My Sleeve, созданный нейросетью на основе голосов рэпера Дрейка и певца The Weeknd. Видео с песней набрало более 15 млн просмотров в TikTok и порядка 300 тыс. прослушиваний на YouTube. Трек удалили со всех стриминговых сервисов по требованию Universal Music Group, работающей по контрактам с обоими артистами. Правда, после удаления песни пользователи начали активно перезаливать ее. На данный момент в Сети без особых сложностей можно найти Heart on My Sleeve.
  • Согласно новым правилам YouTube, звукозаписывающие компании смогут направлять запрос на удаление песен, в которых ИИ «имитирует уникальный голос исполнителя». В YouTube сообщили, что опробуют новый инструмент вместе с группой музыкальных лейблов и дистрибьюторов перед его широким внедрением. 
  • Рядовые пользователи также смогут пожаловаться на ролик, который, по их мнению, создан ИИ, но не помечен автором. YouTube примет такой запрос и оперативно проверит ролик. Кроме того, видеохостинг работает над инструментами, которые позволят проводить регулярный мониторинг контента и его проверку. The Verge отмечает, что эффективных способов выявления ИИ-роликов пока не существует. 

Но при этом

  • 14 ноября Кент Уокер, главный юрист Alphabet, которая владеет Google, опубликовал в блоге компании The AI Opportunity Agenda (Программа развития возможностей ИИ). Это белая книга с рекомендациями, призванная «помочь правительствам по всему миру продумать политику внедрения нейросетей». 
  • В документе Google призывает власти стран всего мира инвестировать в инфраструктуру, новые технологии и обеспечить исследователям и разработчикам доступ к инструментам, необходимым для развития и повсеместного внедрения ИИ. 
  • ИТ-гигант предложил создать Global Resource for AI Research, или GRAIR (Глобальный центр исследований ИИ). В белой книге говорится, что Центр может заняться программами обучения и поддержки рабочей силы, чтобы подготовить население планеты «к переходу на работу с использованием искусственного интеллекта». Кроме того, Google предлагает реформировать систему образования и ввести курсы по использованию нейросетей. 

Важно сосредоточиться не только на рисках использования ИИ, но и на его преимуществах. Это приведет к научным прорывам во всех областях — от здравоохранения до сельского хозяйства. Переход на работу с ИИ обеспечит огромный рост производительности во всех секторах экономики. 

цитата из белой книги The AI Opportunity Agenda 

Контекст

YouTube вводит систему маркировки контента вслед за TikTok и Meta*. 

  • Так, в Meta* о внедрении нового инструмента сообщили в начале ноября: с 2024-го — года выборов в США — Facebook* и Instagram* обяжут пользователей помечать политическую рекламу, созданную с помощью нейросетей. Плашка-предупреждение будет всплывать на экране при клике на пост с такой рекламой. 
  • Речь о создании изображений людей, которых не существует, а также об искажении событий и генерации роликов, в которых человек говорит или делает то, чего не делал в реальной жизни. При этом «незначительное использование ИИ» в рекламе (например, обрезка изображения или цветокоррекция) не попадают под новое правило, отметили в Meta.
  • В конце сентября маркировку ИИ-контента ввел TikTok: пользователи должны ставить пометку, что контент был сгенерирован или отредактирован с помощью нейросетей. Плашка «AI» отображается под именем пользователя в левом нижнем углу ролика. В TikTok считают, что такая маркировка «поможет предотвратить распространение вводящей в заблуждение информации». 

*Компания Meta признана в России экстремистской. Instagram и Facebook — продукты этой компании.