Adobe ограничит использование искусственного интеллекта в собственных программах, иначе они могут повлиять на ход выборов в США. Как ИТ-гиганты борются с дипфейками

Что произошло

Adobe, производитель самых популярных в мире редакторов фото и видео, решила проанализировать и доработать все свои программы, в которых используется ИИ. В компании отметили, что эти меры необходимы для борьбы с дипфейками.

Можно сказать, что сейчас самое главное в интернете — убедиться в подлинности контента.

Шантану Нарайен
генеральный директор Adobe

• В частности, обновления коснутся флагманской программы Photoshop и инструмента для редактирования видео Premiere Pro.
• Еще 3 года назад Adobe запустила проект Content Authenticity Initiative (CAI) для борьбы с дезинформацией в интернете. На настоящий момент в нем участвуют уже больше 700 компаний. 
• Например, в рамках CAI совместно с Microsoft, Sony, Intel, Twitter*, Nikon был разработан стандарт C2PA: любая медиаплатформа может встроить специальный код в свой сайт, позволяя всем желающим просматривать метаданные изображения, которые содержат информацию о создании и редактировании файла. Это позволит отличить сгенерированные изображения от оригинальных. 
• Ожидается, что метаданные вскоре можно будет просматривать в соцсетях, фоторедакторах и на новостных сайтах. В Adobe утверждают, что их сложнее удалить, чем при использовании стандарта EXIF.

Почему это важно

Forbes отмечает, что слишком качественные дипфейки могут значительно повлиять на политические события. Этого и опасаются в компании Adobe.

• Например, фейковые видео политиков могут сказаться на результатах промежуточных выборов в США осенью 2022 года, хотя некоторые штаты (например, Вирджиния, Техас и Калифорния) уже приняли законы, ограничивающие использование дипфейков. 
• Политики — легкая цель для машинной имитации: они обычно стоят четко перед камерой, а их лица хорошо и равномерно освещены. 
• Еще в 2018 году по Сети разлетелось видео, где якобы экс-президент США Барак Обама критикует своего преемника Дональда Трампа. 

• А в 2019-м с помощью ИИ замедлили речь спикера Палаты представителей США Нэнси Пелоси так, что она казалась пьяной. 

• В 2021-м появился вирусный ролик с главой МИД РФ Сергеем Лавровым, главврачом больницы №40 в Коммунарке Денисом Проценко и министром обороны РФ Сергеем Шойгу. Еще до этого пресс-секретарь президента РФ Дмитрий Песков назвал дипфейки «страшной штукой», которую крайне сложно отличить от реальности.

• Иногда пользователи, наоборот, принимают за дипфейк реальные видео. Например, в интервью нынешнего президента США корреспонденту CNBC они заметили неестественный цвет кожи шеи Джо Байдена и странную тень. Reuters позже подтвердило, что видео — не фейк, а все дело в освещении. 

• При этом дипфейки с Джо Байденом в Сети тоже есть. 

Марк Беркман, директор Организации по безопасности в соцсетях, подчеркивает, что дипфейки могут нести угрозу для выборов в демократических странах и стать инструментом пропаганды.

• Эксперты из Северо-Восточного университета в Массачусетсе отмечают, что даже если дипфейк низкого качества, пользователи все равно поверят, если он соотносится с их убеждениями. 
• Специалисты обращают внимание на то, что «остановить» дипфейки можно только с помощью структурных изменений в ИТ-компаниях.

Тенденция

Помимо Adobe, в борьбу с дипфейками включились крупнейшие ИТ-гиганты, ученые и органы власти. 

• Еврокомиссия обязала Google, Facebook**, Twitter*, TikTok (всего 33 компании) внедрить меры по борьбе с дипфейками к началу 2023 года. В противном случае им грозит штраф на сумму до 6% от годовой выручки. 
• Инженеры Facebook** разработали такой метод, который позволяет не только распознать подделку, но и определить создавшую ее нейросеть.
• В 2020-м корпорация Microsoft представила инструмент для обнаружения дипфейков — Video Authenticator. 
• Исследователи из Университета Баффало разработали технологию, которая по отражению света в роговице глаза распознает фейк с точностью 94%. Правда, алгоритм эффективен только для портретной съемки.
• Ученые из Университета Мэриленда и Калифорнийского университета с помощью своей сети SfSNet научились определять, соответствует ли освещение в конкретной сцене реальности. 
• В марте 2021 года МВД РФ заключило контракт с компанией «Высокие технологии и стратегические системы» на разработку технологии под кодовыми названиями «Зеркало» и «Верблюд» для выявления видеофейков. Работа над проектом должна завершиться к ноябрю 2022 года. 

Что делать

По мнению Нарайена, пользователи и сами должны проверять подлинность контента и использовать все доступные инструменты, так как они ответственны за то, что публикуют или репостят. Эксперты объясняют, на что обращать внимание, чтобы вовремя распознать дипфейк.

• Дефекты изображения: излишняя пикселизация, смазанность, дублирование элементов.
• Неестественная мимика. Это особенно заметно при моргании, движении бровей и губ. 
• Отличия в телосложении, прическе и голосе. Зачастую в дипфейках заменяют только лицо, поэтому можно заметить различие в тенях, освещенности и оттенке кожи. 
• Элементы, закрывающие лицо. Например, пряди волос иногда моделируются неправильно и могут образовать «дыры» в картинке.
• Глаза. Некоторые нейросети при создании подделок рисуют не круглые зрачки. Кроме того, у сгенерированных моделей часто не совпадает цвет левого и правого глаза.
• Источники. Следует всегда обращать внимание на то, кто, где и как распространяет видео.

*Соцсеть заблокирована в России по решению Роскомнадзора в связи с распространением недостоверной общественно значимой информации.

** Соцсеть компании Meta, признанной экстремистской в России.