Amazon научил виртуального помощника Alexa имитировать голоса умерших родственников. Какие еще существуют сервисы для «оживления» близких

Что произошло

Amazon научил виртуального помощника Alexa имитировать голоса умерших людей. Для этого сервису достаточно послушать минутную запись речи человека.

• Экспериментальную функцию продемонстрировали на недавней конференции Amazon re:MARS в Лас-Вегасе. Собравшимся показали короткое видео, где ребенок спрашивает: «Alexa, может бабушка дочитать мне «Волшебника страны Оз»?», после чего виртуальный помощник начинает читать фрагмент произведения голосом покойной женщины.
• «Это достижение потребовало новых подходов; нам нужно было научиться производить высококачественную имитацию голоса из менее чем минутных записей вместо нескольких часов студийных записей. Нам удалось этого добиться, подойдя к вопросу со стороны конверсии голоса, а не генерации речи», — заявил Рохид Прасад, руководитель научного направления проекта Amazon Alexa. 
• По его словам, речь идет об «обобщаемом» искусственном интеллекте (ИИ), который позволяет Alexa адаптироваться к различным условиям и перерабатывать свой опыт в знания с минимальным вмешательством человека. Такая система отличается ИИ, цель которого — решать проблемы так же, как это делает человеческий разум.
• Рохид Прасад добавил, что во время пандемии COVID-19 «очень многие из нас потеряли кого-то, кого мы любим», поэтому добавление человеческих качеств ИИ становится все более важным направлением на рынке. 
• В Amazon не сообщили, когда новая функция станет доступна владельцам Аlexa. 

Тенденция

Аналогичные разработки появляются на мировом рынке все чаще. Вот некоторые примеры.

• В 2016 году стартап Luka выпустил чат-бота, который общается в манере погибшего в ДТП Романа Мазуренко — бывшего арт-директора института дизайна «Стрелка» и основателя стартапа Stampsy. Он умеет отвечать как на русском, так и на английском языках. Основатель Luka и подруга погибшего Евгения Куйда рассказывала, что для работы технологии она собрала все сообщения из переписки с Мазуренко, фотографии, статьи, мысли и воспоминания — свои и друзей. В итоге бот смог общаться даже на отвлеченные темы.
• Канадский писатель Джошуа Барбо, в свою очередь, применил для «оживления» своей невесты нейросеть GPT-3 от OpenAI. 23-летняя Джессика Перейра умерла в 2012 году. В 2020 году Барбо узнал о существовании платформы Project December, которая позволяет создать пользовательского чат-бота. Для этого нужно расписать его роль (друг, невеста, оппонент) и загрузить те записи, стиль которых он будет копировать. Чем их будет больше, тем точнее будет работать система. Для создания ИИ-версии Джессики Барбо использовал свои переписки с погибшей. Первая его беседа длилась 9 часов, бот от имени девушки высказывал сожаление по поводу того, что она не смогла побороть болезнь, и вспоминал счастливые моменты с Джошуа. Барбо заявил, что бот точно скопировал манеру общения Джессики вплоть до ее любимых смайликов в конце фраз. По его словам, это общение помогло ему больше, чем любые другие виды терапии.
• В 2020 году южнокорейская компания МВС опубликовала документальный фильм «Встреча с тобой». В нем мать, чья дочь умерла от лейкемии, встретилась с ребенком в виртуальной реальности. Цифровую копию ребенка создавали 8 месяцев. В итоге мать смогла поговорить с дочерью.

Что говорят

• Как пишет The Verge, эксперимент Amazon вызвал яростную критику пользователей соцсетей. Разработку назвали «жуткой» и «чудовищной».
• Однако журналисты издания отмечают, что такие технологии могут быть уместны. В прошлом году, например при подготовке документального фильма об умершем в 2018 году шеф-поваре Энтони Бурдене, ИИ научили говорить его голосом. Таким образом цитировались электронные письма умершего.
• Тем временем юристы считают, что если подобные технологии станут обычным явлением, то человечеству нужно будет разработать новые законы, чтобы управлять ими. Кроме того, создание цифровой копии человека, по их мнению, выглядит как нарушение права на неприкосновенность частной жизни, но сейчас законом это никак не регламентируется.
• Исследователь Карл Оман из Оксфордского института Интернета видит проблему в необходимости обновления программного обеспечения. По его словам, компании не смогут заниматься обслуживанием таких систем вечно.
• Кроме того, отмечает исследователь, поведение самих алгоритмов нельзя назвать предсказуемым и со временем оно может меняться. Это будет представлять опасность для психики пользователя.

Контекст

• В российском законодательстве нет конкретики относительно регулирования ИИ из-за специфики отрасли, отмечают СМИ. Такая же проблема наблюдается и в других странах, включая США, Канаду и Францию. В регулировании ИИ больше всего продвинулась КНР. Согласно соответствующему кодексу этики страны, подобные технологии должны быть «управляемыми и надежными», а люди вольны самостоятельно принимать решения и выбирать, хотят они пользоваться сервисами ИИ или прекратить взаимодействие с системой в любое время».
• Эксперты выделяют только одну инициативу международного уровня, касающуюся регулирования таких технологий. В ноябре 2021 года ЮНЕСКО приняло первые глобальные этические стандарты в сфере ИИ, которые призывают компании и государства повысить эффективность защиты персональных данных, а также вводят запрет на использование этих технологий для организации массовой слежки.
• Меры для контроля ИИ принимают и сами разработчики. В 2022-м корпорация Microsoft объявила, что серьезно ограничивает доступ к своим ИИ-разработкам, связанным с генерацией натурально звучащей речи. В частности, теперь имитировать голос того или иного человека будет возможно только с письменного разрешения.

Фото обложки: Amazon