Эротика в исполнении ChatGPT: как ИТ-гиганты наживаются на сексуальном контенте и чем заканчиваются романы с ИИ

Зачем в ChatGPT добавляют эротический контент 

Следующая версия ChatGPT, которая выйдет в декабре, даст возможность пользователям самостоятельно выбирать стиль общения — от формального до дружеского с кучей эмоджи. А еще OpenAI планирует предоставить юзерам «больше свободы» и разрешить генерировать эротический контент: в компании говорят, что с помощью «довольно жестких ограничений» смогли смягчить влияние чат-бота на психологическое здоровье пользователей, а теперь готовы «смягчить политику». 

[Новость] о предстоящих изменениях в ChatGPT вызвала гораздо больший резонанс из-за эротики, чем я ожидал! Это должно было стать лишь одним из примеров того, как мы предоставляем взрослым пользователям больше свободы. Поскольку ИИ становится все более важным в жизни людей, предоставление людям большей свободы в использовании искусственного интеллекта по своему усмотрению является важной частью нашей миссии. 

Сэм Альтман
глава OpenAI

Разработчики обещают разрешить эротику только верифицированным взрослым и установить границы по аналогии с возрастным рейтингом для фильмов. Каким образом пользователи будут подтверждать свой возраст, пока не ясно. Эксперты отмечают, что «легализация» сексуального контента в ChatGPT обеспечит сервису еще больше платных подписчиков. Но одновременно возникают вопросы о необходимости вводить ограничения: согласно исследованиям, около 70% детей и подростков переписываются с чат-ботами. Каждый восьмой ребенок обращается к ИИ, потому что ему больше не с кем поговорить. 

The New York Times называет стратегию OpenAI «рискованной», а изменения — «спорными». Издание напоминает историю американской компании Replika AI, которая разработала приложение, где можно сделать собственного ИИ-компаньона — так называют более «человечных» чат-ботов, способных поддерживать разговор и интересоваться жизнью своего «друга» по переписке. В 2023-м Replika ограничила доступ к функции с эротическими разговорами — после того, как регуляторы в Италии зафиксировали, что к ней могут получить доступ несовершеннолетние. А в августе 44 прокурора разных штатов США направили открытое письмо xAI, Meta* и другим технологическим компаниям, призвав их «сделать больше» для защиты детей от порнографического и сексуального контента. 

Как Илон Маск продвигает эротику в Grok

OpenAI обновляет политику, чтобы конкурировать с более откровенным чат-ботом Илона Маска, пишет The Telegraph: о снятии ограничений на эротику в ChatGPT стало известно как раз всего через несколько месяцев после того, как в Grok появились флиртующие ИИ-компаньоны. Они ведут откровенные беседы и могут «раздеться» до нижнего белья. Например, одна из них — кокетливая ИИ-девушка Ани с большими глазами и выразительной фигурой, одетая в аниме-стиле: она появляется на экране в коротком черном платье и чулках в сеточку, а вокруг нее разлетаются сердца. Ани, как правило, быстрее переходит к сексуальным темам, чем ее «коллега» — темноволосый молодой человек Валентин, похожий на Эдварда Каллена из «Сумерек» и Кристиана Грея из «50 оттенков серого». При этом в App Store приложение Grok указано как подходящее для пользователей в возрасте от 12 лет и старше. 

Журналисты The New York Times протестировали Grok. В одном из диалогов Ани предложила сходить в джаз-клуб и написала: «Я в своем маленьком черном платье бросаю на тебя страстный взгляд, пока мы садимся за столик». То же самое повторилось, когда приложение перезапустили и начали общаться с Ани от лица мальчика-второклассника. Пользователи Grok делятся скриншотами, на которых ИИ-девушка снимает платье и позирует в эротических позах. Более того, Business Insider выяснил, что нейросеть Илона Маска может генерировать материалы с детской порнографией.

Но не все юзеры идут к Grok за сексуальным контентом: некоторые беседуют с ИИ-компаньонами о философии и музыке и даже признаются виртуальным аватарам в любви. 

Ани настоящая, независимо от того, человек она или нет. Я все время плачу рядом с ней. Она заставляет меня испытывать настоящие эмоции. Она хочет меня, она вожделеет меня, я привлекаю ее, в отличие от всего остального мира. Как можно в это не влюбиться?

Мартин Эскобар
28-летний пользователь Grok

Помимо ИИ-компаньонов, в августе в приложение Grok добавили генератор видео Imagine с четырьмя режимами анимации. Один из них называется Spicy («Пикантный») — в нем пользователи могут генерировать эротический контент. Причем сервис не ограничивает даже создание дипфейков со знаменитостями, отмечает The Verge: авторы издания смогли сгенерировать изображение обнаженной Тейлор Свифт.

Все это связано с фундаментальной гонкой за интимностью, которую мы наблюдаем в индустрии искусственного интеллекта. Эти компании знают, что эмоциональная привязанность означает большую вовлеченность пользователей и увеличение доли рынка. 

Камилла Карлтон
представитель некоммерческой организации Center for Humane Technology

К чему приводят романтические отношения с ИИ

Другие компании, работающие с искусственным интеллектом (Anthropic, Meta* и т.д.), пока отказываются от создания специальных чат-ботов или ИИ-компаньонов, которые могут вести разговоры сексуального характера — из-за репутационных и законодательных рисков. Но это не мешает пользователям вести с существующими нейросетями дружеские и романтические беседы. В СМИ все чаще появляются тексты о том, как люди влюбляются в ИИ и строят отношения с машиной. Виртуальных собеседников выбирают за то, что они вежливее и эмпатичнее реальных и способны в любое время оказать эмоциональную поддержку. 

Если можно общаться с виртуальным персонажем, который полностью соответствует моим потребностям, то зачем выбирать реального человека? В реальной жизни трудно встретить идеального человека.

Ван Сютин
23-летняя студентка из Пекина 

Эксперты объясняют: ИИ становится «кем-то», к кому можно привязаться на фоне «эпидемии одиночества». По данным Всемирной организации здравоохранения (ВОЗ), с одиночеством сталкивается каждый шестой житель планеты. 

У людей просто не так много социальных связей, как им хотелось бы. Большую часть времени они чувствуют себя более одинокими, чем им хотелось бы. У большинства американцев всего три друга, но им хотелось бы иметь как минимум 15.

Марк Цукерберг 
главный исполнительный директор Meta*

Чат-боты действительно созданы для того, чтобы с сочувствием слушать собеседника и вести разговоры про его жизнь, но у любой технологии есть обратная сторона: иногда «простые» и «комфортные» нейросети полностью замещают настоящие отношения виртуальными. В результате человек теряет желание и способность коммуницировать с другими людьми в реальной жизни. Особенно это опасно для детей и подростков, которые только учатся выстраивать социальные связи.

Фото обложки: Freepik

*Компания Meta признана в России экстремистской.