В ChatGPT можно будет создавать эротический контент

Во вторник компания OpenAI объявила о планах смягчить ограничения для чат-бота ChatGPT, в том числе разрешить работу с эротическим контентом для взрослых пользователей.

• Обновленная версия ChatGPT также позволит пользователям настраивать личность своего ИИ-помощника. Например, сделать его ответы более человечными. Наиболее значимое изменение ожидается в декабре, когда OpenAI обновит систему возрастного ограничения: она даст взрослым, подтвердившим возраст, возможность работать с эротическим контентом. OpenAI пока не поделилась подробностями о методах проверки возраста или дополнительных мерах безопасности.
• В сентябре компания запустила специальный интерфейс ChatGPT для детей. Он автоматически перенаправляет на соответствующий возрасту контент и блокирует «взрослые» материалы.
• Компания также разрабатывает технологию оценки возраста юзера на основе его запросов — она определяет, достиг ли пользователь 18-летнего возраста.

Новые инструменты безопасности OpenAI позволят компании ослабить некоторые ограничения, которые сделали чат-бот менее привлекательным для многих пользователей, «у которых нет проблем с психическим здоровьем». Ограничения вводились после того, как в начале 2025 года подросток из Калифорнии Адам Рейн совершил самоубийство. В августе его родители подали иск, утверждая, что ChatGPT дала ему детальные советы о том, как покончить с собой. Федеральная торговая комиссия США также начала расследование в отношении нескольких других технологических компаний в связи с потенциальным негативным влиянием чат-ботов с ИИ на детей и подростков.