В ChatGPT внедрят родительский контроль

Компания OpenAI, разработчик ChatGPT, до конца 2025 года внедрит новые меры безопасности для пользователей, находящихся в эмоциональном стрессе, и для подростков.

• В OpenAI наблюдали, как люди обращаются к ChatGPT в трудные моменты, поэтому компания продолжит совершенствовать алгоритмы распознавания признаков психического и эмоционального расстройства и реакции на них.
• OpenAI соберет совет экспертов по вопросам психического здоровья, развития молодежи и взаимодействия человека с компьютером. В него включат клиницистов и исследователей с опытом работы в таких областях, как расстройства пищевого поведения, употребление психоактивных веществ и здоровье подростков.
• Также при работе с ChatGPT будут усилены меры родительского контроля. Родители смогут получать уведомления, если система определит, что подросток находится в сложном положении.
• ChatGPT обвиняли в том, что он недостаточно эффективно реагирует на поведение пользователей с суицидальными намерениями или планами совершить насилие. Сейчас компания не сообщает о подобных случаях в правоохранительные органы, ссылаясь на конфиденциальность, а направляет людей на горячие линии.

Ранее СМИ сообщали, что ChatGPT иногда выдавал ложные и абсурдные утверждения, например информацию о контактах с инопланетянами и предсказания апокалипсиса. Медики назвали это «психозом искусственного интеллекта», когда нейросеть усиливает заблуждения пользователей. Некоторые следовали странным советам, тратя крупные суммы или разрушая отношения с близкими. OpenAI пообещала ограничить свой ИИ в возможности давать рекомендации по важным личным вопросам.