OpenAI ответила на иски пользователей о причинении вреда психическому здоровью при использовании ChatGPT Из-за постоянных обвинений в причинении вреда…
Из-за постоянных обвинений в причинении вреда психическому здоровью пользователей при использовании ChatGPT компания OpenAI опубликовала в своем блоге сообщение о новых функциях сервиса, призванных защитить их от потенциального вреда при взаимодействии с чат-ботом.
Ключевые продуктовые обновления ChatGPT:
✅Функция «доверенного контакта».
Вслед за запуском родительского контроля в сентябре 2025 года, OpenAI готовится представить новую опцию для совершеннолетних пользователей. Она позволит назначить человека, который будет получать уведомления в случае, если пользователю может потребоваться дополнительная поддержка. Детали запуска будут раскрыты позже.
✅Совершенствование моделей для работы с кризисными ситуациями.
Компания разрабатывает новые методы оценки, включая симуляцию длительных разговоров на темы ментального здоровья. Это поможет лучше выявлять потенциальные риски и улучшить реакцию ChatGPT в чувствительных моментах, направляя людей к реальной помощи. Подробности обещают представить в ближайшие недели.
Как следует из новости, в своей работе над этими функциями OpenAI опирается на экспертизу членов Совета по благополучию и ИИ (Council on Well-Being and AI) и Глобальной сети врачей (Global Physicians Network).
Ранее издание The Wall Street Journal (WSJ) сообщило о серии суицидов у подростков-пользователей ChatGPT.