Компания OpenAI сообщила об обновлении ChatGPT, направленном на улучшение распознавания признаков психологического кризиса и безопасное взаимодействие с пользователями, которые могут находиться в состоянии стресса, депрессии или иметь мысли о самоубийстве. Об этом говорится в отчете, опубликованном компанией.
OpenAI заявила, что сотрудничала со специалистами в области психического здоровья, чтобы научить модель вовремя распознавать тревожные сигналы, снижать напряжение в разговорах и направлять людей за профессиональной помощью. Компания также расширила доступ к кризисным линиям поддержки, изменила маршрутизацию чувствительных диалогов и добавила напоминания пользователям о необходимости делать перерывы во время длительных сессий.
Обновленная модель GPT-5, которая является стандартной в ChatGPT, показала существенное улучшение: количество нежелательных ответов в сложных разговорах, связанных с психическим здоровьем, уменьшилось на 65–80%.
В частности:
- в диалогах, содержащих признаки психоза или мании, уровень нежелательных реакций снизился на 39% по сравнению с предыдущей моделью GPT-4o;
- в случаях, связанных с самоубийством или самоповреждением, — на 52%;
- в разговорах, свидетельствующих об эмоциональной зависимости от ИИ, — на 42%.
В целом новая версия модели соблюдает безопасные стандарты в 91–97% случаев, тогда как предыдущие модели демонстрировали значительно более низкие показатели.
Для разработки обновлений OpenAI привлекла глобальную сеть врачей и психологов — около 300 специалистов из 60 стран. Они помогали оценивать ответы модели и формировать эталонные сценарии поведения в кризисных ситуациях.
Компания также анонсировала, что в дальнейшем в стандартные проверки безопасности ChatGPT будут включены не только темы суицида и самоповреждения, но и «эмоциональная зависимость» и «несмертельные кризисные случаи психического здоровья».
OpenAI подчеркнула, что эти усовершенствования являются частью длительного процесса и будут продолжены в следующих версиях моделей GPT.