Компанія OpenAI повідомила про оновлення ChatGPT, спрямоване на покращення розпізнавання ознак психологічної кризи та безпечну взаємодію з користувачами, які можуть перебувати у стані стресу, депресії або мати думки про самогубство. Про це йдеться у звіті, опублікованому компанією.
OpenAI заявила, що співпрацювала з фахівцями у сфері психічного здоров’я, аби навчити модель вчасно розпізнавати тривожні сигнали, знижувати напруження у розмовах і скеровувати людей до професійної допомоги. Компанія також розширила доступ до кризових ліній підтримки, змінила маршрутизацію чутливих діалогів і додала нагадування користувачам про необхідність робити перерви під час тривалих сесій.
Оновлена модель GPT-5, яка є стандартною у ChatGPT, показала суттєве покращення: кількість небажаних відповідей у складних розмовах, пов’язаних із психічним здоров’ям, зменшилася на 65–80%.
Зокрема:
- у діалогах, що містять ознаки психозу або манії, рівень небажаних реакцій знизився на 39% порівняно з попередньою моделлю GPT-4o;
- у випадках, пов’язаних із самогубством чи самопошкодженням, — на 52%;
- у розмовах, що свідчать про емоційну залежність від ШІ, — на 42%.
Загалом нова версія моделі дотримується безпечних стандартів у 91–97% випадків, тоді як попередні моделі демонстрували значно нижчі показники.
Для розробки оновлень OpenAI залучила глобальну мережу лікарів і психологів — близько 300 фахівців із 60 країн. Вони допомагали оцінювати відповіді моделі та формувати еталонні сценарії поведінки в кризових ситуаціях.
Компанія також анонсувала, що надалі до стандартних перевірок безпеки ChatGPT включать не лише теми суїциду та самопошкодження, а й «емоційну залежність» і «несмертельні кризові випадки психічного здоров’я».
OpenAI підкреслила, що ці вдосконалення є частиною тривалого процесу і будуть продовжені в наступних версіях моделей GPT.