Компанія OpenAI оголосила про запуск нової функції безпеки Trusted Contact у ChatGPT. Вона дає змогу автоматично сповіщати довірену особу користувача, якщо система виявляє ознаки можливого самоушкодження або суїцидальних намірів.
Про це пише Полемика із посиланням на прес-службу OpenAI.
Функція Trusted Contact є добровільною та доступна лише повнолітнім користувачам. Користувач може самостійно додати до свого акаунта одну довірену особу — це може бути член родини, друг або опікун.
У компанії пояснюють, що система спочатку автоматично аналізує зміст розмов, щоб виявити потенційно небезпечні сигнали. Якщо такі ознаки фіксуються, користувачу насамперед пропонують самостійно звернутися до довіреної особи та надають підказки для початку розмови.
Далі ситуацію додатково оцінює команда спеціально підготовлених модераторів. У разі підтвердження високого ризику довірений контакт отримує коротке сповіщення через електронну пошту, SMS або застосунок ChatGPT.
У OpenAI наголошують, що повідомлення не міститимуть тексту переписки чи деталей діалогу. У ньому буде лише зазначено, що система зафіксувала можливі ознаки самоушкодження, а також рекомендація зв’язатися з користувачем.
Чому OpenAI впроваджує нову функцію
У компанії зазначають, що Trusted Contact розроблялася у співпраці з фахівцями у сфері психічного здоров’я. До проєкту залучили понад 170 експертів, а також глобальну мережу лікарів OpenAI, що об’єднує понад 260 спеціалістів із 60 країн.
Водночас у компанії підкреслюють, що нова функція не замінює професійну психологічну чи медичну допомогу. ChatGPT і надалі рекомендуватиме звертатися до кризових служб, гарячих ліній або спеціалістів із психічного здоров’я.
Запуск відбувається на тлі судових позовів проти OpenAI, пов’язаних із випадками, коли родини користувачів звинувачували чат-бот у можливому впливі на суїцидальні думки.
Дізнайтеся також про те, як знайти загублений смартфон, навіть якщо він вимкнений.
