Запобігання самоушкодженню в ChatGPT – OpenAI впроваджує Trusted Contact після серії судових позовів – технологічні новини

До розробки інструменту залучили понад 170 фахівців та Глобальну мережу медиків.

Компанія OpenAI оголосила про впровадження нової функції безпеки Trusted Contact у ChatGPT на фоні судових позовів від родин осіб, які вчинили самогубство після спілкування з чат-ботом OpenAI. Цей новий інструмент дозволяє користувачам призначити довірену особу, яка може отримувати сповіщення у разі виявлення ознак можливого самоушкодження під час бесід із чат-ботом.

Функція Trusted Contact є добровільною і доступна для повнолітніх користувачів ChatGPT. Вона дозволяє додати до акаунта одну довірену особу — друга, члена сім’ї або опікуна, — яка отримає попередження у випадку серйозного ризику для безпеки.

В OpenAI пояснили, що система спочатку аналізує розмови за допомогою автоматизованого моніторингу. Якщо чат містить ознаки потенційного самоушкодження, користувачеві пропонують самостійно звернутися до довіреної особи та надають варіанти для початку розмови.

Після цього ситуацію перевіряє спеціально навчена команда модераторів. Якщо вони вважають ризик серйозним, довірений контакт отримує коротке повідомлення електронною поштою, SMS або через застосунок ChatGPT.

У компанії підкреслюють, що повідомлення не містять деталей листування або стенограм чатів. У сповіщенні лише зазначається, що система виявила потенційно тривожні ознаки самоушкодження, а також рекомендація зв’язатися з користувачем.

OpenAI повідомила, що Trusted Contact розробляли спільно з клініцистами, дослідниками та організаціями, які займаються питаннями психічного здоров’я. До консультацій залучили понад 170 експертів і Глобальну мережу лікарів компанії, яка об’єднує понад 260 спеціалістів із 60 країн.

У OpenAI наголошують, що новий інструмент не є заміною професійної допомоги. Компанія вважає Trusted Contact одним із кількох рівнів безпеки, які мають допомогти людям отримати підтримку у кризових ситуаціях. ChatGPT і надалі рекомендуватиме користувачам звертатися до кризових гарячих ліній, екстрених служб або фахівців із психічного здоров’я.

Рішення про запуск нової функції ухвалили на фоні судових позовів проти OpenAI. Родини кількох користувачів, які вчинили самогубство після спілкування з ChatGPT, звинуватили компанію в тому, що чат-бот нібито заохочував суїцидальні думки або допомагав планувати самогубство.

Функція Trusted Contact стала продовженням інструментів батьківського контролю, які компанія запустила у вересні минулого року. Тоді OpenAI дозволила батькам отримувати попередження, якщо система виявляє ознаки гострого психологічного стресу у підліткових акаунтах.