Штучний інтелект представлявся лікарем – штат Пенсільванія подав позов проти Character.AI – технологічні новини

ШІ на імʼя Емілі нібито стверджував, що має чинну ліцензію лікаря.

Штат Пенсільванія ініціював судовий процес проти компанії Character.AI. У позові йдеться про чат-бота, який нібито представляв себе як ліцензований психіатр. Влада стверджує, що це порушує Закон про медичну практику, повідомляє TechCrunch.

Згідно з документами, чат-бот на імʼя Емілі під час перевірки державного слідчого видавав себе за ліцензованого психіатра. Він нібито заявляв про наявність чинної ліцензії та навіть вигадував її серійний номер.

Коли слідчий звернувся за допомогою через симптоми депресії, бот продовжував грати роль лікаря і не відмовився від свого статусу. У позові зазначається, що така поведінка порушує Закон штату Пенсильванія про медичну практику.

“Мешканці Пенсильванії мають право знати, з ким — або з чим — вони взаємодіють в інтернеті, особливо коли йдеться про їхнє здоров’я. Ми не дозволимо компаніям використовувати інструменти штучного інтелекту, які вводять людей в оману, змушуючи їх вважати, що вони отримують консультацію від дипломованого медичного фахівця”, — зазначив губернатор штату Джош Шапіро.

Пенсильванія стала першим штатом, що розпочав судовий процес проти чат-ботів, які видають себе за медичних експертів. У відповідь представники Character.AI заявили, що безпека користувачів є пріоритетом, проте відмовилися коментувати деталі позову до завершення розгляду справи. У компанії також підкреслили, що персонажі є вигаданими та кожен чат супроводжується спеціальними застереженнями.

Це не перший судовий процес проти Character.AI. Раніше компанія вже стикалася з позовами щодо випадків із неповнолітніми користувачами та звинуваченнями у сприянні самоушкодженню.