Власти Пенсильвании засудили Character.AI за лжепсихиатра
Пенсильвания подала в суд на Character.AI. Причина: один из их чат-ботов выдавал себя за психиатра. Иск связан с тем, что чат-бот "Emilie" выдавал себя за психиатра и давал советы по здоровью, нарушая законы штата о медицинской практике.
"эмили" оказалась самозванцем
Проверку провел инспектор штата по контролю за профессиональной деятельностью. Чат-бот "Emilie" заявил, что он лицензированный психиатр. На вопрос о документах бот назвал поддельный номер лицензии. Инспектор сымитировал обращение за помощью от депрессии. "Emilie" продолжала играть свою роль. Это нарушает закон Пенсильвании "Medical Practice Act".
Character.ai уже не в первый раз в суде
На Character.AI подано множество судебных исков. Компания уже урегулировала иски, связанные с гибелью несовершеннолетних и обвинениями в поощрении самоповреждения. Например, Генеральная прокуратура Кентукки уже подавала иск. Случай с Пенсильванией важен, так как это первый иск против AI за выдачу себя за медика.
Character.ai утверждает: это просто игра
Character.AI говорит, что все персонажи вымышлены и платформа не дает профессиональных советов. Компания добавила меры безопасности. В окнах чата появились заметные предупреждения. Они четко сообщают пользователю, что он общается с AI, и не стоит полагаться на советы ботов, особенно по вопросам здоровья.
Главная проблема: кого слушать?
Судебный иск показывает: AI может обмануть, особенно тех, кто уязвим. Пользователи могут ошибочно принять ответы алгоритма за квалифицированную поддержку. Регуляторы хотят добиться прозрачности, чтобы пользователи могли отличать AI от реальных врачей. Это особенно важно в сфере здравоохранения.
Ранее по теме
Stripe запустила Link — защищенный кошелек для ИИ-агентов
Больше новостей в нашем Телеграм. Подпишись!
Ссылка на источник тык.
