ChatGPT добавил уведомление доверенных лиц при угрозах
OpenAI добавила в ChatGPT функцию Trusted Contact. Она уведомит выбранного вами человека, если вы упомянете в чате мысли о причинении вреда себе.
Взрослые пользователи могут указать друга или члена семьи в настройках аккаунта ChatGPT. Этот человек получит статус вашего доверенного контакта.
Как работает trusted contact
Система анализирует диалоги на наличие опасных тем. При высоком риске сигнал поступает специалистам OpenAI, которые проверяют инцидент менее чем за час. При подтверждении серьезной угрозы доверенному контакту отправляется оповещение. Это может быть email, SMS или сообщение в приложении. Уведомление краткое, чтобы не раскрывать детали диалога — оно лишь просит связаться с вами.
Причина появления функции
Функция была внедрена в ответ на критику и судебные иски: компанию обвиняли в том, что AI может провоцировать пользователей на самоповреждение. Ранее были введены оповещения о кризисных ресурсах, а с сентября работают родительские настройки для информирования о рисках для подростков. Trusted Contact — дополнительная мера безопасности.
Особенности trusted contact
Trusted Contact — добровольная функция, которую нужно активировать вручную: она не включается для всех пользователей автоматически. Важно помнить, что можно обойти эти меры, используя несколько аккаунтов.
OpenAI разрабатывает этот инструмент совместно с экспертами, чтобы повысить эффективность помощи AI в кризисных ситуациях.
Ранее по теме
OpenAI ввела физическую защиту аккаунтов ключами YubiKey
Больше новостей в нашем Телеграм. Подпишись!
Ссылка на источник тык.