Meta AI оповестит родителей о суицидальных мыслях детей
Meta* усилила защиту подростков в Meta* AI, чтобы эффективнее бороться с опасным контентом и селфхармом. Безопасность обеспечивается комбинацией нейросетей, модераторов и инструментов родительского контроля.
Уведомления для родителей
В Instagram появилась функция Parent Alerts. Она оповещает родителей, если Meta* AI обнаружил признаки суицидальных мыслей у ребенка. Сейчас сервис доступен в США, Великобритании, Австралии и Канаде, вскоре он станет доступен по всему миру.
Процесс проверки многоуровневый: сначала запрос анализирует нейросеть, затем его перепроверяет сотрудник службы модерации, и только после этого родителю приходит уведомление с рекомендациями психологов.
Экстренная помощь и фильтрация
В ситуациях с прямой угрозой жизни Meta* AI может вызвать спасателей. В прошлом году компания уже направила 19 000 таких запросов в экстренные службы. Все пользователи до 18 лет по умолчанию получают настройки подросткового аккаунта.
Родители могут активировать режим Limited Content для жесткой фильтрации ответов AI. Контент по чувствительным темам предварительно проверяют профильные врачи и эксперты по психологическому благополучию.
Опыт конкурентов
- OpenAI: ChatGPT определяет возраст пользователя. Для подростков отключают рекламу, вводят фильтры и запрашивают согласие родителей.
- Anthropic: Сервис Claude доступен только с 18 лет. Система отслеживает признаки использования аккаунта детьми и блокирует такие профили.
*Компания Meta признана экстремистской и запрещена в РФРанее по теме
OpenAI создаст AI-гаджеты и замену смартфону
Больше новостей в нашем Телеграм. Подпишись!
Ссылка на источник тык.
