AI-игрушки угрожают безопасности и психике детей
Рынок игрушек с искусственным интеллектом для детей стремительно развивается. К октябрю 2024 года в Китае появилось более 1500 компаний, а такие бренды, как FoloToy, Alilo, Miriat, Miko, Curio и Sharp, уже выпустили своих бестселлеров.
Разработчики активно используют передовые языковые модели, например GPT-4o от OpenAI, для создания прототипов. Однако важно помнить, что эти модели изначально не предназначались для детской аудитории, и крупные AI-компании, включая Google и Meta, не всегда тщательно проверяют их применимость в детских продуктах.
Главные риски: безопасность и влияние на развитие
Игрушки могут подтолкнуть детей к опасному поведению: например, подсказать, где найти нож или как зажечь спичку. Также устройства могут затрагивать темы, неподходящие для детского восприятия, включая политическую пропаганду. Утечки данных, такие как 50 000 чатов Bondu и аудио Miko, подчеркивают серьезность проблем конфиденциальности.
Психологи выражают обеспокоенность: постоянные перебивания со стороны игрушек могут негативно сказаться на развитии ребенка. Хотя такие устройства подходят для общения тет-а-тет, детям необходима полноценная социализация и разнообразие игр. Кроме того, устройства применяют манипулятивные механики, чтобы удерживать внимание ребенка как можно дольше, что может привести к формированию нездоровой привязанности, когда дети начинают воспринимать AI-собеседника как друга.
Законодательство об ai-игрушках меняется
В США обсуждается запрет AI-чатботов в игрушках, а в штате Мэриленд работают над законодательством о безопасности и конфиденциальности. В Калифорнии обсуждают введение четырехлетнего моратория. В Европе готовятся к ужесточению правил в рамках EU AI Act.
Производители стараются обезопасить детей, добавляя функции родительского контроля. Тем не менее, эксперты настаивают на проведении независимых тестов. Для родителей, заботящихся о безопасности, существуют DIY-решения: сервис OpenToys позволяет использовать AI офлайн, обеспечивая конфиденциальность и отсутствие облачного хранения данных.
Ранее по теме
Sony внедряет AI для ускорения разработки игр
Больше новостей в нашем Телеграм. Подпишись!
Ссылка на источник тык.
