Мошенники используют ИИ-блогеров для выманивания денег
Мошенники создают виртуальных блогеров с помощью нейросетей. Эти персонажи «жалуются» на жизнь, чтобы втереться в доверие и продать бесполезный товар.
Как работают эти мошенники
Схема проста: в день создаются сотни поддельных профилей. Например, аккаунт "Aliyahsbuckles" собрал 40 тысяч подписчиков и миллионы просмотров, переупаковывая чужой контент для продажи дешевых товаров с огромной наценкой.
Это обходится в копейки: не нужно платить блогерам за рекламу, а производство контента занимает минимум времени.
Используемые нейросети
Для создания таких мошеннических схем используют мощные AI-инструменты. Нейросети типа ChatGPT и Gemini переписывают чужие тексты, адаптируя их под успешные видео для создания нового контента.
Для видеоряда применяют Seedance 2.0, Midjourney, Kling 2.0 и Maxfusion. Эти программы генерируют реалистичные аватары и фоны, создавая фальшивые лица.
Можно подменить лицо реального блогера или создать полностью вымышленного персонажа, часто подделывая образы людей разных рас для усиления эмоционального воздействия. Видео обычно короче 15 секунд. Синхронизация губ и звука часто нарушена. Иногда предметы «плывут», исчезают или выглядят неестественно.
Психология обмана
Ключевой элемент — вызов жалости. Мошенники рассказывают истории о трудностях, например, о притесняемом малом бизнесе, рассчитывая на сочувствие и желание покупателей поддержать «угнетенных».
Это явление называют «цифровым блэкфейсом» — когда мошенники выдают себя за представителей другой расы, монетизируя чужую культуру и идентичность.
Роль алгоритмов соцсетей
Алгоритмы способствуют распространению фейков, показывая контент целевым аудиториям. Например, показ фейковых чернокожих блогеров чернокожим зрителям повышает доверие и просмотры.
Короткие видео побуждают к быстрому просмотру. Люди не успевают критически осмыслить увиденное, что делает их легкой добычей для мошенников.
Как распознать подделку
Обращайте внимание на аккаунты: есть ли ссылка на магазин, повторяются ли фоны, не замечены ли странности в освещении или внешнем виде человека.
Важно развивать медиаграмотность: проверяйте «малый бизнес» перед покупкой и не поддавайтесь только трогательным историям. Количество фейков растет лавинообразно, и модераторы просто не справляются с таким потоком.
Проблемы индустрии
Отсутствие законодательной базы и маркировки фейкового контента соцсетями усугубляет проблему. Эффективных детекторов AI-контента нет, а платформы не спешат внедрять защиту для пользователей.
Платформам выгодно, чтобы люди смотрели видео, даже если они фейковые, поэтому мотивации бороться с проблемой нет.
Ранее по теме
AI-сервисы برای озвучки имен выпускников: риски и выгода
Больше новостей в нашем Телеграм. Подпишись!
Ссылка на источник тык.
