Мошенники используют ИИ-блогеров для выманивания денег

Мошенники создают виртуальных блогеров с помощью нейросетей. Эти персонажи «жалуются» на жизнь, чтобы втереться в доверие и продать бесполезный товар.

Как работают эти мошенники

Схема проста: в день создаются сотни поддельных профилей. Например, аккаунт "Aliyahsbuckles" собрал 40 тысяч подписчиков и миллионы просмотров, переупаковывая чужой контент для продажи дешевых товаров с огромной наценкой.

Это обходится в копейки: не нужно платить блогерам за рекламу, а производство контента занимает минимум времени.

Используемые нейросети

Для создания таких мошеннических схем используют мощные AI-инструменты. Нейросети типа ChatGPT и Gemini переписывают чужие тексты, адаптируя их под успешные видео для создания нового контента.

Для видеоряда применяют Seedance 2.0, Midjourney, Kling 2.0 и Maxfusion. Эти программы генерируют реалистичные аватары и фоны, создавая фальшивые лица.

Можно подменить лицо реального блогера или создать полностью вымышленного персонажа, часто подделывая образы людей разных рас для усиления эмоционального воздействия. Видео обычно короче 15 секунд. Синхронизация губ и звука часто нарушена. Иногда предметы «плывут», исчезают или выглядят неестественно.

Психология обмана

Ключевой элемент — вызов жалости. Мошенники рассказывают истории о трудностях, например, о притесняемом малом бизнесе, рассчитывая на сочувствие и желание покупателей поддержать «угнетенных».

Это явление называют «цифровым блэкфейсом» — когда мошенники выдают себя за представителей другой расы, монетизируя чужую культуру и идентичность.

Роль алгоритмов соцсетей

Алгоритмы способствуют распространению фейков, показывая контент целевым аудиториям. Например, показ фейковых чернокожих блогеров чернокожим зрителям повышает доверие и просмотры.

Короткие видео побуждают к быстрому просмотру. Люди не успевают критически осмыслить увиденное, что делает их легкой добычей для мошенников.

Как распознать подделку

Обращайте внимание на аккаунты: есть ли ссылка на магазин, повторяются ли фоны, не замечены ли странности в освещении или внешнем виде человека.

Важно развивать медиаграмотность: проверяйте «малый бизнес» перед покупкой и не поддавайтесь только трогательным историям. Количество фейков растет лавинообразно, и модераторы просто не справляются с таким потоком.

Проблемы индустрии

Отсутствие законодательной базы и маркировки фейкового контента соцсетями усугубляет проблему. Эффективных детекторов AI-контента нет, а платформы не спешат внедрять защиту для пользователей.

Платформам выгодно, чтобы люди смотрели видео, даже если они фейковые, поэтому мотивации бороться с проблемой нет.

Ранее по теме
AI-сервисы برای озвучки имен выпускников: риски и выгода

Больше новостей в нашем Телеграм. Подпишись!

Ссылка на источник тык.