Система WE-FORGE автоматически создает AI-ловушки для поиска утечек

Ловушка для шпиона: как найти утечку данных

Canary trap — это метод выявления источника утечки данных: разным сотрудникам выдаются слегка измененные копии документа, по которым легко вычислить «слив».

Пример из жизни: выборы в альберте

Впервые этот метод громко прозвучал во время скандала с утечкой данных на выборах в Альберте. Организаторы добавили в базу избирателей множество фальшивых записей. Когда эти вымышленные данные появились у сепаратистского проекта The Centurion Project, стало ясно, кто украл оригинал. Это стало железным доказательством в суде, сайт нарушителей закрыли, а проект перестал существовать.

Где еще это используют?

Технику canary trap применяют многие компании, например, Apple и Tesla. В киноиндустрии так проверяют, не слили ли сценарии. Похожий случай был с фильмом Star Trek. Сам термин появился в книге Тома Клэнси «Игры патриотов» в 80-х.

Ии на страже данных

Сейчас AI помогает создавать такие ловушки. В 2021 году исследователи из Дартмутского колледжа представили систему WE-FORGE. Она сама генерирует поддельные документы, которые выглядят как настоящие, но содержат уникальные ошибки. Это полезно для защиты военных технологий или формул лекарств.

WE-FORGE автоматизирует создание «правдоподобных, но неверных» данных. Это в разы быстрее и точнее ручной подготовки документов.

Почему это выгодно бизнесу?

Canary trap — отличный инструмент для безопасности. Это главный сдерживающий фактор для инсайдеров и внешних злоумышленников. Если кража все же произошла, виновника вычисляют за считанные минуты. Это экономит время и ресурсы.

Метод гибкий и применяется в разных сферах: от выборов до производства и научных исследований.

Ранее по теме
Google запустил Gemini Enterprise Agent Platform для контроля ИИ-агентов

Больше новостей в нашем Телеграм. Подпишись!

Ссылка на источник тык.