Shadow AI и дыры в API угрожают безопасности бизнеса

Компании должны внедрять единую стратегию безопасности AI. Это неотделимая часть безопасности данных. Нужен платформенный подход, где безопасность и контроль встраиваются изначально. Поскольку AI постоянно меняется, необходима унифицированная защита, работающая везде: в разных облаках и моделях, включая поставщиков и SaaS. Безопасность AI теперь находится на уровне руководства, так как технические отделы не справляются самостоятельно.

Риски "теневого ai"

Существует риск "теневого AI", когда AI-инструменты используются без надлежащего контроля. Такие системы могут случайно получать доступ к забытым данным на слабо защищенных серверах, что приводит к утечкам.

Новые угрозы и защита

Киберугрозы стали намного быстрее, а атаки совершаются за считанные секунды. Требуется защита на основе AI, способная действовать автономно. Атакам подвержены как сами модели AI, так и данные для их обучения, а также команды, работающие с AI.

Кадровый голод и платформы

Наблюдается нехватка специалистов по безопасности AI, что затрудняет управление уязвимостями. Построение устойчивой системы защиты потребует многих лет.

Проблемы с платформами

Платформы также имеют свои сложности. Google Cloud сообщал о неожиданных расходах и ошибках с API. Например, ключи Google Maps предоставили доступ к Gemini, из-за чего пользователи получили огромные счета. Компания Prentus столкнулась с расходами в $10 138, а один разработчик имел долг в AUD $17 000, полагая, что его лимит составляет $250. Google может автоматически увеличивать лимиты для обеспечения бесперебойной работы.

Задержки с отзывом ключей

Aikido Security выявила проблемы с отзывом ключей API: некоторые удаленные ключи оставались активными до 23 минут. За это время злоумышленники успевают провести атаку. Новые типы ключей отзываются быстрее, всего за 5 секунд — одну минуту, однако старые проблемы сохраняются. Долгие задержки — это вопрос политики, а не техническая сложность.

Ранее по теме
AI-сервисы برای озвучки имен выпускников: риски и выгода

Больше новостей в нашем Телеграм. Подпишись!

Ссылка на источник тык.