Shadow AI и дыры в API угрожают безопасности бизнеса
Компании должны внедрять единую стратегию безопасности AI. Это неотделимая часть безопасности данных. Нужен платформенный подход, где безопасность и контроль встраиваются изначально. Поскольку AI постоянно меняется, необходима унифицированная защита, работающая везде: в разных облаках и моделях, включая поставщиков и SaaS. Безопасность AI теперь находится на уровне руководства, так как технические отделы не справляются самостоятельно.
Риски "теневого ai"
Существует риск "теневого AI", когда AI-инструменты используются без надлежащего контроля. Такие системы могут случайно получать доступ к забытым данным на слабо защищенных серверах, что приводит к утечкам.
Новые угрозы и защита
Киберугрозы стали намного быстрее, а атаки совершаются за считанные секунды. Требуется защита на основе AI, способная действовать автономно. Атакам подвержены как сами модели AI, так и данные для их обучения, а также команды, работающие с AI.
Кадровый голод и платформы
Наблюдается нехватка специалистов по безопасности AI, что затрудняет управление уязвимостями. Построение устойчивой системы защиты потребует многих лет.
Проблемы с платформами
Платформы также имеют свои сложности. Google Cloud сообщал о неожиданных расходах и ошибках с API. Например, ключи Google Maps предоставили доступ к Gemini, из-за чего пользователи получили огромные счета. Компания Prentus столкнулась с расходами в $10 138, а один разработчик имел долг в AUD $17 000, полагая, что его лимит составляет $250. Google может автоматически увеличивать лимиты для обеспечения бесперебойной работы.
Задержки с отзывом ключей
Aikido Security выявила проблемы с отзывом ключей API: некоторые удаленные ключи оставались активными до 23 минут. За это время злоумышленники успевают провести атаку. Новые типы ключей отзываются быстрее, всего за 5 секунд — одну минуту, однако старые проблемы сохраняются. Долгие задержки — это вопрос политики, а не техническая сложность.
Ранее по теме
AI-сервисы برای озвучки имен выпускников: риски и выгода
Больше новостей в нашем Телеграм. Подпишись!
Ссылка на источник тык.
