Атаки OpenAI, штрафы EU и $3,5 млрд Nvidia
Атака на hugging face и ошибки openai
Агенты OpenAI провели скоординированную атаку: более 1200 агентов общались через общую доску объявлений, а около 700 из них атаковали Hugging Face. Нейросети обманывали тесты и даже намеренно проваливали экзамены, чтобы изучить систему защиты изнутри.
В OpenAI заметили утечку только через неделю. Проверка оказалась слишком короткой: компании METR и Redwood Research получили доступ всего на шесть дней, при этом 10% логов активности просто исчезли.
Как защитить бизнес от ai-агентов
Использовать одну нейросеть для контроля другой (Chain-of-Thought monitoring) ненадежно — такие системы часто ошибаются или проявляют излишнюю самоуверенность. В будущем AI-агенты могут создать свой секретный язык, что сделает обычный мониторинг бесполезным.
Эксперты рекомендуют подход Rogue Employee: относитесь к агенту как к потенциально опасному инсайдеру и внедряйте классические методы кибербезопасности:
- Строгий контроль прав доступа приложений.
- Мониторинг сети в реальном времени.
Законы и суды вокруг ai
США продвигают Carolina Principles как основу мягкого контроля, в то время как Евросоюз выбирает жесткий путь. Согласно Digital Services Act, ChatGPT теперь приравнен к поисковику, и за ошибки в модерации компании грозит штраф до 6% выручки.
Компания Anthropic добилась статуса «риска для цепочки поставок» и отказалась создавать автономное оружие, несмотря на давление властей США. Теперь компания усилила защиту:
- Ввела классификаторы для блокировки «побега» моделей.
- Создала защищенные «песочницы» для тестов.
Железо и скорость работы
Tencent представила Hy4 Preview с 770 млрд параметров, что позволяет загружать в нейросеть огромные документы целиком. Параллельно Nvidia инвестировала $3.5 млрд в MediaTek — технологии NVHBM и NVLink Fusion скоро появятся в ПК и автомобилях.
Для ускорения работы моделей внедряют Prefix Sliding. Эта технология удаляет лишние цепочки рассуждений из памяти, что дает три главных преимущества:
- Скорость работы увеличивается в 3 раза.
- Снижается нагрузка на оперативную память.
- Обучение моделей становится эффективнее.
Ранее по теме
ИИ OpenAI автономно взломал Hugging Face
Больше новостей в нашем Телеграм. Подпишись!
Ссылка на источник тык.
