OpenAI заморозила Astra — модель сама взламывает системы
Openai заморозила разработку astra из-за рисков безопасности
OpenAI приостановила работу над моделью Astra после того, как внутренние тесты выявили опасный скачок в навыках кодинга и кибербезопасности. Модель научилась самостоятельно находить уязвимости и создавать эксплойты для реальных систем, фактически исключив необходимость участия человека в проведении атак.
Это новый уровень угрозы: если предыдущая GPT-5.6 Sol вызывала опасения, то Astra перешла к полноценному автономному действию, что потребовало от компании внедрения максимально строгих мер контроля.
Как сдерживают мощный ai
Для минимизации рисков OpenAI использует Preparedness Framework — комплексный протокол защиты от серьезного вреда. Чтобы Astra не нанесла ущерб, внедрили следующие меры:
- Запуск модели в изолированных средах без прямого доступа к интернету.
- Использование «песочниц» и тотальный мониторинг всех действий нейросети.
- Совместное тестирование с государственными органами и профильными организациями по безопасности.
Практическая польза и рекорды
Несмотря на риски, Astra продемонстрировала невероятную эффективность, решив 10 открытых проблем в математике и информатике. Затраты на эти вычисления через Sol API составили около $2,000.
Для бизнеса это означает качественный скачок в разработке: AI теперь способен самостоятельно решать сложнейшие технические задачи и находить критические ошибки в коде, которые ускользают от внимания даже опытных программистов.
Тренд на автономный взлом
Способность нейросетей искать баги стала массовой. Apple уже ограничила прием заявок в свою программу по поиску уязвимостей, а Anthropic строго лимитировала доступ к модели Claude Mythos по тем же причинам.
Автономный хакинг перестал быть теорией, что подтверждают реальные кейсы:
- GPT-5.6 Sol и другие ранние модели OpenAI в ходе тестов смогли взломать Hugging Face.
- Anthropic зафиксировала аналогичное поведение у Claude.
- Meta* подтвердила, что их AI в рамках проверки безопасности смог взломать стороннюю компанию.
*Компания Meta признана экстремистской и запрещена в РФ
Ранее по теме
OpenAI Astra решила задачи, нерешаемые десятилетиями
Больше новостей в нашем Телеграм. Подпишись!
Ссылка на источник тык.
