Сингапур ввел правила контроля за AI-агентами
Управление ИИ-агентами: Руководство из Сингапура
Сингапур представил обновленное руководство 1.5 по управлению системами "Agentic AI". Эти системы способны самостоятельно планировать и принимать решения для достижения поставленных целей. Они могут использовать различные инструменты, взаимодействовать с другими агентами, обновлять данные и управлять устройствами.
Регуляторы теперь настаивают на непрерывном мониторинге вместо разовых проверок. Руководство подчеркивает важность управления рисками, особенно при работе с физическими объектами, где ошибки могут серьезно повлиять на безопасность инфраструктуры.
Модель ответственности четко распределяет обязанности между всеми участниками: от разработчиков до конечных пользователей.
Контроль при работе с реальными объектами
Рекомендуется применять меры предосторожности, такие как ограничение доступа агентов к определенным инструментам и разработка механизмов экстренного отключения в случае сбоев. Особый контроль необходим для критически важных ситуаций.
Система должна учитывать риск предвзятости автоматизации, когда человек слепо доверяет результатам работы алгоритма. Важно контролировать время реакции систем и оперативно отключать их при возникновении непредвиденных ситуаций.
Примеры использования
Компания Grab активно использует симуляции для тестирования решений до их внедрения, а постоянный мониторинг реальных систем позволяет вовремя выявлять и исправлять любые ошибки.
OCBC Bank применяет AI для анализа документов. Система автоматически обрабатывает информацию, но финальное решение, например, по кредитам или безопасности, всегда остается за человеком.
Тренды рынка ии
В Японии около трети компаний уже используют AI, примерно 4% применяют роботов, еще 5% планируют их внедрение, а остальные находятся на стадии рассмотрения.
Роботов чаще всего используют в производстве, для выполнения опасных работ и обслуживания клиентов. Особую активность в внедрении AI демонстрируют производители транспорта.
Новые разработки
Китайская компания Galbot выводит на рынок человекоподобных роботов для работы на складах и в магазинах, что особенно удобно для круглосуточной торговли.
Япония ведет сбор данных о роботах для создания универсальных базовых моделей. Этот процесс требует использования специализированного оборудования, включая датчики, процессоры и технологии корпусирования микросхем.
ИИ-агенты в бизнесе
Walmart разрабатывает AI-помощников, которые будут поддерживать покупателей, сотрудников, поставщиков и разработчиков.
Уже существует помощник "Sparky", который помогает с покупками и планированием. В планах — наделение его способностью распознавать продукты в холодильнике.
ИИ в финансах и безопасности
Банки используют модель Mythos от Anthropic для поиска уязвимостей в системах, что повышает их защищенность от взломов.
Банки активно расширяют штат ИИ-специалистов, постепенно сокращая количество традиционных банковских сотрудников по мере автоматизации процессов.
Ранее по теме
AI ускоряет проектирование авто и заменяет тесты
Больше новостей в нашем Телеграм. Подпишись!
Ссылка на источник тык.
