Microsoft выпустила ASSERT для автоматического тестирования AI-систем

Microsoft представила open-source фреймворк ASSERT. Он помогает разработчикам тестировать и оценивать свои AI-системы. ASSERT позволяет проверять AI, учитывая специфику приложения, политику компании и поставленные цели. Это гораздо точнее обычных бенчмарков.

Фреймворк с помощью AI превращает описание желаемого результата в структурированные тестовые кейсы. Каждому кейсу присваивается оценка, что позволяет детально анализировать работу AI.

Как работает assert

ASSERT переводит описание ожидаемого поведения системы с простого языка в технические сценарии. Затем он создает наборы допустимых и недопустимых действий. После этого генерируются сценарии проблем и тестовые случаи. Они прогоняются через целевую AI-систему.

Фреймворк фиксирует внутренние операции системы, включая промежуточные действия и вызовы инструментов. Разработчики получают подробную информацию, которая помогает найти причину сбоев.

ASSERT также поддерживает интеграцию контекста, учитывая инструменты и ограничения системы. Разработчики могут настроить протоколы оценки, чтобы точно соответствовать требованиям приложения.

Примеры использования assert

ASSERT применим на всех этапах жизни AI: от разработки до внедрения и мониторинга. Он особенно эффективен для проверки соответствия бизнес-логике и контроля политик компании.

Например, можно использовать ASSERT для таких правил: запретить отправку писем внешним контактам, ограничить доступ к конфиденциальной информации или установить стандартные форматы вывода данных для кратких и понятных резюме.

Преимущества assert

ASSERT решает важную проблему оценки AI. Традиционные общие бенчмарки часто недостаточны, так как не учитывают специфику продуктов или организаций.

ASSERT помогает преодолеть этот пробел. Он проверяет, соответствуют ли AI-системы внутренним стандартам, используя многомерное тестирование. Такой подход повышает доверие к AI, и компании могут подтвердить соблюдение заданных требований.

Тенденции в оценке ai

В сфере AI-разработки стандарты тестирования становятся строже: по мере роста сложности моделей значимость автоматических проверок только увеличивается. Это повышает надежность систем и помогает предотвратить ошибки в их работе. Разрабатываются новые инструменты для оценки AI.

Альтернативы и дополнения

Помимо ASSERT, существуют и другие инструменты. Stanford HELM предлагает фреймворк для оценки производительности AI. MLCommons AILuminate фокусируется на безопасности AI-моделей.

Организация METR оценивает поведение AI в разных условиях. Все эти инструменты помогают создавать более надежный подход к оценке AI-систем.

Ранее по теме
Microsoft представила AI-модели и локальные вычисления на Build

Больше новостей в нашем Телеграм. Подпишись!

Ссылка на источник тык.