Медицинские AI-помощники в Онтарио допускают опасные ошибки
В Онтарио провели оценку AI-помощников для врачей. Результаты показали серьезные проблемы с точностью. Ошибки допустили все 20 одобренных поставщиков. Проблемы затронули запись информации и полноту данных.
Какие ошибки выявили?
- Девять сервисов выдумывали информацию о пациентах.
- Двенадцать записывали данные с ошибками.
- Семнадцать не фиксировали важные детали о психическом здоровье.
Такие ошибки опасны. Они могут привести к ложным направлениям на анализы или некорректной информации о лекарствах. Это создает прямую угрозу здоровью пациентов.
Проблемы с оценкой ai
Возникли вопросы к процессу закупок. Точность записей учитывалась всего на 4% при выведении итоговой оценки, тогда как наличие офиса в Онтарио давало целых 30%. Этот фактор важнее клинической точности.
Даже с такими мягкими критериями, средний балл составил 12 из 20. Этого хватало для одобрения.
Зачем нужны ai-помощники?
Цель инструментов — автоматизировать ведение записей: AI должен структурировать беседы врача с пациентом для последующей выгрузки в электронную карту (EHR).
Это помогает снизить нагрузку на врачей, предотвратить их выгорание и ускорить оформление документов.
Что делать?
Аудитор предлагает обязательную проверку врачом. Все AI-записи должны подтверждаться до внесения в карту. Также рекомендуется проводить внутренний контроль качества. Не стоит полагаться только на списки одобренных поставщиков.
Ранее по теме
X внедряет AI для автоматизации рекламного таргетинга
Больше новостей в нашем Телеграм. Подпишись!
Ссылка на источник тык.
