Для просмотра этого контента требуется подписка на JoVE. Войдите или начните свой бесплатный пробный период.
Обзорная статья
В этом обзоре обобщены объяснимые методы искусственного интеллекта (XAI) для визуального контроля в промышленной и медицинской областях. В результате поиска под руководством PRISMA было выявлено 75 исследований, которые позволили провести таксономию для конкретной области и сравнительный анализ с использованием стандартизированных показателей. Мы вносим свой вклад в научно обоснованную таксономию и ориентированный на практиков рабочий процесс для выбора инструментов.
Объяснимые методы искусственного интеллекта (XAI) обеспечивают прозрачность и доверие к автоматизированным системам визуального контроля, делая понятными модели машинного обучения «черного ящика». Несмотря на то, что XAI широко применяется, предыдущие обзоры не учитывали конкретные требования задач промышленного и медицинского контроля. В данной статье рассматриваются исследования, в которых применялись методы XAI для визуального контроля в промышленной и медицинской областях. В IEEE Xplore, Scopus, PubMed, arXiv и Web of Science был проведен систематический поиск исследований, опубликованных в период с 2014 по 2025 год, при этом критерии включения требовали применения XAI в задачах проверки с использованием общедоступных или специализированных наборов данных. Из первоначального пула исследований 75 были включены и классифицированы на постфактумные и внутренние, которые затем были оценены с точки зрения точности, надежности, сложности и точности локализации. Результаты показывают, что методы, основанные на градиенте и распространении, предлагают эффективные визуальные объяснения, пригодные для проверки в режиме, близком к реальному времени, хотя и с грубой локализацией, в то время как методы, основанные на возмущениях и суррогатной модели, обеспечивают более детальную атрибуцию при более высоких вычислительных затратах, но с меньшей надежностью. Кроме того, сети на основе прототипов и архитектуры самовнимания иллюстрируют компромисс между интерпретируемостью и прогностической эффективностью. Выбор наиболее эффективного метода XAI не является универсальным; Это зависит от набора данных, задержки и потребности в интерпретируемости. В этом обзоре представлена единая таксономия методов XAI для визуального контроля, сравниваются различные подходы как в промышленной, так и в медицинской областях с использованием стандартизированных метрик, а также предлагается рабочий процесс выбора на основе задач, чтобы помочь практикующим врачам в выборе оптимального метода. По сравнению с предыдущими обзорами, эта работа предлагает межпредметный сравнительный анализ, основанный на количественных бенчмарках, и намечает направления для стандартизированной оценки и валидации, ориентированной на пользователя.
Для таких отраслей, как производство, автомобилестроение, упаковка пищевых продуктов, фармацевтика и здравоохранение, крайне важно убедиться в том, что продукты и системы функционируют адекватно и безопасно. Инструменты автоматизации и машинного обучения, выходящие за рамки традиционного визуального контроля, выполняемого операторами-людьми, или рудиментарных систем на основе камер, повышают точность, скорость производства и согласованность1. Инспекция с помощью искусственного интеллекта позволяет осуществлять мониторинг в режиме реального времени2 и обнаруживать дефекты в средах с высок....
Доступ ограничен. Войдите в систему или начните пробный период, чтобы просмотреть этот контент.
2. Фреймворк XAI
Большинство современных моделей ИИ, особенно глубоких нейронных сетей, часто рассматриваются как черные ящики; Практически неясно, как они принимают решения12. Отсутствие прозрачности является барьером для доверия и объяснимости в различных приложениях. В результате XAI стал неотъемлемой частью надежного искусственного интеллекта. Не существует единого подхода, подходящего для всех сценариев: некоторые методы предполагают полный доступ к внутреннему устройству модели, в то время как другие рассматривают модель как неизменяемый черный ящик; Некоторые из них отдают приоритет локальным об....
Доступ ограничен. Войдите в систему или начните пробный период, чтобы просмотреть этот контент.
В этом обзоре было рассмотрено 75 исследований XAI при визуальном осмотре, в результате чего была составлена таксономия апостериорных и внутренних методов, а также сравнительный анализ, основанный на бенчмарках. Полученные данные подтверждают, что ни один метод не превосходит другие: градиентные подходы, такие как GradCAM и LRP, эффективны для локализации дефектов в реальном времени, но их объяснения могут быть грубыми в сложных областях. Методы, основанные на возмущениях, такие как SHAP.......
Доступ ограничен. Войдите в систему или начните пробный период, чтобы просмотреть этот контент.
Авторы заявляют об отсутствии конфликта интересов в связи с публикацией данной работы.
Автор(ы) заявляют, что эта работа не получала специального гранта от какого-либо финансирующего агентства в государственном, коммерческом или некоммерческом секторах.
....Доступ ограничен. Войдите в систему или начните пробный период, чтобы просмотреть этот контент.
Доступ ограничен. Войдите в систему или начните пробный период, чтобы просмотреть этот контент.