Ансамбль временного веса, причинного вывода и иерархической атрибуции для оптимизации SHAP

Краткое содержание

Цель этой статьи — оценить влияние временного взвешивания, причинного вывода и иерархической атрибуции на оптимизацию интерпретируемости.

Аннотация

За последние несколько лет потребность в прозрачности и интерпретируемости усилилась благодаря значительным достижениям в моделях, основанных на данных, что привело к появлению объяснимого искусственного интеллекта (XAI). Преобладают несколько традиционных подходов XAI; однако у них ограниченная компетентность в интерпретации динамических отношений. Текущие исследования направлены на устранение этого ограничения, предложив новую структуру Ensemble SHapley Additive exPlanations (SHAP), которая сосредоточена на временном взвешивании, причинном выводе, иерархической атрибуции и оптимизации интерпретируемости, называемой TCHSHAP. TCHSHAP отдаёт приоритет текущей информации над исторической, посредством временного взвешивания через экспоненциальное затухание. Кроме того, причинный вывод отделяет корреляцию от причинности для получения практических инсайтов. Кроме того, иерархическая атрибуция позволяет получать инсайты на детализированном (региональном уровне) и агрегированных уровнях (влияние на группы признаков). Эти подходы интегрированы для достижения более интерпретируемой и объяснимой модели. Для проверки эффективности предлагаемой модели мы проводим эксперимент с набором данных по урожайности культур, собранным из Kaggle. Перед экспериментальной оценкой предварительная обработка данных выполняется с использованием однофазного кодирования. Нормализация данных осуществляется с минимальным масштабированием, а выбросы удаляются через межквартильный диапазон. Для экспериментальной оценки авторы использовали модель SHAP XAI для Random Forest. При оценке эффективности предлагаемой модели TCHSHAP наблюдается, что хотя средний прогноз для традиционного SHAP составляет 161,137, он увеличивается до 161,506 после включения временного взвешивания и причинного вывода, что подтверждает эффективность использования временной и причинной значимости. Кроме того, при иерархической атрибуции наблюдается, что сельскохозяйственные особенности имеют наибольшее превосходство над целевой переменной. За этим доминированием следуют географические и экологические факторы в порядке. Таким образом, полученные результаты подтверждают эффективность предлагаемого подхода для повышения глобальной и локальной интерпретируемости, укрепляя доверие пользователя к прогнозам моделей. Текущая работа предлагает пути повышения прозрачности и интерпретируемости без ущерба для производительности модели. Предлагаемая модель также обеспечивает интерпретируемое и эффективное регрессионное моделирование в сложных приложениях, основанных на данных, что позволяет широко применять её в реальных условиях.

Введение

Регрессия играет важную роль в прогнозной аналитике, охватывая несколько областей, включая климатическое моделирование, финансовое прогнозирование, диагностику в здравоохранении и оценку урожайности в сельском^{хозяйстве 1,2}. Однако необъяснимые результаты регрессионных моделей, особенно нелинейных и высокоёмких моделей, таких как градиентные бустерные машины (GBM), случайные леса и глубокие нейронные сети (DNN), создают серьёзные трудности, особенно для приложений, требующих прозрачности и практических инсайтов. Этот разрыв в интерпретируемости можно преодолеть с помощью Объяснимого Искусственного Интеллекта (XAI) — техники, которая всё ещё находится в зачаточном состоянии. В настоящее время традиционные фреймворки XAI, такие как SHAP и Local Interpretable Model Agnostic Explanation (LIME), дают только статические объяснения^{признаков 3}. Эти методы XAI в настоящее время не объясняют тонкости регрессионных задач, связанных с временными зависимостями, иерархическими структурами признаков и причинностями, создавая направление для^{исследований 4,5}. Из-за отсутствия учёта этих факторов XAI иногда может делать ошибочные выводы. Например, традиционный SHAP рассматривает только корреляцию атрибутов с целевой переменной, не учитывая причинность. Рассмотрим набор данных с двумя входными бинарными признаками: потребление табака и окрашенные зубы. Целевой переменной в этом наборе данных является вероятность рака. В таком сценарии, если быть обнаружена корреляция между входными признаками и целевой переменной, рак будет сильно коррелировать с обеими признаками (потребление табака и окрашенные зубы). Теперь довольно вводно в заблуждение заключать, что окрашенные зубы вызывают рак, так как он вызван регулярным употреблением табака. Таким образом, можно резюмировать, что несмотря на значительный прогресс в области XAI, основные вопросы, которые необходимо решать в регрессионных контекстах, включают:

Неспособность учитывать временные зависимости приводит лишь к статичным объяснениям, которые могут не работать в контекстах с динамическими данными.

Отсутствие причинного вывода в традиционных адаптациях SHAP приводит к ложным корреляциям, а не к ценным причинно-следственным инсайтам.

Недостаток внимания к иерархической интерпретации приводит к недостатку высших агрегированных объяснений.

Для решения этих вопросов текущие исследования направлены на предложение новой структуры XAI — TCHSHAP, которая включает временное весичество, причинное заключение и иерархическую атрибуцию с целью повышения интерпретируемости и вычислительной эффективности современных моделей XAI. Для того же в предлагаемой структуре рассматривается временной весовой коэффициент w_t, который присваивает более высокие веса недавнему вкладу признаков по сравнению с прошлыми значениями. Этот весовой коэффициент направлен на то, чтобы интерпретируемость соответствовала временной значимости ключевых признаков в задачах динамической регрессии, таких как прогнозирование доходности и прогнозирование продаж. Кроме того, традиционные регрессионные модели не демонстрируют причинно-следственных связей, что приводит к неоднозначным^{атрибуциям 6}. Для решения этой задачи предлагаемая структура использует структурные причинно-следственные модели (SCM) для оценки причинного влияния признака F_i на результат. Кроме того, наборы данных в реальном времени часто демонстрируют иерархические отношения (пространственные или категорические) между признаками, которые редко демонстрируются в существующих фреймворках^{XAI 4,5,6}. Напротив, предлагаемая фреймворк XAI агрегирует отдельные признаки (F_i) для получения более высокоуровневых признаков (H_j), чтобы добиться детализации объяснений.

Помимо включения временной, причинной и иерархической значимости, предлагаемый ансамбль также направлен на повышение интерпретируемости и объяснимости. Такая цель — попытка установить компромисс между интерпретируемостью и точностью, чтобы объяснения, полученные из TCHSHAP, были точными и^{интерпретируемыми 4}. Предлагаемую структуру XAI можно математически описать следующим образом, а описание используемых переменных приведено в Таблице 1. Традиционное значение SHAP для признака рассчитывается как уравнение (1)^5,6.

(1)

Эта традиционная формулировка SHAP суммирует вклад без учёта временных, причинных или иерархических корректировок.

Переменная	Определение
Fi	Характеристика, значение которой вычисляется
Шапi	Значение shap функции
S	Набор общих признаков
M	Подмножество всех признаков
ФТ	Общее количество функций
P(M)	Прогнозирование модели, когда используются только признаки из M
λ > 0	скорость разложения
T	Время прогнозирования ссылок
Y	Выпуск

Таблица 1: Описание используемых переменных. В этой таблице описывается значимость различных используемых переменных.

Эта традиционная формулировка SHAP модифицируется для обработки динамических зависимостей путём включения временного взвешивания. Это временное взвешивание реализуется путём введения коэффициента взвешивания wt = ^{e-λ |t - T|} где λ представляет коэффициент затухания (λ > 0). Как обсуждалось ранее, это экспоненциальное взвешивание придаёт больший вес недавним значениям по сравнению с прошлыми. Это экспоненциальное затухание включает в себя понимание того, что недавние значения признаков имеют большее значение, чем прошлые. Модифицированное значение SHAP (после включения временной значимости) задаётся в уравнении (2).

(2)

Эта временная информация важна для задач динамической регрессии, таких как прогнозирование доходности или акций.

Кроме того, чтобы сделать объяснения более надёжными, применяется SCM для оценки причинного влияния признака F_i на выход Y. Математическая формулировка причинного SHAP приводится в уравнении (3)

(3)

Здесь do(F_i) обозначает признак, способствовавший изменению. Используя это, модель достигает компетенции объяснять причинность, а не корреляцию. Стоит отметить, что вычисление причинных эффектов на основе SCM гарантирует, что заслуги придаются только признакам с прямым причинным влиянием, что устраняет ложные корреляции.

Кроме того, в предложенной модели предложена иерархия для агрегирования атрибутов на различных уровнях. Математическая формулировка иерархического SHAP приведена в уравнении (4).

(4)

Включение иерархии в предложенную модель обеспечивает достижение детализации объяснений. Предлагаемая структура показана на рисунке 1.

Рисунок 1: Иллюстрация различных элементов предлагаемой структуры. Этот рисунок даёт иллюстрационную иллюстрацию различных элементов предлагаемой структуры TCHSAP, включая временное весичество, причинное заключение и иерархическую атрибуцию. Пожалуйста, нажмите здесь, чтобы увидеть увеличенную версию этой фигуры.

Новизна предлагаемой модели TCHSHAP заключается в решении этих трёх несоответствий путём использования временного взвешивания (чтобы придать больший вес текущей информации), структурных причинных моделей (SCM; для оценки причинных эффектов) и иерархической агрегации значений SHAP (для получения многоуровневых инсайтов). Таким образом, предлагаемый ансамбль расширяет SHAP за пределы статических ограничений, предоставляя оптимизированную для регрессии объяснительную структуру.

Предлагаемый TCHSHAP обладает потенциалом приобрести большое значение для приложений в реальном времени в сценариях, требующих более эффективного принятия решений, поскольку он выявляет подробные объяснения результатов в регрессионных моделях, бесшовно связывая моделирование с принятием решений. В заключение, главный вклад этой рукописи — разработка новой структуры, сочетающей временное весо, причинное заключение и иерархические связи для улучшения практических объяснений традиционной модели SHAP.

Связанные работы

XAI включает различные методологии, специально разработанные для повышения прозрачности и интерпретируемости различных моделей машинного обучения. Эти стратегии XAI формируют уверенность в результатах, предоставляя необходимые инсайты из результатов. Например, заметные методологии XAI, такие как LIME и SHAP, повышают интерпретацию и прозрачность моделей, которые обычно считались «чёрным ящиком» в различных сферах, а именно в финансах, образовании и^{здравоохранении 7}. Кроме того, методы XAI применяются в задачах, связанных с аналитикой программного обеспечения, обнаружением клонов и прогнозированием дефектов Just-in-Time⁸. Кроме того, Авал и Рой также выделили расхождения и показали меньшую надёжность при формулировании^{объяснений 8}. Здесь авторы применили метрики оценки на гранулярном уровне для снижения согласованности в оценке. XAI также широко применяется в медицине для понимания наиболее значимых факторов, влияющих на результаты классификационной задачи, что способствует укреплению доверия медицинских работников к использованию диагностики на основе^{ИИ 9, 10, 11, 12}. Кроме того, в таких секторах, как прогнозирование арендной платы жилья в Бельгии, подходы XAI способствуют интерпретации сложных моделей, тем самым улучшая контроль качества и минимизируя производственные^{ошибки 13}. Боммер и др. показали, что интеграция методов XAI с градиентами повышает эффективность методов XAI с точки зрения устойчивости, точности, сложности и рандомизации в^{климатологии 14}. Многие исследователи пытались создать ансамблевые и гибридные техники. Помимо предложений методов ансамбля, исследователи также продемонстрировали эффективность этих гибридных методов для предоставления всестороннего понимания сложных^{моделей 15,16}. Подробный обзор методов, оптимизаций и различных применений приведён в таблице 2, которая ясно показывает, что наиболее широко применяемые методы — LIME и SHAP. Будущее направление исследований направлено на изучение оптимизации этих методов для повышения интерпретируемости этих моделей. Продолжая направление исследований, авторы в текущих исследованиях сосредоточены на оптимизации SHAP, добавляя причинно-следственные выводы, иерархическую атрибуцию и временное взвешивание.

Цитата	Техники XAI	Оптимизация	Идеи	Приложений	Будущие направления исследований
(Анушри и др., 2024)	ИЗВЕСТЬ	Не предоставлено	Повышение интерпретируемости и прозрачности моделей чёрного ящика в различных областях финансов, образования и здравоохранения.	· Компромисс между точностью и интерпретируемостью в секторе финансов, образования и здравоохранения	· Необходимо составить подробный список метрик для оценки различных моделей XAI
	ШАП
	Механизмы возмущения
	Механизмы, основанные на внимании
(Awal & Roy, 2024)	PyExplainer	Метрики оценки на гранулированном уровне для снижения согласованности в оценке.	Подчёркивает расхождения и демонстрирует меньшую надёжность при формулировании объяснений.	· Задачи, связанные с аналитикой программного обеспечения	· Для повышения надёжности XAI моделей в задачах, связанных с аналитикой программного обеспечения, необходимы передовые методы исследования
	ИЗВЕСТЬ			· Обнаружение клонов
				· Прогнозирование дефекта «Точно вовремя»
(Боммер и др., 2024)	Интегрированные градиенты	Интеграция методов XAI с градиентами	Интеграция методов XAI с градиентами повышает эффективность с точки зрения устойчивости, точности, сложности и рандомизации в климатологии.	· Прогноз климатической науки	· Сосредоточьтесь на конкретной оценке климатологии.
	Распространение релевантности по слоям			· Прогноз среднегодовой температуры
	Входные умножения на градиенты
	методы чувствительности, такие как градиент, SmoothGrad, NoiseGrad и FusionGrad
(Бхатнагар и Агравал, 2024)	ИЗВЕСТЬ	Ансамбль техник XAI	Ансамбль предоставляет всестороннее понимание и повышает интерпретируемость и объяснимость сложных моделей.	· Применяется на наборе данных Moral для повышения интерпретируемости результатов	· Изучите гибридные методы XAI, комбинируя несколько методов
	ШАП				· Настройка различных алгоритмов XAI для конкретных моделей, соответствующих разным потребностям пользователей
(Диас, 2024)	ИЗВЕСТЬ	Интеграция техник XAI	Улучшенная интерпретируемость и точность	· Классификация токсичных комментариев	· Повышение прочности для целей классификации.
	Объясните простыми словами
(Хаджаре и др., 2024)	ШАП	Не предоставляется	SHAP предоставляет подробную информацию о факторах риска при прогнозировании острого коронарного синдрома.	· Острый коронарный синдром (ACS)	· Чтобы узнать новые факторы риска при прогнозировании ACS.
(Хамида и др., 2024)	Всесторонний обзор различных техник XAI	Не предоставляется	Предоставляет аналитические данные о применениях XAI XAI в секторе здравоохранения, подчеркивая важность объяснимости решений ИИ для понимания результатов, которые даёт ИИ.	· Практические инсайты в секторе здравоохранения	· Улучшение компонентов XAI, а именно понятия, прозрачность, интерпретируемость и объяснимость.
					· Индивидуальные методы XAI для сектора здравоохранения для детальной аналитики в области здравоохранения
(Ихонгбе и др., 2024)	Grad-CAM (Отображение активации классов с градиентным взвешенным уклоном)	Отображение активации классов с градиентным взвешенным	Лучшая точность при диагностике пневмонии и COVID-19.	· Повышенная точность медицинской диагностики	Повысить осведомлённость о возможности использования XAI техник в реальной жизни
(Ленаерс и Де Мур, 2023).	6 Техники XAI	Ансамбль из 6 XAI техник на модели CatBoost	Различные методы улучшают интерпретацию XAI для прогнозирования аренды.	· Прогноз арендной платы жилья в Бельгии	XAI можно использовать для принятия решений
(Макумбура и др., 2024)	ШАП	Ансамбль RF, LightGBM, XGBoost с SHAP	SHAP выявляет различные факторы, отвечающие за оценку и прогнозирование качества воды.	· Оценка и прогнозирование качества воды	Может использоваться для принятия решений
(Шлегель и Кейм, 2023).	Методы XAI с анализом возмущений	Анализ возмущений	Может эффективно применяться для задач классификации данных временных рядов	· Временные ряды данных по финансам, здравоохранению, климатологии	Объединить несколько XAI техник для улучшения интерпретации.
(Сильва и Келлер, 2023)	XAI	Не предоставляется	Модели XAI имеют ограничение для объяснения результатов в случае коррелированных признаков. Может применяться для наук о Земле и атмосфере.	· Атмосферные науки	XAI необходимо оптимизировать для коррелированных функций, чтобы избежать ложных объяснений.
	Биомолекулярная скорость реакции			· Атмосферная химия
(Y, S., и Challa, M. 2023)	ШАП	Не предоставляется	Здесь сравниваются модели XAI с точки зрения интерпретируемости и понимания важных характеристик, и делается вывод, что SHAP и LIME являются наиболее эффективными.	· Медицинские применения	Для повышения интерпретируемости для передовых медицинских приложений
	ИЗВЕСТЬ
	PDP
	ГАМ

Таблица 2: Всесторонний обзор различных оптимизаций, выполненных по методам XAI. В этой таблице представлен всесторонний обзор различных методов оптимизации, предложенных различными исследователями.

Протокол

ПРИМЕЧАНИЕ: В этом разделе рассматривается предлагаемый метод ансамбля, включая все предлагаемые поправки, как показано на рисунке 1.

Подготовка данных

Для подтверждения эффективности предлагаемой структуры авторы провели эксперимент с набором данных о урожайности, собранным из^{Kaggle 17}. Этот набор данных состоит из сельскохозяйственных данных Индии по различным культурам с 1997 по 2020 годы и был получен в марте 2025 года. Этот набор данных включает множество характеристик, а именно сезон, crop_year, удобрения, пестициды, урожай и урожайность (целевая переменная) и др. Рассматриваемый набор данных предварительно обработан для повышения эффективности с использованием однофазного кодирования для обработки категориальных значений. Категориальные признаки, такие как сезон, урожай и состояние, кодируются по однофазному режиму. Масштабирование MinMax также используется для масштабирования числовых признаков, таких как площадь, производство, annual_rainfall, удобрения и пестициды до диапазона [0,1]. Для обработки выбросов мы использовали правило межквартильного диапазона с порогом Q₁ - 1,5 •^{IQR 17}. Для получения воспроизводимости результатов применялось случайное семя 42 на всех этапах предварительной обработки. Кроме того, после предварительной обработки набор данных был разделён на обучающий (80%) и тестовый (20%).

Экспериментальная установка

Эксперимент проводился с использованием Python 3.10 на сервере с GPU A100 с процессором: двумя AMD Rome 7742, 128 ядерами, 1 ТБ оперативной памяти. Библиотеки, импортируемые для моделирования, включают scikit-learn 1.3.0, XGBoost 1.7.6, TensorFlow 2.13, SHAP 0.41.0, LIME 0.2.0.1 и ELI5 0.13.0.

Оценка моделей машинного обучения

Здесь авторы использовали различные регрессионные модели, а именно LinearRegression(), Ridge(alpha=1,random_state=42), Lasso(alpha=0.1, случайное_{состояние} = 42), Decision TreeRegressor(max_depth = 10, random_state = 42), RandomForestRegressor(max_depth = 15random_state = 42), GradientBoostingRegressor(n_estimators = 200, learning_rate = 0,1, random_state = 42), XGBoost и CNN для определения влияния различных переменных на доходность целевой переменной¹⁸. XGBoost использует 300 оценщиков и скорость обучения составляет 0,05. В модели CNN используются два скрытых слоя — активации ReLU и оптимизатор Адама с скоростью обучения 0,001. Эффективность этих моделей сравнивается с использованием различных показателей производительности. Эти модели также выполняют настройку гиперпараметров. Например, регрессия по гребню и регрессия по Лассо тренируются с альфа-равнозначностью 1.0, а альфа — 0.1 соответственно. В Дереве Решений и Случайном Лесу максимальная глубина была установлена на уровне 10 и 15 соответственно. Gradient Boosting использует 200 оценщиков и скорость обучения 0,1. Производительность этих моделей оценивалась с помощью пятикратной перекрёстной валидации в терминах средней квадратической ошибки (MSE) и R2 в квадрате.

Оценка моделей XAI

Как уже обсуждалось, текущая работа использует различные модели XAI для сравнения результатов. Здесь авторы используют шап. TreeExplainer(model,data = crop_yield) для моделей на основе деревьев (Random Forest, Gradient Boosting и XGBoost). Из обучающего набора был выбран фоновый набор данных из 100 случайно выбранных случаев для стабилизации атрибуций. Дальше, шап. KernelExplainer() использовался для не-деревных моделей (Linear, Ridge, Lasso и CNN) с 1000 возмущений для приближения к значениям SHAP. Табличное пояснение (lime.lime_tabular. LimeTabularExplainer) использовался с 5000 возмущений на экземпляр для запуска LIME на том же фоновом наборе данных, чтобы обеспечить стабильность локальных объяснений. Ширина ядра определялась на основе характеристик, а функция прогнозирования модели использовалась для выводов объяснений. Локальные объяснения генерировались с помощью вызова explainer.explain_instance(x,model.predict). ELI5 был использован как важность перестановки с 10 повторениями на разделе валидации, чтобы избежать перенагружения тестовых данных, и моделировался с помощью eli5.sklearn.PermutationImportance (estimator,random_state = 42). В ходе эксперимента было выявлено значение среднего значения и дисперсии между повторами. Наконец, фитированная модель использовалась для валидационного разделения с целью получения частных графиков зависимости (PDP), реализованных с помощью PartialDependencyDisplay.from_estimator (модель,X_val,особенности = [особенность]),

Настройка фреймворка TCHSHAP

Впоследствии TCHSHAP реализовывался путём последовательного применения различных шагов. Первым шагом в последовательности было временное взвешивание, использующее экспоненциальную функцию распада со скоростью затухания λ = 0,85, выбранное на основе абляционного исследования по λ [0.7.0.95]. Эталонное время (T_current) было выбрано как недавний год урожая в наборе данных. Это гарантирует, что объяснения модели учитывают динамику прогноза сельскохозяйственного производства, где недавние характеристики (осадки, использование удобрений или пестициды) имеют большее значение для принятия решений. Временное взвешивание сопровождалось SCM для принятия причинных выводов. Предлагаемая методология использует оператор точек для моделирования вмешательств и расчёта среднего причинного эффекта. Причинно-следственный вывод был применён с помощью библиотеки python doWhy 0.13. Это помогает смягчить вводящие в заблуждение связи, связанные с коррелированными входами, такими как производство и площадь, достигая реальных причинно-следственных связей. Последним этапом в процессе стала иерархическая атрибуция, когда признаки были организованы в домены более высокого уровня. Для текущего набора данных есть 3 иерархических особенности: сельскохозяйственные ресурсы (удобрения, пестициды), географические факторы (состояние, площадь, Crop_Year) и экологические факторы (Annual_Rainfall, сезон). Используя нормализованное суммирование для группировки данных SHAP, можно получить объяснения на обоих уровнях (подробных и общих).

В заключение, конвейер TCHSHAP объединяет три этапа — временную корректировку, причинную атрибуцию и иерархическую группировку — в один процесс. Здесь базовый SHAP сначала даёт объяснения, а затем добавляется три улучшения. Этот структурированный конвейер обеспечивает согласованность выходных данных TCHSHAP, возможность воспроизведения и даёт как локальные, так и глобальные объяснения. Пошаговое описание предлагаемой структуры приведено в псевдокоде ниже.

Ввод:
X: Набор данных с признаками_{X 1,X 2,X 3},........,X_n.
t: временная переменная в наборе данных
_{T current}: Время отсчёта
λ: Скорость распада
G: Группы особенностей
Вычисление временных весов
Для каждого случая i X вычислим w_t = ^e-λ|t-T|,
Рассчитать значения Shap_i
Вычислить Shap_Tempral = Shap i * w_t
Вычисление причинно-следственной инференции
Для каждой особенности X_i X
Вычислить причинную связь шапа = Шап_i * Причинный эффект(X j →Y)
Иерархическая атрибуция
Для каждой особенности X_i X
Рассчитать значения Shap_i
Для каждого G_i  G

Выпуск: Набор иерархически агрегированных значений SHAP

Количественная контрольная точка для облегчения устранения неполадок приведена ниже: Случайный лес даёт самый низкий MSE и самый высокий R² по всем моделям машинного обучения. Приобретённой значимостью была зона > пестицидов > удобрений, с минимальными сезонами и Crop_Year. Глобальный базовый прогноз SHAP составил 161,137. Далее, после применения λ = 0,85 вклад Crop_year и Season увеличивается. Вклады на уровне групп следуют по порядку: сельскохозяйственные ресурсы>географические факторы> экологические факторы.

Результаты

В этом разделе рассматриваются результаты, полученные с применением различных методов, использованных в ходе эксперимента, включая различные подразделы, а именно следующие:

Сбор и предобработка данных

Для проведения экспериментальной оценки предлагаемой структуры был собран набор данных по урожайности культур из

Обсуждение

Основная цель текущего исследования — включить временное весиздание, причинные выводы и иерархическую значимость в традиционную модель SHAP, что позволит создать модель TCHSHAP. Цель включения этих компонентов в методы XAI — повысить интерпретацию результатов. Для временного взвешивания мы рассматривали экспоненциальную технику затухания, которая придаёт больше веса недавним значениям по сравнению со старыми. В причинной значимости авторы пытаются оценить прямое влияние различных признак...

Материалы

Список материалов, использованных в этой статье

Имя	Компания	Каталожный номер	Комментарии
Объясните простыми словами	0.13.0	PyPI
ИЗВЕСТЬ	0.2.0.1	PyPI
Nvidia DGX A100 GPU Server	CPU Dual AMD Rome 7742, всего 128 ядер	Nvidia
Системная память 1 ТБ
Питон	3.1	Питон
ШАП	0.41.0	PyPI
scikit-learn	1.3.0	PyPI
TensorFlow	2.13	Тензорный поток
XGBoost	1.7.6	PyPI