经典机器学习中的SHAP可解释分析

一、SHAP 原理

SHAP（SHapley Additive exPlanations） 是一种基于博弈论的机器学习可解释性方法，用于解释个体预测结果和全局模型行为。其核心思想是将每个特征对模型预测的贡献分解为可加的数值，从而量化每个特征的重要性及其对预测结果的影响方向（正 / 负）。

为什么会生成 shap_values 数组？

• 解释单个预测： SHAP 的核心是解释单个预测结果。
• 特征贡献： 对于这个预测，我们需要知道每个特征是把它往“高”推了，还是往“低”推了（相对于基准值），以及推了多少。
• 数值化： 这个“推力”的大小和方向就是该特征对该样本预测的 SHAP 值。

对于回归问题：

• 模型只有一个输出。
• 对 n_samples 个样本中的每一个，计算 n_features 个特征各自的 SHAP 值。
• 这就自然形成了形状为 (n_samples, n_features) 的数组。 shap_values[i, j] 代表第 i 个样本的第 j 个特征对该样本预测值的贡献。

对于分类问题：

• 模型通常为每个类别输出一个分数或概率。
• SHAP 需要解释模型是如何得到每个类别的分数的。
• 因此，对 n_samples 个样本中的每一个，分别为每个类别计算 n_features 个特征的 SHAP 值。
• 最常见的组织方式是返回一个列表，列表长度等于类别数。列表的第 k 个元素是一个 (n_samples, n_features) 的数组，表示所有样本的所有特征对预测类别 k 的贡献。
• shap_values[k][i, j] 代表第 i 个样本的第 j 个特征对该样本预测类别 k 的贡献。

import shap
import matplotlib.pyplot as plt

# 初始化 SHAP 解释器
explainer = shap.TreeExplainer(rf_model)

# 计算 SHAP 值（基于测试集），这个shap_values是一个numpy数组，表示每个特征对每个样本的贡献值
# 这里大家先知道这是个numpy数组即可，我们后面学习完numpy在来回头解读这个值
shap_values = explainer.shap_values(X_test) # 这个计算耗时

二、shap的维度要求 

SHAP（SHapley Additive exPlanations）对输入数据的维度有明确要求，具体取决于使用的模型类型和解释器。

• 分类问题：shap_values.shape =(n_samples, n_features, n_classes)
• 回归问题：shap_values.shape = (n_samples, n_features)

shap_values # 每一行代表一个样本，每一列代表一个特征，值表示该特征对该样本的预测结果的影响程度。正值表示该特征对预测结果有正向影响，负值表示负向影响。

array([[[ 9.07465700e-03, -9.07465700e-03],
        [ 7.21456498e-03, -7.21456498e-03],
        [ 4.55189444e-02, -4.55189444e-02],
        ...,
        [ 7.12857198e-05, -7.12857198e-05],
        [ 4.67733508e-05, -4.67733508e-05],
        [ 1.61298135e-04, -1.61298135e-04]],

       [[-1.02606871e-02,  1.02606871e-02],
        [ 1.85572634e-02, -1.85572634e-02],
        [-1.64992848e-02,  1.64992848e-02],
        ...,
        [ 2.00070852e-04, -2.00070852e-04],
        [ 5.11798841e-05, -5.11798841e-05],
        [ 1.02827796e-04, -1.02827796e-04]],

       [[ 3.21529115e-03, -3.21529115e-03],
        [ 1.28184070e-02, -1.28184070e-02],
        [ 1.02124914e-01, -1.02124914e-01],
        ...,
        [ 1.73012306e-04, -1.73012306e-04],
        [ 4.74133256e-05, -4.74133256e-05],
        [ 1.26753231e-04, -1.26753231e-04]],

       ...,

       [[ 1.15222741e-03, -1.15222741e-03],
        [-1.71843266e-02,  1.71843266e-02],
        [-3.04994337e-02,  3.04994337e-02],
        ...,
        [ 1.44859329e-04, -1.44859329e-04],
        [ 1.80111014e-05, -1.80111014e-05],
        [ 1.30107512e-04, -1.30107512e-04]],

       [[ 1.29249120e-03, -1.29249120e-03],
        [ 5.66948438e-03, -5.66948438e-03],
        [ 2.49050264e-02, -2.49050264e-02],
        ...,
        [ 2.50590715e-06, -2.50590715e-06],
        [ 4.68839113e-05, -4.68839113e-05],
        [ 1.15002997e-05, -1.15002997e-05]],

       [[-1.12640555e-03,  1.12640555e-03],
        [ 1.42648293e-02, -1.42648293e-02],
        [ 4.74790019e-02, -4.74790019e-02],
        ...,
        [ 6.19451775e-05, -6.19451775e-05],
        [ 3.30996384e-05, -3.30996384e-05],
        [ 4.45219920e-05, -4.45219920e-05]]]) 

print("shap_values shape:", shap_values.shape)  # (3, 100, 10)
print("shap_values[0] shape:", shap_values[0].shape)  # (100, 10)
print("shap_values[:, :, 0] shape:", shap_values[:, :, 0].shape)  # (3, 100)
print("X_test shape:", X_test.shape)  # (100, 10)

SHAP 特征重要性条形图 (Summary Plot - Bar)

shap.summary_plot(shap_values[:, :, 0], X_test, plot_type="bar",show=False)  #  这里的show=False表示不直接显示图形,这样可以继续用plt来修改元素，不然就直接输出了
plt.title("SHAP Feature Importance (Bar Plot)")
plt.show()

SHAP 特征重要性蜂巢图 (Summary Plot - Violin)

print("--- 2. SHAP 特征重要性蜂巢图 ---")
shap.summary_plot(shap_values[:, :, 0], X_test,plot_type="violin",show=False,max_display=10) # 这里的show=False表示不直接显示图形,这样可以继续用plt来修改元素，不然就直接输出了
plt.title("SHAP Feature Importance (Violin Plot)")
plt.show()

 @浙大疏锦行