解释性陷阱：目标检测模型中性能与解释可靠性研究

Explainability Traps: A Study on the Relationship between Object Detection Model Performance and Explanation Reliability

摘要: 目标检测模型在自动驾驶等安全关键领域广泛应用，其决策过程的可解释性对系统可靠性至关重要。当前研究重点主要集中在如何提高模型性能上，对于模型的可解释性以及解释质量与决策可靠性之间的内在关联关注较少。鉴于这一问题，本研究系统探究了目标检测模型性能与解释可靠性之间的关系。基于KITTI数据集，采用三种Faster R-CNN变体在简单、中等和困难三类场景下进行实验，通过Grad-CAM和SmoothGrad-IG两种解释方法，结合新提出的Energy-based Pointing Game和Performance-Explanation Correlation指标进行量化评估。结果表明：性能最佳的ResNet50_Epoch20在简单场景中PEC值为−0.189，揭示了“解释性陷阱”现象——高置信度预测反而伴随低质量解释；Grad-CAM生成的热力图分散且模型间差异显著，而SmoothGrad-IG产生的热力图高度收敛且模型间一致性高；简单场景中的解释可靠性问题最为严重，与直觉相反。

Abstract: Target detection model is widely used in key safety fields such as automatic driving, and the interpretability of its decision-making process is very important for system reliability. The current research focuses on how to improve the performance of the model, and pays less attention to the interpretability of the model and the internal relationship between the interpretation quality and decision reliability. In view of this problem, this study systematically explores the relationship between the performance of target detection model and interpretation reliability. Based on the Kitti data set, three fast R-CNN variants were used to carry out experiments in simple, medium and difficult scenarios. The two interpretation methods of grad cam and smooth grad Ig were combined with the newly proposed energy based pointing game and performance explanation correlation indicators for quantitative evaluation. The results show that the PEC value of resnet50_poch20 with the best performance is −0.189 in simple scenarios, which reveals the phenomenon of “interpretative trap”—high confidence prediction is accompanied by low quality interpretation; The thermal maps generated by grad cam are scattered and have significant differences among models, while the thermal maps generated by smooth grad IG are highly convergent and have high consistency among models; The problem of interpretation reliability is the most serious in simple scenarios, which is contrary to intuition.

1. 引言

随着深度学习技术的飞速发展，目标检测模型已在自动驾驶、智能交通监控等安全关键领域得到广泛应用[1]。在这些应用中，模型不仅需要具备高精度的检测能力，更需要提供可解释、可信赖的决策过程，以建立用户信任并确保系统安全[2]。

目标检测作为计算机视觉的核心任务，其模型架构主要可分为单阶段(one-stage)和双阶段(two-stage)两大类[3]。双阶段模型首先生成区域建议(Region Proposals)，再对建议区域进行分类和边界框精修，代表了早期目标检测的主流范式。R-CNN [4]系列是该类模型的典型代表，从2014年的R-CNN到2015年的Faster R-CNN [5]，通过引入区域建议网络(RPN)实现了端到端训练，大幅提升了检测效率。后续发展包括Mask R-CNN [6] (2017)增加了实例分割分支，Cascade R-CNN [7] (2018)采用级联检测头提高精度，以及Libra R-CNN [8] (2019)通过均衡采样和特征金字塔改进检测质量。相比之下，单阶段模型直接预测目标类别和边界框，无需区域建议步骤，具有更高的推理速度。代表性工作包括YOLO [9]系列(2016~2023)、SSD [10] (2016)、RetinaNet [11] (2017)引入Focal Loss解决样本不平衡问题，以及FCOS [12] (2019)采用无锚框设计。

与此同时，可解释人工智能(XAI)方法也取得较大发展，可解释人工智能(XAI)方法根据解释时机可分为内在解释(Intrinsic Explanations)和事后解释(Post-hoc Explanations)两大类[13]。内在解释方法在模型构建阶段就融入可解释性设计，使模型本身具备解释能力，包括决策树和基于规则模型等本身就具有可解释性的模型。相比之下，事后解释方法在已训练好的黑盒模型上应用，不改变原始模型结构，而是通过外部手段提供解释，主要包括梯度类方法(如Grad-CAM [14]、Score-CAM [15])、扰动类方法(LIME [16]、SHAP [17])以及集成梯度方法(如SmoothGrad-IG [18] [19])等。

当前的目标检测模型评估主要关注性能指标(如mAP) [20]。对于解释方法现有研究主要聚焦于解释方法本身的改进，如Score-CAM、Layer-CAM [21]等梯度类方法因其计算效率高、可视化效果直观而备受青睐。然而，这些研究大多停留在“如何解释”的层面，缺乏对“解释是否可靠”的系统评估。尽管已有研究表明解释方法本身存在局限性(如梯度类方法对输入扰动敏感)，但解释质量与模型实际决策可靠性之间的关系尚未得到充分探究。特别是在安全关键应用中，如果模型在高置信度预测时提供的解释质量低下，将导致严重的安全隐患，这一问题目前在目标检测领域尚未引起足够重视[22]。

针对上述问题，本研究探究了目标检测模型性能与解释可靠性之间的关系，提出“解释性陷阱”的概念——即模型在高置信度预测时反而提供低质量解释的现象。为此，本研究设计了Energy-based Pointing Game (EBPG)和Performance-Explanation Correlation (PEC)两个量化指标，前者评估解释与目标对象的空间对应性，后者衡量检测分数与解释质量之间的相关性。

本研究采用Grad-CAM和SmoothGrad-IG两种解释方法，对三种不同网络深度及训练周期的Faster R-CNN变体(ResNet18_Epoch5、ResNet50_Epoch5和ResNet50_Epoch20)进行对比分析。基于KITTI官方难度标准，本研究将验证集图像划分为简单、中等和困难三类场景，通过EBPG和PEC指标系统评估模型在不同场景下的解释质量。特别地，本研究深入分析了Grad-CAM与SmoothGrad-IG在实例区分能力上的差异，揭示了Grad-CAM在多目标场景中注意力分散的局限性，以及SmoothGrad-IG在揭示“解释性陷阱”现象中的优越性。

本研究的贡献在于：(1) 在目标检测领域发现并量化了“解释性陷阱”现象；(2) 提出PEC指标作为评估解释可靠性的新标准；(3) 揭示了场景难度、模型复杂度与解释可靠性之间的复杂关系。

2. 实验设置

2.1. 场景划分

为系统探究目标检测模型在不同复杂度场景下的解释可靠性差异，本研究基于KITTI官方难度标准对验证集进行科学划分。选择场景划分策略的理论依据在于：目标检测任务中，场景复杂度直接影响模型的决策机制和注意力分配模式，而现有研究表明，模型在不同难度场景中可能表现出截然不同的解释质量特性。特别地，针对“解释性陷阱”现象的研究需要区分简单与复杂场景，因为模型在简单场景中可能过度依赖数据集偏差而非目标真实特征，这一假设需要通过场景特异性分析予以验证。

本研究采用KITTI 2D目标检测数据集进行实验验证，该数据集是自动驾驶领域最具代表性的基准数据集之一，包含7481张训练图像和7518张测试图像，聚焦于车辆、行人和骑行者等目标的检测任务。为确保实验结果的可靠性和可比性，本研究严格遵循KITTI官方难度标准，基于目标物理特性(高度、遮挡、截断)将1497张验证集图像划分为三个难度级别：

① 简单场景(simple)：包含351张图像(23.4%)，主要特征为目标满足“高度 > 40像素、遮挡程度为0、截断 < 0.15”条件，且困难目标比例 ≤ 15%。此类场景中目标平均数量为1.6个，困难目标比例为0%。

② 中等场景(moderate)：包含674张图像(45.0%)，特征为包含满足“高度 > 25像素、遮挡程度 ≤ 1、截断 < 0.30”条件的目标，且困难目标比例 ≤ 15%。此类场景中目标平均数量为4.7个，困难目标比例为2%，中等目标比例为54%。

③ 困难场景(hard)：包含472张图像(31.5%)，特征为困难目标(满足“高度 > 25像素、遮挡程度 ≤ 2、截断 < 0.50”条件)比例 > 15%。此类场景中目标平均数量为7.8个，困难目标比例高达34%。

这种划分方法具有以下优势：(1) 符合KITTI官方评估标准，确保结果可比性；(2) 从目标可见性角度客观衡量场景难度，避免主观判断；(3) 不同难度级别间存在明确的物理界限，便于结果分析。

2.2. 模型构建

为系统探究目标检测模型性能与解释可靠性之间的关系，本研究选取Faster R-CNN作为基础框架，并设计三种变体进行对比分析。选择Faster R-CNN的原因在于：(1) 作为两阶段目标检测算法的代表，其在KITTI等自动驾驶数据集上具有广泛应用和良好性能；(2) 其模块化设计便于集成不同骨干网络，适合进行可解释性研究；(3) 作为工业界和学术界广泛采用的标准模型，其研究结果具有较高的实用价值。

本研究设计的模型变体旨在系统考察模型复杂度与训练充分性对解释可靠性的影响：

① ResNet18_Epoch5：采用轻量级ResNet18作为骨干网络，训练5个周期。

② ResNet50_Epoch5：采用标准ResNet50作为骨干网络，训练5个周期。

③ ResNet50_Epoch20：采用ResNet50作为骨干网络，但延长训练至20个周期。

所有模型均采用完全相同的训练配置以确保对比的公平性：初始学习率0.001，批量大小2，优化器为SGD (动量0.9，权重衰减0.0001)。区域建议网络(RPN)与检测头的损失权重比设为1:1，锚框比例与KITTI官方推荐设置保持一致。训练过程中采用早停策略，验证集性能连续5个周期未提升则终止训练。

2.3. 解释方法

2.3.1. Grad-CAM

Grad-CAM (Gradient-weighted Class Activation Mapping)作为梯度类解释方法的代表，通过计算目标类别对卷积特征图的梯度来生成类别判别性热力图。其核心思想是识别对特定类别预测有贡献的图像区域，计算公式如下：

$L_{Grad-CAM}^c\left(x,y\right)=ReLU\left({\displaystyle \sum }_k{\alpha }_k^c{A}^k\left(x,y\right)\right)$ (1)

${\alpha }_k^c=\frac{1}{Z}{\displaystyle \sum }_i{\displaystyle \sum }_j\frac{\partial y^c}{\partial A^k\left(i,j\right)}$ (2)

式中，$A^k$ 表示第k个卷积特征图，$\alpha$ 是类别c对应的权重(通过对特征图梯度进行全局平均池化获得)，Z为归一化因子。由于高层特征层捕获了更丰富的语义信息，能够反映模型对目标对象的高级理解，同时其较大的感受野有助于捕获目标对象的全局上下文，因此本研究选择Faster R-CNN模型backbone的layer4 [−1]作为目标层。

2.3.2. SmoothGrad-IG

SmoothGrad-IG是集成梯度(Integrated Gradients, IG)与SmoothGrad的结合方法，通过路径积分和噪声平均机制提供更稳定、更精确的解释。其理论基础源于以下两个关键公式：

$I{G}_i\left(x\right)=\left(x_i-{x^{\prime }}_i\right)\times \underset{\text{α}=0}{\overset{1}{{\displaystyle \int }}}\frac{\partial F\left(x^{\prime }+\alpha \left(x-x^{\prime }\right)\right)}{\partial x_i}d$ (3)

$SGI{G}_i\left(x\right)=E_{\text{ν}\sim \mathbb{N}\left(0,{\sigma }^2\right)}\left[I{G}_i\left(x+\text{ν}\right)\right]\approx \frac{1}{N}{\displaystyle \sum }_{j=1}^{N}I{G}_i\left(x+{\text{ν}}_j\right)$ (4)

式中，x为输入图像，$x^{\prime }$ 为基线输入(本研究采用全黑图像)，v为服从正态分布N (0, ${\sigma }^2$ )的噪声，$\sigma$ 为标准差(本研究设置为0.10)，N为噪声样本数(本研究取10)。为确保路径积分的精确性，积分步数设为25。

2.4. 量化指标

2.4.1. EBPG指标设计

为定量评估目标检测模型的可解释性质量，本文提出Energy-based Pointing Game (EBPG)评估指标，其计算公式如下：

$\text{EBPG}=\frac{{{\displaystyle \sum }}_{\left(x,y\right)\in \text{bbox}}\text{ heatmap}\left(x,y\right)}{{{\displaystyle \sum }}_{\left(x,y\right)\in \text{image}}\text{ heatmap}\left(x,y\right)}$ (5)

式中，heatmap (x, y)表示位置(x, y)处的显著图能量值，bbox为目标边界框区域，image表示全图区域。该指标衡量了模型注意力机制与目标对象的空间对应性，值域范围为[0, 1]，值越高表示模型关注区域与目标对象的一致性越好，即模型关注区域与目标对象高度重合，解释质量越高；值越接近0，表示模型注意力主要集中在背景区域，解释质量低下。该指标通过计算目标边界框内热力值占全图热力值的比例，量化模型注意力与目标对象的匹配程度。

EBPG作为Pointing Game [23]的量化扩展，旨在客观评估目标检测模型的注意力机制与目标对象的空间一致性。传统Pointing Game仅通过二元判断(是否指向目标)评估解释质量，存在粒度粗糙的局限。

与传统Pointing Game相比，EBPG具有以下三点优势：(1) 提供连续量化评估，避免二元判断的粗糙性；(2) 适用于多目标场景，可针对每个检测实例单独计算；(3) 与视觉解释直观对应，便于结果解读。此外，通过[min (EBPG), max (EBPG)]评估模型解释的稳定性，窄范围表示解释质量稳定，宽范围则表明解释可靠性波动大。

2.4.2. PEC指标设计

为系统评估目标检测模型的决策可靠性，本研究提出Performance-Explanation Correlation (PEC)指标，其核心思想是通过非参数相关性分析量化模型预测置信度与解释质量之间的内在关联。

考虑到Spearman秩相关系数对非线性关系敏感，且不依赖于数据分布假设，更适合评估解释质量与置信度的复杂关联。本研究中PEC采用Spearman秩相关系数计算检测分数与EBPG值之间的相关性。

$PEC=\rho =spearmanr\left(detection\_scores,ebpg\_scores\right)$ (6)

$\rho =1-\frac{6\sum d_i^2}{n\left(n^2-1\right)}$ (7)

其中，detection_scores表示模型对检测目标的置信度分数，ebpg_scores为对应预测的EBPG值，di表示第i个检测实例的秩次差，即检测分数detection_scores与ebpg_scores的排序位置之差；n为参与分析的有效检测实例总数。该公式通过比较两个变量排序的一致性来衡量模型置信度与解释质量之间的单调相关关系。

PEC值的解释实践意义：正值表示模型在高置信度预测时提供了高质量的解释，决策过程可靠；零值表明检测分数与解释质量无显著相关性；而负值则揭示了“解释性陷阱”现象——模型越自信，其决策依据反而越不可靠。当PEC为负值时，即使模型性能指标(mAP)优异，其决策过程也可能依赖于数据集偏差或背景线索。

3. 实验结果

3.1. 性能对比

表1展示了三种模型在KITTI数据集三个难度级别上的mAP@0.5结果。总体而言，ResNet50_Epoch20在所有场景中均表现最佳，ResNet50次之，ResNet18性能最低。这符合预期，因为更深的网络和更长的训练周期通常能带来更高的检测精度。

由表可知，所有模型在简单场景中的性能均显著高于困难场景，这与KITTI数据集的特性一致——简单场景中的目标更大、更清晰，更容易被检测到。然而，性能优势并不一定意味着决策过程更可靠，这需要通过解释质量评估进一步验证。

Table 1. Model performance comparison

表1. 模型性能对比

场景	ResNet18_Epoch5	ResNet50_Epoch5	ResNet50_Epoch20
简单	0.707	0.713	0.731
中等	0.615	0.643	0.670
困难	0.594	0.631	0.655

3.2. Grad-CAM

表2展示了采用Grad-CAM方法对三种模型在不同场景下的解释质量评估结果。分析表明：

① 解释质量与场景难度的关系：所有模型在中等和困难场景中均表现出较高的解释质量(EBPG > 0.35)，其中ResNet50_Epoch20在困难场景中达到最高值0.497。这一结果与表1中性能表现一致，表明在更具挑战性的场景中，模型倾向于关注目标对象的真实特征。

② 性能与解释可靠性的初步脱节现象：值得注意的是，ResNet50_Epoch20在困难场景中虽然EBPG值最高(0.497)，但其PEC值接近于零(−0.008)，表明该模型的高置信度预测与解释质量之间几乎没有相关性。这一发现提示了“高性能不一定意味着高解释可靠性”的现象。

③ 简单场景中的潜在风险：在简单场景中，尽管所有模型的EBPG值均较高(>0.38)，但ResNet50_Epoch20的PEC值(0.285)显著低于其他模型。这表明，即使是性能最佳的模型，在简单场景中也可能存在解释可靠性不足的问题，暗示了模型可能依赖于背景线索而非目标特征进行决策。

Table 2. Grad-CAM evaluation results

表2. Grad-CAM评估结果

模型	场景	平均EBPG	PEC	样本数
ResNet18_Epoch5	简单	0.380	0.320	100
ResNet18_Epoch5	中等	0.354	0.597	100
ResNet18_Epoch5	困难	0.363	0.662	100
ResNet50_Epoch5	简单	0.400	0.377	100
ResNet50_Epoch5	中等	0.426	0.333	100
ResNet50_Epoch5	困难	0.422	0.584	100
ResNet50_Epoch20	简单	0.422	0.285	100
ResNet50_Epoch20	中等	0.470	0.424	100
ResNet50_Epoch20	困难	0.497	-0.008	100

图1展示了使用Grad-CAM方法对三种模型(ResNet18_Epoch5、ResNet50_Epoch5和ResNet50_Epoch20)在car、pedestrian和cyclist三类目标上的解释结果。观察发现，Grad-CAM生成的热力图呈现出明显的分散特性：热力区域不仅覆盖目标对象本身，还广泛分布于同类目标的周边区域。例如，在行人检测案例中，当模型识别出特定行人时，热力图同时高亮了图像中其他行人区域，表明模型注意力被分散至同类对象的多个实例。值得注意的是，当模型正确检测并分类特定目标时(如图中cyclist类别所示)，Grad-CAM生成的热力图却显著聚焦于图像中其他同类目标，而非当前检测实例。这一现象在三种Faster R-CNN变体(ResNet18_Epoch5、ResNet50_Epoch5和ResNet50_Epoch20)上均一致出现，对于以上现象，本研究认为Grad-CAM其设计初衷为图像分类任务，导致其关注机制本质上是“类别级”而非“实例级”。在多目标场景中，Grad-CAM倾向于将注意力分散至图像中所有同类对象，无法有效区分同一类别中的不同实例。

Figure 1. Grad-CAM method explains the results of three models on three types of targets

图1. Grad-CAM方法对三种模型在三类目标上的解释结果展示

此外，不同模型间的Grad-CAM热力图表现出显著差异。ResNet18_Epoch5的热力图相对集中于目标区域，而ResNet50_Epoch20则显示出更广泛的热力分布，尤其是在简单场景中。这种模型间差异与表2中Grad-CAM评估结果一致，特别是与ResNet50_Epoch20在简单场景中PEC值相对较低(0.285)的现象相呼应，暗示了该模型在高置信度预测时可能存在解释可靠性问题。

3.3. SmoothGrad-IG

Table 3. SmoothGrad-IG evaluation results

表3. SmoothGrad-IG评估结果

模型	场景	平均EBPG	PEC	样本数	Map@0.5	EBPG范围
ResNet18_Epoch5	简单	0.310	0.007	100	0.707	0.000~0.682
ResNet18_Epoch5	中等	0.236	0.129	100	0.615	0.000~0.828
ResNet18_Epoch5	困难	0.253	0.148	100	0.594	0.000~0.783
ResNet50_Epoch5	简单	0.254	−0.090	100	0.713	0.000~0.672
ResNet50_Epoch5	中等	0.102	−0.145	100	0.643	0.000~0.759
ResNet50_Epoch5	困难	0.112	−0.210	100	0.631	0.000~0.637
ResNet50_Epoch20	简单	0.350	−0.189	100	0.731	0.000~0.782
ResNet50_Epoch20	中等	0.195	0.327	100	0.670	0.000~0.722
ResNet50_Epoch20	困难	0.233	0.146	100	0.655	0.000~0.738

表3采用更为稳健的SmoothGrad-IG方法进行评估，揭示了更为深刻的发现：

① “解释性陷阱”的明确证据：所有模型在简单场景中的PEC值均为负值或接近零，特别是性能最佳的ResNet50_Epoch20，其PEC值达到−0.189，表明在简单场景中，模型的高置信度预测与解释质量呈显著负相关。这一现象可被称为“解释性陷阱”——模型越自信，其决策依据反而越不可靠。对此，本研究认为高性能模型由于深层结构和充分训练，可能发展出多种决策路径：有时基于目标对象的真实特征进行决策(高EBPG值)，有时则依赖背景线索或数据集偏差进行决策(低EBPG值)。特别值得注意的是，ResNet50_Epoch20在简单场景中EBPG范围最宽(0.000~0.782)，与其负PEC值形成鲜明对比，表明该模型在某些情况下能提供高质量解释，而在其他情况下几乎不关注目标对象。与直觉相悖的是，简单场景中的“解释性陷阱”最为严重，这可能是因为在目标显著、数量少的场景中，模型更容易依赖背景线索做出高置信度预测。相比之下，性能较低的ResNet18_Epoch5在所有场景中均表现出稳定的PEC值(接近零或正值)，表明浅层网络虽然性能较低，但提供更一致的决策依据。

② 解释方法对评估结果的影响：ResNet50_Epoch20在困难场景中的PEC值在两种方法下呈现显著差异：Grad-CAM评估结果为−0.008，而SmoothGrad-IG评估结果为0.146。这一差异表明，Grad-CAM可能低估了困难场景中的解释质量问题，而SmoothGrad-IG通过噪声平均提供了更为敏感和可靠的评估结果。

③ 模型结构与训练周期的影响：ResNet18在所有场景中均表现出最稳定的PEC值，特别是在简单场景中PEC接近于零(0.007)，远优于其他两种模型。这表明较浅的网络结构可能提供更一致的决策可靠性，尽管其绝对性能较低。同时，增加训练周期(ResNet50_Epoch20相比ResNet50_Epoch5)并未改善甚至可能损害解释可靠性。

④ 解释质量的波动性分析：EBPG范围分析提供了关于解释稳定性的关键信息。例如，ResNet50_Epoch20在简单场景中的EBPG范围为0.000~0.782，表明其解释质量波动极大，可靠性较低。相比之下，ResNet18在相同场景中的EBPG范围为0.000~0.682，波动相对较小，解释更为稳定。性能最佳的ResNet50_Epoch20模型在简单场景中表现出最宽的EBPG范围(0.000~0.782)，与其负PEC值(−0.189)形成鲜明对比。对此，本研究认为，该模型在简单场景况下能提供高质量解释(EBPG = 0.782)，而在其他情况下几乎不关注目标对象(EBPG = 0.000)，且这种波动与置信度呈负相关——模型越自信，其决策依据反而越不可靠。相比之下，性能较低的ResNet18_Epoch5在相同场景中EBPG范围较窄(0.000~0.682)，PEC值接近于零(0.007)，表明其解释质量虽不高但更为稳定。同时，简单场景中EBPG范围普遍宽于困难场景，这与直觉完全相悖。简单场景中目标更大、遮挡更少、数量较少，本应更容易提供稳定解释，却表现出最宽的EBPG范围。这一现象同样指向在简单场景中，模型更容易依赖背景线索或数据集偏差做出决策，导致解释质量波动极大。而在困难场景中，由于目标不明显、遮挡严重，模型被迫关注目标的真实特征，反而表现出相对一致的决策依据。

Figure 2. The SmoothGrad-IG method shows the explanation results of three models on three types of targets

图2. SmoothGrad-IG方法对三种模型在三类目标上的解释结果展示

图2展示了采用SmoothGrad-IG方法生成的热力图结果。相比于Grad-CAM方法，SmoothGrad-IG通过路径积分与噪声平均机制，能够更精确地定位对特定检测实例决策真正重要的局部区域，其热力图高度集中于当前检测目标周围，显著提高了实例级解释的准确性。SmoothGrad-IG产生的热力图表现出高度的收敛性：高热力值区域主要集中于目标对象的精确边界内，且对同类目标的其他实例干扰较小。在行人检测案例中，热力图精准聚焦于被识别行人的身体区域，而对附近其他行人的关注度显著降低。

此外，三种模型(ResNet18_Epoch5、ResNet50_Epoch5和ResNet50_Epoch20)使用SmoothGrad-IG生成的热力图在空间分布上表现出高度一致性，即使在模型架构和训练周期存在差异的情况下。这种一致性与表3中SmoothGrad-IG的EBPG范围分析结果相吻合，特别是ResNet50_Epoch20在简单场景中EBPG范围为0.000~0.782，表明其解释质量波动较大，但热力图的空间分布模式仍保持相对稳定。

3.4. 极端案例分析

为验证对解释性陷阱形成机制的猜想，本研究对ResNet50_Epoch20的EBPG极端值案例进行了可视化分析。如图3所示，低EBPG值(0~0.1)的案例多为简单目标(大且无遮挡)，此时模型注意力集中在目标边界框之外，但预测结果仍然正确；而高EBPG值(≥0.6)的案例多为困难目标(小或遮挡严重)，如图4所示，此时模型注意力集中在目标边界框内。

从数据拟合的角度看，深度神经网络作为高维空间中的多解函数拟合器，其优化过程会优先选择计算上更简单的解。在KITTI数据集中，存在明显的场景结构化特征(如“目标车辆旁总是存在其他车辆”)，这些统计规律构成了模型可以利用的“捷径”。对于简单目标，这些背景线索足以支持正确预测，模型因此发展出“捷径路径”——依赖背景线索进行决策，导致低EBPG值(0~0.1)但预测正确。而对于困难目标(小或遮挡严重)，背景线索不足以支持正确预测，模型被迫学习“正确路径”——关注目标真实特征，导致高EBPG值(≥0.6)且预测正确。

这一结果解释了PEC负值的形成：在简单场景中，模型对简单目标的高置信度预测往往基于“捷径”路径(解释质量低)，而低置信度预测可能偶然使用了“正确”路径(解释质量高)，导致置信度与解释质量呈负相关。相比之下，在困难场景中，模型必须关注目标特征才能正确预测，因此高置信度预测通常伴随着高质量解释，形成正相关。表3数据显示，ResNet50_Epoch20在简单场景中PEC值为−0.189，而在困难场景中PEC值为0.146，这一数据对比证实了上述论述。

Figure 3. Case display of extremely low score of SmoothGrad IG method

图3. SmoothGrad-IG方法极端低分案例展示

高性能模型(如ResNet50_Epoch20)由于其更大的模型容量，能够同时学习并存储多种决策路径。表3数据显示，ResNet50_Epoch20在简单场景中EBPG范围最宽(0.000~0.782)，表明其在不同简单目标上采用了不同的决策策略：有时使用“捷径路径”，有时使用“正确路径”。更长的训练周期(20个周期 vs 5个周期)使模型更充分地学习了数据集中的统计规律，强化了“捷径学习”行为，导致简单场景中PEC值从ResNet50_Epoch5的−0.090降至ResNet50_Epoch20的−0.189。

Figure 4. Case display of extremely high score of SmoothGrad IG method

图4. SmoothGrad-IG方法极端高分案例展示

这一数据拟合机制解释了为何简单场景中的“解释性陷阱”最为严重：模型对“捷径路径”的预测往往更自信(高置信度)，但解释质量低；而对“正确路径”的预测可能置信度较低，但解释质量高。相比之下，浅层网络(ResNet18)由于容量有限，难以充分学习复杂的“捷径”，因此在所有场景中PEC值稳定且接近零(简单场景：0.007)，解释质量虽不高但更为一致。

4. 结论

本研究通过在KITTI数据集上对三种Faster R-CNN变体的对比分析，揭示了“解释性陷阱”现象的存在。研究采用Grad-CAM和SmoothGrad-IG两种解释方法，结合新提出的EBPG和PEC量化指标，对模型在不同难度场景下的解释质量进行了全面评估。主要有以下结论。

评估方法的选择对揭示模型解释可靠性具有决定性影响。Grad-CAM由于其设计原理(基于全局平均池化梯度和上采样操作)，倾向于生成分散的注意力图，反映了模型对图像中同类目标的整体关注；而SmoothGrad-IG通过积分路径和噪声平均机制，能够更精确地定位对特定目标预测真正重要的局部区域。这种差异导致SmoothGrad-IG比Grad-CAM更能揭示模型解释中的潜在问题，特别是在识别“解释性陷阱”方面更为敏感。

场景难度与解释可靠性之间存在反直觉的非线性关系：简单场景中的解释可靠性问题最为严重。高置信度预测与解释质量呈显著负相关。这一现象可能源于模型在简单场景中过度依赖数据集偏差或背景线索，而在困难场景中被迫关注目标的真实特征。此外，较浅的网络结构(ResNet18)在所有场景中均表现出最稳定的PEC值，表明模型复杂度增加可能损害解释可靠性。

模型性能(mAP)与解释可靠性(PEC)之间存在明显的脱节现象。ResNet50_Epoch20在所有场景中性能最佳(简单场景mAP = 0.731)，但在简单场景中解释可靠性最差(PEC = −0.189)，这一发现对当前仅关注性能指标的模型评估范式提出了重要挑战。