AI 决策的可解释性：拒贷怎么解释、监管怎么问责、文档怎么写

AI 决策的可解释性：拒贷怎么解释、监管怎么问责、文档怎么写

这个系列前面一篇讲了模型上线之后怎么监控、怎么处理漂移和拒绝推断，落点是一句话：模型和资产一样，是需要持续管理的负债。

但监控只解决了”模型有没有坏”。还有另一半问题没碰：模型做的决定，说不说得清。

这个问题在业务早期不痛。用户少、金额小、被拒的人自己就走了。但业务一旦上量，两件事会同时发生：被拒的借款人开始要说法，监管开始要材料。 到那时你会发现，”我们的模型说不行”这句话，在两个场合都是不成立的——既不能回答借款人，也不能回答监管。

这一篇讲三件事：三条正在收紧的监管线、技术上的解释方法怎么选、以及一份能过检查的模型文档长什么样。

一、美国：黑箱不能当抗辩，但”结果差异”的责任刚被削掉一半

先讲美国，因为它的规则最老、也最新。

老的部分是《平等信贷机会法》（ECOA）和它的实施条例 Regulation B。 第 1002.9 条规定得很直白：信贷机构做出不利决定后，必须在 30 天内通知申请人，并说明具体理由。”您的申请不符合我们的标准”这种话不满足要求——监管明确要求给的是”主要因素”（principal reasons），而不是事后找的说辞。

新的部分有两块，而且方向相反。

第一块是继续收紧的：算法不能当挡箭牌。 消费者金融保护局（CFPB）2022 年 5 月的 2022-03 号通函、2023 年 9 月的 2023-03 号通函已经把立场说清楚，2026 年 5 月 5 日又发了 2026-03 号通函，专门针对机器学习承销模型，重申四条：

• 必须给具体理由。 通用话术不满足法律要求；
• “我们用了算法”不是有效理由。 模型的复杂和不可解释，不能减少机构的解释义务；
• 模型理解不可外包。 机构必须自己理解模型怎么工作，不能推给供应商，也不能以”模型是专有的”为由免责；
• 理由必须准确。 通知上写的理由码，必须真的对应影响决策的因素；对不上，既是监管风险，也是歧视风险。

按照 CFPB 的指引，有效的拒贷理由要做到四点：指出具体的不利因素、用申请人能听懂的话、反映模型真实使用的特征、至少给出四条主要理由。反面例子是”自动化系统决策””AI 模型评分””专有评分模型”这类表述——这些不是理由，是把责任推给机器。

第二块是刚刚放松的：联邦层面的”差别影响”责任被取消了。 2026 年 4 月 22 日，CFPB 发布修订 Regulation B 的最终规则，明确规定 ECOA 不承认”差别影响”（disparate impact）/”效果检验”——也就是说，一项表面上中性的做法，仅因为对不同受保护群体的结果比例不同，不能再据此认定违法。这条规则 2026 年 7 月 21 日生效，同时收窄了”劝退”条款、修改了特殊目的信贷计划（SPCP）的规则（营利机构不得用种族、肤色、原国籍、性别作为资格条件）。

这两件事必须分开看，混在一起会犯大错。

被取消的是”只看结果比例”这一条诉讼路径。没有被动摇的至少有三样：

• 差别对待责任不变，而且新规明确保留了一种情形：表面中性的标准，如果实际上是受保护特征的代理变量、并且被有意用来造成差别待遇，仍然可追责；
• 《公平住房法》和州法不受影响。 最终规则只改了 Regulation B，房贷相关的差别影响标准、以及各州自己的公平借贷法照旧；
• 拒贷理由的披露义务一点没松。 2026-03 号通函和 2022/2023 两号通函仍然有效，仍然是检查重点。

换句话说：在美国，现在少了一种”因为你结果不公平所以告你”的打法，但”你拒了我却说不清为什么”这条路径反而更硬了。 一个只做技术优化、不做解释层的团队，风险敞口没有变小，只是换了个方向。

二、欧盟：解释权是写在法条里的个人权利

如果说美国是”你被检查时要说清楚”，欧盟则是”借款人有权利主动来问，而且你必须答得上来“。

欧盟《人工智能法案》把自然人信用评估明确列为高风险系统（附件三第 5 条第 b 项），并且专门把”金融欺诈检测”排除在外——这个排除很窄，一个模型到底算不算高风险，要看它实际干什么，不能靠名字。

高风险认定带来一整套义务，其中和可解释性直接相关的有四条：

• 第 86 条：个人决策解释权。 受高风险系统决策影响的人，有权从部署方（deployer，也就是使用模型放贷的机构）获得”清晰且有意义的解释”，内容包括 AI 在决策过程中扮演的角色、以及决策的主要要素。解释必须是针对这个人的，不能只讲模型总体怎么工作；
• 第 26 条：部署方义务。 人工监督、保留日志、持续监控、按提供方说明使用；
• 第 27 条：基本权利影响评估（FRIA）。 信贷和保险类高风险系统的部署方，在使用前必须完成这项评估；
• 第 10 条：数据治理。 训练、验证、测试数据必须相关、有代表性、尽最大可能无错误，并且必须检查偏见——包括那些作为受保护特征代理变量的特征（比如邮编、职业类型）。

责任分配也很清楚：提供方（模型开发商）承担第 9–15 条等技术义务，部署方（放贷机构）承担第 26 条和信贷场景下的第 27 条。 银行从第三方买模型，并不能免责——你是部署方，责任就是你的。

罚则方面，违反高风险相关义务最高可罚 1,500 万欧元或全球年营业额的 3%（取高者），中小企业适用两者中的较低值。

时间线上有一个必须说清楚的变动：2026 年 7 月 27 日生效的《数字综合法案》（Digital Omnibus on AI）把独立的附件三高风险义务适用日推迟到 2027 年 12 月 2 日（嵌入受监管产品的场景为 2028 年 8 月 2 日）。但要注意：推迟的是高风险义务的适用日，不是第 86 条被删掉。 第 86 条本身没有被这部综合法案修订。同时，禁止类实践和 AI 素养相关规则自 2025 年 2 月起就已适用，通用模型规则自 2025 年 8 月起适用。

还有一层不能忘：欧盟的《通用数据保护条例》（GDPR）第 22 条一直在管”完全自动化决策”。 两套规则是叠加关系，不是替代关系——满足了一套不等于满足另一套。

三、印度：把”模型治理”写成了 64 条原则

亚洲这边，印度央行（RBI）2026 年 6 月 24 日放出了《模型风险管理监管原则指引（草案）》，公开征求意见到 2026 年 7 月 24 日。这份文件的分量在于：它第一次把银行、非银金融机构用的所有模型——统计的、算法的、AI 的——放进同一个董事会级别的治理框架，覆盖 11 类受监管实体，一共六章、64 条原则。

里面和 AI 直接相关的硬要求包括：

• 董事会批准的模型风险管理框架，模型按风险分级，并维护完整的模型清单；
• 禁止”影子模型”：没进中央清单的模型不得上线；已退役的模型也要安全归档，保存期不少于 10 年；
• AI 专章：可解释性阈值、幻觉与偏见控制、红队测试、“急停开关”（kill switch）、强制人工监督；
• 黑箱的补偿性控制：如果某个模型确实无法做到完全解释，机构必须采取限制使用范围、密集持续监控、更频繁的实证验证等措施，而不是默认可以用；
• 三线防御：一线是模型所有者（业务部门），二线是独立的模型风险验证职能，三线是内部审计；
• 外包不等于转移风险：第三方供应商的模型（包括云端大模型接口），机构仍然完全负责，并且必须拿到审计权、设计文档和可执行的退出安排。

与此同时，RBI 在 2026 年的全球金融科技峰会上把”算法问责“讲得很直：信贷结果的责任完全在受监管机构身上，不能推给自动化系统。 被拒贷的借款人、以及被自动化风控冻结账户的客户，都应该拿到清晰、可执行的理由。

印度市场已经落地的实操标准，值得直接抄：

• 拒贷通知要把模型归因结果翻译成普通人能懂的话——技术上用 SHAP（沙普利值）算特征贡献，客户看到的是”您被拒主要是因为现有月供相对收入过高”；
• 大额贷款必须有人工复核通道，AI 给建议，人做决定；
• 数据同意要逐项拿。按 2023 年《数字个人数据保护法》，征信数据、银行流水、税务数据各自需要独立的同意流程，打包同意不合规；
• 偏见测试是检查项，要覆盖性别、地域、就业类型，并且留下记录；
• 合规文档是有成本的：一家中型非银机构准备这几套材料，在部署前的咨询与文档支出大致在 1,500 万到 4,000 万卢比这个量级。

四、技术上怎么做到”解释得出来”

监管要求最终要落到工程实现上。目前主流的三类方法，各有各的适用场景和坑。

第一类：SHAP（沙普利值）。 这是目前最主流的做法，理论基础来自合作博弈论——把每个特征的贡献看作它在所有特征组合中的平均边际贡献。2017 年那篇奠基论文证明了它是唯一同时满足局部准确性、缺失性和一致性三个性质的加性归因方法。对树模型还有专门的 TreeSHAP，可以在多项式时间内算出精确值，而不是近似值。在信贷场景里，树模型的 SHAP 归因基本可以当作监管级证据用。

第二类：LIME。 局部可解释的代理模型，思路是在某个样本附近用简单模型拟合复杂模型。问题是稳定性差——同样的样本、同样的模型，换一次随机种子，解释可能就变了。对一个需要”可复现、可审计”的场景来说，这个缺陷是致命的：如果理由每次都不一样，那就不是理由。

第三类：反事实解释。 不说”哪些因素导致了拒绝”，而是说”如果哪个条件变成什么样，结果就会不同”。它的优势是可行动——借款人拿到的是可以改进的方向，而不是一堆权重。但要小心一件事：反事实不能变成教人包装材料的方法。 在反欺诈场景里，反事实解释要限制在”可合理改善”的维度上（比如降低负债、延长账龄），不能暴露风控阈值。

无论用哪种方法，有两条工程纪律是硬要求：

• 决策时就要记录：完整特征向量、归因幅度、模型版本，三样缺一不可。事后补的解释不是解释，是编故事；
• 理由码必须和实际驱动因素一致。给客户的四条理由，必须是模型真的在用的四条。对不上既踩监管，也可能踩歧视——因为那意味着你在用一套说辞掩盖另一套标准。

五、一份能过检查的模型文档，应该有什么

把上面三条监管线合起来看，可解释性的落地物其实是一份模型文档包。下面这份清单可以直接当模板用。

这份清单里，最容易被忽略的是最后两项。“客户解释模板”和”申诉路径”不是客服工作，是合规资产——它们是把模型输出变成监管可接受文件的最后一公里。第二容易被忽略的是”供应商条款”：如果合同里没写”必须提供逐笔特征级解释”，那你买回来的就是一个你没法解释的黑箱，而责任还是你的。

六、四个常见误区

误区一：”模型是买的，责任在供应商。”

错。欧盟的部署方义务、印度的外包不转移风险、CFPB 的”模型理解不可外包”，三条线说的是同一件事：责任在使用者身上。 供应商能提供的是工具和文档，不是免责。

误区二：”美国已经取消差别影响了，偏见测试可以省了。”

错，而且错得很危险。取消的是联邦层面 ECOA 的一条诉讼路径；州法、《公平住房法》、差别对待责任都还在。更重要的是，欧盟和印度对偏见检查是正面要求——你的模型只要服务这些市场的客户，测试就必须做。

误区三：”给了理由码就叫可解释。”

不够。要求是针对个体、反映真实驱动因素。一条通用的”综合评分不足”，既不满足 CFPB 的”具体性”，也不满足欧盟第 86 条的”针对这个人”。

误区四：”解释是贷后的事。”

错。解释能力是设计出来的，不是事后补的。选什么模型（逻辑回归天生可解释，梯度提升树要靠 TreeSHAP）、留什么日志（决策时就要留）、合同怎么写（必须写清特征级解释），这三件事都发生在模型上线之前。 上线之后再补，成本是前置的十倍。

七、小团队的最小可行做法

不是每个团队都有预算做全套。如果资源有限，按这个顺序做，能覆盖八成风险：

第一，能不用黑箱就不用。 逻辑回归、评分卡本身就能给出系数和理由码，解释成本接近于零。梯度提升树的分辨力更好，但一定要配上 TreeSHAP，并且把解释能力写进技术选型的评分项。

第二，理由码表控制在 8–12 条，并且人工可读。 条数太多，客户看不懂，客服也解释不清；太少，又无法反映真实差异。每一条理由码都要能对应到”客户做什么能改善”，否则它只是一句判决书。

第三，每季度跑一次偏见测试，把报告存档。 用 4/5 规则做基本判断：某一群体的通过率除以通过率最高群体的通过率，低于 0.8 就要介入排查。这份报告的真正用途不是应付检查，而是发现你的特征里有代理变量。

第四，决策级日志从第一天就留。 模型版本、特征向量、归因结果，三样一起存。这是唯一一份事后无法补造的证据。

第五，合同里写清楚三件事：逐笔特征级解释、审计权、退出时的数据与文档交付。

结尾：可解释性是资产被定价的前提

这个系列讲到这里，AI 风控的轮廓基本清楚了：建模解决”能不能判准”，监控解决”会不会失效”，而可解释性解决”凭什么这么判”。

最后这一条看起来最像”合规成本”，但它其实是商业能力。回想资金端那一篇的结论：资方愿意进场的从来不是”高收益资产”，而是”收益可解释、风险可计量的资产”。一个解释不出来的模型，等于一个定价不出来的资产池——它卖不掉，也上不了规模。 反过来，能把每一笔拒贷的理由说清楚、能把每一版模型的文档交出来的团队，在资方和监管面前都是另一副面孔。

可解释性不是给监管看的，是给自己留的后路。

下一篇把视角从”单个模型”抬到”整套规则”：《AI 风控的合规红线：算法歧视、可解释性与各国监管动向》——把散在各国的红线收成一张表，看哪些动作在全球范围内都是禁区。