AI 风控的合规红线：算法歧视、可解释性与各国监管动向

AI 风控的合规红线：算法歧视、可解释性与各国监管动向

上一篇讲的是可解释性——模型做的决定，说不说得清。落点是一句话：可解释性不是给监管看的，是给自己留的后路。

但”说不说得清”只是单个模型的问题。真正决定一个 AI 风控团队能不能在多个市场同时活下去的，是另一件事：哪些动作，在全球范围内都是禁区。

这件事在 2026 年发生了实质变化。过去几年，各国关于 AI 的监管文件大多是”原则”——讲公平、讲透明、讲可问责，但很少写明”做了就罚多少”。2026 年开始，原则变成了罚则：欧盟的透明度义务按期落地并配上了罚款档位，德国把 AI 法案翻译成了国内法并交给了金融监管机构，印度把模型风险管理写成了一整套可检查的条款，印尼直接把”用别人的模型放贷”定为不合规。

这一篇讲四件事：欧盟和美国这两条主线的实际状态、亚洲把规则落到了什么颗粒度、以及最后收成一张全球禁区的表。

一、欧盟：高风险延期了，但”按期落地”的那部分才是真正的雷

先讲欧盟，因为它的时间表在 2026 年发生了一次大调整，而这次调整被大量误读。

发生了什么。 2026 年 7 月 27 日，被称为”AI 数字综合法案”的 Regulation (EU) 2026/1744 正式生效——距离欧盟《人工智能法案》原定的高风险义务生效日（8 月 2 日）只剩不到一周。这份法案的立法节奏是：欧洲议会 6 月 16 日通过、理事会 6 月 29 日通过、7 月 8 日签署、7 月 24 日在官方公报公布、7 月 27 日生效。这是《人工智能法案》自 2024 年通过以来第一次正式修订。

改了什么。 核心就是把高风险义务的生效日期往后推，而且推成了两档：

信用评分明确落在附件三第 5(b) 项，也就是”延后”这一档。同时修订把日期固定下来，不再挂钩”协调标准是否就绪”——这消除了过去两年里让合规计划无法排期的不确定性。

没改什么，而且这才是重点。 这次修订一共 43 个修改点，只有一个涉及第 50 条，而且是程序性修改（第 50(7) 条关于行为准则机制的调整）。第 50 条第 1 至第 6 款的实质义务，逐字未动，2026 年 8 月 2 日按期生效：

• 必须告知用户”你正在与 AI 系统交互”（聊天机器人披露）；
• 深度伪造内容必须标注；
• 情绪识别和生物特征分类系统的部署方，必须告知被识别的个人，并按数据保护法处理个人数据；
• 生成式系统产出的合成音频、图像、视频、文本，必须以机器可读、可检测的格式标记。

另外两条同样没动：第 5 条的禁止性做法自 2025 年 2 月 2 日起适用；第 5 章的通用大模型义务自 2025 年 8 月 2 日起适用（含透明度、文档、以及具备系统性影响力的前沿模型的对抗性安全测试）。修订还给第 5 条新增了两项禁止：生成非自愿私密影像和儿童性虐待材料的 AI 系统，自 2026 年 12 月 2 日起禁止，归入最重罚档。

罚则怎么配的。 透明度义务（第 50 条）的违规，罚则上限是 1,500 万欧元或全球年营业额 3%（取高者）；禁止性做法（第 5 条）的罚则上限是 3,500 万欧元或 7%。这是一条很容易被忽略的分界：“延期”的是高风险那一档，而”已生效”的透明度那一档，罚则并不轻。

还有一条 12 月 2 日的日期，是最常被误读的。 对于在 2026 年 8 月 2 日之前就已经投放欧盟市场的生成式系统，第 50(2) 条的”机器可读标记”义务给了一个过渡期，但只有四个月——到 2026 年 12 月 2 日为止。8 月 2 日及之后投放市场的系统，从投放当天就要满足。把这条读成”2027 年再说”是典型的误判，因为机器可读标记是工程改造，不是写一份政策文件。

修订里还有两条对风控团队是实质利好，值得单独说。

第一条：为了偏见检测和纠正，现在有了明确的法律空间去处理特殊类别的个人数据。 在此之前，欧洲的公平性审计一直卡在一个死循环里——要检测歧视，就得处理敏感属性数据；而处理敏感属性数据，又缺乏法律依据。这次修订把这个口子打开了。

第二条：AI 素养义务从”保证结果”降为”采取合理措施”，同时把小中型中盘企业（员工少于 750 人且营业额低于 1.5 亿欧元）纳入了原本只给中小企业的灵活性安排：简化技术文档、按公司规模缩放的质量管理体系、沙盒优先准入。此外还扩大了沙盒之外的”真实世界测试”，并建立了欧盟级监管沙盒。

关于成本，有一个数字需要先知道：欧盟委员会在立法讨论中引用的影响评估显示，单个高风险产品的合规成本在数十万欧元量级。这个数字不会因为截止日期推后而变小——只是把支出往后挪。

二、德国打响了第一枪：AI 法案开始变成可执行的国内法

延期归延期，欧盟各成员国得指定本国的主管机构。德国在这件事上原本落后于欧盟设定的 2025 年 8 月 2 日期限，2026 年用一部专门立法补上了。

《AI 市场监督与创新促进法》（KI-MIG）于 2026 年 7 月 29 日生效（联邦议院 6 月 11 日通过、联邦参议院 7 月 10 日批准）。它确立了德国”混合执法”的架构：联邦网络局负责全经济范围的 AI 市场监督，联邦金融监管局（BaFin）保留金融领域的主管权，联邦数据保护专员继续管 GDPR 交叉部分。

对放贷机构来说，关键在 BaFin 拿到了什么。自 2026 年 7 月 29 日起，BaFin 可以对未达到透明度和反歧视标准的银行和保险公司开罚单，监督范围包括：

• 客户交互型聊天机器人的透明度合规；
• 高风险 AI 系统（明确点名”信用评估”类）；
• 禁止性做法，包括”收集和分析敏感个人信息、从而导致个人被不公平地置于不利地位”的系统。

BaFin 行长 Mark Branson 的表态很直白：”人们必须能够相信，在使用 AI 时其基本权利会得到保护。BaFin 会确保每个人都能公平地获得金融服务，没有人因为 AI 而受到歧视。”

但要注意两个边界：BaFin 采取的是抽样监督，不是逐家全面检查；而且高风险义务里最重的那一档（信用评分、保险定价）要等到 2027 年 12 月才进入主动审查——也就是前面说的欧盟延期。真正立刻生效的是第 50 条透明度和第 5 条禁止性做法。

德国的动作说明一件事：欧盟的”延期”不是”暂停”。 各成员国正在把欧盟层面的规则翻译成国内法，配上有权开罚单的机构。等到 2027 年 12 月高风险义务落地时，执法基础设施已经建好两年了。

三、美国：联邦在退、州在进、法院在改

美国的情况正好相反——没有统一的联邦 AI 法，而且联邦层面的风向是放松的，但州一级和法院在同时收紧。

联邦层面：一个方向相反的规则改动。 2026 年 4 月 22 日，监管 B（Regulation B）的最终规则发布，2026 年 7 月 21 日生效，取消了《平等信贷机会法》（ECOA）下的差别影响（效果检验）责任。这是近十年公平信贷领域最大的一次方向调整。但必须把边界读准：

• 取消的是”效果检验”这条路径；差别对待的责任不变；
• 《公平住房法》（FHA）和更严格的州级公平信贷法不受影响；
• 拒贷理由的披露义务不变——30 天内通知、说明具体理由；
• 执法重心从”立规”转向”盯重点机构”。

也就是说，“结果差异”这条战线在美国联邦层面被削掉了一半，但”解释义务”这条战线原封不动。 对 AI 风控团队而言，真正不能碰的还是那一块。

拒贷理由到底要写到什么程度？ 消费者金融保护局（CFPB）2022 年 5 月的 2022-03 号通函、2023 年 9 月的 2023-03 号通函已经把立场讲清楚，2026 年 5 月 5 日的 2026-03 号通函又专门针对机器学习承销模型重申了四条：必须给具体理由；”我们用了算法”不是有效理由；模型理解不可外包给供应商；理由必须准确对应真实决策因素。按指引，有效的拒贷理由要满足四点——指出具体不利因素、用申请人能听懂的话、反映模型真实使用的特征、至少给出四条主要理由。反面例子就是”自动化系统决策””AI 模型评分””专有评分模型”这类表述。

州层面：2026 年 1 月 1 日是一个集中生效日。

科罗拉多的故事值得单独讲，因为它是一个”合规计划建在流沙上”的样本。2024 年通过的 SB 24-205 原本是全美最全面的 AI 法，要求开发方和部署方对高风险 AI 系统”尽合理注意义务”防止算法歧视、做影响评估。生效日先是从 2026 年 2 月 1 日推到 6 月 30 日；2026 年 4 月 9 日，xAI 提起诉讼（美国司法部作为原告介入，这是联邦机构首次在州 AI 案件中作为原告），4 月 27 日法院裁定暂停执行；5 月 14 日，州长签署 SB 26-189，直接废止并替换了原法。

新法窄了很多：“尽合理注意义务”、影响评估、NIST/ISO 安全港条款全部删除，只保留透明度与披露——七个领域（教育、就业、住房、金融或借贷服务、保险、医疗服务、基本政府服务）的”重大决策”必须事前告知、事后 30 天内解释、允许更正数据、提供有意义的人工复核。

这条路径给所有做跨境合规的人一个教训：不要围绕某一条具体规则去建体系，要围绕”能力”去建。 规则会变，能力不会。

法院层面：责任正在向”上游”延伸。 两起案件值得盯：

• Mobley v. Workday：联邦法院允许歧视索赔同时对AI 供应商和使用该工具的雇主继续推进。也就是说，算法供应商不能再把自己定位成”中立工具提供方”。
• Kistler v. Eightfold AI：提出另一条理论——AI 生成的申请人评分，是否使供应商落入联邦消费者报告法（FCRA）的规制范围。

同时，联邦政府 2025 年 12 月的行政令建立了”AI 诉讼工作组”、要求商务部评估哪些州法构成”过度负担”（原定 2026 年 3 月 11 日出评估），并威胁削减相关州的部分联邦资金。但这份行政令本身没有创设联邦标准，也没有完成对州法的优先适用——在法院或国会解决之前，州法继续完全可执行。行政令的豁免清单还特意排除了三块：儿童安全、AI 算力与数据中心基础设施、州政府采购。

四、亚洲：印度把模型管理写成了规则，印尼把模型变成了牌照

亚洲的路径和欧美都不一样——它们不从”AI”入手，从”模型”和”牌照”入手。

印度：一份可以直接当检查表用的指引。 2026 年 6 月 24 日，印度央行发布《模型风险管理监管原则指引（草案）》，征求意见到 7 月 24 日。它的前身是 2024 年 8 月的《信贷模型风险监管原则（草案）》，以及 2025 年 8 月 13 日”负责任与伦理 AI 框架委员会”（FREE-AI）的报告。

这份指引最狠的地方是“模型”的定义：任何使用数据和分析技术（含 AI/ML）产生、并用于业务运营和决策的产出物的系统，都算模型——包括规则引擎、分析应用、决策规则，甚至”实质性影响贷款利率或客户定价”的电子表格。

适用对象覆盖商业银行、小型金融银行、支付银行、地方区域银行、区域农村银行、城市与农村合作银行、各层级非银行金融公司（含基础层到顶层）、全部印度金融机构（进出口银行、NABARD、NaBFID、国家住房银行、SIDBI）、资产重组公司和征信机构。

它要求的东西，逐条列出来就是一份审计清单：

• 董事会批准的模型风险管理框架（MRMF），覆盖治理、分级、清单、验证、审批、部署、监控、变更管理、业务连续性和退役；
• 三道防线：模型归属方为第一道，独立模型风险管理与验证为第二道，内部审计为第三道；董事会及董事会风险管理委员会对高风险模型负责；
• 模型清单：所有在用、停用、已退役模型都要登记；未进入清单的模型一律不得使用；
• 高风险模型须经董事会风险管理委员会审批；
• 第三方模型不免责：无论供应商提供了什么认证或保证，机构都必须独立验证；
• AI/ML 专章：评估幻觉、偏见与歧视性结果、数据漂移、对抗性攻击的风险；做压力情景测试；
• 人工监督与”杀死开关”：人在环、人工推翻、暂停与停用机制；并明确警告”自动化偏见”和过度依赖模型产出；
• 面向客户的 AI 必须披露其自动化属性，说明局限，并提供转人工的选项。

印度的隐私侧是另一条线：《数字个人数据保护法》（DPDP）2023 的配套规则于 2025 年 11 月公布，但实施是分阶段的——机构性条款先行，涉及处理、同意、数据受托人义务和数据主体权利的实质条款，定在通知发布后 18 个月生效。所以严格说，DPDP 的整套实体义务在 2026 年 8 月还没有全面运行，但金融科技公司需要提前把同意管理和数据谱系做起来，因为 DPDP 的同意必须是”自由、具体、知情、无条件、明确”的，为一个目的收集的数据不能自动转用于另一个 AI 场景。

印尼：把模型本身变成了一项持牌业务。 印尼走的是最”重”的一条路——替代信用评分（ACS）业务必须持牌，而且门槛直接卡在模型能力上：

• 必须取得 OJK 的替代信用评分业务许可；
• 最低实缴资本 50 亿印尼盾；
• 必须自建、自有、自运行基于非信贷数据的专有模型——白标第三方 AI 引擎被明确禁止；
• 主数据中心和灾备中心都必须物理位于印尼境内；
• ACS 模型不得单独依赖传统信贷数据。

监管的逻辑是技术问责：如果模型是事实上的主要授信引擎，那么运营方必须有能力解释它的数学逻辑，也必须有能力承担算法错误的后果。 说不清模型架构，就拿不到牌照。

治理侧还有一层：POJK 30/2025《金融科技与数字金融资产治理与风险管理》自 2026 年 7 月 1 日生效，适用所有取得 OJK 许可的金融科技平台（ACS 和金融服务聚合都在内），要求至少两名董事、覆盖战略/运营/网络/法律/合规/声誉六类风险的管理、每年提交公司治理报告、每半年提交风险画像。此外，OJK 已发布面向银行业的 AI 治理框架，并很可能成为金融科技与 ACS 的参照；金融服务聚合也已从监管沙盒”毕业”，进入独立牌照制度——这是继 ACS 之后第二个完成这一步的业务模式。

五、非洲与拉美：数据保护法正在代行 AI 监管

这两地的共同特点是：专门的 AI 法还没落地，但数据保护法已经在实际执法。

尼日利亚是执行力最强的一个样本。 《尼日利亚数据保护法》（NDPA）2023 第 37 条规定：数据主体有权不服从仅基于自动化处理作出的、产生法律或类似重大影响的决定；法条列有例外，但例外必须配上保障措施——人工干预、表达意见的机会、以及质疑决定的能力。

配套的《通用适用与实施指令》（GAID）2025 年 9 月 19 日生效，取代了原 NDPR 2019。其中第 28 条把数据保护影响评估（DPIA）变成强制且必须向监管机构报送的事项，明确列举的情形包括：画像或评分、产生法律或类似重大影响的自动化决定、系统性监控、敏感数据、某些创新技术、数字金融服务、医疗、电商。 换句话说，用 AI 做贷前决策，在尼日利亚必须做 DPIA 并报送。

执法强度可以从罚单看出来：2025 年 7 月对 Multichoice Nigeria 罚款 7.662 亿奈拉（跨境数据传输违规与同意框架不足）；对 Meta 的 2.2 亿美元罚单（2025 年第二季度）以及 3,280 万美元罚单（2026 年 2 月，行为广告未经明确同意）；2025 年 8 月一次性向 1,300 多家机构发出合规通知，覆盖金融、保险、养老金和博彩；2026 年又把调查扩展到 Temu、Remita Payment Services 和 Sterling Bank。监管模式从”接投诉才查”转向了”按行业主动扫”。

巴西的路径是”没有法，但先跑沙盒”。 综合 AI 法案 PL 2338/2023 早在 2024 年 12 月 10 日就通过了参议院，但截至 2026 年 9 月仍卡在众议院特别委员会——报告人 2025 年 5 月 20 日指定，最新立法动作停在 2026 年 6 月 17 日，报告尚未表决。参议院版本设了三档风险（过度风险禁止、高风险需影响评估、显著风险需透明度），信用评分明确属于高风险，并指定国家数据保护局（ANPD）为主要监管机构。

在立法空窗期，实际约束来自三条：

• LGPD 第 20 条：数据主体有权要求复核仅基于自动化处理作出的、影响其利益的决定，包括画像、信用评分和招聘决策；控制方必须提供关于所用标准和程序的清晰充分的信息。这里有一个关键细节——原草案要求”人工复核”，但立法修正案把这一要求删掉了。所以第 20 条要求的是”复核”，不必然是”人工复核”。
• ANPD 2025 年 12 月的生物识别评分指引：把面部识别、声纹、行为生物特征认证明确划入高风险档，要求部署前评估，并落实 LGPD 第 20 条和第 38 条下的可解释性义务。
• 巴西央行 2026 年第 405 号决议：专门针对 AI 外包——要求模型风险治理文档、供应商锁定缓解方案，以及对任何影响信贷、欺诈或合规结果的算法做重大决策留痕。

ANPD 的 AI 监管沙盒 2026 年 2 月进入受监督测试阶段，7 月 2 日发布了第一份阶段性监测报告，运行到 2026 年 12 月。LGPD 的罚则上限是巴西营业额的 2%，单次违规封顶 5,000 万雷亚尔；数据泄露须在 3 个工作日内报告监管机构。

顺带说一句欧洲委员会那条线。 《人工智能与人权、民主和法治框架公约》（CETS 225）是第一部有法律约束力的 AI 国际条约，2024 年 9 月在维尔纽斯开放签署，目前 21 个签署方。但截至 2026 年 9 月，只有欧盟完成了批准（2026 年 5 月 15 日），而按第 30 条需要五个缔约方批准、其中至少三个是欧洲委员会成员国才能生效——所以这份公约目前还没有生效，对任何主体都不产生义务。欧盟自身的公约效力自 2026 年 9 月 1 日起算，但其对私营主体的落实主要通过《人工智能法案》实现。

六、把红线收成一张表：七个全球禁区

把上面五节收起来，可以得到七个在绝大多数司法辖区都构成风险的禁区。它们的共同点是：不是”最好别做”，而是”做了就有明确的执法路径”。

这张表里最容易被低估的是第 6 条。 对新兴市场的放贷团队来说，”买一个现成的评分 API”是最省事的路，但印度要求你独立验证、印尼干脆要求你自建。采购一个模型，买不到的是责任。

七、小团队的最小落地清单

不是每个团队都有预算做全套合规。如果资源有限，按这个顺序做，能覆盖大部分风险：

第一，建立模型清单，并且把它当资产台账管。 每一个模型（含规则引擎、评分卡、以及实质性影响定价的表格）都要有：归属人、业务用途、风险分级、数据来源、验证状态、供应商依赖、生命周期状态。印度已经把”未入清单不得使用”写进了条款，这意味着清单不是管理工具，是准入条件。

第二，把拒贷理由从”结果”改成”输入”。 让模型在出分的同时输出归因（逻辑回归直接给系数，梯度提升树配 TreeSHAP），把理由码表控制在 8–12 条，每一条都要能对应到”客户做什么能改善”。这件事的技术成本远低于事后补救的成本。

第三，客户交互层加两个开关。 一个是”我在和 AI 交互”的披露，一个是”转人工”。这两个开关是欧盟第 50 条、印度 RBI 指引、德国 BaFin 执法的交集，实现成本极低，但缺失时的罚则很高。

第四，为自动决策配一条可执行的人工推翻路径。 不是”客服可以帮忙看看”，而是记录在案、有权推翻、结果可追溯的机制。尼日利亚、印度、科罗拉多要的都是这一条。

第五，每季度跑一次公平性测试并存档。 用 4/5 规则做基本判断，用 BISG 或自报数据估计受保护群体，同时做代理变量筛查。存档的意义不只是应付检查，是让”我们做过测试”这句话有证据。

第六，合同里写清楚三件事：逐笔特征级解释的获取权、审计权、以及退出时的数据与文档交付。这三条对应的是印度和印尼对第三方模型的实质要求。

第七，把”规则变动”当成常态而不是意外。 科罗拉多从立法到废止替换只用了不到两年；欧盟把高风险义务整体推后了 16 个月；巴西的 AI 法案在众议院停了将近两年。唯一稳定的应对方式，是让合规能力依附在”可解释、可审计、可推翻”这三个能力上，而不是依附在某一条具体规则上。

结尾：红线不是成本项，是准入门槛

回头看这个系列讲到这里的三篇：建模解决”能不能判准”，监控解决”会不会失效”，可解释性解决”凭什么这么判”，而这一篇解决的是”哪些动作在全球范围内都不能做”。

这四条合起来，其实是在回答同一个问题：你的 AI 风控能不能被审计。

这个问题看起来像合规问题，但它首先是商业问题。资方愿意进场的从来不是”高收益资产”，而是”收益可解释、风险可计量的资产”——而”可计量”的前提是”可审计”。 一个说不清拒贷理由、拿不出模型文档、没有人工推翻路径的系统，在资方面前是一个无法定价的黑箱；在监管面前是一张随时可能开出的罚单。

所以红线的真实作用不是限制你做什么，而是划出”哪些团队有资格上规模”。 印度要求模型入清单、印尼要求自建模型、德国已经开始执法——这些门槛在筛掉一部分玩家的同时，也把留下来的那部分玩家的资产变得更值钱。

下一篇回到最实际的问题：《小团队落地路线图：成本、工具、数据要求》——不讲原则，只算账：一个五到十人的风控团队，从零到一套可审计的 AI 风控体系，要花多少钱、用什么工具、需要多少数据。