8
大高风险领域
7
项核心合规要求
200+
中国企业受影响
2026.08
合规截止日期

7项核心合规要求

所有高风险AI系统都必须满足以下要求,无论属于哪个领域:

⚠️
风险管理系统
Art. 9
🗃️
数据治理
Art. 10
📄
技术文档
Art. 11
📑
日志记录
Art. 12
👁
透明度
Art. 13
🧑
人工监督
Art. 14
🎯
准确性与稳健性
Art. 15

8大高风险AI领域详解

以下每个领域都列出了落入高风险的AI产品类型、必须满足的技术要求、合规成本估算以及典型中国企业案例。

01
高风险

生物特征识别和分类

Annex III, 1 — Biometrics

用于远程生物特征识别(非实时、非公共场所)、生物特征分类以及情绪识别(非工作/教育场景、获授权的医疗/安全场景)的AI系统。注意:公共场所实时生物识别属于禁止类

落入此类的AI产品
企业门禁人脸识别 机场安检身份核验 远程身份认证 年龄估计系统 驾驶员疲劳监测
⚠️
风险管理系统识别生物数据滥用、误识别等风险并持续监控
🗃️
数据治理训练数据需涵盖多种族/肤色/年龄,确保无偏见
📄
技术文档模型架构、训练方法、准确率、FAR/FRR指标
📑
日志记录每次识别的时间戳、结果、置信度需可追溯
👁
透明度告知用户正在进行生物特征识别及其目的
🧑
人工监督低置信度结果需人工复核,不可全自动决策
🎯
准确性与稳健性跨人群准确率一致,抗对抗攻击能力
合规成本估算
¥50万 ~ 500万
典型中国企业案例

旷视科技 Face++ — 企业级人脸识别SDK出海需补充多种族训练数据、增加人工复核环节、完善技术文档。海康威视 — 非公共场所的门禁/安检设备需增加透明度标识和日志记录功能。

02
高风险

关键基础设施管理

Annex III, 2 — Critical Infrastructure

用于道路交通安全、水/气/电/暖供应、数字基础设施等关键基础设施的安全组件。这些AI系统的故障可能危及人的生命、健康或财产安全。

落入此类的AI产品
智慧交通管理 电网调度AI 供水系统AI 自动驾驶系统 网络安全AI
⚠️
风险管理系统故障模式分析、级联风险评估、应急预案
🗃️
数据治理运行数据完整性保障,异常数据处理策略
📄
技术文档系统架构、安全等级、冗余设计说明
📑
日志记录运行状态、决策记录、异常事件全链路追溯
👁
透明度向运维人员提供AI决策的可解释性说明
🧑
人工监督关键操作需人类确认,紧急情况可人工接管
🎯
准确性与稳健性高可用性要求,需通过压力测试和安全审计
合规成本估算
¥100万 ~ 1000万+
典型中国企业案例

华为智慧城市 — 智慧交通和电网AI解决方案需建立完整的风险管理体系和冗余系统。百度Apollo — 自动驾驶需通过欧盟的安全评估认证,提供完整技术文档和人工接管方案。

03
高风险

教育和职业培训

Annex III, 3 — Education & Vocational Training

决定教育和职业培训机会的AI系统,包括录取决策、学习成果评估、个性化学习路径推荐、考试防作弊监控等。这些系统的决策直接影响个人的教育机会和人生发展。

落入此类的AI产品
AI阅卷/评分 录取推荐算法 自适应学习系统 考试防作弊AI 学习能力评估
⚠️
风险管理系统评估评分偏见、歧视风险,建立申诉机制
🗃️
数据治理确保训练数据代表性,消除性别/地域/种族偏见
📄
技术文档评分标准、算法逻辑、偏见测试结果
📑
日志记录每次评估决策的输入输出和影响因素记录
👁
透明度向学生/家长说明AI在评估中的角色和权重
🧑
人工监督AI评分需教师复核,重大决策不能全自动
🎯
准确性与稳健性跨文化/跨语言准确性验证
合规成本估算
¥30万 ~ 200万
典型中国企业案例

科大讯飞 — AI阅卷和口语评测系统出海需增加偏见审计和人工复核环节。松鼠AI / 猿辅导 — 自适应学习算法需提供透明的推荐逻辑说明,确保不因个人特征产生歧视。

04
高风险

就业和劳动者管理

Annex III, 4 — Employment & Worker Management

用于招聘、筛选、面试评估、晋升决策、解雇决定、任务分配和绩效监控的AI系统。这是对中国出海企业影响最广泛的领域之一,因为HR科技已成为中国企业出海的重要赛道。

落入此类的AI产品
AI简历筛选 视频面试分析 绩效评估AI 智能排班系统 员工流失预测 薪酬算法
⚠️
风险管理系统识别招聘歧视、性别偏见、年龄歧视等风险
🗃️
数据治理历史招聘数据的偏见审计和数据清洗
📄
技术文档筛选标准、权重因子、排除条件的完整记录
📑
日志记录每个候选人的评分过程和决策依据
👁
透明度向求职者说明AI在招聘中的使用及申诉渠道
🧑
人工监督HR必须参与最终决策,AI仅作为辅助
🎯
准确性与稳健性跨性别/跨种族/跨年龄公平性测试
合规成本估算
¥30万 ~ 300万
典型中国企业案例

BOSS直聘 / 猎聘 — AI推荐和筛选算法需增加公平性审计和透明度说明。钉钉 / 飞书 — 智能排班和绩效监控功能需提供人工监督接口和员工申诉机制。

05
高风险

基本服务获取

Annex III, 5 — Access to Essential Services

用于评估个人信用、决定保险费率、获取公共服务资格的AI系统。当AI决策影响个人能否获得基本私人和公共服务时,系统被归为高风险。

落入此类的AI产品
信用评分模型 保险定价AI 贷款审批系统 风控模型 紧急服务调度AI
⚠️
风险管理系统金融歧视风险评估,弱势群体保护机制
🗃️
数据治理确保训练数据不包含歧视性特征(种族、性别代理变量)
📄
技术文档模型特征权重、决策边界、公平性指标文档
📑
日志记录每笔信用决策的评分过程和关键影响因素
👁
透明度向申请人提供AI评估的解释和拒绝理由
🧑
人工监督重大决策(贷款拒绝等)需人工审核流程
🎯
准确性与稳健性跨人群公平性验证,避免系统性歧视
合规成本估算
¥50万 ~ 500万
典型中国企业案例

蚂蚁集团 — 花呗/借呗的信用评分模型出海需满足欧盟的公平性要求和可解释性标准。京东金融 — 风控模型需提供拒绝理由说明和申诉渠道。

06
高风险

执法

Annex III, 6 — Law Enforcement

用于辅助执法的AI系统,包括犯罪风险预测(个人层面)、测谎辅助、证据分析、嫌疑人画像等。这些系统的决策可能直接影响个人自由和权利。

落入此类的AI产品
犯罪预测系统 嫌疑人画像AI 证据分析AI 测谎辅助AI 视频侦查分析
⚠️
风险管理系统误判风险评估、种族/民族偏见检测
🗃️
数据治理训练数据合法性审查,历史偏见数据清洗
📄
技术文档预测模型的准确率、误报率、算法限制说明
📑
日志记录所有AI辅助决策的完整审计轨迹
👁
透明度向相关司法机构说明AI系统的能力和局限
🧑
人工监督AI不可独立做出执法决策,必须有人类判断
🎯
准确性与稳健性对抗攻击防御、极端场景鲁棒性测试
合规成本估算
¥100万 ~ 800万
典型中国企业案例

商汤科技 / 依图科技 — 面向海外执法机构的AI分析产品需要进行全面的偏见审计,并确保所有决策都有人工参与。出口到欧盟的执法AI产品面临极高合规门槛。

07
高风险

移民和边境管理

Annex III, 7 — Migration, Asylum & Border Control

用于边境安检、签证/庇护申请评估、移民风险评估的AI系统。这些系统影响人员的跨境自由流动和基本权利。

落入此类的AI产品
边境身份核验 签证风险评估 自动通关系统 旅客风险画像 文件真伪鉴别
⚠️
风险管理系统民族/国籍歧视风险评估,弱势群体特殊保护
🗃️
数据治理跨国数据使用合规(GDPR叠加要求)
📄
技术文档身份验证准确率、文件识别能力、算法限制
📑
日志记录每次边境检查决策的完整记录和可追溯性
👁
透明度告知旅客AI在边检中的使用,提供人工通道
🧑
人工监督拒绝入境决策必须有人类边检官最终确认
🎯
准确性与稳健性跨国籍/跨种族身份识别一致性验证
合规成本估算
¥80万 ~ 600万
典型中国企业案例

中控智慧 / 同方威视 — 边境安检设备和自动通关系统需满足欧盟AI法案和GDPR的双重合规要求。云从科技 — 机场人脸识别通关方案需增加多种族准确性验证和人工审核环节。

08
高风险

司法和民主程序

Annex III, 8 — Administration of Justice & Democratic Processes

用于辅助司法判决、案件分析、法律研究以及影响选举或投票行为的AI系统。这些系统触及民主社会最核心的公平正义原则。

落入此类的AI产品
AI法律助手 量刑辅助系统 案件预测分析 选举信息推荐 争议解决AI
⚠️
风险管理系统司法偏见风险评估,确保不影响司法独立
🗃️
数据治理案例数据的代表性和偏见审计
📄
技术文档法律推理逻辑、数据来源、模型局限性说明
📑
日志记录AI辅助建议和最终判决的对比记录
👁
透明度向当事人披露AI在司法程序中的使用
🧑
人工监督法官保留最终裁判权,AI仅作参考
🎯
准确性与稳健性法律推理的准确性验证和对抗性测试
合规成本估算
¥40万 ~ 300万
典型中国企业案例

华宇软件 — 智慧法院系统出海需确保AI仅作辅助角色,完善可解释性。出海的法律AI产品(如合同审查、法律咨询机器人)也需评估是否落入此类。

合规要求复杂度对比

不同高风险领域在7项合规要求上的相对复杂度

风险管理系统 数据治理 技术文档 日志记录 准确性与稳健性 人工监督 透明度
关键基础设施(最高复杂度)
一般高风险领域(平均)

合规成本速查

不同领域的预估合规投入对比。成本取决于产品复杂度、现有合规基础和是否选择第三方评估。

高风险领域 合规成本范围 主要成本项 中国企业数量
生物特征识别 ¥50万~500万 多种族数据采集、偏见审计 约 30+
关键基础设施 ¥100万~1000万+ 安全认证、冗余系统建设 约 20+
教育和职业培训 ¥30万~200万 偏见审计、人工复核系统 约 40+
就业和劳动者管理 ¥30万~300万 公平性测试、申诉系统 约 50+
基本服务获取 ¥50万~500万 模型可解释性改造 约 30+
执法 ¥100万~800万 严格审计、人权影响评估 约 10+
移民和边境管理 ¥80万~600万 跨国数据合规、多种族验证 约 10+
司法和民主程序 ¥40万~300万 可解释性、法律合规审查 约 10+

下一步行动建议

💡 中国企业高风险AI合规路线图

  • Step 1 — 分类定位:确认你的AI产品属于哪个高风险领域(可能跨多个领域)
  • Step 2 — 差距分析:对照7项合规要求,识别当前产品与要求之间的差距
  • Step 3 — 合规规划:制定合规改造计划,预估成本和时间线
  • Step 4 — 技术改造:实施风险管理系统、数据治理、日志记录等技术要求
  • Step 5 — 文档准备:编写完整的技术文档和合规评估报告
  • Step 6 — 评估认证:完成自评估或第三方评估,注册欧盟AI数据库

截止日期提醒:高风险AI系统合规截止日期为 2026年8月2日。嵌入到已有欧盟产品安全法规覆盖的AI系统截止日期为 2027年8月2日查看完整时间表 →

需要专业合规咨询?

欧盟AI Act合规顾问,专注中国出海企业

预约免费评估