高风险AI系统 合规要求
EU AI Act 附件III列出了8大高风险AI应用领域。落入这些领域的AI系统必须满足严格的合规义务,包括风险管理、数据治理、技术文档等7项核心要求。
7项核心合规要求
所有高风险AI系统都必须满足以下要求,无论属于哪个领域:
8大高风险AI领域详解
以下每个领域都列出了落入高风险的AI产品类型、必须满足的技术要求、合规成本估算以及典型中国企业案例。
生物特征识别和分类
用于远程生物特征识别(非实时、非公共场所)、生物特征分类以及情绪识别(非工作/教育场景、获授权的医疗/安全场景)的AI系统。注意:公共场所实时生物识别属于禁止类。
旷视科技 Face++ — 企业级人脸识别SDK出海需补充多种族训练数据、增加人工复核环节、完善技术文档。海康威视 — 非公共场所的门禁/安检设备需增加透明度标识和日志记录功能。
关键基础设施管理
用于道路交通安全、水/气/电/暖供应、数字基础设施等关键基础设施的安全组件。这些AI系统的故障可能危及人的生命、健康或财产安全。
华为智慧城市 — 智慧交通和电网AI解决方案需建立完整的风险管理体系和冗余系统。百度Apollo — 自动驾驶需通过欧盟的安全评估认证,提供完整技术文档和人工接管方案。
教育和职业培训
决定教育和职业培训机会的AI系统,包括录取决策、学习成果评估、个性化学习路径推荐、考试防作弊监控等。这些系统的决策直接影响个人的教育机会和人生发展。
科大讯飞 — AI阅卷和口语评测系统出海需增加偏见审计和人工复核环节。松鼠AI / 猿辅导 — 自适应学习算法需提供透明的推荐逻辑说明,确保不因个人特征产生歧视。
就业和劳动者管理
用于招聘、筛选、面试评估、晋升决策、解雇决定、任务分配和绩效监控的AI系统。这是对中国出海企业影响最广泛的领域之一,因为HR科技已成为中国企业出海的重要赛道。
BOSS直聘 / 猎聘 — AI推荐和筛选算法需增加公平性审计和透明度说明。钉钉 / 飞书 — 智能排班和绩效监控功能需提供人工监督接口和员工申诉机制。
基本服务获取
用于评估个人信用、决定保险费率、获取公共服务资格的AI系统。当AI决策影响个人能否获得基本私人和公共服务时,系统被归为高风险。
蚂蚁集团 — 花呗/借呗的信用评分模型出海需满足欧盟的公平性要求和可解释性标准。京东金融 — 风控模型需提供拒绝理由说明和申诉渠道。
执法
用于辅助执法的AI系统,包括犯罪风险预测(个人层面)、测谎辅助、证据分析、嫌疑人画像等。这些系统的决策可能直接影响个人自由和权利。
商汤科技 / 依图科技 — 面向海外执法机构的AI分析产品需要进行全面的偏见审计,并确保所有决策都有人工参与。出口到欧盟的执法AI产品面临极高合规门槛。
移民和边境管理
用于边境安检、签证/庇护申请评估、移民风险评估的AI系统。这些系统影响人员的跨境自由流动和基本权利。
中控智慧 / 同方威视 — 边境安检设备和自动通关系统需满足欧盟AI法案和GDPR的双重合规要求。云从科技 — 机场人脸识别通关方案需增加多种族准确性验证和人工审核环节。
司法和民主程序
用于辅助司法判决、案件分析、法律研究以及影响选举或投票行为的AI系统。这些系统触及民主社会最核心的公平正义原则。
华宇软件 — 智慧法院系统出海需确保AI仅作辅助角色,完善可解释性。出海的法律AI产品(如合同审查、法律咨询机器人)也需评估是否落入此类。
合规要求复杂度对比
不同高风险领域在7项合规要求上的相对复杂度
合规成本速查
不同领域的预估合规投入对比。成本取决于产品复杂度、现有合规基础和是否选择第三方评估。
| 高风险领域 | 合规成本范围 | 主要成本项 | 中国企业数量 |
|---|---|---|---|
| 生物特征识别 | ¥50万~500万 | 多种族数据采集、偏见审计 | 约 30+ |
| 关键基础设施 | ¥100万~1000万+ | 安全认证、冗余系统建设 | 约 20+ |
| 教育和职业培训 | ¥30万~200万 | 偏见审计、人工复核系统 | 约 40+ |
| 就业和劳动者管理 | ¥30万~300万 | 公平性测试、申诉系统 | 约 50+ |
| 基本服务获取 | ¥50万~500万 | 模型可解释性改造 | 约 30+ |
| 执法 | ¥100万~800万 | 严格审计、人权影响评估 | 约 10+ |
| 移民和边境管理 | ¥80万~600万 | 跨国数据合规、多种族验证 | 约 10+ |
| 司法和民主程序 | ¥40万~300万 | 可解释性、法律合规审查 | 约 10+ |
下一步行动建议
💡 中国企业高风险AI合规路线图
- Step 1 — 分类定位:确认你的AI产品属于哪个高风险领域(可能跨多个领域)
- Step 2 — 差距分析:对照7项合规要求,识别当前产品与要求之间的差距
- Step 3 — 合规规划:制定合规改造计划,预估成本和时间线
- Step 4 — 技术改造:实施风险管理系统、数据治理、日志记录等技术要求
- Step 5 — 文档准备:编写完整的技术文档和合规评估报告
- Step 6 — 评估认证:完成自评估或第三方评估,注册欧盟AI数据库
截止日期提醒:高风险AI系统合规截止日期为 2026年8月2日。嵌入到已有欧盟产品安全法规覆盖的AI系统截止日期为 2027年8月2日。查看完整时间表 →
需要专业合规咨询?
欧盟AI Act合规顾问,专注中国出海企业
预约免费评估