潘菲：探究人工智能时代的算法治理

今天推出滨江区人民检察院第一检察部四级高级检察官潘菲的荐书稿《探究人工智能时代的算法治理》。

《人工智能时代的算法治理：机制与方案》一书，是北京大学法学博士，对外经济贸易大学法学院副教授、硕士生导师、院长助理，对外经济贸易大学数字经济与法律创新研究中心执行主任张欣所撰写。该书以人工智能时代的算法治理为核心关注，以算法基础权利、算法治理工具、算法治理路径、算法应用场景以及算法规制图景中的软法治理为落脚点，凝练算法治理的发展机理，厘清治理层面存在的核心问题，并相应提出治理方案。

算法解释权是最具代表性的新型算法权利。该书聚焦于两项最具代表性，也是为我国算法治理实践所直接借鉴的算法权利：算法解释权和免受自动化决策约束权。在构建本土化的算法解释权时，建议明晰算法解释权在算法治理中的地位和功用，厘清其行使要件和核心内容，以社会嵌入性和应用领域为基准探索精准化、场景化的衡量机制，打造内外兼具的技术协同治理机制。免受自动化决策约束权以保护人的主体性为首要宗旨，构筑面向事后阶段的算法风险消弭机制，成为个体对抗算法操控的重要防御。我国应在借鉴基础上积极创新，扩展行权适用的决策类型，厘清对个人产生影响的判断标准，建立面向数据生命周期的全要素配套行权机制，探索个体赋权之外的多元动态治理路径。

该书深入分析算法影响评估制度的构建机理与本土化方案，建议在构建本土化方案时，应当清晰认知算法技术行业发展与评估治理并举的紧迫性，科学制定算法影响评估制度的构建规划与基本路径，使制度设计精细化并强化制度执行实效。算法审计制度弥合算法透明与专有技术保护之间的治理冲突，助力企业自我规制与政府规制的双轨协同，推动法律、技术和伦理三元共治机制的有效落地。该书提出算法审计应以算法全生命周期为链条，分类分级地采取动态审计原则。基于多中心主体协同治理范式，算法审计可以分为由科技企业开展的内部审计、由监管机关和第三方开展的外部审计。围绕算法安全综合治理顶层设计，算法审计框架应由“总体风险的控制与治理”模块以及“过程风险的控制与治理”模块组成。

嵌套于平台治理框架之中，我国通过为平台设定义务、界定平台责任，同时赋予个体权利的复合型思路寻求建立算法的初始化治理框架。该书深入剖析了三种治理路径的形成机理、制度构造和治理效能。结合我国的算法治理实践和行业发展概况，提出我国算法治理方案的完善应当秉持技术信任和治理信任同步推进，打造场景化和精细化的机制设计，同时有效联结算法治理、数据治理和平台治理，稳步推进算法治理短期、中期和长期方案，逐步迈向基于算法信任的智慧型治理。

通过控制底层代码和塑造其运行的合法环境，大数据技术重新分配了信息权力，对国家、政府和企业赋能。当算法技术扩展式嵌入行政实践之时，软件代码和统计操作趋向于取代法律规则，形成了“自动分析、自动决策、自动执行”的算法行政系统。该书认为应明确算法行政须遵循合法、透明、问责、公正、必要的原则，实施算法影响评估制度和算法审计制度，将算法行政纳入法治化发展路径。在商业场景之下，结合大数据“杀熟”的技术原理和架构框架，应当以数据生命周期管理为视角，实现用户、行业团体、监管机构和平台企业多方联动、协同共治的监管格局。为治理算法性别歧视，应以算法公平理念为指引，以算法生命周期为节点有效开展歧视风险管理，结构性扩容反歧视规范体系并培育公平向善的算法运行生态。