算法偏见、隐私泄露怎么办？上海成立可信AI评测中心

今年的世界人工智能大会上，可信AI成为探讨的一大热点。

在7月9的2021世界人工智能大会“可信AI论坛”上，中国信息通信研究院（下称中国信通院）联京东探索研究院、合蚂蚁金服、清华大学等20余家学术机构、企业组织和高校共同发布了《促进可信人工智能发展倡议》，倡导政产学研各界加快形成国际协同治理共识，促进社会对可信AI的理解和重视。此外，中国信通院还与中国人工智能产业发展联盟等机构共同成立上海可信AI评测中心。

在论坛开幕式致辞中，中国信通院院长余晓晖表示，2020年可信人工智能研究论文数量相比于2017年增长了近5倍，这反映了整个全球无论是产业界、政府以及学术界，都在思考和担心人工智能的可信以及未来发展。

人工智能治理专委会委员、联合国教科文组织人工智能伦理特设专家组专家曾毅在论坛上表示，“最新人工智能技术进展模型，我们作为一个技术研究人员可以很负责地讲，现在看来都是不可信的。”在他看来，可信人工智能系统必须有在线连续学习和随时纠正能力。

上海市经信委主任吴金城在致辞中称，当前人工智能技术正在加快演进，赋能千行百业，深刻改变生产，生活，生态，与之相伴数据隐私，算法歧视，安全风险等人工智能治理问题引起全球多国政府，国际组织，研究机构和行业企业的共同关注。上海将在城市数字化转型实践中，加快完善人工智能治理规范，探索形成上海准则。包括三个方面：支持鼓励技术创新，推动加密技术、安全多方计算、联邦学习等安全技术的应用，提升AI技术安全特性和数据保护能力；建立测试测评体系，加快构建完善可信AI相关标准，研发创新测试测评技术；加快完善制度规范。

随后，由中国信息通信研究院（简称“中国信通院”）、中国人工智能产业发展联盟（AIIA）以及中国信通院华东分院共同成立的上海可信AI评测中心在该论坛揭牌。上海市经济和信息化委员会人工智能发展处处长石伯明、上海市市场监督管理局认可与检验检测监督管理处处长陈雷、中国信通院云计算与大数据研究所副所长魏凯以及中国信通院华东分院院长张雪丽共同为中心揭牌。

上海可信AI评测中心，将推动建立上海、国家人工智能可信标准体系，开展人工智能技术、产品、应用和服务的可信评估评测，致力于成为全国乃至全球知名的集AI标准制定、可信AI评测与产业落地于一体的科研中心。

此外，由中国信通院联合京东探索研究院撰写的《可信人工智能白皮书》也在论坛中发布。