2025 CCF标准技术全会“AI伦理与安全分论坛”举办

8月3日，2025中国计算机学会（CCF）标准技术全会“AI伦理与安全分论坛”在武汉举办，聚焦AI伦理与安全领域的核心议题，围绕技术突破与实践应用展开了深入探讨，为科研工作者和企业从业者提供了前沿的学术观点和宝贵的实践经验。

8月3日，2025中国计算机学会（CCF）标准技术全会“AI伦理与安全分论坛”在武汉举办，由CCF会士、浙江大学计算机科学与技术学院院长、区块链与数据安全全国重点实验室常务副主任任奎教授担任论坛主席，邀请到上海人工智能实验室安全可信AI联合负责人邵婧、阿里巴巴集团AI安全负责人薛晖、清华大学网络研究院特别研究员刘卓涛、浙江大学计算机科学与技术学院百人计划研究员褚志轩、火山引擎云安全负责人刘森等嘉宾，围绕AI伦理、安全防护、技术应用等方面展开主题报告，浙江大学网络空间安全学院副院长王志波教授主持。

上海人工智能实验室安全可信AI联合负责人邵婧作主题报告

邵婧在题为“构建安全可信AI：近端漏洞防御与远端风险预测”的报告中，阐述了人工智能技术在快速演进并带来突破性能力的同时，引入了新型安全威胁。她提出，如何有效防御近端安全漏洞并预测远端系统性风险，已成为构建可信AI的关键挑战。报告围绕“近端漏洞发现及防御-远端风险预测”双维度安全框架，系统分析了大模型、智能体及多智能体系统的核心安全问题，为相关领域的研究与发展提供了清晰的思路和方向。

阿里巴巴集团AI安全负责人薛晖作主题报告

薛晖在题为“推动负责任的人工智能科技创新，迈向更加安全可靠的智能时代”的报告中，分享了人工智能在发展过程中面临的困难与挑战，并重点介绍了阿里巴巴在人工智能安全管理方面的实践成果。其实践涵盖模型全生命周期和全风险类型的保障，以评测为基础，强调内生安全与外层护栏的有机结合，同时展现了以攻促防和协同共治的安全理念在安全技术方面的成果与布局，以及阿里巴巴在评测与红队、模型机理研究以及安全对齐方面的相关成果与思考。

清华大学网络研究院特别研究员刘卓涛作主题报告

刘卓涛在题为“
AgenticPrivacy-PreservingMachineLearning”的报告中指出，大型语言模型（LLM）正重塑用户与计算工具及数据服务的交互方式。通过集成结构化协调协议（如模型上下文协议MCP），LLM可作为智能协调代理，自动调用外部模型或API执行复杂任务。但多数MCP服务器由第三方托管，导致用户敏感数据和模型专有内容面临泄露风险。为此，他提出了隐私保护机器学习智能体，融合通用大语言模型与具备隐私计算能力的垂直领域专用模型，实现了效率与隐私的协同保障。

浙江大学计算机科学与技术学院研究员褚志轩作主题报告

褚志轩在“大模型智能体一体机安全可信应用”的报告中，提出了基于“高效・安全・可信”三位一体的大模型智能体一体机解决方案。该方案集成知识管理、AI对话、AI搜索、智能助手四大功能模块，构建了从“知识解放”到“智能增强”再到“行动赋能”的完整链路。通过软硬协同的私有化部署，提供企业级信创架构支持和多层安全防护机制，为组织数字化转型提供了安全可控、专业可信、开箱即用的智能化基础设施，推动大模型技术从通用服务向垂域专业应用的安全落地。

火山引擎云安全负责人刘森作主题报告

刘森在题为“智能体应用带来的安全挑战”的分享中，分析了在AI大模型日益火热的当下，企业所面临的安全挑战，并介绍了火山引擎云安全智能化、安全化的解决方案。该方案通过AI智能体技术实现高效、高质量的安全运营，让最佳安全经验真正服务于每个企业。

当下，AI技术在全球范围内呈爆发式增长，为经济发展注入了强大动力。然而，伴随技术的快速演进，数据隐私泄露、AI算法偏见、合成技术滥用等伦理与安全问题也日益凸显，给社会治理和公众信任带来严峻挑战。在此背景下，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局等多个部门联合发布了《人工智能生成合成内容标识办法》，并推出了我国首个人工智能领域的强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》。这些重要政策与标准的出台，标志着我国在人工智能安全治理领域迈出了关键而实质性的一步。作为计算机领域颇具影响力的学术组织，CCF积极响应国家需求，主动投身于应对AI伦理与安全挑战的工作之中，凝聚学术界与产业界的合力，推动技术研究与人才培养。本次论坛由CCF主办，聚焦AI伦理与安全领域的核心议题，围绕技术突破与实践应用展开了深入探讨，为科研工作者和企业从业者提供了前沿的学术观点和宝贵的实践经验，共同促进人工智能行业健康、可持续发展。

相关阅读

CCF 标准技术全会是CCF团体标准一年一度的学术与交流盛会，今年全会8月2日-3日在武汉光谷成功举办，来自全国高校科研机构和企业的300余位专家学者齐聚一堂，围绕前沿人工智能技术及其标准化进行了深入的交流。此次全会规模远超上届，极大地扩大了CCF标准工作的影响力和知名度。

大会详情见：

智能引领未来，标准筑基生态——2025 CCF标准技术全会在武汉光谷举办