亚马逊云科技：安全是生成式AI不可回避的问题

【环球网科技报道 记者 李文瑶】“安全是构建生成式AI应用不可回避的一个议题。”在以“AI时代 全面智能的安全”为主题的亚马逊云科技re:Inforce 2023中国站上，亚马逊云科技大中华区解决方案架构部总监代闻如此阐述生成式AI爆发式发展后，企业所面临的直接问题。

据了解，今年也是亚马逊云科技re:Inforce首次落地中国。在今年的大会上，亚马逊云科技将重点放在了“安全”上。随着人工智能技术的飞速发展，许多技术上的应用设想已经实现。云计算大大地助力了大量激增的数据和大规模可用的计算资源的实现，以此一直推动人工智能技术不断地创新。

如今，生成式AI的爆发，让海量数据的计算和分析成为了可能。同时，随着生成式AI应用场景的井喷，业务部门需求的旺盛，也给企业的技术部门带来了前所未有的挑战。IDC中国研究总监王军民表示，IDC 通过调研，看到企业组织在整个的数字化转型过程中，对于网络安全的担忧是最大的。

安全成为不可回避的问题

目前，生成式AI正在推动AI在企业加速落地。从行业应用来看，生成式AI已经应用到企业创新的各个环节，通过智能客服优化客户体验，通过自动生成代码来提高技术团队生产力，通过文字生成图片的方式加速创意内容生成，通过自动化文档处理提高整个组织的运营效率。

值得关注的是，生成式AI的需求越来越多从业务部门提出，不只是技术部门进行创新的工具或者是平台，而是变成了业务增强竞争力的一个核心手段。这将加速各个行业智能化的发展，也将促进改变行业游戏规则的机会出现。

但生成式AI带来“变革性”发展的同时，仍然没有绕开安全的问题。

从应用的角度来看，生成式AI的落地需要依赖大量的数据和模型，任何一个环节的安全疏漏，如使用不安全的模型训练及微调、模型的泄露、不安全的应用、不安全的应用访问等，都可能会导致企业自身数据及隐私的泄露，或者产生不准确甚至错误的结果。企业只有确保应用AI各个环节的安全合规，才能更好地助力业务开展创新。

近期，全球性安全组织OWASP列出了大语言模型应用所面临的十大威胁，比如当企业没有规定好数据边界、权限、应用的API控制，就有可能成为新的数据泄露途径。

代闻认为，从定位上来讲，安全是构建生成式AI应用不可回避的一个议题。因此，他认为：“从构建开始，我们就需要把安全作为企业AI战略发展的一个核心环节，尤其是现在飞速发展的阶段。”

三个角度关注安全问题

跳出传统框架，从全栈角度，从应用到数据、到框架到基础设施以及整个的合规体系来看，到底怎么样能建设一个好的、合规的、安全的AI应用和生成式AI应用？

在亚马逊云科技看来，这需要来从三个角度来关注安全的问题：数据和模型的安全、应用安全还有全球合规。

“数据和模型安全是构建AI应用的关键。”在代闻看来，生成式AI的井喷对一个企业的数据平台有了更高的要求。要训练构建一个生成式AI的模型，需要大量的非结构化数据。如果一个企业直接去应用一个做好的模型进行微调，这时候又需要有高质量的专业化的数据来微调这个模型。这两个方面的要求目前对于大多数企业的数据平台都是提出了更高的要求。

同时，静态数据和动态数据，不论是存储、传输还是使用，都需要比以往更加高水平的安全保护措施。

而在如今大模型不断投入行业应用的今天，如果想要确保大模型的安全，针对模型的访问策略就非常地关键。

“我想强调的是，模型的访问策略不是静态的，不是一次性的，而是一个需要通过设置验证调优不断迭代的过程，这样的话才能保证访问控制的策略是与时俱进的，是起作用的。”代闻强调：“它会带来相比传统的机器学习模型而言，内容更加地不确定，准确性不好把控，公平性不好把控。”

从合规的角度来看，在目前的整个全球环境下，安全合规变得越来越重要。代闻介绍，目前已经有超过130多个国家和地区制定和颁布了数据保护和隐私安全相关的法律法规。同时由于云计算的大规模普及，越来越多的重要数据正在加速上云，而且数量和种类在增加。业务持续变化，给安全合规带来的挑战，这里边其实也包含诸如像大模型运用带来的业务的变化给安全带来的挑战。

AI加强安全防护

在全球的数智化转型热潮中，不同类型客户的业务在发生持续变化，包括大模型运用、使用生成式AI工具给业务带来了由量变向质变的跃升，给安全合规等带来新的挑战。

但大语言模型和生成式AI提供了横向能力，最终会把能力辐射到很多不同的工具中去，还有可能会产生新的工具。代闻认为：重点是如何用这些工具服务到广大用户，在这样的框架下，如何能使用最合适的、高效的工具来支撑，大量工具和解决方案能够从数据保护、隐私数据剔除、到运行环境来保障数据和模型的安全。

早在几个月前，亚马逊云科技就宣布推出多种生成式AI服务和功能，以帮助客户构建和扩展自己的生成式AI应用程序。代闻介绍，相关应用使用组织内部的数据来训练大模型，训练数据只是在客户账户里来帮助工作，从而解决企业在采用大模型时对于数据保护等方面的顾虑。

目前，亚马逊云科技不仅提供了一系列的技术、服务和工具帮助更多企业充分释放生成式AI的潜力，同时确保安全合规是开展一切业务的基础，包括其生成式AI的各种工具，涵盖数据、模型以及应用各个环节。同时，亚马逊云科技还将AI以及生成式AI技术应用于其安全及合规服务中，以更智能的安全、合规服务应对复杂的安全威胁、提高合规效率。

据了解，在此次2023亚马逊云科技re:Inforce中国站上，亚马逊云科技推出了敏感数据保护解决方案，可实现对企业敏感数据的自动化发现并在统一平台管理数据资产。同时，亚马逊云科技通过在其 500 多项自身合规审计控制项中使用 AI 技术，大幅提升了自身的合规效率，将审计时间节约了 53%。

同时，亚马逊云科技还宣布与涂鸦智能成立“联合安全实验室”，双方将在机密计算及数据隐私、Matter技术合作及体系建设、生成式AI在IoT领域的安全实践等方面展开联合共创；与德勤企业咨询合作发布《中国企业出海发展建议白皮书2023版》，为中国出海企业解读相应的法律法规，分析面临的问题和挑战，并提出应对策略提升出海企业数据安全。同时，亚马逊云科技还正式推出“敏感数据保护解决方案”，帮助客户在数据治理层面，实现自动化敏感数据发现并在统一平台上管理数据资产。

对此，IDC中国研究总监王军民表示，安全是全球最高管理层数字化举措面临的最大障碍，因此安全也是最高管理层技术投资的关键任务，尤其是云计算市场在全球的快速发展极大推动了客户对IT安全软件及服务的需求。亚马逊云科技用高标准的安全理念，不断提升安全合规能力及标准。

来源：环球网