《中国AIGC产业算力发展报告》发布 寻找大模型时代的算力选择最优解

中新网上海新闻9月4日电(谢梦圆)大模型的发展正推动AI算力市场进入新的发展阶段,强大的AIGC算力基础设施正在构建当中。近日,甲子光年智库推出《中国AIGC产业算力发展报告》(以下简称报告),在瞬息万状的AIGC产业发展过程中,对AIGC产业引发的算力资源需求变化进行观察与思考。

报告中指出,大模型训练是复杂系统工程,AIGC产业的算力对应的也是系统化的建设,需要从工程化的角度思考算力的全局“利用率”。

AIGC正处于早期快速发展阶段,训练端是目前算力的讨论热点,但不应忽视AIGC的商业突破要依赖推理侧的发展及算力支持。AIGC不是单纯地拉动算力规模,而是会改变算力产业的发展思路,例如MaaS对云服务模式的影响,云边协同的效力体现,及存算一体技术的发展等等。

据悉,未来大模型的产业化发展是一套复杂的系统工程,构建高效稳定的算力平台是核心要义,成熟的算法、数据产业链,配套工具链及丰富的生态链均成为关键因素。

云厂商UCloud认为,当前大模型发展面临着诸多痛点。如:大规模分布式算力集群是大模型训练的基本要求,当前国内对大算力集群的需要呈现井喷式涌现,大规模集群算力存在较大缺口等。

报告指出,算力资源的维度不仅包括算力规模大小,还要考虑算力部署及运营过程中可以利用的程度。算力是工程化结果,需要算力服务方在自身专业能力及经验案例上的实际Know-How作为基础。不同需求程度的用户不能唯算力的参数而论,而是要结合自身对于算力部署的能力进行进一步探究。

UCloud表示,在前期大多数算力需求为训练任务,推理只占少数。随着大模型市场的竞争格局逐渐稳固,头部模型公司凸显,训练算力会集中在这些公司,而其余业务则会直接使用这些公司的大模型进行推理,推理算力的比例逐渐攀升。同样,伴随着Llama 2的权重开源、代码开源在中长期也会掀起垂直模型生成的微调算力需求。

UCloud优刻得具备从数据中心、计算平台,到管理平台、网络服务、应用服务、生态接口等一站式产品和解决方案。凭借“东数西算”两大低成本、高附加值的自建数据中心,充分利用西部乌兰察布数据中心在能源配套和电力成本、算力资源方面的优势,基于公有云的产品栈和系统工程实践,在底层通过GPU云主机、裸金属等构建算力单元,以US3、UFS构建存储池,联动RoCE、IB的高性能网络,并在业务层使用UK8S进行任务调度,从而为大模型企业构建完备的训推一体平台。而东部的上海青浦数据中心则主要用于覆盖长三角区域,更加适用于对延时敏感的推理任务。

当前,UCloud也在通过内部孵化AIGC项目实践,推出“识问”智能助手平台,UCoder代码助手平台,AI绘画助手平台、大模型安全管理平台,并且优化模型微调、模型推理等流程,持续提升系统工程能力和服务经验积累,帮助大模型企业实现高效能的资源利用。

AIGC时代才刚刚开始。8月31日,国内首批8家通过《生成式人工智能服务管理暂行办法》备案的AI大模型产品陆续上线,面向全社会提供服务。开放的大模型产品包括百度“文心一言”、百川智能“百川大模型”、智谱AI“智谱清言”、抖音“云雀”、 商汤“商量SenseChat”、MiniMax“ABAB大模型”和上海人工智能实验室的“书生通用大模型”,其中不乏UCloud正在合作的大模型客户,半数企业使用了UCloud提供的GPU算力服务。

伴随着国产大模型的相继开放,将推动国产大模型生态的不断完善。AIGC时代才刚刚开始,技术和垂直应用方向尚有大量机会。UCloud将持续发挥中立、安全云计算平台的赋能价值,为助力AIGC产业发展打造稳定可靠的大模型智算底座,加速人工智能应用落地。(完)

注:请在转载文章内容时务必注明出处!

展开阅读全文

页面更新:2024-05-23

标签:模型   产业   人工智能   集群   系统工程   上海   中国   数据中心   需求   报告   时代   资源   平台

1 2 3 4 5

上滑加载更多 ↓
推荐阅读:
友情链接:
更多:

本站资料均由网友自行发布提供,仅用于学习交流。如有版权问题,请与我联系,QQ:4156828  

© CopyRight 2020-2024 All Rights Reserved. Powered By 71396.com 闽ICP备11008920号-4
闽公网安备35020302034903号

Top