NVIDIA:台积电GPU供货保证没问题

面对市场分析师忧心NVIDIA GPU面临1年交期,NVIDIA执行长黄仁勋在2023年NVIDIA GTC(GPU Technology Conference)大会受访时试图向客户保证,2023年内NVIDIA将有足够的GPU和相关产品供应,以满足客户的人工智能(AI)需求。NVIDIA加速运算部门副总裁Ian Buck向FierceElectronics记者保证,台积电的GPU供应没有问题。

据FierceElectronics报导,黄仁勋受访指出,自ChatGPT以来,对NVIDIA AI运算的需求急剧增加。生成式AI如今有语言、影像、影视内容、蛋白质(proteins)及化学品等相关产业需求,AI可协助的产业数量已经大幅增加,也加速对NVIDIA AI用于训练和推论的需求。

黄仁勋还表示,Grace CPU以及Grace Hopper CPU-GPU超级芯片皆已在生产。NVIDIA此次共发表2款新推论芯片,为用于AI视讯的L4 GPU,以及专为大型语言模型(LLM)部署量身打造、具备双GPU NVLink的H100 NVL,预计2023年下半推出。构成H100 NVL基础的H100 GPU目前正在出货。黄仁勋还介绍NVIDIA最新一代DGX超级计算机,将8颗H100 GPU连结在一起作为一个大型GPU。

VentureBeat报导,H100 NVL被视为大规模部署ChatGPT等大型LLM的合适选择。H100 NVL配有94GB的HBM3e,以及Transformer引擎加速功能,与前一代A100相比,在数据中心规模GPT-3推论效能方面高出12倍。

展开阅读全文

页面更新:2024-05-04

标签:执行长   推论   人工智能   视讯   报导   芯片   需求   语言   客户   产业

1 2 3 4 5

上滑加载更多 ↓
推荐阅读:
友情链接:
更多:

本站资料均由网友自行发布提供,仅用于学习交流。如有版权问题,请与我联系,QQ:4156828  

© CopyRight 2020-2024 All Rights Reserved. Powered By 71396.com 闽ICP备11008920号-4
闽公网安备35020302034903号

Top