ChatGPT需要1万张NVIDIA A100显卡 成本超10亿 国内6家公司负担得起

近日,商汤科技公布的一份纪要显示,只有六家国内公司具备训练像ChatGPT这样的生成式AI所需的算力,需要至少1万张NVIDIA A100加速卡的支持。

百度、腾讯、字节、阿里等互联网巨头,都可以承受这样的硬件投入,同时他们也已经开始发布自己的AI产品,如百度的文心一言。然而,高性能加速显卡现在是稀缺资源,国内购买NVIDIA高端显卡更是不容易。

NVIDIA A100计算卡是2020年推出的首款安培架构产品,配备542亿个晶体管、8196个流处理器和40GB HBM2显存等强大配置,能够提供高达19.5TFlops的单精度浮点性能,但功耗也高达250W。因此,能够承受这样高昂硬件投入的企业,目前还较为有限。

(8152743)

展开阅读全文

更新时间:2024-08-09

标签:加速卡   安培   显卡   商汤   国内   浮点   腾讯   晶体管   负担   成本   硬件   产品   公司

1 2 3 4 5

上滑加载更多 ↓
推荐阅读:
友情链接:
更多:

本站资料均由网友自行发布提供,仅用于学习交流。如有版权问题,请与我联系,QQ:4156828  

© CopyRight 2020-2024 All Rights Reserved. Powered By 71396.com 闽ICP备11008920号-4
闽公网安备35020302034903号

Top