ChatGPT需要1万张NVIDIA A100显卡 成本超10亿 国内6家公司负担得起

近日，商汤科技公布的一份纪要显示，只有六家国内公司具备训练像ChatGPT这样的生成式AI所需的算力，需要至少1万张NVIDIA A100加速卡的支持。

百度、腾讯、字节、阿里等互联网巨头，都可以承受这样的硬件投入，同时他们也已经开始发布自己的AI产品，如百度的文心一言。然而，高性能加速显卡现在是稀缺资源，国内购买NVIDIA高端显卡更是不容易。

NVIDIA A100计算卡是2020年推出的首款安培架构产品，配备542亿个晶体管、8196个流处理器和40GB HBM2显存等强大配置，能够提供高达19.5TFlops的单精度浮点性能，但功耗也高达250W。因此，能够承受这样高昂硬件投入的企业，目前还较为有限。

(8152743)