前几年的火热显卡加密货币挖矿,因为去年9月15日以太坊的POW升级戛然而止,矿老板大量抛售自己手上的矿卡,全新的显卡价格也从溢价50%甚至100%回落到正常水平。前几年一卡难求的局面有所缓解,显卡等等党也受了几年老黄的气准备看他吃瘪。结果2022年底ChatGPT横空出世火出了圈,这个聊天机器人的出现,引发了全世界对AI的讨论热度,什么大语言模型(LLM),通用人工智能(AGI),机器学习(ML),人工智能生成内容(AIGC),成为了街头巷尾讨论的话题,没用过ChatGPT像是与时代脱轨等等。全世界各国的大型科技公司软件公司纷纷摩拳擦掌,纷纷立项开发自己的大语言模型。
国内各大公司也积极跟进,不过目前大多停留在PPT阶段。
大语言模型机器学习需要使用NVIDIA A100-80G显卡,可以说这相当于AI运算中的硬通货,所有机器学习目前都是以这块卡为基准的。例如跑一遍1760亿参数的BLOOM单卡需要118天才能完成,耗电43万度。按商业用电1元算,不考虑设备租用费,光电费都要43万人民币。
而真正进行机器学习训练不可能单块卡进行,都需要上千块A100显卡并行训练缩短训练时间,如果每个大公司都采购1000块显卡,这跟挖矿相比可能,肯定是更大的蛋糕,而且服务企业用户比单个个人消费者更省力,老黄肯定在暗自偷笑。
老黄在公开言论也说:不要错过人工智能发展的关键时刻。言下之意,AI风口来了,大公司大企业赶紧买我的显卡,错过这个关键时刻,以后拍马都赶不上了,早晚被其他公司淘汰了。
往年的NVIDIA GPU技术大会(GTC),多少还跟游戏界带上点关系。今年基本上一点关系都没了,全请的人工智能专家。Deepmind是开发阿尔法Go的公司,而OpenAI,没错就是那个开发ChatGPT的。经过大会各种专家一阵狂轰滥炸,不知道又要卖出多少块A100。而且这卡还不是你想买就能买得到。中美关系陷入低谷,去年就被美国技术封锁,禁止高科技芯片销往中国,里面就包含A100,只能销售带宽阉割版的H100。现在中国的A100只有以前的库存量,已经炒到20万一块了。高校实验室的A100卡都是要排队使用,还得预约。各种GPU云计算企业只好拿H100勉强充充数。
在个人消费市场,4070和4060显卡的推出也一再推迟,原本去年10月出的4070,现在都3月了还没影子,推测可能产能都放到生产专业显卡A100去了,没时间生产你这些个人消费品。
从英伟达股票走势来看,也正好印证了这点,AI风口来了,矿难带来的影响也抵消了。
以前老黄尽把卡卖给矿老板,想着矿难了老黄该降价销售40系显卡,这次老黄更牛了,压根就不生产了。
这次显卡等等党们,又输了。
参考文献:
[1]《ESTIMATING THE CARBON FOOTPRINT OF BLOOM, A 176B PARAMETER LANGUAGE MODEL》,Alexandra Sasha Luccioni,Sylvain Viguier,Anne-Laure Ligozat
页面更新:2024-04-20
本站资料均由网友自行发布提供,仅用于学习交流。如有版权问题,请与我联系,QQ:4156828
© CopyRight 2020-2024 All Rights Reserved. Powered By 71396.com 闽ICP备11008920号-4
闽公网安备35020302034903号