首页 > 头条 > 内容

囤上千英伟达芯片浮盈即过亿,国产大模型的路更难走了

发布时间:2023-10-23 13:55:04   来源:投资界   阅读量:18717   
字号:

从事大模型开发的国内创业者李鹏,最近切身感受了一把AI芯片行业的疯狂。

囤上千英伟达芯片浮盈即过亿,国产大模型的路更难走了

今年4月份,李鹏以单个近8万元的价格,下单了上千英伟达A800芯片,10月中旬收到货后,随即迎来美国对高性能AI芯片的进一步限制。国内A800芯片价格应声上涨,至10月20日,其单个价格已经涨至约30万元。这意味着,李鹏手里这批A800芯片,浮盈已经破亿元。

英伟达芯片价格暴涨的背后,离不开美国商务部工业与安全局出台的AI芯片出口管制新规定。美东时间10月17日,BIS在去年10月对AI芯片带宽速度做出限制的基础上,正式公布了把性能密度作为限制新标准的相关要求,并提供了30天缓冲期。

在新规影响下,英伟达原本针对中国市场推出的A100/H100的定制版芯片A800/H800,因为超标也将被全面禁售。

除此之外,BIS还希望借助对芯片性能密度的新限制,防止中国厂商通过Chiplet封装技术进行多个芯片的拼接,从而达到提升芯片整体性能的目的。华为在Mate 60 Pro上回归的5G芯片,就曾一度被外界揣测为是通过Chiplet封装技术实现了媲美7nm的工艺性能。

按照美国商务部长雷蒙多的说法,AI芯片的出口管制规定将至少每年更新一次,以便尽可能封堵中国获取先进AI芯片的漏洞。

在李鹏见证A800芯片价格暴涨之际,英伟达针对游戏市场发行的RTX 4090显卡,也走上了身价暴涨之路。

作为全球消费级产品界配置最高、性能最强大的显卡,RTX 4090因为性能密度超标而被列入禁售名单。受此消息影响,从10月18日开始,国内电商渠道的RTX 4090显卡一度显示缺货,价格更是从原本的15000元左右,快速飙升至3万-5万元。

不过,在美国继续执行“小院高墙”方针之下,BIS将限制锁定在了有限范围内,仍然允许出口用于笔记本、智能手机、游戏应用等消费类应用的芯片,但对于少量高端游戏芯片则制定了许可通知要求。

英伟达能否顺利申请到RTX 4090显卡的出口许可,眼下仍存在变数。字母榜就此向英伟达在国内的合作商之一七彩虹求证,后者表示暂时还不清楚后续能否继续售卖RTX 4090显卡产品。

但市场已经率先给出了乐观反馈。到10月20日,国内电商渠道RTX 4090显卡已经很少显示缺货状态,价格也回落到2万-3万元。

相比有可能“虚惊一场”的RTX 4090显卡被禁风波,英伟达A800/H800芯片被禁,几乎已是板上钉钉的事实。

在回应美国升级对中国AI芯片监管措施的影响时,英伟达在公告中提到,“考虑到全球对英伟达产品需求强劲,预计不会对财务业绩产生短期有意义的影响。”

但长期来看,中国市场的缺失,将对英伟达造成无可避免的冲击。在今年二季度财报会上,英伟达CEO黄仁勋就曾对此表态,认为一旦长期向中国销售数据中心GPU的禁令实施,将导致英伟达产业失去在全球*市场之一竞争和*的机会。

将要遭遇长期阵痛的不止英伟达。对于一众国内大模型厂商而言,英伟达芯片的断供,或将成为其追赶ChatGPT乃至GPT-4的*阻力。

01

尽管有部分声音认为巨型人工智能模型的时代正在走向终结,但在OpenAI CEO奥特曼看来,模型性能的缩放法则仍然有效,增加模型的大小将继续提高性能,奥特曼甚至提出了芯片需求每三四个月就要翻一番的大模型时代“摩尔定律”。

根据DeepMind联合创始人、现Inflection AI CEO穆斯塔法?苏莱曼爆料,OpenAI正在秘密训练的GPT-5,其所需英伟达芯片数量预估在30000—50000个H100。

哪怕国内大厂如阿里、腾讯、百度等都表态称在新规出台之前,已经提前采购了一批芯片且部署到位,但面对仍在大模型技术上持续迭代中的OpenAI,不想在大模型竞争中掉队的国内大厂,其芯片储备是否足够应付未来的竞争,仍是个问题。

8月份,百度、腾讯、阿里、字节被爆出向英伟达下了一笔累计达10亿美元的交付订单,总共采购约10万个A800芯片,明年交付的AI芯片价值更是达到40亿美元。明年的订单大概率已经没有指望,即便年内的10万个A800芯片顺利交付,分摊下来每家大厂的份额也只有2.5万个,远不足以支撑它们跟上GPT-5的脚步。

且从BIS给英伟达预留的30天缓冲期来看,这也切断了国内大厂赶在禁令生效前抢购一波的幻想。

据CoreWeave联合创始人兼CTO Brian Venturo说法,今年一季度,获取英伟达GPU还相对容易,但从4月份开始,市场忽然变得异常紧张,交货时间已经需要排到2024年一季度甚至二季度。

字母榜向李鹏求证,上述交货时间得到验证,据其透露,向英伟达发出订单需求后,要等待六七个月才能拿到货。

更糟糕的情况还在于,英伟达还将继续在“黄氏定律”指导下,每六个月推出一款新AI芯片,届时,连定制版都无法获取的国内大厂,在硬件配置上与美国竞争对手的差距可能越拉越大。

一旦英伟达芯片全面断供成真,留给大厂的替代方案或许只剩更换国产GPU厂商这一条路。

近期三季度财报发布会上,科大讯飞副总裁江涛就对此表示,讯飞星火大模型不受英伟达芯片断供影响,其采用的华为昇腾910B能力已经基本做到可对标英伟达A100。

但头部云厂商大模型研发工程师吴伟告诉字母榜,从单一芯片来看,部分国内GPU芯片或许已经可以媲美A800乃至A100,但在多卡串联的并行计算环节,仍然存在较大差距。

微软大中华区Azure事业部总经理陶然同样秉持这样的观点,认为很多厂商没有能力去实现多卡连接,但多卡并行运算却直接决定着大模型训练所需花费的时间成本,“同样的一套模型,如果训练一次需要花费一周成本为100万美元,但如果带宽太小最终耗时两周,那成本就将乘以2。”

在崇尚效率的大模型赛道,时间有时比金钱更重要。使用大厂自研芯片,同样存在类似的费效比问题。

在实际应用中,据吴伟介绍,大厂自研芯片更多被用来执行推理任务,即在由英伟达芯片训练好的大模型上,大厂借助自研芯片,保证大模型的日常运行。

即便是在更换国产GPU的过程中,大厂眼下也面临无法使用更先进制程工艺芯片的挑战。BIS已经将壁仞、摩尔线程等国产GPU公司列入实体清单,这意味着在没有获得许可情况下,它们既不能进口含有美国公司的任何技术或产品,也不能通过台积电等代工厂生产14nm以下的先进芯片。

另一个不容忽视的影响是,更先进芯片往往还会通过不断的技术迭代,帮助降低大模型的运行成本。黄仁勋就曾表示,“H100可以将大语言模型的处理成本降低一个数量级。”

一旦大模型训练成本变得更低,客户调用大模型API接口的价格也将变得更便宜。届时,国内大厂不仅要直面芯片性能落后的现实,还将承担起比海外竞争对手更加高昂的大模型运行成本。

02

国内大厂并不是英伟达芯片断供风波中受影响*的一方。相比大厂借助充沛资金提前储备芯片的举措,国内大模型创业者所要迎接的震荡,将更为剧烈。其中,又以研发通用大模型的创业者受冲击更重。

近期,部分立志做通用大模型的创业公司,纷纷宣布融资消息:百川智能宣布完成3亿美元新融资;智谱AI宣布完成超25亿元累计融资。但眼下,这些原本可能用来购买英伟达芯片的融资款,一时间没了用武之地。

即便是那些盯着垂直领域研发行业大模型的创业公司,也同样会受到波及。据李鹏介绍,部分参数量维持在数十亿级别的行业大模型,理论上购买大厂云资源就足以满足需求。但对于想做出*体验的创业公司来说,稳定的算力仍是必不可少的条件。购买大厂云资源,很可能遭遇公司算力需求扩大而对方无法及时支援的情况。

但相比大厂,大模型创业公司在更换到国产GPU的过程中,除了需要付出更多时间成本的代价外,还可能因为在算法方面的短板,人为制造出更大的追赶差距。

在人工智能专家丁磊博士看来,相比耗时一个月还是三个月训练好大模型,更大的挑战在于当前部分大模型创业公司“还不是那么会训练大模型……如果训练方法错的话,你有再多的GPU也没用。”

在模型层创业之外,基于大模型的应用层创业也可能会因为美国政府新的制裁措施,影响到业务发展。

据媒体爆料,美国政府还在考虑限制向中国AI公司出租云服务,以堵上这些公司通过租赁微软云的方式,从而规避对先进制程芯片的出口禁令。

03

在国内一众大模型厂商业务遭遇冲击或挑战之际,作为风暴中心的英伟达,同样难逃损失。

在美国政府传出将对半导体技术实施新的出口限制,进一步限制中国市场获取A800和H800时,黄仁勋曾在7月份接受采访中表示,“如果我们被剥夺了中国市场,我们没有应急措施。因为世界上没有其他中国,只有一个中国。”

2022年,中国市场的营收占到英伟达的约四成。美国半导体行业协会数据更是显示,2022年,中国半导体采购额为1800亿美元,占全球半导体采购总额5559亿美元的三分之一以上,是*的全球单一市场。

为了尽可能挽回损失,黄仁勋一度尝试游说美国政府改变策略。今年7月份,黄仁勋曾连同英特尔CEO基辛格、高通CEO阿蒙与美国政府官员在华盛顿举行会谈。这些芯片巨头们希望美国政府应该进一步评估“限制对华半导体出口”的影响,认为出口管制将有损于美国在半导体行业的领导地位,希望停止实施新的对华限制。

尽管这场游说活动在某种程度上推迟了美国政府对华芯片出口新规的出台时间,但最终却未能彻底让美国政府改变心意。

待30天公示期结束,留给黄仁勋的挑战之一,将是如何解决芯片重回中国市场的问题。

考虑到去年10月美国政府颁布出口禁令后,英伟达迅速调整了芯片带宽速度,及时发布了符合禁令规定的定制版芯片A800。Spear Invest创始人Ivana Delevska认为:“随着时间的推移,会出现某种与此类似的解决方案,而不是完全禁止它们。”即英伟达或许会再次通过微调其芯片来满足新的禁令要求,从而缓和这项AI芯片禁令带来的营收下滑等一系列影响。

受新规影响,英伟达股价已经从10月17日的446美元,一路下跌至10月20日的414美元,总市值三天内暴跌769亿美元。

不过,一旦在A800/H800的基础上再次进行性能阉割,届时英伟达推出的AI芯片,在中国市场是否还具备相当程度的竞争力,就要看“皮衣刀客”黄仁勋的刀法,这次精不精准了。

声明:以上内容为本网站转自其它媒体,相关信息仅为传递更多企业信息之目的,不代表本网观点,亦不代表本网站赞同其观点或证实其内容的真实性。投资有风险,需谨慎。