作者 | 齐健
编辑 | 廖影
头图 | 视觉中国

“AI芯片赛道会在年底再度爆发,芯片危急最快会在明年办理。”
早在半年前,就有很多AI和芯片业内人士对算力危急提出了乐不雅观预期。业内普遍认为,以谷歌研发TPU芯片为例,各家重注投资AI大模型的公司一定都会投入AI芯片的赛道。
其最紧张的缘故原由便是,成本巨子们不会让英伟达长期独占市场。
诚如预期。最近两周,AI大模型的头部玩家相继放出了最新的芯片计策。先是亚马逊给OpenAI最强竞对Anthropic注资40亿美元,买断了他们在AI演习方面的“芯片选择权”;其后是微软AI芯片Athena被媒体曝出将不才月发布;末了则是这两天路透社的宣布,称OpenAI正在评估潜在的芯片公司收购。
虽说OpenAI投资芯片研发在情理之中,但相对付其他重注AI大模型的巨子来说,OpenAI毕竟体量有限。如此迅速地杀入芯片研发赛道,会不会有些仓促?
事实上,OpenAI入局芯片也是逼不得已。一方面,芯片价格持续上涨,这也解释OpenAI正在被迫把自己辛劳研发AI赚到的钱,上供给英伟达。另一方面,GPU短缺的现状,也的确正在制约AI公司的发展。
OpenAI的CEO山姆奥特曼就曾在2023年中的一场闭门谈论中抱怨:GPU短缺的问题打乱了OpenAI的短期操持。
山姆奥特曼在这次会议中提到,OpenAI在GPT-4发布之初就操持把ChatGPT的高下文长度提升到32k token,但GPT-4上线很长一段韶光,这一预期都没有实现,其根本缘故原由便是OpenAI也面临着GPU短缺,以及算力太贵等问题。
不过,对付刚刚崛起的AI独角兽来说,研发AI芯片,除了是要反抗英伟达的“压榨”,投资芯片还隐含另一层缘故原由,便是要努力费钱。
烫手的钞票
在大模型的成本狂欢中,AI公司账上的钱,越来越多。
OpenAI年初收成微软100亿美元注资;在亚马逊给Anthropic注资40亿美元之前,谷歌就已经给这家公司投资了数亿美元,在亚马逊之后,谷歌还有操持连续对该公司追加投资。海内AI大模型的明星公司智谱AI,近期也曝出了B-4轮融资的,目前估值或达10亿美金。
除了大量融资涌入,AI公司的技能升级也在给研发省下很多钱。
今年3月,OpenAI公布的API接入价格就涌现了大幅低落,据OpenAI公布的数据,ChatGPT的推理运算本钱,在3个月韶光里低落了至少90%。
虽然半年纪后的本日,OpenAI并没有公布推理和演习本钱的低落最新情形。但可以预见的是,在不考虑算力芯片涨价的情形下,AI演习和推理的单位算力本钱大概率是在持续低落的。
当然,在原有根本上AI公司肯定会扩大研发规模,但技能研发并不会无限扩展。如果算力本钱能保持3个月“打一折”的低落速率,那么可以想见,OpenAI的很多研发预算,短期内都会闲置在账户里。
资金快进慢出,对付创业公司不是好事。
一方面会导致投资者对公司资金管理能力的疑虑,另一方面大量现金也有可能降落创业公司的投资回报率。
拿到巨额融资,本应是好事,但对付短期盈利预期并不明朗的AI公司来说,钱多了反而使这些公司的掌舵人开始发愁:这么多钱怎么花?
要全部投在模型演习上吗?这显然不合理。
首先所有技能的研发都是周期性的,不管一次融了多少钱,费钱都要按部就班地来。其余,现阶段AI大模型公司开销的大头紧张是AI演习过程中产生的算力用度。但如果把钱全花在算力付费上,那这些钱就完备是研发开支。
但大模型研究实在有点像赌钱,并不是说每次演习都能得到满意的结果。如果大模型研发效果好,那么巨大的算力开支还算说得过去。但如果反复演习,没有达到预期的效果,那这些为算力支付的用度就只能是试错本钱。这也就使得AI公司在算力方面支付的钱,也变成了赌钱,为算力付的钱,有多少是真的投资了未来,又有多少打了水漂呢?
然而,如果能在研发AI的同时,把这些钱花在算力芯片上,那就完备不一样了。
投资AI芯片,最直接的好处便是账面上好看,收购芯片研发公司,就可以把原来要烧在算力上的钱,沉淀成了资产。这不仅能增强自己的核心竞争力,还能给早期投资人和未来的投资人费钱的合理解释。一旦公司IPO,这些沉淀下来的资金,也可以帮助推高公司的估值。
芯片最适宜AI公司烧钱
多数技能公司费钱的最好的办法都是买买买。但是买谁,也有讲究。
过去一段韶光里,很多AI公司在“烧掉多余的钱”方面,都会选择收购业务相似的同行,或者是与自身业务强干系的高下游企业。海内很多财大气粗的AI公司,就已经收购了不少金融、制造等数字化转型做事公司,有的乃至还自己投资新建了不少干系公司。
不过,从过去二三十年,互联网、软件公司的发展来看,AI技能研发、数字化转型,这些侧重互联网、云和软件等业务的研发花销普遍不大,未必能达到把钱花好的目的。
以美股头部公司为例。市值3012亿美元的甲骨文,2023财年的研发用度是66.4亿,占营收的17%。2018亿美元市值的Salesforce,2023财年的研发用度是50.55亿,投研比为16%。
相对来说,芯片研究要比软件贵得多。同类型的芯片公司,纵然体量不大,研发用度也要高过这些软件公司。
最火的英伟达,2023财年研发本钱73.39亿美元,占比27.2%,2022财年52.68亿美元,占比19.6%。虽然英伟达目前市值超万亿,但在2023财年中,英伟达股价的均匀值还不到现在的一半。
其他的芯片公司,AMD的2022财年研发用度为50.05亿美元,占营收的21.2%;英特尔2023财年研发用度82亿美元,投研比33.2%;高通的2022财年研发用度81.94亿,投研比19%。
更有趣的是,给芯片行业做工具软件的EDA公司们的研发投入更大。主流EDA软件Synopsys上一财年的研发用度为16.8亿美元,投研比33.07%。过去几年中,这家公司的投研比也全部高于30%,有的年份乃至超过40%。
互联网/芯片公司近一财年研发投入
对付现阶段急需费钱的AI公司来说,AI芯片公司如此高的研发本钱,算是很适宜“烧钱”了。
AI公司能冲破英伟达的壁垒吗?
AI公司做AI芯片,听起来很合理,但实际上并不随意马虎。
目前市情上除了英伟达的GPU以外,还有很多公司在设计AI芯片。包括谷歌为TensorFlow设计的TPU (Tensor Processing Unit);华为正在研究的专为神经网络打算设计的NPU (Neural Processing Unit);以及传说被孙正义盯上的英国公司Graphcore开拓的,专门用于AI任务的IPU。
这些芯片多数也都经历了很永劫光的研发迭代,但商业表现和英伟达明显相去甚远。
个中,谷歌从2015年就开始研发TPU,并在内部推广利用。2018年,谷歌开放了TPU的第三方运用,作为其云根本举动步伐的一部分。不过到目前为止,TPU仍没有大规模走入AI芯片市场。
事实上,纵然TPU开放了商业化,目前主流的GPT模型要在TPU上运行,也会受到一定限定。由于GPT采取了与TensorFlow不同的PyTorch架构,虽然PyTorch中已经增加了对 TPU 的支持,但在运行过程中还须要一些额外的优化事情。
这也是困扰一众AI芯片的问题,多数AI芯片的硬件性能实在已与英伟达相差不远,但是底层软件和开拓工具对运用的支持远不如英伟达。
不久前,科大讯飞总裁刘庆峰曾公开夸奖华为的AI芯片性能,称其已经可以对标英伟达的高端显卡了。对此,很多业内人士实在并不感到奇怪,“显卡的裸金属性能要遇上英伟达,实在不难。”中科院自动化所主管刘昊见告虎嗅,中科院自动化所的紫东太初大模型就一贯与武汉智算中央互助,利用华为昇腾Ascend 910和910b演习AI大模型。
昇腾Ascend 910
刘昊认为,在性能方面华为的算力芯片确实与A100差不多,但在演习大模型的过程中却无法替代英伟达显卡。“虽然华为芯片的性能没有问题,但在实际的AI大模型演习中,它的工具链不足完善,裸金属的性能并不能完备发挥出来。”
英伟达的壁垒,并不是GPU硬件性能,而是基于CUDA的开拓环境。虽然华为在这方面也在开拓类似的CANN,但相对付已经推出超过15年的CUDA来说,差距还比较明显。
不过,这对付OpenAI、Anthropic这样的AI公司来说,正是可以发挥上风的部分。
AI公司可以在软件和硬件之间进行紧密的协同设计,确保芯片的设计完备知足算法的需求,从而提高效率和性能。同时,AI公司可以环绕其芯片产品建立完全的生态系统,包括软件库、工具、框架和支持做事,从而为客户供应一站式的办理方案。
除此之外,AI公司对机器学习和深度学习算法的理解更深入,这使得它们能够为特定的算法或任务定制和优化芯片。在实际运用中利用机器学习模型,它们可以根据实际的运用需求和场景,也可以对芯片设计进行反复迭代。
赢利预期的不合
过去9个月韶光里,英伟达股价翻了3倍,市值打破一万亿美元。目前的市盈率TTM为102.03,静态市盈率为242.75。而Invesco半导体ETF的30家美国半导体公司均匀市盈率为21倍,其他在AI上重投入的科技巨子们的市盈率都在20-40倍之间,英伟达的赢利能力险些强过他们10倍。
有称,2023年第二季度英伟达最前辈的H100显卡出货量达800多吨,且持续供不应求。多位海内GPU做事器渠道商向虎嗅透露,一台百万多的GPU做事器,交货周期不同,价格上浮空间超过50%。
在本日,买GPU做事器的AI公司、云厂商,像极了海内奢饰品店门口排队买LV和GUCCI的人。在英伟达门口,攥着钱,排着队。好不容易交了钱,还要等货。如果再没有能打的竞争对手涌现,英伟达的发卖们没准也要开始让客户“配货”买GPU了。
不过,在这样赢利的赛道里,成本对AI芯片的感情实在比较繁芜。毕竟AI芯片的赢利周期太长了。大家都想像英伟达一样赢利,但没几个人乐意经历芯片研发的漫历久待期。
由此,成本市场对AI芯片公司的态度也涌现了不合。在OpenAI要做芯片的传闻之前,海内AI芯片行业就有两则新闻值得关注。
首先是寒武纪近期发布公告称,国投基金减持完毕,基本清仓。而这已经不是寒武纪创投股东们首次涌现清仓式减持。第二则是背靠腾讯的燧原科技宣告完成D轮融资20亿元。
作为AI芯片第一股,寒武纪碰着的最大问题,便是持续亏损,长期烧钱却落地缓慢。在AI芯片上直接烧钱的做法彷佛不太适宜中国公司,中国的AI公司和AI芯片公司,可能更适宜Anthropic和亚马逊的互助模式。在AI芯片研发方面,多方协作,发挥自身特长。AI公司把AI推理、演习的运用需求用好,芯片公司把芯片设计技能用好,再合营大厂的技能、资金上风,从而加快产品的研发、迭代速率,从而在市场中盘踞一席之地。
正在改变与想要改变天下的人,都在 虎嗅APP