在这之前,Sam Altman 被爆出正在筹集高达 7 万亿美元的资金,以增加环球半导体芯片的供应。看上去,OpenAI 间隔 AGI(通用人工智能)只差 AI 算力了。
但就像《华尔街日报》一篇宣布的标题,筹集数万亿美元可能是 Altman 芯片操持里最随意马虎的部分。

毋庸置疑,芯片制造是比金钱繁芜得多的寻衅,作为成本密集型家当,历来经历过剧烈的周期性颠簸,芯片制造厂对激进扩展也持谨慎态度。目前,天下上只有三家公司能够大批量生产最尖真个芯片:台积电、三星电子和英特尔。

Sam Altman 到底看到了什么,决定如此重押算力?
如果把大模型厂商划分为两种,一种是在落地场景中探索大模型。个中的「显眼包」代表包括英伟达、微软、Databricks,三者都强调算力瓶颈会随着模型尺寸变小、下一代芯片架构创新等取得打破来进一步破除,就像互联网带脱期制在 2000 年基本消逝一样,「GPU 也会发生同样的情形」。
另一种大模型厂商的范例代表则是 OpenAI,对付大模型技能,要不计成本地做标本、数典范、探索边界。对付 OpenAI 率先看到的未来,Q、GPT-5 的让外界对 Transformer 能否实现 AGI 充满想象。这可能也是 Sam Altman 芯片制造野心的出发点。
据宣布,除了投资方,Altman 还与芯片制造商比如台积电进行了谈论,谈论与他们互助并利用数万亿美元培植和运营新工厂,以及对能源和其他人工智能根本举动步伐的投资。
培植一家尖端芯片工厂常日至少须要 100 亿美元,比较之下,Altman 所谈论的 7 万亿美元规模是极度的。对付 Sam 的 7 万亿美元,黄仁勋预判,到 2029 年环球培植人工智能数据中央的本钱将达到 2 万亿美元,他表示,「你不能假设你会购买更多电脑,你还必须假设打算机会变得更快,因此你须要的总量不会那么多。」
在 OpenAI 内部,Sam Altman 看到了什么?
对付这个问题,The information 跟踪 AI 和云打算的两位在《The Most Exciting Thing About Altman's Chip Dream》一文作出磋商,由极客公园编译整理:
01 OpenAI 唯一的障碍,算力短缺?
上周,OpenAI 首席实行官 Sam Altman 抢尽风头。他正试图筹集数万亿美元的资金来开拓和制造 AI 芯片。只管这一数字多少有点骇人听闻,但姑且先把集体疑惑放在一边,考试测验理解 Altman 融资的意义——无限的打算能力将导致全能的人工智能。
图片社交媒体 X 平台,网友总结 7 万亿美元的购买力|来源:twitter.com
换句话说,他认为唯一阻碍超级人工智能的是做事器短缺,而实现超级人工智能,乃至可以帮助我们移民火星或办理环球变暖问题。
Altman 并不是唯一持这种不雅观点的人,但这远非共识。
四年前,OpenAI 揭橥了一篇关于大型措辞模型领域的「缩放定律」(Scaling Law)的论文。「缩放定律」表明,对大措辞模型进行更多打算能力和数据方面的演习,可以提高其预测下一个单词的准确性,从而提高大模型的能力。在这个信念下,OpenAI 等大模型厂商花了 1 亿多美元来演习一个模型。
然而,更多 AI 从业者认为,在本日的 AI 模型上投入更多芯片和数据并不是实现超级人工智能的路子。当我们用完高质量的、人类天生的数据来演习 AI 模型时,基于相对较少的数据,开拓出能够像人类一样学习和推理的软件可能会更随意马虎。毕竟,OpenAI 的 GPT-4 和谷歌的 Gemini 已经接管了天下上大多数公共文本信息的演习,它们还没有达到超级人工智能的水平。
利用「缩放定律」演习大模型还隐含着一个副浸染:强行利用更大、更耗电的模型可能会对环境产生灾害性的影响,由于做事器和数据中央的电力花费会产生温室气体。
Altman 本人也承认,开拓前沿大模型可能须要在能源方面取得重大打破。数据中央公司的管理者也已经开始担心,今年所有以人工智能为重点的新数据中央,是否有足够的电力供应。
02 OpenAI 必须保持算力领先
目前,我们只能假设 Altman 和他聪明的同事们知道一些我们不知道的大模型「缩放定律」。
显然,他们相信,有了更多的做事器,他们可以利用现有的人工智能和最近的技能打破,比如 Q——一个可以推理以前没有演习过的数学问题的模型——来创建精确的「合成」(非人类天生的) 数据。当用完人类天生的数据后,合成数据可以接着被用来演习更好的模型。
或者,这些模型可以找涌现有模型 (如 GPT-4) 的毛病,并提出技能改进建议——换句话说,便是自我改进的人工智能。(此前,谷歌资深工程师卢一峰独家向极客公园解读了 OpenAI Q可能代表的技能路径。)
Altman 已经明确表示,他的团队根本没有从其独家做事器供应商——微软那里得到足够的打算能力来发挥其潜力。私下里,他曾表示,明年谷歌将拥有比 OpenAI 更强大的打算能力来开拓人工智能。这在某种程度上可以理解他想改变现状的紧迫性。
被爆出 7 万亿美元筹资建芯片时,Altman 在 X 社交平台揭橥不雅观点|来源:twitter.com
Altman 到底须要多少钱才能到达打算的「应许之地」?据宣布,他与阿拉伯联合酋长国盛产石油的酋长们提出了 7 万亿美元的数字,他希望这些酋长能帮助新的芯片和做事器。
一位头部 AI 芯片厂商的 CEO 称,建造数据中央、发电厂和芯片代工厂,以产生 10 倍于微软现有打算能力的打算能力,将耗资 1000 亿至 2000 亿美元。
这位 CEO 和该领域的其他人士表示,由于劳动力和供应链的限定,资金在加速芯片制造厂、数据中央和发电厂的培植方面所能做的只有这么多。就连英伟达 CEO 黄仁勋也对 7 万亿美元的数字表示疑惑。
如果 Altman 的操持包括 OpenAI 开拓自己的做事器芯片,那将须要数年韶光,而且不能担保成功。
这就提出了一个问题,为什么他首先要探求数万亿美元?
如果 Altman 与英特尔、AMD、阿联酋和一长串其他公司达成一笔大交易,打造新的人工智能芯片,这将很随意马虎成为这十年来最主要的技能努力之一。但纵然什么都没发生,Altman 不得不在更小的算力规模上,测试他对自我改进的人工智能假设,这也足以让人感到愉快。










