【新智元导读】近日,纽约大学团队用 ChatGPT 自动设计芯片,Chip-Chat 项目引发热议,芯片自动设计再掀高潮。
自动天生电路想法源自图灵老师邱奇,被称为编程措辞圣杯。

而人工智能驱动的芯片自动设计,更将是一场设计界的革命!
前段韶光,纽约大学 Chat-Chip 项目,引爆热潮。与此同时,中科院打算所在 arXiv 发布 ChipGPT 事情,两队人马争先后,只相差一日!
这场「人工智能芯片大战」激战正酣,各施法宝,令芯片业翻手为云,覆手为雨。
即便短期内人工智能难完备取代人工,但人工与人工智能携手设计,相得益彰,必将极大增强芯片设计生产力与创新力,关系到芯片设计之未来!
论文地址:https://arxiv.org/abs/2305.1401
杜克大学陈怡然老师在微博上表达了对芯片自动天生领域的关注,认为这个话题令人振奋,而中科院打算所 ChipGPT 也同样引人瞩目,但是想要真正做到自动化芯片天生还有很长的路要走。
ChipGPT 作者的辅导老师王颖博士认为,现有的事情只是初步评估了大措辞模型交互式芯片设计的潜力,如何将其融入现有EDA流程实现无人值守芯片设计将成为下一个目标。
陈教授这里提到的 ChipGPT,虽然同样也是基于大措辞模型的自动设计芯片,但与 Chip-Chat 不同,中科院打算所提出的 ChipGPT 还探索针对芯片性能和面积的优化方法。
不仅如此,ChipGPT 还在芯片设计上,比 ChatGPT 节省了多达 47% 面积。
大模型芯片设计 PK 战:Chip-Chat vs ChipGPT?
虽说这两篇事情都借大模型力量天生芯片,见识广阔,一览众山小。但目前人工智能还处在发展初期,后续事情仍浩浩荡荡。
对此,ChipGPT 作者称,要大模型玩转芯片自动设计,三大难题迫不及待:
第一个问题是,我到底要往模型的对话里塞什么玩意儿?芯片设计涉及的知识太过广博深奥,要把所有内容都嘟嘟嘟往模型的高下文里塞,了局恐怕和「狗熊掰苞米」一样,统统忘光光。如何精选模型的「餐饮内容」, 这可是个让芯片设计师们头发都白了的难题。
第二个问题是,如何通过「Prompt Engineering」让这个大模型天生出来的芯片更好更强大?要知道,Prompt Engineering 本身便是一门博识莫测的玄学,让大模型一下子领会,切实其实难上加难。
第三个问题是,如何掌握大模型天生出来的 HDL,让设计出来的芯片在性能、功耗和面积之间达到最佳的平衡?任何芯片都面临这三者之间的博弈,要让大模型自由清闲地搞定,切实其实是痴人说梦。
假如能爬得过这「三座大山」,芯片自动设计的未来可就指日可待了。不过话又说回来,就算办理了这三个问题,真正家当化可还遥遥无期呢。
以是呢,芯片设计师们暂时还是放心吧,你们的饭碗短期内该当还是很稳的!
芯片合成实力之源泉,大模型输入有何博识玄机?
HDL = ChipGPT(Specification)HDL = Chat-Chip(Prompt List)
Chip-Chat 谈天玩自由来去无踪迹,ChipGPT 一丝不苟只信规范解释(Specification)指示迷津。虽谈天可研究发挥,生产更凭规范担保准确。
故 ChipGPT 研究从规范解释动手,将其放入谈天、试图直接应用芯片规范解释,却创造难题重重:
第一,从规范解释提取会得大量无用信息,如模块运行缺点模式与繁芜时序等等。大模型收费看 token 数,以是更应从规范解释中精髓精辟有用信息。
第二,芯片规范解释混乱无序,GPT 自动提取难保天生准确。故 ChipGPT 选择手工提取,建立规范解释表格,将输入归于表格信息。
基于芯片解释书与基于大略提示,ChipGPT 与 Chip-Chat 运用处景大相径庭!ChipGPT 研究目标与基于提示的 Chip-Chat 大相径庭。
ChipGPT 旨在为研究者供应整体框架,辅导大模型芯片硬件自动天生。Chip-Chat 则在见告研究者大模型给硬件自动天生带来何种新寻衅与机遇。
故 ChipGPT 可谓指南书,勾引工程师与研究者遨游大模型芯片合成之道。
ChipGPT 为芯片自动天生研究供应指南,想玩转大模型芯片设计者可从中「取经」。它从芯片规范解释提取入手,避免大模型直接处理规范解释各类负面影响。手工建立规范解释表格,将输入信息归类,较好办理大模型处理不规则信息难题。
比较之下,Chip-Chat 是大模型在硬件自动天生领域新考试测验,更似让研究者知悉大模型给该领域带来机遇与寻衅,属测试探索运用。故两者虽同大模型自动天生芯片研究,运用处景与目的差异颇大。
闭幕玄学!
ChipGPT 让 Prompt Engineering 逐渐「可控」
基于规范解释的输入也会分解为小的提示,但在芯片天生中,不规则的提示会带来一些问题:
1) 大模型自动设计芯片,输出结果可重复性与稳定性堪忧!如图 7 所示,大模型玩转芯片设计,天生的代码稳定性是一个大问题。就算给同样的提示,它天生的 Verilog 代码也常常会「前后不搭调」,影响天生结果的可重复性和稳定性。
这可让想用大模型自动设计芯片的人又爱又恨,成了这一起上最大的绊脚石。
要办理这个难题,利用确定的 Module 接口是个不错的办法。明确接口后,大模型处理输入的不愿定性就可以大幅减少,天生结果的稳定性自然也会提高。
这就像家长提前奉告孩子作业哀求一样,大模型事先知道需遵守的「规矩」,自然也能高效稳定地完成「作业」了。
2)芯片连接旗子暗记,如何解开这段全局最难理清的「头疼之链」?
大模型一口吃个胖子,不利于身体康健。同样,利用一个提示同时处理多个限定,会让大模型天生的代码质量大打折扣。
就像人用饭一样,一次吃太多会造成消化不良。大模型也一样,一次处理太多限定,随意马虎搞混导致输出错误。
图 8 中,若把额外旗子暗记限定也放入同一个提示,大模型处理起来难免惊悸失措,就会对芯片设计的精确性造成极大影响。
比较之下,如果把额外限定(如 Ready-Valid 旗子暗记)提取出来,放到下一轮的提示中,大模型就能逐一轻松地「消化」,然后才能精确地合成接口。
这就好比人用饭时,分多次适量地吃,而不是一口气吃太多,更有利于消化接管。
以是,对大模型来说,只管即便避免一次处理过多限定是一个大略高效的原则。要想让它天生高质量的代码,最佳方法便是分步骤输入,不要一次「塞」太多需考虑的成分。
对芯片自动设计而言,提取额外限定,分步骤通过多轮提示输入,可以较好地办理大模型处理多个限定带来的难题,让其井井有条地完成设计任务。
3)大规模模块天生,要实现自动设计的「胜在规模」效应,仍需超过几道坎?
要让大模型自动天生大规模模块,直策应用全体大模块的描述输入,效果可能会「一塌糊涂」。这就像让孩子直接处理整本教科书一样,势必会被难度「吓倒」,无从下手。
比较之下,从小功能模块开始,逐步组合天生大模块,可以避免难度过大带来的问题。这就像教科书分章节讲解一样,让读者循规蹈矩,逐步节制。
ChipGPT 利用的「从小到大」方法,先从小模块功能入手,逐步利用一系列提示代替单个提示,组合天生大模块,避免了直接处理大模块描述带来的问题。
以是,对大模型自动化天生大规模模块来说,利用「循规蹈矩」的方法至关主要。直接处理全体大模块的描述,难度和繁芜性都太大,很难取得好结果。
而通过从小功能模块开始,逐步组合和输入,让大模型逐步节制并天生大模块,可以较好地避开这一难题。
这实在也是人工智能发展的一样平常规律,通过避免一次处理过高难度的任务,选择循规蹈矩的演习和天生方法,可以最大限度发挥人工智能的学习和天生能力。
对芯片自动设计而言,要实现大规模模块的自动天生,采取 ChipGPT 的这种「从小到大」的方法,从小功能模块开始组合输入,逐渐天生大模块,无疑是一条较为可行的路径。
甩锅大模型无济于事,PPA 平衡究竟需靠一己之力?
大模型虽然聪明,但天生代码质量不比人工,这也是研究事情面临的最大难题。
一样平常来说,基于 GPT 的设计依赖反馈迭代,但现有反馈办法只关注功能,很难天生考虑性能、功耗和面积的芯片。
ChipGPT 的作者意识到这一短板,以是加入输出管理器以管理反馈,及时优化芯片的 PPA。
这就像老师不仅检讨作业的精确性,还关注字迹、表达等方面一样,可以帮助学生在更广泛的方面提高。输出管理器就相称于老师,不仅检讨功能性反馈,还关注 PPA 等方面,及时提醒大模型进行改进。
以是,对大模型自动化设计芯片来说,仅靠功能反馈是不足的,还须要考虑 PPA 等方面,以天生全面优质的设计。
纯挚依赖大模型自己完成这一任务难度较大,随意马虎忽略某些方面。而加入输出管理器可以有效填补这一不敷,及时检讨 PPA 等指标,让大模型得到全面反馈,以天生更加优质的代码。
大模型自动设计不止局限于天生一种设计方案,它可以产生多种方案供选择,这给研究事情带来更大灵巧性。
ChipGPT 通过加入后端组件,每轮可以天生不同代码,然后利用列举法选择最符合目标的代码,这种方法比 GPT 纯挚随机输出的效果要好很多。
就像 GPT 自动天生的矩阵乘法电路,虽然实现同一功能,却可以产生不同方案,在韶光延迟和面积之间作出权衡。
利用这一上风,可以产生不同版本的代码,如表 3 所示 button-count 产生 5 个程序,通过检讨后,面积不同。
表 4 显示如果按不同标准选择,终极输出也不同。
以是,ChipGPT 这种加入选择机制的方法,可以根据不同目标选择最优方案,显著提高效果。
如作者提到,如果目标是最优面积,与不加入反馈方法比较,面积优化率可以达 47%。
这表明,大模型自动设计不应局限于天生一种方案,加入选择机制可以产生更优设计。
ChipGPT 这种每轮天生不同代码,然后选择最符合目标的方案的方法,可以发挥大模型产生多种方案的上风,得到更优设计方案。
对研究职员来说,这不仅为大模型自动化设计芯片供应了新思路,也解释选择机制在发挥大模型潜能方面浸染巨大。
自动设计并不等同于盲目天生,加入选择机制可以让大模型在自动设计的同时达到优化目标,这是实现高质量设计的关键成分之一。
芯片设计方法之争,ChipGPT 竟力压群雄?
ChipGPT 的结论表明,与传统敏捷方法比较,代码量可以减少 5.32-9.25 倍。利用大措辞模型,ChipGPT 可以显著加速芯片开拓。
在优化面积模式下,ChipGPT 的面积减少最大可达 47%, 比原始 ChatGPT 模型减少更多。它还将大措辞模型的精确性从概率精确提高到规则精确。
简而言之,ChipGPT 让芯片开拓速率飙升,效率大幅提高。与传统方法比较,编码量少了 5-9 倍,这意味着开拓周期可以缩短很多。利用大措辞模型,ChipGPT 让芯片开拓一下子就「升级」了。
在优化面积方面,ChipGPT 也有亮眼表现,最大可以减少 47% 的面积,比 ChatGPT 原始大模型减少更多。这解释在自动化设计的同时,ChipGPT 还可以实现较高的设计优化。
其余,ChipGPT 还提高了大措辞模型的精确性,从概率精确提高到规则精确。这意味着大措辞模型的输出结果更加准确可靠,而不仅仅依赖概率。
以是,总体来说,ChipGPT 在三个方面取得主要进展:
1) 大幅提高编程效率,编码量减少 5-9 倍,芯片开拓周期大幅缩短。
2) 实现较高设计优化,面积减少最大 47%, 优于 ChatGPT 模型。
3) 提高大措辞模型的精确性,从概率精确到规则精确,输出结果更加准确。
这充分证明了大措辞模型可以促进芯片开拓自动化,并在自动化的同时实现设计优化。这为大措辞模型运用于更广泛领域,特殊是家当化运用供应了理论根本和实证依据。
芯片自动天生难辨良好,评价标准来破迷局!
ChipGPT 从三个角度评价芯片自动天生方案:
1) 精确性:天生的硬件描述是否精确。ChatGPT 和 ChipGPT 属于概率精确。
2) 完备性:方法覆盖的设计空间范围。ChatGPT 和 ChipGPT 属于通用硬件天生器,可以描述各种规模和类型的逻辑。
3) 表达能力:输入措辞的生产力。ChatGPT 和 ChipGPT 利用自然措辞,属于最高级。
以是,总体而言,ChatGPT 和 ChipGPT 在三个维度上属于概率精确、通用硬件天生器和最高表达能力。这意味着它们可以概率天生精确的各种硬件描述,并且输入方法属于最高生产力的自然措辞。
这为比较不同芯片自动天生方法供应了较全面客不雅观的评价体系。对研究职员和干系企业来说,这有助于选择最适宜的方法,发挥最大效益。
总之,要实现芯片自动天生的家当运用,选择最优方法至关主要。
ChipGPT 供应的这套评价体系,为做出最佳选择供应了较为客不雅观的判断依据,这无疑也有利于干系技能的家当推广。
以是,这些成果在一定程度上也为大措辞模型等新技能的家当化运用奠定根本。
下一步:无人值守的 AI 自动化芯片设计是否可能?
Chat-Chip 和 ChipGPT 已经证明了大措辞模型在 RTL 设计方面所具备的巨大潜力,而考虑到大措辞模型常日由包括代码在内的大量且丰富的文本语料演习而成,其知识储备远不止可以用来实现RTL设计,我们不雅观察创造其对芯片设计过程中的其他任务也有着一定的办理能力,例如根据 EDA 工具的 report 给出优化 PPA 的思路、乃至设计 specification 等。
此外,已有的事情如 AutoGPT、ChatGPT Plugins 等进一步证明了大措辞模型具有任务分解、操尴尬刁难象的能力,因此,一个自然的想法是能否让大措辞模型驱动完全的芯片设计过程:即自主分解用户给出的由自然措辞描述的芯片 / IP 设计需求、设计 specification、实现 RTL,并进一步通过与 EDA 工具交互实现调试和 PPA(性能 / 功耗 / 面积)优化,末了得到物理版图。
为此,基于 ChipGPT 的自动化框架ChipGPT2.0已经搭建了这样的一个原型,比较须要设计职员持续交互并处理反馈(Human-in-the-loop )的 Chat-chip 方法,ChipGPT2.0 可以初步完备自主设计 UART 掌握器、8 位 CPU、RISC-V CPU 等常见的组件,所得到的设计具有一定的可用性,也就证明了无人值守的 AI 自动化芯片设计是可能的。
当然,正如前文所说,基于大措辞模型的设计仅达到了概率精确,我们搭建的原型也并不是每次都能得到完备工程可用的实现,但我们相信这样一套自动设计方法是对传统的基于手动设计方法的主要补充。
大措辞模型完备自主设计的UART掌握器版图
大措辞模型完备自主设计的8位MCU版图
大措辞模型完备自主设计的RISC-V CPU版图
大措辞模型是不是芯片自动天生的西岳之路?
比较采取自然措辞与大模型赞助设计的方法,程序合成的方法可以供应更高的方法鲁棒性和稳定性。
这方面的代表性事情有中科院打算所智能处理器研究中央提出的自动化CPU设计方法,该方法以程序合成为中央,利用输入输出对(IO Examples)可以直接天生网表级电路。
这种方法的准确率高,该方法设计的 CPU 自动天生准确率近 100%,理论上通过扩增测试用例可以达 100% 功能精确。
以是,总体来说,比较大措辞模型,该方法在以下两点上更具上风:
1) 无需人工干预和反馈。
目前大模型更多还是基于现有的流程做赞助设计,这个事情无需人工参与反复迭代的逻辑设计和验证环节,从 IO 直接到电路,做的是全自动设计。无需专家工程师供应形式化的代码(C、Chisel、Verilog)或者非形式化的自然措辞描述。
2) 符号方法的准确率更高。
如基于输入输出对的符号方法理论上可以达到 100% 的准确率,更适用于处理器等设计。但大措辞模型也具有上风,如更通用、生产力更高档。
以是,选择何种方法更适宜,还须要根据实际运用处景和需求判断。对研究职员和干系企业来说,理解不同方法的优缺陷至关主要。要实现家当化运用,需选择最适宜的技能路径。
ChipGPT 的技能虽较新颖,但传统程序合成思路在某些方面仍占优。以是,结合实际情形选择最佳技能,或将不同技能有机结合,这是家当化的关键。
总之,要实现芯片自动天生的广泛运用,必须在不断探索新方法的同时,理解每种方法的上风所在。将不同方法的优点有效领悟,这可能是取得最大效益的关键。
在一定程度上,家当化依赖于技能创新,但更须要对不同技能有 objective 的判断和选择。这也是促进任何新技能广泛运用的根本。
论文地址:https://arxiv.org/abs/2306.12456
结论出人意表?芯片自动天生之路正好漫长不过!
简而言之,大模型在芯片自动设计中的运用还面临以下困难:
1) 随机性和鲁棒性较差,会影响研究职员复现结果和现有算法对特性的约束。虽然 ChipGPT 采纳方法加强稳定性,但大模型的鲁棒性还需提高。
2) 仍缺少芯片全流程优化算法。现有方案只用于芯片逻辑设计的「小优化」。如何大模型做前后端协同优化,改变这种局限,值得探索。
3) 芯片数据库短缺。虽然闭源大模型较完善,但大量资源节制在生产商手中。如果从开源库天生高质量数据集或把闭源代码库当作数据库,可以给开源模型演习带来上风,此可逆转这一劣势。
以是,要实现大模型在芯片自动设计中的深入运用,还需努力办理这些难题。提高大模型的稳定性和鲁棒性,开拓芯片全流程优化算法,办理数据库短缺问题,这些都是实现更深入运用的关键所在。
对研究职员和企业来说,这些难题同时也代表新的研究方向和市场机会。能够有效办理这些问题,巨大潜力等着发掘。
现有设计方法只是起步,间隔工程师自主设计和理解电路还较远。
团队先容&致谢
ChipGPT 的一作为中科院打算所博士生常开颜,辅导老师为中科院打算所王颖博士;上海科技大学硕士生任海蒙,中科院打算所博士生王梦迪参与事情;中科院打算所助理研究员梁胜文,中科院打算所韩银和、李华伟、李晓维研究员供应支持。
感谢中科院打算所王颖老师,都城师范大学李冰老师对本文的建媾和辅导,感谢中科院打算所硕士生林钢亮对本文的审阅。
参考资料:
https://arxiv.org/abs/2305.1401








