理解英伟达的研发情形，已经成为每年英伟达春季GTC会议的一个常规特色。
比如首席科学家兼研究部高等副总裁Bill Dally每年就会供应英伟达研发机构的概况和关于当前优先事变的一些细节。
2022年，Dally紧张关注英伟达正在开拓和利用的AI工具，这些AI正在改进英伟达自身的产品。
如果乐意接管的话，这实在是一个奥妙的反向营销案例：英伟达从制作显卡来做跑AI工具的公司，成为了一家AI工具用来做显卡的公司。
是的，英伟达已经开始利用AI智能来有效改进和加快自家的显卡设计。
Dally在2022年的GTC演讲中描述道：「我们的设计团队是一个约有300人的小组，试图在英伟达的产品设计上探索更有前瞻性的领先位置。我们有点像远光灯，试图照亮远处的东西。这个团队被疏松地组织成两半。
供应部分卖力供应显卡的技能。它使显卡本身更好，从电路、到超大规模集成设计方法、架构网络、编程系统，以及读入显卡和基于显卡的软件的存储系统。」
「需求部分试图通过开拓要用显卡才能良好运行的软件系统和技能，来推动市场对英伟达产品的需求。
例如我们有三个不同的图形研究小组，由于我们在不断推动打算机图形技能的发展。我们还有五个不同的人工智能小组，由于利用GPU来运行AI是目前一个巨大的热门，而且只会越来越热。我们也有做机器人和自动驾驶汽车的小组。」
「我们还有一些以地域为导向的实验室，如我们的多伦多和特拉维夫人工智能实验室。」
偶尔，英伟达公司会从这几个小组中抽出部分人力重组个登月式项目，例如，个中一次此类项目产生了英伟达的实时光芒追踪技能。
光追项目的组织架构图
一如既往，2022年的研究与Dally上一年的发言有重复之处，但也有新的信息。比如该部门的规模肯定已经从2019年的175人旁边增长了很多。毫无疑问，英伟达开拓自动驾驶系统和机器人的努力也已经加强了。Dally没有多说CPU的设计事情，这无疑也在增强。
接下来呈现的是Dally演讲中关于英伟达在设计芯片时越来越多地利用AI的一小部分内容。
绘制电压低落图
Dally指出：「作为人工智能的专家，我们自然希望利用AI来设计更好的芯片。」
英伟达的显卡设计部门以几种不同的办法做到这一点。第一个也是最明显的方法是，可以利用现有的打算机赞助设计工具，并将AI模型纳入个中。
例如，显卡设计部门有一个赞助设计的软件工具，个中的AI实时测绘了英伟达的GPU显卡产品中利用电力变革的位置图谱，并实时预测电压网格低落的程度。
一样平常电压低落是用电流乘以电阻低落度算出，要在传统的CAD工具上运算出这个值须要三个小时。由于这是一个迭代的过程，一贯用传统工具的话，对设计部门来说，事情量会变得非常艰巨。
观点展示
英伟达的显卡设计部门想做的是演习一个AI模型来获取相同的数据。开拓职员在一堆设计上如此试行过后，然后给AI输入功率图。AI由此产生的推理韶光只有三秒。
当然，如果你包括上功率图特色值提取的韶光，那便是18分钟。无论如何，与传统效果比较这都是非常快的结果。
在类似的条件情形下，显卡设计部门还考试测验了不该用卷积神经网络AI、而是利用图神经网络的AI。如此处理的目的是为了估计显卡电路中不同节点的开关频率，这实际上推动了前述例子中的功率特色值输入效率。
附带的效果是，英伟达的开拓职员能够得到非常准确的显卡电路功率估计，比传统工具要快得多，而且只用了很小的一部分韶光。
预测寄生元件
Dally特殊喜好的、多少年前他作为一名电路设计师投入相称多韶光的设计项目，是用图形神经网络AI预测寄生元件（设计时未曾打算或预见到的电子元件）将会如何被附加到终极成品中。
过去，电路设计是一个非常反复的过程，设计师会画出一个带了一堆晶体管标志的电路事理图。但他不会知道电路板的性能如何。
直到布局设计师拿着这个事理图，做告终构样品，附加了寄生元件，然后设计者才可以运行电路仿照，创造个中哪些部分不符合预期的设计规格。
然后设计师会返回去修正他的事理图，并再次麻烦布局设计师再跑一遍这个流程，这是一个非常漫长的、反复的、不人性的劳动密集型过程。
现在英伟达的显卡设计部门可以做到的，是演习神经网络来预测寄生元件，而不须要让布局设计师制造布局样品才创造瑕疵。
因此，电路设计者可以非常快速地迭代，而不须要在循环中重复进行手动设计-布局-再设计的步骤。
按Dally表示，与根本真实值比较，现在英伟达的设计AI对这些寄生器件的预测非常准确。
布局/布线拥塞
同时，我们还可以预测芯片的布局/布线带来的拥塞问题，这对芯片的布局至关主要。
按正常的流程，芯片设计职员会做一张网格表，运行一遍布局和布线的过程。一样平常这个过程非常耗时，会花费数天的韶光。
只有如此设计师们才能得到显卡样品实际的拥塞情形，光有设计图的初始布局是不足的。
设计师们须要将其重构，并以不同的办法放置宏，以避开赤色的区域（如下图所示）。赤色区域有太多交错的线路穿过给定的区域，就像比特版「交通堵塞」。
而像这种情形，用上赞助设计的AI之后，没必要再跑一边布局和布线，就可以拿着这些网格列表，并用图像神经网络AI对拥塞涌现的位置进行基本预测，结果还算准确。
虽说还不算完美，但是能显示哪些区域存在问题。之后设计团队就可以在特定区域采纳行动，快速完成迭代，不再须要一遍遍重复全局布局和布线了。
芯片标准单元设计自动化
现有的方法都是用AI来评价人类的设计，而未来，更令人愉快的是能够利用AI来完成设计。
Dally举了两个例子来解释AI如何完成芯片设计。
第一个别系叫NVCell，它结合了仿照低温退火和加强学习，基本上能够设计出数字集成电路的标准单元库。
每次设计师实现了芯片技能上的升级——比方说从7纳米优化到5纳米，设计师都会创造出一个单元库。
一个单元就像是一个「与门」和「或门」，是一种完备的加速器。
眼下，英伟达的设计部门有数千个这种单元库。这些单元须要在新技能的框架下，遵照一套繁芜的设计标准，被重新设计。
第二个，是用强化学习模型来设计晶体管布局。
设计师们大部分都采取强化学习的办法来放置晶体管。然而更主要的是，在晶体管放置后，一样平常都有很多设计规则上的缺点，找到这些缺点就像一款电子游戏一样。
事实上，强化学习就善于这个。一个很好的例子便是，强化学习在Atari电子游戏上的运用。
以是，这就像是一款Atari电子游戏，只不过，这次是一款改动标准单元中设计上存在的缺点的游戏。
通过强化学习，英伟达的设计师可以筛查一遍涌现的设计规则缺点，然后改动它们。这样，设计师就可以基本完成标准单元的设计事情了。
如下图所示，92%的单元库都可以用这个工具做好，不会存在任何设计规则上的缺点或是电路上的缺点。
此外，12%的单元比人工设计的单元都要小。总的来说，从单元的繁芜性上看，AI设计的单元和人工设计的一样好。
这可以帮助设计师完成两件事。
第一，运用AI能极大地节省劳动力。没有AI的话，大约须要一个10人小组耗时一年来建立一个新的技能库。而如今，设计师可以用几个GPU，跑几天就行。
然后，人工只用参与剩下那8%AI未能完成的单元就好了。
在大多数情形下，设计师凭借AI每每能做出更好的设计。
以是说，不只省时省力，做出来的东西还更好。
参考资料：
https://www.hpcwire.com/2022/04/18/nvidia-rd-chief-on-how-ai-is-improving-chip-design/
