多年来,电气工程师和打算机科学家一贯在努力探求如何更快,更有效地实行神经网络打算的方法。实际上,适宜神经网络打算的加速器设计最近已成为活动的温床,最常见的办理方案是GPU,与各种专用IC(例如Google的Tensor Processing Unit)和现场可编程门阵列竞争。
现在,另一位竞争者刚刚进入了这个领域,它基于一种完备不同的范例:光打算。麻省理工学院的一个名为Lightmatter的衍生公司在上周的Hot Chips线上会议上描述了其“Mars”设备。Lightmatter不是唯一采取这种新颖策略的公司,但它彷佛领先于竞争对手。

但是,对我来说,这种方法“新颖”有点误导。实际上,光学打算已有很长的历史。它最早可用于1950年代后期,以处理一些最初的合成孔径雷达(SAR)图像,这些图像是在数字打算机无法实行必要的数学打算任务时布局的。如今缺少得当的数字打算机,这解释了工程师为什么要建造各种仿照打算机,这些仿照打算机基于旋转的磁盘,晃动的液体,连续的电荷乃至光芒。

在过去的几十年中,研究职员时时地重新提出了用光来打算事物的想法,但是这种思想还没有被广泛运用于任何事物。当涉及到神经网络打算时,Lightmatter正在考试测验改变这一现状。其Mars装置的核心是一个芯片,该芯片包括一个仿照光学处理器,专门设计用于实行神经网络基本的数学运算。
此处的关键操作是矩阵乘法,该乘法包括将数字对相乘并相加结果。可以构成光的加法并不奇怪,由于当两个光束合并时,构成光的电磁波会加在一起。
要理解的棘手问题是如何利用光进行乘法。让我在这里草绘一下,只管为了得到更完全的先容,我建议阅读Lightmatter在其博客上供应的有关其技能的非常不错的描述。
Lightmatter光学处理器的基本单位是所谓的Mach-Zehnder干涉仪。路德维希·马赫(Ludwig Mach)和路德维希·策恩德(Ludwig Zehnder)于1890年代发明了这种设备,因此我们在这里评论辩论的并不是完备当代的东西。新的想法是将许多Mach-Zehnder干涉仪缩小到纳米级尺寸,并将它们集成到一个芯片上,以加快神经网络打算的速率。
这种干涉仪将入射光分成两束,然后经由两条不同的路径。然后将产生的两个光束重新组合。如果两个路径相同,则输出看起来就像输入。但是,如果两个光束之一必须比另一个光束行进得更远或变慢,则它会与另一个光束异相。极度情形下,它的相位可能会完备偏离180度(一半波长),在这种情形下,两束光束在重新组合时会产生相消干涉,并且输出完备为零。
更一样平常地,在输出处的光的场幅度将是在输入处的光的幅度乘以在其两个臂中传播的光之间的相位差的一半的余弦的余弦。如果您可以通过某种方便的办法掌握该相位差,那么您就有了一个可以进行乘法运算的设备。
Lightmatter的微型Mach-Zehnder干涉仪是通过在纳米光子芯片内形成适当的小波导以形成光来布局的。通过利用折射率取决于它们所经受的电场的材料,可以大略地通过施加电压以产生电场来掌握分束的相对相位,就像在给电容器充电时一样。在Lightmatter的芯片中,这是通过将一个极性的电场施加到干涉仪的一个臂上,而将相反极性的电场施加到另一臂上来完成的。
就像电容器一样,电流仅在电荷积累时流动。一旦有足够的电荷来供应所需强度的电场,就不再有电流流动,因此就不再须要能量。这在这里很主要,由于这意味着一旦您设置了要运用的乘数的值,并且随后该值(神经网络打算中的“权重”)没有变革,则不再须要能量。通过芯片的光流同样不消耗能量。因此,您在这里拥有一个非常高效的系统来实行乘法,该系统以光速运行。
各种仿照打算机的缺陷之一是它们可以实行的打算精度有限。同样,这也是Lightmatter芯片的缺陷-您无法指定具有与利用数字电路相同的高分辨率的数字。幸运的是,神经网络演习后进行的“推理”打算不须要太大的分辨率。但是,演习神经网络确实可以。“演习须要更高的动态范围;因此,我们专注于推理。” Lightmatter首席实行官兼公司创始人之一尼古拉斯·哈里斯(Nicholas Harris)说:“我们有一个等效的8位系统。”
您可能会想到,Lightmatter革命性的用于用光实行神经网络打算的新设备在现阶段只是一个实验室原型,但这是一个缺点。该公司在生产实用产品方面走得很远,可以将其添加到具有PCI Express插槽的任何做事器主板上,并立即进行编程以开始进行神经网络推理打算。哈里斯说:“我们非常专注于使它看起来不像外星技能。” 他阐明说,Lightmatter不仅内置了这种硬件,还创建了必要的软件工具链,以支持将其与标准神经网络框架(TensorFlow和PyTorch)一起利用。
Lightmatter估量将在2021年下半年利用其Mars装置投入生产。哈里斯说,该公司的芯片虽然非常精密,但仍具有很高的良率,这在很大程度上是由于所涉及的纳米光子组件与切割中所创造的比较并没有那么小边缘的电子设备。“您不会得到毁坏事物的同一点毛病。” 因此,保持高收益和火星设备的价格足够低以与GPU竞争并不难。
谁知道呢,大概其他公司,例如Lightintelligence,LightOn,Optalysis或Fathom Computing,将在那时推出他们自己的基于光的神经网络加速器卡。他说,哈里斯并不为此担心。“我会说我们遥遥领先。”
免责声明:本文由作者原创。文章内容系作者个人不雅观点,半导体行业不雅观察转载仅为了传达一种不同的不雅观点,不代表半导体行业不雅观察对该不雅观点赞许或支持,如果有任何异议,欢迎联系半导体行业不雅观察。
本日是《半导体行业不雅观察》为您分享的第2417期内容,欢迎关注。
晶圆|蓝牙|5G|EDA|华为|英伟达|封装|手机芯片








