日前，LightOn在Arxiv.org 上揭橥了一篇技能论文，作为一家开拓用于AI运用的光学打算硬件的初创公司，LightOn的科学家在论文里详细先容了他们所谓的能够加速AI模型演习的光学协处理器之一。在对盛行的MNIST手写数字数据集进行的实验中，他们的协处理器（光学处理单元）表面上帮助演习了一个模型，这个模型以95.8％的精度识别数字，而在图形卡上进行演习的模型则达到了97.6％的精度。
光子集成电路是LightOn芯片的根本，与电子同类产品比较，它具有许多上风。例如它们只须要有限的能源，由于光产生的热量少于电，并且它们不易受到环境温度，电磁场和其他噪声变革的影响。与硅等效产品比较，光子设计中的延迟降落到万分之一，而功耗水平也降落了“几个数量级”，而且，某些模型的事情负载运行速率比最新的电子芯片快100倍。
根据该论文，LightOn研究职员利用一种内部光学芯片，该芯片经由修正以包括离轴全息摄影技能（off-axis holography ：a small angle between the reference and the object beams that prevents overlapping），并与一种称为直接反馈对准（DFA：direct feedback alignment）的技能相结合。在机器学习中，DFA将模型缺点率的随机预测用作演习旗子暗记，这使构成模型的每一层都可以独立于其他层进行更新。
范例的AI模型由连接到一个或多个密集层中的“神经元”（数学函数）组成。沿着神经元传输的旗子暗记会调度连接的突触强度（权重），并以此办法从数据中提取特色并学习进行预测。常日，反向传播（backward propagation of errors）用于发送旗子暗记并进行各种调度，但是反向传播会阻挡层的异步处理。图层的调度取决于模型中其他地方的数据，从而导致效率低下。
为了追求更快的基于光学的DFA方法，LightOn研究职员的芯片将一种称为矢量的数字表示编码到光束上，该分量具有用于空间调制光的组件。光束通过扩散器传播，这就让相机可以检测到推断图案（a speckle）以及光束的强度。这使芯片可以供应非常大的随机模型偏差预测-理论上超过一千亿个参数，在此情形下，它们指的是模型内部的配置变量，这些变量定义了问题模型的技能。
在实验过程中，论文合著者演习了一个模型，该模型包含10个期间的1,024个神经元（1,024 neurons for 10 epochs），这意味着MNIST中的每个样本都有机会将参数更新10次。LightOn的协处理器以1.5 kHz的频率运行，每秒实行1,500次随机投影，花费约30瓦的功耗，比一样平常的图形卡的功率效率赶过一个数量级。
研究职员推测，切换到不同的全息方案（ holography scheme）将使实行涉及超过一万亿个参数的打算成为可能，但他们将其留给未来的事情。他们写道：“随着神经网络变得越来越大，越来越繁芜，数据量越来越大，演习本钱也在飞涨。” “我们希望通过优化当前可用的组件以及开拓未来的组件来改进[在我们的芯片上]的性能。对DFA的更好理解也将有助于扩大该加速器的运用范围。”
值得把稳的是，LightOn的硬件旨在插入标准做事器或事情站中，因此无法不受光学处理的限定。快速的光子电路须要快速的存储，然后是将每个组件（包括激光器，调制器和光学组合器）封装在一个眇小的芯片晶圆上的问题。此外，关于在光学领域可以实行哪种类型的非线性运算（使模型能够进行预测的基本模型构建块）仍存在疑问。
这大概便是为什么包括英特尔和LightOn 在内的公司都在追求稠浊方法，该方法将硅和光学电路结合在同一芯片上，以使模型的一部分以光学办法运行，而模型的一部分以电子办法运行。它们并不孤单。
到目前为止，初创公司Lightelligence已在其加速器上演示了MNIST基准机器学习模型，该模型利用打算机视觉识别手写数字。其余三个竞争激烈的光学芯片市场的初创公司Lightmatter，Optalysis和Fathom Computing也已经为自己的芯片筹集了数千万的风险投资。
欲看完全版论文，请点击阅读原文查看。
免责声明：本文由作者原创。文章内容系作者个人不雅观点，半导体行业不雅观察转载仅为了传达一种不同的不雅观点，不代表半导体行业不雅观察对该不雅观点赞许或支持，如果有任何异议，欢迎联系半导体行业不雅观察。
本日是《半导体行业不雅观察》为您分享的第2331期内容，欢迎关注。
两会｜台积电｜RISC-V｜汽车芯片｜AI｜EDA｜中美｜晶圆 | 射频
