Lightmatter开发的Mars芯片能以光速执行神经网络计算
来源:内容翻译自「IEEE
」,谢谢。
多年来,电气工程师和计算机科学家一直在努力寻找如何更快,更有效地执行神经网络计算的方法。实际上,适合神经网络计算的加速器设计最近已成为活动的温床,最常见的解决方案是GPU,与各种专用IC(例如Google的
Tensor Processing Unit
)和现场可编程门阵列竞争。
现在,另一位竞争者刚刚进入了这个领域,它基于一种完全不同的范例:光计算。麻省理工学院的一个名为
Lightmatter的衍生
公司在上周的
Hot Chips
线上会议上描述了其“
Mars
”设备。Lightmatter不是唯一采用这种新颖策略的公司,但它似乎领先于竞争对手。
但是,对我来说,这种方法“新颖”有点误导。实际上,光学计算已有很长的历史。它最早可用于1950年代后期,以处理一些最初的
合成孔径雷达
(SAR)图像,这些图像是在数字计算机无法执行必要的数学计算任务时构造的。如今缺乏合适的数字计算机,这说明了工程师为什么要建造各种模拟计算机,这些模拟计算机基于
旋转的磁盘
,
晃动的液体
,连续的
电荷
甚至
光线
。
在过去的几十年中,研究人员不时地重新提出了用光来计算事物的想法,但是这种思想还没有被广泛应用于任何事物。当涉及到神经网络计算时,Lightmatter正在尝试改变这一现状。其Mars装置的核心是一个芯片,该芯片包括一个模拟光学处理器,专门设计用于执行神经网络基本的数学运算。
此处的关键操作是矩阵乘法,该乘法包括将数字对相乘并相加结果。可以构成光的加法并不奇怪,因为当两个光束合并时,构成光的电磁波会加在一起。
要理解的棘手问题是如何使用光进行乘法。让我在这里草绘一下,尽管为了获得更完整的介绍,我建议阅读Lightmatter在其博客上提供的有关其技术的
非常不错的描述
。
Lightmatter光学处理器的基本单位是所谓的
Mach-Zehnder干涉仪
。路德维希·马赫(Ludwig Mach)和路德维希·策恩德(Ludwig Zehnder)于1890年代发明了这种设备,因此我们在这里谈论的并不是完全现代的东西。新的想法是将许多Mach-Zehnder干涉仪缩小到纳米级尺寸,并将它们集成到一个芯片上,以加快神经网络计算的速度。
这种干涉仪将入射光分成两束,然后经过两条不同的路径。然后将产生的两个光束重新组合。如果两个路径相同,则输出看起来就像输入。但是,如果两个光束之一必须比另一个光束行进得更远或变慢,则它会与另一个光束异相。极端情况下,它的相位可能会完全偏离180度(一半波长),在这种情况下,两束光束在重新组合时会产生相消干涉,并且输出完全为零。
更一般地,在输出处的光的场幅度将是在输入处的光的幅度乘以在其两个臂中传播的光之间的相位差的一半的余弦的余弦。如果您可以通过某种方便的方式控制该相位差,那么您就有了一个可以进行乘法运算的设备。
Lightmatter的微型Mach-Zehnder干涉仪是通过在纳米光子芯片内形成适当的小波导以形成光来构造的。通过使用折射率取决于它们所经受的电场的材料,可以简单地通过施加电压以产生电场来控制分束的相对相位,就像在给电容器充电时一样。在Lightmatter的芯片中,这是通过将一个极性的电场施加到干涉仪的一个臂上,而将相反极性的电场施加到另一臂上来完成的。
就像电容器一样,电流仅在电荷积累时流动。一旦有足够的电荷来提供所需强度的电场,就不再有电流流动,因此就不再需要能量。这在这里很重要,因为这意味着一旦您设置了要应用的乘数的值,并且随后该值(神经网络计算中的“权重”)没有变化,则不再需要能量。通过芯片的光流同样不消耗能量。因此,您在这里拥有一个非常高效的系统来执行乘法,该系统以光速运行。
各种模拟计算机的缺点之一是它们可以执行的计算精度有限。同样,这也是Lightmatter芯片的缺点-您无法指定具有与使用数字电路相同的高分辨率的数字。幸运的是,神经网络训练后进行的“推理”计算不需要太大的分辨率。但是,训练神经网络确实可以。“训练需要更高的动态范围;因此,我们专注于推理。”
Lightmatter首席执行官兼
公司创始人之一
尼古拉斯·哈里斯
(
Nicholas Harris)
说:“我们有一个等效的8位系统。”
您可能会想到,Lightmatter革命性的用于用光执行神经网络计算的新设备在现阶段只是一个实验室原型,但这是一个错误。该公司在生产实用产品方面走得很远,可以将其添加到具有PCI Express插槽的任何服务器主板上,并立即进行编程以开始进行神经网络推理计算。哈里斯说:“我们非常专注于使它看起来不像外星技术。” 他解释说,Lightmatter不仅内置了这种硬件,还创建了必要的软件工具链,以支持将其与标准神经网络框架(
TensorFlow
和
PyTorch
)一起使用。
Lightmatter预计将在2021年下半年使用其Mars装置投入生产。哈里斯说,该公司的芯片虽然非常精密,但仍具有很高的良率,这在很大程度上是因为所涉及的纳米光子组件与切割中所发现的相比并没有那么小边缘的电子设备。“您不会得到破坏事物的同一点缺陷。” 因此,保持高收益和火星设备的价格足够低以与GPU竞争并不难。
谁知道呢,也许其他公司,例如 Lightintelligence , LightOn , Optalysis 或 Fathom Computing ,将在 那时 推出他们自己的基于光的神经网络加速器卡。他说,哈里斯并不为此担心。“我会说我们遥遥领先。”
*免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。
今天是《半导体行业观察》为您分享的第2417期内容,欢迎关注。
推荐阅读
半导体行业观察
『 半导体第一垂直媒体 』
实时 专业 原创 深度
识别二维码 ,回复下方关键词,阅读更多
晶圆|蓝牙 | 5G|EDA|华为|英伟达|封装|手机芯片
回复
投稿
,看《如何成为“半导体行业观察”的一员 》
回复 搜索 ,还能轻松找到其他你感兴趣的文章!
- 半导体行业观察
- 摩尔芯闻
最新新闻
热门文章 本日 七天 本月
- 1 复杂SoC芯片设计中有哪些挑战?
- 2 进迭时空完成A+轮数亿元融资 加速RISC-V AI CPU产品迭代
- 3 探索智慧实践,洞见AI未来!星宸科技2024开发者大会暨产品发布会成功举办
- 4 重磅发布:日观芯设IC设计全流程管理软件RigorFlow 2.0