一款用于手机的深度学习AI芯片

设计用于运行强大的图像分析神经网络的芯片所消耗的能量只有移动GPU的十分之一

3分钟读取
一款用于手机的深度学习AI芯片
说明:iStockphoto

神经网络学习识别图像中的物体,并以非常低的错误率执行其他人工智能任务。网上亚博Ayabo2016(就在上周,谷歌在伦敦的Deep Mind实验室建立了一个神经网络击败了围棋高手——这是人工智能面临的重大挑战之一。)但它们通常太复杂,无法在智能手机上运行,你必须承认,它们在智能手机上非常有用。也许不会再有了。在IEEE国际固态电路会议周二,在旧金山,麻省理工学院的工程师们展示了一款芯片,该芯片旨在使用复杂的图像处理神经网络软件来计算智能手机的功耗。

神经网络的卓越性能不是免费的。例如,在图像处理中,神经网络喜欢AlexNet工作得很好,因为他们让图像通过大量的过滤器,首先找到图像的边缘,然后识别物体,然后弄清楚场景中发生了什么。所有这些都需要在计算机上一次又一次地移动数据,这需要大量的能量,他说薇薇恩·苏他是麻省理工学院的电气工程教授。Sze与麻省理工学院计算机科学教授合作乔尔·埃米尔他也是gpu制造商的高级研究科学家英伟达

imgEyeriss有168个处理元素(PE),每个都有自己的内存。图片:麻省理工学院

“在我们的芯片上,我们将数据尽可能地靠近处理单元,并尽可能少地移动数据,”Sze说。当在普通GPU上运行时,神经网络多次获取相同的图像数据。MIT芯片有168个处理引擎,每个引擎都有自己的专用内存。附近的单位可以直接相互通话,这种距离节省了电力。当然,在更远的地方还有一个更大的主存储库。Emer说:“我们会尽量减少这种情况,”为了进一步限制移动数据,硬件会压缩它发送的数据,并使用有关数据的统计数据来进行比GPU更少的计算。

所有这些都意味着,当运行一个强大的神经网络程序时,麻省理工学院名为Eyeriss的芯片消耗的能量(0.3瓦)是典型的移动GPU (5 - 10w)的十分之一。“这是第一个能够演示完整的、最先进的神经网络的定制芯片,”Sze说。Eyeriss可以运行AlexNet,这是一个高度精确且计算要求很高的神经网络。麻省理工学院的研究小组说,以前的这种芯片只能运行特定的算法;他们说,他们选择测试AlexNet是因为它的要求很高,并且有信心它可以运行任何大小的其他系统。

除了在智能手机上的应用,这种芯片还可以帮助自动驾驶汽车导航,并在其他便携式电子产品中发挥作用。globalfoundries,Hoi-Jun柳韩国先进科学技术研究所(Korea Advanced Institute of Science and Technology)的团队展示了一副增强现实眼镜,它使用神经网络来训练基于手势和语音的用户界面,以适应特定用户的手势、手的大小和方言。

Yoo说,一旦神经网络被训练,麻省理工学院的芯片可能能够以低功耗运行神经网络,但他指出,AlexNet更密集的计算学习过程无法在它们身上完成。从理论上讲,麻省理工学院的芯片可以运行任何一种训练有素的神经网络,无论是分析图像、声音、医疗数据还是其他任何东西。Yoo说,同样重要的是,要设计出更特定于特定类别任务的芯片,比如跟踪手势,并能更好地在飞行中学习这些任务。他说,例如,这可以为可穿戴电子产品提供更好的用户体验。这些系统需要能够快速学习,因为世界是不可预测的,每个用户都是不同的。你的电脑应该开始像你最喜欢的牛仔裤一样适合你。

对话(0)

两家初创公司将光纤引入处理器

Avicena的蓝色微led在与Ayar实验室的激光系统的竞争中是一匹黑马

4分钟读取
漫射蓝光从有图案的表面穿过一个环照射出来。一条蓝色的缆绳从那里引出。

Avicena的微型led芯片有一天可以将计算机集群中的所有cpu连接在一起。

Avicena

如果CPU在首尔将一个字节的数据发送到布拉格的处理器,这些信息以光的形式覆盖了大部分距离,没有任何阻力。但是把这两个处理器放在同一个主板上,它们就需要通过消耗能量的铜进行通信,这会降低计算机内部的通信速度。两家硅谷创业公司,Avicena而且Ayar实验室美国正在对这一长期限制采取行动。如果他们最终成功地将光纤一路引入处理器,这可能不仅会加速计算,还可能重塑计算。

两家公司都在开发光纤连接技术chiplets这是一种小型芯片,旨在与cpu和共享封装中的其他数据密集型芯片共享高带宽连接。这两家公司都将在2023年加大产量,尽管我们可能还需要几年时间才能在市场上看到搭载这两款产品的电脑。

继续阅读↓ 显示更少
Baidu