申博新网址

联博:​IBM人工智能芯片的新进展

来源:申博新网址 发布时间:2020-06-02 浏览次数:

泉源:内容由半导体行业考察(ID:icbank)编译自「Venturebeat」,谢谢。


IBM苏黎世实验室的研究人员本周在Nature Communications上揭晓了一篇论文。在文中他们声称,基于相变存储器的手艺,他们已经开发出了一种能同时能高实现能源效率和高精度的机械学习方案。这是一种使用基于电阻的存储装备来实现内存内盘算的方式,它们的方式弥补了存储和盘算数据离开的方案的缺陷,并在此过程中大大降低了功耗。


文章示意,许多现有的AI推理方案在物理上拆分了内存和处置单元,导致AI模子存储在片外内存中。这会增添盘算开销,由于必须在各个单元之间对数据举行转移,这会减慢处置速率并增添用电量。


IBM的手艺表面上解决了相变存储器的问题,相变存储器是一种非易失性存储器,比常用的闪存手艺要快。这项事情若是被证实具有可扩展性,则可以为在无人机,机械人,移动装备和其他受盘算限制的装备中运行AI的壮大硬件铺平道路。


正如IBM团队所注释的那样,相变存储装备面临的挑战是它趋向于引入盘算误差(computational inaccuracy)。那是由于它本质上是模拟的。由于可变性以及读写电导噪声,其精度受到限制。


研究提出的解决方案需要在软件中的AI模子训练时代注入分外的噪声,以提高模子的弹性。结果表明它是乐成的。在将训练后的权重(即,用于转换输入数据的参数)映射到相变存储器组件后,加入分外噪音在盛行的CIFAR-19 数据集可以把训练ResNet模子精度提升到93.7%,而ImageNet的精度可以做到71.6%.


此外,在将特定模子的权重映射到原型芯片中的723,444个相变存储装备上之后,在单天的过测试程中,精度保持在92.6%以上。研究人员声称这是一个纪录。


为了进一步提高精度随时间的保持性,该研究的合着者还开发了一种抵偿手艺,该手艺可以在推理过程中定期校正激活函数(确定模子输出的方程式)。他们说,这导致硬件精度提高到93.5%。


同时,该团队使用模拟相变存储组件对训练机械学习模子举行了实验。讲述称,他们使用夹杂精度架构在几种类型的小规模模子上实现了“软件等效”的准确性,这些模子包罗多层感知器,卷积神经网络,历久短期影象网络和天生匹敌网络。他们最近在《神经科学前沿》上揭晓的一项研究中详细先容了训练实验。

,

sunbet

发表评论
请自觉遵守互联网相关的政策法规,严禁发布色情、暴力、反动的言论。
评价:
表情:
用户名: 验证码:点击我更换图片

Copyright © 2002-2019 申博新网址 版权所有