SEMICON West 2019:新的非易失性内存技术MRAM、PCM和RRAM将彻底改变未来的AI工作负载

Counterpoint分析师受邀应用材料,领先的半导体制造设备供应商之一,参与人工智能设计论坛在美国加州西SEMICON。该活动由SEMI Americas,电子系统设计联盟和应用材料主办。主讲人包括半导体行业的主要高管应用材料总裁兼首席执行官加里·迪克森给其他ceoAMDSynopsys对此而且赛灵思公司,以及来自arm的技术演示,谷歌Qualcomm以及嵌入式视觉联盟。

我们采访了一些推动云计算和人工智能的关键利益相关者边缘并了解半导体行业即将面临的挑战,因为半导体设计的进步法则摩尔定律不再有效。因此,传统的芯片设计和相关的制造工艺已经不能满足快速发展的需求人工智能(人工智能),将不得不改变。

会议期间,维克多彭的首席执行官赛灵思公司他表示,处理器性能已经饱和,目前面临三大问题:

  • 功率密度增加
  • 功率、性能和面积(PPA)改进的结束
  • 多核遇到了极限

鉴于这些事实,半导体技术必须适应新兴技术领域如人工智能和不断增长的需求物联网

此外,加里·迪克森的行政总裁。应用材料,讨论了人工智能和物联网将导致的数据爆炸,这要归功于预期的数千亿美元连接设备到2030年。

目前,一个人每天产生的数据量约为1GB。2023年,自动驾驶汽车产生的数据量将达到每天4000GB,在2018年至2023年期间,平均年增长率分别约为5%和70%。

训练AI模型所需的能源消耗也很重要,但经常被忽视。预计这一数字将呈指数增长。据估计,训练一个人工智能模型产生的碳排放量相当于五辆汽车一生的排放量。除非开发出更节能的计算范式,否则能源消耗可能会成为AI增长的一个关键制约因素。

而同时功耗最大物联网的优势设备能耗低,很大程度上是由于设备数量庞大。例如,每个IP相机只消耗5到8瓦,但到2020年,所有IP摄像机的总能耗将超过美国一个标准发电厂的发电量。

迪克森还提到,未来人工智能将占据80%的劳动力数据中心用于神经网络和训练,并在2025年消耗全球电力供应的10%以上。因此,为了减少过度的功耗和数据量的激增,未来的半导体设计和制造必须考虑四个关键方面:性能、功率、面积-成本(PPAC)。我们从五项新技术开始:

  • 新架构
  • 新的结构/ 3 d
  • 新材料
  • 瘦身新方法
  • 先进的包装。

此外,正如您在下面的云计算和云计算示例中所看到的,半导体创新是必要的边缘

展示1:有希望的新硬件创新管道

来源:2019 SEMICON West AI设计论坛

正如上面的展示所指出的,内存在硬件创新中的新角色变得越来越重要。现在的主流内存耗电太多,所以新架构芯片设计而且还需要新的存储芯片。他还列出了几种类型的存储器,包括MRAM、PCM和ReRAM,并演示了应用材料公司在制造存储器设备方面的能力。

Counterpoint对新兴记忆有长期的研究。在过去的20年里,虽然出现了几款新一代存储器,但没有一款能够挑战主流的DRAM和存储器与非.易失性dram的功耗比非易失性存储器高得多。虽然NAND闪存的生产成本较低,但其速度和延迟较差。但是,随着DRAM接近物理极限,生产和研究开发(R&D)费用比过去大幅增加。NAND闪存的技术寿命将会很长扩展3D结构。然而,在迁移到3D的过程中,它的缺点并没有得到解决。目前,RRAM、MRAM和PCM被认为是DRAM和NAND的有希望的替代品,但除了进一步降低生产成本外,还需要在批量生产中验证其能力。

图2展示了当前的内存分类,包括大规模生产内存、小众内存和新兴内存。

展品2:内存技术分类,2019年

存储器技术分类,2019

资料来源:对位研究-记忆研究

脉码调制:最有前途的pcm之一是由英特尔和美光公司推广的3D XPoint。到目前为止,3D XPoint的制造成本低于服务器DRAM,但仍高于NAND闪存和商品DRAM。3D XPoint在读写速度、延迟、每秒输入/输出操作(IOPS)和持久性方面优于NAND闪存。与DRAM相比,3D XPoint的速度仍然较慢,但它的制造成本和功耗较低。因此,3D XPoint可以用作服务器中的非易失性双在线内存模块(NVDIMM)、固态驱动器(SSD)存储和缓存。

MRAM是一种以电子自旋状态存储二进制数据的存储器。MRAM比DRAM快,既不需要管理也不需要刷新。MRAM是最有前途的非易失性新兴存储器类型之一,目前已大规模生产。然而,它仍然很昂贵,因此它的应用仅限于工业和服务器应用。目前,单片STT-MRAM的最大密度为1gb。一旦价格进一步下降,它就有机会被用作消费ssd中的缓存。

的密度ReRAM可以与3D NAND相比,因为3D结构是可能的。然而,它仍然存在可靠性问题,预计在3D NAND的生产成本显著提高后,将有更多的人采用。

总之,当今实现AI的最大挑战之一是克服当前架构中的内存速度和电源瓶颈,以实现更快的数据访问,同时降低能源成本。采用新的非易失性存储器,MRAM, PCM和RRAM,可以实现大规模的节能和性能改进,从而大大延长电池寿命和更好的用户体验。