为什么存储器会成为阻碍 AI 发展的难题？

发布于：2019/3/19 11:02:48 | 478 次阅读

[转载]原文链接：

　　边缘计算性能的提升给存储器的设计，类型的选择和配置都带来挑战，这也导致在不同的应用市场中需要进行更复杂的权衡。
　　芯片架构正在与新市场一起发展，但数据在芯片、设备之间以及系统之间如何移动并不总是很清楚。汽车和 AI 应用的数据正变得越来越多和复杂，但芯片架构在处理时有时不清楚如何优先处理数据。这让芯片设计人员面临抉择，是选择共用内存降低成本，还是增加不同类型内存提高性能和降低功耗。
　　所有这些都是以安全为前提，并且不同的市场设计的要求也不一样。比如，汽车中的各种类型的图像传感器（如激光雷达和摄像头）的大量数据需要在本地处理。AI 芯片则希望性能能够提升 100 倍。
　　解决内存问题有一些方法，其中一种是片上存储器，也就是将存储器分散地集成在运算单元旁，减少数据搬移，这种方法的目标是通过减少负载和存储的数量来突破内存瓶颈，也能降低功耗。
　　" 存算一体（In-memory computing）可能是模拟的、数字的，或两者都有。" Cadence Digital＆Signoff Group 的首席产品经理 Dave Pursley 说，" 虽然在内存中进行计算的想法可能是日益增长的趋势，但在这种计算中实际发生的情况似乎大不相同。"SRAM 和 DRAM 仍是主流尽管市场出现了新的变化，但片上 SRAM 和片外 DRAM 仍是主流。已经有预测 DRAM 多年后将 " 死亡 "，但它仍然是最经济和可靠的选择。DRAM 具有高密度、架构简单、低延迟和高性能的特性，兼具耐用和低功耗的特性。
　　DRAM 密度的增速正在放缓，但 HBM2 等新架构允许通过堆叠模块的方式而不是使用 DIMM 来垂直增加密度，这种方法还让 DRAM 更靠近处理单元。
　　另外，SRAM 价格昂贵且密度有限，但其高速性能多年来已被验证。片上存储器的挑战是采用分布还是共用的方式，在某些情况下，为保证安全性需要增加冗余。
　　" 所有这些要求都会影响存储器的类型和数量的选择，还涉及片上和片外存储器之间的权衡，以及访问每个存储器互连的复杂性。"Arm 物联网架构师 Ryan Lim 表示。
　　低功耗存储器是关键
　　存储器的一个关键问题是功耗，其中存储器类型和配置等多种因素都会影响功耗。例如，在 7nm 的存储器中进行数据的存取可能消耗更多功耗，这是因为线路中的 RC 延迟。当然，这也会产生热量，有可能会破坏输入输出存储器的信号的完整性。
　　不过，较慢的片外数据使用高带宽内存可以节省功耗，并且可以与高速 GDDR6 一样快。如何做出这些决定取决有多种因素，包括设备的平均售价和选择的存储器类型。
　　还有针对手持移动设备的极低功耗的存储器，包括越来越多使用电池的边缘设备。
　　" 这些存储器具有极高的效能，可在一定程度上提升电池供电设备的功耗和数据速率。" Rambus 杰出的院士 Steven Woo 说。" 它们也可以在多种模式下工作，当处于待机状态时，可以消耗很少的能量满足手机和平板电脑等产品的需求，并在需要进行处理时快速切换到更高性能 / 更高功率的模式。 "低功耗存储器还支持多种封装方式，允许它们与手机处理器堆叠在一起，满足智能手机的轻薄需求，也能集成在 PCB 上支持平板电脑和其他消费类设备高容量内存配置的需求。
　　毫无疑问，开发低功耗存储器是一项挑战。" 当设计低功耗存储器时，它们支持的速率范围很广，相对低功耗存储器而言，这些数据速率往往是相当高的。"Woo 说。" 这通常是由一两个主要应用市场驱动，所以它必须面向一个市场很大的行业，拥有足够大市场的行业才能催生新的存储器。从历史上看，手机市场是成功的例子。如果与不同的手机制造商交谈，他们都希望获得性能和电源效率更高的存储器，因为他们希望能够延长电池寿命。对于其他想要使用低功耗存储器的公司，他们会很庆幸其他人正在帮他们实现。"通常，这些合格的存储器可能在几种不同的数据速率下运行，但速率很接近。" 这些存储器可能有一个是每秒 4.2 千兆比特的速率，另一个是 3.2 千兆比特。" 他解释道，" 这可以让内存制造商在生产所有这些存储器时，进行所谓的分级。当某些部件没有全速运行时会发生这种情况，但制造商依旧会出售这些内存，因为有些客户需要以更便宜的价格购买性能较低的存储器。Binning（数据合并）允许这种情况。这些产品的性能在一定的范围内，都属于合格品。"存储器如何影响人工智能发展？
　　人工智能在几乎所有新技术中都扮演着重要角色，而存储器又在人工智能中起着重要作用。极高的速度和极低的功率是芯片一直以来追求的，不过这并不总是有效，因为空间有限。但它能解释为什么数据中心和用于训练的 AI 芯片比应用于终端推理设备的芯片更大。另一种方法是减少一些片外存储芯片，以提高数据吞吐量并通过设计减少到内存的距离，或者限制片外数据流。
　　在任何一种情况下，片外存储器的竞争很大程度上归结为 DRAM-GDDR 和 HBM。
　　" 从工程和生产的角度来看，GDDR 看起来很像其他类型的 DRAMs，如 DDR 和 LPDDR，"Woo 说。" 你可以将它集成到标准 PCB 板上，还能用类似的制造工艺。HBM 是新一些的技术，它涉及堆叠和内插器（interposers），因为 HBM 有许多连接速度较慢。每个 HBM 堆栈将具有一千个连接，因此需要高密度的互连，这远远超过 PCB 的处理能力。这就是为什么有些公司正在使用内插器，因为可以将这些导线蚀刻得非常接近，很像片上连接，可以获得更多的连接。"HBM 追求性能和功效，但成本更高，需要更多的工程时间和技术。使用 GDDR，DRAM 和处理器之间的互连就没那么多，但它们的运行速度要快得多，这会影响信号完整性。
　

　　功率，性能和面积（Power、Performance、Area）仍然是关键驱动因素，尽管有架构和变革和新技术。
　　" 这三个都非常重要，但很大程度上取决于应用。" 西门子 Mentor 知识产权部门总经理 Farzad Zarrinfar 表示。" 例如，如果是一个便携应用，功耗非常重要。电源本身也分动态和静态。一部分是动态功率，一部是静态功率。如果应用于无线通信，如果有大量计算，动态功率非常重要。但是，如果是可穿戴式应用，使用者会处于睡觉、醒来运动，然后又回到睡眠的不同状态，静态 / 泄漏功率非常重要。"浅睡眠等功能使设计人员能够大幅减少泄漏，这时，不工作的存储器进入源偏置模式以减少泄漏，而其他被直接访问的存储组是工作的。在设计的深度睡眠时，可以通过电源管理，管理 Vdd 和最小化泄漏的技术来保留数据。如果不需要保留数据，则用关闭模式能进一步减少泄漏。
　　与电源效率相关的一切在汽车中也是至关重要的。" 在电动汽车中，电池的寿命非常重要，因此耗电量至关重要，"Zarrinfar 说。" 人们希望从 -40°C 一直到 125°C 都具有线性的特性，甚至在更高的 150°C 情况下。他们不希望在高温下泄漏陡然增长，并且他们希望尽可能地将其保持在线性范围内。同样，我们必须在整个温度范围内注意功耗和泄漏，这非常重要。"无论应用领域如何，功率仍然是首要考虑因素。" 我们看到随着 SoC 设计向更小化发展。" 他说。" 存储器的消耗正在增加，嵌入式存储器的容量也在增加。现在，我们看到超过 50％的裸片是存储器。所以人们必须注意存储器的耗电量。"图 2：1999 - 2023 年平均晶圆面积来源：Semico Research结论尽管有大量革命性技术和创新架构，但内存仍然是设计的。虽然即将出现新的存储器类型，例如相变和自旋扭矩，但大部分仍然应用于各种条件的市场。的变化在于如何对现有存储器进行优先级划分、共用、在设计中选择，以及最终如何使用它们。虽然这听起来像是一个简单的问题，但事实并非如此。
　　" 选择正确的内存解决方案通常是获得系统性能的最关键。" Synopsys 技术营销经理 Vadhiraj Sankaranarayanan 在最近发表的一份白皮书中指出，这说起来容易做起来难。

参与讨论

登录后参与讨论

//评论区

推荐阅读

智能网联汽车国际标准法规协调专家组（HEAG）召开工作会议

近年来智能网联汽车快速发展，新技术不断涌现，与相关产业融合度持续提升，正在推动全球汽车产业发生深刻变革。为应对此种形势，欧、美、日等汽车工业发达国家和地区都加大了智能网联汽车的国际标准法规协调的参与力度，在联合国世界车辆法规论坛(UN/WP.29)和国际标准化组织(ISO)层面，智能网联汽车相关国际标准法规协调活动正快速推进。为更有效地支撑上述组织的国际标准法规协调活动，2017年全国汽车标准

0215jiejie | 发布于：2022-12-01 0评论 0赞

苹果推出搭载M2芯片的新款iPad Pro 799美元起售

据苹果官网，苹果推出搭载M2芯片的新款iPadPro。 11英寸wifi版起售价为799美元，wifi+蜂窝网络版起售价为999美元；12.9英寸wifi版起售价为1099美元，wifi+蜂窝网络版起售价为1299美元。

0215jiejie | 发布于：2022-10-19 0评论 0赞

新能源汽车领衔 “中国智造”加速登陆欧洲市场

全球五大车展之一巴黎车展时隔四年再度启幕。在这场被视为“全球汽车行业风向标”的盛会上，国内外汽车品牌云集，长城汽车、比亚迪等再次领衔中国汽车出海。长城汽车欧洲区域总裁孟祥军表示：“欧洲是长城汽车最重要的海外市场之一，巴黎车展是长城汽车向欧洲市场展示GWM品牌和产品的最佳机会。长城汽车正在研究汽车行业碳排放的整个生命周期，到2025年，将推出50多款新能源产品，全力支持可再生能源使用，为全球用户

0215jiejie | 发布于：2022-10-19 0评论 0赞

严监管时代来临，电子烟“通配”大战走向何方？

针对通配烟弹厂商的一系列诉讼的结果，将对生产通配烟弹的品牌未来在电子烟行业的发展产生深远影响。 10月1日，《电子烟强制性国家标准》正式实施，中国电子烟监管全面生效。而在电子烟行业进入规范化、法治化阶段前夕，一场围绕着通配烟弹的争论在行业里发酵。 “通配”是电子烟从业者约定俗成的概念。换弹式电子烟由烟杆和烟弹组成，“通配”烟弹指的是非品牌商生产、可与品牌烟杆匹配使用的烟弹。多位业内人士表示，被

0215jiejie | 发布于：2022-10-19 0评论 0赞

Bourns 全新大功率分流电阻器

采用金属感应引脚，专用于大电流应用中进行精确测量全新分流电阻器专为电池管理系统、大电流工业控制和电动汽车充电站提供高可靠性、高成本效益的解决方案美国柏恩Bourns全球知名电子组件领导制造供货商，宣布新增12款CSM2F系列功率分流电阻器，扩展其产品组合。全新系列采用铆接通孔金属传感引脚，可满足大电流应用中对电压测试点精确定位日益增长的需求。最新型Bourns?CSM2F系列分流电阻器

0215jiejie | 发布于：2022-10-18 0评论 0赞

请尊重元宇宙“这个筐”

元宇宙是个筐，啥都往里装，但区别在于有的像聚宝盆，有的像垃圾桶。国庆假期刚结束，中青宝“90后”董事长李逸伦便亲自上阵，玩起了元宇宙婚礼。靠着老板首秀和代言，中青宝顺势推出“MetaLove元囍”App，正式进军元宇宙婚礼赛道。就产品而言，如同其他元宇宙产品，李逸伦的元宇宙婚礼“新奇与吐槽齐飞”：有人说是有趣的尝试，有人则认为像QQ炫舞结婚系统。要知道，QQ炫舞是一款推出了十余年的老游戏。

0215jiejie | 发布于：2022-10-13 0评论 0赞

边缘计算：突围商业模式痛点

截至8月末，中国5G基站总数达210.2万个，中国5G发展已经进入下半场。随着5G加速融入千行百业，互动直播、vCDN、安防监控等场景率先大规模落地，车联网、云游戏、工业互联网、智慧园区、智慧物流等场景也快速走向成熟，这些更大流量、更低时延、更高性能的场景涌现，对边缘计算的刚性需求势必爆发。 GrandViewResearch预测，即使在新型冠状病毒肺炎疫情肆虐全球的背景下，边缘计算和5G网络市

0215jiejie | 发布于：2022-10-13 0评论 0赞

商务部回应美商务部升级半导体等领域对华出口管制并调整出口管制“未经验证清单”

商务部新闻发言人10日就美商务部升级半导体等领域对华出口管制并调整出口管制“未经验证清单”应询答记者问。有记者问：近日，美国商务部在半导体制造和先进计算等领域对华升级出口管制措施。同时，在将9家中国实体移出“未经验证清单”过程中，又将31家中国实体列入，请问中方对此有何回应？对此，商务部新闻发言人回应称，中方注意到相关情况。首先，通过中美双方前一阶段共同努力，9家中国实体zui终

0215jiejie | 发布于：2022-10-13 0评论 0赞

TCL华星官宣与奔驰合作：推出全球首款横贯A柱的车载显示屏

今年1月，奔驰带来了VISIONEQSS概念车，其中控台采用了一块完全无缝的47.5英寸曲面显示屏，横贯整个A柱，令人印象深刻。今天，TCL华星正式官宣与奔驰达成合作，并认领了VISIONEQSS上这块全球首款横贯整个A柱曲面的车载显示屏。根据TCL介绍，这款显示屏采用了完全无缝的超薄一体化设计，将仪表盘、中控与副驾娱乐显示融为一体，并能够与3D实时导航系统相辅相成。同时，这块显示屏还采用

0215jiejie | 发布于：2022-10-12 0评论 0赞

半导体板块暴跌谁最受伤

国庆假期后首日开盘，上证综指时隔5个月再次失守3000点，与此同时，半导体板块也再度走低，其中，北方华创、雅克科技等个股跌停。10月11日早盘期间，半导体板块持续下挫，北方华创、雅克科技再度跌停。截至下午收盘，北方华创、雅克科技维持跌停状态，华海清科、拓荆科技-U、盛美上海、清溢光电、海光信息的跌幅则超10%。同日，半导体板块中的119只个股中超五成呈现下跌趋势。在半导体板块遭遇下挫的同时，北

0215jiejie | 发布于：2022-10-12 0评论 0赞

unionblog

关注