发布于：2018/9/30 11:26:57 | 786 次阅读
在加州山景城举办了 AI Hardware Summit 会议，这是目前专门致力于开发用于神经网络和计算机视觉硬件加速器生态系统的活动。
会上，来自 AI 芯片初创企业、半导体公司、系统供应商/ OEM、数据中心、企业、金融服务、投资者和基金经理等 250 多位先进技术们，为新兴的 AI 芯片市场构建了一幅全面的架构路线图。
本文作者 Brett Simpson 等人是市场研究机构 Arete Research 的分析师。在参加完本次会议后，他们将一些新的观察和所感写下来，形成了这份简短的小报告「AI Silicon: New Dawn for Compute」。从题目可以看出，作者非常看好 AI 芯片的前景。
以下是报告的中文译文：
人工智能硬件峰会的五大要点:
几乎所有使 AI 计算加速的都是 7nm 芯片，由台积电制造。另外，我们还看到了一系列新的高速接口芯片 (Serdes 56 / 112gbs)。
英伟达依旧是训练领域，我们将会看到其新款计算卡 Tesla T4（使用了全新的 12nm 制程工艺 图灵架构）的广泛使用。我们认为，它将在 2019 年继续占据主导地位。长远来看，我们对 AI 较少依赖于 CUDA 和 GPU 的状况感到担忧。
我们认为 Intel 的 7nm AI 芯片（由台积电代工）支持 112GBs Serdes 和高速 DRAM。明年，在 Cascade Lake 服务器中，DL Boost INT8 会协助提高深度学习推理性能。
所有的云计算服务商都在开发内部的芯片，加速计划是不公开的。这种垂直推进是对芯片制造商的一个主要威胁。
在五年的时间中，我们看到：新的模拟计算机（神经形态）的进步，纳米线对数字计算的部分挑战，硅光子代替了 SerDes（112GBs 以上），以及更高速的存储器对 AI 性能提升的助益。
未来十年，AI 芯片将不仅是半导体领域最有前途的增长领域之一，还可能扰乱传统的计算机市场。
专门针对 AI 开发的软件还有 99%没写出来。如今，只有不足1% 的云服务器为AI加速服务（今年的服务器总数为 5 百万台），企业服务器则是几乎零举动。训练和推理的工作量正以较低的基数倍增，但市场似乎一致认为，今天的加速硬件（GPUs，CPUs， FPGAs)已经远远满足不了市场的需求——在我们看来，我们需要实现吞吐量的巨大飞跃（100 倍），以扩大 AI 的规模，并让 AI 变得无处无在。
好消息是，即将迎来结构性的创新，但是其作用需要一段时间才能显现出来。
2019 年以后，我们将看到：新的流程技术（7nm），新的计算机功能结构（芯片上的神经网络），新的芯片连接（56/112GBs SerDes），新的内存方法（HBM3，SRAM on-chip 等）和新的包装技术，所有这些都能大规模提升性能。
芯片行业正在进行创新反思，因为芯片的发展不能过多依赖制造业的萎缩来取得进展。机会来了。我们会继续看到，对长期投资 AI 芯片的投资者而言，投资台积电和主要的 DRAM 制造商仍是选择。
我们上周参加了人工智能硬件峰会，了解了很多 AI 芯片替代品的现状。
有一件事是清楚的：我们从未见过如此多的公司（无论大小）像今天这样、进军新的芯片市场，毫无疑问，未来几年将会是一个令人着迷的时期，我们一定能见证这个市场的整合过程。
继谷歌的 TPU 之后，每个云计算服务商都在做内部的 AI 芯片。问题在于，要想影响市场的情绪，这一切需要的时间有多长。
毕竟，谷歌的 TPU 芯片已经到了第三代（2016 年中期推出代 TPU），但仍然承载不了 Tensorflow（或其他框架）所有工作量。我们认为，其他云计算服务商将在 2020 年验证并量产他们的款 AI 芯片。
造新的 AI 芯片，有两种通用方法。
种方法是，在系统上进行创新，以更快的 I/O 和外部内存接口（英伟达、英特尔等）为重点来扩展性能。
第二种方法是，把所有的数据集中保留在芯片上（芯片上的神经网络）——包括大量的小核和芯片内存，以减少对外部 DRAM 的需求。第二种方法将在未来 6 个月内实现批 AI 芯片的商业化，但我们认为，7nm 工艺才是促使市场为其买单的优势（也就是 2020 年的增长）。
围绕人工智能的软件栈在快速发展，云计算服务商也推出了开源适配器，以支持在其框架中运行的各种芯片（例如 Tensorflow XLA、Facebook Glow）。随着新神经网络的成熟，每个人都会认同可编程性和灵活性的重要性。
这意味着，7nm 芯片潜在的目标是，16 位浮点运算的运算能力至少要达到 10TOPS。人们真正关注的是如何通过提高效率来提高性能，如通过支持稀疏数据结构、降低、使用 mini-batching、加快芯片互联速度（112GB Serdes）、使用更快的内存接口（远超 HBM2），以及新的多芯片先进封装。
英特尔：AI 领域的玩家
当人们普遍不再依赖通用 CPU 时，也不再十分信任英特尔计划在未来几年内为 AI 引入一些新的优化措施这件事。
英特尔去年 (2017 年) 的 AI 收入约为 10 亿美元，Xeon CPUs 也将继续在 AI 推理和 AI 训练方面发挥重要作用。
例如，英特尔在 Cascade Lake 的服务器架构中添加了大量新的指令，以提高其推理性能（声称在为 INT8 的情况下、性能提升了 11 倍）。我们预计，这些扩展将与 AMD EPYC2 规格区别开来。
我们还相信，英特尔的下一个 ASIC 芯片（将于 2019 年采样）将由台积电代工（7nm），将具有一些关键的专有接口，这将显着提高它的性能。虽然当下 GPU 以低速（PCIE-3）与 CPU 相连，但是我们预计，新的服务器将 PCIE-4（16GB），仍会是数据输入 GPU 的关键瓶颈。
相比之下，我们认为，英特尔将在其 Xeon CPU 和 7nm Nervana 芯片之间构建专有接口，速度可达 112GB。英特尔正计划推出一种新的高带宽内存接口（这对云服务提供商来说，是一个关键的关注点），并积极参与新的多芯片包装。AI 的加速会导致更多的 CPU 被停用，英特尔正寻求通过围绕 Xeon 构建外围解决方案来获取价值。
英伟达：标准制定者
英伟达的 GPU 目前仍然是 AI 计算领域的，他们有实际的收益（支持所有的框架，所有的云计算服务商，所有的 OEM），他们的新品将有显着的性能提升——我们认为，其 T4 将被广泛采用，其新的 DGX2 服务器将在今年售罄。目前没有什么引人注目的替代品可供选择，我们认为，英伟达将继续占据主导地位（至少到 2019 年），但有两个主要问题让我们怀疑，英伟达是否能长期维持其领导地位：
首先，我们认为，很明显的一点是，随着谷歌和 ONNX 等公司的努力，英伟达的软件护城河 (CUDA) 将变得不那么重要。
云计算服务商正积极提供开源插件，用于替代芯片解决方案，以支持 Tensorflow、Pytorch、CNTK、coff2 等框架，从而降低进入新的 AI 处理器的软件门槛。
其次，是英伟达训练和推理芯片的经济性——虽然它们可以为许多 AI 工作节省 CPU，但是销售卡的超高利润率与昂贵的内存捆绑在一起（V100 是每张卡 1 万美元，P4 可能是每张卡 2000 美元），这只会让云端玩家拥抱其他架构。
尽管如此，英伟达有巨大的资源来超越竞争对手 (尤其是初创企业)，它致力于每年为 AI 推出一种新的架构，可能在 2019 年首次推出 7nm 解决方案。
V100 和 T4 在很大程度上都被视为英伟达在 AI 领域的颗转换芯片（不再只是通用 GPU），因为它们是个支持张量和较低推理的芯片（INT8）。
随着英伟达 7nm 芯片的推出，我们期待，其性能在 2019 年会有另一个大的飞跃——有很多大幅提升吞吐量和延迟以提升效率的方法，我们预期，其下一代芯片更像以 AI 为中心的 ASIC，而不是 GPU。
云端的消费者告诉我们，他们使用 V100 GPU 来进行训练的频率很低（低至 15%），因为他们用 GPU 只是为了训练单一的神经网络。他们希望英伟达能将 GPU 虚拟化——尽管对 AI 计算的需求永无止境的，但这可能会给英伟达的 GPU 增长带来压力。
此外，英伟达如今拥有芯片对芯片的快速接口（NVlink2），运行速度为 25Gbs（远远超过仅 8GB 的 PCIE-3 或 16GB 的 PCIE-4）。我们预计，到 2019 年底，英伟达将支持 56Gbs 甚至 112 GB 的服务器，因为有些替代方案可以提升这些规格。
我们认为，英伟达的下一代架构将在 2019 年的 7nm 芯片上出现（超过 Volta / Turing），这将大大决定它能够在多大程度上拉开市场差距。
AI 芯片的替代品——即将到来
随着谷歌 TPU 的推出，每个云计算服务商内部都有了做 AI 芯片的项目，我们认为，这将在未来 18 个月内得到验证。
有些人公开表达了自己的意图。微软甚至在峰会上设立了招聘平台，这就是它渴望建立团队的表现。但有关这些项目的状况，我们无从得知：云计算服务商没有公开他们造芯计划的任何细节，所以我们不知道他们的项目进展。
我们认为，代转换芯片将像谷歌两年前对 TPU 的判断一样，专注于推理。Google Brain 的报告指出了一个具有讽刺意味的事实：当芯片行业达到摩尔定律的极限之际，AI 计算却出现了指数级增长，因此，架构（和软件协同设计）将成为关键的推动因素。
谷歌不仅使用 TPU 来处理越来越多的工作量，还用 GPU 测试大量即将上市的新系统。
这 50 多家创业公司的工作都是为了将他们的平台商业化，我们预计在未来 12 个月内会有 6 家公司推出首款转换芯片，将于 2020 年推出第二款（7nm 芯片）。
即使一些人工智能初创企业2019 年的销售额就可能达到 1 亿美元，但我们认为，到 2020 年才会有人超越这个数字。有许多令人印象深刻的初创公司，但其中许多还没有流片，因此很难对其性能进行验证。
云计算服务商们希望了解新的 AI 芯片的系统性能，因此，他们帮助建立了一个新的基准测试标准，名为 MLPerf。
我们认为，这将是分析特定模型的训练时间 (如果不要求准确性) 的关键标准，也有助于与目前市场领军者英伟达的培训平台进行比较 (英伟达尚未加入 MLPerf)。
很明显的一点是，许多初创企业以前从未进入过主要的云数据中心，也从未在前沿制造过芯片。
此外，只有少数参与者之前与云有密切的关系、在以云计算芯片为关键任务构建一个工程团队方面有丰富的经验。
云加速:巨大的市场机遇
以今天一台典型的云服务器配置为例（包括 2 个插座，10 核 Xeon E5 就是的销售平台之一），有大约 660 毫米的裸片大小来处理主 CPU 计算 (即两个 330 毫米的 CPU 芯片)，主要由英特尔提供。但是，针对 AI 加速的服务器（比如英伟达 DGX-1）已经有多达 10 倍的硅芯片大小来处理计算加速，正如图 2 所示。
这个裸芯片大小与 CPU 裸芯片大小的比率只会增加，因为随着时间的推移，每 CPU 4 个加速卡会上升到 6 个和 8 个。
我们相信，谷歌正计划明年将 TPU 芯片数量增加两倍。在训练应用中，英伟达的芯片需求量会继续大幅增长，而且从 2020 年开始，一大批人工智能创业公司将崛起。
但是，鉴于人工智能服务器目前在市场上的渗透率很低 (今年购买的云服务器中，只有不到 1% 的服务器支持加速度)，长远来看，台积电机遇很大。
如果我们假设这种渗透率上升到 100 万加速 AI 服务器（今年低于 5 万），并且裸芯片大小通过缩小（即每台 AI 服务器 6,560mm）保持不变，这将转化为大约每年 20 万晶圆，或 30 亿美元的代工收入（假设每片晶圆 15,000 美元，收益率 55％）。这就是为什么我们继续认为台积电将作为 AI 芯片的长期关键受益者之一。
长远来看，还有哪些新技术？
峰会期间还有许多其他新兴技术在 3 - 5 年的视野中看起来很有趣。
显然，人工智能的边缘计算正在智能手机中进行，我们坚信每部智能手机都将在未来 2 - 3 年内拥有专用的计算机视觉 AI 处理器（在相机周围）。
谷歌的 Edge TPU 和英伟达的 DLA 是早期可授权的例子，我们看到 ARM 现在提供专用的 AI 许可证解决方案，而 Qualcomm，华为海思和寒武纪以及联发科则提供一系列智能手机和物联网解决方案。
一系列具有增强 AI 规格的嵌入式 SOC 即将推出，适用于相机，机器人，汽车等。英伟达的 Xavier 就是一个例子。我们将在即将发布的报告中研究自动驾驶汽车的汽车路线图，其中，AI 加速将发挥作用。
从长远来看，尽管存在摩尔定律的挑战，我们仍可以看到正在开发的一些新技术，以扩展计算性能。
其中一个更令人印象深刻的演讲来自 Rain Neuromorphics 和 Mythic，他们从五年的时间角度，谈了谈模拟计算商业化，比如使用类似大脑突触那样的松散几何形状，解决功率限制。
此外，Ayar Labs 阐述了为什么他们在硅光子微型化方面的突破，将导致更快的芯片互连（超过 112GB Serdes）的解决方案。
随着 Exascale 计算机预计将在 3 - 4 年内出现在我们面前，我们认为，人工智能正在全面推动反思，以实现性能的指数增长。
必要的披露
整体行业风险：算法变化可能需要比预期更长的时间，ETH 价格可能上涨到足以抵消近期的回报阻碍和难度变化，并且可能出现一种新的 GPU 可挖掘的加密货币，从而推动 GPU 需求。
不断恶化的经济环境可能会影响半导体行业，迅速造成严重的供过于求，晶圆厂利用不足，平均售价下降或库存减少。在 09 年期间，半成品销售下降 10％（外存储）。所有部门的竞争都很激烈。
智能手机领域是一个充满活力的市场，有数十家厂商生产着需要复杂软硬件集成技能的产品。虽然所谓「旗舰」设备的市场空间受到区分「黑色平板」(即主要运行 Android OS 的标准触摸屏设备) 困难的限制，但是，很难预测哪一家厂商与哪种特定型号相关。
近年来智能网联汽车快速发展，新技术不断涌现，与相关产业融合度持续提升，正在推动全球汽车产业发生深刻变革。为应对此种形势，欧、美、日等汽车工业发达国家和地区都加大了智能网联汽车的国际标准法规协调的参与力度，在联合国世界车辆法规论坛(UN/WP.29)和国际标准化组织(ISO)层面，智能网联汽车相关国际标准法规协调活动正快速推进。 为更有效地支撑上述组织的国际标准法规协调活动，2017年全国汽车标准
0215jiejie
|
发布于：2022-12-01
0评论
0赞
据苹果官网，苹果推出搭载M2芯片的新款iPadPro。 11英寸wifi版起售价为799美元，wifi+蜂窝网络版起售价为999美元；12.9英寸wifi版起售价为1099美元，wifi+蜂窝网络版起售价为1299美元。
0215jiejie
|
发布于：2022-10-19
0评论
0赞
全球五大车展之一巴黎车展时隔四年再度启幕。在这场被视为“全球汽车行业风向标”的盛会上，国内外汽车品牌云集，长城汽车、比亚迪等再次领衔中国汽车出海。 长城汽车欧洲区域总裁孟祥军表示：“欧洲是长城汽车最重要的海外市场之一，巴黎车展是长城汽车向欧洲市场展示GWM品牌和产品的最佳机会。长城汽车正在研究汽车行业碳排放的整个生命周期，到2025年，将推出50多款新能源产品，全力支持可再生能源使用，为全球用户
0215jiejie
|
发布于：2022-10-19
0评论
0赞
针对通配烟弹厂商的一系列诉讼的结果，将对生产通配烟弹的品牌未来在电子烟行业的发展产生深远影响。 10月1日，《电子烟强制性国家标准》正式实施，中国电子烟监管全面生效。而在电子烟行业进入规范化、法治化阶段前夕，一场围绕着通配烟弹的争论在行业里发酵。 “通配”是电子烟从业者约定俗成的概念。换弹式电子烟由烟杆和烟弹组成，“通配”烟弹指的是非品牌商生产、可与品牌烟杆匹配使用的烟弹。多位业内人士表示，被
0215jiejie
|
发布于：2022-10-19
0评论
0赞
采用金属感应引脚，专用于大电流应用中进行精确测量 全新分流电阻器专为电池管理系统、大电流工业控制和电动汽车充电站 提供高可靠性、高成本效益的解决方案 美国柏恩Bourns全球知名电子组件领导制造供货商，宣布新增12款CSM2F系列功率分流电阻器，扩展其产品组合。全新系列采用铆接通孔金属传感引脚，可满足大电流应用中对电压测试点精确定位日益增长的需求。最新型Bourns?CSM2F系列分流电阻器
0215jiejie
|
发布于：2022-10-18
0评论
0赞
元宇宙是个筐，啥都往里装，但区别在于有的像聚宝盆，有的像垃圾桶。国庆假期刚结束，中青宝“90后”董事长李逸伦便亲自上阵，玩起了元宇宙婚礼。靠着老板首秀和代言，中青宝顺势推出“MetaLove元囍”App，正式进军元宇宙婚礼赛道。 就产品而言，如同其他元宇宙产品，李逸伦的元宇宙婚礼“新奇与吐槽齐飞”：有人说是有趣的尝试，有人则认为像QQ炫舞结婚系统。要知道，QQ炫舞是一款推出了十余年的老游戏。
0215jiejie
|
发布于：2022-10-13
0评论
0赞
截至8月末，中国5G基站总数达210.2万个，中国5G发展已经进入下半场。随着5G加速融入千行百业，互动直播、vCDN、安防监控等场景率先大规模落地，车联网、云游戏、工业互联网、智慧园区、智慧物流等场景也快速走向成熟，这些更大流量、更低时延、更高性能的场景涌现，对边缘计算的刚性需求势必爆发。 GrandViewResearch预测，即使在新型冠状病毒肺炎疫情肆虐全球的背景下，边缘计算和5G网络市
0215jiejie
|
发布于：2022-10-13
0评论
0赞
商务部回应美商务部升级半导体等领域对华出口管制并调整出口管制“未经验证清单”
商务部新闻发言人10日就美商务部升级半导体等领域对华出口管制并调整出口管制“未经验证清单”应询答记者问。 有记者问：近日，美国商务部在半导体制造和先进计算等领域对华升级出口管制措施。同时，在将9家中国实体移出“未经验证清单”过程中，又将31家中国实体列入，请问中方对此有何回应？ 对此，商务部新闻发言人回应称，中方注意到相关情况。首先，通过中美双方前一阶段共同努力，9家中国实体zui终
0215jiejie
|
发布于：2022-10-13
0评论
0赞
今年1月，奔驰带来了VISIONEQSS概念车，其中控台采用了一块完全无缝的47.5英寸曲面显示屏，横贯整个A柱，令人印象深刻。今天，TCL华星正式官宣与奔驰达成合作，并认领了VISIONEQSS上这块全球首款横贯整个A柱曲面的车载显示屏。 根据TCL介绍，这款显示屏采用了完全无缝的超薄一体化设计，将仪表盘、中控与副驾娱乐显示融为一体，并能够与3D实时导航系统相辅相成。 同时，这块显示屏还采用
0215jiejie
|
发布于：2022-10-12
0评论
0赞
国庆假期后首日开盘，上证综指时隔5个月再次失守3000点，与此同时，半导体板块也再度走低，其中，北方华创、雅克科技等个股跌停。10月11日早盘期间，半导体板块持续下挫，北方华创、雅克科技再度跌停。截至下午收盘，北方华创、雅克科技维持跌停状态，华海清科、拓荆科技-U、盛美上海、清溢光电、海光信息的跌幅则超10%。同日，半导体板块中的119只个股中超五成呈现下跌趋势。 在半导体板块遭遇下挫的同时，北
0215jiejie
|
发布于：2022-10-12
0评论
0赞
//评论区