在科技发展日新月异的当下，2026 年秋季，人工智能推理领域即将迎来一场意义深远的重大变革。随着推理逐渐成为人工智能的主要工作负载，其发展不仅依赖于强大的芯片，更离不开新架构和内存设计所带来的系统级创新。
　　在人工智能数据中心领域，多款新型芯片即将崭露头角。从 OpenAI 的 Jalapeneo、英特尔的 Crescent Island GPU，到初创公司独角兽 Fractile 的产品，都备受瞩目。与此同时，Taalus 和 Tensordyne 等初创公司也在专注开发专用于数据中心人工智能推理的芯片，而非传统的可编程图形处理器（GPU）。
　　在边缘人工智能市场，未来几个月也将发生显著变化。Hailo 被 Microchip 收购，英伟达则与苹果在桌面电脑领域展开正面竞争。AMD 计划将其第五代 GPU MI455X 与 Cerebras 开发的晶圆级推理引擎相结合；荷兰 Axelera 公司正在研发名为 Titania 的芯片技术；英国 Graphcore 公司也将于今年晚些时候推出面向数据中心应用的新芯片。此外，SambaNova 和 Tenstorrent 等成熟公司也在积极推销他们的人工智能推理芯片，云服务提供商也开始采用这些技术。
　　随着数据中心对高带宽内存（HBM）堆栈甚至 DRAM 的大量采购，内存架构和支持变得愈发重要。
　　OpenAI Jalape?o：高效推理芯片先锋
　　OpenAI 的 Jalape?o 推理芯片专为该公司当前和未来的大型语言模型（LLM）从零开始构建，从设计到生产仅耗时九个月。博通公司借助 OpenAI 的模型加快了芯片设计速度。博通表示，这项技术将与数据中心合作伙伴分几代以千兆瓦级规模部署，并于 2026 年底开始实施。目前，Jalape?o 芯片的工程样品已在实验室中以目标频率和功耗运行机器学习工作负载，包括 GPT - 5.3 - Codex - Spark。
　　OpenAI 基于对 LLM 基本原理的深入理解，结合其模型、内核、服务系统和产品需求的路线图设计了这款芯片，并与合作伙伴博通和 Celestica 携手实现芯片、电路板和机架系统集成，以及高性能网络和可扩展生产系统，助力平台产业化。该芯片设计灵活，可与所有 LLM 兼容，其架构减少了数据传输，平衡了计算、内存和网络资源，使实际利用率更接近理论峰值性能。博通的芯片实现和网络技术，如 Tomahawk 网络芯片，为平台的大规模量产提供了支持。虽然详细技术报告尚未发布，但 OpenAI 称早期测试显示 Jalape?o 的每瓦性能将远超现有的芯片，详细性能技术报告将在未来几个月内公布。
　　OpenAI 总裁兼联合创始人格雷格?布罗克曼表示：“世界正迈向计算驱动型经济。Jalape?o 是我们长期全栈基础设施战略的一部分，旨在提升计算能力，打造更强大、更可靠、更经济实惠的人工智能，让个人和企业受益，并解决更重要的问题。通过自主设计更多技术栈，我们能更高效地提供智能服务，推动先进人工智能的广泛应用。”OpenAI 硬件项目负责人 Richard Ho 也指出：“Jalape?o 从底层架构专为 LLM 推理设计，融入了与研究人员合作的深入见解，围绕内核、内存移动、网络和服务模式等优化架构，早期测试显示能高效执行重要工作负载，接近硬件理论极限。” 博通公司总裁兼执行官陈福阳则强调与 OpenAI 的合作体现了对未来十年人工智能物理基础设施规模化发展的承诺，这只是多代路线图的开端。
　　英特尔 Crescent Island：重返 GPU 市场的力作
　　英特尔携代号为 “Crescent Island” 的数据中心设备重返 GPU 市场，该设备针对人工智能推理工作负载，具备高内存容量和节能性能。英特尔技术官 Sachin Katti 表示：“人工智能正从静态训练转向实时、无处不在的推理，由智能体人工智能驱动。扩展复杂工作负载需要异构系统，将合适的芯片与任务匹配，并由开放的软件栈支持。随着令牌量的增加，英特尔的 Xe 架构数据中心 GPU 将为客户提供充足性能和更高价值。”
　　英特尔与数据中心标准组织开放计算项目（OCP）合作设计了该芯片，针对风冷企业服务器进行优化，集成了大量内存容量和带宽，以满足推理工作流程需求。该芯片基于即将推出的 Nova Lake - S 和 - H CPU 所使用的 Xe3P 微架构，优化了每瓦性能，支持 160GB 低功耗 LPDDR5X 内存，还支持多种数据类型，可用于 “令牌即服务” 提供商和推理。英特尔面向异构人工智能系统的软件栈正在 Arc Pro B 系列 GPU 上开发和测试，以实现早期优化，客户样品预计于 2026 年下半年交付。
　　Maia 200：超大规模数据中心的自研芯片
　　微软于今年 1 月发布的 Maia 200 芯片采用重新设计的架构，专注提升内存吞吐量。这款 750W 芯片由台积电 3nm 工艺制造，采用分层微架构，由一系列单元组成。每个单元集成了两个互补的执行引擎：用于高吞吐量矩阵乘法和卷积的单元张量单元（TTU），以及作为高度可编程 SIMD 引擎的单元向量处理器（TVP）。这些引擎由多级存储单元的单元 SRAM（TSRAM）和单元级 DMA 子系统供电，用于在不中断计算流水线的情况下移动数据。一个轻量级的单元控制处理器（TCP）运行软件栈生成的底层代码，协调 TTU 和 DMA 的工作分配，硬件信号量提供数据移动和计算之间的细粒度同步。
　　该芯片片上集成了 272GB 的 SRAM，并连接到 216GB 的 HBM3e 内存，集群规模多可扩展至 6144 个设备。目前已部署在爱荷华州和亚利桑那州的数据中心，并计划于今年晚些时候扩展到意大利、澳大利亚和韩国。
　　其他芯片动态
　　总部位于英国的初创公司 Fractile 强调欧洲对推理芯片的需求，获得北约投资基金支持，在近一轮 2.12 亿美元融资后，基于 RISC - V 的内存计算架构使其估值超过 10 亿美元，计划于 2026 年下半年发布首款芯片。英国芯片设计公司 Graphcore 虽隶属于日本软银集团，但在 2020 年开发了第二代 Colossus 芯片 GC200，集成了 1472 个内核和 900Mbit 的 SRAM 内存，运行的是在 LLM 技术出现之前开发的软件，且需自行开发电路板和机架。该公司在内存集成和内存计算方面拥有关键技术，正在扩充设计团队开发 Izanagi 芯片，计划于今年晚些时候发布，可能采用晶圆键合技术连接处理器与海量 SRAM 内存，以提升性能并避免采购内存的难题。
　　Taalus 针对特定人工智能模型定制开发硬件，以降低功耗并提升性能。Taalus HC1 技术演示器采用台积电 6nm 工艺制造，运行于 2.5kW 的服务器上，搭载 Llama 3.1 8B 人工智能模型，面临的挑战是选择合适模型并转化为硬件。Tensordyne 于 2017 年以 Recogni 之名成立，专注汽车视觉人工智能，其数据中心推理技术采用对数数制（LNS）而非传统浮点运算。3 纳米 Napier 推理人工智能处理器将复杂矩阵乘法转换为简单加法，缩小计算逻辑面积，优化每瓦性能，拥有 48 个针对 Transformer 人工智能模型优化的计算节点，连接到 144GB 的 HBM 内存，封装在风冷机箱中，采用 72 芯片机箱，在 30 千瓦功耗下可提供相当于 76.7 petaflops 的 FP16 计算能力，仅为其他领先系统的三分之一。
　　边缘人工智能推理市场新态势
　　英伟达凭借其 Project Digits 设计进军边缘 AI 设备领域，如今以 DGX Spark 之名正式上市。它基于与联发科联合开发的独立 GB10 Grace Blackwell 超级芯片，集成了 20 个 ARM 核心（10 个 Cortex - X925 和 10 个 Cortex - A725）以及 6144 个 CUDA 核心，采用英伟达 Blackwell 架构，配备 128GB LPDDR5x 一致性统一系统内存，在 FP4 4 位精度下可达 1 PetaFLOP 的运算能力，或 1000 AI TOPS 的运算能力。GB10 的散热范围为 140W，DGX Spark 机箱需要 240W 电源，可运行多种领先的人工智能模型。
　　vLLM 核心维护者尤凯超表示 DGX Station 改变了在强大 GB300 超级芯片上进行测试和开发的现状，加快了开发周期。SGLang 社区贡献者 Jerry Zhou 称 DGX Station 将数据中心级别的 GPU 性能带到本地，缩短了系统和框架开发的迭代周期。多家制造商都开发了各自的 DGX Station 版本，华硕、Boxx、戴尔科技、技嘉、惠普、微星和超微等公司都已开始出货相关系统。
　　联发科曾协助英伟达开发与 GB10 类似的显卡，用于运行 Windows 11 系统的 PC，以便使用 OpenClaw 等 AI 代理框架。RTX Spark 芯片与 GB10 一样拥有 128GB 的统一显存，目标客户是今年晚些时候上市的 AI 笔记本电脑，其功耗范围为 80 至 110 瓦。OpenClaw 基金会架构师 Vincent Koc 表示支持将 OpenClaw 等代理安全部署到 Windows 生态系统中。
　　Axelera 指出开发者使用迷你电脑处理代币可降低成本，这是一个关键转变。随着人工智能能力提升和融入日常运营，在本地硬件上运行人工智能的理由更充分。Axelera 迷你电脑搭载第一代 Metis 芯片，采用 PCI M.2 接口，专为边缘 AI 设计。对于人工智能视觉而言，在企业内部部署 AI 视觉功能可在数据生成地点处理数据，根据运营需求扩展部署规模，不受云架构限制，确保系统稳定运行。据市场研究公司 Market Mind Partners 预测，到 2027 年，全球超过 40% 的制造工厂将采用边缘计算视觉系统。
　　苹果 M5 Ultra 预计将于今年晚些时候发布，它由两颗 M5 芯片组成，包含多 10 个定制的 ARM 核心和 10 个针对人工智能优化的 GPU 核心。M5 Max 也采用两颗这样的芯片，因此 M5 Ultra 预计将拥有更大的内存，以支持更大规模的人工智能模型。
　　Microchip Technology 将在未来两个月内收购以色列芯片开发商 Hailo，具体金额未披露。此次收购将提升 Microchip 的边缘 AI 能力，带来 Hailo - 8、Hailo - 10 和 Hailo - 15 三款计算机视觉芯片，为智能边缘系统增添先进功能。此前，Microchip 还收购了 Neuronix AI Labs，增加了神经网络优化技术。Microchip 副总裁 Mark Reiten 表示收购 Hailo 将加速其在高性能边缘 AI 处理领域的扩张，Hailo 的技术与 Microchip 的产品组合互补。Hailo 执行官 Orr Danon 称加入 Microchip 将借助其平台扩展加速的边缘 AI 技术。
　　人工智能的蓬勃发展正推动新型芯片架构和内存设计的革新，今年这项技术将从数据中心延伸到桌面端。未来几个月，一系列芯片技术将不断涌现，它们不仅会提升边缘人工智能部署的效率，还将重塑人工智能推理的经济格局。