英伟达详解AI内存全栈协同设计:HBM容量仅增3%,Agent吞吐量/美元最高提升30倍
英伟达详解AI内存全栈协同设计,在HBM容量仅增3%的条件下,Agent吞吐量/美元最高提升30倍。该方案强调内存与计算的全栈协同优化,而非单纯堆叠HBM容量。
英伟达详解AI内存全栈协同设计,在HBM容量仅增3%的条件下,Agent吞吐量/美元最高提升30倍。该方案强调内存与计算的全栈协同优化,而非单纯堆叠HBM容量。
印度电子和信息技术部秘书S.Krishnan表示,在India Semiconductor Mission 2.0下计划约24个月开发一款本土GPU芯片,但未公布制造商或芯片供应商。印度还计划将基于RISC-V架构的国产SHAKTI和VEGA处理器推向商用市场,二者为CPU设计,与此次GPU目标相互独立。
台湾服务器厂商过去两年已在得州制造设施投入数十亿美元,而该州新任州长承诺暂停新的数据中心审批。这一表态给美国最大开发市场之一的 AI 基础设施投资带来不确定性。
获NVIDIA投资的英国AI算力基础设施初创公司Nscale计划2026年进行350亿美元IPO,但其主要客户微软已决定不行使得克萨斯州数据中心的算力容量租赁扩展选项,令IPO前景增添不确定性。
鸿海在 2026 鸿海科技日(HHTD 26)展示 NVIDIA DSX POD 集装箱化方案,通过工厂预建、机电整合与预测试,把算力机架、网络设备、配电和液冷系统集成为可快速部署的计算单元。该方案协助 NVIDIA 将 AI 计算平台转为可量产、可现场交付的模块化数据中心架构。
NVIDIA 详解其全栈协同设计如何缓解 AI 内存压力:从 Blackwell Ultra 到 Vera Rubin 平台,每 GPU 的 HBM 容量仅增约 3%,而在 SemiAnalysis AgentX 上每美元智能体吞吐量最高提升 30 倍。
NVIDIA 推出 Vera CPU,称在 100 兆瓦数据中心对比中同时优于最快 x86 CPU 与最节能 x86 CPU:相比最快 x86 每瓦可支持 1.6 倍智能体数量,相比最节能 x86 智能体速度提升 2 倍。
俄亥俄州Sunbury选民在11月3日投票中通过禁止大型数据中心的禁令,为亚马逊拟建的20亿美元项目增添新障碍。随着美国各地社区开始限制AI基础设施建设,该项目面临当地政策阻力。
研究机构 SemiAnalysis 称,今年通过与 xAI 合并才进入 AI 基础设施业务的 SpaceX,可能已是全球建设 AI 数据中心最快的公司。该机构认为,这一建设速度将使其成为全球最大的 AI 云服务商。
Darfon Electronics 正整合其在中国和东南亚的产能,同时将部分 IT 外设资源转向 AI 数据中心(AIDC)零部件,包括结构件、散热方案和电池备份系统。
Supermicro 在 2027 财年第一季度财报电话会上表示,订单周转时间已缩短至 74 天,预计现金转化将加快。公司称 Data Center Building Block Solutions(DCBBS)需求上升,可加速数据中心基础设施部署,但因零部件短缺仍维持谨慎的全年销售展望。
Onsemi 于 2026 年 11 月 2 日宣布以 6 亿美元现金收购集成电压调节器(IVR)技术开发商 Ferric,另设最高 1.75 亿美元与营收里程碑挂钩的或有对价。同期公司将 2030 年 AI 数据中心营收目标上调 5 亿美元至超过 30 亿美元。
HBM走私出现新手法,将HBM与低端CPU焊在一起以合法出口,单卡利润超16万元。
AMD 预计 2027 年公司整体营收增长超过 80%,增长越来越依赖大规模交付 AI 系统和服务器处理器。数据中心目前已贡献近三分之二的销售额,管理层对执行力和产品组合的展望,将决定需求能多大程度转化为营收和利润。
AMD 在财报电话会上宣布 Helios 机架级系统首次实现营收出货,该系统围绕其最新 AI GPU 构建。公司同时强调,用于运行智能体并支撑加速器的服务器 CPU 需求正在增长,其业务正从单颗处理器扩展到机架级系统。
据 DIGITIMES 报道,DeepSeek 计划在下一代 V5 模型中使用华为 Ascend 950 芯片作为核心训练硬件,双方合作可能从推理延伸到 2027 年的完整模型训练。原文称,这将成为中国替代 NVIDIA 方案的一次关键检验。
Alphabet、Meta、Microsoft、Amazon 和 Oracle 已披露超过 3 万亿美元的租赁、设备采购、能源和建设未来承诺,显示数据中心投资热潮将持续。这轮支出激增也加剧了外界对融资、电力供应和水资源的担忧。
三星电子与 SK hynix 对 AI 基础设施持续投入的依赖,使客户融资风险受到关注。HBM 与服务器 DRAM 需求提振其业务的同时,业内讨论为 AI 客户提供财务支持,也意味着锁定未来芯片订单可能让供应商承担客户的投融资风险。
HBM 走私出现新手法,将 HBM 与低端 CPU 焊接在一起以合法出口,单卡利润超过 16 万元。凤凰网报道了这一规避出口管制的做法。
MediaTek CEO 蔡力行在台湾周 2026 开幕演讲中表示,公司正从手机与连接芯片扩展到计算、汽车和 AI 数据中心。他称 Nvidia 与 Alphabet 近期认购 MediaTek 可转债不仅是注资,也体现全球头部 AI 厂商对 MediaTek 的信心。
台湾地区 Horngyu Electric 正借越南制造基地承接 AI 数据中心、赴美设厂的台商及新能源项目带来的电气设备需求增长。其越南工厂计划于 2026 年底开始试产,2027 年进入量产。
富士康正凭借精密制造与垂直整合能力强化其在 AI 基础设施中的地位,以应对服务器快速升级对更紧的零部件公差和更快系统交付的要求。在近期 Technology Day 上,公司展示了材料加工、光通信组装、AI 机架与模块化数据中心方面的能力,可缩短从产品设计到部署的路径。
Supermicro 最新业绩显示其完整 AI 数据中心系统业务规模持续扩大,销售额创纪录并大幅推高收益。但公司每美元销售额的留存比例低于上一季度,且运营现金流继续为净流出,增长能否转化为可持续盈利与现金仍待观察。
AMD 三季度业绩显示数据中心业务已成为增长与盈利的主要驱动力,游戏需求则在回落。接下来的考验是,AI 系统与服务器处理器的快速扩张能否在不大幅侵蚀利润率的前提下带来更强的现金生成能力。
NVIDIA 联合 COMSOL、Applied Materials、Siemens、Lam Research、Advantest 等厂商,用加速计算与物理 AI 构建"AI 定义晶圆厂"。
NVIDIA 用 8192 块 GPU 创下容错量子模拟纪录,目标是降低量子纠错成本。CEO 黄仁勋在最新欧洲之行中强调,以大规模算力模拟量子系统、切入量子计算底层生态是公司的又一战略重点。
Nvidia 将在台北北投士林科技园区(BSTP)设立其首个海外研发中心与总部。台湾行政院长卓荣泰 11 月 3 日表示,政府在预算、法规与政策三方面及时提供了支持。该决定也成为台北市长蒋万安寻求连任的一项关键政绩。
Oracle 计划通过发售股票和发行债券筹集 200 亿美元,用于为其 AI 建设提供资金。公司提交该计划后股价下跌,显示投资者对超大规模云厂商在 AI 收入兑现前债务不断攀升日益警惕。
AI基础设施热潮推高消费电子存储价格,预计2026年移动SoC出货量下滑近20%。存储价格预计将持续上涨至2027年,业界普遍预期终端销售维持低迷,考验全产业链厂商的韧性与策略。
Onsemi 公布 2026 年第三季度财报,AI 数据中心电源管理方案需求加速推动业绩超出预期,该业务营收同比激增 175%。公司通过运营重组与高价值产品持续改善盈利能力,盈利增速超过营收增速。
NVIDIA 及其合作伙伴正把物理 AI 与智能体 AI 扩展到全球城市,依托共享算力基础设施让市政部门无需各自采购资源。西班牙 1MillionBot 结合 ALIA、Nemotron 等模型服务 Madrid Digital 等 150+ 部署;马来西亚 ITMAX 的 SamurAI V2 视觉智能体基于 RTX PRO 6000 GPU,计划到 2027 年支持 17,000+ 路摄像头。
业界消息称,AI ASIC 市场的竞争将延续到 2028 年之后,MediaTek、Broadcom 和 Marvell 不仅争夺设计订单,还在争夺晶圆、先进封装、基板与 HBM 的供应保障。这些供应链合作关系的成效将决定各公司最终能实现多少营收。
Amazon、Microsoft、Google 和 Meta 预计 2026 年资本支出合计超过 7200 亿美元用于建设 AI 基础设施,接近两年前水平的三倍。投资者正密切关注这些支出何时开始产生回报。
Nvidia 在首尔 AI Day 上展示与韩国企业不断扩大的合作,Samsung Electronics 与 SK Hynix 将介绍使用 Nvidia AI 技术的半导体开发案例。LG Electronics 与 Doosan Robotics 将演示机器人技术,SK Telecom、Naver Cloud 和 Coupang 将讨论 AI 数据中心与基础设施的开发运营。
尽管市场对 AI 热潮可持续性的担忧升温,Murata、Ibiden、Sumitomo Electric 和 Toto 等 AI 芯片与数据中心供应商仍在投资扩产,Kioxia 则因 AI 相关需求利润大幅增长。
TrendForce 预测 AI 网络与互连市场 2027 年规模将达 2798 亿美元,其中 Scale-Up 部分占比升至 24%。这一判断基于 AI 服务器集群持续扩张与加速器带宽需求激增。
台湾 AI 数据中心扩张正面临供电、电池备援与散热系统挑战,台电建设专用 161 kV 高压线路约需两年。北部土地有限、工业与人口用电需求上升,令外界担忧电力供应能否跟上 AI 算力扩张步伐。
鸿海董事长刘扬伟在 10 月 30 日 HHTD 26 后表示,2027 年 AI 市场将呈 K 型分化,AI 数据中心相关产业向上、其他板块反向,鸿海预计明年继续双位数增长。他同时称 AI 产业长期趋势未变。
天数智芯(Iluvatar CoreX)公布基准测试结果,称其天垓 300 AI 加速器在部分指标上超过 Nvidia H200。中国芯片厂商正通过芯片设计、软件优化与系统集成缩小与国际领先 AI 计算平台的差距,竞争焦点已超出单纯算力,华为与平头哥转向系统级 AI。
韩国 AI 芯片初创公司 FuriosaAI 最新一轮融资募得 6.2 亿美元,估值较上一轮翻四倍至 29 亿美元。此轮融资强化了其对 Nvidia 的挑战。