WORLDTECH NEWS 全球科技资讯。联系我们
芯片与硬件 单一来源

推理工作负载已占AI工作负载的三分之二,芯片部署地点随之改变

由 WORLDTECH 译自英文。事实、数字、名称和来源均与英文原文一致。 English

A sleek gaming setup featuring a high-end PC, widescreen monitor, and ergonomic chair lit by neon lights.
示意图片。图片:Ron Lach / Pexels

事件经过

以推理为先的芯片厂商希望抓住这一转变。

更新于 2026年11月21日 13:28 EST AI推理已占AI工作负载的三分之二,芯片部署地点随之改变 作者:Kelly Knight AI支出正从大型训练集群转向规模较小、建设迅速的站点,模块化数据中心正逐渐成为推理工作负载的天然载体。Positron AI Inc.于9月以50亿美元估值融资8.75亿美元,其推理设备采用普通内存,而非稀缺的高带宽内存(即堆叠在处理器旁、用于更快地向其供给数据的内存)。

电力、散热和内存供应如今对决定词元在何处生成的影响,不亚于芯片本身的原始性能。

Positron的销售与业务拓展负责人Cameron McCaskill(图中人物)表示,推理已超越训练,成为基础设施采购决策背后的驱动力。他说:“所以你现在可以理解,为什么推理正在决定他们如何规划基础设施建设的经济账。”

McCaskill在SC26大会上接受了theCUBE Research的Rebecca Knight和John Furrier的采访,此次访谈是SiliconANGLE Media直播工作室theCUBE的独家直播。

来源与证据