随着人工智能模型从单纯追求更高Benchmark分数,逐渐进入AI Agent、多步推理和自主执行阶段,AI基础设施的竞争逻辑正在发生重要变化。过去市场关注的核心是GPU、TPU的计算能力,也就是单颗芯片能够提供多少FLOPS;但当数万甚至数十万颗AI加速器被连接成超大规模集群之后,真正限制系统效率的已经不再只是芯片本身的计算能力,而是芯片之间的数据通信效率、内存带宽以及整个系统的总体拥有成本。换句话说,AI基础设施正在从“单芯片算力竞争”转向“整个系统效率竞争”,而光通信和网络基础设施的重要性正在快速提升。
在这一背景下,供应链近期传出一个值得高度关注的方向:Google面向AI训练的下一代TPU 9t,可能继续采用Torus环面网络架构,但将目前的3D Torus进一步扩展到6D Torus,目标部署时间可能在2027年至2028年。如果这一传闻最终得到验证,它不仅意味着Google TPU网络架构的一次重大升级,更可能对整个AI光通信产业链产生深远影响。美股投资网研究团队认为,最值得关注的是,在Scale-up,也就是AI加速器之间的高速互联部分,每颗TPU对应的环回光端口数量可能从目前3D架构下的约1.5个增加到6个,相当于单颗TPU对应的OCS端口和光模块内容量提升约4倍。
为什么Google需要不断提高TPU之间的通信能力?核心原因在于AI模型本身正在发生变化。传统Transformer架构主要依赖大量计算资源进行矩阵运算,而随着Mixture of Experts,也就是MoE架构越来越普及,AI集群中的通信模式正在从All-Reduce逐渐向更加复杂的All-to-All演变。在MoE模型中,不同Token需要被分发到不同的Expert,而这些Expert可能分布在大量不同的GPU或TPU上,因此芯片之间需要频繁交换海量数据。随着Expert数量不断增加,通信在整个模型执行时间中的占比也会明显提升。相关研究显示,当MoE Expert数量从128增加到2,048时,All-to-All通信所占的执行时间比例可以从约16%上升到36%。这意味着未来模型越大,通信的重要性反而越高。
因此,AI基础设施正在形成一个新的瓶颈结构。GPU和TPU相当于整个AI系统的大脑,负责计算;Memory和Storage负责保存上下文和经验;CPU负责协调任务,而Optics和Networking则类似于整个系统的神经和四肢,负责让不同计算单元之间快速交换数据。在Agent时代,模型不再只是一次性完成一个计算任务,而是需要连续进行推理、调用工具、访问数据库、执行任务并不断获取新的上下文,因此系统需要更加频繁地在不同计算节点之间传递数据。AI Scaling Law正在从单纯的“Compute Scaling”逐渐走向“System Scaling”,通信效率因此成为下一阶段AI基础设施竞争的核心指标之一。
Google未来的AI网络扩张可能沿着两个方向同步进行。第一个方向是Scale-out,也就是扩大AI集群的规模,让更多TPU通过数据中心网络连接在一起。此前市场预计,一个机架中的TH6交换机数量可能从目前的一个增加到四至六个,DCN网络带宽可能提升4至6倍,Scale-out侧的OCS端口与xPU比例可能从目前约0.2:1提高到1:1,而光模块比例也可能从目前的1:1至1:2提高到1:3至1:4。这意味着未来每增加一颗AI加速器,所需要配置的网络和光通信资源也会越来越多。
第二个方向则更加重要,也就是Scale-up网络本身的升级。Google一直以来都非常重视TPU之间的高速互联,并采用Torus架构连接大量TPU。在3D Torus网络中,随着计算节点数量不断增加,网络的二分带宽增长速度并不能与计算规模完全同步,其理论增长大约按照N^(2/3)进行。这意味着当TPU数量快速增加时,如果网络架构仍然停留在3D层面,通信带宽最终可能成为整个系统的瓶颈。因此,在继续使用Torus架构的情况下,提高网络维度就成为提升系统通信能力的重要方式之一。
从3D Torus升级到更高维度,本质上就是让每一颗TPU拥有更多的网络连接方向,从而提高整个集群的通信能力。如果供应链传闻中的TPU 9t最终采用6D Torus,那么这意味着Google可能正在从架构层面解决AI集群越来越严重的通信瓶颈。更高维度的网络意味着更多的光连接、更高的端口密度以及更复杂的光交换结构,而这也将直接转化为光通信产业链的增量需求。
其中最值得关注的是OCS,也就是Optical Circuit Switch,光路交换机。传统数据中心网络大量依赖电子交换机,但当AI集群规模快速扩大之后,功耗、延迟和带宽扩展能力开始成为重要问题。OCS通过光学方式建立不同计算节点之间的高速连接,可以在特定场景下提供更低功耗、更低延迟以及更高带宽的连接能力。因此,在Google这种高度垂直整合、拥有自研TPU和超大规模AI集群的公司中,OCS有可能成为未来Scale-up网络的重要组成部分。
如果TPU 9t真的从3D Torus升级到6D Torus,那么对于光通信供应链而言,最大的变化不是TPU数量增加,而是“每颗TPU需要多少光通信内容”发生了变化。按照目前供应链传闻,每颗TPU对应的wrap-around optical ports可能从3D架构下的1.5个增加到6个,相当于增加4倍。换句话说,即使Google未来部署的TPU数量增长速度没有发生巨大变化,仅仅因为网络架构升级,每颗TPU所对应的OCS端口、光模块以及相关光器件价值量就可能出现非常明显的提升。
与此同时,光连接速度本身也可能发生重大升级。目前市场关注的800G光互联未来可能逐渐向1.6T甚至2.4T发展。如果TPU 9t采用2.4T Coherent Lite,并结合新的调制技术,那么单个光连接的传输能力将从800G提升到2.4T,相当于提升约3倍。这样一来,未来AI光通信产业链可能同时出现三个维度的增长:第一是AI加速器数量增长,第二是每颗AI加速器对应的光端口数量增加,第三是单个光端口的传输速度和技术含量提升。
因此,从产业价值量的角度来看,未来AI光通信可能出现“数量增长+速率升级+技术升级”的三重驱动。单纯计算AI芯片数量已经无法完整反映整个AI基础设施市场的增长空间。更加准确的思路应该是把AI基础设施拆解为Compute、Memory、Networking和Optics几个部分,然后观察每颗GPU或TPU对应的基础设施内容量如何变化。如果AI集群规模不断扩大,同时每颗AI加速器所需要的光通信内容量也不断增加,那么光通信产业链的增长速度完全可能超过AI芯片数量本身的增长速度。
这也是为什么Google TPU的发展值得光通信投资者高度关注。过去市场谈论Google TPU,主要关注的是TPU本身的计算性能、HBM容量、先进封装以及TSMC制造能力,但未来需要进一步关注TPU背后的网络架构。随着TPU从3D Torus向更高维度发展,OCS、Optical Engine、Coherent Lite、高速光模块以及相关光器件的重要性都会明显提高。AI基础设施的投资逻辑也正在从“谁生产最强的AI芯片”,逐渐扩展到“谁能够解决数万颗AI芯片之间的数据传输问题”。
从更大的产业趋势来看,这可能是AI基础设施进入下一阶段的重要信号。过去几年AI资本开支主要集中在GPU、HBM和先进封装,但随着AI集群规模越来越大,Networking和Optics正在成为AI CapEx中越来越重要的一部分。未来一个大型AI数据中心的价值量,不仅仅取决于部署多少颗GPU或TPU,还取决于每颗加速器配备多少网络端口、多少光模块、多少交换容量以及多少高速互联设备。
因此,如果TPU 9t的6D Torus、OCS以及2.4T Coherent Lite最终被Google正式确认,那么这可能成为AI光通信产业链一个非常重要的结构性催化剂。它意味着光通信不再只是GPU服务器的外围配件,而正在成为决定AI集群规模和效率的核心基础设施之一。未来随着AI模型继续扩大、MoE进一步普及以及Agent工作负载增加,通信需求可能继续以非常快的速度增长,光互联在AI基础设施中的价值量和战略地位也有望持续提升。
不过,目前关于TPU 9t采用6D Torus、2027年至2028年部署以及2.4T Coherent Lite等信息仍然主要来自供应链传闻和产业推演,并非Google已经正式公布的产品规格,因此不能直接将其视为确定订单或确定收入。对于投资者而言,更合理的方式是把这一趋势作为一个需要持续验证的产业方向,重点观察未来Google TPU路线图、供应链公司披露、OCS采购情况、高速光模块规格以及相关厂商资本开支和订单变化。
如果这一方向最终兑现,那么AI投资逻辑可能进一步从“AI芯片牛市”扩展为“AI全基础设施牛市”。真正值得关注的将不只是GPU和TPU本身,而是围绕这些AI加速器形成的整个“神经网络”:HBM提供记忆,先进封装连接计算单元,交换机负责网络调度,而光模块、光引擎和OCS则负责让数万颗AI芯片以接近一个超级计算机的方式协同工作。AI算力的下一轮竞争,很可能已经不只是比谁的芯片更快,而是在比谁能够让整个AI集群更快地“交流”。












