周末据两名直接知情人士透露,谷歌正与Marvell Technology,美股MRVL洽谈开发两款旨在更高效运行AI模型的新型芯片。其中一款是旨在与谷歌张量处理单元(TPU)协同工作的内存处理单元;另一款则是专门为运行AI模型而构建的新型TPU。
这些举措凸显了对推理芯片激增的需求,这类芯片为自动代理等商业产品提供AI动力。在3月份的GTC大会上,Nvidia发布了一款旨在提高推理工作负载效率的芯片。该芯片被称为语言处理单元(LPU),是基于Nvidia以200亿美元从初创公司Groq获得许可的技术构建的。
虽然谷歌此前曾向Marvell购买过数据中心芯片,但那些都是现成产品,而目前的讨论旨在设计专门满足谷歌需求的半导体。这些讨论是谷歌希望实现供应商多元化的最新信号,旨在减少对Broadcom的依赖,后者长期以来一直是谷歌TPU的唯一设计合作伙伴。
据《The Information》2023年报道,谷歌此前曾考虑更换Broadcom,转而选择Marvell作为网络接口芯片的供应商,这些芯片用于连接谷歌数据中心内的服务器与以太网交换机。
美股投资网获悉,据一名谷歌员工透露,谷歌一直计划开发新型推理芯片,并在Nvidia发布LPU后加快了研发进度。Marvell是Groq第一代LPU的芯片设计合作伙伴,这确保了Marvell拥有设计推理芯片的相关经验。
据两名Google员工透露,Google此前曾向Marvell采购过CXL控制器芯片。这些芯片负责管理数据中心内服务器之间的内存共享。这两位员工表示,之前的合作让Google对Marvell与其共同设计更多新型芯片的能力充满信心。
据这两位知情人士透露,Go0gle的新型内存处理单元将与TPU协同工作,根据计算和内存需求与TPU共同分担AI工作负载。Go0gle和Marvell的目标是尽早于明年完成该内存处理单元的设计,随后交付进行试产。












