谷歌推出两款新型张量处理器用于推理和长上下文处理
2026年11月13日 · 阅读 1 分钟
谷歌于2026年11月9日发布了两款新型张量处理器系统TPU 8tx和TPU 8i Max，这是该公司第八代张量处理器的补充产品。这两款系统分别针对敏感数据处理的安全性和需要大量内存资源的工作负载。
TPU 8tx面向需要在敏感数据上运行人工智能模型和自主代理的企业和政府机构。该系统采用TPU 8t的芯片，集成第五代AMD EPYC处理器，并包含硬件安全机制以保护数据和模型权重在内存中的使用。谷歌将TPU 8tx与其Boardfly网络配对，该网络设计用于低延迟通信，据称相比TPU 8t可将延迟降低至多两倍，同时性能无明显下降。
TPU 8i Max针对需要大量内存资源的应用，特别是能够分析大型代码库、长视频序列或超过一百万个标记的上下文的代理。该系统在单个封装中集成两个TPU 8i芯片，相比TPU 8i将计算能力、SRAM内存和HBM内存带宽翻倍，并在相同机架空间内集成两倍的硅。
谷歌同时推进其张量处理器软件生态的开放。该公司发布了开源的TorchTPU，支持在其加速器上运行PyTorch代码和Hugging Face模型。谷歌还推出了TPU Sync软件层以统一HBM内存、主机DRAM内存和共享存储的管理，并宣布Cloud Pathways现已在Google Kubernetes Engine上全面可用，用于跨多个张量处理器集群编排分布式工作负载。