谷歌于 2026 年 11 月 9 日宣布,为第八代 TPU 产品线新增 TPU 8tx 和 TPU 8i Max 两款系统,分别面向安全的机密推理和大上下文窗口。加上今年 4 月发布的 TPU 8t 与 TPU 8i,谷歌首次在一年内推出四款 TPU 系统,此次扩展聚焦硬件层面的数据保护,以及大上下文工作负载面临的内存瓶颈。
据谷歌介绍,TPU 8tx 针对受监管企业和政府机构设计,面向需要在敏感数据旁运行前沿模型、专有模型及自主智能体的场景,同时适合小规模训练。
它与 TPU 8t 使用相同硅片,搭配第五代 AMD EPYC CPU 主机,在硬件层面保护并隔离使用中的敏感数据和模型权重。网络方面,TPU 8tx 采用为实时推理设计的低延迟 Boardfly 网络。谷歌称,相比 TPU 8t,其延迟最多可降至一半,性能损失接近于零。
谷歌表示,这一配置允许团队在同一系统上运行和定制模型,包括用私有数据微调、将大模型蒸馏为小模型,以及通过强化学习训练智能体,无需在不同集群间迁移敏感数据。
TPU 8i Max 将两颗 TPU 8i 芯片放入同一封装。按照谷歌公布的数据,其算力、SRAM 和 HBM 带宽均为 TPU 8i 的两倍,并能在现有机架占地内容纳两倍硅片。
谷歌将这款系统定位于大上下文窗口和高机架算力密度场景。其解释是,当多个智能体同时处理整个软件代码库或数小时的视频时,内存带宽很快会成为瓶颈,因此需要同步扩展计算与内存资源。
谷歌也区分了「新芯片」与「新系统」:芯片设计需要多年,而围绕已有芯片调整封装、高速内存、网络和安全配置,可以在数月内交付专用系统。
谷歌称,上月开源的 TorchTPU 已让 PyTorch 代码和 Hugging Face 模型能够原生运行于 TPU。处于预览阶段的开源 TPU agent suite 可接入 Claude Code、Cursor 和 Google Antigravity,用于辅助 TPU 上手、诊断瓶颈和自动调优自定义内核。
基础设施方面,GKE 动态切片已正式可用,可动态组合或拆分 TPU 资源。按谷歌公布的性能数据,作业启动速度最高提升至原来的 5 倍,故障恢复速度最高提升至原来的 4.5 倍。此外,谷歌称,TPU Sync 可整合芯片内存、主机内存、共享存储和网络,将 KV 传输延迟与首个 token 时间降低 90% 以上。