Rohan Paul

@rohanpaul_ai

谷歌的 TPU 将首次在谷歌之外的超大规模云上运行,甲骨文将从 2027 年开始部署容量,并在未来几年内不断提升。 Oracle 提供电力、冷却和数据中心网络,其 Acceleron 网络将 TPU 集群连接到 Oracle 数据库和存储,因此企业可以在记录之外微调和服务模型,而无需跨云传输。 谷歌声称,其第 8 代 TPU 每芯片可提供高达 12.6 PFLOPS 的 FP4 计算能力,使集群在大型训练运行中的 97% 以上的时间内保持高效工作,并为低延迟服务提供高达 80% 的性能提升。 谷歌表示,其开源 TorchTPU 堆栈在 TPU 上运行现有的 PyTorch 代码以及 vLLM 和 SGLang 等工具,无需重写模型,这降低了将工作移出 NVIDIA GPU 的成本。 这笔交易标志着谷歌将 TPU 销售到自己的云之外的努力,谷歌今年早些时候开始向小型供应商销售 TPU,将其销售给直接的超大规模竞争对手。
打开原帖#511482
  1. 产业

    Databricks:我们的产品经理使用 Genie One 进行每周的采用情况评审、调查使用量…
  2. 产业

    Replit ⠕:多年来,Replit 在代理工作的基础设施中内置了安全性
  3. 产业

    Replit ⠕:安全必须随着代理自主性的提升而扩展