公布的是参考设计,不是在售整机

Astera Labs 10 月 12 日宣布 Orion:一套模块化的机架级参考设计,带生产级连接,让客户自己选择 GPU 和 CPU。公司写道,推理客户往往要在知道哪款加速器买得到、买得起之前就承诺容量,把早期投资绑在单一平台上会带来成本和风险。

Orion 把机架设计和加速器、CPU 的选择拆开。核心是一套按开放标准做的纵向扩展结构,设计上最多连接一个 pod 里的 160 块加速器,并在机架和 pod 之间提供可预期的低延迟通信和更大的内存容量。新闻稿另写,高基数的 320 通道 PCIe 交换结构按设计可从一个 pod 的 8 块 GPU 扩到 160 块。词元吞吐更高是设计目标,稿里没有给出测得的每秒词元数。

[1]
一只炭黑色机架,上面一块托盘抽出来一截。
一只炭黑色机架,上面一块托盘抽出来一截。, AI 生成插画,不是新闻照片

六类部件,外加两套管理软件

整套设计包括计算托盘、交换托盘、内存托盘、连接板和计算板,并接上 COSMOS Rack Manager 和 COSMOS Fabric Manager,用于管理、全机群遥测、诊断和基础设施信息。问答里还列出可单独购买的型号:Orion-CT 计算托盘、Orion-FT 交换托盘、Orion-CB 计算板、Orion-LB 连接板、Orion-MT 内存托盘,以及管硬件和连接的 Orion-RM。

平台解决方案集团副总裁兼总经理 Pravin Patel 说,运营方会被拿来比较的是每美元交付的词元,而不是机架里的硬件。这是公司的说法。

[1]

供货写的是 2027 年一季度

新闻稿说,Orion 机架参考设计和系统设计按计划在 2027 年一季度开始,通过 Astera 的 OEM 和 ODM 合作伙伴提供。Astera 设计和验证参考架构及部件,不制造整机。完整机架和单套系统预计由 OEM 和 ODM 制造、授权并销售。

10 月 12 日至 15 日,公司将在圣何塞的 OCP 全球峰会上展示一台通电的 Orion 机架,计算托盘可以互换,并预先验证不同的 CPU 和加速器配置。对更多开放互连,包括 UALink,稿里写的是路线图上的计划,不是这套设计已经支持。

[1]