首页 > 教程资讯 > 教程详情

Skymizer 推出 HTX301 参考芯片:称单张 PCIe 卡可本地推理 7000 亿参数大模型

硬件与数码 极客小林 2026-10-21
文章分享

Skymizer 在其官网发布了 HyperThought™ 平台上的首款参考芯片 HTX301。据官网介绍,这块芯片面向企业和智能体(agentic)AI 推理,可在单张 PCIe 卡上进行 7000 亿参数(700B)大语言模型的本地推理,整卡功耗约 240 W,无需 GPU 集群。以上数据均为发布方自述,产品目前处于 Early access 阶段。

规格与配置

官网列出的 HTX301 规格如下:

  • 配置:单张 PCIe 卡集成 6 颗 HTX301 LPU 芯片。
  • 内存:384 GB,官网称为标准 LPDDR 级内存。
  • 模型范围:支持 4B 到 700B 参数的模型,官网称无需过度配置。
  • 功耗:总功耗约 240 W。
  • 工艺:T28nm 成熟工艺。
  • 形态与目标:PCIe 卡,本地(on-prem)部署,面向企业与智能体 AI 推理。

架构思路

官网称,超大模型并不需要超标量 GPU 集群。HTX301 把预填充(prefill)和解码(decode)两类负载分离处理,芯片设计以解码优先(decode-first),并使用 LISA™ 指令集,在同一套架构上覆盖 4B 到 700B 参数的模型。

官网认为,这一设计可以省去大规模 GPU 集群、NVLink / NVSwitch 互连和复杂的液冷,并带来数据主权、可预期的成本和确定性的性能。

官网强调的三点

无需集群开销

官网称,用户可以跳过 NVLink / NVSwitch、多节点编排以及随之而来的散热方案。

默认本地化

官网称,推理不会离开用户的机房,数据、权重和提示词都留在企业内部。

按需配置

官网称,同一套架构覆盖 4B 到 700B,用户可以按实际运行的模型配置,而不必按最坏情况准备。

公司 CMO William Wei 在页面上表示:「为超大语言模型配备超标量 GPU 集群的时代已经结束。」

尚处早期

官网注明,页面数据基于 HTX301 参考平台,在正式上市(general availability)之前可能变化。目前产品为 Early access,用户登记后,团队会后续提供规格、评估细节和下一步安排。页面还展示了评估板(EVB)的正面照片。

在来源页面中,没有看到价格、上市时间或第三方性能测试的信息。

来源