首页 > 教程资讯 > 教程详情

Edge0 开源 1450 亿参数端侧模型 Edge0-145B,称笔记本峰值内存约 29 GB

AI 与前沿 数码评测汪工 2026-11-13
文章分享

Edge0 近日同时开源 Edge0-145B 和 Edge0-120B 两款模型,并一并放出统一推理框架和部署工具。Edge0 称,Edge0-145B 是全球首个 1450 亿参数的开源端侧模型(发布方自称),可在兼容的笔记本上本地运行,无需服务器。文中性能与测评数据均来自 Edge0 官方博文和内部测试,完整测评设置和复现说明将随技术报告发布。

笔记本上的运行数据

据 Edge0 称,Edge0-145B 在兼容笔记本上报告的峰值内存为 29 GB,解码速度 80+ token/s,预填充速度 1,100+ token/s,典型功耗约 120 W,上下文长度 128K–256K。

Edge0 称模型首发支持 macOS、Windows 和 Linux,覆盖苹果 M 系列芯片,以及 RTX Spark、RTX 4090、RTX 5090 等英伟达平台。实测峰值内存为 29 GB,可在 48 GB 内存的笔记本上使用。

此前,Edge0 在 9 月 10 日发布了面向手机的 Edge0-35B,称其在 iPhone 18 Pro Max 上约占 2.5 GB 内存,每秒生成 37+ token。

技术思路

Edge0 介绍了两处设计:

  1. 专家共享矩阵:每 64 个专家共享两个大矩阵,每个专家只保留少量自有参数。Edge0 称,145B 总参数中,每步推理仅约 10B 参与计算。
  2. 三级存储加载:常用的「热专家」留在 GPU 显存,约 40 GB 的专家库放在系统内存,约 48 GB 的词表数据放在 SSD 上按需读取,读取与计算重叠进行。

测评成绩(Edge0 内部测评)

Edge0 公布的 Edge0-145B 成绩如下:

  • DeepSWE 1.1 为 64.6,Qwen3.8-Flash-Next 为 58.7,DeepSeek-V4-Flash-0731 为 54.4。
  • Terminal-Bench 2.1 为 86.52。
  • GPQA-Diamond 为 90.4,IFBench 为 80.6,HLE 为 35.4,AA-LCR 为 79.3。

六项测评的平均分,Edge0-145B 为 72.8,Qwen3.8-Flash-Next 为 71.7。Edge0 称后者按标准 4bit 部署估计约需 70 GB 内存,这是估算值,尚未实测。Edge0、Qwen、DeepSeek 和 Claude 的成绩均来自 Edge0 内部测评。

规模与客户数据

Edge0 称,其开源模型三个月内下载量超过 1500 万次,截至 2026 年 10 月,客户机构超过 11 万家。这些数据来自公司自述。

来源