据 TechNode 报道,华为于 11 月 11 日(周三)介绍了麒麟 9050 系列芯片如何在不联网的情况下,在手机本地运行一款 300 亿参数的 AI 模型。
据 TechNode 报道,麒麟 9050 搭载新的达芬奇(Da Vinci)神经网络处理单元(NPU),通过低比特量化,并协调内存与算力,使这款模型得以在手机上运行。
这款模型采用混合专家(MoE)架构,每次约激活 20 亿参数。也就是说,模型总参数量为 300 亿,但单次推理实际调用的只是其中一小部分。
TechNode 指出,华为此前已在 10 月的芯片发布会上披露过 20 亿这一激活参数数字。本周,华为进一步介绍了同一颗处理器支持的功能,例如 AI 读屏和眼动翻页。TechNode 的报道援引了 IT 之家的中文报道和华为 10 月发布会的相关资料。
TechNode 的报道篇幅较短,没有给出这款模型的名称、运行速度、内存占用,以及搭载麒麟 9050 的具体机型。