首页 > 教程资讯 > 教程详情

Cactus Compute 发布 22 MB 端侧视觉模型 Mirage,称可接文本模型补足视觉能力

AI 与前沿 极客小林 2026-11-07
文章分享

Cactus Compute 的 Henry 于 11 月 6 日在 r/LocalLLaMA 发帖称,公司发布了面向手机、可穿戴设备、机器人等消费设备的小型视觉模型 Mirage,权重文件为 22 MB。发布方称,它可以运行场景描述、目标检测、OCR、分割、空间关系与决策。

规格与速度

发布方称,Mirage 在三星 Galaxy S26 上的端到端测量结果为:NPU 74 毫秒,CPU 107 毫秒。描述支持英语、德语、法语、西班牙语、意大利语、荷兰语和波兰语。

帖文还给出了许可与获取方式。Henry 在评论中称,Mirage 采用 Apache 2.0 许可,可用 pip install cactus-compute 安装,无需加速器即可运行。权重页在 Hugging Face 的 Cactus-Compute/mirage 仓库。

架构

据帖文介绍,Mirage 参数量为 51.3M,构成如下:

  • 图像编码器:7.8M,使用 HConvGLU,通过固定的 Hadamard 变换混合通道,并配合小型可学习卷积。
  • 语言解码器:40.8M,沿用 Needle 和 Whistle 背后的 Simple Attention 与 Hadamard MLP 系列。
  • OCR 与空间头:2.6M,检测与掩码共享图像特征。

发布方称,其思路是不把小模型的容量花在组织行文、串联描述和开放式推理上,而是通过空间头、专用文本读取器和连接名称与区域的简短引用给问题加入结构。解码器仍会输出名称、属性、关系和一段简短的推理轨迹。

把输出交给纯文本模型

发布方称,主要发现是:把 Mirage 的输出交给纯文本大模型,可能无需微调就让后者具备视觉问答能力。

测试使用 VQAv2 的 256 道题,来自 128 张图,评分为 VQA 共识得分,满分 100,两个模型均未微调。结果如下:

  • Qwen3-0.6B 只给问题时得 9.3 分,加入 Mirage 的结构化记录和完整推理轨迹后为 31.3 分。
  • 换成另一张图的记录,得分为 22.2 分。
  • 去掉推理轨迹,得分为 33.1 分。发布方称,没有发现轨迹带来稳定收益,结构化回答已经足够。

较大的纯文本模型提升较小:

  • Qwen3-1.7B:从 27.5 分升至 31.6 分。
  • Qwen3-4B-Instruct-2507:从 33.4 分升至 37.3 分。

发布方说明,测试要求模型输出带字符串值 answer 字段的 JSON 对象,格式不符的回答记零分。加入记录和轨迹后,Nemotron 有 214/256 条回答不符合要求,Qwen3-1.7B 为 34 条,因此得分混合了答案正确性与格式遵循情况。

已知的感知失误

发布方也举了失败案例:在一张滑板照片中,Mirage 漏检了滑板,把画面描述成汽车、人和鞋。Qwen 仅看问题时猜出「a skateboard」,读到 Mirage 的记录和轨迹后改答「a car」。发布方称,较大的读取模型仍然需要相关观察结果确实存在。

后续计划与社区反馈

发布方表示,接下来会尝试用 Mirage 的记录配合问题和简短答案来微调读取模型,并分享结果。

评论区中,有用户提到希望离线使用,也有用户询问是否有 ComfyUI 节点。还有用户称在网页版中找不到针对图片发起「决策」的入口。另一位用户认为 Cactus 的模型很小,但难以找到适用的流程。Henry 回应称,这些模型面向无法运行大模型的小型设备,定位偏小众。

来源