Mozilla AI 推出开源 AI 网关 Otari,将开放权重模型和前沿模型接入同一套 API。据官网介绍,用户可通过一个 API key 调用模型、查看每次请求的费用,并为人员、团队或 Agent 设置支出上限。统一模型访问与控制调用成本,是这款网关的主要功能。
据 Otari 官网介绍,网关提供兼容 OpenAI 和 Anthropic 的 API,可访问开放权重模型和前沿模型。官网称,任何支持这两类 API 的工具都可以接入 Otari;应用也可将大语言模型调用放到同一个 key 之下,切换模型并查看请求成本。
Otari 还提供网页搜索、网页抓取和代码执行等服务端工具,适用于包括开放权重模型在内的任意模型。网关支持不同供应商之间的自动回退(Fallback)。
官网以 Claude Code 展示接入方式:将 ANTHROPIC_BASE_URL 设为 https://api.otari.ai/api,将 ANTHROPIC_AUTH_TOKEN 设为 Otari API key,并通过 ANTHROPIC_MODEL 指定模型。示例使用的模型标识为 anthropic:claude-sonnet-4-6,随后运行 claude。
在密钥与预算管理方面,Otari 可为每个人、每个团队或每个 Agent 单独分配 API key,并设置支出上限。官网称,请求达到设定的花费上限时会被停止。
调用记录与汇总统计分别通过两个视图呈现。Activity 视图记录每次请求的 token、成本和错误,并支持筛选,以查找 Agent 失败的位置。Usage and cost 则可按模型、人员或 API key 查看成本、token 和请求数,统计粒度最细到小时。
Otari 提供自托管与托管两种使用方式。自托管版本免费且开源,代码位于 GitHub 的 mozilla-ai/otari 仓库;用户自行运行网关,并承担基础设施费用。
由 Mozilla AI 运行的托管版位于 otari.ai。据官网公布的计费方式,托管版对充值收取 4.5% 手续费,充值后按每 token 标价付费;用户自带的供应商 key 免费。
面向企业,官网还提供托管或自托管方案,涵盖部署、支持及团队所需功能。咨询流程包括一次 30 分钟通话和 AI 支出评估;若 Otari 适合企业需求,再提供试点方案。