basal 在官网宣布,多模态模型 basal-omni-1.0-ultra(31B,另有面向 vLLM 的 FP8 版本)与实验性的 basal-omni-1.1-max,自 10 月 17 日(周六)09:00(华沙时间)起可在 Hugging Face 获取。引擎 basal 2.1(v2.1.0)已经可用。官网把这套模型写成随每次请求定义的分类器:调用方规定问题与允许的答案,模型在这些选项中选择,并返回置信度估计,计算放在本地。
basal-2.0 读文本,basal-omni 还可以接收图片和录音。官网写明,使用者不必为每一套类别单独训练模型,只要在请求里描述类别;下一个问题可以转向完全不同的流程。每个问题最多 255 个选项,同一段上下文可以在一次调用里问多个问题。
页面列出的题型包括 choice(单选)、noul(是非)、score(评分)、multi(多标签)、act(带成本的动作)和 tool(agent 工具)。引擎 v2.1.0 在同一套 API 上增加四种实验性任务:classify(按各自说明打标签)、verify(判断陈述是否由文本推出)、compress(取出某个问题需要的部分)、extract(按 JSON schema 从文档中原样抄出字段)。官网称,模型不撰写文本,一项任务由它的多次决策拼成。默认返回的是带类型的决策,以及各允许答案的概率。
接口同为 POST /v1/systemone。官网举例的输入包括邮件、文档、RAG 上下文、文件扫描、产品照片和录下的客户请求;演示问题则包括分给哪个团队、紧急程度、主题,以及 agent 的下一步工具。
纯文本的 basal-2.0 有 mini(1.5B)、4.5B、max(11B)三档,波兰语基础为 Bielik。权重在 Hugging Face 的 basal-2.0 合集,格式包括 bf16、FP8、GGUF、MLX,可在 NVIDIA GPU、Mac / MLX、Ollama / llama.cpp 上运行。
basal-omni 以 Gemma 4 为基础。官网在多模态一栏列出 mini(4B)与 max(12B),并在 10 月 17 日新增 ultra(31B)。它支持图片,以及不超过 30 秒的录音,也可以与文本放在同一次请求里;ultra 只读文本和图片,不读音频。这一版不直接接受视频文件,应用可以先抽出帧和音轨。官网说明,图片和音频用的是基座模型自身的能力,没有额外的多模态训练;校准来自文本。
权重以 Apache 2.0 许可开放,basal-omni 1.0 的合集格式写的是 bf16,ultra 另有 FP8。basal-omni 目前只在 NVIDIA GPU 上以 eager 模式运行;页面给出的显存参考是 mini 16 GB、max 24 GB、ultra 80 GB。官网称,权重下载后在自有硬件上运行,推理本身不需要外部 API。
实验性的 basal-omni-1.1-max 被官网称为按引擎 2.1 的任务训练的任务模型,与 ultra 同一时间提供。
Werdykt 是官网所说的隐藏基准:波兰语和英语共 10 类、5000 个决策、同一套协议。该页「20 个单元格上的平均准确率」里,basal-omni-1.0-ultra 31B 为 87.9%,basal-omni-1.0-max 12B 为 82.3%,basal-2.0-max 11B 为 78.4%。同表还列出 basal-omni-1.0-mini 4B 为 76.9%,basal-2.0 4.5B 为 72.9%,basal-2.0-mini 1.5B 为 61.8%。官网称 ultra 是 basal 家族中准确率最高的,并写明这些是文本成绩,图片和音频质量在另一个标签页展示。ultra 的速度测试尚未测量,表中时间与费用一栏因此空缺。
官网对置信度的说明是:它是校准后的模型估计,不是正确性保证;阈值应按自身流程里的样例来选。basal-omni 的校准是在文本上拟合的,用到图片和录音时需要另行验证。