数据标注公司 Surge AI 发布了智能体基准 DAYJOB: Tax,用专业税务工作考察 AI 智能体。按发布方公布的排行榜,在 95% 评分阈值下,通过率最高的是 Claude Sonnet 5.5,为 10.8%;Claude Fable 5.1 为 9.6%,Claude Opus 5.5 为 9.2%。Surge 强调,这个基准考察的不只是税务知识和计算,还有智能体能否发现客户没想到要问的问题。
DAYJOB: Tax 是 DAYJOB 系列的最新一项,此前该系列已覆盖 Healthcare 和 Finance。基准包含 50 个任务环境,覆盖 8 个税务领域。智能体拿到客户请求和支持材料后,需要产出报税表、底稿、技术审核或客户建议。
Surge 称,除税务知识、计算、检索和遵循指令外,这些任务还考察专业判断:智能体要决定哪些问题值得调查,如何处理相互矛盾的证据,并把这些判断带进最终成果。
基准共有 1,789 个工作区文件,每个任务文件数的中位数为 30,最多 123 个。其中 PDF 1,487 个、Excel 工作簿 117 个、Word 文档 38 个,另有邮件、图片、CSV、JSON 和文本文件。
每个任务由税务专家编写,并经过正确性、完整性、可解性三层专家审核。
评分采用 pass@1、95% 评分阈值:一次尝试满足任务至少 95% 的评分标准才算通过。在这一口径下,排名前三的都是 Claude 模型,成绩见上文。
Surge 还比较了模型表现与每次试验的平均成本,称 Claude Sonnet 5.5 和 Opus 5.5 处在所测性价比(Pareto)前沿的高性能一端。
以下案例均来自 Surge 的描述。
客户 Anna 2024 年 8 月搬出公寓,想知道 2026 年 10 月还是 2027 年 1 月成交更划算。两个日期都满足居住要求,免税收益最高可达 25 万美元;但如果拖到 2027 年 8 月之后出售,她可能失去资格。Surge 称,Astra 五次尝试都没有识别出这一期限,Opus 五次都识别了。
一对分居伴侣询问如何分割 Roth IRA 和 401(k)。两人曾住在德州,并在科罗拉多办过仪式,现住佛罗里达。Surge 称,Opus 5.5 五次都以二人未婚为前提给出建议;Astra 五次中有四次先要求确认两人的法律婚姻状况。
Surge 认为,即使智能体能完成单个步骤,要在真实税务流程中稳定做出专业判断,对前沿模型来说仍然很难。完整排行榜和基准访问方式见 Surge 官网。