首页 > 教程资讯 > 教程详情

Surge AI 发布 DAYJOB: Tax 基准:AI 智能体做专业税务工作,最高通过率 10.8%

AI 与前沿 数码评测汪工 2026-10-29
文章分享

数据标注公司 Surge AI 发布了智能体基准 DAYJOB: Tax,用专业税务工作考察 AI 智能体。按发布方公布的排行榜,在 95% 评分阈值下,通过率最高的是 Claude Sonnet 5.5,为 10.8%;Claude Fable 5.1 为 9.6%,Claude Opus 5.5 为 9.2%。Surge 强调,这个基准考察的不只是税务知识和计算,还有智能体能否发现客户没想到要问的问题。

测什么

DAYJOB: Tax 是 DAYJOB 系列的最新一项,此前该系列已覆盖 Healthcare 和 Finance。基准包含 50 个任务环境,覆盖 8 个税务领域。智能体拿到客户请求和支持材料后,需要产出报税表、底稿、技术审核或客户建议。

Surge 称,除税务知识、计算、检索和遵循指令外,这些任务还考察专业判断:智能体要决定哪些问题值得调查,如何处理相互矛盾的证据,并把这些判断带进最终成果。

任务材料

基准共有 1,789 个工作区文件,每个任务文件数的中位数为 30,最多 123 个。其中 PDF 1,487 个、Excel 工作簿 117 个、Word 文档 38 个,另有邮件、图片、CSV、JSON 和文本文件。

每个任务由税务专家编写,并经过正确性、完整性、可解性三层专家审核。

评分与成绩

评分采用 pass@1、95% 评分阈值:一次尝试满足任务至少 95% 的评分标准才算通过。在这一口径下,排名前三的都是 Claude 模型,成绩见上文。

Surge 还比较了模型表现与每次试验的平均成本,称 Claude Sonnet 5.5 和 Opus 5.5 处在所测性价比(Pareto)前沿的高性能一端。

两个案例

以下案例均来自 Surge 的描述。

公寓出售的期限

客户 Anna 2024 年 8 月搬出公寓,想知道 2026 年 10 月还是 2027 年 1 月成交更划算。两个日期都满足居住要求,免税收益最高可达 25 万美元;但如果拖到 2027 年 8 月之后出售,她可能失去资格。Surge 称,Astra 五次尝试都没有识别出这一期限,Opus 五次都识别了。

分居伴侣的退休账户

一对分居伴侣询问如何分割 Roth IRA 和 401(k)。两人曾住在德州,并在科罗拉多办过仪式,现住佛罗里达。Surge 称,Opus 5.5 五次都以二人未婚为前提给出建议;Astra 五次中有四次先要求确认两人的法律婚姻状况。

发布方的结论

Surge 认为,即使智能体能完成单个步骤,要在真实税务流程中稳定做出专业判断,对前沿模型来说仍然很难。完整排行榜和基准访问方式见 Surge 官网。

相关下载

来源