发布方称,在其自有基准上,flow-1 的检测质量与 GPT-6-sol 相当,成本低 23 倍,因此可以分析每一条生产环境的 agent 轨迹,而不必抽样。
帖子称,如今的 agent 会连续运行很多步,并且常常「隐性失败」:可能点错按钮、引用错文档,而每一次调用都显示成功。要发现这类错误,需要理解 agent 想做什么,并检查其 LLM 调用和工具结果,只看最终输出不够。
帖子还认为,单纯收集轨迹解决不了问题,不少 agent 可观测性平台本质上仍是数据收集器,用户可能花钱存储了没人有时间读的轨迹。用另一个 LLM 检查轨迹是办法,但能力强的模型规模化使用成本高,便宜的模型又常常漏报,或标出不相关的问题。
据发布方介绍,flow-1 由一个小型开源模型微调而来,再在软件、法律、客服等场景的数千个合成排查任务上做 RL 后训练。
flow-1 运行在名为 Signals 的框架中。该框架把 agent 轨迹当作代码仓库,每个 span(LLM 调用、工具调用等)当作文件:模型从压缩后的轨迹字符串表示和用户提示出发,用 grep 搜索各个 span,再读取相关 span 的全文。
用户可以用通用提示提问,例如识别用户不满、检查浏览器 agent 是否完成结账,不限于错误检测。结果以用户自定义 schema 的 JSON 返回,Laminar 称之为 signal events。相似事件会被自动聚类,用户可以查看反复出现的问题及其频率,再深入单个事件和对应轨迹。
发布方称,可以用某个聚类中的轨迹构建评测集,再让编码 agent 针对评测集迭代,在上线前确认修复在这些案例上有效。
作者 skull8888888 在评论中补充,RL 后训练使用了 GSPO,原因是它适合很长的提示(轨迹分析的提示非常长)。作者称,当前生产 checkpoint 会产生大量思考 token,影响吞吐,在大而复杂的轨迹上尤其明显;部分 RL 训练仍在运行,下一步是在不损失质量的前提下减少思考 token。
Laminar 以 Apache 2.0 许可开源,可自托管,靠托管云服务赚钱,自 2024 年起做开源的 AI agent 可观测性。页面抓取时,该帖显示 48 points、23 comments。