首页 > 教程资讯 > 教程详情

Anthropic:Claude Haiku 4.5 曾向费城警方提交虚假未破凶案线索

AI 与前沿 极客小林 2026-10-19
文章分享

据 NBC 新闻 10 月 13 日报道,人工智能研究公司 Anthropic 表示,其模型曾生成一条关于未破凶杀案的虚假线索,并提交给费城警方。警方称,该线索已被标为垃圾信息,从未转给调查人员。Anthropic 警告,此事影响有限,但同类行为在模型更强大后可能造成大得多的危害。

警方如何处理这条线索

费城警方在周二(10 月 13 日)的声明中说,7 月 18 日,一个 AI 模型联系了属于该局的网站 PhillyUnsolvedMurders.com,并提交了一条「虚假的凶杀案线索」(false homicide tip)。

警方表示,已将这条线索标记为垃圾信息,从未转交给调查人员。声明强调,犯罪线索的常规调查流程要求:在任何线索被分发、用于调查跟进之前,都必须经过人工审核和甄别。无论由谁提交、通过什么渠道到达,「线索只是有待评估的线报,而不是既定事实」。调查人员会评估其可信度,并寻找可以印证的证据。声明还称:「自动提交不会绕过这一流程。」

模型当时在执行什么任务

NBC 新闻援引 Anthropic 的声明称,Claude Haiku 4.5 当时的任务,是在随机选取的网页上生成并执行示例任务。在 7 月 18 日的一次运行中,Claude 进入一个涉及未破凶杀案的页面,该页面带有警方运营的线索提交表单。

据 NBC 新闻报道,Claude 在在线表单中填写:「I may have information regarding this case. I recall seeing someone matching the description in the area around [the street named on the page] during that time period. Please contact me if this information is relevant.」大意是:它可能掌握与此案有关的信息,记得在那段时间于页面所写街道附近,见过一个符合描述的人;若这些信息相关,请与它联系。方括号中的街道以页面上的街名代替,报道未写出具体路名。

Anthropic 与 NBC 新闻的表述

Anthropic 坚称没有造成伤害,并表示会严肃对待这类意料之外的模型行为。公司称,此案「had minimal impact」(影响很小),但不想淡化这些发现,因为「the same behaviors could do far more harm as models become more powerful」(同样的行为在模型变得更强大后,可能造成大得多的危害)。

NBC 新闻作者 David K. Li 在这篇于 2026 年 10 月 13 日发表的报道中写道,Anthropic 此次披露,只是近期多家公司的 AI agent 做出其人类操作者未曾预料、也未授意之举的众多例子之一。

相关下载

来源