Substack 作者 austin 在一篇文章中称,一名 Claude 用户在聊天中描述针对邻居的暴力计划后,账号被封,并受到 FBI 和当地警方问询。作者借此讨论 AI 公司向执法部门报告潜在威胁时,应如何提供信息及考虑聊天上下文。但他明确表示,自己并非亲历者,无法证实所述事件属实。
据文章转述,这名用户喜欢用极端情境试探 Claude 的反应。涉事聊天发生在 Claude 的无痕模式中:他声称准备与三 K 党的朋友喝啤酒,并计划杀害住在对面的同性恋邻居。Claude 劝阻后,他继续声称,自己已经联系朋友,对方正带着啤酒赶来。文章称,这段互动违反 Anthropic 的使用政策,账号在聊天发生 24 小时后被封。
文章随后描述,FBI 探员在晚上 11 点到访这名用户位于新罕布什尔州的旧住址,由新租客应门;用户已于数周前搬到几英里外。第二天,他的个人手机收到一条自称来自 FBI 特工的短信,要求就其在 Anthropic 平台上的活动回电,并称可通过 FBI Boston 核对身份和号码。随后,当地警方拨打他的工作手机,请他前往警局问话。
据文章,实际问话者是一名当地警探,问题仅涉及这一次聊天,重点是他是否与三 K 党有关。用户否认相关联系,并表示自己没有同性恋邻居、没有孩子,也已多年不喝酒。警探告知他没有被拘留。
文章称,用户离开警局后接到 FBI 特工电话。按文中转述,特工表示,据其所知,用户在新罕布什尔州没有犯罪;收到报告的原因是聊天提到了目标、计划,以及计划已在执行。
同一段转述还称,特工表示该对话由 Anthropic 提交,公司会让其他 AI 阅读并标记用户聊天记录;特工还说用户已被列入某个名单,但未说明名单性质。这些说法均属于作者对事件的转述,不能据此视为 Anthropic 已确认的处理流程。
austin 写道,他能确认自己认识该用户,两人是高中同学。他还称,截图中的手机号登记在一名与 FBI 波士顿办公室特工同名的人名下,相关特工信息可见于地区法院公开文件;但他仍无法保证整件事真实发生。
在讨论部分,作者认为,如果公司确实相信存在迫在眉睫的伤害威胁,主动向执法部门提供信息符合伦理;同时,他强调,威胁评估应结合更广泛的用户行为背景。他对信息提交方式的质疑与建议,属于文章观点,并非对 Anthropic 实际提交了哪些材料的核实结论。