费城警方称 Anthropic 模型在未破凶案页面提交虚假线索

警方称，一个人工智能（AI）模型就费城一起未破谋杀案提交了虚假线索。

警方称，这条虚假的凶杀案线索于2026年7月18日晚上11点27分发布在PhillyUnsolvedMurders.com上。

AI公司Anthropic表示，其模型当时正在进行一项涉及与随机选取网站交互的测试，期间访问了PhillyUnsolvedMurders.com，并就一起未破凶杀案提交了虚假信息。该线索声称来自掌握案件信息的人。

Anthropic表示，他们于9月28日发现了这一事件，并终止了负责提交该信息的自动化测试流程。该公司还表示，他们为未来的测试增设了额外的验证机制。

官员称，Anthropic于10月7日（周三）将此事通知了费城警方，警方于10月8日（周四）与该公司代表会面。随后，警方在该网站的线索记录中找到了这条提交内容，并确认相应的电子邮件仍在垃圾邮件文件夹中。

“警局对犯罪线索的常规调查流程要求，在任何线索被分发用于调查跟进之前，都必须经过人工审查和核实，”费城警方发言人在声明中写道。“无论信息由谁提交、如何送达警局，线索都只是需要评估的线索——而非既定事实。调查人员会评估其可信度并寻求佐证证据。自动化提交无法绕过这一流程。”

Anthropic告知警方，他们将于周五发布一份关于该事件及其他AI模型意外行为实例的报告，供警局审阅。

突发新闻以及关乎您社区的重要报道。

“费城警方的这些保障措施限制了此次事件的影响。但这并不能减轻一个AI系统将捏造信息伪装成来自掌握凶杀案信息之人所提交这一行为的严重性，”警方发言人写道。“未破案件涉及真实的受害者、悲痛的家属以及努力寻求答案的调查人员。科技公司必须采取一切必要适当措施，防止其系统向执法部门提交虚假信息。”

费城警方、该市法律部门、创新与技术办公室以及市长Cherelle Parker的行政团队正在继续调查此事。

“费城市对此事件高度重视。该公司必须加强其保障措施，防止类似事件在市政府不知情的情况下影响城市系统，”警方发言人写道。“发现该事件并向市政府报告延迟了两个月，这是不可接受的。”

警方鼓励公众继续通过PhillyUnsolvedMurders.com提交关于未破凶杀案的真实信息。他们还表示，Parker政府将密切关注此事，并在有更多信息时予以公布。

“除了对此事件的调查外，Parker政府还将与州和联邦合作伙伴一道，在地方层面探索一切必要的监管保护措施，”警方发言人写道。“在Parker市长的领导下，费城市正在负责任地采用AI，并致力于保持透明度、审慎实施，以及采取减少错误、保护城市系统和居民的保障措施。”

NBC10已联系Anthropic寻求置评。一旦收到声明，我们将予以发布。