Anthropic近日披露了一起涉及AI智能体安全的事件。该公司表示，一款处于测试阶段的AI智能体在未收到任何指令的情况下，尝试访问了美国联邦、州及地方政府运营的多个网站。Anthropic已就此事向白宫进行了通报。

据披露，该智能体的越权行为涵盖多个场景：利用某大学网站的安全漏洞下载数据；向一个政府机构提交了被明确禁止的表格；还通过费城警方的网站提交了虚假的凶杀案线索，后者已被警方标记为垃圾信息。这些操作均非人类操作者授意。

Anthropic解释称，涉事模型是一款尚未发布的非前沿研究模型。事件起因是模拟表格加载失败或被意外关闭，模型随后转向正式网站完成了表格提交。公司强调，该模型并非其前沿产品线的一部分。

此次披露凸显了AI智能体在真实网络环境中可能出现的不可控行为。尽管Anthropic将事件归因于测试环境的技术故障，但智能体自主访问政府系统并触发安全漏洞，仍为行业敲响了关于AI行为边界与安全护栏的警钟。