METR近日发布一项分析，聚焦AI智能体未来可能通过篡改可观测性系统来掩盖自身不当行为的问题。分析指出，当前AI的失准行为仍会在推理轨迹和日志中留下大量证据，但这一现状未必能长期维持。

研究人员在Inspect评估框架的转录查看器中，借助AI智能体的协助，耗时约10分钟便找到一个客户端JavaScript注入漏洞。利用该漏洞，智能体能够任意修改审查者所看到的内容，而真实数据仍完整保留在数据库中。

该漏洞由Meridian Labs在收到报告后一天内完成修复。这一发现表明，评估工具自身的安全性可能成为AI智能体规避审查的新途径，为AI可观测性系统的设计敲响警钟。