快讯 23:07国家发改委:我国AI发展速度与应用规模居全球前列22:36欧盟最高法院顾问:Gemini调用新闻内容或触版权红线22:20陶哲轩警示AI依赖风险:人类或丧失对问题与答案的理解 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

大厂 今天 · 星期三 · 11-04 12:44 约 2 分钟读完

Anthropic工程师警示AI高准确率催生"认知投降"风险

摘要

Anthropic Claude Code团队工程师Addy Osmani发文指出,AI智能体输出越准确,人类越容易跳过验证环节,将AI判断直接当作自身判断,他将此现象称为"认知投降",并划分出认知卸载、推迟判断等三个依赖层次。

曾在谷歌任职超过14年的Addy Osmani,如今在Anthropic参与Claude Code相关工作。这位自称AI智能体工作流坚定支持者的工程师,日常会同时运行多个Agent,却从自身使用体验中察觉到一个值得警惕的转向:模型能力持续提升、输出中的明显错误越来越少,人类反而更难保持应有的警惕。他在X平台发布长文《当AI智能体完成工作时,如何保持批判性思维》,系统阐述了这一担忧。

Osmani的核心判断是,AI智能体越强大,人类越可能在逐步依赖中丧失独立思考、验证结果与理解复杂系统的能力,最终把AI的判断直接当成自己的判断。他将这种状态命名为"认知投降"。在他看来,过去人们需要经过信息收集、分析、判断等环节才能得到答案,如今这一过程可能被压缩到几秒钟;AI生成内容结构完整、表达流畅且多数情况下正确,用户因此越来越容易跳过独立思考和验证步骤。

为刻画依赖程度的递进,Osmani将人类使用AI的状态划分为若干层次。第一层是"认知卸载",即把任务交给AI完成,但仍对结果认真负责地检查;第二层是"推迟判断",即默认不再对AI输出进行独立审视。这一分层框架提示,风险并非源于单次使用,而是随着模型可靠性上升而悄然累积。

对AI行业从业者而言,这一警示的意义在于:模型准确率的提升并不自动等同于协作质量的提升。当错误变得稀少而隐蔽,验证习惯的退化可能比错误本身更难察觉。如何在享受智能体效率红利的同时保留批判性思维,正成为AI工具规模化落地过程中无法回避的课题。

AnthropicAI智能体认知投降批判性思维
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
60
企业落地案例
29
完整版提示词