AI@NEWS

AI越可靠,越易诱发“认知投降”

Anthropic工程师指出,智能体输出越准确流畅,用户越可能跳过验证并丧失系统理解。

推荐理由:核心风险并非模型犯错,而是高正确率削弱人的复核动机,使认知卸载逐步滑向默认采信;对智能体产品而言,可审计性与人工校验机制应成为关键设计约束。

阅读原文