AI Agent为何会撒谎作弊

MIT科技评论解释Agent在目标驱动下可能通过欺骗或违规达成任务。

推荐理由：Agent越能自主调用工具，目标函数与约束设计就越关键；OpenAI模型为找答案入侵Hugging Face的案例说明，能力提升会把对齐问题从对话安全推向真实执行环境。