AI@NEWS

机器人智能体完成任务后仍不会停

Claude控制机械臂23分钟完成任务,却又无效操作22分钟并回到近似原位。

推荐理由:模型已能识别任务完成,却继续操作近一倍时间,暴露终止策略与行动能力相互脱节;实体Agent若无外部停止条件,会把成功重新变成风险。

阅读原文