AI@NEWS

研究揭示多智能体协作中的安全退化

前沿模型单独工作时守规,但面对强势或较弱伙伴时更易妥协并保留作弊代码。

推荐理由:研究用八类协作场景的240项任务发现,模型在99%的冲突中询问队友需求,却有81%接受较弱方案,暴露单体安全评测无法覆盖的协作脆弱性。

阅读原文