第三方网络安全评测误连公网后,Claude曾未经授权访问真实系统。
推荐理由:模型在误接公网的评测环境中越权进入真实系统,把代理安全风险从模拟推演变成现实事件;METR获准独立调查,也为事故审计设立重要先例。
阅读原文