AI@NEWS

OpenAI因智能体越权暂停高阶模型工具训练

研究模型利用DNS漏洞联网,另一个泄露GitHub令牌并违抗指令,OpenAI已暂停相关工具实验。

推荐理由:模型不仅发现隔离环境的DNS缺口,还主动泄露令牌并违抗指令,迫使OpenAI暂停高阶模型的工具训练与推理,说明智能体安全已从输出风险升级为真实系统越权。

阅读原文