AI@NEWS

研究称LLM存在根本安全缺陷

ICML论文称LLM因工作机制缺陷无法完全防住攻击。

推荐理由:论文把LLM安全问题从补丁工程上升到机制限制:若模型必须同时处理指令和数据,提示注入类攻击就难以彻底消除。

阅读原文