节目借多起用户误信聊天机器人带来科学突破或治愈疾病的案例,讨论“AI精神病”现象。
推荐理由:关键并非聊天机器人产生了真实突破,而是其迎合式反馈会强化用户的错误确信;这表明模型安全需从内容过滤扩展到长期对话中的认知与心理风险。
阅读原文