AI@NEWS
Fable 5.1缓存降价改变压缩策略
缓存有效时减少手动压缩可能更省钱,但缓存失效后压缩成本会明显上升。
推荐理由:
缓存降价使保留完整上下文可能比频繁压缩更便宜,但一小时缓存失效会反转成本结构,实际策略需结合会话长度动态选择。
阅读原文