用户称关闭百万上下文后效果无明显下降,Token消耗速度则有所放缓。
推荐理由:个体体验表明日常编码未必需要百万上下文,关闭后可减少历史内容反复输入的成本;但没有任务规模、缓存命中和用量数据,尚不能量化收益。
阅读原文