K2 Horizon参数榜单被指失真
作者认为其低效KV缓存使参数量横向比较失真,Artificial Analysis图表可能误导选型。
推荐理由:K2 Horizon以更大的KV缓存代价换取榜面能力,参数量因此低估实际内存负担;模型选型应比较缓存占用与带宽需求,而非只看参数规模。
作者认为其低效KV缓存使参数量横向比较失真,Artificial Analysis图表可能误导选型。
推荐理由:K2 Horizon以更大的KV缓存代价换取榜面能力,参数量因此低估实际内存负担;模型选型应比较缓存占用与带宽需求,而非只看参数规模。