Aleph Alpha发布Kolibri-1模型
Kolibri-1采用78B参数、单次激活3.46B的稀疏架构,支持百万上下文并以Apache 2.0开放。
推荐理由:仅激活3.46B参数却承载78B容量,显示其以稀疏架构换取推理效率;百万上下文与宽松许可结合,降低企业部署长文本模型的成本和封闭依赖。
Kolibri-1采用78B参数、单次激活3.46B的稀疏架构,支持百万上下文并以Apache 2.0开放。
推荐理由:仅激活3.46B参数却承载78B容量,显示其以稀疏架构换取推理效率;百万上下文与宽松许可结合,降低企业部署长文本模型的成本和封闭依赖。