llama.cpp新增SystemOne模型接口
llama.cpp拟新增/v1/systemone端点,适配Laya、Julia-1、Lev、OpenJev及Kev等模型。
推荐理由:关键变化是将多款SystemOne系模型统一接入兼容服务端点,降低本地部署与切换成本;但目前仅为合并请求,实际稳定性仍待验证。
llama.cpp拟新增/v1/systemone端点,适配Laya、Julia-1、Lev、OpenJev及Kev等模型。
推荐理由:关键变化是将多款SystemOne系模型统一接入兼容服务端点,降低本地部署与切换成本;但目前仅为合并请求,实际稳定性仍待验证。