2026年11月13日,llama.cpp 项目团队宣布,llama.cpp 与 ggml 发布 v1.0.0,并表示今后将通过主版本号递增标识 API、ABI 不兼容变化。本次发布同时清理了弃用接口,接入这些接口的应用仍需检查迁移。

llama.cpp 用于以 C/C++ 在不同硬件上运行多模态大语言模型,ggml 是其底层机器学习引擎。对依赖这些库开发产品的团队而言,这项版本承诺的价值在于:升级是否涉及接口兼容性,可以获得更明确的版本信号。

团队公布的规则分为三类:./include 中公开 C API 的破坏性变更触发主版本更新(MAJOR);向后兼容的功能、后端更新、模型支持或 API 增补对应次版本更新(MINOR);不改变 API 的错误修复对应补丁版本更新(PATCH)。这里的 API 是程序调用库的接口,ABI 则涉及已编译程序与库之间的二进制兼容性。

这项承诺有明确范围。团队文章将版本规则落在 API、ABI 和公开 C API 上,不能据此推定所有命令行选项、网页界面或实验接口都获得同等兼容性保证。

此次升级本身就包含需要下游留意的接口变动。官方发布说明列出删除 llama_set_warmup、35个弃用函数、defrag_thold 和 --defrag-thold。NextN API 从 llama-ext.h 移入 llama.h,llama_set_embd_state_src 更名为 llama_set_ctx_state_src。依赖这些接口的应用,需要核对调用和构建情况。

版本管理也涉及底层依赖。项目发布流程文档规定,创建 llama.cpp 正式发布标签时,内置 ggml 副本须与已发布的 ggml 副本一致;维护者将其作为下游从发布标签构建、并链接系统 ggml 的兼容性条件。

功能方面,官方发布说明列出 FP8 KV 缓存,以及位于主机内存、可配置 CPU 分担比例的 MoE 专家缓存。服务端还列出针对 --cors-origins、DNS 重绑定、CORS 代理 SSRF 和子实例访问的安全修复。这些更新没有附带足以判断各类硬件实际收益的独立测试,不能直接换算为推理成本或维护成本下降。

对下游产品团队而言,更明确的兼容性信号有助于安排升级检查;实际能减少多少维护负担,还取决于后续版本是否持续执行这些规则,以及具体应用依赖了哪些接口。

参考来源: