llama.cpp 1.0.0发布,API与ABI的非兼容变更明确
2026年11月17日 · 阅读 1 分钟
也发布于 English, Português (Brasil)
llama.cpp开发团队在2026年11月13日发布了首个主要版本1.0.0。llama.cpp是用于执行大规模语言模型推理的C/C++库,同时支持的张量库ggml也更新至1.0.0。未来在添加不兼容变更时,将通过更新主要版本进行说明。
llama.cpp是一个开源项目,适用于个人计算机及企业服务器,现已支持超过150种模型架构,包括派生版本。
该项目在GitHub的组织ggml-org中进行开发,ggml.ai团队于2026年2月宣布加入Hugging Face,并表示将继续在社区自主决定技术和设计的基础上进行维护和开发。
随着开发历时约三年半,llama.cpp的应用日益广泛。团队强调,在这种背景下,API的灵活性与稳定性并重显得尤为重要。
在1.0.0版本中,35个已弃用的函数被移除,涉及的应用需在迁移时进行代码审查。此外,推理服务器llama-server新增了用于语音合成的/v1/audio/speech端点,并引入了支持聊天分组和Markdown编辑器的Web UI功能。
团队还表示,将继续确保代码质量,理解实现细节,并投资于持续集成(CI)基础设施,以便在加速开发的同时进行代码验证。