llama.cpp 与 ggml 同步迈入 1.0.0,明确 API 兼容性规则
摘要
11 月 13 日,开发者 Georgi Gerganov 宣布开源推理项目 llama.cpp 及底层引擎 ggml 的库版本升级至 1.0.0,最大变化是确立主版本号标记 API/ABI 不兼容变更的规则,帮助依赖方识别升级边界。该项目支持超 150 种模型架构,可断网本地运行大模型。
11 月 13 日,开源 AI 推理项目 llama.cpp 的创建者 Georgi Gerganov 在其 X 账号上宣布,llama.cpp 与底层机器学习引擎 ggml 的库版本正式进入 1.0.0。Gerganov 同时是 whisper.cpp 等本地 AI 基础软件的开发者,其公开资料显示他任职于 Hugging Face。
llama.cpp 以 C/C++ 编写,核心目标是让大语言模型在个人电脑、服务器等不同硬件上运行,既支持本地部署,也可用于云端服务,意在降低部署复杂度并充分调用设备算力。据原文信息,该项目可支持超过 150 种模型架构,断网环境下也能运行大模型。
此次 1.0.0 更新的重点并非新增模型支持,而是为两个库确立接口兼容性规则。llama.cpp 的 libllama 与 ggml 的 libggml 今后都将通过主版本号升级来明确标记 API 或 ABI 不兼容的变化,使依赖这些库的应用能够识别升级边界。
按照官方给出的版本规则,MAJOR 位(如 1.x.x 升至 2.0.0)用于标记不兼容变更。对开发者而言,这意味着可以仅凭版本号判断某次升级是否可能要求自身应用同步修改,从而降低盲目跟进版本带来的适配风险。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗