快讯 22:26李在明视察蔚山在建数据中心,强调AI竞赛速度决定成败08:00Together AI 披露提示词泄露事件:编码 agent 误传凭证致样本外泄08:00Qwen4 Max登陆Together AI,1M上下文加持整仓bug修复 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

论文 11-14 · 星期六 · 11-14 08:14 约 1 分钟读完

llama.cpp 与 ggml 同步迈入 1.0.0,明确 API 兼容性规则

摘要

11 月 13 日,开发者 Georgi Gerganov 宣布开源推理项目 llama.cpp 及底层引擎 ggml 的库版本升级至 1.0.0,最大变化是确立主版本号标记 API/ABI 不兼容变更的规则,帮助依赖方识别升级边界。该项目支持超 150 种模型架构,可断网本地运行大模型。

llama.cpp 与 ggml 同步迈入 1.0.0,明确 API 兼容性规则
图片来源:IT之家

11 月 13 日,开源 AI 推理项目 llama.cpp 的创建者 Georgi Gerganov 在其 X 账号上宣布,llama.cpp 与底层机器学习引擎 ggml 的库版本正式进入 1.0.0。Gerganov 同时是 whisper.cpp 等本地 AI 基础软件的开发者,其公开资料显示他任职于 Hugging Face。

llama.cpp 以 C/C++ 编写,核心目标是让大语言模型在个人电脑、服务器等不同硬件上运行,既支持本地部署,也可用于云端服务,意在降低部署复杂度并充分调用设备算力。据原文信息,该项目可支持超过 150 种模型架构,断网环境下也能运行大模型。

此次 1.0.0 更新的重点并非新增模型支持,而是为两个库确立接口兼容性规则。llama.cpp 的 libllama 与 ggml 的 libggml 今后都将通过主版本号升级来明确标记 API 或 ABI 不兼容的变化,使依赖这些库的应用能够识别升级边界。

按照官方给出的版本规则,MAJOR 位(如 1.x.x 升至 2.0.0)用于标记不兼容变更。对开发者而言,这意味着可以仅凭版本号判断某次升级是否可能要求自身应用同步修改,从而降低盲目跟进版本带来的适配风险。

llama.cppggml开源推理版本发布
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
27
模型产品档案
60
企业落地案例
33
完整版提示词