2023 年，一个仅用 C/C++ 编写的开源项目横空出世，彻底打破了“只有大厂显卡集群才能跑大模型”的垄断。

它就是 llama.cpp。如今，它在 GitHub 上斩获了近 12 万 Star，从个人电脑、手机、开发板甚至浏览器，它成为了全球 Local AI 生态中最坚实的底层推理引擎。

就在今年 2 月，GGML/llama.cpp 创始团队正式加入 Hugging Face，这一重磅信号预示着：开源模型分发与跨硬件高效推理的协作链路，正在以前所未有的速度缩短。

短短两年时间里，llama.cpp 是如何从一个轻量化推理项目，成长为全球认可度最高、生态最庞大的本地大模型推理底座。一路飞速崛起的底层逻辑、核心优势与生态密码，本场直播将为大家逐一拆解、深度揭秘。

FlagOS 社区在多芯适配领域拥有长期深厚积累，沉淀了大规模、高兼容的 Triton 算子库。我们将现场探讨一种全新的拓展思路：基于 FlagOS 成熟的 Triton 算子基建与多芯适配能力，打造独立后端对接 llama.cpp。

观看直播你将获得

• 吃透llama.cpp爆火的底层核心逻辑

• 独家起底 Hugging Face + llama.cpp 联合后的技术路线图

• llama.cpp 如何赋能本地 Agent 高效运行

• 前瞻解锁“FlagOS 与 llama.cpp”的全新生态玩法

嘉宾阵容：

Xuan-Son Nguyen（GitHub: ngxson）Hugging Face 软件工程师、llama.cpp 核心维护者 2023 年起深度参与 llama.cpp 社区开发，主导了多模态能力的重构，推动了 Gemma、Llama、GLM 等多模型系列的适配。同时也是知名浏览器端推理项目 wllama 的作者，兼具社区维护者、底层开发者和实际用户的三重视角。

直播时间：

2026年7月18日（周六）15:30 - 16:30

直播平台：智源 FlagOpen 视频号、FlagOS 智算系统软件栈CSDN-Devpress、FlagOS 官方 YouTube 频道

直播福利：直播期间参与抽奖，将有机会获得 FlagOS 独家定制周边！

避开入门废话，全是开发者刚需底层干货、避坑经验、前沿技术解读！

无论你是做端侧AI部署、硬件适配、大模型优化、本地智能体开发，本场直播都不容错过。