大模型竞争的重心正从参数规模竞赛回归工程落地。

过去两年，参数量、榜单、上下文长度的突破足以让行业和媒体兴奋。但现在的问题更朴素：一块卡跑新模型要改多少代码？千卡集群的利用率能不能过50%？一个VLA模型从拿到权重到在机器人胸腔里跑起来，要几个人干几天？

在近日举办的2026人工智能开放计算大会暨众智FlagOS技术大会上，众智FlagOS 2.2对业界关注的现实问题提出了一套系统级的解法。

FlagOS 2.2是一层系统软件抽象：向上支撑模型，如VLA、世界模型、长上下文LLM、语音前处理、视觉；向下兼容多元芯片，包括Nvidia、ARM、RISC-V、NPU、GPGPU、DSA、端侧CPU等。中间则解决三件工程实事：算子可移植、通信可收敛、部署可计量。简而言之，它试图让已投入的不同架构硬件平台持续承接前沿模型。

在大会现场，FlagOS 2.2亮出了一组关键数字：9大算子库合计1454个算子，FlagTree单仓库覆盖20个厂商芯片后端，跨10款芯片、上千算子的整体性能提升27.6%，新模型Day0适配12款芯片，社区成员107家，季度下载量46万次、是上季度的4.76倍。

但对于企业而言，判断国产AI基础设施是否成熟，不能只看“支持多少款芯片”的清单长度，更关键的是新模型发布当天，能不能在既有集群上不改架构、只改配置就跑出可交付的吞吐。

在大会上，来自中国电信、软通动力、辉羲智能、奕行智能、澎峰科技的行业合作伙伴代表分享了FlagOS在各自业务场景中的价值，不同领域生态合作伙伴代表现身说法，生动而具象地描绘了一幅FlagOS广泛赋能产业落地的现实图景。

 

一、中国电信：FlagOS算子替换，把昇腾mHC训练损耗从25%压到12%

中国电信于9月17日开源发布星辰大模型Xing4.0-29B-A4B，总参数29B、激活参数4B，全流程在国产昇腾910C集群上完成训练。在发布当天，该模型就完成了10款国产芯片的精度对齐与部署验证。

全国产栈从零训模型，难点不在跑通，而在稳定。Xing4.0命门是mHC多通道残差算子，DeepSeek用它解决深层模型训练稳定性的方案虽好，但N卡官方算子自身就承担约10%的降速，昇腾初版直接掉50%，团队自研长期卡在25%。千卡集群里这15个点的差距，就是真金白银的算力空转。

中国电信和FlagOS团队合作，把FlagGems的专项优化算子注册进MindSpore+CANN+昇腾NPU训练链路，替换原生实现。mHC、TopK等关键算子完成全链路调试后，集群降速从25%压到了12%，逼近N卡水平。值得一提的是，这块适配已开源合入MindFormers。

算子库接进去之后，涟漪开始扩散。Agent场景平均prompt 70K、最大200K，首token时延原本高得难受，基于FlagOS重写12个长序列算子后，首token时延降19.87%、解码速度提升两成以上。热线语音前处理链路长、时延敏感，Spectrum类算子聚合重写，在华为、摩尔、天数三款芯片上提速10倍。

全国产栈的临界点从来不是“ResNet能跑”，而是万亿参数训练里把稳定性损耗压进业务容忍带。在这个案例中，FlagOS提供了算子级的可移植能力，模型方从此不必为每个芯片fork一份训练代码。

 

二、软通动力：用FlagOS重排训推链路，不换卡把单token时延压进API准入线

软通动力的角色是中间层集成商，天元智算混合云服务平台的账单按token结算，问题也出在token上：GLM-5.2在四台昇腾910C上跑，先写后读的Prefill和读多写少的Decode互相抢显存，单token生成时间卡在17.79ms，而模型方公布的API准入标准是16.13ms。自建集群的成本反而不如直接调云，一度让词元工厂的商业模式陷入尴尬。

接入FlagOS后，天元平台把算子、编译、通信能力全部放进训推链路，启用PD分离，Prefill和Decode各占两台服务器，再做服务端与客户端双侧优化。结果是p50 ITL双向降14.53%，单token生成时间从17.79ms压到15.20ms，首次低于API准入线；长尾的p99从83.82ms降到66.35ms。

软通动力相关负责人透露，北京壹号词元工厂与粤港澳大湾区节点相继投产，甚至把这套度量开源成“词元工厂性能基准”，第一次让智能体长时运行特征有了统一标尺。

这件事的意义在于，收益不是换硬件换来的，而是把异构资源重新调度并给出可复现的计量口径。过去国产卡的TCO是笔糊涂账，同型号910B两年后该定什么价，没人说得清；现在token成本能被标定，存量算力的重新定价才成为可能。这恰恰是基础设施该干的事，它不性感，但每一笔账单都记着它的账。

 

三、澎峰科技：FlagOS支撑“汇编+编译器”双路径，64K上下文算子提速6—7倍、端到端提升15%

澎峰（北京）科技有限公司聚焦的场景切是“数据不出域”的工业腹地：电力、运营商、生命科学等，全是敏感数据。得益于FlagOS，澎峰能够采用两条腿走路的策略主攻海光博文1000系列：关键路径上的算子用手写汇编硬啃，group gemm、MoE融合这些非优化不可的局部，一字一字抠；非热点算子则交给FlagScale编译器的Triton-TLE扩展快速覆盖，绝不恋战。

这个分工的逻辑很清醒：模型生命周期越来越短，半年一换是常态，开发速度本身正在变成性能的一部分，一个季度才调完一个算子等于白调。手写汇编负责峰值，编译器负责广度，边界由 profiler说了算。

引入FlagOS的结果，64K上下文局部算子获得6–7倍提升，端到端提升15%，DeepSeek V4 flash在AMD卡上再获一倍提升。此外交付形态也从AIPC单盒、工作站一路铺到服务器集群，覆盖从几个人用到全公司并发。

 

四、奕行智能：FlagOS让Agent给RISC-V写算子，实现一次编写、多芯片多代际硬件复用

奕行智能在让Agent给RISC-V写算子。奕行的Epoch系列是云端AI芯片，自研VISA虚拟指令集，走的是类TPU的Tile架构路线。芯片公司做软件栈最缺的不是人手，是经验沉淀。新模型一发布，缺的算子从零写起，软件栈永远追不上模型迭代，但FlagOS让这个过程变得简单。

 

 

据了解，与FlagOS的衔接上，奕行智能以flagtree-evas为编译主线：FlagTree将Triton kernel经TTIR→Linalg→EvoFC→VISA/EVCC生成设备ELF，FlagGems注册EVAS后端，FlagScale/vLLM-Plugin-FL插件接入EVAS Runtime，FlagCX适配集合通信，最终落到Epoch RISC-V芯片，实现算子一次编写、跨芯片代际复用。

目前在编译单测、算子板测层面已经跑通，单卡整网测试和多卡联调还在推进。产业侧，奕行联合中能智算落地的全球首套全栈RISC-V超节点Token工厂已经亮了相，从芯片、CPU、交换网络到超节点全部国产栈。

在这一路径中，软件栈研发正从“人写算子”转向“人审Agent写的算子”，FlagOS的角色不是代写全部算子的自动机，而是一条可校验的编译真理源，让“人审Agent的产出”这一新工种，有一个可以落地的参照系。

 

五、辉羲智能：FlagOS打通端侧编译链路，VLA模型适配从两周缩到两天

辉羲智能做机器人端侧大算力芯片，具身智能是整个行业里适配压力最大的场景：模型侧压根没收敛，VLM到VLA再到世界模型，算子结构持续漂移；硬件侧功耗、散热、内存带宽三重封顶。然而，辉羲把FlagTree的编译器后端直接挂上了光R1芯片，成为首款进入FlagOS社区的端侧大算力推理芯片。

辉羲智能的实践方法：Triton接入、自研DSL、RPU-C语言、硬件汇编，整条编译链路打通；RhinoForge让 PyTorch直通，ONNX进可执行二进制出；ModelZoo不再是一个模型列表，而是把权重、适配代码、编译环境、调优结果打包成可复现的工程产物。

结果是喜人的，从拿到VLA模型到在机器人胸腔计算单元上推理，周期从两周压到两天，改一行device后端即可。

曾有用户表示，端侧编译的目标从来不是峰值TOPS，而是弱经验依赖，让一个只懂机器人控制、不懂指令集的算法工程师，也能把新模型推到板子上。这句话很朴素，但从这个案例来看，FlagOS的确在在助推端侧生态跨过门槛，让“国产算力能用”变成“国产算力好用”。

 

六、结语

模型层会继续同质化，芯片层会继续碎片化。业界有Triton的优雅，有vLLM的敏捷，也有TVM的野心，但没有人把它们焊在一起，还向20家芯片厂同时开放。但FlagOS社区和生态合作伙伴们，已经把这件事落地到产业中。

FlagOS才刚刚开始。多元算力的故事，将从“谁的卡算力更强”转向“谁的卡能在同一个软件栈里安静地跑满利用率”。前者是一时的发布会，后者才是一辈子的基础设施。

 

关于众智FlagOS社区

为解决不同 AI 芯片大规模落地应用，北京智源研究院联合众多科研机构、芯片企业、系统厂商、算法和软件相关单位等国内外机构共同发起并创立了众智 FlagOS 社区，目前已经有 100多家成员单位。

FlagOS 是一款专为异构 AI 芯片打造的开源、跨芯系统软件栈，支持 AI 模型一次开发即可无缝移植至各类硬件平台，大幅降低迁移与适配成本。它包括大型算子库、跨芯AI 编译器、并行训推框架、跨芯通信库等核心开源项目，致力于构建「模型-系统-芯片」三层贯通的开放技术生态，通过"一次开发跨芯迁移"释放硬件计算潜力，打破不同芯片软件栈之间生态隔离。

 

官网：https://flagos.io

GitHub 项目地址：https://github.com/flagos-ai

GitCode 项目地址：https://gitcode.com/flagos-ai

SkillHub: https://skillhub.flagos.io