调研窗口:2026-10-28 06:00 ~ 2026-10-29 06:00(北京时间,24 小时;周四晨报,窗口自上一期日报截点接续)。

信源:GitHub(org: flagos-ai 61 仓库全量核查、提交检索 99 笔、合并 PR 67 笔与在审 PR 288 笔检索、org 事件流 100 条、31 仓 Release/Tag 原子核查、7 仓原子补核、关键 PR 正文与产物规模核查)、Google News RSS(24 组中英文查询词,走代理)、HN Algolia(8 组)、CSDN FlagOS 专栏、智源社区、八家成员单位官网(详见附录信源清单)。


本期索引

  • 今日重点:地平线 BPU 接成 eager 算子后端;FlagCX 打出 v0.14.1 标签并补齐三家 rpm 后端;摩尔线程开源 Megatron-MUSA-Titan(10-28)
  • 一、开源项目进展(GitHub 动态)
    • 1.1 组织节奏:23 仓推送、99 笔提交、67 笔合入,在审回落至 288 笔(10-28 ~ 10-29)
    • 1.2 版本面:FlagCX 打出 v0.14.1,设备位码改为按适配器生成(10-28)
    • 1.3 FlagGems:昆仑芯标量链融合提速十倍,燧原参考实现批量修复在审(10-28)
    • 1.4 FlagGems-sglang:AMD gfx1100 补 Mamba 算子,燧原 core_shapes 真正生效(10-28)
    • 1.5 编译器:FlagPrism 接入燧原,昇腾 TensorView 取存降低,FlagMega 提速 RDNA 解码(10-28)
    • 1.6 推理与训练栈:燧原 Qwen3.5 FP8 上 GCU,融合全归约 RMSNorm 进 FlagGems-vllm(10-28)
    • 1.7 构建与发布:changelog 上站与 Harbor,撤回两笔从未推送的寒武纪镜像(10-28)
    • 1.8 规则面:FEP-0140 转 Implementable,FEP-0141 收窄到 SGLang 0.5.18(10-28)
    • 1.9 其余仓库:optest 接入燧原 CI,FlagTensor 昇腾常驻网格,FlagQuantum 置位一致性(10-28)
  • 二、新闻报道与生态
    • 2.1 报道面:摩尔线程开源 Megatron-MUSA-Titan,24 组查询仅此一条有效(10-28)
    • 2.2 渠道与官网:CSDN 仍停 10-22,HN 与智源社区无新命中(10-28)
  • 三、成员单位与后端厂商深挖
    • 3.1 地平线:BPU 首次成为可逐算子执行的 PrivateUse1 后端(10-28)
    • 3.2 昆仑芯:标量链融合与连续段内核,P800 上的三处提速(10-28)
    • 3.3 天数:卷积走工况档位表,conv3d 去掉通道补零(10-28)
    • 3.4 燧原:Qwen3.5 FP8 上 GCU、core_shapes 落账、FlagPrism 首次接入(10-28)
    • 3.5 达摩院玄铁:PPU 上的 MiniMax 稀疏注意力,几何均值 1.8 倍(10-28)
    • 3.6 清微、曦望、海光:FlagCX 的 rpm 打包补齐三家后端(10-28)
    • 3.7 摩尔线程:Megatron-MUSA-Titan 开源与三季度报告同日(10-28)
  • 四、总结与趋势观察
  • 附录:信源核查表与完整信源清单

今日重点:地平线 BPU 接成 eager 算子后端;FlagCX 打出 v0.14.1 标签并补齐三家 rpm 后端;摩尔线程开源 Megatron-MUSA-Titan(10-28)

日期:2026-10-28 来源:Torch-FL PR #674 · FlagCX tag v0.14.1 · FlagCX PR #673 · IT之家报道 · Megatron-MUSA-Titan 仓库(全量见附录)

  • 新后端面:Torch-FL 合入地平线 BPU 的逐算子执行层(#674,31 文件加 5698 行减 145 行)。此前 BPU 在 PrivateUse1 上不注册任何计算算子——hbDNNInferV2 只接受整张已编译图,于是每个 aten 调用都落到 cpu_fallback,backends_bpu.conf 是空的。本笔补上缺失的中间层:板上之外的 x86 侧用 hbdk4 编出单算子 .hbm 产物库、生成提交这些产物的 C++ 内核、再加一条 drobotics conf 路由。覆盖 40 个逐元素算子(32 个一元、8 个二元)、11 个形状分桶,RDK S600 上 440 个产物逐一对 NumPy 比对零差异。
  • 版本面:FlagCX 在 10-28 17:25 打出 v0.14.1 标签(commit 7ed4a82,标题为「按适配器生成设备位码,不再硬编码英伟达」,即 10-18 合入的 #668)。该标签只有 git tag、没有 GitHub Release 正文,前一版 v0.14.0 的正式 Release 停在 9-28。同一档案还可见 v0.15.0.dev0 标签(早于本窗口)。同窗口为 0.14.0-rc2 线开花式补丁(#683,在审)。
  • 打包面:FlagCX 的 rpm 线从三个后端扩到六个(#673,10 文件加 295 行减 8 行)。新增的 libflagcx-tsm(清微)、libflagcx-sunrise(曦望)、libflagcx-du(海光 DCU)三家都不需要厂商基础镜像——SDK 解包到 /opt 或 /usr/local、不调用包管理器,因此 openEuler 镜像加文件仓就是完整构建环境;厂商 soname 按昇腾已有口径统一过滤。
  • 新闻面:摩尔线程 10-28 宣布开源大模型训练基础设施 Megatron-MUSA-Titan,聚焦万卡级集群的万亿参数 MoE 训练,覆盖预训练与强化学习;已在其万卡集群的预训练中持续使用,支持 blockwise FP8、结合 DeepEP 与 ACE 异步通信做专家并行与计算重叠,可与 slime、miles 强化学习框架协同。仓库 MooreThreads/Megatron-MUSA-Titan 在 GitHub 上存在,但本窗口内无推送(最后推送 10-16),属「宣布开源、代码未动」的状态。
  • 判断:三条线各自推进一层——把新芯片接进 eager 路径(BPU)、把通信库的交付面从源码树推向标签与发行包(FlagCX)、把训练栈的开源叙事从 FlagOS 扩到成员单位自研项目(Megatron-MUSA-Titan)。与本栈直接相关的是前两条;第三条要观察其代码是否回流为 FlagOS 可复用的训练组件。

一、开源项目进展(GitHub 动态)

1.1 组织节奏:23 仓推送、99 笔提交、67 笔合入,在审回落至 288 笔(10-28 ~ 10-29)

日期:2026-10-28 ~ 2026-10-29 来源:flagos-ai 组织仓库 · 提交检索 · 合并 PR 检索 · 在审 PR 检索

  • 仓库面:61 仓中 23 仓窗口内有推送,为近两周最多(上一期 20 仓)。按推送时间从近到远为 docs、Trident、FlagQAI、Torch-FL、build-infra、FlagGems、FlagCX、FlagTree、release-info、FlagFFT、FlagGems-sglang、FlagQuantum、optest、FlagDNN、vllm-plugin-FL、FlagTrain、community、FlagGems-vllm、FlagAttention、sglang-plugin-FL、TransformerEngine-FL、FlagTensor、FlagGems-Experimental。
  • 提交面:提交检索命中 99 笔,按仓为 FlagQuantum 33、FlagGems-sglang 17、FlagGems 10、build-infra 6、optest 5、FlagGems-vllm 5、Torch-FL 4、FlagTree 4、FlagCX 3、community 3、FlagTensor 3、FlagDNN 2,sglang-plugin-FL、vllm-plugin-FL、FlagTrain、FlagAttention 各 1。
  • 合入面:合并 PR 67 笔,分仓为 FlagGems 13、FlagGems-sglang 8、FlagTree 7、build-infra 6、FlagQuantum 6、optest 5、FlagGems-vllm 5、Torch-FL 4、FlagCX 3、community 3、vllm-plugin-FL 2,FlagTrain、FlagAttention、sglang-plugin-FL、TransformerEngine-FL、FlagTensor 各 1。
  • 在审面:窗口内有更新的在审 PR 288 笔,新开 101 笔。FlagGems 181 笔(新开 53)、FlagTree 21 笔(新开 9)、FlagGems-vllm 20 笔(新开 9)、vllm-plugin-FL 12(4)、FlagCX 8(2)、FlagTrain 7(2)、Torch-FL 6(5)、sglang-plugin-FL 5(2)、Trident 3(3)、flir 3(1)、FlagAttention 3(1)、Megatron-LM-FL 3(0)、FlagGems-sglang 3(3)、TransformerEngine-FL 3(1),其余各仓 1 至 2 笔。
  • 节奏对比:与上一 24 小时窗口(20 仓、102 笔提交、98 笔合入、401 笔在审、269 笔新开)相比,推送仓增 3 个、提交基本持平、合入降 32%、在审降 28%、新开降 62%。上一期在审的激增来自 FlagGems-Experimental 一次性 135 笔批量提交,本期该仓无新增、也无合入,在审回落到常态区间。
  • 版本与事件面:31 仓 Release 与 Tag 原子核查,窗口内新增标签一个(FlagCX v0.14.1);build-infra 最新标签仍是 8 月 3 日的 v2.2.0。org 事件流 100 条:推送 51、建分支 32、删分支 9、PR 评审与评审评论 8,无 PR 开合事件——事件构成以分支活动为主,与 FlagGems 侧大量 fix/suiyuan-*、fix/blocked581-* 临时分支的建立与删除吻合。
  • 分支面:提交检索未覆盖的 7 个推送仓需原子补核。TransformerEngine-FL 经 commits.atom 核实有窗口内提交一笔(#150,10-28 16:33);FlagFFT 与 release-info 属非默认分支推送(FlagFFT 侧为 codex/musa-shortfall、codex/cuda-2d3d-opt);FlagGems-Experimental 的推送来自 dependabot 分支;docs、FlagQAI、Trident 三仓的推送均在特性分支上,默认分支无新提交。

1.2 版本面:FlagCX 打出 v0.14.1,设备位码改为按适配器生成(10-28)

日期:2026-10-28 来源:FlagCX tags · FlagCX v0.14.1 标签 · FlagCX PR #668 · FlagCX PR #683 · build-infra PR #1546

  • 标签事实:v0.14.1 于 10-28 17:25 打出,指向 commit 7ed4a82,提交标题为「按适配器生成设备位码,不再硬编码英伟达」(#668,10-18 合入)。检索 Releases API 对该标签返回 404,说明它只是 git 标签、未建 GitHub Release,因此没有发布说明正文;上一版 v0.14.0 的正式 Release 仍在 9-28,正文指向 FlagOS 2.2 发布清单。
  • 内容面:#668 把 setup.py 位码步骤里硬编码的 bindings/ir/nvidia 换成按适配器查表(BITCODE_MAKEFILES),每个适配器声明自己的 Makefile 与架构变量。此前任何非英伟达适配器都会抛 RuntimeError,或静默不出位码,FlagTree 的 iluvatar 后端只能复制 FlagCX 源码自行重编,无法消费 FlagCX 本应产出的位码。
  • 配套面:build-infra 由机器人记录 flagcx wheel 的发布(#1546),把 wheel 交付与标签、打包线连成一条;同窗口开的 #683 把昆仑芯的 cstddef 修复回摘到 0.14.0-rc2 线(在审),说明 0.14 系列仍在受支持窗口内。
  • 待观:v0.14.1 无 Release 正文,与 v0.14.0「正文指向发布清单」的做法不一致;若后续 2.3 周期按 v0.14.x 交付,建议补一份说明,避免下游只靠 tag 猜内容。

1.3 FlagGems:昆仑芯标量链融合提速十倍,燧原参考实现批量修复在审(10-28)

日期:2026-10-28 来源:FlagGems PR #7617 · FlagGems PR #7600 · FlagGems PR #7850 · FlagGems PR #7803 · FlagGems PR #7036 · FlagGems PR #7061 · FlagGems PR #7223

  • 融合内核:昆仑芯 XPU3 侧为八个出位标量链算子加后端特化(#7617,275 行)。同构 float 列表走一个融合内核:小形状单次发射、把所有指针作为内核参数带进去,大形状走流式分块;输出从一次分配加 unbind 得到,而非每张量一次分配器调用。八个算子的相对耗时从 0.083~0.126 提到 0.813~0.934,即约七到十倍。
  • 连续段内核:batch-norm 推理与 QKV 变换两个算子由「每 (n,c) 切片一个 program」改为「每 program 处理一段连续 BLOCK 元素、由平坦索引反推通道或打包行」(#7600)。聚合指标分别从 0.228 提到 1.357、从 0.260 提到 5.062;fp32 单精度那格仍低于 0.8,作者按聚合口径判定,并在正文里写明。
  • 向量化修复:masked_fill 的整数视图快路径因 arith.extsi 无向量形式整核停留在标量(fp16 0.34、fp32 0.50),改写为 x*(1-m)+V*m 的 f32 形式后 P800 上从 0.577 提到 0.829,masked_fill_、masked_fill_scalar 同步受益,594 个用例通过(#7850)。
  • 导入与执行器:昆仑芯后端在 master 最新提交上直接导入失败——_result_dtype 助手已随 #7561 从共享执行器移除,而后端仍在引用(#7803,90 行);修掉导入后,共享执行器又报 operand #0 does not dominate this use,本笔一并修。
  • 算子覆盖:KernelGen 补 _indices_copy(#7223,250 行,H20 验证),但性能只有 torch 的 0.21 倍——属补齐覆盖率的产物,短期不能当加速项看。lighting_indexer 的参考实现改为逐头累加,峰值内存从约 8.6 GiB 降下来,修掉 40 GiB 卡上的 OOM(#5852)。
  • 在审侧:本窗口新开 53 笔,多数是 lukatao 的燧原参考实现修复(#7890 至 #7908 连号),涉及 Kaiser/inplace ldexp、aminmax、special_round、LU、vander/slogdet、median/stacking/Lanczos、Adagrad、batch-norm ABI 等;另有 AMD 侧一行修复(#7908)——AMD 的厂商描述符把设备名设成 cuda 且未给 triton_extra_name,导致 pow、tanh、exp、rsqrt、erf、gelu 等全部走 __nv_* 被 AMD 后端拒绝。

1.4 FlagGems-sglang:AMD gfx1100 补 Mamba 算子,燧原 core_shapes 真正生效(10-28)

日期:2026-10-28 来源:FlagGems-sglang PR #231 · PR #232 · PR #229 · PR #233 · PR #237 · PR #236

  • AMD 侧:为 RDNA3 档补上 causal_conv1d_fn、chunk_state_varlen、bmm_chunk 三个 gfx1100 版本(#231,578 行),在 Radeon PRO W7900D 上调优并测试;三者只改发射参数、输出与通用内核逐位一致。时间片跟随最长序列而非固定 128 token×4 通道,dstate 128 以上改用更小的 tile 与 16 token 的 K 步。
  • 燧原侧:#229 加了 _enflame/core_shapes.yaml,但仓内没有任何代码加载它——init_user_config() 只有硬编码的 kunlunxin 分支(#232 的根因分析)。#232 把形状文件查找泛化为「由 vendor_name 推出 _<vendor>/core_shapes.yaml,存在则用、否则回退共享默认」,并顺带修掉 kunlunxin 路径被无条件设置、文件不存在就 FileNotFound 的潜伏问题。
  • 测试基建:候选注入在正确性测试与基准之间统一(#233,9 文件),独立基准会话此前不注册 --override、候选专用模式又调用不存在的注册表方法;get_override() 暴露实际候选,普通计时、预检与画像共用同一个解析器。另加逐用例的 dummy 候选调用校验(#237)与包级导入修复(#236,避免 sys.modules 冲突)。
  • 用例列举:silu 基准支持不带张量列举用例并精确回放(#234),--list-cases 分页到 238 笔合入的收尾。
  • 判断:这一仓本窗口 17 笔提交、8 笔合入,全部围绕「让厂商形状表与候选注入在多后端下说同一套话」,属测试口径收敛而非新算子。

1.5 编译器:FlagPrism 接入燧原,昇腾 TensorView 取存降低,FlagMega 提速 RDNA 解码(10-28)

日期:2026-10-28 来源:FlagTree PR #1239 · FlagTree PR #1426 · FlagTree PR #1439 · FlagTree PR #1456 · FlagTree PR #1454 · flir PR #86

  • 剖析与调试:FlagPrism 的调试器与剖析器扩到燧原后端(#1239,5 文件加 119 行减 31 行)。CMake 与 Python 侧把燧原加入支持列表并默认开启,保留显式关闭项与与 Proton 的互斥;运行时把带调试的内核发射改走 FlagPrism 网关,元数据捕获与隐藏的控制缓冲参数分开处理,普通执行仍走直发路径。
  • IR 与取存:昇腾后端接上 TensorView 访问路径(#1426,32 文件加 4901 行,合入 triton_v3.5.x 分支)。内核用三种显式构造器在基指针上建编码视图,再按索引整块取存;越界通道按 zero/nan/inf/-inf 补值或丢弃,后端在 CommonIR 到 HIVM 之间依据索引模式选择「按索引载荷 DMA」或「逐元素带补零搬运」。
  • AMD 解码:FlagMega 侧为 Qwen3-1.7B bf16 做 batch-1 解码优化(#1439,44 文件,合入 feature/flagmega 分支)。R9700(gfx1201)在上下文 1 时 154 tok/s、1K 时 150、4K 时 139、8K 时 125;W7900(gfx1100)分别为 167、162、149、136 tok/s,实测带宽 530~597 GB/s,达该卡实测流式上限的 82%~87%。
  • 正确性:AMD 后端的 CanonicalizePointers 不再断言,改为合并 arith.select 的 fat-pointer 属性(#1456);RLC 侧不再给布局变更不合法或不安全的 producer 重新打标(#1454)。
  • CI 与在审:FlagGems 的 CI 资产搬进 FlagTree(#1443、#1447);在审 9 笔新开,含清微后端同步到内部 Triton 3.6 开发线(#1459,27 文件加 2264 行,含逐发射精度 API 与 CoreIR 入口)、rpm 线改为消费已发布 wheel 构建昇腾包(#1461,首个无需厂商 SDK 与硬件的行)、英伟达 Hopper 上四项软件流水缺陷修复(#1460,cp.async 带驱逐策略在 ptxas 12.8~13.1 上会留下未定义地址描述符)、昇腾结构化置换与常驻循环性能(#1466)、P800 SDNN 的一维取模加载(#1465)、flir 的昇腾 split/join 与静态置换降低(#86)。

1.6 推理与训练栈:燧原 Qwen3.5 FP8 上 GCU,融合全归约 RMSNorm 进 FlagGems-vllm(10-28)

日期:2026-10-28 来源:vllm-plugin-FL PR #358 · PR #525 · FlagGems-vllm PR #773 · PR #1017 · TransformerEngine-FL PR #150

  • 燧原推理:GCU 后端加上 Qwen3.5 FP8 支持(#358,20 文件加 3367 行,基于 release/0.2)。引入 W8A8 块标定 FP8 推理,并围绕 GCU300/GCU400 的硬件限制重做内核补丁,使 FP8 MoE 模型在 eager 与整图两种模式下都能跑通。
  • 通信接线:vLLM 插件改为从已安装包取 FlagCX(#525,11 文件)。flagcx wheel 把 ctypes 门面装成 flagcx.api、libflagcx.so 放在包内 lib/,仅装 wheel 的环境没有源码树可供 FLAGCX_PATH 指向;本笔以 flagcx.api 为首选导入、FLAGCX_PATH 包装器作回退,调用点三处(flagcx.py、flagcx_connector.py、sunrise/patch.py)同步改。
  • 算子面:FlagGems-vllm 加融合全归约 RMSNorm(#773,6 文件加 3191 行):all-reduce + 残差相加 + RMSNorm,可选静态量化(FP8,SM100+ 支持 NVFP4),支持 TP2/TP4/TP8 的 FP16/BF16,附与 vLLM FlashInfer 实现的对比基准与 GLM-5.2 代表形状。ihc_pre 的 stage1 合并把 tl.atomic_add 换成按 split 槽位写(#1017)——原子加使结果依赖块到达顺序、重复发射不逐位一致,改后确定性恢复。
  • 依赖与回归:TransformerEngine-FL 把 3rdparty/ 三个子模块回滚到上游 v2.17 的验证基线(#150):#129 误把 cutlass 前推 240 个提交(涉及 4000+ 文件)、cudnn-frontend 从 v1.25.0 推到未发布快照、googletest 从 v1.14.0 推到 master 头。
  • 训练侧:FlagTrain 加 FlagOS 测试套件的 KMCompiler 配置(#37);在审七笔仍是各厂商 KMCompiler 算子(scaled_masked_softmax、fused_proj_rms 前后向、bias_swiglu、fast_gelu、moe_gemm、tanh_soft_clamp)。

1.7 构建与发布:changelog 上站与 Harbor,撤回两笔从未推送的寒武纪镜像(10-28)

日期:2026-10-28 来源:build-infra PR #1545 · PR #1547 · PR #1548 · PR #1549 · PR #1542 · PR #1543

  • 变更记录上站:每镜像的 changelog 现在既出现在站点页面末尾,也作为 Harbor 仓库描述对三层发布(#1545,455 文件加 19080 行)。此前 changelog 只写在仓内、没有消费者,站点页、仓内 readme 与 Harbor 描述都缺这一段,应用层连描述行都没有。区块按「重算而非随正文渲染」实现:页面正文各有生成器与节奏,随正文出的区块会被最后一行覆盖而丢掉中间写下的原因。空的待定条目与 upstream_prs 不发布;同窗口先把原因做成中英双语(#1542)。
  • 撤回不存在的镜像:Harbor 里没有 megatron_training0.18.2-cambricon-neuware4.7.2 与 megatron_rl0.18.2-cambricon-neuware4.7.2 两个仓库,但 0.18.2 的两张状态矩阵都记了 image_tag: 2.2.0-0.3.0(#1547,13 文件加 29 行减 496 行)。这个标签来自首次建矩阵的提交,不是记录步骤写下的,于是文档流水线为两个不存在的镜像发了启动页、readme 与 changelog,此后每次 pubdoc-app 都在这两个仓上 404(其余 107 个接受描述 PUT)。
  • 镜像没推成的根因:0.18.2 的 wheel 里 platform_register 没有 MLU 平台,torch_mlu 的 gpu_migration 把 CUDA 表面别名到 MLU 之后选中的是 PlatformCUDA,流水线并行组始终未初始化;MLU 注册(MLF #125,含 #188/#190/#191)只落在 release/0.2,v0.3.0、0.3.0-rc2 与 main 都没有该文件、也没有在途移植。处置是撤回主张而不是硬凑:两个后端去掉 image_tag、置 launch_docs: false,同时删掉这两份 changelog,使「changelog 文件集 == 已发布集合」重新成立(该集合共 151 份,只有这一块是从未交付的)。
  • 构建器补齐:amd-rocm7.2.4 运行时镜像基于 ubuntu 24.04,在其中构建的 FlagCX wheel 链接 GLIBC_2.38,被 wheel 线的 22.04 门禁拒绝(22.04-incompatible symbols: GLIBC_2.38、GLIBCXX_3.4.32、__isoc23_)。本笔给该行配自足的 22.04 构建器,glibc 下限回到 2.35:装 ROCm 7.2.4 的 jammy 套件(rccl/hip-dev 与 torch 所需的 hipsolver/hipfft/miopen-hip 头文件、graphics 仓的 amdgpu-core)、deadsnakes 的 Python 3.12、pin 住的 torch 2.11.0+rocm7.2(#1548,204 行)。
  • 门禁前移:应用层页面此前没有一致性校验——改一个 image_tag 或 changelog 原因后,页面与面向 Harbor 的 readme 一直停在旧内容(#1549,6 文件)。现在把 gen_descriptions.py --app-only --check 接到 .githooks/pre-commit 与 CI,命中状态矩阵、应用 changelog、应用页或应用 readme 时先重建 images.yaml 再比对。
  • 在审:重打包线的依赖解析改为直接读 PEP 503 简单索引(#1543)——原实现每个依赖起一个 pip index versions 子进程、JSON API 在阿里云镜像 404,0.28/0.32 的重打包要跑约两小时并白下一个 300MB 的 triton wheel。

1.8 规则面:FEP-0140 转 Implementable,FEP-0141 收窄到 SGLang 0.5.18(10-28)

日期:2026-10-28 来源:community PR #159 · PR #160 · PR #161 · 2.3 排期

  • FEP-0140:先补算子剖析的范围与验证计划(#159),再把状态从草案改为 Implementable、Owner 设为 @ceci3(吕梦思)(#160,仅改两个元数据字段)。提案仍受发布验收约束,跟踪 issue #151 保持开启。
  • FEP-0141:收窄到 SGLang 0.5.18、剩余的 Empty 集成与沐曦/清微的基础功能,Owner 设为 @yixiaodapeng(#161,加 33 行减 144 行)。详细平台进展留在 #152;保留可执行的回归、算子覆盖、性能与稳定性检查与 wheel 构建命令;删掉历史版本矩阵与重复部署说明。
  • 口径澄清:DeepSeek-V4-Flash/Pro 仍是初始 W8A8 候选;相对英伟达吞吐提升 10% 是优化目标,不是固定验收门槛。这些限定词被明确保留,避免后续把目标读成门槛。
  • 排期核对:community/release/2.3 目录下仍只有中英文排期表,没有 release 清单;2.2 目录有 rc0/rc1/rc2 与正式清单四份。按排期,11-13 为 FEP 合入截止、11-30 拉 rc0。

1.9 其余仓库:optest 接入燧原 CI,FlagTensor 昇腾常驻网格,FlagQuantum 置位一致性(10-28)

日期:2026-10-28 来源:optest PR #14 · optest PR #15 · FlagTensor PR #32 · FlagQuantum PR #945 · FlagQuantum PR #914 · FlagDNN 仓库

  • optest:五笔合入。燧原 S60 接进 FlagGems-vllm 与 FlagGems-sglang 的变体 CI,而算子清单只对 FlagGems 本体生效(#14);flagos-gpu-check 重做为单份文本摘要或单份可解析 JSON/YAML(#15,19 文件加 2947 行),新增 device、driver、runtime、runtime_version、device_count、memory_unit 等归一字段,文本标签固定为 Device:、Driver:、GPUs Usage:,并把运行时与主机驱动分开表述(#16 再把加速器元数据带进测试摘要)。
  • FlagTensor:昇腾侧的常驻网格逐元素内核与厂商相关调优合入(#32,24 文件加 1128 行减 139 行),随后把 Ascend 运行时助手折进 flagtensor.runtime(#33、#32 系列提交)。
  • FlagQuantum:六笔合入、33 笔提交,仍是全组织提交量第一。核心是把「分片后的 MPS 与不分片是否等价」做成可执行证据(#945):同一程序跑两臂——max_bond 64 加精确梯度(只变布局)与 max_bond 2 加近似梯度(布局与截断一起变),用两臂之差把两种贡献拆开;另有公开 Module 训练提速并补齐声明的 JAX 批量 VJP(#914)、非有限绑定角度拒答(#944)、pytest 9.2 造成的两套件恢复(#946)、状态与梯度一致性网格(#947)、失败归因到引入变更(#948)。
  • 其余:FlagDNN 两笔均为海光修正(GPU 名与性能);FlagAttention 合入达摩院玄铁 PPU 的 MiniMax 稀疏注意力(#111,6 文件加 4644 行);FlagCX 修 AMD 适配器的流守卫(#680)与昆仑芯平台 traits 的 cstddef(#682);FlagQAI 的 #1 仍在审;docs 两笔均为机器人(魔搭模型清单 #545、#567);Trident 三笔在审(昇腾 LLVM 适配 #7、用户自带 LLVM_ROOT #6、新旧 TVM FFI 头布局 #8)。

二、新闻报道与生态

2.1 报道面:摩尔线程开源 Megatron-MUSA-Titan,24 组查询仅此一条有效(10-28)

日期:2026-10-28 来源:IT之家报道 · 新浪科技转载 · Megatron-MUSA-Titan 仓库 · Google News RSS 检索

  • 事件:摩尔线程 10-28 宣布开源大模型训练基础设施项目 Megatron-MUSA-Titan,基于其全功能 GPU,面向万卡级集群的万亿参数 MoE 训练,覆盖预训练与强化学习两个场景,提供 MUSA 平台的训练适配与系统优化。
  • 技术点:已在万卡集群的万亿参数 MoE 预训练中持续使用,自述具备较高 MFU 与长稳训练;支持 blockwise FP8 训练;结合 DeepEP 与 ACE 异步通信引擎加速 MoE 的 Token 分发与结果合并,实现专家并行与计算重叠;可与 slime、miles 强化学习框架协同,用 Megatron 训练、SGLang 生成样本,串起预训练与强化学习。
  • 代码状态:仓库 MooreThreads/Megatron-MUSA-Titan 存在,README 自述面向万卡集群上的 1T+ 参数模型预训练与强化学习基础设施,最后推送为 10-16,本窗口无提交——属「宣布开源、代码未动」,与新闻稿的「开源」表述要在时间上分开看。
  • 候选面:二十四组中英文查询词窗口内返回 49 条候选,采纳 1 条(上条)。组件名查询(FlagOS、FlagGems、FlagScale、FlagTree、FlagPerf、FlagCX、KernelGen)中英文合计十二条继续全部零命中。
  • 剔除项:摩尔线程三季度业绩稿十余条(营收 15.5 亿元、同比增 1773.9%、单季扣非转正、拟发港股)属财报与行情内容,仅在 3.7 作成员单位背景提及;智源侧「源创计划」首期落地、AREX-2、SoulAgent 三条为模型与社区内容,与软件栈无直接关系;燧原相关的二十余条为股票行情、董事会决议与 ETF 稿;清微「产投 28 计划」周年稿与开源栈无关。

2.2 渠道与官网:CSDN 仍停 10-22,HN 与智源社区无新命中(10-28)

日期:2026-10-28 来源:CSDN FlagOS 专栏 · HN Algolia 检索 · 智源社区 · 摩尔线程新闻中心

  • CSDN:专栏页 51 条文章链接,最新可核日期仍为 10-22(开放计算大会分论坛回放与高校圆桌);此前三条高相关稿(GLM-5.3-Flash Day0 适配 9 款芯片、Qwen3.8-Flash-Next 首日适配 8 款芯片、LightX2V 接入 FlagOS)经逐页核时均为 8 月下旬,非窗口内容。
  • HN Algolia:八组查询在四天窗口内命中数为 FlagOS 5、BAAI 30、FlagGems 1,按标题与正文关键词严格匹配后直接命中 0 条。
  • 智源社区:搜索页与首页可访问,无 FlagOS 相关新稿;首页未出现本栈组件更新。
  • 成员官网:八家巡检中摩尔线程有窗口内新条目——10-28《一图读懂摩尔线程 2026 年第三季度报告》,属财报图解,未涉软件栈变动,按收录标准不入正文条目(背景见 3.7);沐曦、天数、寒武纪、燧原、清微五家列表无 10-28 至 10-29 新条目;海光页面为静态页,地平线抓取失败,以列表可见内容为准。
  • 判断:新闻侧连续第二个窗口只有一条实质条目,且该条来自成员单位的自研训练栈而非本栈组件;本期主体仍是代码与发布工程。

三、成员单位与后端厂商深挖

3.1 地平线:BPU 首次成为可逐算子执行的 PrivateUse1 后端(10-28)

日期:2026-10-28 来源:Torch-FL PR #674 · PR #676 · PR #678 · PR #673

  • 接入方式:BPU 的执行单位是 hbdk4 产出的 .hbm 产物,而 hbdk4 只能在 x86 上跑;板上既不能编译,也没有随仓交付的产物。此前的结论是「设计上不能 eager」,本笔把它拆成三层:板上之外编出单算子 .hbm 库、生成 C++ 内核提交这些产物、加 drobotics conf 路由。
  • 覆盖与验证:40 个逐元素算子、11 个形状分桶,RDK S600 上 440 个产物全部与 NumPy 比对零差异,flagos 张量上的 aten 调用确实落到 BPU。作者同时记录了两条否定结论:libhbtl.so 只是 CPU 参考实现(ldd 只见 libc/libstdc++/libm,hbtl::ucp::Add 的 cpu/wall 为 1.00),以及动态形状在 HBRT 4.7.5 上不可执行(加载器把该轴声明成 stride 0,任务校验要求不小于 64)。
  • 收尾三笔:#676 给 kDrobotics 补上 dispatcher.h 两处 switch,此前 BPU 构建的分发日志名一律打印 unknown、KernelSetOf 把 BPU 自己的内核库报成无归属;#678 修三处 copy 分支无条件 box 到 CUDA 的问题——默认 FlagGems 主导的英伟达与达摩院玄铁 PPU wheel 有意链接仅 CPU 的 pip torch,CUDA 拷贝内核的 DispatchStub 是空的,首次调用即 missing kernel for cuda。#673 修构建记录里厂商名与平台 id 不一致(hygon/dcu、mthreads/musa、enflame/gcu、nvidia/cuda),这是海光 DCU 车道上八条单测失败的根因。
  • 在审:#672 统一 soft-lowp 矩阵算子的 claim 粒度(按 conf 键声明、按家族解码),#677 让关键字参数的 FlagGems 调用走活跃后端,#680 按构建记录持有的厂商重定设备别名,#681 从 torch 前缀而非接口目标读取 libtorch_cuda 探针。
  • 判断:这是本窗口唯一一次「新平台从不可用变为可用」的接入,价值在打通路径而不是性能——40 个逐元素算子是起点,卷积等主干算子仍靠 torch.compile 整图路径。

3.2 昆仑芯:标量链融合与连续段内核,P800 上的三处提速(10-28)

日期:2026-10-28 来源:FlagGems PR #7617 · PR #7600 · PR #7850 · PR #7803 · FlagCX PR #682

  • 标量链:八个出位标量链算子的融合内核把相对耗时从 0.08~0.13 抬到 0.81~0.93(#7617)。收益主要来自主机侧:输出一次分配加 unbind,替代每张量一次分配器调用;小形状单次发射把所有指针当参数传进去。
  • 连续段:batch-norm 推理与 QKV 变换改连续段内核后,聚合指标 0.228→1.357 与 0.260→5.062(#7600)。原实现按 (n,c) 切片或二维 tile 组织,读写不连续;新实现每个 program 覆盖一段连续元素、由平坦索引反推通道或打包行。
  • 掩码填充:masked_fill 在 P800 上从 0.577 提到 0.829(#7850),做法是把整数掩码的符号扩展改成取 sitofp 后的 0/1 浮点乘法,使整个内核可向量化;精度上 m 恰为 0/1,结果逐位一致。
  • 可维护性:#7803 修掉昆仑芯后端在当前 master 上无法导入的问题(共享执行器移除了 _result_dtype 助手),并修共享执行器在 uni_sram 上的支配关系编译错误——不修则任何昆仑芯测试都起不来。
  • 通信侧:FlagCX 的昆仑芯平台 traits 把 cstddef 移到 __xpu__ 守卫之外(#682),此前从 comm_traits.h 解析时 size_t 尚未可见,公共设备 API 的宿主侧编译直接失败。

3.3 天数:卷积走工况档位表,conv3d 去掉通道补零(10-28)

日期:2026-10-28 来源:FlagGems PR #7036 · FlagGems PR #7061

  • conv_transpose2d:把通用实现的单一默认调度 (64,32,32,4) 加一个 3x3/stride2 特例,换成按数据类型、核大小、步长与输出通道数索引的七套硬件调优档位(BLOCK_NHW/CI/CO、num_warps、num_stages),并按输出是否放得进 L2 在两个内核变体间切换——直扫变体在 L2 内更快,相位专用变体在输出超出 L2 后更稳(#7036,加 1886 行)。
  • conv3d:天数侧 BLOCK_CI 已不小于 16,FlagTree 的 AABS 也会把被缩小的 tile 拉回 16x16x16 下限,因此通用路径把 weight_c 补到 16 的通道补零纯属每次调用的分配与拷贝开销,去掉后输出逐位一致;另补 BLOCK_NI_DO_HO_WO 为 32 与 64 两档小空间 tile,让小体积形状也能填满设备(#7061)。
  • 判断:两条都属长尾调优,方向一致——把「通用正确但慢」的路径换成本地化调度,同时把补零这类无收益开销删掉。

3.4 燧原:Qwen3.5 FP8 上 GCU、core_shapes 落账、FlagPrism 首次接入(10-28)

日期:2026-10-28 来源:vllm-plugin-FL PR #358 · FlagGems-sglang PR #232 · FlagTree PR #1239 · optest PR #14

  • 推理:GCU 后端加上 Qwen3.5 FP8 的 W8A8 块标定推理,并围绕 GCU300/GCU400 限制重做内核补丁,使 FP8 MoE 在 eager 与整图两种模式下都可用(#358,20 文件)。
  • 形状表:燧原的 core_shapes.yaml 加了一周没生效——仓内没有任何加载点,基准只认硬编码的 kunlunxin 分支(#229 加文件、#232 修加载)。修复把查找泛化到任意厂商,顺带修掉 kunlunxin 路径被无条件设置导致的 FileNotFoundError。
  • 工具链:FlagPrism 的剖析器与调试器扩到燧原并默认开启(#1239),带调试的内核发射改走网关,L2 捕获所需的编译器处理留在燧原后端内部;optest 把 S60 接进 FlagGems 两个变体的 CI(#14)。
  • 在审:vLLM 0.28 的 TXDA eager 后端升级(#642)、TransformerEngine 的燧原 profiler 与 runner(在审),以及 FlagGems 侧大批参考实现修复(见 1.3)。

3.5 达摩院玄铁:PPU 上的 MiniMax 稀疏注意力,几何均值 1.8 倍(10-28)

日期:2026-10-28 来源:FlagAttention PR #111 · FlagAttention 仓库

  • 内容:为达摩院玄铁 PPU 后端加 MiniMax 稀疏注意力(MSA)推理算子,覆盖索引打分、top-k 块选择与稀疏注意力本身,prefill 与 decode 两条路径都实现(6 文件加 4644 行)。
  • 能力:支持分页 KV 缓存、因果掩码与强制块选择;针对 810E 适配矩阵计算布局与内核发射;prefill 的索引打分按 KV 页并行,缓解 query 侧并行度不足;FP8 输入转 BF16 计算,未使用原生 FP8 矩阵乘。
  • 性能:以 SGLang 通用 Triton 实现为基线,810E 上 prefill 21/21 通过、几何均值 2.299 倍(最低 1.965、最高 5.434),decode 18/18 通过、几何均值 1.354 倍(1.289~1.485),合计 39/39、几何均值 1.800 倍。
  • 判断:这是 PPU 上第一条稀疏注意力路径,与同窗口 Torch-FL 的 BPU 接入形成对照——一边补主干算子的覆盖率,一边补新模型结构的特殊算子。

3.6 清微、曦望、海光:FlagCX 的 rpm 打包补齐三家后端(10-28)

日期:2026-10-28 来源:FlagCX PR #673 · FlagCX PR #681 · FlagTree PR #1459 · FlagDNN 仓库 · FlagAttention PR #117

  • 清微:libflagcx-tsm 进 rpm 线,SDK 是两个 makeself 安装器、解到 /usr/local/kuiper(#673);FlagTree 侧在审的 #1459 把清微后端同步到内部 Triton 3.6 开发线(27 文件,含逐发射精度 API、外部 CoreIR 入口与运行时适配器,并修 Tx81 代码生成与 DMA/RDMA/WDMA 的 CRT 缺陷)。
  • 曦望:libflagcx-sunrise 进 rpm 线,SDK 经 tangtk --toolkit 与 pccl 落到 /usr/local;此前曦望在 vllm-plugin-FL 侧有 0.28 适配在审。
  • 海光:libflagcx-du 进 rpm 线,DTK tarball 解到 /opt/dtk;FlagDNN 两笔修海光的 GPU 名与性能;FlagAttention 在审的 #117 为海光 BW3000(gfx936)加纯 Triton 的 GLA 实现,把门控累加和与循环状态扫描合到一条流水线,只对受支持的推理负载走特化路径。
  • 打包口径:三家都不需要厂商基础镜像,openEuler 镜像加文件仓即完整环境;厂商 soname 按昇腾已有做法统一过滤(这些 SDK 从不是 RPM,任何仓库都无法提供)。

3.7 摩尔线程:Megatron-MUSA-Titan 开源与三季度报告同日(10-28)

日期:2026-10-28 来源:IT之家报道 · Megatron-MUSA-Titan 仓库 · 摩尔线程新闻中心 · sglang-plugin-FL PR #158

  • 训练栈:Megatron-MUSA-Titan 面向万卡集群的万亿参数 MoE,覆盖预训练与强化学习;支持 blockwise FP8、DeepEP 与 ACE 异步通信、专家并行与计算重叠,可与 slime、miles 协同(Megatron 训练 + SGLang 采样)。这是成员单位自研的 Megatron 系训练栈,与本栈的 Megatron-LM-FL 同源不同支,尚无代码回流迹象(仓库最后推送 10-16)。
  • 财务背景:同日发布三季度报告,营收 15.5 亿元、同比增长 1773.9%,实现单季度扣非盈利,前三季度营收 32.89 亿元、归母净利润 3769.73 万元,并推进港股二次上市。财报不改变本栈的技术判断,但解释了其开源节奏的投入能力。
  • 推理侧:sglang-plugin-FL 在审的 #158 为 MUSA 加 MiniMax-M3 支持,#125 是 Qwen3.6 在 S5000 上的 Triton 与 YAML 调优;FlagGems-sglang 侧本窗口无 MUSA 变更。
  • 判断:摩尔线程近两周的动作集中在「训练 + 推理双栈自研开源」,与本栈的交集仍是算子与插件层(FlagGems、sglang-plugin-FL),而非训练框架层。

四、总结与趋势观察

  • 一条新路径打通:地平线 BPU 从「设计上不能 eager」变成可逐算子执行的 PrivateUse1 后端(40 个逐元素算子、440 个产物零差异),配套修了分发日志命名与 CUDA 拷贝内核守卫。这是本周期内最有结构意义的接入,但它只覆盖逐元素算子,主干仍靠整图编译。
  • 通信层进入标签与发行包阶段:FlagCX 打出 v0.14.1(按适配器生成设备位码),rpm 线从三个后端扩到六个,wheel 发布也被 build-infra 记账。需要注意该标签没有 Release 正文,与 v0.14.0 的做法不一致。
  • 发布工程在补课:changelog 上站与 Harbor、撤回两笔从未推送的寒武纪 megatron 镜像、应用页一致性检查进 pre-commit 与 CI、AMD 7.2.4 补 22.04 构建器。这些不产出新能力,但直接决定 2.3 的发布清单能否自证。
  • 在审结构变化:在审从 401 降到 288、新开从 269 降到 101,上一期 FlagGems-Experimental 的 135 笔批量提交既未合入也无新增。当前在审主体是 FlagGems 181 笔,其中 53 笔新开多为燧原参考实现修复——说明多后端验收的瓶颈在参考实现与测试口径,而不是算子供应。
  • 多分支需要区分口径:FlagGems 同时在 master 与 kernelgen-dev 上合入(#7905、#7934),FlagTree 的合入分散在 triton_v3.5.x 与 feature/flagmega 分支,FlagGems-Experimental 的默认分支是 infra-ci。按默认分支统计会低估实际工作量,按提交检索又会漏掉原子补核的仓。
  • 待观察三点:其一,v0.14.1 之后是否补 Release 说明并进入 2.3 清单;其二,BPU 路径是否从逐元素算子扩到卷积等主干算子;其三,Megatron-MUSA-Titan 的代码是否在窗口后真正开始推送,以及是否与 Megatron-LM-FL 形成复用。

信源核查表

信源 核查结果
GitHub 组织仓库 61 仓全量核查,23 仓窗口内推送(上一期 20 仓)
GitHub 提交检索 命中 99 笔;搜索索引对当日合入存在延迟,故与合入量并列呈现
GitHub 合并 PR 检索 67 笔,16 个仓库
GitHub 在审 PR 检索 288 笔(新开 101),FlagGems 181 笔占六成
Release / Tag 原子核查 31 仓;窗口内新增标签 1 个(FlagCX v0.14.1,无 Release 正文)
org 事件流 100 条:推送 51、建分支 32、删分支 9、PR 评审 8,无 PR 开合事件
版本排期 community/release/2.3 仍只有中英文排期表;build-infra 最新标签仍为 v2.2.0
Google News RSS 24 组查询,49 条候选,采纳 1 条(Megatron-MUSA-Titan)
HN Algolia 8 组查询,四天窗口内 0 条直接命中
CSDN FlagOS 专栏 最新可核文章停在 10-22,窗口内无新稿
智源社区 无窗口内新稿,首页无本栈相关更新
成员单位官网 8 家巡检;摩尔线程 10-28 一条三季度报告图解;地平线抓取失败;其余无更新

完整信源清单