调研窗口:2026-11-11 07:00 ~ 2026-11-12 07:00(北京时间,24 小时;上一期截点为 11-11 07:00)。

信源:GitHub tile-ai 组织逐仓核查(30 仓库,窗口内推送 7 个,其中 2 个为文档站自动推送)+ 组织级合入与在审真值检索(窗口内合入 6 笔、在审更新 57 笔、新开 issue 35 条)+ 主分支逐笔提交核查(tilelang 3、TileOPs 0、tilelang-hygon 0、mlir-ascend 1)+ 非默认分支核查(hygon distributed、mlir-ascend master)+ 发布页核查(tilelang / TileOPs,窗口内无新版本)+ 第三方 RISC-V 线两仓(TileLang–Weft 与其基准仓)+ Google News 中英文查询 + Hacker News + arXiv。RISC-V 四源专项巡检 24 小时无变化。


本期索引

  • 今日重点:主线三笔合入全在昇腾,PTO 目标把 tvm_ffi 提为默认执行后端;海光分布式三件套合入 distributed 分支;昇腾前端一日被审出 30 条 issue

  • 一、核心项目进展
    • 1.1 昇腾:PTO 目标默认执行后端切到 tvm_ffi,整模块在设备构建阶段编译并缓存(11-11)
    • 1.2 昇腾:AutoSchedule 用三条必要条件收紧周期下界,Z3 求解时间降 10.04%(11-11)
    • 1.3 昇腾:整数原子操作适配 signless 载体,12 条 PTO 用例覆盖 32 位与 64 位(11-11)
    • 1.4 主线:窗口三笔合入全在昇腾,CUDA 与 CPU 侧尽在在审队列,版本仍停 v0.1.15(11-11)
    • 1.5 TIRx:ceildiv 与负 scale 的 split div/mod 两笔在审,与嵌套 floor division 报错同源(11-11)
  • 二、多后端适配
    • 2.1 海光:分布式三件套合入 distributed 分支,Block-Push 与 Block-Pull 两条通信路径(11-11)
    • 2.2 海光:ds_read_vector Alt2 与 LDS 布局推断开审(11-11)
    • 2.3 mlir-ascend:CI 收为 Ascend 950 AscendC 单一 PR 门禁(11-11)
    • 2.4 mlir-ascend:harness 知识库加固合入,tl.or 以新号重新提审(11-11)
    • 2.5 昇腾 AscendC 仓:Gated MLA 与 fla_chunk 三件套等十笔在审,合入仍为零(11-11)
    • 2.6 CUDA 与 Metal:SIMD-group 越界修复、256 位向量化、SM90 共享转置在审(11-11)
  • 二·五、RISC-V 后端与社区(专项观察)
    • 2.7 四源巡检:连续第五个窗口无变化,TVM 与 MLIR 两条线仍停在原引用(11-12)
    • 2.8 四源之外:TileLang–Weft 发布 weft-parity,553/553 落在 Triton 的 1.03 倍内(11-11)
  • 三、生态与采用方
    • 3.1 TileOPs:主线零提交,W4A16 两笔叠加把 chunked-prefill-tile 从 37.3 压到 31.6 微秒(11-11)
    • 3.2 TileOPs:DeepSeek-V3 prefill 的 FP8 grouped GEMM 把 A scale 改走 TMA(11-11)
    • 3.3 TileOPs:softmax 两 CTA cluster 达标,long-K NT GEMM 选择器改动未达标(11-11)
    • 3.4 TileOPs nightly:Perf Tracker wiki 当日 19:52 刷新(11-11)
  • 四、社区、教程与活动
    • 4.1 昇腾前端一轮系统性审计:一日 30 条 issue,26 条直指昇腾(11-11)
    • 4.2 在审修复与审计呼应:VMI mask 校验、SIMD fill 恢复、E4M3 ND/NZ 拷贝(11-11)
    • 4.3 新闻侧:中英文五组查询窗口内零命中,HN 与 arXiv 同样无相关条目(11-11)
    • 4.4 口径修正:K3 两项 Q1 对照的旧 Triton 产物在 -128 取负时溢出(11-11)
  • 五、趋势观察

今日重点

这个窗口组织内只有 6 笔合入,比上一期的 9 笔再降三分之一,但结构比数字更值得看:6 笔里 3 笔在主仓,且全部落在昇腾,没有一笔 CUDA 或 CPU。最大的一笔是 #3516(20 个文件,+1549/−182),把 tvm_ffi 提为 pto 目标的默认执行后端——此前 target="pto" 走的是 Cython 启动器,现在 execution_backend="auto" 直接解析到 tvm_ffi,共享 host codegen 生成 MakePackedAPI 与 C host,并由昇腾运行时用 aclrtLaunchKernelWithHostArgs 启动 PTODSL 编译出的 aibin,路径与 AscendC 内核一致。配套的是一处模块级工具链回调:整个 PTODSL 模块在 device build 步骤内一次编译完成(ptodsl → ptoas → bisheng fatobj-link → 抽取 .aicore_binary),结果按 ptoas 参数、ptoas 版本与 CANN 身份进缓存键。旧路径保留为 execution_backend="pto",两套产出逐位一致。

第二笔 #3776 是求解器侧的收紧。AutoSchedule 原本用一个固定的周期下界起二分,这次改成取三条必要条件的最大值:单任务界沿用各任务启动间隔的最大值;资源团界对成对冲突的任务按残余值排序,由相邻差与首尾差推出周期不小于各启动间隔之和;自依赖界由 S_u - S_u >= wait - d*P 反解出周期不小于 ceil(wait/d),版本相关距离再按 num_stages 折算。没有引入额外的下界探测,也没有改调度模型。实证在 Ascend 950PR、CANN 9.3.0 的周版本上:关闭编译缓存,一热三测交替,全部昇腾示例编译通过且调度结果不变,Z3 求解阶段累计耗时降 10.04%。

第三件事不在主仓。海光的分布式三件套 #36(6 个文件,+2022/−0)在 16:20 合入 distributed 分支而非 main,内容是 Block-Push 版本的 GEMM + AllReduce、Block-Push 版本的 GEMM + ReduceScatter、Block-Pull 版本的 AllGather + GEMM 三个计算通信融合算子,性能数据与实现说明写在 README。同一天 #37 开出 HCU 的 ds_read_vector Alt2 与 LDS 布局推断。这条线从 10-29 的 push-wave reduce-scatter 示例一路走到融合算子清单,是海光仓第一次成体系地做分布式。

第四件事是质量侧的一次集中爆发:窗口内 35 条新 issue 有 30 条落在主仓,其中 26 条直指昇腾。两个账号在下午到深夜之间各报了十余条,形态高度一致——不是「跑错了」,而是「本该报错却静默通过」:T.Kernel 接受零或负的 block 数、T.alloc_l1 接受 2 GiB 分配、T.Persistent 接受负的 wave 与 stage、T.unroll 接受 −1 并吐出 #pragma unroll -1、负张量维度直接把编译器打崩。另一组是语义错位:hf32 的 nearest_zero 编译成 NEAREST_AWAY、GEMM 输入 dtype 表与 codegen 双向不一致、reduce_bitand 一族吐出昇腾模板未定义的类型、同型 ND 转 NZ 散射因掩码计数不回退而陷入死循环。这批 issue 大多仍开放,但当日已有 VMI mask 校验、SIMD fill 恢复等对应修复在审。

来源:https://github.com/tile-ai/tilelang/pull/3516 、 https://github.com/tile-ai/tilelang/pull/3776 、 https://github.com/tile-ai/tilelang-hygon/pull/36 、 https://github.com/tile-ai/tilelang/issues/3920

一、核心项目进展

1.1 昇腾:PTO 目标默认执行后端切到 tvm_ffi,整模块在设备构建阶段编译并缓存(#3516)

#3516(20 个文件,+1549/−182)是本期最大的一笔。改动的实质是把 pto 目标从「专用 Cython 启动器」迁到「与 AscendC 同一条 host 路径」:target="pto" 配 execution_backend="auto" 时解析为 tvm_ffi,共享 host codegen 负责 MakePackedAPI 与 C host 构建,昇腾运行时模块用 aclrtLaunchKernelWithHostArgs 启动由 PTODSL 编出的 aibin。

设备构建侧新增一个模块级工具链回调,把整个 PTODSL 模块一次编译完成:ptodsl 前端产出、ptoas 下沉、bisheng 的 fatobj 链接、再到 .aicore_binary 抽取,产物按 aibin 缓存。缓存键把 ptoas 参数、ptoas 版本与 CANN 身份一并算进去——这一点很关键,此前这类键漏掉工具链版本时,跨 CANN 升级会命中旧产物。

验证面铺得很宽,新增四组测试:auto 解析到 tvm_ffi、被调方分配输出、动态形状与动态输出、多设备内核、动态共享内存、cube/vector 混合 GEMM、source accessor、导出库、host 侧循环启动与 host 侧 profiling 区间;另有等价性测试逐位比对 tvm_ffi 与旧 pto 在 vecadd、多内核与动态共享内存三种内核上的结果;两组缓存测试分别覆盖二进制缓存与内核缓存,其中缓存命中跳过工具链、损坏条目抛错、以及在全新进程里命中。旧路径按计划保留,待覆盖确认后再退役。

来源:https://github.com/tile-ai/tilelang/pull/3516

1.2 昇腾:AutoSchedule 用三条必要条件收紧周期下界,Z3 求解时间降 10.04%(#3776)

#3776(1 个文件,+20/−1)只改初值,不改算法:原来的二分从一个固定下界起步,现在先算三条必要条件再取最大值。单任务界保留各任务启动间隔的硬下界;资源团界针对成对资源冲突的团,把任务残余值升序排列后,由相邻差的约束与首尾差的约束相加得出周期不小于团内启动间隔之和,团本身用每个任务作种子贪心枚举;自依赖界由 S_u - S_u >= wait - d*P 反解,版本相关距离以 num_stages 为上界。

实证环境写得很具体:华为 Ascend 950PR、CANN 9.3.0 的 20261009.01 周版本,关编译缓存,每个配置一热三测交替。结果有两条:昇腾示例全部编译通过且调度结果与改前一致(说明只收紧了下界、没有改变解),Z3 求解阶段累计耗时下降 10.04%。二分上下界与求解状态处理均未改动,也没有引入额外的下界探测流程。

这类改动对上游的价值不在单点性能,而在于调度器的求解时间随算子规模增长时,二分起点的浪费会线性放大——把必要条件写进初值,等于给每次求解省掉一段无意义的区间。

来源:https://github.com/tile-ai/tilelang/pull/3776

1.3 昇腾:整数原子操作适配 signless 载体,12 条 PTO 用例覆盖 32 位与 64 位(#3794)

#3794(4 个文件,+52/−6)修的是 #3512 的后遗症。那笔改动把有符号整数类型从 signless 的 i32/i64 改成 si32/si64,而 PTO 的原子接口要求 signless 载体,于是 SIMT 内核里的整数 add/min/max 原子操作直接编译失败。

改法是在生成的 PTODSL 调用边界做局部适配:把指针与操作数按同宽重解释为 signless,保留指针的地址空间,返回值再还原成逻辑类型;min/max 保持原本的有符号或无符号比较语义。这样 #3512 引入的逻辑类型体系不被推翻,适配只压在原子这一层。

回归用例落在 testing/ascend/language/simtvf 下的 test_simtvf_atomics.py,覆盖 32 位与 64 位的 add/min/max、负数操作数、返回旧值、超过 32 位的值、以及高位为 1 的无符号初值;新增的 12 条 PTO 用例在昇腾上全过。同批合入的 #3792 修的是同一族问题的另一面:T.atomic_add/max/min 因有符号输入在 PTO 上编译失败。

来源:https://github.com/tile-ai/tilelang/pull/3794

1.4 主线:窗口三笔合入全在昇腾,CUDA 与 CPU 侧尽在在审队列,版本仍停 v0.1.15

把主仓窗口内的三笔合入按方向拆开看,结论很直接:#3516、#3776、#3794 全部落在昇腾,CUDA 与 CPU 侧零合入。上一期还有三笔 CUDA 指令级原语进主干,这一期一笔都没有——不是 CUDA 侧停了,而是全部堆在评审队列:#3809(SM90 共享转置降到 ldmatrix/stmatrix)、#3826(int16x16/uint16x16 的 256 位向量化)、#3723(SIMT im2col 提到 warp 特化之前)、#3923(流水 GEMM 操作数活到完成等待)、#3898(异步 GEMM 共享操作数生命周期)都在窗口内有更新但未合。

版本侧仍然挂起。主仓发布页最新仍是 09-30 的 v0.1.15,tag 序列未变;0.1.16 的版本号 PR 未在窗口内更新。TileOPs 发布页最新仍是 10-27 的 v0.1.0。也就是说,本期合入的 1549 行昇腾执行后端改动,最早也要等下一个 tag 才会进下游发行包。

来源:https://github.com/tile-ai/tilelang/releases 、 https://github.com/tile-ai/tilelang/pull/3809 、 https://github.com/tile-ai/tilelang/pull/3826

1.5 TIRx:ceildiv 与负 scale 的 split div/mod 两笔在审,与嵌套 floor division 报错同源(#93、#94)

tile-ai/tvm 侧窗口内有两笔在审:#94([Fix][TIRx] Make ceildiv exact for signed divisors)与 #93([Arith] Guard negative scales in canonical split div/mod)。两笔都在修同一类问题的两端——符号进入整除与取模后,规范化的改写前提不再成立,于是「精确」与「安全」需要分开处理:ceildiv 要求带符号除数时结果仍然精确,split div/mod 则要在负 scale 下拒绝规范化。

这与主仓当日新开的 #3937([BUG] 嵌套 floor division 在负乘数下产出错误整数)指向同一处:负系数一旦进入算术化简的改写链,边界条件很容易被漏掉。区别在于 #3937 是用户侧复现,#93/#94 是编译器侧先手加固。

来源:https://github.com/tile-ai/tvm/pull/94 、 https://github.com/tile-ai/tvm/pull/93 、 https://github.com/tile-ai/tilelang/issues/3937

二、多后端适配

2.1 海光:分布式三件套合入 distributed 分支,Block-Push 与 Block-Pull 两条通信路径(#36)

#36(6 个文件,+2022/−0)在上一期还是开启状态,本期 16:20 合入,落点是 distributed 分支而不是 main——该仓默认分支 main 的最新提交仍是 11-06,因此这笔改动不会出现在默认分支的提交列表里,只有按分支查才能看到。落点差异需要写明:main 与 v0.1.15-release 同引用,distributed 已单独走出 11-03 的 signal 原语、10-29 的 push-wave reduce-scatter 示例与本期的三件套。

内容三个算子:Block-Push 版本的 GEMM + AllReduce、Block-Push 版本的 GEMM + ReduceScatter、Block-Pull 版本的 AllGather + GEMM。Push 由计算侧主动把结果推给对端,Pull 由计算侧去拉对端的 allgather 结果,选哪条路径取决于通信域大小与重叠窗口,README 里给了性能对照与实现方式。验证侧在 11-06 已补 Torch 性能基线到 GEMM reduce-scatter 基准,本期未再改。

来源:https://github.com/tile-ai/tilelang-hygon/pull/36

2.2 海光:ds_read_vector Alt2 与 LDS 布局推断开审(#37)

同一天 11:21 开出 #37([HCU] Support ds_read_vector Alt2 and inferred LDS layouts),方向是把两种指令形态补齐:ds_read_vector 的第二种编码形态,以及可由约束推导出的 LDS 布局。这与 11-06 合入的 #34(用 DPP 与 lane swap 优化 reduction 的 XOR shuffle、并在自由候选之前先传播已知布局约束)是同一条布局推导线,区别在于 #34 处理 reduction 侧的通道交换,#37 处理向量读的编码与布局落地。

海光仓当前有 15 个分支,其中 feat/hcu-* 系列六条、distributed 一条,说明这家后端的工作面已经从单卡指令扩展到通信与布局两翼。

来源:https://github.com/tile-ai/tilelang-hygon/pull/37

2.3 mlir-ascend:CI 收为 Ascend 950 AscendC 单一 PR 门禁(#222)

#222(五个工作流文件,+7/−9)在 10:27 合入 master 分支。改法刻意做小:所有作业定义、条件与步骤一律不动,只改每个工作流文件的 on: 块——这是最不容易被并发编辑的区域,合并冲突面因此最小。

动机写得很直白:此前每个 PR 都会在整个上游矩阵上展开(自建 NVIDIA、AMD gfx942、macOS,以及一条先编 CANN 再跑两遍 examples/ascend 与 testing/ascend 的昇腾腿),而 master 上唯一在开发的后端就是 Ascend 950,其余腿基本是噪音,还在占用稀缺硬件;PTO 后端当期也没有人在推进。改完之后 PR 门禁只剩两项:清洁代码 lint,以及 Ascend 950 的 AscendC 一条线。

这条改动对下游的含义是:mlir-ascend 仓的准入基线从此只有一代硬件,旧代昇腾的回归将不再作为合并条件。

来源:https://github.com/tile-ai/tilelang-mlir-ascend/pull/222

2.4 mlir-ascend:harness 知识库加固合入,tl.or 以新号重新提审(#219、#225)

#219(10:03 合入)是 harness 分支的加固:执行与评估管线、分析/开发知识库、以及 search@2 依赖队列一并推进。这与 11-10 那笔 #217(知识条目留存与审批编号去重)是同一序列,说明该仓在把「探索过程中积累的知识可靠留存」当成一件正经工程在做,而不是散落在讨论里。

另有三个提案在窗口内进出:#223(为 tl.alloc 补 L0A/L0B/L0C/L1 四个地址空间,覆盖 FYP 所需 21 个函数里的 4 个)与 #224(tl.or 方言算子)均已关闭未合入,#225 以同一份内容重新提审并保持开启;#225 的实现路径是照 add/sub/mul 的模板补 TL_OrOp、verifyElementwiseBinary、ConvertBinary 到 hivm::VOrOp 的转换、以及 codegen 侧的分发,附带方言往返与 TL→HIVM 两组测试,本地 ctest 14/14 通过。#220、#221 是技能侧的两笔:Ascend950 仿真 trace 工作流(msprof 采集、MindStudio Insight 查看、npusim SQLite 导出)与算子设计指导(阶段分解、SIMD/SIMT 选择、存储预算、Cube MFU 与条件 Roofline 计算器)。

来源:https://github.com/tile-ai/tilelang-mlir-ascend/pull/219 、 https://github.com/tile-ai/tilelang-mlir-ascend/pull/225

2.5 昇腾 AscendC 仓:Gated MLA 与 fla_chunk 三件套等十笔在审,合入仍为零(11-11)

tilelang-ascend 仓本期继续「只进不出」:窗口内组织级 6 笔合入里没有一笔属于它,而在审队列又厚了一层,当日更新十笔以上。算子侧最显眼的是 #1970(为 PTO 与 AscendC 两条线补多头 Gated MLA 前向)、#1994 / #2004 / #1952(fla_chunk 的 inter、intra、intra_token_parallel 三件套)、#1605(Kimi Delta Attention 的解码与分块预填充前向,目标 910B)、#1989(升级 catlass 至 v2.2.0)。

示例与文档侧则在补算子基准:#1558(rms_norm,20 例 cann-bench 与性能优化)、#1748(NMS,20 例)、#1607(GroupNorm,20 例)、#1677(细化 sin/cos 文档串并补测试与 API 文档)、#1732(两条后端支持 in-place 的 T.tile.silu/sigmoid)、#2000(位运算的 PTO uint8 包装修复与 src1 校验)。

测试面当日有一条硬记录:#2003 的每日测试日报显示 11-11 07:58 一次运行 3060 项全过,通过率 100%。规模上到 3060 项、合入连续多窗口为零,瓶颈确实在评审而不在开发。

来源:https://github.com/tile-ai/tilelang-ascend/pull/1970 、 https://github.com/tile-ai/tilelang-ascend/issues/2003

2.6 CUDA 与 Metal:SIMD-group 越界修复、256 位向量化、SM90 共享转置在审(11-11)

非昇腾后端本期全在评审队列,但方向清楚。CUDA 侧三笔:#3809 把 8 位与 16 位的共享内存转置降到 ldmatrix/stmatrix(SM90 起可用),#3826 补 int16x16/uint16x16 以打通 256 位向量化,#3723 把 SIMT im2col 提到 warp 特化之前调度。运行时侧两笔:#3867 在内核与当前设备不一致时按输入所在设备启动,#3882 在每个实际启动的设备上抬高 cython 内核的动态共享内存上限。

Metal 侧 #3912 承的是上一期那处静默越界:把 8x8 的 simdgroup 矩阵拷到 8x1 输出时,编译器发射行步长 1 的完整存储,覆盖输出之后的七个元素。修法不是加运行时检查,而是在发射每条 SIMD-group 存储之前要求算术分析器证明完整足迹落在目的缓冲与请求区域内,证不出就在下沉期抛可读错误。同日另有 #3804 处理 2D simdgroup fill 的区域偏移。

来源:https://github.com/tile-ai/tilelang/pull/3809 、 https://github.com/tile-ai/tilelang/pull/3912 、 https://github.com/tile-ai/tilelang/pull/3826

二·五、RISC-V 后端与社区(专项观察)

2.7 四源巡检:连续第五个窗口无变化,TVM 与 MLIR 两条线仍停在原引用(11-12)

按既定四源逐一比对引用,24 小时窗口内全部无变化:

  • kubuds/tilelang-riscv-kubuds(TVM 后端路线)的两个 kubuds- 分支停在 kubuds-riscv-karen fc62939、kubuds-riscv-mahiru 33e0c89,main 仅为上游同步;
  • RuyiAI-Stack/tilelang-riscv(MLIR 改写路线,target="riscv")main 停在 57c548c;
  • TongmingLAIC/tilelang-riscv(社区索引页)main 停在 4499c2a,表内项目无增删;
  • TongmingLAIC/tilelang-tpu(算能 SOPHGO TPU)main 停在 303759f,feature/sg2260e-rv-support 停在 122bc59,其余 19 条分支引用同样不变。

这已是连续第五个窗口(11-07、11-09、11-10、11-11、11-12 留档)无变化。按既定口径,脚本输出为空记为「无变化」,不视为采集失败。

来源:GitHub 四源逐引用比对(窗口内无变化),无单条落点链接。

2.8 四源之外:TileLang–Weft 发布 weft-parity,553/553 落在 Triton 的 1.03 倍内(11-11)

上一期记录的那条 CPU 线,本期给出了结论性的一版。Tianchen-ai/tilelang-weft 与其基准仓同日各发一笔(08:51 与 08:52),把发布标签从 v0.1.15-weft.2 换成 weft-parity,并重写了结果表与结果手册。

新口径分两层。第一层是与 Triton 的配对对照:553 项全部有匹配的 Triton 原生对照,逐项满足「TileLang 原生耗时不超过对应 Triton 的 1.03 倍」,四平台分别是 SG2044 133/133、K1 137/137、K3 A100 136/136、x86 147/147,合计 553/553。候选与对照用同一批输入交替测量,候选就是通过源码 JIT 数值检查后导出的同一份原生库。第二层是对外部参考库的倍率:543 例有匹配参考,其中 468 例快于参考,平台中位倍率为 SG2044 1.3598、K1 1.3176、K3 A100 1.6569、x86 1.2917。

这两组数字必须与上一期分开读。上一期记的是同一批用例的旧表:快于参考 41 例,SG2044 中位 0.0580 倍。同一天的两笔提交把这张表整体换掉,原因写在提交标题里——「四平台共享编译器的性能继承」。按结果手册的说法,TileLang 原生 TIRx 现在导入 Triton–Weft 同一套 Canonical 编译器,完整 packed 负载保留输入准备、编码、整数 partial、scale/min 支路与输出更新。也就是说,跳变的来源是被测对象从「作者手写程序」换成了「共享编译器产物」,而不是同一份实现在一天内提速二十倍。引用时应写清这一点,不能用新表覆盖旧结论。

另外有一处值得记的修正:K3 的两项 Q1 对照此前用的是旧 Triton 产物,该产物在对 −128 取负时溢出——边界输入得到 −2048,正确结果应为 0。修复精确 I8 归约的共享编译器重新生成之后,两种前端的产物都通过该输入;triton_historical_us 保留旧耗时,triton_control_note 标出修正的比较。这是本期唯一一处「对照本身有错」的披露,比任何分数都更能说明这套基准在认真对待可复现性。

技术路线仍需分清:Weft 走的是 TileLang 原生 AST 早期导入到自有 Canonical IR 的 CPU 路线,与 kubuds- 前缀分支延续的 TVM 后端、RuyiAI-Stack/tilelang-riscv 的 MLIR Linalg/SCF 改写都不是同一条实现。

来源:https://github.com/Tianchen-ai/tilelang-weft 、 https://github.com/Tianchen-ai/tilelang-weft-bench

三、生态与采用方

3.1 TileOPs:主线零提交,W4A16 两笔叠加把 chunked-prefill-tile 从 37.3 压到 31.6 微秒(#2895、#2896)

TileOPs 本期主分支零提交,但开了五笔性能 PR,其中两笔是叠加的同一族。#2895(3 个文件,+183/−3)把沿 K 两分的 W4A16 瓦片改成一对 CTA 的 cluster:每个 CTA 持有一个消费者 warpgroup 的行,通过 st.async 在对端共享内存里收到这批行的 FP32 partial 再写出,于是这些瓦片不再启动 split-K 归约、也不再往返 FP32 工作区。H200、1500 MHz 下 chunked-prefill-tile 从 37.3 微秒降到 34.7 微秒(torch 反量化矩阵乘为 37.5 微秒),输出与归约路径逐位相同。

#2896(3 个文件,+525/−5)在其上再叠一层:128 行 128 列的 W4A16 瓦片改用手写 warp 特化主循环,在上一笔 WGMMA 还在跑的时候就解码下一个 K 瓦片,并只在读取该环段的 WGMMA 退休后释放环段;由于成本模型里没有这一项,改用一条校准规则把这些瓦片放到四个 128 宽的 K 段上。同一基准降到 31.6 微秒,是 torch 反量化矩阵乘的 1.19 倍,输出与流水主循环逐位一致。

两笔都归属 #2130 这条性能清单,#2896 明确写着叠加在 #2895 之上、其提交会一并显示直到前一笔合入。

来源:https://github.com/tile-ai/TileOPs/pull/2895 、 https://github.com/tile-ai/TileOPs/pull/2896

3.2 TileOPs:DeepSeek-V3 prefill 的 FP8 grouped GEMM 把 A scale 改走 TMA(#2894)

#2894(1 个文件,+2/−2)只改两个配置项:ds-v3-ep8-prefill-up 与 ds-v3-ep8-prefill-down 的 stage_scales 从 1 改回 0,让它们的 128 行瓦片在 #2865 新增的 TMA 盒子里取 A scale,而不是经 producer 中转。改动虽小,接的是一整条链:它替换 #2839 剩下的部分,其余内容已被 #2864、#2865、#2885 分别吸收。

数字在 H200 SXM、SM 1500 MHz、CUDA 13.2、PyTorch 2.13、TileLang 0.1.12 上测,device_busy_ms,与主干 9bf4bf56 交替跑三轮取中位:上投影 269.3 → 262.0 微秒(对 DeepGEMM 287.1 微秒的比值由 1.066 升至 1.096),下投影 142.2 → 137.2 微秒(比值 1.117 → 1.157)。另两行连续配置保持不变。测试侧 tests/ops/test_moe_grouped_gemm_fp8.py 在 H200 上 53 通过 25 跳过。

来源:https://github.com/tile-ai/TileOPs/pull/2894

3.3 TileOPs:softmax 两 CTA cluster 达标,long-K NT GEMM 选择器改动未达标(#2898、#2897)

#2898(SoftmaxFwdOp,标 bar met)把两片 32 KB 的 softmax 行从四个 128 线程 CTA 的 cluster 改到两个 256 线程 CTA 的 cluster:SM90 上每个 CTA 槽位都能放下两 CTA 的 cluster,而四 CTA 的 cluster 会留下空槽。寄存器侧同时改了两处——行最大值按打包的 16 位对取,float16 的每一项用一次 FFMA 对瓦片的缩放最大值做移位;bfloat16 与 float32 仍先减最大值,因为它们的最大值乘 log2(e) 会越过 fp32 范围。根因写在描述里:基准把 H200 跑在 1500 MHz,寄存器方案比 quack 多执行 17% 指令、受发射率限制。

#2897(GEMMFwdOp,标 below bar)方向相反,结果没达标。它要修的是选择器的判定:超过 64 个 K 步之后,只有当一个 176 或 192 宽的 ping-pong 瓦片能覆盖更多「每字节操作数的输出」时才替换更宽的 coop2 瓦片,ds-v3-prefill-o-proj 因此从 128x176/144 的 ping-pong 换到 128x256/240 的 coop2。问题在于该行跑在 H200 的 700 W 功耗墙下,时间跟每次调用的能耗走:176 宽瓦片比 DeepGEMM 少 2.7% 周期,但把多 21% 的操作数字节搬进 SM,于是跑在更低的时钟上。这条如实标了未达标,价值在于把「功耗墙下不能用周期数当判据」这件事量化了。

来源:https://github.com/tile-ai/TileOPs/pull/2898 、 https://github.com/tile-ai/TileOPs/pull/2897

3.4 TileOPs nightly:Perf Tracker wiki 当日 19:52 刷新(11-11)

TileOPs-nightly 仓本期的推送时间戳来自一次 wiki 变更而不是代码:当日 19:52 该仓 wiki 的 Home 页被创建,对应 Perf Tracker 看板的夜间同步。这类推送在按 org 逐仓核查时会被算作「窗口内推送」,需要与真正的代码提交区分开——本窗口该仓主分支零提交,snapshots 分支最新一次推送仍是 11-09。

同期 TileOPs.github.io 的 gh-pages 在 11-10 有一次推送,不在本窗口内。文档站与 nightly 这类自动写入,本期不再单列条目,只在此处记一笔口径。

来源:https://github.com/tile-ai/TileOPs-nightly

四、社区、教程与活动

4.1 昇腾前端一轮系统性审计:一日 30 条 issue,26 条直指昇腾(11-11)

窗口内组织级新开 35 条 issue,其中 30 条落在主仓、3 条在 TileFoundry、2 条在 tilelang-ascend。主仓这 30 条里,26 条标题直接带昇腾前缀,来源集中在两个账号:cn-sys 12 条(15:19 至 16:14 连续提交),JINITAIMEI121 13 条(08:31 至 10:39),另一条是 PTO 多区域报重复物理段。

这些 issue 的共性不是「结果算错」,而是「不该通过却通过」。参数校验一类:T.Kernel 接受零或负的 block 数、T.Persistent 接受负的 wave_size 与 num_stages、T.Pipelined 接受负的 num_stages 与不合法 order/stage 元数据、T.unroll 接受 −1 并吐出 #pragma unroll -1、循环构造器接受零或负 extent、负张量维度直接把编译器打崩(原生崩溃而非 Python 异常)、T.alloc_l1 接受 2 GiB 分配而没有任何容量检查。语义错位一类:hf32 的 nearest_zero 编译成 NEAREST_AWAY、GEMM 输入 dtype 表与 codegen 双向不一致、reduce_bitand/bitor/bitxor 吐出昇腾模板未定义的类型、batch reduction 退化成没有批重载的标量 AllReduce 入口、GM 到 L1 拷贝的 pad_value 被路由进只接受零的 L1 fill、同型 ND 转 NZ 散射因掩码计数不回退而死循环、partial-VL 行产出不存在的 PAT_VL<N> 模式。工具链一类:vsts_pack_quarter 没有 16 位分支导致 b16 向量上的 PK4_B32 存储被静默丢弃、模块序列化丢掉 device source 使缓存内核在启动失败时无源码可查、msprof 后端自动调优因在工作线程里调 signal.signal() 而必然失败。

这批不是零散吐槽,形态上像一次有组织的审计:同一账号在半小时内按主题成串提交,标题统一为「[BUG] Ascend: …」加一句根因概括。对上游的意义是,昇腾前端的「健全性」缺口被一次性摆到了台面上——3060 项每日测试全过并不代表非法输入会被拒绝,因为测试覆盖的是合法路径。

来源:https://github.com/tile-ai/tilelang/issues/3941 、 https://github.com/tile-ai/tilelang/issues/3928 、 https://github.com/tile-ai/tilelang/issues/3947

4.2 在审修复与审计呼应:VMI mask 校验、SIMD fill 恢复、E4M3 ND/NZ 拷贝(11-11)

当日更新的在审 PR 里,有一批正好对着上面的缺口。#3861 与 #3917 是同一件事的两笔:VMI 一元与向量-标量工厂此前对 mask 只查「在不在」,不查 dtype 与通道数,于是把普通向量当谓词传进去也能一路走到 codegen——vabs、vneg、vrelu、vexp、vln、vsqrt、vnot 七个算子都建在这个工厂上,向量-标量侧的 vadds、vmuls、vmaxs、vmins、vshls、vshrs 也有弱形式。

#3795 修的是 #3512 的另一处副作用:T.SimdVF() 里对 int32 UB 缓冲做 T.clear 时,生成的向量广播只支持浮点,PTO 编译失败——因为 PTO 管线用专门的 Parallel pass 替换了原 SIMD pass,顺手把 fill 下沉丢了。改法是在 buffer-version 规范化之后、PTO Parallel 校验之前补一个 LowerSimdVFFill,对连续且完整的向量区域复用 vdup/vsts,其余仍走旧路径;同时保留浮点 tl.simd.vdup 的数值转换,修掉「int32 的 7 被按位广播成约 9.809e-45」的问题。

#3639 补 E4M3 的 ND/NZ UB 到 L1 拷贝,#3926 让 T.Kernel 拒绝非正 block 数与负的 Pipelined num_stages,#3854 修 SimdVF 下沉里亚字节元素的除零,#3668 补 AIV 核在 T.PerCoreTask() 内对 UB 到 GM 的交错跨步写。另有 #3915 与 #3916 处理 AssertStmt 的错误种类与条件检查的就地断言。

来源:https://github.com/tile-ai/tilelang/pull/3861 、 https://github.com/tile-ai/tilelang/pull/3795 、 https://github.com/tile-ai/tilelang/pull/3926

4.3 新闻侧:中英文五组查询窗口内零命中,HN 与 arXiv 同样无相关条目(11-11)

Google News 中英文查询在窗口内零命中,最新命中仍停在旧文;Hacker News 的命中全是同名噪音(与 TileLang 无关的条目),arXiv 上 all:"TileLang" 的最新结果仍超窗。当前能被检索引擎抓到的 TileLang 相关内容,仍是 ICLR 2026 的论文页与微软研究院的发表页,属长期条目而非新闻。

新闻侧连续多日零命中属 TileLang 的常态:项目传播主要走 GitHub 与开发者社区,不在新闻索引里,报道主体继续以仓库动态为准。

来源:Google News 中英文查询(走代理)、Hacker News、arXiv,窗口内无相关条目。

4.4 口径修正:K3 两项 Q1 对照的旧 Triton 产物在 -128 取负时溢出(11-11)

把这条单列,是因为它影响的不是分数而是可比性。基准仓在发布 weft-parity 的同批提交里披露:K3 的两项 Q1 对照此前用的是保留的 Triton Canonical 程序,该程序在对 −128 取负时溢出——边界输入得到 −2048,而正确结果应为 0。修复精确 I8 归约的共享编译器重新生成之后,两种前端的产物都通过该输入;历史耗时保留在 triton_historical_us 字段,修正说明写在 triton_control_note。

对照实现出错是基准类项目的常见陷阱:一旦参考侧在边界输入上错了,被测侧的「不如参考」可能只是参考错得更快。这条披露与 2.8 的配对口径合起来看,说明这条 CPU 线在从「作者程序对比外部库」转向「同编译器产物配对比较」,方法论上更可信,但两张表不能混用。

来源:https://github.com/Tianchen-ai/tilelang-weft-bench/blob/main/docs/results.zh-CN.md

五、趋势观察

一是昇腾在主线上的权重继续上升,且从「补算子」转向「补执行路径与求解器」。本期主仓三笔全是昇腾:执行后端换默认、求解器收紧下界、原子操作适配类型体系。这三笔都不增加算子名单,但在改「同一段程序怎么被编出来、跑起来、以及多久能编完」。对照 10 月以来的记录,昇腾侧的合入已经从补齐 AscendC 算子,走到接口语义、执行后端、调度求解器这三层。

二是CUDA 侧进入长评审期。上一期还有三笔 CUDA 指令级原语进主干,本期零合入而六笔在审(ldmatrix/stmatrix、256 位向量化、im2col 调度、流水操作数生命周期、异步 GEMM 生命周期、PASS 配置命名空间)。合入速率下降与在审队列增厚同时出现,通常意味着评审带宽成了瓶颈,而不是开发停摆。

三是质量审计开始与功能开发并行。一日 26 条昇腾 issue 的形态说明,社区里已经有人在做系统性的非法输入审计,而对应的修复 PR 当日就在队列里(mask 校验、负参数拒绝、fill 下沉恢复)。这对一个正在把后端铺到多家国产芯片的项目是好事:3060 项每日测试全过只证明合法路径可用,非法路径的拒绝能力得靠这类审计。

四是RISC-V 四源连续五个窗口静默,但四源之外的 CPU 线给出了阶段性结论。TVM 路线、MLIR 路线、社区索引页、算能 TPU 四个上游都停在原引用;而 TileLang–Weft 用共享 Canonical 编译器把 553 项全部做到 Triton 的 1.03 倍以内,四平台中位倍率 1.29 至 1.66。需要注意这是口径切换后的结果,不能与上一期的 0.058 倍直接比较。真正的观察点是:这套「同一编译器、两套前端」的做法能否反向进入上游,以及 RISC-V 的 RVV/IME 路径是否会被四源之外的项目先跑通。

局限说明:本期 GitHub 匿名 API 额度在采集早期耗尽,PR 正文与合入详情改由检索接口与非默认分支的提交原子流补齐,个别 PR 的文件数与行数为检索接口返回值,未逐行复核 diff;hygon 与 mlir-ascend 的合入落在非默认分支,已按分支分别核查。新闻侧只有零命中,无外部报道可交叉验证。


附录:素材与核查说明

信源 核查结果
tile-ai 组织逐仓(30 仓库) 窗口内推送 7 个:tilelang、TileOPs、TileOPs-nightly、tilelang-hygon、tilelang-mlir-ascend、tilelang.github.io、TileOPs.github.io
主仓 tile-ai/tilelang 合入 3 笔(#3516、#3776、#3794),全部昇腾;新增 issue 30 条
非默认分支 hygon distributed 合入 #36;mlir-ascend master 合入 #222;两仓 main 均零提交
在审队列 组织级 57 笔在窗口内更新,主仓 33 笔
发布页 tilelang 最新 v0.1.15(09-30),TileOPs 最新 v0.1.0(10-27),窗口内无新 tag
每日测试 tilelang-ascend #2003:11-11 07:58 运行 3060 项全过
TileLang×RISC-V 四源巡检 无变化(连续第五个窗口)
第三方 RISC-V 线 TileLang–Weft 与基准仓各 1 笔,发布 weft-parity
新闻侧 Google News 中英文、Hacker News、arXiv 窗口内零命中

完整信源清单