调研窗口:2026-11-10 07:00 ~ 2026-11-11 07:00(北京时间,24 小时;上一期截点为 11-10 07:00)。

信源:GitHub tile-ai 组织逐仓核查(30 仓库,窗口内推送 7 个,其中 3 个是文档站、夜间快照与 gh-pages 的自动推送)+ 合入与在审真值检索(窗口内合入 9 笔、在审更新 42 笔、新开 issue 10 条)+ 主分支逐笔提交核查(tilelang 3、TileOPs 4、tilelang-musa 1)+ 发布页核查(tilelang / TileOPs / TileFoundry / tilelang-musa 四仓,窗口内无新版本;0.1.16 版本号 PR 仍挂起)+ 采用方两仓 + 第三方仓逐笔核查(TileLang–Weft 系列 40 笔、Hexagon 后端仓)+ Google News 中英文三组查询(走代理)+ Hacker News + arXiv + 邻近技术动态(Meta TLX 发布)。RISC-V 四源专项巡检 24 小时无变化。


本期索引

  • 今日重点:合入从 21 笔回落到 9 笔,主仓转向 CUDA 指令级原语;TileOPs 四笔全在 DeltaNet 的共享内存预算;0.1.16 版本号 PR 仍挂起

  • 一、核心项目进展
    • 1.1 主线:CUDA 补 L2 预取指令与六档驱逐优先级,非默认优先级要求 SM80 以上(11-10)
    • 1.2 主线:NaN 传播的对称 clamp 降到单条 min.NaN.xorsign.abs(11-10)
    • 1.3 主线:CI 不再因 PR 标签变更重启全量流程,ROCm 看门狗提到工作流超时之上(11-11)
    • 1.4 主线:0.1.16 版本号 PR 仍挂起,窗口内无新 tag(11-10)
  • 二、多后端适配
    • 2.1 昇腾:host-mapped 缓冲参数在审,14 个文件新增 529 行(11-10)
    • 2.2 昇腾:每日测试 3060 项全过,缓存内核的 adapter 路径修复在审(11-10)
    • 2.3 沐曦:README 安装段收敛为一组命令,重复步骤与版本检查命令删除(11-10)
    • 2.4 海光:分布式三件套融合算子在审,Block-Push 与 Block-Pull 两条通信路径(11-10)
    • 2.5 Metal:SIMD-group 目的端越界写在 M4 上复现,修复以可证明的足迹为前提(11-10)
    • 2.6 mlir-ascend:harness 知识库加固合入 harness 分支,Ascend 950 AscendC 收为唯一 PR 门禁(11-10)
  • 二·五、RISC-V 后端与社区(专项观察)
    • 2.7 四源巡检:连续第四个窗口无变化,TVM 与 MLIR 两条线均停在原引用(11-11)
    • 2.8 新增观察:TileLang–Weft 的 CPU/RVV 线一日 40 笔提交,553 例基准全过数值检查(11-10)
  • 三、生态与采用方
    • 3.1 TileOPs:33 至 40 token 的 W4A8 调用改走 40 token 解码瓦片,表外网格快 4.3% 至 11.3%(11-10)
    • 3.2 TileOPs:DeltaNet 前向按设备共享内存预算分流,SM89 重获 chunk 128 通路(11-10)
    • 3.3 TileOPs:反向 w/u 程序复用缓冲,114944 字节压到 98560 字节(11-10)
    • 3.4 TileOPs:测试按 cluster 与共享内存事实分流,SM89 失败从 9 条降到 3 条(11-10)
    • 3.5 TileOPs:paged GQA 拆分计数以窗口内 key 瓦片为上界,在审(11-10)
    • 3.6 TileFoundry:一日六条分析器与规范缺口 issue,其中两笔由 TileOPs 作者跨仓提出(11-10)
    • 3.7 第三方:Hexagon NPU 后端从空壳长成可跑端侧模型的分支,LFM2-1.2B 全程在 NPU 上跑通(11-10)
  • 四、社区、教程与活动
    • 4.1 新闻侧:中英文三组查询窗口内零命中,HN 与 arXiv 同样无相关条目(11-10)
    • 4.2 邻近动向:Meta 发布 TLX 博文,Triton 的低层扩展已在三条生产负载上运行(11-10)
    • 4.3 新 issue:PTO 多 Cube/Vector 区域报重复物理段,测试日报口径给出 3060 项全过(11-10)
  • 五、趋势观察

今日重点

这个窗口只有 9 笔合入,不到上一期 21 笔的一半,但结构完全换了。主仓贡献 3 笔,主题是 CUDA 指令级原语:#3490 把 L1 与 L2 预取指令连同六档驱逐优先级做进全局加载模板,#3605 把「NaN 传播的对称钳位」直接降到一条 min.NaN.xorsign.abs,#3911 收掉 PR 标签变更触发的全量 CI 重启。这三笔都不为某个算子上分,而是给 kernel 作者补可用的底层原语与更省的反馈回路。

第二件事是 TileOPs 的 4 笔全在 DeltaNet,且全部围绕同一个物理约束:SM89 只有 101376 字节共享内存。#2891 让前向在 chunk 128、head 维 128 时,先看 state walk 的输出趟(dim_v 64 需 114688、dim_v 128 需 131072)是否装得下,装不下就走只需 98560 字节的 recurrence;#2890 给反向的 w/u 程序加 reuse 开关,在相等 head 维下让 S、du、Aw 在最后一次读之后接管 dh、v_new、Au 的缓冲,把 114944 压回 98560;#2889 把只在 SM90 cluster 下成立的 LayerNorm split 用例与两个必须 196608 字节的线性注意力用例如实标记,SM89 上的失败数从 9 条降到 3 条。三笔合起来是一条完整的「预算—分流—测试口径」闭环。

第三件事是版本仍然挂着。#3887(0.1.16 版本号)自 11-09 03:07 之后没有任何更新,仍未合并,tag 最新还是 09-30 的 v0.1.15。真正值得记的是 #3911 里顺手提到的一处:ROCm runner 的看门狗被提到工作流超时之上,此前 AMD 那条腿的作业会在 40 分钟被砍掉——这解释了为什么 AMD 侧的 PR 反馈总比 NVIDIA 慢一拍。

第四件事在四源之外。RISC-V 专项巡检的四个上游仍是零变化,但第三方 Tianchen-ai/tilelang-weft(上游 fork,加 Weft CPU 编程模型,RISC-V 与 x86 共用一套物理 pass)在窗口内提交 17 笔,其基准仓 tilelang-weft-bench 再提交 23 笔,覆盖 SG2044、K1、K3 A100 与 x86 共 553 例算子用例、543 例外部对照。数值检查 553/553 全过,但「快于参考实现」的只有 41 例,SG2044 上中位原生加速比 0.0580 倍——这是目前能看到的最诚实的 RISC-V CPU 侧差距量化。

来源:https://github.com/tile-ai/tilelang/pull/3490 、 https://github.com/tile-ai/TileOPs/pull/2891 、 https://github.com/tile-ai/TileOPs/pull/2890 、 https://github.com/tile-ai/tilelang/pull/3911 、 https://github.com/Tianchen-ai/tilelang-weft


一、核心项目进展

1.1 主线:CUDA 补 L2 预取指令与六档驱逐优先级,非默认优先级要求 SM80 以上(#3490)

#3490(6 个文件,+185/−1)补齐了此前缺失的三类预取内建:L1 预取、uniform L1 预取、L2 预取,同时把「驱逐优先级」做成一等参数 EvictPriority,取值为默认、普通驱逐、优先驱逐、最后驱逐、不改变、不分配六档。全局加载模板随之改造:原先按固定宽度写死的加载封装被替换为模板化 API,可指定非一致(non-coherent)加载、L1 驱逐优先级,以及 L2 预取的字节数。

行为边界写得很清楚:默认优先级的 L2 预取走普通全局或局部指令,其余优先级映射到 evict_normal、evict_last,并要求计算能力 8.0 以上;低于该门槛的设备上这些组合不成立。对 kernel 作者的意义是,过去要拿到 prefetch.global.L2::evict_last 这类行为只能自己塞内联汇编,现在可以在 TileLang 源码里声明,编译器按目标架构选路。

来源:https://github.com/tile-ai/tilelang/pull/3490

1.2 主线:NaN 传播的对称 clamp 降到单条 min.NaN.xorsign.abs(#3605)

#3605(7 个文件,+203/−1)新增 T.clamp_symmetric(x, limit),在 CUDA SM86 及以上把 FP16、BF16、FP32 三种操作数统一钳到 [-limit, limit],保留带符号零与次正规数;任一操作数为 NaN 时返回规范 NaN,原 NaN 的符号与载荷不保留。非正的数值上限不在 API 契约内,既有 T.clamp 不受影响。

实现上直接降到 min.NaN.xorsign.abs.*,每个标量或每对 FP16/BF16 一次钳位指令,向量输入走既有的可向量化算子注册与 CUDA 打包发射路径,不引入运行时检查。验证口径给得很硬:语言与代码生成两套测试 86 通过 2 跳过;在 CUDA 13.1 下对 SM86 与 SM100 做 SASS 检查,确认 FMNMX.NAN.XORSIGN、HMNMX2.NAN.XORSIGN、HMNMX2.BF16_V2.NAN.XORSIGN 三种标量与打包形态都如期出现。这类改动的价值在数值稳定性:量化推理里钳位丢 NaN 是常见静默错误来源,把语义交给一条硬件指令后,NaN 不再被悄悄变成边界值。

来源:https://github.com/tile-ai/tilelang/pull/3605

1.3 主线:CI 不再因 PR 标签变更重启全量流程,ROCm 看门狗提到工作流超时之上(#3911)

#3911(1 个文件,+2/−2)只改触发条件,但问题描述值得记。主 CI 此前对 labeled 与 unlabeled 两类事件都触发,而 CodeRabbit 会给新开的 PR 一次性打多个标签,于是同一个 PR 在几秒内产生多次完全相同的全量 CI 运行;共享并发组再把这些运行逐个取消,只留最后一次。

实证在 #3908:四个标签同一时间戳落下,产生四次 CI,原始运行与前三次替换全部被取消,而没有任何 CI 作业读取 PR 标签,这些重启不提供任何覆盖。改法是把这两类事件从触发器中移除,保留 opened、synchronize、reopened、ready_for_review 与手动触发,并发策略继续负责取消过期的头部更新。同一笔改动还把 ROCm runner 的看门狗阈值提到工作流超时之上,使 AMD 作业不再在 40 分钟被强杀。

来源:https://github.com/tile-ai/tilelang/pull/3911

1.4 主线:0.1.16 版本号 PR 仍挂起,窗口内无新 tag(11-10)

#3887([Release] Bump version to 0.1.16)最后更新停在 11-09 03:07,窗口内无任何推进,仍未合并。四个仓的发布页在窗口内都没有新版本:tilelang 仍是 09-30 的 v0.1.15(tag 序列 v0.1.15 至 v0.1.11),TileOPs 是 10-27 的 v0.1.0,TileFoundry 是 10-25 的 v0.0.4rc1,tilelang-musa 是 09-30 的 v0.1.15+musa.1。

与版本相关的另一处观察在结构侧:#3490、#3605 两笔 CUDA 原语直接进主分支,#3903(进程并行编译)、#3897(CPU 侧 cumsum/cummax)仍在审,说明 0.1.16 的功能面还在增厚而不是收口。版本号一旦落地,下游要同时核对主仓 tag 与后端仓的 musa.*、ascendc_pto 两条分支线。

来源:https://github.com/tile-ai/tilelang/pull/3887

二、多后端适配

2.1 昇腾:host-mapped 缓冲参数在审,14 个文件新增 529 行(#3909)

#3909 把 #3802 在 CUDA 侧建立的显式 host-mapped 缓冲契约扩展到昇腾:此前 Ascend kernel 一律拒绝 CPU 张量参数,即使其存储在 NPU 上可见,调用方只能关掉张量校验绕过去。改动通过同一套 T.annotate_host_mapped_buffers(...) API 声明,Cython 与 TVM-FFI 两条绑定都用 aclrtHostGetDevicePointer 校验映射,并把设备可见地址传下去,同时保留 dtype、形状、步长与执行设备三项检查;C++ 绑定保持原签名,按既有设备类型选择运行时查询。Cython 侧默认仍走 CUDA 解析器,只有昇腾提供可选解析器。

这与前一窗口在审的 #3892(torch.compile 支持)、#3893(L0C 累加器直接反量化)、#3891(L2 刷写 API)属同一条线:昇腾侧当前补的是接口与语义一致性,不是算子名单。

来源:https://github.com/tile-ai/tilelang/pull/3909

2.2 昇腾:每日测试 3060 项全过,缓存内核的 adapter 路径修复在审(11-10)

tilelang-ascend 侧,窗口内新开的两条记录都在讲同一件事——回归面在扩大。#2001 的每日测试日报记录 11-10 11:38 的一次运行:3060 项全部通过,通过率 100%。#2002([Bugfix] Restore adapter library path when loading cached kernels)在审,修的是从缓存加载内核时 adapter 库路径未被恢复的问题,属「同一内核第一次跑对、第二次从缓存加载就找不到库」这类只在缓存命中路径上出现的问题。

对照前几期:该仓默认分支 ascendc_pto 的最新合入仍是 11-06 的七笔,11-09 与 11-10 两个窗口都没有新合入,在审队列持续增长(本期又有 #2000 位运算 PTO uint8 包装、#1998 拷贝测试内核自动同步等更新)。测试规模上到 3060 项而合入停滞,说明瓶颈确实在评审而不在开发。

来源:https://github.com/tile-ai/tilelang-ascend/issues/2001 、 https://github.com/tile-ai/tilelang-ascend/pull/2002

2.3 沐曦:README 安装段收敛为一组命令,重复步骤与版本检查命令删除(#12)

#12(1 个文件,+10/−49)是文档净删改动。问题很具体:README 里重复出现的单包安装命令会让用户只装 TileLang-MUSA 而漏掉 TVM FFI 或环境配置。改法是在安装段只保留一组命令,同时安装 TileLang-MUSA v0.1.12+musa.5 与 TVM FFI,并在命令前后分别链到 MUSA 安装说明与文档总览;Latest News 与 TileOPs 两段统一指向安装文档,删掉重复命令、独立的源码安装步骤与版本检查命令。GEMM 示例逐字未动。

口径提醒仍成立:文档里的 v0.1.12+musa.5 是 SDK 配套渠道的版本号,开源 release 页最新 tag 是 09-30 的 v0.1.15+musa.1,两者不能互相替代。

来源:https://github.com/tile-ai/tilelang-musa/pull/12

2.4 海光:分布式三件套融合算子在审,Block-Push 与 Block-Pull 两条通信路径(#36)

#36(6 个文件,+2022/−0)在同一天内更新,一次性加入三个计算通信融合算子:Block-Push 版本的 GEMM + AllReduce、Block-Push 版本的 GEMM + ReduceScatter、Block-Pull 版本的 AllGather + GEMM,性能数据与实现说明写在 README 里。这是海光仓第一次出现分布式方向的成规模提交——此前该仓的工作集中在单卡侧(11-06 的 scaled cast #33 与 HCU reduce lane swap 布局推导 #34)。

三条算子对应两种通信发起方式:Push 由计算侧主动把结果推给对端,Pull 由计算侧去拉对端的 allgather 结果。选择哪条路径取决于通信域大小与重叠窗口,README 里给了对照数据,适合按拓扑选型。该 PR 仍为开启状态,尚未合入。

来源:https://github.com/tile-ai/tilelang-hygon/pull/36

2.5 Metal:SIMD-group 目的端越界写在 M4 上复现,修复以可证明的足迹为前提(11-10)

#3907 报的是一处静默越界:把一个显式的 8x8 metal.simdgroup 矩阵拷贝到 8x1 输出时,编译器发射的是行步长为 1 的完整 simdgroup_store,逻辑输出正确,但会覆盖输出之后的七个元素。复现环境写得很完整——Apple M4、tvm_ffi、关闭编译缓存,并用额外的后备存储作哨兵检出越界。上游基线是 72d986e1。

修复 PR #3912(2 个文件,+116/−1)的做法不是加运行时检查,而是在发射每条 SIMD-group 存储之前,要求算术分析器证明其完整 8x8 足迹同时落在目的缓冲与请求的目的区域内;证明不了就在下沉期抛出可读的 ValueError,而末元素恰好落在边界的整瓦片仍然支持。同窗口还有 #3906([Metal] Resolve the auto execution backend to tvm_ffi)在审,属同一后端的执行路径收敛。Metal 侧本月已经是第三次出现在窗口内,从补算子转向补正确性边界,通常意味着开始有人真在 Apple 芯片上跑非玩具形状。

来源:https://github.com/tile-ai/tilelang/issues/3907 、 https://github.com/tile-ai/tilelang/pull/3912 、 https://github.com/tile-ai/tilelang/pull/3906

2.6 mlir-ascend:harness 知识库加固合入 harness 分支,Ascend 950 AscendC 收为唯一 PR 门禁(11-10)

#217(4 个文件,+140/−16)合入的是 harness 分支而非 main,这一点需要写明——该仓默认分支为 main,本窗口 main 上零提交。改动内容是让探索过程中积累的知识可靠留存:记录 hot 知识时同时保存证据快照,避免后续更新测试报告反过来使历史记录失效;禁止同一个审批编号批准不同知识条目;cooled 知识保存在临时工作区之外;知识目录出现损坏文件时提示并允许继续查看其他正常知识,但若无法确认审批编号是否重复,则暂停生成新的 cooled 知识;统一「不适用」字段的填写方式,并区分待审核知识与代码候选的命名。验证口径为 25 项 CPU 测试通过。

在审侧 #222([CI][Ascend] Make Ascend 950 AscendC the only PR 门禁)值得记一笔:把 PR 门禁收敛到 Ascend 950 的 AscendC 一条线,意味着该仓不再为旧代昇腾维持并行门禁。若合入,昇腾 950 将成为 mlir-ascend 的唯一准入基线。

来源:https://github.com/tile-ai/tilelang-mlir-ascend/pull/217 、 https://github.com/tile-ai/tilelang-mlir-ascend/pull/222

二·五、RISC-V 后端与社区(专项观察)

2.7 四源巡检:连续第四个窗口无变化,TVM 与 MLIR 两条线均停在原引用(11-11)

按既定四源逐一比对引用,24 小时窗口内全部无变化:

  • kubuds/tilelang-riscv-kubuds(TVM 后端路线)的两个 kubuds- 分支停在 kubuds-riscv-karen fc62939、kubuds-riscv-mahiru 33e0c89,main 仅为上游同步;
  • RuyiAI-Stack/tilelang-riscv(MLIR 改写路线,target="riscv")main 停在 57c548c;
  • TongmingLAIC/tilelang-riscv(社区索引页)main 停在 4499c2a,表内项目无增删;
  • TongmingLAIC/tilelang-tpu(算能 SOPHGO TPU)main 停在 303759f,feature/sg2260e-rv-support 停在 122bc59,其余分支引用不变。

这已是连续第四个窗口(11-07、11-09、11-10、11-11 留档)无变化。按既定口径,脚本输出为空记为「无变化」,不视为采集失败。

来源:GitHub 四源逐引用比对(窗口内无变化),无单条落点链接。

2.8 新增观察:TileLang–Weft 的 CPU/RVV 线一日 40 笔提交,553 例基准全过数值检查(11-10)

四源之外出现了一条更活跃的 RISC-V 线,本期首次具备可写的事实量。Tianchen-ai/tilelang-weft 是上游 tilelang v0.1.15 的 fork,加入 Weft CPU 编程模型:在 TileLang 原生 AST 上增加 Encoding 字段与位层、逻辑轴与瓦片域、Level 与分阶段快照、有限位宽的分组 partials 与显式转换、以及每循环流水深度五类作者信息,再由一套共享物理 pass 同时覆盖 RISC-V 与 x86——同一份源码构造分别进入 RVV/IME 或 x86 SIMD/AMX 的落地路径。窗口内该仓提交 17 笔,基准仓 tilelang-weft-bench 再提交 23 笔,集中在打包行解码(Q1/Q2/Q4_K/Q6_K/IQ3/IQ4)、IME1/IME2 记录级收缩、运行时 K 维归约与动态 rotary 遍历。

基准结果值得原样引用:150 个算子 ID 构成 553 个平台用例(SG2044 133、K1 137、K3 A100 136、x86 147),543 例有可对照的外部参考实现。数值检查 553/553 全过,但「快于参考实现」的只有 41 例,SG2044 的中位原生加速比 0.0580 倍、K1 为 0.1143 倍、K3 A100 为 0.1074 倍,x86 侧未在该表列出。这条数据线的价值不在分数,而在于它把「TileLang 写 RISC-V CPU 算子,离手写原生库还差多少」第一次量化到了单算子粒度,且全部可复现(基准仓自带约束文件与 CSV 导出)。

需要区分两条技术路线:Weft 走的是 TileLang 原生 AST 早期导入到自有 Canonical IR 的 CPU 路线,与 kubuds- 前缀分支延续的 TVM 后端、RuyiAI-Stack/tilelang-riscv 的 MLIR Linalg/SCF 改写都不是同一条实现,三者不可混为一谈。

来源:https://github.com/Tianchen-ai/tilelang-weft 、 https://github.com/Tianchen-ai/tilelang-weft-bench

三、生态与采用方

3.1 TileOPs:33 至 40 token 的 W4A8 调用改走 40 token 解码瓦片,表外网格快 4.3% 至 11.3%(#2888)

#2888(2 个文件,+69/−47)修的是一段规则判定的错位。在 132 个 SM 的 H200 上,33 至 40 token 的 W4A8 调用一旦 128 行瓦片数超过 SM 数,就会落进「133 至 225 个瓦片、K 取 7168 / 7680 / 8192」这条带里继续走 prefill 路径,而这一类调用其实该走 40 token 的解码瓦片。

根因是过了一波之后两条路径的完成次序反转:prefill 内核用 stream-K 拆瓦片,解码内核的连续项跑在前面的先完成,原带只覆盖了部分网格,还误收了一批能整除的网格——那些网格上 prefill 反而先完成。修法是把带收窄,只保留真正该留给 prefill 的四类情形(N 非 128 的倍数、K 非 512 的倍数、512−K 项在 SM 上整除、64 行权重块按 2 的幂且至少相距 512 KiB)。表外网格上比主分支快 4.3% 至 11.3%。

同笔还补了一个此前无人覆盖的测试:解码内核跨 CTA 就绪标志漏重置。Result 行标的是 below bar,即未达该项的性能目标条,但修正的是判定规则本身,属「错路改对路」而不是「调参上分」。

来源:https://github.com/tile-ai/TileOPs/pull/2888

3.2 TileOPs:DeltaNet 前向按设备共享内存预算分流,SM89 重获 chunk 128 通路(#2891)

#2891(2 个文件,+78/−27)接的是 #2645 留下的坑:那条改动把 dim_k 小于两倍 chunk 长度的调用一律送进 state walk,而 walk 在 chunk 128、dim_v 64 时的输出趟至少需要 114688 字节共享内存(dim_v 128 时 131072),SM89 只给 101376,于是这些调用在 SM89 上直接不可用;而内核里保留的 recurrence 只需 98560 字节。

改法是让内核只在 walk 的下界确实装得下时才走 walk,否则走 recurrence,refusal 路径读取两者中较小的界。已在主分支服务的调用在 SM80、SM89、SM90 三档预算上保持原有程序不变。

性能口径如实记录:SM89 上主分支拒绝这些调用,基线只能用 FLA 的 chunk_delta_rule 前向(它自己的 chunk 是 64),chunk 128、dim_k 128 下本改动比 FLA 慢 9% 至 41%(六组用例的 TileOPs/FLA 比值为 1.41、1.21、1.28、1.09、1.28、1.09);SM90 上主分支本来就能服务,对照主分支三组用例比值均为 1.00,无回退。测试侧新增 test_deltanet_fwd_serves_chunk_128_in_sm89_shared_memory,按 SM89 的设备事实检查分流决策,因此在 SM90 的 CI 上也能跑。

来源:https://github.com/tile-ai/TileOPs/pull/2891

3.3 TileOPs:反向 w/u 程序复用缓冲,114944 字节压到 98560 字节(#2890)

#2890(3 个文件,+155/−20)是和前一笔配对的另一半。自 #2625 之后,反向的 w/u 程序要从走出来的 dh 现组 du、dk_corr 与 dw,而 TileLang 0.1.12 把 dh 与 S、v_new 与 du 分别放在不同缓冲里,尽管它们的生命周期并不重叠,程序因此占 114944 字节,超出 SM89 的 101376。

改法是给 compute_w_u_bwd_tl 加 reuse 开关,仅在相等 head 维下启用:S、du、Aw 在各自最后一次读之后接管 dh、v_new、Au 的缓冲,程序落到 98560 字节;内核只在「不加开关时的界超出设备共享内存」时才置位,refusal 也按带 reuse 的界来读。另两处一并修好:walk 现在只在「单级就能装下」的宽度里挑 value 瓦片(此前在 batch 8、16 head、head 维 128/128 的 16 位用例上挑到需 131072 字节的瓦片,SM89 上启动即失败);_parallel_live_bytes 补算了每个 chunk 的梯度程序在组 partial du 时仍持有的 c×c 注意力瓦片。

最后这一项带出一串连锁结论:补算之后,refusal 会让 SM90 也拒绝三笔主分支放过去却跑不起来的调用(16 位 chunk 64、head 维 256/256 在 SM90 上启动需 237568 字节),并识别出 16 位 chunk 128、head 维 32/256 与 float32 chunk 64、32/256 在主分支上启动失败、16 位 chunk 128、16/256 根本编译不过。反向基准(bf16、batch 4、4096 token、8 head、chunk 64、head 维 128/128)1.530 毫秒对 FLA 1.554 毫秒,比值 0.98。

来源:https://github.com/tile-ai/TileOPs/pull/2890

3.4 TileOPs:测试按 cluster 与共享内存事实分流,SM89 失败从 9 条降到 3 条(#2889)

#2889(3 个文件,+26/−2)是这两笔修复的测试口径配套。那条断言「行远离零时仍按行归一」的 LayerNorm 融合加法用例,其 split 分支会构建 FusedAddLayerNormHeldKernel,而该内核只在 cluster 能把每个 12288 宽 float32 行切开时才持有这些行,只有 SM90 有 cluster;SM89 上 held 内核的规则会把这类行发给 fragment 内核,于是 #2811 与 #2846 加的四条用例在数值检查通过之后仍然失败。改法是先调 check_held_launch,在没有 cluster 的设备上跳过 split 用例;8192 宽的五条 split 用例在 SM89 上同样跳过。

另把两条只装得进 SM90 的用例显式标 sm90:#2637 加的 bf16 GLA 反向(chunk 128、head 维 64/64)与 #2645 加的 float32 DeltaNet 前向(chunk 128、64/128),两者各需 196608 字节共享内存。回归数据:单张 SM89 上四个测试文件从 40 通过 9 失败 3 跳过,变为 35 通过 3 失败 14 跳过;剩下三条是 chunk 32 的 GLA 反向,需要改内核才能过。单张 SM90 上两个版本的 46 项全部通过,说明跳过标记没有把 SM90 的覆盖带走。

来源:https://github.com/tile-ai/TileOPs/pull/2889

3.5 TileOPs:paged GQA 拆分计数以窗口内 key 瓦片为上界,在审(#2892)

#2892(2 个文件,+28/−11)在审,改 GQAPagedFwdKernel._splits_for 的上界。原来拆分计数在窗口把 key 范围收窄之前就按覆盖 SM 数来计算,于是三瓦片的窗口在 batch 1 上会开出 16 个 split;不含 RoPE 时还会朝「常驻」继续增长,把 combine 端的开销翻倍——combine 要在单个 CTA 上按行瓦片读每个 split 的 partial。

新规则是先把 cp.async 的拆分计数卡在窗口内 key 瓦片数上;不含 RoPE 时,超过覆盖 SM 数之后的上界取 isqrt(key_tiles * block_N / block_M),该点正好是 combine 的 partial 行数与一个 chunk 的 key 行数相当的位置。PR 评论里附了 #2496 要求的校准数据,覆盖 379 组配置的 regret 统计。同窗口新开的 #2893 是这一族的后续清单,仍开放。

来源:https://github.com/tile-ai/TileOPs/pull/2892 、 https://github.com/tile-ai/TileOPs/issues/2893

3.6 TileFoundry:一日六条分析器与规范缺口 issue,其中两笔由 TileOPs 作者跨仓提出(11-10)

窗口内 TileFoundry 新开 6 条 issue,分两组来源。

第一组是 #312 那次源码规范重组的直接产物,zhen8838 在 02:42 一分钟内连开四条,全部按「读代码发现、未用程序复现」标注:#314 的 JIT 缓存键只打印入口函数与拓扑,被调函数只以名字出现,于是两个入口文本相同、被调不同的 Module 会拿到同一个缓存键;#315 在调用方未给 topology_level 时默认取第一个有效拓扑,而不去问目标哪些层级声明了 max_physical_units;#316 在深度小于 4 的循环里按一次循环体时长推进游标,而不是按整个循环跨度,导致循环之后的作业不等循环结束;#317 的 passes.md §7.1 写明片上内存的被调返回值必须拷进调用方缓冲、否则必须以 LoweringError 失败,但 convert_hir_to_tir 里没有对应的拒绝实现。

第二组由 TileOPs 作者 lcy-seso 在 12:04 与 12:29 提出,都是拿真实算子去压分析器:#318 用一个逐元素 clamp 在 H200 上做放置定价,指出 CTA 网格超出一波之后,拆分输入的足迹被乘上波数,并注明同样的行为在 #298、#303、#307、#311 里报过、都被标为 not planned 关闭、在当前构建上依旧复现;#319 排一个 4096×7168×16384 的常驻 SM90 NT GEMM,一次给出五条发现,其中最硬的一条是 check --help 说 bf16 有 8 位显式尾数、舍入界 2^-9,而 bf16 实际是 7 位显式尾数、单位舍入 2^-8,按它推出来的 rtol 只有应有值的一半。

这组 issue 的形态值得注意:分析器的错价不是靠单元测试暴露,而是靠把真实算子放上去跑出来的,而提问题的人来自算子库一侧。

来源:https://github.com/tile-ai/TileFoundry/issues/314 、 https://github.com/tile-ai/TileFoundry/issues/319 、 https://github.com/tile-ai/TileFoundry/issues/318

3.7 第三方:Hexagon NPU 后端从空壳长成可跑端侧模型的分支,LFM2-1.2B 全程在 NPU 上跑通(11-10)

xwhzz/tilelang-hexagon 在 11-09 的窗口里还只是「README 仍为 TileLang 原文、未见可核实的后端改动」,本窗口 22:07 推送之后内容补齐了。该 fork 为高通 Hexagon NPU 增加 TileLang 后端,在骁龙 8 Elite 手机的 v79 cDSP 上开发与验证:T.copy、T.gemm、T.Parallel、T.reduce_*、T.Pipelined 这些瓦片操作编译成 HVX 向量代码、HMX 矩阵乘、VTCM 缓冲与 DMA 流,经 FastRPC 在 NPU 上执行。

验证对象是 LFM2-1.2B:batch 1 端到端跑通,prefill、decode 与采样全部由 TileLang 写就并在 NPU 上运行;投影层 4 位(GPTQ,每 64 列一个 fp16 scale),tied embedding 与 head 为 8 位,设备上 WikiText-2 困惑度 16.68,bf16 参考为 16.29。这对 TileLang 的边界意义明确:此前「非 NVIDIA、非昇腾」的后端多是 CPU 或国内加速卡,Hexagon 是第一个把完整解码回路放到手机 DSP 上的分支,且给出了精度对照而不是只给吞吐。

来源:https://github.com/xwhzz/tilelang-hexagon

四、社区、教程与活动

4.1 新闻侧:中英文三组查询窗口内零命中,HN 与 arXiv 同样无相关条目(11-10)

Google News 中文「TileLang」返回 28 条、「TileLang 或 tile 语言 算子 编译」10 条、「智源 算子 或 开源 算子库」37 条,英文「TileLang」23 条、「TileOPs 或 TileRT」10 条,按发布时间过滤后窗口内均为零;最新命中仍停在 10-28 的财富号文章与 10-21 的 SemiAnalysis。Hacker News 的命中全为同名噪音(Senior Pipeline Crisis、LimbaKit、Monoprint、VoxaDub 等),与 TileLang 无关。arXiv 上 all:"TileLang" 最新仍是 11-03 的 KV 压缩论文 v2,超窗。

新闻侧连续多日零命中属 TileLang 的常态:项目传播主要走 GitHub 与开发者社区,不在新闻索引里,报道主体继续以仓库动态为准。

来源:Google News 中英文五组查询(走代理)、Hacker News、arXiv,窗口内无相关条目。

4.2 邻近动向:Meta 发布 TLX 博文,Triton 的低层扩展已在三条生产负载上运行(11-10)

同一天 Meta 工程博客发布《How We Built TLX: A Hardware-Native GPU Compiler for Production ML at Scale》,讲的是 Triton Low-Level Extensions:在 Triton 的块式编程模型之上补显式的 warp-group 与 cluster 级编排,让开发者能用到 warp 特化、异步搬移、tensor memory 这类执行侧硬件能力而不放弃 Triton 的开发速度。文中给出三条已在生产运行的去向——推荐系统训练、推荐系统推理、大规模 LLM 预训练,并给了一张 10 个月内 Meta 内部内核数量增长的图:Triton 内核数增长约 3.8 倍,CUDA 约 2.0 倍。

把它放在 TileLang 日报里是因为它划出了同一条赛道的另一种解法:TileLang 从瓦片级 DSL 向上补自动调度与多后端,TLX 从 Triton 向下补显式编排。两者对「谁来写 kernel」的回答相反——TLX 让 ML 工程师继续用 Triton 并局部下沉,TileLang 让作者显式描述瓦片与流水再交给编译器。对照看,TileLang 这一年补的多是后端与算子正确性,编排层抽象仍压在 T.Pipelined 与 T.annotate_* 这组接口上。

来源:https://engineering.fb.com/2026/11/10/open-source/tlx-a-hardware-native-gpu-compiler-for-production-ml 、 https://arxiv.org/abs/2605.10905

4.3 新 issue:PTO 多 Cube/Vector 区域报重复物理段,其余集中于分析器与文档(11-10)

窗口内新开 10 条 issue,除 3.6 已写的 TileFoundry 六条外,另有四条:#3901([BUG][PTO] Multiple explicit Cube/Vector regions fail with duplicate physical section error)报同一内核里声明多个显式 Cube/Vector 区域时报重复物理段,属昇腾 PTO 下沉期的结构性限制,尚无修复 PR;#2893 是 paged GQA 的后续清单;#2001 是 tilelang-ascend 的每日测试日报(3060 项全过)。Metal 那条 #3907 已在 2.5 与修复 PR 一并写。

另有一条形态值得记:#3901 与 #3907 都是「同一内核里两个都合法的区域叠在一起才出错」,这类问题在单区域测试里永远不出现,只会在真实融合算子拼装时暴露。近几期的正确性 issue 几乎全是这个形状。

来源:https://github.com/tile-ai/tilelang/issues/3901 、 https://github.com/tile-ai/tilelang/issues/3907

五、趋势观察

第一,主仓的产出重心从算子转向原语。#3490 的预取与驱逐优先级、#3605 的 NaN 钳位、在审的 #3897 CPU 扫描算子与 #3903 进程并行编译,共同特征是「给作者一件新工具」,而不是「让某个算子快几个点」。这类改动的验收标准也不同:#3605 拿 SASS 里三条指令的存在与否作证据,#3490 拿计算能力门槛作边界,都可以脱离具体形状复核。对下游来说,这意味着 0.1.16 之后可用的写法会变多,但每个新原语都有自己的架构门槛,跨代移植要逐条核。

第二,共享内存预算成了线性注意力这条线的显性约束。SM89 的 101376 字节与需求侧的 114688、131072、196608 三个数字,决定了 chunk 取多大、走 walk 还是 recurrence、测试在哪个架构上跑。#2890 与 #2891 的解法思路一致:不硬压需求,而是让 dispatch 按设备事实选路,并在 refusal 里用同一个界,宁可提前拒绝也不在启动时崩。这个模式一旦在 DeltaNet 上跑顺,GLA 那一族大概率照抄——#2889 留下的三条 chunk 32 失败正好是下一块。

第三,测试口径正在从「按架构打叉」转向「按设备事实判定」。#2889 没有把 SM89 的用例删掉或永久 skip,而是先查 check_held_launch,再决定跳过;#2891、#2890 新增的两条测试也是按 SM89 的设备事实检查分流决策,因此在 SM90 的 CI 上照样能跑。这个做法比按设备算力打 skipif 标记稳,因为它验的是决策逻辑本身而不是硬件。

第四,TileFoundry 的错价问题在被算子侧反复顶回来。#318 明说同样的行为在四条已关闭的 issue 里报过、都被标 not planned,#319 一次给五条且带具体的 962.1 对 1213.6 GFLOP 偏差。分析器是 TileLang 那套「先定价再选调度」路线的前提,定价偏 26% 会让自动选择做出错误决定;这类缺口不会让任何单个算子变慢,但会让自动化在边界网格上系统性选错。

第五,RISC-V 侧的分歧在扩大而不是收敛。四源(TVM 路线、MLIR 路线、SOPHGO TPU、社区索引)整齐地停着,第三方 Weft 线却一天 40 笔,且已经把差距量化到单算子(SG2044 中位 0.0580 倍)。两条事实放在一起说明的是:停滞不是没人做,而是官方四源没有形成「自动发现差距、自动验证、自动排队」的回路——Weft 那条线是自己搭了基准引擎才跑起来的。若这套 553 例的基准能被官方四源引用为验收口径,RISC-V 侧的进展会第一次有可比的分母。


附、素材与核查说明

信源核查表

信源 核查结果
tile-ai 组织(30 仓库) 窗口内推送 7 个:tilelang、TileOPs、tilelang-musa、tilelang-mlir-ascend,另 3 个为自动推送(文档站、gh-pages、夜间快照)
tilelang 主仓 主分支 3 笔合入(#3911、#3605、#3490);在审更新 38 笔;新开 issue 2 条(#3901、#3907);无新 tag
TileOPs 主分支 4 笔合入(#2888、#2891、#2890、#2889);在审更新 2 笔;新开 issue 1 条(#2893)
TileOPs-nightly snapshots 分支自动推送 1 次(11-09 21:56),默认分支无提交
TileFoundry 窗口内无合入、无推送(最新 11-09 11:33);新开 issue 6 条(#314 至 #319,全部开放)
tilelang-ascend 默认分支 ascendc_pto 窗口内无合入(最新 11-06);在审更新 9 笔;每日测试 3060 项全过(11-10 11:38)
tilelang-hygon 窗口内无合入(最新 11-06 #33、#34);分布式融合算子 #36 在审(+2022 行)
tilelang-metax 窗口内无推送(最新 11-06 07:42)
tilelang-musa 合入 1 笔文档改动(#12);release 页无新版本(最新 v0.1.15+musa.1,09-30)
tilelang-mlir-ascend main 窗口内零提交;#217 合入 harness 分支;在审 #222 等
发布页(tilelang / TileOPs / TileFoundry / musa) 窗口内无新版本:v0.1.15(09-30)、v0.1.0(10-27)、v0.0.4rc1(10-25)、v0.1.15+musa.1(09-30);0.1.16 版本号 PR #3887 仍开放、11-09 后无更新
采用方 TileKernels / FlashQLA 窗口内无推送(10-14 / 10-30)
第三方 TileLang–Weft / weft-bench 窗口内分别提交 17 笔与 23 笔;基准 553 例全部通过数值检查,41 例快于参考实现;release 最新 v0.1.15-weft.2(11-05)
第三方 tilelang-hexagon 11-10 22:07 推送,README 补齐 Hexagon NPU 后端说明与 LFM2-1.2B 端到端结果
TileLang×RISC-V 四源巡检 无变化(四个上游引用与上期快照一致,24 小时窗口;连续第四个窗口)
Google News(中英文五组)/ Hacker News / arXiv 新闻侧窗口内零命中;HN 命中均为同名噪音;arXiv 最新相关为 11-03(超窗)
邻近技术动态 Meta TLX 博文 11-10 发布,属同赛道对照,非 TileLang 项目动态

完整信源清单

核查说明

本期窗口为 24 小时(周三)。合入数、在审数与新 issue 数取自 GitHub 检索真值(is:merged、is:open、created 三类查询,均按 merged/updated/created 时间倒序),并与逐仓主分支提交交叉核对:9 笔合入 = tilelang 3 + TileOPs 4 + tilelang-musa 1 + tilelang-mlir-ascend 1,其中 mlir-ascend 那笔合入 harness 分支(该仓默认分支为 main,本窗口 main 零提交),已在正文注明。性能与共享内存数字直接取自各 PR 正文的表格与 Result: 行,未作二次换算;#2888、#2891、#2890 三笔的 Result 行或对照基线均按原文记录,包括未达目标条与慢于 FLA 的情形。TileFoundry 六条 issue 分属两位提出者,其中 #314 至 #317 为规范重组后读码所得、未用程序复现,#318、#319 带真实算子与构建号,正文按此区分。RISC-V 四源巡检脚本输出为空,按既定口径记为「无变化」;2.8 的 Weft 线为本期新发现的第三方观察,不属四源,已明确标注来源为第三方仓逐笔提交与 README 表格。新闻侧五组 Google News 查询走代理,返回条目按发布时间过滤后窗口内为零;Meta TLX 属同赛道邻近动态,不计入 TileLang 项目进展。