调研窗口:2026-11-06 07:00 ~ 2026-11-09 07:00(北京时间,72 小时,覆盖周六周日;上一期截点为 11-06 07:00)。

信源:GitHub tile-ai 组织逐仓核查(30 仓库,窗口内推送 11 个)+ 合入与在审真值检索(72 小时内合入 71 笔、在审更新 96 笔、新开 issue 50 条)+ 主分支逐笔提交核查(tilelang 8、TileOPs 33、TileFoundry 5、topa 15、tilelang-ascend 7、tilelang-hygon 2、tilelang-mlir-ascend 1)+ 非默认分支核查(mlir-ascend 的 mlir-dialect 与 harness 分支、hygon 的分布式分支)+ 发布页核查(tilelang / TileOPs / TileFoundry 三仓,窗口内无新版本)+ 采用方两仓 + 文档站与夜间仓核查 + Google News 中英文六组查询(走代理)+ Hacker News + arXiv。RISC-V 四源专项巡检 72 小时无变化。


本期索引

  • 今日重点:TileFoundry 三笔分析器改动把「放置语义、TMA 同步、覆盖前旧数据顺序」写成可检查对象;TileOPs 33 笔与 topa 15 笔合入,占全组织 71 笔的 68%,性能工作已由夜间队列驱动;昇腾单日 14 条静态缺陷与 3060 项全过的测试并存;新闻侧只有摩尔线程 Day-0 适配与一条未经证实的 V5 转述
  • 一、核心项目进展
    • 1.1 主线:CuTeDSL 的 grid 同步改到每次启动的 workspace,多流并发不再串扰(#3868)(11-08)
    • 1.2 主线:CuTeDSL 有符号整数截断按 arith.divsi 语义修正(#3551)(11-08)
    • 1.3 主线:CuTeDSL 一次补齐 63 个文件的示例缺口,含 SM120 块缩放 MMA(#3685)(11-07)
    • 1.4 主线:CUDA 单次 kernel 启动可命名,profiler 里分得清阶段(#3816)(11-06)
    • 1.5 主线:多源缓存目录,读任意、只写第一个(#3807)(11-06)
    • 1.6 昇腾:移除 Z3 调度全局锁,冷编译最慢项 37.3 秒降到 25.6 秒(#3812)(11-06)
    • 1.7 昇腾:access_ptr 区域修复,跨行与转置视图不再丢 DMA 依赖(#3805)(11-06)
    • 1.8 示例:sm_12x 按可用动态共享内存选瓦片,RTX PRO 6000 全过(#3845)(11-08)
    • 1.9 新 issue 群:错误结果仍是最重的一类,涉及 WS 循环携带、复制循环原子、无符号语义(11-06 至 11-08)
  • 二、多后端适配
    • 2.1 昇腾:七笔合入,Chunk O 前向反向与 Sparse MLA SeeSaw 算子迁移落地(11-06)
    • 2.2 昇腾:每日测试 3060 项全过,11-09 工作流作业层失败(11-06 至 11-09)
    • 2.3 昇腾:单日 14 条静态缺陷,13 条修复 PR 在审(11-07)
    • 2.4 海光:scaled cast 与 reduce lane swap 合入,gfx928 声明支持但后端缺分支(11-06 至 11-08)
    • 2.5 沐曦:主分支只同步上游,连续第四个窗口无自有改动(11-06)
    • 2.6 mlir-ascend:TLIR 算术算子继续搬,bf16 缺 vadd/vmul 被量化(11-06 至 11-07)
    • 2.7 摩尔线程:仓库静默,MUSA 生态侧仍把 TileLang-MUSA 列入迁移路径(11-06)
  • 三、生态与采用方
    • 3.1 TileOPs:33 笔合入,性能项占绝大多数,每笔都带 A/B 与目标条(11-06 至 11-08)
    • 3.2 TileOPs:SM89 补齐 FP8 变长注意力、分组 GEMM 与 decode sinks(11-07)
    • 3.3 TileOPs:夜间性能差距从报表变成 wiki 队列与项目看板(11-07)
    • 3.4 TileFoundry:五笔合入,把不变量写成可检查对象;跨 CTA Partial 在审(11-06 至 11-08)
    • 3.5 topa:两天 15 笔,把「一轮」固化成 hunt / round / review 三条命令(11-07 至 11-08)
    • 3.6 采用方与第三方:TileKernels、FlashQLA 无推送;Kimi K3 注意力残差与 V4.1 Flash 片段出现(11-08)
  • 四、社区、教程与活动
    • 4.1 文档站六次更新,夜间仓无主分支提交(11-06 至 11-08)
    • 4.2 新闻侧:摩尔线程完成 Kimi-K3.1 Pro Day-0 适配;Foro3D 转述 DeepSeek V5 计划(11-06)
    • 4.3 检索面:Hacker News 无命中,arXiv 窗口内无新论文(11-06 至 11-08)
  • 五、趋势观察
  • 附、素材与核查说明

今日重点

这个窗口的产出重心是「分析器」,不是「生成器」。TileFoundry 三天合入五笔,其中三笔是把原本只存在于作者脑中的不变量写成可检查对象:#291 让 TMA 拷贝的共享操作数进入 async-proxy 语义,给每次 TMA 载入配一个 mbarrier 字,并在跨 CTA 场景拒绝「一个 CTA 走异步代理写、另一个 CTA 无顺序读同一全局元素」的程序;#293 定义放置值语义,把 Split / Broadcast / Varying / Partial 四种状态、B ⊔ V = V 的合并规则与 Reshard 的目标校验写成契约,同时删掉不再支持的 Dynamic 属性(64 个文件,+1165 至 -536);#301 处理「调度覆盖旧数据之前,仍需读旧数据的区域必须排在前面」,把顺序记进 LivenessMetadata.orders,排不出来就抛 AnalysisError。另两笔(#290、#288)修的是分析器自己的近似。

第二件事是流水线化。72 小时 71 笔合入里,TileOPs 33 笔、topa 15 笔,合计 68%;40 笔由同一作者提交。配合同期三笔 CI 改动(#2849 把夜间跑分的性能差距队列写进 wiki、#2852 同步到 Perf Tracker 项目、#2856 把追平的算子自动移到 Done),性能工作已经形成「夜间跑分 → 差距队列 → 单算子一轮 → 评审 → 合入」的闭环;topa 仓两天 15 笔(topa hunt、topa round start、topa round status、topa review prepare)正是这条闭环的命令行外壳。效率提升是真的,风险也是真的:单点作者叠加单点评审,会让流水线退化成一个人的流水线,72 小时 96 笔在审 PR 里仍有 59 笔压在 tilelang 主仓,评审带宽是下一个瓶颈。

第三件事在昇腾。11-07 单日,一个账号开出 14 条 issue,同日 13 条修复 PR 在审:gemm_blockscaled 的位置参数与公共签名分叉,导致 policy 被移进 clear_accum(#3857);vcvt 的 bf16 到 f16 把 round 与 sat 参数交换(#3829);vdupv 遇到未知 pos 静默映射到 HIGHEST(#3832);fp4 的 T.fill 在 SimdVF 里除零崩溃(#3852);kernel 缓存键漏掉 ASCEND_NPU_ARCH 与 PTO 工具链,可能把一套架构的产物复用到另一套(#3853)。这些缺陷的共同形态是「声明支持、实现分叉」:HCU_MCPU_SET 里有的架构,C++ 后端不一定有分支——海光 gfx928 的新 issue(#35)是同一形态。而同期每日测试 3060 项全过,说明通过率覆盖不到这些组合,测试数量不能替代形状组合的差分验证。

新闻侧只有两条与 TileLang 相关。摩尔线程 11-06 宣布基于 MTT S5000 与 MUSA 完成 3 万亿参数 Kimi-K3.1 Pro 的 Day-0 适配,迁移路径里明确列了 TileLang-MUSA;另一条是 Foro3D 11-06 的转述稿,称 DeepSeek 将在昇腾 950DT 上用 TileLang 栈训练 8 万亿参数的 V5;DeepSeek 官方并未公布该计划(现役最新为 V4.1 系列),只能作为传闻记录。RISC-V 四源 72 小时无变化,TVM 路线与 MLIR 路线都还停在 11-05 之前的引用。


一、核心项目进展

1.1 主线:CuTeDSL 的 grid 同步改到每次启动的 workspace,多流并发不再串扰(#3868)

合于 11-08 18:00。CuTeDSL 的 sync_grid() 原先把 barrier 计数与代际放在模块级全局(__grid_sync_ctr、__grid_sync_gen),同一 kernel 在两个流上并发启动会共享同一个 barrier:两个 grid 的到达被合并,某次启动可能在自己的 block 全部到达前就被放行,残留计数还会挂住后续启动。H200 NVL 上单次 17.4 毫秒、成对 17.8 毫秒,说明 cooperative launch 确实在并发。修法是用 inline PTX 复刻 cooperative_groups::details::sync_grids:barrier 字取驱动为每次 cooperative launch 提供的 grid workspace 的 barrier 字段,地址来自 %envreg1(高半)与 %envreg2(低半);每个 block 的 thread 0 做一次 atom.add.release.gpu,block 0 加 0x80000000 - (nblocks - 1)、其余加 1,再以 ld.acquire.gpu 自旋等 bit 31 翻转。状态按启动隔离,因此并发启动互不影响。回归测试在 main 上会挂死(300 秒被杀),修复后通过;作者同时保留了 CUDA 后端作对照,后者一直正确。

来源:https://github.com/tile-ai/tilelang/pull/3868

1.2 主线:CuTeDSL 有符号整数截断按 arith.divsi 语义修正(#3551)

合于 11-08 07:48。CuTeDSL 对有符号 TIR 的 DivNode 发出的是 Python 地板除,运行期 T.truncdiv(A[i], 3) 在 -7 上返回 -3 而不是 -2,后续的 floor/ceil 修正再基于这个商继续算,误差会扩散。改法是给有符号标量与向量发 tl.truncdiv(底层 MLIR arith.divsi),纯 Python 输入走精确整数运算,向量存储路径与无符号 lowering 不动。回归 25 例,覆盖 int8/int16/int32/int64、标量与向量、负除数、整数极值,以及「商乘除数加余数等于被除数」。报告者在 issue #2973 的讨论里独立用 CPU 参考与 MLIR 验证过,并指出纯 Python % 的边界,这条意见直接进了实现。

来源:https://github.com/tile-ai/tilelang/pull/3551

1.3 主线:CuTeDSL 一次补齐 63 个文件的示例缺口,含 SM120 块缩放 MMA(#3685)

合于 11-07 18:59,+7075 至 -394、63 个文件,是本期体量最大的一笔。新增面包括:warp vote、match 与位搜索,块谓词屏障,显式宽度的载入与存储及缓存提示,NaN 传播的 min/max,TMA 与 cluster 拷贝(multicast、store_cluster、gather4、scatter4),SM120 的块缩放 MMA(mxf4nvf4)与配套的 NVFP4 GEMM 示例。同一笔还修了 warp specialization 的一个老问题:夹在 pipeline 之前的 T.fill 被搬进 producer/consumer 分支后,即使隔着循环或条件,也会在每轮迭代后重跑,覆盖当轮 T.clear 的结果。

来源:https://github.com/tile-ai/tilelang/pull/3685

1.4 主线:CUDA 单次 kernel 启动可命名,profiler 里分得清阶段(#3816)

合于 11-06 17:45。一个 PrimFunc 里的多个 T.Kernel 原先共享自动生成的名字前缀,profiler 里分不清阶段。新增可选 name= 参数,T.Kernel(grid, threads=128, name="compute_stats") 与 T.ClusterKernel 都支持,生成的设备符号就是 compute_stats,不再附加 _kernel 后缀。名字经 tl.kernel_name 注解穿过 LowerOpaqueBlock,由 SplitHostDevice 生成设备函数时消费;显式名字校验为非空 ASCII 标识符,重名与宿主函数冲突走既有的全局符号供给,未命名的启动保持旧命名。文档同步覆盖了命名、宿主调用目标、非法输入、eager JIT、共享内存与 cluster 启动。

来源:https://github.com/tile-ai/tilelang/pull/3816

1.5 主线:多源缓存目录,读任意、只写第一个(#3807)

合于 11-06 13:31,+593 至 -288、18 个文件。TILELANG_CACHE_DIR 支持冒号分隔的多个目录,例如 /cache/read/and/write:/cache/readonly/A:/cache/readonly/B,编译产物可以从任意目录命中,但只写第一个。这对应集群里「共享只读缓存 + 本地可写层」的常见形态,能让一批构建共享同一份算子缓存。作者注明边界:CuTeDSL 后端在只读目录上可能出问题。

来源:https://github.com/tile-ai/tilelang/pull/3807

1.6 昇腾:移除 Z3 调度全局锁,冷编译最慢项 37.3 秒降到 25.6 秒(#3812)

合于 11-06 18:17。Ascend 的 Python 调度回调把所有 Z3 solve 用一把全局锁串行化,尽管每次调用已经持有私有的 Z3 context。移除后独立编译线程可以并行调度:8 线程、每 kernel 8 个配置的冷编译批处理里,SwiGLU backward 从 33.1 秒降到 30.0 秒,MoE gate forward 从 37.3 秒降到 25.6 秒。验证是 884 项既有 Ascend auto-schedule CPU 测试、64 个并发请求与串行结果一致,以及 16 个采样的 SwiGLU backward 与 MoE gate 配置在改动前后生成完全相同的调度、源码与设备 ELF。

来源:https://github.com/tile-ai/tilelang/pull/3812

1.7 昇腾:access_ptr 区域修复,跨行与转置视图不再丢 DMA 依赖(#3805)

合于 11-06 12:08。连续 SIMD 载入跨行、或使用转置视图时,access_ptr 重建的区域会丢失输入 DMA 依赖,AutoSchedule 因此可以把 load 排到 copy 之前,InsertSync 也就不再插 MTE2 到 V 的同步。改法是复用保守的指针区域重建:跨行时带上起始偏移,无法重建的布局回退到整缓冲;保留简单的一维正步长快路径。回归覆盖两个跨行用例与一个转置视图,分别在有/无 AutoSchedule 下验证「DMA → set/wait → load」顺序与事件 ID 对齐;171 项相关 host 侧 IR 测试通过,设备执行未测试(作者写明了这条边界)。

来源:https://github.com/tile-ai/tilelang/pull/3805

1.8 示例:sm_12x 按可用动态共享内存选瓦片,RTX PRO 6000 全过(#3845)

合于 11-08 06:25。dim=128 的 block-causal varlen 用例原先固定 128x128 瓦片,前向需要 128 KiB、dK/dV 约 192 KiB,而 sm_86/89/120 的动态共享内存上限约 99 KiB,启动直接报 Failed to set the allowed dynamic shared memory size。改为从 get_max_dynamic_shared_memory() 取 block_size:数据中心卡保持 128x128,小共享内存设备用 64x128(约 96 KiB),并保持 block_size 能被 dllm_block=64 整除。RTX PRO 6000(sm_120)上 CUDA 与 CuTeDSL 各 209 passed、26 skipped、0 failed;H200 NVL(sm_90)上 128x128 两例通过。作者称这是 #3701 留下的最后一个失败示例。

来源:https://github.com/tile-ai/tilelang/pull/3845

1.9 新 issue 群:错误结果仍是最重的一类,涉及 WS 循环携带、复制循环原子、无符号语义

窗口内主仓新开 29 条 issue,最重的是「算错但不报错」这一组。#3842:开启 warp specialization 后,pipeline 两轮之间对变量的更新只在 consumer 分支生效,producer 看不到,结果错误。#3870:被复制的并行循环里,对 fragment 的原子操作与读改写会在每个副本上各做一次。#3871:tvm_ffi 后端调用结束后不恢复调用方当前设备,调用方随后在错误设备上启动。#3877 与 #3881:NVRTC 路径下只有一个参数的 kernel 无法启动;cython 路径动态共享内存超过 48 KB 时在第二台设备上失败。#3866:Metal 的 packed FP16 向量算术按整数位模式运算,#3884 已在审(改用 half2)。CuTeDSL 的无符号语义也连开三条:#3874 原子 max/min 按有符号比较、#3876 无符号原子比较、#3875 从无符号缓冲读出的值应保持无符号。这批里前两条与上一窗口的 #3808、#3800 同型:编译器不报错,生成代码在特定组合下给出错误结果。

来源:https://github.com/tile-ai/tilelang/issues/3842、https://github.com/tile-ai/tilelang/issues/3870、https://github.com/tile-ai/tilelang/issues/3871、https://github.com/tile-ai/tilelang/issues/3877、https://github.com/tile-ai/tilelang/issues/3881、https://github.com/tile-ai/tilelang/issues/3866、https://github.com/tile-ai/tilelang/issues/3874、https://github.com/tile-ai/tilelang/issues/3876、https://github.com/tile-ai/tilelang/issues/3875


二、多后端适配

2.1 昇腾:七笔合入,Chunk O 前向反向与 Sparse MLA SeeSaw 算子迁移落地(11-06)

ascendc_pto 分支 11-06 下午连续合入七笔,集中在算子迁移与工具链:#1949 让 T.tile.bitwise_lshift 在 AscendC 与 PTO 上支持张量移位量(此前只接受标量);#1959 修 PTO bitwise_xor 的 uint8 workspace view 形状;#1866 迁入 Chunk O 前向、#1802 迁入 Chunk O 反向、#1869 迁入 Sparse MLA Forward 的 SeeSaw 实现;#1953 新增 fla_chunk_o 示例与测试;#1990 更新每日测试的 CI 通知接收人。这一批的共同点是「把已经在分支上验证过的 FlashAttention 系算子搬进主线」,而不是改后端底座。

来源:https://github.com/tile-ai/tilelang-ascend/pull/1949、https://github.com/tile-ai/tilelang-ascend/pull/1959、https://github.com/tile-ai/tilelang-ascend/pull/1866、https://github.com/tile-ai/tilelang-ascend/pull/1802、https://github.com/tile-ai/tilelang-ascend/pull/1869、https://github.com/tile-ai/tilelang-ascend/pull/1953、https://github.com/tile-ai/tilelang-ascend/pull/1990

2.2 昇腾:每日测试 3060 项全过,11-09 工作流作业层失败(11-06 至 11-09)

每日测试报告四份:#1993(11-06)3032 项全过、#1995(11-07)与 #1996(11-08)均为 3060 项全过、通过率 100%;#1997(11-09 05:50)报 Workflow test job failure,是 GitHub Actions 作业层失败而非用例失败,产物 test-results 保留 30 天,接收人已指派。把这份报告与 2.3 的 14 条静态缺陷并置看,3060 项覆盖的是「已收录的形状」,覆盖不到「声明支持但实现分叉」的组合。

来源:https://github.com/tile-ai/tilelang-ascend/issues/1993、https://github.com/tile-ai/tilelang-ascend/issues/1995、https://github.com/tile-ai/tilelang-ascend/issues/1996、https://github.com/tile-ai/tilelang-ascend/issues/1997

2.3 昇腾:单日 14 条静态缺陷,13 条修复 PR 在审(11-07)

11-07 主仓新开 29 条 issue 里有 14 条是昇腾后端,全部来自同一账号的静态审计,同日有 13 条修复 PR 在审(#3834、#3835、#3836、#3843、#3844、#3849、#3850、#3851、#3854、#3860、#3861、#3862、#3863)。代表性的几条:gemm_blockscaled 的位置参数与公共签名分叉,policy 被移进 clear_accum(#3857);T.simd.vcvt 的 bf16 到 f16 交换 round 与 sat(#3829),同时拒绝文档里写明的 int32/int64 到 float16(#3833);vdupv 未知 pos 静默落到 HIGHEST(#3832);pset 接受不支持的位宽并发出 pset_b4/pset_b64(#3831);fp4 的 T.fill 在 SimdVF 里 ComputeVRegSize 除零,编译器 SIGFPE(#3852);vgatherb 把 FP4 结果寄存器声明成物理宽度的两倍(#3839);kernel 缓存键漏掉 ASCEND_NPU_ARCH 与 PTO 工具链(#3853);T.gemm 的形状检查用裸 assert,python -O 下直接消失(#3840);annotate_unlimit_memory 拒绝自己错误信息里让用户传的 "shared.ss"(#3846)。另有一条结构性问题:CodeGenTileLangPTO::VisitExpr_ 是 1441 行的分发链,SIMD 算子分类在七处重复(#3848),这是后续维护成本的来源。

来源:https://github.com/tile-ai/tilelang/issues/3857、https://github.com/tile-ai/tilelang/issues/3829、https://github.com/tile-ai/tilelang/issues/3833、https://github.com/tile-ai/tilelang/issues/3832、https://github.com/tile-ai/tilelang/issues/3831、https://github.com/tile-ai/tilelang/issues/3852、https://github.com/tile-ai/tilelang/issues/3839、https://github.com/tile-ai/tilelang/issues/3853、https://github.com/tile-ai/tilelang/issues/3840、https://github.com/tile-ai/tilelang/issues/3846、https://github.com/tile-ai/tilelang/issues/3848

2.4 海光:scaled cast 与 reduce lane swap 合入,gfx928 声明支持但后端缺分支(11-06 至 11-08)

两笔功能合入:#33 支持 scaled cast,#34 处理 reduction 的 lane swap 与布局推断。随后 #35 报出一个架构级问题:K500SM_AI(gfx928,即 K100AI)在 tilelang/hcu/target.py 的 HCU_MCPU_SET 里被声明支持,determine_target("auto") 也能正确识别 mcpu=gfx928,但 src/hcu/ 的 C++ 端(target_utils.cc、copy.h、reduce.h、scan.h、hcu_fp8.h、mls/*.hpp)普遍没有 gfx928 分支,于是「声明支持、实际编译不过」。报告者给出了关键架构差异:gfx928 无 FP64、部分 Matrix Core 指令与 INT4,与 gfx936 不同。在审的两条是分布式路径:#36 加 Block-Push 版 GEMM+AR 与 GEMM+RS,#19 是 Distributed 分支的旧 PR。

来源:https://github.com/tile-ai/tilelang-hygon/pull/33、https://github.com/tile-ai/tilelang-hygon/pull/34、https://github.com/tile-ai/tilelang-hygon/issues/35、https://github.com/tile-ai/tilelang-hygon/pull/36、https://github.com/tile-ai/tilelang-hygon/pull/19

2.5 沐曦:主分支只同步上游,连续第四个窗口无自有改动(11-06)

窗口内唯一一次推送把 main 从 a35f8ddf 推到 64b52b4b,但 tip 提交是上游的 #3760([Language] Reuse macro transformation templates,committer 日期 11-05),也就是一次上游同步,没有自有适配提交。这是沐曦连续第四个窗口没有自有改动;与昇腾、海光相比,沐曦后端在这段时间处于维护而非开发状态。

来源:https://github.com/tile-ai/tilelang-metax

2.6 mlir-ascend:TLIR 算术算子继续搬,bf16 缺 vadd/vmul 被量化(11-06 至 11-07)

mlir-dialect 分支合入 #203,把 tl.sub、tl.mul、tl.div、tl.max、tl.min 加进 TLIR,并补 TL 到 HIVM 的 lowering 与测试;同期在审的还有 #211(tl.shl)、#212(tl.shr)、#214(tl.cast)、#218(tl.and),一个算子一个 PR 地搬。harness 分支另有三笔(交互式 onboard 环境准备、项目契约与交付检查、项目隔离与归档生命周期)。两条新 issue 把 bf16 的性能问题量化了:#216 指出 bf16 缺 vadd/vmul,每次 residual-add 与 weight-mul 要多走两个 fp32 pass,FusedAddRMSNorm 只有 50% 而 fp16 是 60%;#213 指出 bf16 与 fp16 的 cast 不支持、bf16 向量运算半速,bf16 归约比 fp16 慢约 25%。

来源:https://github.com/tile-ai/tilelang-mlir-ascend/pull/203、https://github.com/tile-ai/tilelang-mlir-ascend/issues/216、https://github.com/tile-ai/tilelang-mlir-ascend/issues/213

2.7 摩尔线程:仓库静默,MUSA 生态侧仍把 TileLang-MUSA 列入迁移路径(11-06)

tilelang-musa 最后推送停在 11-05(窗口外),本窗口无提交。但 11-06 摩尔线程的 Kimi-K3.1 Pro Day-0 公告里,迁移路径明确写着「通过 MATE 算子库、Triton-MUSA、TileLang-MUSA 及 MTCC 编译器,完成新架构关键计算路径的迁移与接入」,说明 TileLang-MUSA 已经进入实际模型适配的工具链,而不是只存在于仓库里。

来源:https://news.qq.com/rain/a/20261106A0FH3900


三、生态与采用方

3.1 TileOPs:33 笔合入,性能项占绝大多数,每笔都带 A/B 与目标条(11-06 至 11-08)

72 小时内 TileOPs 合入 33 笔,是组织内最活跃的仓库。按主题归并:逐元素与归约侧,#2869 给 float32 倒数每线程两个 16 字节向量,1600 万行在 16 个内存放置里原本有 12 个落后 torch.compile(最差比值 0.9917),改后一个都不落后;#2867 把一波比较行广播拆成两轮、块数减半,并把 16 位 ne 改成单条 __hneu、修掉 logical_and/or 把 NaN 读作假的老问题(作者标注结果低于目标条);#2851 去掉 bf16 与 f32 除法的逐元素分支;#2862 让 float16 除法在次正规数平局上按 torch 的方式舍入。归一化与注意力侧,#2866 把 8192 宽的 RMSNorm 长启动改成读两遍、每 warp 四行 256 宽;#2846 稳定平移后的统计量与方差归约;#2848、#2854、#2843 分别处理分页 split 的常驻度、SM90 变长 GQA 的 decode 打包、gathered paged split 的共享内存占位。GEMM 与量化侧,#2863 填满 basic 与 split-K 瓦片的 SMEM 环、把 bias 放进 producer、给 GEMV 换更深的环;#2864 在 kernel 内读分组起点并按组行数选瓦片;#2865 用 TMA 载入 128 行瓦片的 FP8 A scale;#2853 对 M=128 的 o-proj FP8 GEMM 在 CTA 对上拆 K;#2844 把 INT8 W8A8 的 96 与 160 宽瓦片发成一条对应宽度的 WGMMA;#2842 把 INT8 per-tensor 反量化收敛到无分支路径。存储与池化侧,#2868 让相邻 lane 交换 16 字节的 int64 位置,使每次 16 字节存储填满 32 字节 sector(vgg-block 原本为 501760 个写入发出 900444 个 sector、在 warp 退出时被 drain 卡住),并用窗口第一个 tap 初始化、省掉一次比较与选择。维护面另有 #2857、#2858、#2859、#2850 四笔清理与重构。

来源:https://github.com/tile-ai/TileOPs/pull/2869、https://github.com/tile-ai/TileOPs/pull/2868、https://github.com/tile-ai/TileOPs/pull/2867、https://github.com/tile-ai/TileOPs/pull/2866、https://github.com/tile-ai/TileOPs/pull/2865、https://github.com/tile-ai/TileOPs/pull/2864、https://github.com/tile-ai/TileOPs/pull/2863、https://github.com/tile-ai/TileOPs/pull/2862、https://github.com/tile-ai/TileOPs/pull/2851、https://github.com/tile-ai/TileOPs/pull/2846、https://github.com/tile-ai/TileOPs/pull/2848、https://github.com/tile-ai/TileOPs/pull/2854、https://github.com/tile-ai/TileOPs/pull/2843、https://github.com/tile-ai/TileOPs/pull/2844

3.2 TileOPs:SM89 补齐 FP8 变长注意力、分组 GEMM 与 decode sinks(11-07)

消费级与工作站卡的支持面在这一窗口集中补齐:#2855 在 SM89 上打开普通 FP8 变长 GQA kernel(warp specialization 实现仍限 SM90,用显式子类声明),作者给了 RTX 6000 Ada、PyTorch 2.13.0+cu130 的完整调用时间与 CUPTI GPU 时间对比,并注明「候选总在 Torch 之前跑,未控制执行顺序效应」;#2840 支持 SM89 的 prefill sinks 并保持 packed 输入 ABI;#2845 支持 SM89 的 dense decode sinks;#2841 支持 SM89 上对齐的 FP8 grouped GEMM。功能面还有 #2823 给 GEMMFwdOp 加可选 bias,覆盖 dense、GEMV 与 split-K 三条路径;#2847 修 FP8 dense prefill 的输入与 RoPE 精度;#2838 接受宽操作数行的 TN 单元素收缩。这批改动意味着 SM89(RTX 6000 Ada、L40S 一类)不再是「只能跑 CUDA 参考实现」的架构。

来源:https://github.com/tile-ai/TileOPs/pull/2855、https://github.com/tile-ai/TileOPs/pull/2840、https://github.com/tile-ai/TileOPs/pull/2845、https://github.com/tile-ai/TileOPs/pull/2841、https://github.com/tile-ai/TileOPs/pull/2823、https://github.com/tile-ai/TileOPs/pull/2847、https://github.com/tile-ai/TileOPs/pull/2838

3.3 TileOPs:夜间性能差距从报表变成 wiki 队列与项目看板(11-07)

三笔 CI 改动把「跑分结果」变成「可执行队列」:#2849 把每个 night 的性能差距队列写进 wiki 的 Perf Tracker;#2852 把该队列同步成 GitHub 项目看板;#2856 在每个算子追平后自动移到 Done。同日 #2860 是这条流水线产出的一个例子:softmax 输入行超过 L2 时改用 evict-last 载入,避免把后续还要用的行挤出缓存。这套机制的价值不在自动化本身,而在把「哪个算子还差多少、差在哪个形状」变成公开、可排队、可结项的条目,减少了性能工作对个人记忆的依赖。

来源:https://github.com/tile-ai/TileOPs/pull/2849、https://github.com/tile-ai/TileOPs/pull/2852、https://github.com/tile-ai/TileOPs/pull/2856、https://github.com/tile-ai/TileOPs/pull/2860

3.4 TileFoundry:五笔合入,把不变量写成可检查对象;跨 CTA Partial 在审(11-06 至 11-08)

除今日重点里展开的三笔,另有 #290 与 #288:前者让 isl 关系在常数乘积除子上保持精确,避免调度分析因整数近似而误判;后者把「已完成的部分归约」计入代价,修正了此前把 partial 归约按未完成计价的偏差。在审的 #292 要支持跨 CTA 的 Partial 归约与 split-K 调度,正好接上 #293 定义的放置语义——#293 已把跨 CTA Partial 限定在分配分析内,归约 lowering、多份 gmem 副本的运行时读取与 split-K 调度留给 #292。这条线如果合入,TileFoundry 就能表达「一个张量按 CTA 切开、各写一份部分和、最后合并」这类分布式 GEMM 的常见形态。

来源:https://github.com/tile-ai/TileFoundry/pull/290、https://github.com/tile-ai/TileFoundry/pull/288、https://github.com/tile-ai/TileFoundry/pull/292

3.5 topa:两天 15 笔,把「一轮」固化成 hunt / round / review 三条命令(11-07 至 11-08)

topa 是组织内 10-04 才建的新仓,定位写在 README 的横幅上:「TileFoundry and TileOPs, a Path to Autonomous kernel engineering」。两天 15 笔合入,主要把工作流固化:topa hunt 从 wiki 取最新一夜的性能差距队列,topa round start <Op> 起一轮「一个 agent、一块 GPU、一个算子」,topa round status 看每一轮的 agent 与 PR,topa review prepare <PR> 按检查清单做一次评审。配套改动包括:把 PR 体限制为 squash 提交携带的 Summary(#7 系列)、给队列轮次带上该算子此前的尝试记录(#16)、在 PR 打开前用检查清单评审整份 diff(#19)、round stop --rm 清理本轮建的 worktree(#21)、CI 跑 Python 3.11 与 3.13 的单测与 ruff(#14)。这不是编译器改动,但它解释了为什么 TileOPs 的 perf PR 能在两天里排到 33 笔。

来源:https://github.com/tile-ai/topa、https://github.com/tile-ai/topa/pull/5、https://github.com/tile-ai/topa/pull/16、https://github.com/tile-ai/topa/pull/19、https://github.com/tile-ai/topa/pull/21、https://github.com/tile-ai/topa/pull/14

3.6 采用方与第三方:TileKernels、FlashQLA 无推送;Kimi K3 注意力残差与 V4.1 Flash 片段出现(11-08)

官方采用方两仓在窗口内无推送:deepseek-ai/TileKernels 停在 10-14,QwenLM/FlashQLA 停在 10-30。第三方侧出现两个值得一提的新仓:Index4NekoMeteor/Tilelang-AttnRes 用 TileLang 实现 Kimi K3 的 Attention Residual 架构(仅前向),测试环境是 Windows 11、9800X3D 与 RTX 5080;kevin3113/models-tilelang 放了 DeepSeek V4.1 Flash 的模型片段示例,其中 L0 的「Attention 输出 + FFN 前处理」由 7 个 ops-tilelang 算子串成,依次做 post、带平方和的 GEMM、部分和归约加 RMSNorm、按 split 混合等步骤。另有 xwhzz/tilelang-hexagon 是上游 fork,README 仍为 TileLang 原文,未见可核实的 Hexagon 后端改动。

来源:https://github.com/deepseek-ai/TileKernels、https://github.com/QwenLM/FlashQLA、https://github.com/Index4NekoMeteor/Tilelang-AttnRes、https://github.com/kevin3113/models-tilelang、https://github.com/xwhzz/tilelang-hexagon


四、社区、教程与活动

4.1 文档站六次更新,夜间仓无主分支提交(11-06 至 11-08)

tilelang.github.io 在窗口内六次 Update docs(11-06 两次、11-07 一次、11-08 两次,另有一次凌晨提交),对应主仓本轮新增的 kernel 命名、多源缓存与 CuTeDSL 示例;TileOPs.github.io 有一次推送。TileOPs-nightly 在 11-08 22:07 有推送,但主分支无新增提交,属夜间跑分产物刷新。

来源:https://github.com/tile-ai/tilelang.github.io、https://github.com/tile-ai/TileOPs.github.io、https://github.com/tile-ai/TileOPs-nightly

4.2 新闻侧:摩尔线程完成 Kimi-K3.1 Pro Day-0 适配;Foro3D 转述 DeepSeek V5 计划(11-06)

摩尔线程 11-06 宣布,基于 MTT S5000 与 MUSA 软件栈完成 Kimi-K3.1 Pro(3 万亿参数、100 万上下文)的 Day-0 适配,打通模型加载、服务启动与文本/图片推理链路;官方说明里写明团队通过 SGLang-MUSA 承接上游实现,并用 MATE 算子库、Triton-MUSA、TileLang-MUSA 与 MTCC 编译器完成关键计算路径迁移,稀疏注意力 DSA 的索引选择、KV 缓存布局与 Prefill/Decode 路径也在适配范围内。公开报道提到验证配置为 6 台服务器、每台 8 张 S5000,共 48 卡,公告本身没有披露吞吐与并发数字。

同日 Foro3D 的英文稿称,DeepSeek 计划在华为昇腾 950DT(Atlas SuperPoD)上从零训练约 8 万亿参数的 V5,并称其软件栈用 TileLang、DeepGEMM-Ascend 与 FlashMLA 把 MFU 提到 45%、采购规模 16 万片。需要说明:DeepSeek 官方并未公布 V5 计划,公开可查的最新仍是 V4.1 系列(V4.1-Flash 与 10-17 的 V4.1-Flash-1017),第三方追踪站也把 V5 标为未发布,因此这条只能作为传闻记录,不能当作既成事实。

来源:https://news.qq.com/rain/a/20261106A0FH3900、https://foro3d.com/en/2026/noviembre/deepseek-prepara-su-v5-de-8-billones-de-parametros-sobre-silicio-huawe.html

4.3 检索面:Hacker News 无命中,arXiv 窗口内无新论文(11-06 至 11-08)

Google News 中英文六组查询命中 15 条,去重后与 TileLang 有关的只有 4.2 的两条,其余是 DeepSeek 与昇腾的旧稿或无关财经稿。Hacker News 以 tilelang 查询窗口内 0 命中。arXiv 以 all:tilelang 检索,最新相关条目是 11-03 的 KV 压缩论文(v2),窗口内无新论文。

来源:https://news.google.com/、https://hn.algolia.com/、https://arxiv.org/


五、趋势观察

第一,自动化的闭环已经成形,但闭环的重心从「写代码」移到了「定契约」。topa 的 15 笔没有一行 kernel 代码,全是轮次规则、评审清单、PR 体格式与 worktree 清理;TileOPs 的 33 笔里大部分是「按目标条改一个参数、给一组 A/B」;TileFoundry 的 5 笔则是在定义什么叫「放置相等」「TMA 完成」「覆盖前的读」。三者叠起来是一条完整的流水线:夜间跑分发现差距,队列分配算子,agent 在 TileFoundry 的调度空间里改,评审按清单核对数字,合入后自动结项。这条流水线的产出效率已经体现在数字上(72 小时 71 笔),但它对「契约写得够不够清楚」极其敏感——今天 #2867 标注「低于目标条」仍被合入,#301 在排不出顺序时选择报错而不是猜,都是契约在起作用的样子。

第二,昇腾的瓶颈从「能不能编译」变成「声明与实现是否一致」。14 条 issue 里没有一条是「不支持某功能」,全是「声明支持但实现走了另一条路」:HCU_MCPU_SET 有 gfx928 而 C++ 没有分支(海光同理)、T.simd.vcvt 文档写了 int32/int64 到 f16 而实现拒绝、annotate_unlimit_memory 的错误信息让用户传 "shared.ss" 而函数自己拒绝、gemm_blockscaled 的位置参数与公共签名分叉。这类缺陷的共同修法不是加功能,而是把「声明」与「实现」放在同一张表里做生成式检查——例如从 HCU_MCPU_SET 生成后端必须覆盖的架构清单,从 intrinsic 注册表生成 dtype/位宽支持矩阵。在做到这一点之前,3060 项全过的测试报告只能说明「已测的组合没问题」。

第三,CuTeDSL 正处在「功能覆盖接近 CUDA、正确性边界尚未收敛」的阶段。#3685 一次补 63 个文件、把 cluster TMA、SM120 块缩放 MMA、Philox、warp vote 这些 CUDA 侧早已有的能力补齐,说明功能面对齐已经接近完成;但同一窗口的缺陷全在边界上:多流并发下的 grid barrier(#3868)、有符号整除(#3551)、无符号原子与无符号缓冲(#3874/#3875/#3876)。这些都不是「没实现」,而是「实现了但语义与 CUDA 不一致」。对使用者的实际建议是:CuTeDSL 路径适合用来跑示例与开发,生产 kernel 在换后端前应做一轮与 CUDA 后端的逐元素差分,尤其是涉及负数除法、无符号比较与多流并发的场景。

第四,性能优化的记录方式在变。TileOPs 这批 PR 的特点是每笔都写清楚「哪个 op、哪个 benchmark、结果是否达标、根因是什么」:#2868 给出 900444 个 sector 对 501760 个写入的具体数字,#2869 给出 16 个内存放置里 12 个落后的分布,#2855 给出 12 轮热身、每轮 10 次调用的中位数并主动声明「未控制执行顺序效应」。这种写法让「没达标」也能合入(#2867),因为读者能判断它是否值得。相比之下,只写「提升 X%」的 PR 在评审时无法区分是 kernel 变快还是测量变了。

最后是 RISC-V 线。四源巡检 72 小时无变化:kubuds/tilelang-riscv-kubuds 的两个 kubuds- 分支、RuyiAI-Stack/tilelang-riscv 的 MLIR 路线、TongmingLAIC/tilelang-riscv 索引页与 TongmingLAIC/tilelang-tpu 的 SOPHGO 分支都停在原引用。这与主线的节奏形成对比:GPU 侧的 agent 化流水线已经把迭代压到「天」,RISC-V 侧仍是「周」级的人工推进。两条线的差距不在工程量,而在有没有一条能自动发现差距、自动验证、自动排队的回路。


附、素材与核查说明

信源核查表

信源 核查结果
tile-ai 组织(30 仓库) 窗口内推送 11 个仓库;新仓 topa(10-04 建)两天 15 笔合入
tilelang 主仓 主分支 8 笔合入;新开 issue 29 条;在审 59 笔(CuTeDSL、Ascend、WS、JIT 四簇)
TileOPs 主分支 33 笔合入;在审 12 笔;无新 issue
TileFoundry 主分支 5 笔合入;新开 issue 14 条(多为分析器缺口);在审 1 笔(#292 跨 CTA Partial)
topa 主分支 15 笔合入;无 issue;无 release
tilelang-ascend ascendc_pto 分支 7 笔合入;4 条 issue 中 3 条为每日测试报告、1 条为工作流失败
tilelang-hygon 2 笔合入(#33、#34);新 issue 1 条(gfx928);在审 2 笔(#19、#36)
tilelang-mlir-ascend mlir-dialect 合入 #203;harness 3 笔;新 issue 2 条;在审 5 笔
tilelang-metax 主分支仅同步上游(tip 为 #3760),无自有提交
tilelang-musa 窗口内无推送(最后 11-05)
发布页(tilelang / TileOPs / TileFoundry) 窗口内无新版本:tilelang 仍为 09-30 的 v0.1.15,TileOPs 为 10-27 的 v0.1.0,TileFoundry 为 10-21 的 v0.0.3
TileKernels / FlashQLA 窗口内无推送(10-14 / 10-30)
文档站(tilelang / TileOPs / nightly) tilelang.github.io 6 次 Update docs;TileOPs.github.io 1 次;夜间仓主分支无提交
TileLang×RISC-V 四源巡检 无变化(四个上游的引用与上期快照一致,72 小时窗口)
Google News(中英文六组)/ Hacker News / arXiv 新闻侧仅两条相关(摩尔线程 Day-0、Foro3D 转述);HN 0 命中;arXiv 窗口内无新论文

完整信源清单

核查说明

  1. 本报告为周一窗口,覆盖 2026-11-06 07:00 至 2026-11-09 07:00 共 72 小时,含周六周日;与上一期(11-06 07:00 截点)不重叠。
  2. 合入真值以 GitHub is:merged 检索为准;主分支新增以逐仓 commits?since= 复核。tilelang-metax 的推送是上游同步,tip 提交的 committer 日期早于窗口起点,按「无自有改动」处理。
  3. 新闻侧仅两条与 TileLang 相关。摩尔线程一条来自官方公告转述,含具体迁移路径;Foro3D 一条为二手转述,DeepSeek 官方未公布 V5 计划,报告中已标注「未经官方确认」,不作为事实使用。
  4. 性能数字均取自 PR 描述原文(目标条、A/B 比值、sector 数、耗时),未做二次换算;#2867 原文标注「低于目标条」,报告如实保留。
  5. RISC-V 四源巡检 72 小时无变化,相关引用与上期快照一致,故未单列小节。
  6. 本报告不包含任何本机路径、代理地址或内网信息;所有链接均为公开可访问地址。