调研窗口:过去 3 天(2026-09-25 07:00 ~ 2026-09-28 07:00,北京时间;含周末时段,上次出报为 09-25)。本期为周一三期合并窗口,与上一期无重叠。 信源:GitHub(tile-ai 组织 29 仓库推送核查,窗口内 6 个仓库有推送;TileOPs 35 笔合入与「Manifest 参数化签名」整轮迁移、200 算子发布计划开出;主仓 SM120 块缩放 GEMM 两笔合入与 FP8 向量拷贝提速实测;TileFoundry AtomSched 七笔合入;夜间快照 5 份全部零失败;采用方 FlashQLA 修复与文档站更新)、Google News RSS 中英文多组查询(走代理,零命中)、Hacker News、arXiv、社区仓库核查


本期索引

  • 今日重点:TileOPs「Manifest 参数化签名」整轮迁移完成——17 笔合入,200 算子发布计划同日开出(09-26/09-27)
  • 一、核心项目进展
    • 1.1 主仓:SM120 块缩放 GEMM 两笔合入——碎片驻留支持与布局冲突拒绝(09-26/09-27)
    • 1.2 主仓:FP8 向量拷贝保持打包,条件拷贝内核实测 1.42 倍(09-25)
    • 1.3 主仓:窗口内新开十笔,RNG 队列与异步暂存重构仍待审(09-25~09-27)
    • 1.4 TileOPs:注意力整编——SM90 预填充三连与解码统一、遗留路径移除(09-25~09-28)
    • 1.5 TileOPs:线性注意力、FFT 重写与算子杂项合入(09-25~09-28)
    • 1.6 TileOPs:测试与基准体系重构,manifest 一致性用例落地(09-26/09-27)
    • 1.7 TileFoundry:AtomSched——指令化张量调度与分阶段内存分析七笔(09-25~09-28)
    • 1.8 夜间快照:窗口内 5 份全部零失败,最新 1093 项正确性 + 1318 项基准(09-28 凌晨)
  • 二、多后端适配(昇腾 / MLIR 昇腾 / 沐曦 / 海光 / 摩尔线程)
    • 2.1 五仓窗口内零推送、零 PR 更新(09-28 核查)
  • 三、生态与采用方
    • 3.1 采用方:FlashQLA 修复 Blackwell 路径内核同步(09-26)
    • 3.2 采用方与社区:TileKernels 无推送,SoftHier 扩展无窗口内更新(09-28 核查)
    • 3.3 版本节奏:主仓 v0.1.14 满 26 天,TileRT 发布页滞后 4 天(09-28)
  • 四、社区、教程与活动
    • 4.1 文档站:TileOPs 文档站三连更跟进 Manifest 迁移;主仓文档站例行更新(09-26/09-27)
    • 4.2 媒体与学术侧:Google News 零命中,arXiv 无新预印本(09-28 核查)
  • 五、趋势观察
    • 5.1 「先定契约」的制度化:从 roofline 自查到发布计划
    • 5.2 SM120 线的小步快跑与 lowering-only 测试策略
    • 5.3 注意力内核:从多路径并行到单一谱系
    • 5.4 空白与风险点
  • 附:素材与核查说明

今日重点:TileOPs「Manifest 参数化签名」整轮迁移完成——17 笔合入,200 算子发布计划同日开出(09-26/09-27)

日期:2026-09-26、2026-09-27 来源:设计文档 PR(#2209)/ 签名检查与生成(#2212)/ 200 算子跟踪议题(#2271)/ 24 条 spec-only 条目(#2279)

09-26 08:02 至 09-27 11:57(北京时间),TileOPs 的 Manifest 系列 17 笔 PR 陆续合入,把算子清单从 YAML 表格改写为「参数化签名」(parametric signature),并在同一窗口开出 200 算子发布计划:

  • 设计(#2209,09-26 08:02 合入):每个算子在 manifest 中写成一条参数化签名——forall 索引与种类、类型族与代数数据类型(ADT)、闭合表达式语言、读写效应、带生成器的工作负载行、校验清单;roofline 定价改为对 ix 上的内联表达式求值;算子设计文档、信任模型、测试指南与 agent 领域规则同步改写(13 文件、+633/-1193,删多于增)。
  • 实现(#2212 至 #2227,09-26 全天至 09-27 中午):签名检查与算子方法生成改为由清单推导(#2212);各算子族逐批转换——elementwise(#2216)、moe(#2218)、reduction/normalization(#2221)、linear_attention(#2222)、gemm/quantization/convolution(#2223)、attention(#2224)、mamba(#2214)、pool/scan/rope/sequence-modeling/FFT(#2217);收尾笔(#2225,09-27 10:32)把最后一批 gemm 条目转换完毕,并删除遗留 manifest 路径;manifest YAML 迁入 spec/ 目录、统一文件命名(#2227)。配套行为变更:对树内无内核声明的设备调用算子,改为抛出 OpNotAvailableError(#2219)。
  • 发布计划(09-27 晚间):跟踪议题「TileOPs 200-operator release plan」(#2271)开出——目标 200 条 manifest 条目(按 implemented + spec-only 计数;只算新算子,扩展与调度不计),附最坏情况推算表;同日 PR #2279 为计划补上 24 条 spec-only 条目与新的 sampling 族,按该 PR 表述,仓库计数徽章由 172/177 变为 172/201。24 条新条目覆盖四个方向:量化族 9 条(INT8/INT4 逐张量、逐通道、逐块与 SmoothQuant、FP8 逐块)、采样与投机解码族 6 条(TopK/TopP/MinP/TopKTopP 掩码、SamplingFromProbs、ChainSpeculativeSampling)、MLA 与 KV 缓存族 7 条(MLA Paged/Varlen、PagedKVCache 写入与收集、MergeAttentionStates、DeepSeekSparseAttentionPaged)、norm 1 条(FusedQKNormRope)与线性注意力 1 条(KimiDeltaAttention)。
  • 配套约束(#2279):新增 test_spec_reference.py 对 spec-only 条目逐工作负载运行参考实现并校验输入写入与拒绝调用;建立不变量「implemented ⊆ public ⊆ manifest」;议题同步挂出 5 个 spec-only 补全追踪(GQA 两枚、GatedDeltaNet、DeltaNetInference、GLAInference)与 11 个内核覆盖子任务(FP8 Q/K/V、RoPE、FP8 KV 缓存、GDN 变体等)。

判读:这是 TileOPs 近两周「信任工程」(roofline 自查、公式纠错之后)的制度性升级——先落契约、再落实现,检查由生成器承接;200 算子计划把路线图公开化,量化、投机解码、MLA 与 KimiDeltaAttention 等国产大模型算子方向随之浮出水面。对使用方而言,算子行为的「契约来源」从代码注释变为可校验的清单,接入前可先评估覆盖缺口。


一、核心项目进展

1.1 主仓:SM120 块缩放 GEMM 两笔合入——碎片驻留支持与布局冲突拒绝(09-26/09-27)

日期:2026-09-26、2026-09-27 来源:#3257/ #3284/ 缺陷单 #3283/ 先导需求单 #3256

  • #3257(09-26 23:39 合入,作者 sepcnt):为 SM120 块缩放 GEMM 增加碎片(fragment)驻留 A 操作数与行主序缩放碎片支持,并修正奇数 per-warp MMA atom 网格(含 8x1 划分)下的紧凑缩放行选择;5 文件 +230/-50;附带碎片操作数/缩放、转置 A、紧凑布局与多 warp 策略的回归覆盖。
  • #3284(09-27 19:18 合入,作者 LeiWang1999):修复 SFA 与 SFB 共用同一缩放碎片时静默覆盖布局需求、导致缩放读取错误的问题——布局推断改为先对比完整碎片布局,冲突时报错并提示改用独立缩放碎片或共享内存缩放;新增 18 个 CUDA lowering 回归用例(三种 warp 策略、共享/碎片 A、别名与独立缩放碎片、别名共享内存缩放),相关两个测试文件 138 项通过、21 项跳过。
  • 测试口径说明:两笔的测试均显式 lower 到 sm_120a,不做设备编译(SM120 硬件数值执行未在本批测试覆盖;#3284 明确标注)。
  • 背景:SM120 为 Blackwell 的消费/工作站档(GeForce RTX 50 系、RTX PRO 系列);该线自 09-16 的 mxf4nvf4 块缩放 MMA PR(#3081,仍开)延续至今,窗口内再添两笔跟进(#3286、#3290,见 1.3)。

1.2 主仓:FP8 向量拷贝保持打包,条件拷贝内核实测 1.42 倍(09-25)

日期:2026-09-25 来源:#3276

  • #3276(09-25 14:17 合入,作者 LeiWang1999;上期以「评审中」记录):为 CUDA FP8 向量类型(E4M3/E5M2/E8M0,2/4/8/16/32 lane)定义打包拷贝构造与赋值——经匹配的整数载体(uint16/uint32/uint2/uint4/ulonglong4)整对象搬运。动机:NVCC 会把默认逐成员拷贝 lower 成冗余 unpack/repack 指令,即使外围访存已经向量化;修复不引入任何代码生成特例,只改头文件。
  • 实测(B300 SXM6,sm_103a,NVCC 13.1):E4M3 条件拷贝内核 44.07 → 31.07 微秒(1.42 倍);寄存器 77 → 71;转换工作负载中移除 80 条 PRMT、16 条 SHF 与 32 条打包相关 LOP3,E8M0 的 PRMT 从 241 降至 155。计时采用 do_bench(warmup 100 / rep 500,五次交替取中位数),静态 SASS 对比与计时结果分开呈现。

1.3 主仓:窗口内新开十笔,RNG 队列与异步暂存重构仍待审(09-25~09-27)

日期:2026-09-25 ~ 2026-09-27 来源:#3286/ #3290/ #3285/ #3288/ #3280/ 主仓 PR 队列

  • 窗口内新开 10 笔:SM120 两笔(#3286 寄存器 A 的 K 原子展开与缩放逐原子加载;#3290 W4A16 NVFP4 解码示例,草案)、CUDA/编译器四笔(#3285 NVRTC 设备编译支持,TVM-FFI;#3288 warp 特化阶段保留直到被移动的非 TMA 拷贝消费——修复 #3287;#3282 TIRX 源区间可视化工具;#3291 用 z3 推断满足约束的全部线程)、平台两笔(#3281 CPU/Windows JIT 共享库编译与导出修复;#3289 import C 源文件补换行)、修复一笔(#3280 deepseek_v32 topk 选择器缓冲溢出)。
  • 队列持续项:RNG 四笔(#3241~#3244)自 09-24 起无更新仍开;#3275(SIMT im2col 提前暴露)与 #3279(异步数据暂存统一与传输感知降低)待审未动;#3267(魔法除法)、#3247(TileIR 后端,草案)未更新。
  • 缺陷侧:窗口内新开 2 单——#3283(SM120 缩放碎片冲突,已由 #3284 修复关闭)与 #3287(warp 特化流水线过早释放阶段),后者已由 #3288 跟进。

1.4 TileOPs:注意力整编——SM90 预填充三连与解码统一、遗留路径移除(09-25~09-28)

日期:2026-09-25 ~ 2026-09-28 来源:#2178/ #2208/ #2198/ #2207/ #2202/ #2197/ #2273/ #2281

  • SM90 varlen GQA 预填充三连:warp 特化预填充内核合入(#2178,09-25 19:12)→ 改造为持久内核(#2208,09-26 00:50)→ D64 头维支持(#2198,09-27 23:19);同期恢复滑动窗口 varlen 内核的 TMA 路径(#2207,09-25 18:37)。
  • 解码侧收敛:分页 GQA 解码迁移到统一算子并移除遗留解码算子(#2202,09-27 21:32);移除遗留 varlen GQA 路径(#2197,09-27 20:50)。
  • 正确性修补:causal paged decode 对齐缓存末端、非 causal NSA 在序列末端截断、FusedTopK 按评分定价(#2273,09-27 21:38)。
  • 新开跟进:MHA 反向的 SM90 warp 特化内核服务化与 FA3 反向单独计时(#2281,09-28 凌晨草案)——反向路径进入同一内核谱系的前奏。

1.5 TileOPs:线性注意力、FFT 重写与算子杂项合入(09-25~09-28)

日期:2026-09-25 ~ 2026-09-28 来源:#2199/ #2196/ #2187/ #2040/ #2283/ #2242/ #2240/ #2280

  • 线性注意力:GLA 解码接入 GLAInferenceFwdOp(#2199,09-28 06:20 合入,H200 稠密解码服务化);移除无归属的 Gated DeltaNet 内核(#2196,09-27 22:57)——延续上周「整编」路线。
  • FFT:#2187 以计算式内核替换 LUT 实现、2 的幂覆盖扩至 2^28(09-25 13:03 合入;上期「评审中」条目收口)。
  • GEMM 与元素级:GemmFp8FwdOp 支持 1D2D FP8 块缩放(#2040,09-28 06:19;#2283 跟进校准按 calibration_key 匹配);元素级 NaN 传播去除 clamp 家族减速并恢复二进制基准形状(#2242);float32 reduction/softmax 改单内核读取修正(#2240)。
  • 架构维护:Engram 解码编译边界移至算子层(#2280,09-28 06:10)。

1.6 TileOPs:测试与基准体系重构,manifest 一致性用例落地(09-26/09-27)

日期:2026-09-26、2026-09-27 来源:#2239/ #2226/ #2243/ #2244/ #2213/ #2215

  • 结构重整:合并碎片化的 tests/ops 与 workloads 文件(#2239);合并碎片化基准文件与单导入模块(#2226);测试与工作负载设备改为单一来源(#2243);树内内核测试统一标记、基准获得目标与设备选项(#2244);op 测试停止导入 benchmarks、统一标准容差、trust-model.md 改名 layer-boundaries(#2213)。
  • 契约测试:从 manifest 调用构建目标一致性用例(#2215)——与今日重点的 Manifest 迁移配套。
  • 说明:本组重构是夜间快照用例结构变化的直接背景;快照流程保持零失败(见 1.8)。

1.7 TileFoundry:AtomSched——指令化张量调度与分阶段内存分析七笔(09-25~09-28)

日期:2026-09-25 ~ 2026-09-28 来源:#189/ #191/ #187/ #186

  • 七笔合入(#185~#191):分片排列声明(#185)、AtomSched 操作声明(#186)、CUDA MMA 原子与异步拷贝指令声明(#187)、布局结构化正则匹配(#188)、指令化张量调度(#189)、TIR 操作数契约(#190)、分阶段内存分配模型(#191)。
  • #189 要点(09-27 21:08 合入):新增 tf.schedule 操作(五个作者参数:operands/op/repeat/order/buffers)与 21 个调度夹具;操作数契约与结果类型从所选指令推导;按层级带宽、MMA 工作量与缓冲驻留计费;求值缺失处理器时 fail-closed(不回退恒等)。规模 64 文件 +3445/-220。
  • #191 要点(09-28 03:31 合入):完成 AtomSched 分析迁移 stage 3——循环感知驻留、区域级寄存器峰值、带地址的全局/共享内存放置求解(要求别名强制成立);21/21 共享内存黄金一致;源代码模式验证 1241 通过、10 跳过。

1.8 夜间快照:窗口内 5 份全部零失败,最新 1093 项正确性 + 1318 项基准(09-28 凌晨)

日期:2026-09-25 ~ 2026-09-28 来源:最新快照提交/ 快照环境元数据

  • 窗口内 5 次快照(09-25 晚至 09-28 凌晨各次);最新一份 dab9b1ab(对应 TileOPs ee3ebaf247,即 #2198 合入点):正确性 1093 项、跳过 2 项、零失败零错误;基准 1318 项、跳过 1 项、零失败零错误。
  • 环境(meta.json):NVIDIA H200,CUDA 13.2 / 驱动 595.71.05,tilelang 0.1.11+cu132(git afcebed1),torch 2.13.0+cu132,功率上限 700W。

二、多后端适配(昇腾 / MLIR 昇腾 / 沐曦 / 海光 / 摩尔线程)

2.1 五仓窗口内零推送、零 PR 更新(09-28 核查)

日期:2026-09-28 来源:tilelang-ascend/ tilelang-metax/ tilelang-hygon/ tilelang-musa/ tilelang-mlir-ascend

  • 3 天窗口内,五仓均无推送、无 PR 更新:昇腾(最近推送 09-24)、MLIR 昇腾(09-24)、沐曦(09-24)、海光(09-24)、摩尔线程(09-17)——逐仓核对最近 PR 列表,窗口内更新数均为 0。
  • 对照上期:昇腾文档核验队列无新合入;沐曦子 warp 守卫(#159)、海光 #12 之后无新笔;摩尔线程自 09-17 起连续 11 天静默。窗口内硬件向的实质进展集中在主仓 NVIDIA 线(SM120,见 1.1),四家国产适配本期均无动态。

三、生态与采用方

3.1 采用方:FlashQLA 修复 Blackwell 路径内核同步(09-26)

日期:2026-09-26 来源:FlashQLA 修复合入/ FlashQLA 仓库

  • Qwen 的 FlashQLA(基于 TileLang 的 GDN 线性注意力内核库,支持 SM90/100/103/120/121)合入一笔修复:prepare_h 与 fused_fwd 内核在 Blackwell 上补充同步点(3 文件 +21/-5,由 Chengruidong Zhang 提交)。这是采用方侧在 Blackwell 平台持续打磨的最新动作;按仓库自述,其 v0.1.2 已为 SM120 提供前向支持并作为 flash-linear-attention 的 GDN 后端。

3.2 采用方与社区:TileKernels 无推送,SoftHier 扩展无窗口内更新(09-28 核查)

日期:2026-09-28 来源:TileKernels 仓库/ tilelang-softhier 仓库

  • DeepSeek 的 TileKernels 自 2026-04 起无推送;ETH 苏黎世的 TileLang SoftHier 扩展(面向 RISC-V 众核加速器)最近更新为 09-24(上期已报),窗口内无新提交;TVM-TileLang cookbook 等社区材料无新内容。

3.3 版本节奏:主仓 v0.1.14 满 26 天,TileRT 发布页滞后 4 天(09-28)

日期:2026-09-28 来源:tilelang 发布页/ TileRT 发布页/ TileFoundry 发布页

  • 主仓 tilelang:v0.1.14(09-02)已满 26 天无新版本;TileOPs 无独立发布;TileFoundry 最新仍为 v0.0.2(09-10,18 天)。
  • TileRT:v0.1.6 发布 PR 于 09-24 合入,但 GitHub Releases 与标签仍停在 v0.1.5.post2——公开版本滞后已 4 天,且窗口内该仓库无新提交。

四、社区、教程与活动

4.1 文档站:TileOPs 文档站三连更跟进 Manifest 迁移;主仓文档站例行更新(09-26/09-27)

日期:2026-09-26、2026-09-27 来源:TileOPs 文档站/ tilelang 文档站

  • TileOPs 文档站三笔:trust-model.md 改名跟进(#52)、Manifest 迁移跟进(#53)、基准页按 workload 分组并保持 manifest 顺序(#54)——文档侧与上游契约重构同步。
  • 主仓文档站一笔例行 Update docs(09-27 凌晨),自动化再生成,无内容级变化。

4.2 媒体与学术侧:Google News 零命中,arXiv 无新预印本(09-28 核查)

日期:2026-09-28 来源:Google News/ Hacker News/ arXiv

  • Google News RSS 中英文多组查询(走代理)72 小时窗口内零命中;Hacker News 窗口条目与本主题无关;arXiv 全库检索「tilelang」最新一篇仍是 07-24 的 TileSight(瓦片中心 GPU 性能模型),窗口内无新预印本。

五、趋势观察

5.1 「先定契约」的制度化:从 roofline 自查到发布计划

三步路径在本窗口完整呈现:09-20 的 roofline 清单自查(哪些公式从未被运行)→ 09-26/09-27 的参数化签名整轮迁移(契约成为检查与生成的唯一来源)→ 09-27 的 200 算子发布计划(spec-only 先落契约、计数与覆盖公开追踪)。工程含义:TileOPs 从「实现导向」转向「契约导向」的发布治理——先能用清单回答「有什么、缺什么、多久合得上」,版本规划才有可能。

5.2 SM120 线的小步快跑与 lowering-only 测试策略

需求单(#3256)→ 补丁(#3257)→ 加固(#3283/#3284)→ 跟进(#3286/#3290),一周内完成四环;且回归测试以显式 lower 到 sm_120a 的方式在无硬件条件下运行。对消费级/工作站 Blackwell 的块缩放低精度 GEMM 覆盖开始成体系,这与数据中心线(B300/sm_103a 的 FP8 提速实测)形成双轨。

5.3 注意力内核:从多路径并行到单一谱系

SM90 varlen GQA 预填充三连(含持久化改造)、分页解码统一、遗留 varlen 路径移除——TileOPs 注意力层在一个窗口内完成「立新 + 收旧」;线性注意力(GLA/GDN)同期整编,反向路径(MHA backward)已开出跟进草案。配合 200 算子计划中 MLA 与 DeepSeek 稀疏注意力的条目,注意力算子谱系向「每算子一条规范路径」收敛的意图明显。

5.4 空白与风险点

其一,国产后端四家与 MLIR 昇腾窗口内零活动,摩尔线程已 11 天静默,热度不均未改;其二,TileRT 发布页滞后于发布 PR 达 4 天,版本跟踪仍存盲区;其三,主仓 RNG 队列 4 天无更新、大单(TileIR 后端 #3247、异步暂存 #3279)慢审格局持续;其四,主仓 72 小时合入 3 笔(含周末),相对新开 10 笔,队列消化能力待观察。


附:素材与核查说明

信源 核查结果
tile-ai 组织(29 仓库) 窗口内 6 个仓库有推送:tilelang、TileOPs、TileOPs-nightly、TileFoundry、tilelang.github.io、TileOPs.github.io
主仓 tilelang 3 笔合入(#3276、#3257、#3284);新开 10 笔;缺陷单 #3283 关闭、#3287 新开;RNG 队列与 #3275、#3279、#3267、#3247 仍开
TileOPs 35 笔合入(含 Manifest 系列 17 笔);30 笔新开;#2210、#2211 关闭未合入
TileRT 发布页与标签仍停在 v0.1.5.post2(v0.1.6 PR 已合入 4 天);窗口内无提交
TileOPs-nightly 5 份快照:最新 dab9b1ab 正确性 1093 项零失败零错误(跳过 2);基准 1318 项零失败零错误(跳过 1)
TileFoundry 7 笔合入(#185~#191)
国产后端五仓 tilelang-ascend / tilelang-metax / tilelang-hygon / tilelang-musa / tilelang-mlir-ascend:窗口内零推送、零 PR 更新
采用方与社区 FlashQLA 合入 Blackwell 同步修复;TileKernels 无推送;SoftHier 扩展无窗口内更新
Google News / Hacker News / arXiv 中英文查询零命中;HN 无相关条目;arXiv 无新预印本(最新仍为 07-24 TileSight)

完整信源清单