TileLang 每日動態報告(2026-11-20)
調研視窗:2026-11-19 07:00 ~ 2026-11-20 07:00(北京時間,24 小時)。上一期截點為 11-19 07:00。
信源:GitHub tile-ai 組織逐倉核查,30 倉庫中視窗內推送 8 個。組織級真值檢索:合入 23 筆、在審更新 20 筆、新開 issue 7 條。逐筆主分支核查:TileOPs 16 筆、tilelang 2 筆、TileFoundry 1 筆、海光 1 筆。MLIR 昇騰 3 筆落在 mlir-dialect 分支。釋出核查:tilelang 仍為 v0.1.15,視窗內無新標籤。另含 Google News 中英文五組查詢、Hacker News 與 TileLang×RISC-V 四源巡檢。
本期索引
- 今日重點:TileOPs 三筆 mHC 運算元同日合入,序列建模介面完成接棒(11-19)
-
今日重點:GEMM 選擇器一條規則改 302 個形狀,MXFP4 MoE 解碼達到驗收線(11-19)
- 一、核心專案進展
- 1.1 佈局佔位變數跨序列化保持繫結,spawn 子程序降載不再報非單射(11-20)
- 1.2 開發版版本號去掉工具鏈標籤,同一 wheel 不再按 CUDA 版本分叉(11-19)
- 1.3 新報缺陷:MLA decode 示例兩個 warpgroup 之間缺少寫後讀同步(11-19)
- 1.4 在審修復:warp 特化時跳過佈局不相容的 TMA 提升(11-19)
- 二、多後端適配(昇騰 / 海光 / 摩爾執行緒 / 沐曦)
- 2.1 MLIR 昇騰一天合入 tl.or、tl.xor、tl.pow,在審補 vsigmoid 與 sort(11-19)
- 2.2 昇騰主倉在審轉向發版:共享輪子上 OBS、夜間 NPU 冒煙、調優技能(11-19)
- 2.3 Atlas A3 被認成 910A,carver 的 L0C 容量少算一半(11-19)
- 2.4 海光加 PR 質量門工作流,視窗內無核心改動(11-19)
- 2.5 沐曦與摩爾執行緒視窗內無提交(11-19)
- 二·五、RISC-V 後端與社群(專項觀察:TVM 路線 / MLIR 路線 / SOPHGO TPU / 社群索引頁)
- 2.5.1 四源巡檢無變化,兩條路線與索引頁均與上期一致(11-20)
- 三、生態與採用方(TileOPs 運算元庫 / TileFoundry / TileKernels)
- 3.1 注意力 sink 補齊:DSADense 與 DSAPaged 同日合入(11-19)
- 3.2 FP4 分組量化落地,MoE 門控補雜湊路由與 sqrt-softplus(11-19)
- 3.3 GatedPoolCompress 一次啟動完成按請求分環的 KV 池化(11-19)
- 3.4 TileFoundry 把切片 mesh 與 Varying 值計入並行計劃分析(11-19)
- 3.5 新開四條目標:DSAPaged bf16、AvgPool1d、DeltaNet、Mamba(11-19)
- 3.6 TileKernels 與 FlashQLA 視窗內無提交(11-19)
- 四、社群、教程與活動
- 4.1 新聞側空窗:中英文五組查詢無相關報道(11-20)
- 4.2 組織活躍度:單日 23 筆合入,主倉星標 9006(11-19)
-
五、趨勢觀察
- 附:素材與核查說明
- 信源核查表
- 完整信源清單
今日重點:TileOPs 三筆 mHC 運算元同日合入,序列建模介面完成接棒
11-19 一天裡,TileOPs 把 HyperConnection 的 pre、post、head 三個運算元一併合入。三筆分別是 #3032、#3035、#3039。此前 #3021 已在 11-18 刪除舊的兩個 mHC 運算元,並登記為經評審的公開 API 破壞。相隔一天,替換路徑走完。
pre 步由 #3032 合入,改動 18 個檔案,+1106/-21。它跑 DeepSeek-V4-Flash 與 GLM-5.3-Flash 的 mHC 前段。內容包括 fn 投影與平方範數、pre 與 post 權重、Sinkhorn,以及加權流求和。
投影保證 float32 精確。fn 以三個 bfloat16 項進張量核心,每 16 個通道一次 64×72 的 WGMMA。每個 64 通道槽再累加到 float32。token 軸是執行期長度,一次啟動覆蓋任意 token 數。對照物件是 vLLM 的 TileLang mhc_pre 與 torch.compile 參考。
post 步由 #3035 合入,改動 16 個檔案,+592/-21。它把塊輸出混回 n 條殘差流。逐元素寫為 post_layer_mix[j] * x + sum_i comb_res_mix[i,j] * residual[i],float32 計算後一次舍入到 bfloat16。
執行緒按 16 位元組段混 x 與各條流。小呼叫一段,大呼叫四段。輸出與 TileKernels 的 mhc_post_fwd 逐位相同。
head 步由 #3039 合入,改動 15 個檔案,+778/-9。它在 LM head 之前把 n 條殘差流摺疊成一條,對應 DeepSeek-V4-Flash 的 ParallelHead.hc_head。每 SM 最多兩個 token;超過後由一個 CTA 串流一到四個 token,每條 hc_fn 向量服務全部 token。
manifest 條目轉為已實現,並附 GLM-5.3-Flash 的 3000 token 行。對照物件為 vLLM 的 hc_head 融合核心與 torch 參考。
三筆都關閉了對應提案:#2921、#2970、#2971。舊運算元刪除與新運算元合入的中間態只維持一天,介面替換沒有留下斷檔版本。
來源: https://github.com/tile-ai/TileOPs/pull/3032 https://github.com/tile-ai/TileOPs/pull/3035 https://github.com/tile-ai/TileOPs/pull/3039
今日重點:GEMM 選擇器一條規則改 302 個形狀,MXFP4 MoE 解碼達到驗收線
11-19 的 TileOPs 效能線共六筆合入。兩筆自評達到驗收線,四筆仍標在驗收線之下。四筆的支援說明裡都寫明:每一行比主分支快。
GEMM 選擇器改了一條規則(#3045)。NT 類 GEMM 若 128 行網格在 coop2 寬度下能壓進一波,就選最窄的 coop2 tile,不再拆成更窄的多波。
判據有兩條。最後一行 tile 的兩個 64 行消費組都要分到行,且網格要填滿一波的 15/16。
規則影響 302 個模型形狀。單卡 H200 上沒有一例比主分支的選法慢,286 個形狀快 1.03 到 2.6 倍。GLM-5.3-Flash 的路由 prefill(N=288)從 82.24 微秒降到 32.13 微秒。
該筆還修掉一個隱患。float32 的 coop2 tile 整塊分塊時,128 到 383 號執行緒上的累加器複製被丟棄,共享記憶體留下未初始化內容。
MXFP4 的 MoE 分組 GEMM 達到驗收線(#3044)。新增共享解碼核心,條件是行對齊為 128 的倍數、尺度為 e8m0、K 為 2048 的倍數。128 個 token 作 WGMMA 的 M 運算元,128 行權重作 N 運算元。
權重由七個生產 warp 每個 CTA 解碼一次,寫進 fp8 共享記憶體瓦片。根因是舊核心在數學 warp 裡解碼權重,每個元素一次 FMUL 加一次 FFMA。每個 math warp 每個 K 步約 363 條指令,對應 512 個張量週期,張量管線只有 36% 在忙。
GQA 變長注意力在頭維 56 到 80 上改用三個消費 warpgroup(#3041)。192 行 tile,三個 64 行消費組輪流佔用張量核心。
根因是 72 通道時 exp2 的耗時佔其乘積張量時間的 64/80。兩個消費組時,一個組的 softmax 會拖過另一個組的乘積。ncu 顯示張量 54.7%、XU 45.2%,兩者近乎序列。
該筆註明一處限制:TileFoundry 的 schedule finalize 在當前構建上還不能把交付的排程降到 TIR(見 tile-ai/topa#42)。核心按實測原型手寫,排程寫在 final_hir.py 裡。
KDA 的 bf16 給定門控 prefill 改為一次居中啟動(#3053,9 個檔案,+749/-225)。SM90 上原先走兩條路徑,視序列與值頭對數而定。新路徑先由聯合居中張量核心程式準備全部 chunk,再走狀態遍歷。fp16 給定門控與原始門控仍走舊路徑。
兩筆自評在驗收線之下。W4A16 的 K tile 後設資料改非同步複製(#3050),把不足四位元組的每行零點多取成對齊的四組視窗,用 4 與 8 位元組 cp.async 搬運。生產端因此能立即發出 K tile 的 TMA。
RoPE 調整了載入順序(#3040)。帶列複製的頭先載輸入向量再讀位置,避免 ptxas 在位置 clamp 處等待。小 GPT-J 呼叫因此少付一次 DRAM 延遲。同一筆還修掉零頭 key 在 key.view(-1, 0) 處的失敗,現返回空結果。
來源: https://github.com/tile-ai/TileOPs/pull/3045 https://github.com/tile-ai/TileOPs/pull/3044 https://github.com/tile-ai/TileOPs/pull/3041
一、核心專案進展
1.1 佈局佔位變數跨序列化保持繫結,spawn 子程序降載不再報非單射
tilelang 主倉視窗內合入兩筆。第一筆是 #4410,改動 3 個檔案,+301/-2。它修佈局物件跨程序與跨磁碟往返後失效的問題。
tl.Layout、tl.Fragment、tl.PartialFragment 用程序內單例 tirx::Var 佔位符表達索引與執行緒對映。_i、_j 等用 InputPlaceholder(i),_rep 用 ReplicationPlaceholder()。
Forward、OutputShape、DetectInjective、ForwardThread 的判斷依據是 Var 的物件同一性,不是 name_hint。
一旦佈局或帶 T.annotate_layout 的 PrimFunc 經過 pickle 或 tvm.ir.save_json 與 load_json,反序列化就會重建佔位符。新建的 VarNode 與接收程序裡的單例不再同一。
主分支上可直接復現三處錯誤。pickle 往返後 map_forward_index([7]) 返回 [_i] 而不是 [7]。OutputShape() 把 (32,) 算成 (_i + 1,)。在 spawn 出來的 worker 程序裡降載帶註解的 PrimFunc,會以 the forward map must be injective 失敗。
修法是把繫結的佔位 Var 引用納入同一個 ObjectGraphSerializer 通道。涉及兩個欄位:LayoutNode 的 _forward_vars 與 FragmentNode 的 _replicate_var。二者的序列化順序先於 forward_index 與 forward_thread。這些欄位不參與 repr、init、compare、hash 與結構相等,預設值為 nullptr。
實際效果是多程序編譯路徑可用。
來源: https://github.com/tile-ai/tilelang/pull/4410
1.2 開發版版本號去掉工具鏈標籤,同一 wheel 不再按 CUDA 版本分叉
#4409 改動 7 個檔案,+16/-76。它清理版本號裡的後端字尾。
起因是 TileLang 曾按 CUDA 12.8 與 13.0 分別構建 wheel。自 #1826 起,一個 wheel 同時服務多個 CUDA 工具鏈版本。舊字尾因此會誤導:在 CUDA 13.0 映象裡構建的檢出會報 0.1.15+cu130.gitabcdef12,而構建機的工具鏈版本並不能說明這個 wheel 支援哪些後端。
改動刪掉後端字尾與 NO_TOOLCHAIN_VERSION 開關。同一檢出在各類配置下統一報 0.1.15+gitabcdef12。置 TILELANG_BUILD_WHEEL_WITH_DATE=ON 則報 0.1.15+d20261119.gitabcdef12。PyPI 發行仍用基礎版本號。
tilelang.build_date() 隨之相容兩種位置。日期可以緊跟 + 之後,也相容舊 wheel 形如 0.1.15+cuda.d20261119.gitabcdef12 的寫法。
作者列出驗證範圍。三個打包測試透過;檢查了 CUDA 12.8、CUDA 13.0、ROCm、CPU、帶日期的夜間構建與發行構建的 PEP 517 後設資料;pre-commit 全量透過。
來源: https://github.com/tile-ai/tilelang/pull/4409
1.3 新報缺陷:MLA decode 示例兩個 warpgroup 之間缺少寫後讀同步
#4412 是一份新開的缺陷報告,指向 examples/deepseek_mla/example_mla_decode_ws.py。報告稱右側 warpgroup 讀取 sum_exp_shared 時,沒有等待左側 warpgroup 的寫入。
該檔案屬 warp 特化的 MLA decode 示例。報告認為兩半之間的共享記憶體交接只靠返回值或隱式順序,不足以構成同步。
該報告尚未附修復,也未標註復現環境。本期按「已報告、待處理」記錄,不作為已修復問題引用。
來源: https://github.com/tile-ai/tilelang/issues/4412
1.4 在審修復:warp 特化時跳過佈局不相容的 TMA 提升
#4413 修一處降載失敗。在 b1367a59 上,一個面向 sm_90a 的流水線 GEMM 無法降載。觸發條件是它的 8 位 B tile 使用 make_swizzled_layout(Bs, k_major=False) 的帶填充佈局。
A 的載入讓該迴圈具備 warp 特化資格。隨後該 pass 把 B 的普通 T.copy 也提升成 T.tma_copy,而 LowerBulk 拒絕帶填充的佈局(對應 issue #4053)。
修法是逐個檢查候選 TMA 載入的目標佈局註解,範圍含流水線及其 prelude。佈局不相容的複製留在消費側,相容的仍在同一流水線內提升為 TMA。
作者報稱 #4053 裡的八個用例現在都能為 sm_90a 降載。H200 配 CUDA 13.0 上新增的 FP8 迴歸確認 A 走 TMA、B 走普通複製。該 PR 目前仍在審。
來源: https://github.com/tile-ai/tilelang/pull/4413
二、多後端適配(昇騰 / 海光 / 摩爾執行緒 / 沐曦)
2.1 MLIR 昇騰一天合入 tl.or、tl.xor、tl.pow,在審補 vsigmoid 與 sort
MLIR 昇騰倉的合入仍落在 mlir-dialect 分支。該分支 main 自 11-04 起未動。11-19 一天合入三個 TLIR 運算元,時間集中在 UTC 14:08 到 14:37。
#225 加 tl.or,#228 加 tl.xor,#229 加 tl.pow。三筆走同一套流程:先加方言運算元,再給 TIR 降載,最後轉 HIVM,並各帶測試。其中前兩筆在上一期報告中仍列為在審,本期轉為合入。
在審側新開 #264,為 TLIR 補 tl.vsigmoid。該筆 11-20 01:35 開出,同日在審更新一次。另有 #232 把 TLIR 的 sort 操作降到 HIVM,視窗內再次更新但未合入。
已合入的三筆與在審兩筆構成同一批逐運算元鋪路工作。
來源: https://github.com/tile-ai/tilelang-mlir-ascend/pull/229
2.2 昇騰主倉在審轉向發版:共享輪子上 OBS、夜間 NPU 冒煙、調優技能
昇騰主倉視窗內無合入。在審側有五筆更新,方向從核心轉向發版與工具鏈。
#4411 於 11-19 19:15 新開,把標準 Linux wheel 釋出到昇騰社群 OBS。前提是這些 wheel 已同時包含 Ascend、CUDA 與 ROCm 支援,而現有 Dist 工作流只為 x86_64 與 aarch64 構建、不上傳 OBS。
做法是複用 build-wheels 的 abi3 輪子。要求 abi3 標籤透過 abi3audit --strict。構建透過後按既有每日定時與手動觸發上傳兩種架構,檔名帶日期與提交字尾以便夜間版本共存。PyPI 發行版本號不變。該筆還要求序列化 OBS 上傳與索引更新,避免併發執行用舊清單覆蓋索引。
#3924 是帶 NPU 冒煙測試與滾動釋出的夜間昇騰輪子流水線,11-11 開出、視窗內再更新。#4016 是給昇騰寫的 TileLang 效能調優技能,#4012 把 max_vector_bits 預設值改為 128,並支援 16 lane 的 fp8 SIMT 向量。兩筆均於 11-13 開出。
另有 #1760 讓 AscendC 後端支援 FP32 GEMM。該筆 9 月 8 日開出,視窗內於 22:36 再次更新。
來源: https://github.com/tile-ai/tilelang/pull/4411
2.3 Atlas A3 被認成 910A,carver 的 L0C 容量少算一半
#2023 修 carver 的型號識別。Ascend.__init__ 用字串包含關係判斷晶片:先判 910B,再判 310P,最後兜底的 910 一律當 Ascend910A。
Atlas A3 的裝置名是 Ascend910_9362,倉庫內 examples/situ_glu/benchmark.md 即如此寫。它既不命中 910B 也不命中 310P,於是落進兜底桶。
後果是三項硬體引數錯配。ub_cap 取 262144 位元組,實際為 196608 位元組。l0c_cap 取 262144 位元組,實際為 524288 位元組,正好少算一半。compute_max_core 取 910A 預設的 32,而實際應以 cube_core_num 查詢為準。
同一份程式碼裡存在兩套矛盾的對映。編譯器主流程 tilelang/utils/target.py 把同一裝置判為 910_93/910C → A3,carver 用的是錯的那套。
carver 用這三個值做候選配置的可行性篩選與代價建模(tilelang/carver/roller/policy/ascend.py)。L0C 少算一半會把大 C tile 的配置直接篩掉。該 PR 於 11-19 08:14 開出,尚在審。
來源: https://github.com/tile-ai/tilelang-ascend/pull/2023
2.4 海光加 PR 質量門工作流,視窗內無核心改動
海光倉視窗內只有一筆合入(#42,1 個檔案,+19/-0)。內容是為 pull request 增加質量門工作流。該筆無提交說明正文,改動只涉及 CI 配置。同期 #43、#44 為同一工作流的在審版本。
上一期的十二項內在修復(#27)之後,海光側本期沒有核心、精度或程式碼生成改動。
來源: https://github.com/tile-ai/tilelang-hygon/pull/42
2.5 沐曦與摩爾執行緒視窗內無提交
沐曦倉 tilelang-metax 最後推送為 11-06。摩爾執行緒倉 tilelang-musa 為 11-18 03:47(UTC)。兩者均在視窗之外。沐曦的 release/v0.1.12-musa.5-source 分支與釋出提案在視窗內無新動作。
二·五、RISC-V 後端與社群(專項觀察:TVM 路線 / MLIR 路線 / SOPHGO TPU / 社群索引頁)
2.5.1 四源巡檢無變化,兩條路線與索引頁均與上期一致
11-20 巡檢四個源。其一為 kubuds/tilelang-riscv-kubuds 的 kubuds- 字首分支,即 TVM 後端路線。其二為 RuyiAI-Stack/tilelang-riscv 的 main,即 MLIR 改寫路線。其三為 TongmingLAIC/tilelang-riscv 社群索引頁。其四為 TongmingLAIC/tilelang-tpu 的 main 與新分支,即算能 TPU 擴充套件。
四源引用與上期留檔一致,無新提交、無新 PR,索引頁專案表無增刪。結論只覆蓋上述四個源,不外推到其他 RISC-V 相關工作。TVM 路線與 MLIR 路線本期均無新動作,不另行解讀。
來源:無新增提交。
三、生態與採用方(TileOPs 運算元庫 / TileFoundry / TileKernels)
3.1 注意力 sink 補齊:DSADense 與 DSAPaged 同日合入
兩筆注意力合入把 DeepSeek-V4 與 GLM-5.3 用到的 sink 與 bf16 快取行補齊。
DSADense 側是 #3038,改動 5 個檔案,+228/-82。它的 SM90 核心開始支援 attn_sink 與 is_causal=False。此時僅憑索引選 key,-1 表示跳過該槽位,每個頭的 sink logit 計入其 softmax 分母。
topk 不再要求是 128 的倍數。超出部分為死槽;最後一對塊裡若奇塊整段越過 topk,只載入並計分其偶塊。對照基線 FlashMLA 改為一次啟動跑完本批全部 kv 行,其索引用 -1 補齊到 128 的倍數。
DSAPaged 側是 #3048,改動 6 個檔案,+411/-79。它支援 bf16 快取行,值為 512 列、鍵再 0 或 64 列,覆蓋 GLM-5.3 與 DeepSeek-V4。
單 CTA 核心用合併的 cp.async 收集。它透過掩碼最後一塊的尾部支援任意 topk,並把 attn_sink 加進 softmax 分母,分塊合併時同樣計入。
範圍寫得清楚。FP8 的 656 位元組行生成程式碼不變,該行仍不支援 attn_sink 與 topk 非 64 倍數。SM89 不支援 bf16 行。
來源: https://github.com/tile-ai/TileOPs/pull/3038 https://github.com/tile-ai/TileOPs/pull/3048
3.2 FP4 分組量化落地,MoE 門控補雜湊路由與 sqrt-softplus
量化側新增 FP4QuantPerGroupFwdOp(#3027,15 個檔案,+810/-41)。簽名是 block_size=32, inplace=False,把 bfloat16 量化為 e2m1 碼,兩碼一位元組,塊尺度為 2 的冪的 float8_e8m0fnu。輸出與 DeepSeek-V4-Flash 的 fp4_act_quant 逐位一致。
舍入不用 FP4 轉換指令。它改為對 float32 位做整數運算,再加一次 float32 加法。該核心與 FP8QuantPerTokenGroupFwdOp 共用 group_quant.py。
write_in_place 讓組數超過網格 y 範圍的帶步長行先走連續複製。這一筆順帶修好了 FP8 逐 token 分組量化的 inplace=True 路徑。
MoE 側是 #3036,改動 4 個檔案,+360/-66。它給 FusedTopKFwdOp 補 scoring_func="sqrtsoftplus",帶或不帶 correction_bias 與分組均可。它還支援呼叫方給定 expert_ids,覆蓋 DeepSeek-V4-Flash 的門控與其雜湊路由首層。
給定 expert_ids 時,核心只讀這些專家的 logit。未重歸一化的 softmax 則讀整行,且不讀偏置。仍被拒絕的組合是「帶偏置的 softmax 選擇」。
來源: https://github.com/tile-ai/TileOPs/pull/3027 https://github.com/tile-ai/TileOPs/pull/3036
3.3 GatedPoolCompress 一次啟動完成按請求分環的 KV 池化
#3033 改動 12 個檔案,+1363/-3。它實現 GatedPoolCompressFwdOp,對應 DeepSeek-V4-Flash 的 compressor 與 GLM-5.3-Flash indexer 的鍵池化。
請求被打包處理。位於某請求起點之前的位置來自該請求的環,環大小為 C * ratio 行。呼叫寫出其最後若干位置的行,並允許回滾上一次呼叫的最後一個 token。
實現上一次啟動、無主機同步。每個請求一個 block,先池化讀取其環的那些視窗,再寫回環與有效標誌。其餘視窗透過對 cu_seqlens 做 warp 級 ballot 搜尋定位自己所屬的請求。
該筆還補了成批的 torch_program 作為基準的 torch 基線,並把 kv_state 與 score_state 宣告為連續。
來源: https://github.com/tile-ai/TileOPs/pull/3033
3.4 TileFoundry 把切片 mesh 與 Varying 值計入並行計劃分析
TileFoundry 視窗內一筆合入(#356,123 個檔案,+2752/-557)。它改的是記憶體與流量分析。
起因是 discussion #350。分析器要能比較 PP、TP、EP 與 HSDP 幾種並行計劃。舊實現按流水級把各 GPU 峰值相加,把切片 mesh 之間的 Reshard 記成 0 位元組檢視,還把帶 Varying 的運算元從只取一個運算元型別的運算元中丟掉。
改動後,型別推斷透過單一規則讀運算元的分片屬性(operand_types、combine_operand_attrs)。Broadcast 與 Varying 相遇得 Varying 的按單元儲存,Partial 與 Varying 相遇則拒絕。
切片 mesh 之間的 Reshard 按「獲得該值的單元數」計一次複製。部分重疊切片之間的 Split 或 Partial 移動被拒絕。峰值改為按歸屬單元統計。
另有三處配套。JSON 呼叫行寫明被調者(callee、callee_ref)與定義它的 Module。一次呼叫按張量葉子給出一個輸出邊界,巢狀元組也算,使生成出的 Module 可被分析。repeat_interleave 保留輸入的 Broadcast mesh。
該筆新增 CUDA 用例比較 PP、TP、EP、HSDP 與 FSDP。生成的模組由 CLI 寫出、重新載入、與自動微分結果核對並實測。
來源: https://github.com/tile-ai/TileFoundry/pull/356
3.5 新開四條目標:DSAPaged bf16、AvgPool1d、DeltaNet、Mamba
視窗內 TileOPs 新開四條帶形狀與目標倍率的工作項。
#3049 要求 DSAPaged 的 bf16 行在 DeepSeek-V4-Flash 上追平 FlashMLA。該條與本期合入的 #3048 對應,屬「先立目標、再合實現」的順序。
#3051 處理邊緣截斷的 AvgPool1d 視窗。做法是把資料讀進暫存器,並在能省 block 時一個 SM 只發一個 block。
#3054 要求 DeltaNet 的 chunk 輸入接受帶步長的張量。#3013 給 CausalConv1dFwdOp 與 CausalConv1dUpdateFwdOp 補空洞卷積與 float32 濾波器。
另有 #3052 屬維護性合入,只補註釋與文件。它說明 W4A16 的後設資料視窗為何只對單消費 warpgroup 生效,並把選擇器的 128、256、512 寬 K tile 與顯式 384 寬 K tile 寫進 docstring。
該筆同時加了一條迴歸測試鎖住組數檢查。作者給出丟掉該檢查的後果:顯式 384 寬配置會返回錯結果,1x128x36864、split 24 上相對誤差 0.457。
來源: https://github.com/tile-ai/TileOPs/issues/3049
3.6 TileKernels 與 FlashQLA 視窗內無提交
採用方兩倉均不在視窗內。deepseek-ai/TileKernels 最後推送為 10-14,QwenLM/FlashQLA 為 10-30。
文件站側,TileOPs.github.io 視窗內提交數為 0。tilelang.github.io 有一筆 Update docs(11-19 13:45)。兩處均不構成技術進展,只作為站點維護記錄。
來源: https://github.com/tile-ai/tilelang.github.io/commit/dc1d73c9
四、社群、教程與活動
4.1 新聞側空窗:中英文五組查詢無相關報道
自動採集在視窗內取出 4 條候選。逐條核驗後無一條可用。其中三條是倉庫自身的頁麵條目(tilelang、TileFoundry、tilelang-hygon),屬抓取端把倉庫後設資料當新聞。第四條是 riscv.org 關於英飛凌 AURIX RC1 的問答,與 TileLang 無關。
補充查詢 Google News 五組。英文 TileLang when:2d、"TileLang" compiler when:3d、tile-ai TileOPs when:3d 均返回空條目。中文 TileLang when:2d 為空,TileLang 運算元 when:3d 僅命中一所高校的挑戰杯獲獎稿,與主題無關。Hacker News 無視窗內條目。
來源:無相關報道。
4.2 組織活躍度:單日 23 筆合入,主倉星標 9006
組織 30 個倉庫中,視窗內推送 8 個。前五個是 tilelang、TileOPs、tilelang-mlir-ascend、TileFoundry 與 tilelang-hygon。後三個是 tilelang.github.io、TileOPs.github.io 與 TileOPs-nightly。
合入 23 筆,按倉庫為 TileOPs 16、tilelang 2、MLIR 昇騰 3、TileFoundry 1、海光 1。在審並更新 20 筆,集中在新開的 bug 修復與昇騰發版流水線。
新開 issue 7 條。其中 TileOPs 2 條(一條效能目標、一條 MoE 缺陷),TileFoundry 3 條,topa 1 條,tilelang 1 條。主倉星標 9006,較上一期 9001 增加 5。
來源: https://github.com/tile-ai/tilelang
五、趨勢觀察
- 介面破壞有配套接棒:11-18 刪除舊的兩個 mHC 運算元並登記為 API 破壞,11-19 三個替代運算元全部合入。替換 PR 在刪除之前已開出,中間態只維持一天。
- 量化對齊以逐位一致為口徑:FP4 分組量化要求與 DeepSeek-V4-Flash 的
fp4_act_quant逐位相同。FP8 路徑與它共用同一個group_quant.py。驗收標準是位級相等,不是誤差帶。 - 效能最佳化從逐形狀調參轉向選擇器規則:#3045 用一條規則覆蓋 302 個模型形狀,並要求沒有一例變慢。這條要求比單點提速更難滿足,也更容易長期維持。
- 昇騰兩條線分工清晰:MLIR 路線繼續逐運算元鋪方言,一天三個;主倉轉向發版與 CI 工程化,OBS 上輪、夜間 NPU 冒煙、調優技能同周推進。前者在擴表達面,後者在降使用門檻。
- TileFoundry 從「能編譯」走向「能量化」:PP、TP、EP、HSDP 進入同一個分析器比較,切片 mesh 的 Reshard 開始計入複製成本。代價模型一旦可信,就會反過來影響前端選擇。
附:素材與核查說明
信源核查表
| 信源 | 核查結果 |
|---|---|
| GitHub tile-ai 逐倉核查 | 30 倉庫,視窗內推送 8 個;主分支實增 TileOPs 16、tilelang 2、TileFoundry 1、海光 1 |
| MLIR 昇騰分支核查 | 3 筆合入 mlir-dialect,其 main 自 11-04 未動 |
| 組織級合入真值檢索 | 合入 23 筆:TileOPs 16、tilelang 2、MLIR 昇騰 3、TileFoundry 1、海光 1 |
| 組織級在審檢索 | 在審並更新 20 筆,集中於昇騰發版流水線、佈局與 TMA 修復、新運算元提案 |
| 新開 issue | 7 條:TileFoundry 3、TileOPs 2、topa 1、tilelang 1 |
| 釋出與標籤 | tilelang v0.1.15、TileOPs v0.1.0、MLIR 昇騰 v0.1.2.020,視窗內無新標籤 |
| 新聞側 | 候選 4 條全不可用;Google News 中英文五組查詢無報道;無 HN 條目 |
| 採用方倉庫 | TileKernels 最後推送 10-14,FlashQLA 為 10-30,均不在視窗內 |
| 文件站 | tilelang.github.io 一筆 Update docs;TileOPs.github.io 視窗內 0 筆 |
| TileLang×RISC-V 四源 | 無變化,與上期留檔一致 |
完整信源清單
- [1] TileOPs #3032 mHC pre — https://github.com/tile-ai/TileOPs/pull/3032
- [2] TileOPs #3035 mHC post — https://github.com/tile-ai/TileOPs/pull/3035
- [3] TileOPs #3039 mHC head — https://github.com/tile-ai/TileOPs/pull/3039
- [4] TileOPs #3038 注意力 sink — https://github.com/tile-ai/TileOPs/pull/3038
- [5] TileOPs #3048 bf16 快取行 — https://github.com/tile-ai/TileOPs/pull/3048
- [6] TileOPs #3027 FP4 量化 — https://github.com/tile-ai/TileOPs/pull/3027
- [7] TileOPs #3036 雜湊路由 — https://github.com/tile-ai/TileOPs/pull/3036
- [8] TileOPs #3033 KV 池化 — https://github.com/tile-ai/TileOPs/pull/3033
- [9] TileOPs #3045 GEMM 選擇器 — https://github.com/tile-ai/TileOPs/pull/3045
- [10] TileOPs #3044 MXFP4 解碼 — https://github.com/tile-ai/TileOPs/pull/3044
- [11] TileOPs #3041 GQA 消費組 — https://github.com/tile-ai/TileOPs/pull/3041
- [12] TileOPs #3053 KDA 單次啟動 — https://github.com/tile-ai/TileOPs/pull/3053
- [13] TileOPs #3050 後設資料非同步複製 — https://github.com/tile-ai/TileOPs/pull/3050
- [14] TileOPs #3040 RoPE 載入順序 — https://github.com/tile-ai/TileOPs/pull/3040
- [15] TileOPs #3052 後設資料視窗說明 — https://github.com/tile-ai/TileOPs/pull/3052
- [16] TileOPs #3047 槽位 -1 修正 — https://github.com/tile-ai/TileOPs/pull/3047
- [17] TileOPs #3049 bf16 目標 — https://github.com/tile-ai/TileOPs/issues/3049
- [18] TileOPs #3051 AvgPool1d — https://github.com/tile-ai/TileOPs/issues/3051
- [19] TileOPs #3054 DeltaNet — https://github.com/tile-ai/TileOPs/issues/3054
- [20] TileOPs #3013 Mamba 空洞卷積 — https://github.com/tile-ai/TileOPs/pull/3013
- [21] tilelang #4410 佔位變數序列化 — https://github.com/tile-ai/tilelang/pull/4410
- [22] tilelang #4409 版本號標籤 — https://github.com/tile-ai/tilelang/pull/4409
- [23] tilelang #4412 MLA 競爭 — https://github.com/tile-ai/tilelang/issues/4412
- [24] tilelang #4413 TMA 提升 — https://github.com/tile-ai/tilelang/pull/4413
- [25] tilelang #4411 OBS 輪子 — https://github.com/tile-ai/tilelang/pull/4411
- [26] tilelang #3924 夜間輪子 — https://github.com/tile-ai/tilelang/pull/3924
- [27] tilelang #4016 調優技能 — <https://github.com/ti
le-ai/tilelang/pull/4016>
- [28] tilelang #4012 向量位寬 — https://github.com/tile-ai/tilelang/pull/4012
- [29] Ascend #1760 FP32 GEMM — https://github.com/tile-ai/tilelang-ascend/pull/1760
- [30] Ascend #2023 carver — https://github.com/tile-ai/tilelang-ascend/pull/2023
- [31] MLIR #225 tl.or — https://github.com/tile-ai/tilelang-mlir-ascend/pull/225
- [32] MLIR #228 tl.xor — https://github.com/tile-ai/tilelang-mlir-ascend/pull/228
- [33] MLIR #229 tl.pow — https://github.com/tile-ai/tilelang-mlir-ascend/pull/229
- [34] MLIR #264 vsigmoid — https://github.com/tile-ai/tilelang-mlir-ascend/pull/264
- [35] MLIR #232 sort 降載 — https://github.com/tile-ai/tilelang-mlir-ascend/pull/232
- [36] TileFoundry #356 並行分析 — https://github.com/tile-ai/TileFoundry/pull/356
- [37] 海光 #42 質量門 — https://github.com/tile-ai/tilelang-hygon/pull/42
- [38] 文件站更新 — https://github.com/tile-ai/tilelang.github.io/commit/dc1d73c9
核查說明
口徑:視窗為北京時間 11-19 07:00 至 11-20 07:00。倉庫提交一律按 committer 時間計入,先與上一期截點比對再判定新增。MLIR 昇騰的合入落在 mlir-dialect 分支,main 自 11-04 起未動,正文按分支寫明,不稱其為主分支。
TileOPs 的 16 筆合入與組織級檢索的 23 筆總數逐筆對齊,無重複計數。在審條目分別標註開出日期與最近更新日期,避免把舊提案寫成當日新開。#1760、#3924、#4012、#4016 均早於本視窗開出,正文已寫明開出日期,只按視窗內的推進計。
採集在視窗末段觸及未認證 GitHub API 限速。分支與標籤資訊改用 Atom 訂閱與檢索介面複核,結論未受影響。RISC-V 四源巡檢輸出為空,按無變化處理,不視為採集失敗。新聞側經五組查詢複核後確認為空窗,未以空結果推斷為採集故障。