TileLang 每日動態報告(2026-11-12)
調研視窗:2026-11-11 07:00 ~ 2026-11-12 07:00(北京時間,24 小時;上一期截點為 11-11 07:00)。
信源:GitHub tile-ai 組織逐倉核查(30 倉庫,視窗內推送 7 個,其中 2 個為文件站自動推送)+ 組織級合入與在審真值檢索(視窗內合入 6 筆、在審更新 57 筆、新開 issue 35 條)+ 主分支逐筆提交核查(tilelang 3、TileOPs 0、tilelang-hygon 0、mlir-ascend 1)+ 非預設分支核查(hygon distributed、mlir-ascend master)+ 釋出頁核查(tilelang / TileOPs,視窗內無新版本)+ 第三方 RISC-V 線兩倉(TileLang–Weft 與其基準倉)+ Google News 中英文查詢 + Hacker News + arXiv。RISC-V 四源專項巡檢 24 小時無變化。
本期索引
-
今日重點:主線三筆合入全在昇騰,PTO 目標把 tvm_ffi 提為預設執行後端;海光分散式三件套合入 distributed 分支;昇騰前端一日被審出 30 條 issue
- 一、核心專案進展
- 1.1 昇騰:PTO 目標預設執行後端切到 tvm_ffi,整模組在裝置構建階段編譯並快取(11-11)
- 1.2 昇騰:AutoSchedule 用三條必要條件收緊週期下界,Z3 求解時間降 10.04%(11-11)
- 1.3 昇騰:整數原子操作適配 signless 載體,12 條 PTO 用例覆蓋 32 位與 64 位(11-11)
- 1.4 主線:視窗三筆合入全在昇騰,CUDA 與 CPU 側盡在在審佇列,版本仍停 v0.1.15(11-11)
- 1.5 TIRx:ceildiv 與負 scale 的 split div/mod 兩筆在審,與巢狀 floor division 報錯同源(11-11)
- 二、多後端適配
- 2.1 海光:分散式三件套合入 distributed 分支,Block-Push 與 Block-Pull 兩條通訊路徑(11-11)
- 2.2 海光:ds_read_vector Alt2 與 LDS 佈局推斷開審(11-11)
- 2.3 mlir-ascend:CI 收為 Ascend 950 AscendC 單一 PR 門禁(11-11)
- 2.4 mlir-ascend:harness 知識庫加固合入,tl.or 以新號重新提審(11-11)
- 2.5 昇騰 AscendC 倉:Gated MLA 與 fla_chunk 三件套等十筆在審,合入仍為零(11-11)
- 2.6 CUDA 與 Metal:SIMD-group 越界修復、256 位向量化、SM90 共享轉置在審(11-11)
- 二·五、RISC-V 後端與社群(專項觀察)
- 2.7 四源巡檢:連續第五個視窗無變化,TVM 與 MLIR 兩條線仍停在原引用(11-12)
- 2.8 四源之外:TileLang–Weft 釋出 weft-parity,553/553 落在 Triton 的 1.03 倍內(11-11)
- 三、生態與採用方
- 3.1 TileOPs:主線零提交,W4A16 兩筆疊加把 chunked-prefill-tile 從 37.3 壓到 31.6 微秒(11-11)
- 3.2 TileOPs:DeepSeek-V3 prefill 的 FP8 grouped GEMM 把 A scale 改走 TMA(11-11)
- 3.3 TileOPs:softmax 兩 CTA cluster 達標,long-K NT GEMM 選擇器改動未達標(11-11)
- 3.4 TileOPs nightly:Perf Tracker wiki 當日 19:52 重新整理(11-11)
- 四、社群、教程與活動
- 4.1 昇騰前端一輪系統性審計:一日 30 條 issue,26 條直指昇騰(11-11)
- 4.2 在審修復與審計呼應:VMI mask 校驗、SIMD fill 恢復、E4M3 ND/NZ 複製(11-11)
- 4.3 新聞側:中英文五組查詢視窗內零命中,HN 與 arXiv 同樣無相關條目(11-11)
- 4.4 口徑修正:K3 兩項 Q1 對照的舊 Triton 產物在 -128 取負時溢位(11-11)
- 五、趨勢觀察
今日重點
這個視窗組織內只有 6 筆合入,比上一期的 9 筆再降三分之一,但結構比數字更值得看:6 筆裡 3 筆在主倉,且全部落在昇騰,沒有一筆 CUDA 或 CPU。最大的一筆是 #3516(20 個檔案,+1549/−182),把 tvm_ffi 提為 pto 目標的預設執行後端——此前 target="pto" 走的是 Cython 啟動器,現在 execution_backend="auto" 直接解析到 tvm_ffi,共享 host codegen 生成 MakePackedAPI 與 C host,並由昇騰執行時用 aclrtLaunchKernelWithHostArgs 啟動 PTODSL 編譯出的 aibin,路徑與 AscendC 核心一致。配套的是一處模組級工具鏈回撥:整個 PTODSL 模組在 device build 步驟內一次編譯完成(ptodsl → ptoas → bisheng fatobj-link → 抽取 .aicore_binary),結果按 ptoas 引數、ptoas 版本與 CANN 身份進快取鍵。舊路徑保留為 execution_backend="pto",兩套產出逐位一致。
第二筆 #3776 是求解器側的收緊。AutoSchedule 原本用一個固定的週期下界起二分,這次改成取三條必要條件的最大值:單任務界沿用各任務啟動間隔的最大值;資源團界對成對沖突的任務按殘餘值排序,由相鄰差與首尾差推出週期不小於各啟動間隔之和;自依賴界由 S_u - S_u >= wait - d*P 反解出週期不小於 ceil(wait/d),版本相關距離再按 num_stages 折算。沒有引入額外的下界探測,也沒有改排程模型。實證在 Ascend 950PR、CANN 9.3.0 的周版本上:關閉編譯快取,一熱三測交替,全部昇騰示例編譯透過且排程結果不變,Z3 求解階段累計耗時降 10.04%。
第三件事不在主倉。海光的分散式三件套 #36(6 個檔案,+2022/−0)在 16:20 合入 distributed 分支而非 main,內容是 Block-Push 版本的 GEMM + AllReduce、Block-Push 版本的 GEMM + ReduceScatter、Block-Pull 版本的 AllGather + GEMM 三個計算通訊融合運算元,效能資料與實現說明寫在 README。同一天 #37 開出 HCU 的 ds_read_vector Alt2 與 LDS 佈局推斷。這條線從 10-29 的 push-wave reduce-scatter 示例一路走到融合運算元清單,是海光倉第一次成體系地做分散式。
第四件事是質量側的一次集中爆發:視窗內 35 條新 issue 有 30 條落在主倉,其中 26 條直指昇騰。兩個賬號在下午到深夜之間各報了十餘條,形態高度一致——不是「跑錯了」,而是「本該報錯卻靜默透過」:T.Kernel 接受零或負的 block 數、T.alloc_l1 接受 2 GiB 分配、T.Persistent 接受負的 wave 與 stage、T.unroll 接受 −1 並吐出 #pragma unroll -1、負張量維度直接把編譯器打崩。另一組是語義錯位:hf32 的 nearest_zero 編譯成 NEAREST_AWAY、GEMM 輸入 dtype 表與 codegen 雙向不一致、reduce_bitand 一族吐出昇騰模板未定義的型別、同型 ND 轉 NZ 散射因掩碼計數不回退而陷入死迴圈。這批 issue 大多仍開放,但當日已有 VMI mask 校驗、SIMD fill 恢復等對應修復在審。
來源:https://github.com/tile-ai/tilelang/pull/3516 、 https://github.com/tile-ai/tilelang/pull/3776 、 https://github.com/tile-ai/tilelang-hygon/pull/36 、 https://github.com/tile-ai/tilelang/issues/3920
一、核心專案進展
1.1 昇騰:PTO 目標預設執行後端切到 tvm_ffi,整模組在裝置構建階段編譯並快取(#3516)
#3516(20 個檔案,+1549/−182)是本期最大的一筆。改動的實質是把 pto 目標從「專用 Cython 啟動器」遷到「與 AscendC 同一條 host 路徑」:target="pto" 配 execution_backend="auto" 時解析為 tvm_ffi,共享 host codegen 負責 MakePackedAPI 與 C host 構建,昇騰執行時模組用 aclrtLaunchKernelWithHostArgs 啟動由 PTODSL 編出的 aibin。
裝置構建側新增一個模組級工具鏈回撥,把整個 PTODSL 模組一次編譯完成:ptodsl 前端產出、ptoas 下沉、bisheng 的 fatobj 連結、再到 .aicore_binary 抽取,產物按 aibin 快取。快取鍵把 ptoas 引數、ptoas 版本與 CANN 身份一併算進去——這一點很關鍵,此前這類鍵漏掉工具鏈版本時,跨 CANN 升級會命中舊產物。
驗證面鋪得很寬,新增四組測試:auto 解析到 tvm_ffi、被調方分配輸出、動態形狀與動態輸出、多裝置核心、動態共享記憶體、cube/vector 混合 GEMM、source accessor、匯出庫、host 側迴圈啟動與 host 側 profiling 區間;另有等價性測試逐位比對 tvm_ffi 與舊 pto 在 vecadd、多核心與動態共享記憶體三種核心上的結果;兩組快取測試分別覆蓋二進位制快取與核心快取,其中快取命中跳過工具鏈、損壞條目拋錯、以及在全新程序裡命中。舊路徑按計劃保留,待覆蓋確認後再退役。
來源:https://github.com/tile-ai/tilelang/pull/3516
1.2 昇騰:AutoSchedule 用三條必要條件收緊週期下界,Z3 求解時間降 10.04%(#3776)
#3776(1 個檔案,+20/−1)只改初值,不改演算法:原來的二分從一個固定下界起步,現在先算三條必要條件再取最大值。單任務界保留各任務啟動間隔的硬下界;資源團界針對成對資源衝突的團,把任務殘餘值升序排列後,由相鄰差的約束與首尾差的約束相加得出週期不小於團內啟動間隔之和,團本身用每個任務作種子貪心列舉;自依賴界由 S_u - S_u >= wait - d*P 反解,版本相關距離以 num_stages 為上界。
實證環境寫得很具體:華為 Ascend 950PR、CANN 9.3.0 的 20261009.01 周版本,關編譯快取,每個配置一熱三測交替。結果有兩條:昇騰示例全部編譯透過且排程結果與改前一致(說明只收緊了下界、沒有改變解),Z3 求解階段累計耗時下降 10.04%。二分上下界與求解狀態處理均未改動,也沒有引入額外的下界探測流程。
這類改動對上游的價值不在單點效能,而在於排程器的求解時間隨運算元規模增長時,二分起點的浪費會線性放大——把必要條件寫進初值,等於給每次求解省掉一段無意義的區間。
來源:https://github.com/tile-ai/tilelang/pull/3776
1.3 昇騰:整數原子操作適配 signless 載體,12 條 PTO 用例覆蓋 32 位與 64 位(#3794)
#3794(4 個檔案,+52/−6)修的是 #3512 的後遺症。那筆改動把有符號整數型別從 signless 的 i32/i64 改成 si32/si64,而 PTO 的原子介面要求 signless 載體,於是 SIMT 核心裡的整數 add/min/max 原子操作直接編譯失敗。
改法是在生成的 PTODSL 呼叫邊界做區域性適配:把指標與運算元按同寬重解釋為 signless,保留指標的地址空間,返回值再還原成邏輯型別;min/max 保持原本的有符號或無符號比較語義。這樣 #3512 引入的邏輯型別體系不被推翻,適配只壓在原子這一層。
迴歸用例落在 testing/ascend/language/simtvf 下的 test_simtvf_atomics.py,覆蓋 32 位與 64 位的 add/min/max、負數運算元、返回舊值、超過 32 位的值、以及高位為 1 的無符號初值;新增的 12 條 PTO 用例在昇騰上全過。同批合入的 #3792 修的是同一族問題的另一面:T.atomic_add/max/min 因有符號輸入在 PTO 上編譯失敗。
來源:https://github.com/tile-ai/tilelang/pull/3794
1.4 主線:視窗三筆合入全在昇騰,CUDA 與 CPU 側盡在在審佇列,版本仍停 v0.1.15
把主倉視窗內的三筆合入按方向拆開看,結論很直接:#3516、#3776、#3794 全部落在昇騰,CUDA 與 CPU 側零合入。上一期還有三筆 CUDA 指令級原語進主幹,這一期一筆都沒有——不是 CUDA 側停了,而是全部堆在評審佇列:#3809(SM90 共享轉置降到 ldmatrix/stmatrix)、#3826(int16x16/uint16x16 的 256 位向量化)、#3723(SIMT im2col 提到 warp 特化之前)、#3923(流水 GEMM 運算元活到完成等待)、#3898(非同步 GEMM 共享運算元生命週期)都在視窗內有更新但未合。
版本側仍然掛起。主倉釋出頁最新仍是 09-30 的 v0.1.15,tag 序列未變;0.1.16 的版本號 PR 未在視窗內更新。TileOPs 釋出頁最新仍是 10-27 的 v0.1.0。也就是說,本期合入的 1549 行昇騰執行後端改動,最早也要等下一個 tag 才會進下游發行包。
來源:https://github.com/tile-ai/tilelang/releases 、 https://github.com/tile-ai/tilelang/pull/3809 、 https://github.com/tile-ai/tilelang/pull/3826
1.5 TIRx:ceildiv 與負 scale 的 split div/mod 兩筆在審,與巢狀 floor division 報錯同源(#93、#94)
tile-ai/tvm 側視窗內有兩筆在審:#94([Fix][TIRx] Make ceildiv exact for signed divisors)與 #93([Arith] Guard negative scales in canonical split div/mod)。兩筆都在修同一類問題的兩端——符號進入整除與取模後,規範化的改寫前提不再成立,於是「精確」與「安全」需要分開處理:ceildiv 要求帶符號除數時結果仍然精確,split div/mod 則要在負 scale 下拒絕規範化。
這與主倉當日新開的 #3937([BUG] 巢狀 floor division 在負乘數下產出錯誤整數)指向同一處:負係數一旦進入算術化簡的改寫鏈,邊界條件很容易被漏掉。區別在於 #3937 是使用者側復現,#93/#94 是編譯器側先手加固。
來源:https://github.com/tile-ai/tvm/pull/94 、 https://github.com/tile-ai/tvm/pull/93 、 https://github.com/tile-ai/tilelang/issues/3937
二、多後端適配
2.1 海光:分散式三件套合入 distributed 分支,Block-Push 與 Block-Pull 兩條通訊路徑(#36)
#36(6 個檔案,+2022/−0)在上一期還是開啟狀態,本期 16:20 合入,落點是 distributed 分支而不是 main——該倉預設分支 main 的最新提交仍是 11-06,因此這筆改動不會出現在預設分支的提交列表裡,只有按分支查才能看到。落點差異需要寫明:main 與 v0.1.15-release 同引用,distributed 已單獨走出 11-03 的 signal 原語、10-29 的 push-wave reduce-scatter 示例與本期的三件套。
內容三個運算元:Block-Push 版本的 GEMM + AllReduce、Block-Push 版本的 GEMM + ReduceScatter、Block-Pull 版本的 AllGather + GEMM。Push 由計算側主動把結果推給對端,Pull 由計算側去拉對端的 allgather 結果,選哪條路徑取決於通訊域大小與重疊視窗,README 裡給了效能對照與實現方式。驗證側在 11-06 已補 Torch 效能基線到 GEMM reduce-scatter 基準,本期未再改。
來源:https://github.com/tile-ai/tilelang-hygon/pull/36
2.2 海光:ds_read_vector Alt2 與 LDS 佈局推斷開審(#37)
同一天 11:21 開出 #37([HCU] Support ds_read_vector Alt2 and inferred LDS layouts),方向是把兩種指令形態補齊:ds_read_vector 的第二種編碼形態,以及可由約束推匯出的 LDS 佈局。這與 11-06 合入的 #34(用 DPP 與 lane swap 最佳化 reduction 的 XOR shuffle、並在自由候選之前先傳播已知佈局約束)是同一條佈局推導線,區別在於 #34 處理 reduction 側的通道交換,#37 處理向量讀的編碼與佈局落地。
海光倉當前有 15 個分支,其中 feat/hcu-* 系列六條、distributed 一條,說明這家後端的工作面已經從單卡指令擴充套件到通訊與佈局兩翼。
來源:https://github.com/tile-ai/tilelang-hygon/pull/37
2.3 mlir-ascend:CI 收為 Ascend 950 AscendC 單一 PR 門禁(#222)
#222(五個工作流檔案,+7/−9)在 10:27 合入 master 分支。改法刻意做小:所有作業定義、條件與步驟一律不動,只改每個工作流檔案的 on: 塊——這是最不容易被併發編輯的區域,合併衝突面因此最小。
動機寫得很直白:此前每個 PR 都會在整個上游矩陣上展開(自建 NVIDIA、AMD gfx942、macOS,以及一條先編 CANN 再跑兩遍 examples/ascend 與 testing/ascend 的昇騰腿),而 master 上唯一在開發的後端就是 Ascend 950,其餘腿基本是噪音,還在佔用稀缺硬體;PTO 後端當期也沒有人在推進。改完之後 PR 門禁只剩兩項:清潔程式碼 lint,以及 Ascend 950 的 AscendC 一條線。
這條改動對下游的含義是:mlir-ascend 倉的准入基線從此只有一代硬體,舊代昇騰的迴歸將不再作為合併條件。
來源:https://github.com/tile-ai/tilelang-mlir-ascend/pull/222
2.4 mlir-ascend:harness 知識庫加固合入,tl.or 以新號重新提審(#219、#225)
#219(10:03 合入)是 harness 分支的加固:執行與評估管線、分析/開發知識庫、以及 search@2 依賴佇列一併推進。這與 11-10 那筆 #217(知識條目留存與審批編號去重)是同一序列,說明該倉在把「探索過程中積累的知識可靠留存」當成一件正經工程在做,而不是散落在討論裡。
另有三個提案在視窗內進出:#223(為 tl.alloc 補 L0A/L0B/L0C/L1 四個地址空間,覆蓋 FYP 所需 21 個函式里的 4 個)與 #224(tl.or 方言運算元)均已關閉未合入,#225 以同一份內容重新提審並保持開啟;#225 的實現路徑是照 add/sub/mul 的模板補 TL_OrOp、verifyElementwiseBinary、ConvertBinary 到 hivm::VOrOp 的轉換、以及 codegen 側的分發,附帶方言往返與 TL→HIVM 兩組測試,本地 ctest 14/14 透過。#220、#221 是技能側的兩筆:Ascend950 模擬 trace 工作流(msprof 採集、MindStudio Insight 檢視、npusim SQLite 匯出)與運算元設計指導(階段分解、SIMD/SIMT 選擇、儲存預算、Cube MFU 與條件 Roofline 計算器)。
來源:https://github.com/tile-ai/tilelang-mlir-ascend/pull/219 、 https://github.com/tile-ai/tilelang-mlir-ascend/pull/225
2.5 昇騰 AscendC 倉:Gated MLA 與 fla_chunk 三件套等十筆在審,合入仍為零(11-11)
tilelang-ascend 倉本期繼續「只進不出」:視窗內組織級 6 筆合入裡沒有一筆屬於它,而在審佇列又厚了一層,當日更新十筆以上。運算元側最顯眼的是 #1970(為 PTO 與 AscendC 兩條線補多頭 Gated MLA 前向)、#1994 / #2004 / #1952(fla_chunk 的 inter、intra、intra_token_parallel 三件套)、#1605(Kimi Delta Attention 的解碼與分塊預填充前向,目標 910B)、#1989(升級 catlass 至 v2.2.0)。
示例與文件側則在補運算元基準:#1558(rms_norm,20 例 cann-bench 與效能最佳化)、#1748(NMS,20 例)、#1607(GroupNorm,20 例)、#1677(細化 sin/cos 文件串並補測試與 API 文件)、#1732(兩條後端支援 in-place 的 T.tile.silu/sigmoid)、#2000(位運算的 PTO uint8 包裝修復與 src1 校驗)。
測試面當日有一條硬記錄:#2003 的每日測試日報顯示 11-11 07:58 一次執行 3060 項全過,透過率 100%。規模上到 3060 項、合入連續多視窗為零,瓶頸確實在評審而不在開發。
來源:https://github.com/tile-ai/tilelang-ascend/pull/1970 、 https://github.com/tile-ai/tilelang-ascend/issues/2003
2.6 CUDA 與 Metal:SIMD-group 越界修復、256 位向量化、SM90 共享轉置在審(11-11)
非昇騰後端本期全在評審佇列,但方向清楚。CUDA 側三筆:#3809 把 8 位與 16 位的共享記憶體轉置降到 ldmatrix/stmatrix(SM90 起可用),#3826 補 int16x16/uint16x16 以打通 256 位向量化,#3723 把 SIMT im2col 提到 warp 特化之前排程。執行時側兩筆:#3867 在核心與當前裝置不一致時按輸入所在裝置啟動,#3882 在每個實際啟動的裝置上抬高 cython 核心的動態共享記憶體上限。
Metal 側 #3912 承的是上一期那處靜默越界:把 8x8 的 simdgroup 矩陣拷到 8x1 輸出時,編譯器發射行步長 1 的完整儲存,覆蓋輸出之後的七個元素。修法不是加執行時檢查,而是在發射每條 SIMD-group 儲存之前要求算術分析器證明完整足跡落在目的緩衝與請求區域內,證不出就在下沉期拋可讀錯誤。同日另有 #3804 處理 2D simdgroup fill 的區域偏移。
來源:https://github.com/tile-ai/tilelang/pull/3809 、 https://github.com/tile-ai/tilelang/pull/3912 、 https://github.com/tile-ai/tilelang/pull/3826
二·五、RISC-V 後端與社群(專項觀察)
2.7 四源巡檢:連續第五個視窗無變化,TVM 與 MLIR 兩條線仍停在原引用(11-12)
按既定四源逐一比對引用,24 小時視窗內全部無變化:
kubuds/tilelang-riscv-kubuds(TVM 後端路線)的兩個kubuds-分支停在kubuds-riscv-karenfc62939、kubuds-riscv-mahiru33e0c89,main僅為上游同步;RuyiAI-Stack/tilelang-riscv(MLIR 改寫路線,target="riscv")main停在 57c548c;TongmingLAIC/tilelang-riscv(社群索引頁)main停在 4499c2a,表內專案無增刪;TongmingLAIC/tilelang-tpu(算能 SOPHGO TPU)main停在 303759f,feature/sg2260e-rv-support停在 122bc59,其餘 19 條分支引用同樣不變。
這已是連續第五個視窗(11-07、11-09、11-10、11-11、11-12 留檔)無變化。按既定口徑,指令碼輸出為空記為「無變化」,不視為採集失敗。
來源:GitHub 四源逐引用比對(視窗內無變化),無單條落點連結。
2.8 四源之外:TileLang–Weft 釋出 weft-parity,553/553 落在 Triton 的 1.03 倍內(11-11)
上一期記錄的那條 CPU 線,本期給出了結論性的一版。Tianchen-ai/tilelang-weft 與其基準倉同日各發一筆(08:51 與 08:52),把釋出標籤從 v0.1.15-weft.2 換成 weft-parity,並重寫了結果表與結果手冊。
新口徑分兩層。第一層是與 Triton 的配對對照:553 項全部有匹配的 Triton 原生對照,逐項滿足「TileLang 原生耗時不超過對應 Triton 的 1.03 倍」,四平臺分別是 SG2044 133/133、K1 137/137、K3 A100 136/136、x86 147/147,合計 553/553。候選與對照用同一批輸入交替測量,候選就是透過原始碼 JIT 數值檢查後匯出的同一份原生庫。第二層是對外部參考庫的倍率:543 例有匹配參考,其中 468 例快於參考,平臺中位倍率為 SG2044 1.3598、K1 1.3176、K3 A100 1.6569、x86 1.2917。
這兩組數字必須與上一期分開讀。上一期記的是同一批用例的舊錶:快於參考 41 例,SG2044 中位 0.0580 倍。同一天的兩筆提交把這張表整體換掉,原因寫在提交標題裡——「四平臺共享編譯器的效能繼承」。按結果手冊的說法,TileLang 原生 TIRx 現在匯入 Triton–Weft 同一套 Canonical 編譯器,完整 packed 負載保留輸入準備、編碼、整數 partial、scale/min 支路與輸出更新。也就是說,跳變的來源是被測物件從「作者手寫程式」換成了「共享編譯器產物」,而不是同一份實現在一天內提速二十倍。引用時應寫清這一點,不能用新表覆蓋舊結論。
另外有一處值得記的修正:K3 的兩項 Q1 對照此前用的是舊 Triton 產物,該產物在對 −128 取負時溢位——邊界輸入得到 −2048,正確結果應為 0。修復精確 I8 歸約的共享編譯器重新生成之後,兩種前端的產物都透過該輸入;triton_historical_us 保留舊耗時,triton_control_note 標出修正的比較。這是本期唯一一處「對照本身有錯」的披露,比任何分數都更能說明這套基準在認真對待可復現性。
技術路線仍需分清:Weft 走的是 TileLang 原生 AST 早期匯入到自有 Canonical IR 的 CPU 路線,與 kubuds- 字首分支延續的 TVM 後端、RuyiAI-Stack/tilelang-riscv 的 MLIR Linalg/SCF 改寫都不是同一條實現。
來源:https://github.com/Tianchen-ai/tilelang-weft 、 https://github.com/Tianchen-ai/tilelang-weft-bench
三、生態與採用方
3.1 TileOPs:主線零提交,W4A16 兩筆疊加把 chunked-prefill-tile 從 37.3 壓到 31.6 微秒(#2895、#2896)
TileOPs 本期主分支零提交,但開了五筆效能 PR,其中兩筆是疊加的同一族。#2895(3 個檔案,+183/−3)把沿 K 兩分的 W4A16 瓦片改成一對 CTA 的 cluster:每個 CTA 持有一個消費者 warpgroup 的行,透過 st.async 在對端共享記憶體裡收到這批行的 FP32 partial 再寫出,於是這些瓦片不再啟動 split-K 歸約、也不再往返 FP32 工作區。H200、1500 MHz 下 chunked-prefill-tile 從 37.3 微秒降到 34.7 微秒(torch 反量化矩陣乘為 37.5 微秒),輸出與歸約路徑逐位相同。
#2896(3 個檔案,+525/−5)在其上再疊一層:128 行 128 列的 W4A16 瓦片改用手寫 warp 特化主迴圈,在上一筆 WGMMA 還在跑的時候就解碼下一個 K 瓦片,並只在讀取該環段的 WGMMA 退休後釋放環段;由於成本模型裡沒有這一項,改用一條校準規則把這些瓦片放到四個 128 寬的 K 段上。同一基準降到 31.6 微秒,是 torch 反量化矩陣乘的 1.19 倍,輸出與流水主迴圈逐位一致。
兩筆都歸屬 #2130 這條效能清單,#2896 明確寫著疊加在 #2895 之上、其提交會一併顯示直到前一筆合入。
來源:https://github.com/tile-ai/TileOPs/pull/2895 、 https://github.com/tile-ai/TileOPs/pull/2896
3.2 TileOPs:DeepSeek-V3 prefill 的 FP8 grouped GEMM 把 A scale 改走 TMA(#2894)
#2894(1 個檔案,+2/−2)只改兩個配置項:ds-v3-ep8-prefill-up 與 ds-v3-ep8-prefill-down 的 stage_scales 從 1 改回 0,讓它們的 128 行瓦片在 #2865 新增的 TMA 盒子裡取 A scale,而不是經 producer 中轉。改動雖小,接的是一整條鏈:它替換 #2839 剩下的部分,其餘內容已被 #2864、#2865、#2885 分別吸收。
數字在 H200 SXM、SM 1500 MHz、CUDA 13.2、PyTorch 2.13、TileLang 0.1.12 上測,device_busy_ms,與主幹 9bf4bf56 交替跑三輪取中位:上投影 269.3 → 262.0 微秒(對 DeepGEMM 287.1 微秒的比值由 1.066 升至 1.096),下投影 142.2 → 137.2 微秒(比值 1.117 → 1.157)。另兩行連續配置保持不變。測試側 tests/ops/test_moe_grouped_gemm_fp8.py 在 H200 上 53 透過 25 跳過。
來源:https://github.com/tile-ai/TileOPs/pull/2894
3.3 TileOPs:softmax 兩 CTA cluster 達標,long-K NT GEMM 選擇器改動未達標(#2898、#2897)
#2898(SoftmaxFwdOp,標 bar met)把兩片 32 KB 的 softmax 行從四個 128 執行緒 CTA 的 cluster 改到兩個 256 執行緒 CTA 的 cluster:SM90 上每個 CTA 槽位都能放下兩 CTA 的 cluster,而四 CTA 的 cluster 會留下空槽。暫存器側同時改了兩處——行最大值按打包的 16 位對取,float16 的每一項用一次 FFMA 對瓦片的縮放最大值做移位;bfloat16 與 float32 仍先減最大值,因為它們的最大值乘 log2(e) 會越過 fp32 範圍。根因寫在描述裡:基準把 H200 跑在 1500 MHz,暫存器方案比 quack 多執行 17% 指令、受發射率限制。
#2897(GEMMFwdOp,標 below bar)方向相反,結果沒達標。它要修的是選擇器的判定:超過 64 個 K 步之後,只有當一個 176 或 192 寬的 ping-pong 瓦片能覆蓋更多「每位元組運算元的輸出」時才替換更寬的 coop2 瓦片,ds-v3-prefill-o-proj 因此從 128x176/144 的 ping-pong 換到 128x256/240 的 coop2。問題在於該行跑在 H200 的 700 W 功耗牆下,時間跟每次呼叫的能耗走:176 寬瓦片比 DeepGEMM 少 2.7% 週期,但把多 21% 的運算元位元組搬進 SM,於是跑在更低的時鐘上。這條如實標了未達標,價值在於把「功耗牆下不能用週期數當判據」這件事量化了。
來源:https://github.com/tile-ai/TileOPs/pull/2898 、 https://github.com/tile-ai/TileOPs/pull/2897
3.4 TileOPs nightly:Perf Tracker wiki 當日 19:52 重新整理(11-11)
TileOPs-nightly 倉本期的推送時間戳來自一次 wiki 變更而不是程式碼:當日 19:52 該倉 wiki 的 Home 頁被建立,對應 Perf Tracker 看板的夜間同步。這類推送在按 org 逐倉核查時會被算作「視窗內推送」,需要與真正的程式碼提交區分開——本視窗該倉主分支零提交,snapshots 分支最新一次推送仍是 11-09。
同期 TileOPs.github.io 的 gh-pages 在 11-10 有一次推送,不在本視窗內。文件站與 nightly 這類自動寫入,本期不再單列條目,只在此處記一筆口徑。
來源:https://github.com/tile-ai/TileOPs-nightly
四、社群、教程與活動
4.1 昇騰前端一輪系統性審計:一日 30 條 issue,26 條直指昇騰(11-11)
視窗內組織級新開 35 條 issue,其中 30 條落在主倉、3 條在 TileFoundry、2 條在 tilelang-ascend。主倉這 30 條裡,26 條標題直接帶昇騰字首,來源集中在兩個賬號:cn-sys 12 條(15:19 至 16:14 連續提交),JINITAIMEI121 13 條(08:31 至 10:39),另一條是 PTO 多區域報重複物理段。
這些 issue 的共性不是「結果算錯」,而是「不該透過卻透過」。引數校驗一類:T.Kernel 接受零或負的 block 數、T.Persistent 接受負的 wave_size 與 num_stages、T.Pipelined 接受負的 num_stages 與不合法 order/stage 後設資料、T.unroll 接受 −1 並吐出 #pragma unroll -1、迴圈構造器接受零或負 extent、負張量維度直接把編譯器打崩(原生崩潰而非 Python 異常)、T.alloc_l1 接受 2 GiB 分配而沒有任何容量檢查。語義錯位一類:hf32 的 nearest_zero 編譯成 NEAREST_AWAY、GEMM 輸入 dtype 表與 codegen 雙向不一致、reduce_bitand/bitor/bitxor 吐出昇騰模板未定義的型別、batch reduction 退化成沒有批過載的標量 AllReduce 入口、GM 到 L1 複製的 pad_value 被路由進只接受零的 L1 fill、同型 ND 轉 NZ 散射因掩碼計數不回退而死迴圈、partial-VL 行產出不存在的 PAT_VL<N> 模式。工具鏈一類:vsts_pack_quarter 沒有 16 位分支導致 b16 向量上的 PK4_B32 儲存被靜默丟棄、模組序列化丟掉 device source 使快取核心在啟動失敗時無原始碼可查、msprof 後端自動調優因在工作執行緒裡調 signal.signal() 而必然失敗。
這批不是零散吐槽,形態上像一次有組織的審計:同一賬號在半小時內按主題成串提交,標題統一為「[BUG] Ascend: …」加一句根因概括。對上游的意義是,昇騰前端的「健全性」缺口被一次性擺到了檯面上——3060 項每日測試全過並不代表非法輸入會被拒絕,因為測試覆蓋的是合法路徑。
來源:https://github.com/tile-ai/tilelang/issues/3941 、 https://github.com/tile-ai/tilelang/issues/3928 、 https://github.com/tile-ai/tilelang/issues/3947
4.2 在審修復與審計呼應:VMI mask 校驗、SIMD fill 恢復、E4M3 ND/NZ 複製(11-11)
當日更新的在審 PR 裡,有一批正好對著上面的缺口。#3861 與 #3917 是同一件事的兩筆:VMI 一元與向量-標量工廠此前對 mask 只查「在不在」,不查 dtype 與通道數,於是把普通向量當謂詞傳進去也能一路走到 codegen——vabs、vneg、vrelu、vexp、vln、vsqrt、vnot 七個運算元都建在這個工廠上,向量-標量側的 vadds、vmuls、vmaxs、vmins、vshls、vshrs 也有弱形式。
#3795 修的是 #3512 的另一處副作用:T.SimdVF() 裡對 int32 UB 緩衝做 T.clear 時,生成的向量廣播只支援浮點,PTO 編譯失敗——因為 PTO 管線用專門的 Parallel pass 替換了原 SIMD pass,順手把 fill 下沉丟了。改法是在 buffer-version 規範化之後、PTO Parallel 校驗之前補一個 LowerSimdVFFill,對連續且完整的向量區域複用 vdup/vsts,其餘仍走舊路徑;同時保留浮點 tl.simd.vdup 的數值轉換,修掉「int32 的 7 被按位廣播成約 9.809e-45」的問題。
#3639 補 E4M3 的 ND/NZ UB 到 L1 複製,#3926 讓 T.Kernel 拒絕非正 block 數與負的 Pipelined num_stages,#3854 修 SimdVF 下沉里亞位元組元素的除零,#3668 補 AIV 核在 T.PerCoreTask() 內對 UB 到 GM 的交錯跨步寫。另有 #3915 與 #3916 處理 AssertStmt 的錯誤種類與條件檢查的就地斷言。
來源:https://github.com/tile-ai/tilelang/pull/3861 、 https://github.com/tile-ai/tilelang/pull/3795 、 https://github.com/tile-ai/tilelang/pull/3926
4.3 新聞側:中英文五組查詢視窗內零命中,HN 與 arXiv 同樣無相關條目(11-11)
Google News 中英文查詢在視窗內零命中,最新命中仍停在舊文;Hacker News 的命中全是同名噪音(與 TileLang 無關的條目),arXiv 上 all:"TileLang" 的最新結果仍超窗。當前能被檢索引擎抓到的 TileLang 相關內容,仍是 ICLR 2026 的論文頁與微軟研究院的發表頁,屬長期條目而非新聞。
新聞側連續多日零命中屬 TileLang 的常態:專案傳播主要走 GitHub 與開發者社群,不在新聞索引裡,報道主體繼續以倉庫動態為準。
來源:Google News 中英文查詢(走代理)、Hacker News、arXiv,視窗內無相關條目。
4.4 口徑修正:K3 兩項 Q1 對照的舊 Triton 產物在 -128 取負時溢位(11-11)
把這條單列,是因為它影響的不是分數而是可比性。基準倉在釋出 weft-parity 的同批提交裡披露:K3 的兩項 Q1 對照此前用的是保留的 Triton Canonical 程式,該程式在對 −128 取負時溢位——邊界輸入得到 −2048,而正確結果應為 0。修復精確 I8 歸約的共享編譯器重新生成之後,兩種前端的產物都透過該輸入;歷史耗時保留在 triton_historical_us 欄位,修正說明寫在 triton_control_note。
對照實現出錯是基準類專案的常見陷阱:一旦參考側在邊界輸入上錯了,被測側的「不如參考」可能只是參考錯得更快。這條披露與 2.8 的配對口徑合起來看,說明這條 CPU 線在從「作者程式對比外部庫」轉向「同編譯器產物配對比較」,方法論上更可信,但兩張表不能混用。
來源:https://github.com/Tianchen-ai/tilelang-weft-bench/blob/main/docs/results.zh-CN.md
五、趨勢觀察
一是昇騰在主線上的權重繼續上升,且從「補運算元」轉向「補執行路徑與求解器」。本期主倉三筆全是昇騰:執行後端換預設、求解器收緊下界、原子操作適配型別體系。這三筆都不增加運算元名單,但在改「同一段程式怎麼被編出來、跑起來、以及多久能編完」。對照 10 月以來的記錄,昇騰側的合入已經從補齊 AscendC 運算元,走到介面語義、執行後端、排程求解器這三層。
二是CUDA 側進入長評審期。上一期還有三筆 CUDA 指令級原語進主幹,本期零合入而六筆在審(ldmatrix/stmatrix、256 位向量化、im2col 排程、流水運算元生命週期、非同步 GEMM 生命週期、PASS 配置名稱空間)。合入速率下降與在審佇列增厚同時出現,通常意味著評審頻寬成了瓶頸,而不是開發停擺。
三是質量審計開始與功能開發並行。一日 26 條昇騰 issue 的形態說明,社群裡已經有人在做系統性的非法輸入審計,而對應的修復 PR 當日就在佇列裡(mask 校驗、負引數拒絕、fill 下沉恢復)。這對一個正在把後端鋪到多家國產晶片的專案是好事:3060 項每日測試全過只證明合法路徑可用,非法路徑的拒絕能力得靠這類審計。
四是RISC-V 四源連續五個視窗靜默,但四源之外的 CPU 線給出了階段性結論。TVM 路線、MLIR 路線、社群索引頁、算能 TPU 四個上游都停在原引用;而 TileLang–Weft 用共享 Canonical 編譯器把 553 項全部做到 Triton 的 1.03 倍以內,四平臺中位倍率 1.29 至 1.66。需要注意這是口徑切換後的結果,不能與上一期的 0.058 倍直接比較。真正的觀察點是:這套「同一編譯器、兩套前端」的做法能否反向進入上游,以及 RISC-V 的 RVV/IME 路徑是否會被四源之外的專案先跑通。
侷限說明:本期 GitHub 匿名 API 額度在採集早期耗盡,PR 正文與合入詳情改由檢索介面與非預設分支的提交原子流補齊,個別 PR 的檔案數與行數為檢索介面返回值,未逐行復核 diff;hygon 與 mlir-ascend 的合入落在非預設分支,已按分支分別核查。新聞側只有零命中,無外部報道可交叉驗證。
附錄:素材與核查說明
| 信源 | 核查結果 |
|---|---|
| tile-ai 組織逐倉(30 倉庫) | 視窗內推送 7 個:tilelang、TileOPs、TileOPs-nightly、tilelang-hygon、tilelang-mlir-ascend、tilelang.github.io、TileOPs.github.io |
| 主倉 tile-ai/tilelang | 合入 3 筆(#3516、#3776、#3794),全部昇騰;新增 issue 30 條 |
| 非預設分支 | hygon distributed 合入 #36;mlir-ascend master 合入 #222;兩倉 main 均零提交 |
| 在審佇列 | 組織級 57 筆在視窗內更新,主倉 33 筆 |
| 釋出頁 | tilelang 最新 v0.1.15(09-30),TileOPs 最新 v0.1.0(10-27),視窗內無新 tag |
| 每日測試 | tilelang-ascend #2003:11-11 07:58 執行 3060 項全過 |
| TileLang×RISC-V 四源巡檢 | 無變化(連續第五個視窗) |
| 第三方 RISC-V 線 | TileLang–Weft 與基準倉各 1 筆,釋出 weft-parity |
| 新聞側 | Google News 中英文、Hacker News、arXiv 視窗內零命中 |
完整信源清單
- [1] tilelang #3516(PTO 目標的 tvm_ffi 執行後端) — https://github.com/tile-ai/tilelang/pull/3516
- [2] tilelang #3776(AutoSchedule 週期下界) — https://github.com/tile-ai/tilelang/pull/3776
- [3] tilelang #3794(PTO 整數原子) — https://github.com/tile-ai/tilelang/pull/3794
- [4] tilelang #3792(原子 add/max/min 有符號輸入) — https://github.com/tile-ai/tilelang/pull/3792
- [5] tilelang 釋出頁 — https://github.com/tile-ai/tilelang/releases
- [6] tilelang #3809(SM90 共享轉置) — https://github.com/tile-ai/tilelang/pull/3809
- [7] tilelang #3826(256 位向量化) — https://github.com/tile-ai/tilelang/pull/3826
- [8] tilelang #3912(Metal SIMD-group 越界) — https://github.com/tile-ai/tilelang/pull/3912
- [9] tilelang #3861(VMI mask 校驗) — https://github.com/tile-ai/tilelang/pull/3861
- [10] tilelang #3795(PTO SIMD fill 恢復) — https://github.com/tile-ai/tilelang/pull/3795
- [11] tilelang #3926(拒絕非正 block 與負 num_stages) — https://github.com/tile-ai/tilelang/pull/3926
- [12] tilelang #3937(巢狀 floor division) — https://github.com/tile-ai/tilelang/issues/3937
- [13] tilelang #3920(T.Kernel 負 block 數) — https://github.com/tile-ai/tilelang/issues/3920
- [14] tilelang #3928(迴圈構造器零或負 extent) — https://github.com/tile-ai/tilelang/issues/3928
- [15] tilelang #3941(ND 轉 NZ 散射死迴圈) — https://github.com/tile-ai/tilelang/issues/3941
- [16] tilelang #3947(msprof 自動調優必然失敗) — https://github.com/tile-ai/tilelang/issues/3947
- [17] tile-ai/tvm #93(負 scale 的 split div/mod) — https://github.com/tile-ai/tvm/pull/93
- [18] tile-ai/tvm #94(ceildiv 帶符號除數) — https://github.com/tile-ai/tvm/pull/94
- [19] tilelang-hygon #36(分散式三件套) — https://github.com/tile-ai/tilelang-hygon/pull/36
- [20] tilelang-hygon #37(ds_read_vector Alt2) — https://github.com/tile-ai/tilelang-hygon/pull/37
- [21] tilelang-mlir-ascend #222(CI 門禁收斂) — https://github.com/tile-ai/tilelang-mlir-ascend/pull/222
- [22] tilelang-mlir-ascend #219(harness 加固) — https://github.com/tile-ai/tilelang-mlir-ascend/pull/219
- [23] tilelang-mlir-ascend #225(tl.or 方言運算元) — https://github.com/tile-ai/tilelang-mlir-ascend/pull/225
- [24] tilelang-as
cend #1970(Gated MLA 前向) — https://github.com/tile-ai/tilelang-ascend/pull/1970
- [25] tilelang-ascend #2003(每日測試 3060 項) — https://github.com/tile-ai/tilelang-ascend/issues/2003
- [26] TileOPs #2894(A scale 走 TMA) — https://github.com/tile-ai/TileOPs/pull/2894
- [27] TileOPs #2895(兩分 K 的 cluster 歸約) — https://github.com/tile-ai/TileOPs/pull/2895
- [28] TileOPs #2896(W4A16 主迴圈) — https://github.com/tile-ai/TileOPs/pull/2896
- [29] TileOPs #2897(long-K NT GEMM 選擇器) — https://github.com/tile-ai/TileOPs/pull/2897
- [30] TileOPs #2898(softmax 兩 CTA cluster) — https://github.com/tile-ai/TileOPs/pull/2898
- [31] TileOPs-nightly — https://github.com/tile-ai/TileOPs-nightly
- [32] TileLang–Weft(weft-parity) — https://github.com/Tianchen-ai/tilelang-weft
- [33] TileLang–Weft 基準倉 — https://github.com/Tianchen-ai/tilelang-weft-bench
- [34] TileLang–Weft 結果手冊 — https://github.com/Tianchen-ai/tilelang-weft-bench/blob/main/docs/results.zh-CN.md