調査期間:2026-10-16 07:00 ~ 2026-10-19 07:00(北京時間、72 時間、週末を含む)。

情報源:GitHub(tile-ai 組織 29 リポジトリのプッシュ全量確認、期間内に 8 リポジトリでプッシュあり:TileOPs、TileOPs.github.io、TileOPs-nightly、TileFoundry、tilelang、tilelang-hygon、tilelang-metax、tilelang.github.io。組織期間内マージ 61 件〔TileOPs 44、TileOPs.github.io 5、tilelang 5、tilelang-hygon 3、TileFoundry 2、tilelang-metax 2〕、レビュー中 69 件〔tilelang 51、TileOPs 8、tilelang-ascend 5、tvm 2、TileFoundry 1、tilelang-hygon 1、tilelang-mlir-ascend 1〕。非デフォルトブランチを個別確認〔ascendc_pto / dev / snapshots〕)+ リリースページとバージョンファイル確認 + 採用側リポジトリ確認(TileKernels / FlashQLA)+ コミュニティリポジトリ確認(tilelang.github.io、TileOPs.github.io、easy-tilelang、AnacondaRecipes、learn-tilelang、BM1690 pipelines)+ ナイトリーパイプライン確認 + Google News 中国語・英語複数クエリ(プロキシ経由)+ Hacker News + arXiv。


本期インデックス

  • 今日の重点:TileOPs は 1 日で 20 件をマージし八オペレータを実装済みに押し上げ、昇騰 3 件と海光ブロックスケーリングが収束——PTO ベクトル化フレームワークがレビュー中に(10-16)
    1. コアプロジェクト進捗
      • 1.1 メインリポジトリ:純 TMA プロデューサを順方向バリアに組み入れ、warp-specialization デッドロックを修正(#3503)(10-16)
      • 1.2 メインリポジトリ:兄弟パイプライン共有バッファを 1 回のみ展開、LayoutInference クラッシュを修正(#2342)(10-16)
      • 1.3 メインリポジトリレビュー中:Profiler 三連修正と eager フロントエンドのソース特定(#3559 / #3560 / #3561 / #3558)(10-18)
    1. マルチバックエンド対応(昇騰 / 沐曦 / 海光 / 摩尔線程)
      • 2.1 昇騰:SS バッファ、RNG 状態リセット、SimdVF リダクションの 3 件をマージ(#3514 / #3331 / #3437)(10-16)
      • 2.2 昇騰:T.Parallel ベクトル化から PTO VMI フレームワークがレビュー中、44 ファイル、約 2 万行(#3512)(10-18)
      • 2.3 海光:ブロックスケーリング GEMM の scale copy 3 件——K-major パッキング、FP32 MLS、パイプライン化(#22 / #23 / #24)(10-17)
      • 2.4 沐曦と摩尔線程:metax dev ラインがメインラインに同期し xfail を修正;musa は期間内プッシュなし(10-16)
    1. エコシステムと採用側(TileOPs / TileFoundry / オペレータライブラリ)
      • 3.1 TileOPs:アテンション側 2 件が正式化——MLAVarlen が implemented に、DSAPaged が着地(#2629 / #2633)(10-18)
      • 3.2 TileOPs:CausalConv1d デュアルオペレータ、Hadamard 変換、SM90 W4A8 GEMM を補完(#2627 / #2624 / #2590)(10-18)
      • 3.3 TileOPs:線形アテンション 4 ファミリーのポイント別性能収束(GLA / GDN / KDA / DeltaNet)(10-18)
      • 3.4 TileOPs:Softmax の 16-CTA クラスタ横断分割と GLA decode 状態スライス(#2632 / #2631)(10-18)
      • 3.5 TileFoundry:ストレージ計画と発射計画を分離、schedule マイルストーンを修正(#243 / #241)(10-18)
      • 3.6 採用側とナイトリーパイプライン:TileKernels / FlashQLA はプッシュなし;ナイトスナップショットは 4 回に回復(10-19)
    1. コミュニティ、チュートリアル、イベント
      • 4.1 ドキュメント:中国語 trace ガイドを整合、8 つの新オペレータを API ページに記載(#76)(10-18)
      • 4.2 バージョンライン:TileOPs は引き続き TileLang 0.1.12 を pin、0.1.15 へのアップグレード PR はクローズされ未マージ(#2554)(10-18)
      • 4.3 メディアと学術:Google News / Hacker News / arXiv は期間内に新規ゼロ(10-18)
    1. トレンド観察
      • 5.1 「オペレータ補完」から「ポイント別性能収束」へ
      • 5.2 アテンション経路が DeepSeek-V3.2 の本番フォーマットに整合
      • 5.3 昇騰は「動く」から「スカラー並列の自動ベクトル化」へ
      • 5.4 コンパイラは正確性硬化期に突入
  • 付:素材と確認説明
  • 完全情報源リスト

本日の重点:TileOPs が1日で20件をマージし8オペレータを implemented に押し上げ、Ascend 3件と海光のブロックスケーリングが収束――PTO ベクトル化フレームワークがレビュー中(10-16)

週末3日間の重心はメインリポジトリからオペレータライブラリへ移った。TileOPs は 10-18 の1日で20件をマージし、調査期間内の累計は44件、これにより従来 spec のみだった8個のオペレータを直接 implemented 状態へ押し上げた。対象は MLA varlen プレフィル、DSA ページドデコード、因果畳み込み、Hadamard 変換、W4A8 GEMM、ページド KV 集約、アテンション状態マージに及ぶ。メインリポジトリ tilelang は同じ調査期間内に5件をマージし、うち2件は CUDA warp-specialization とパイプライン配置の正当性修正、3件は Ascend に関するもの。海光リポジトリはブロックスケーリング GEMM の scale copy をパッキング、ネイティブ化からパイプライン化まで補完した。さらに注目すべきはレビュー待ちキューである。Ascend PTO ベクトル化フレームワーク #3512 は44ファイル、約2万行の追加で T.Parallel を PTO VMI へコンパイルし、目標は Ascend 950 に直結する。メインリポジトリのレビュー中51件のうち27件が BugFix タグ付きであり、プロジェクトがオペレータ展開後の正当性硬化段階にあることを示している。


1. コアプロジェクトの進展

1.1 メインリポジトリ:純 TMA プロデューサをフォワードバリアに組み込み、warp-specialization デッドロックを修正(#3503)

純 TMA プロデューサ構成では、ProducerConsumerWSRewriter がプロデューサループをすべてのプロデューサ warp で実行させるが、従来は選択されたスレッドのみがフォワード(full)バリアに到達し、プロデューサ warp 1~3 はバックプレッシャ(empty)バリアだけを待っていた。このためコンシューマと同期せず、2フェーズ遅れて再利用された parity 上でブロック全体がハングする可能性があった。変更により各プロデューサスレッドがフォワードバリアに到達するようになり(arrive_count は producer_extent を取る)、SIMT および cp.async プロデューサの既存手法と一致した。これにより #3470 を修正。

出典:tile-ai/tilelang#3503(10-16)

1.2 メインリポジトリ:兄弟パイプラインの共有バッファを一度だけ展開し、LayoutInference クラッシュを修正(#2342)

隣接する2つの T.Pipelined ループが alloc_shared バッファを共有しつつ num_stages が異なる場合(例えば 2 と 4)、最初のパイプラインがバッファを (64,32) から (2,64,32) へ展開し、2番目の収集フェーズが展開済みバッファを元の割り当てとみなしてさらに1次元挿入し、4次元 (4,2,64,32) となって LayoutInference の ICHECK が直接失敗していた。変更により元の割り当てで識別して一度だけ展開するようになり、以前の #2337 を置き換え、#2309 を修正。349行追加、6行削除。

出典:tile-ai/tilelang#2342(10-16)

1.3 メインリポジトリ レビュー中:Profiler の3連修正と eager フロントエンドのソース位置特定(#3559 / #3560 / #3561 / #3558)

Profiler の3件はベンチマーク誤差とクロスデバイス問題に対応する。#3559 はクロスデバイス CUDA Graph キャプチャが空になる問題を修正(前のカードでキャッシュされたキャプチャストリームを再利用し、replay が実行されず、回帰カウントが 27 ではなく 9 になる)。#3560 は後続呼び出しによる上書き前に出力をスナップショットする。#3561 は cache-flush 時間を早期停止判定から除外し、遅い候補を先に試すことで最終勝者が変わるのを防ぐ。また #3558 は eager リライタのテンプレート行番号をユーザ文の先頭行へマッピングし、traceback とカバレッジのずれを修正。

出典:tile-ai/tilelang#3559、#3561、#3558(10-18)


2. マルチバックエンド対応(Ascend / 沐曦 / 海光 / 摩尔線程)

2.1 Ascend:SS バッファ、RNG 状態リセット、SimdVF リダクションの3件をマージ(#3514 / #3331 / #3437)

#3514 は T.alloc_ss を新設した。dav-3510 上で1つの AIC とその2つの AIV が共有するスカラストレージであり、各 AIV は自身の uint32 ワードを公開でき、AIC はパッキングされた uint64 ビュー経由で読み取る。グループ内 3 KiB SS プール、32バイト整列ベースアドレス、バージョンカウントと同期は標準バッファパイプラインを通る。#3331 は AddFunction 内で RNG 状態をリセットし、兄弟カーネルに残留した __asc_rng_state により bisheng が未宣言識別子を報告するのを防ぐ。#3437 は SimdVF 内の dim=1 リダクションで lane 0 のみを格納するようにした。

出典:tile-ai/tilelang#3514、#3331、#3437(10-16)

2.2 昇騰:T.Parallel ベクトル化から PTO VMI フレームワークまで審査中、44 ファイル、約 2 万行(#3512)

当該 PR により、ユーザーは T.SimdVF(lanes=L) 内でスカラ並列 T.Parallel(要素単位、制御フロー、リダクション)を記述でき、コンパイラがそれを PTO VMI 命令へベクトル化し、さらに PTOAS を経て Ascend 950 で実行される。役割分担として、TileLang 側は論理 lane レイアウト、ベクトル化パスパイプライン、VMI 命令生成、Fragment 論理マッピングを担い、ツールチェーン側は物理レジスタ分割、mask の実体化、ベクトルレジスタ割り当てを担う。変更は 44 ファイル、18988 行追加、67 行削除であり、PTO ラインが実行ルーティングから自動ベクトル化へ向かう鍵となる一歩である。

出典:tile-ai/tilelang#3512(10-18)

2.3 海光:ブロックスケーリング GEMM の scale copy に関する 3 件——K-major パッキング、FP32 MLS、パイプライン化(#22 / #23 / #24)

#22/#23 は K-major LDS のパッキング scale copy をサポートし、gfx946 ネイティブ FP32 MLS GEMM(kPack=2)をサポートするとともに、ブロックスケーリング、TF32、FP32 のリグレッションを補完した。#24 はさらにブロックスケーリング GEMM におけるパイプライン化 scale copy をサポートし、357 行追加、47 行削除、5 ファイルの変更である。3 件は 10-16 から 10-17 の間にすべてマージされ、海光ラインのブロックスケーリング GEMM は「計算できる」段階からメインリポジトリのパイプラインと整合する段階へと進んだ。

出典:tile-ai/tilelang-hygon#22、#24(10-17)

2.4 沐曦と摩尔線程:metax dev ラインはメインラインを同期し xfail を修正;musa は調査期間内にプッシュなし(10-16)

tilelang-metax のデフォルトブランチは dev であり、調査期間内に 2 件がマージされた:#160 は MetaXGPU の xfail テストケース(test_cuda_fma_fmul.py などを含む)を修正し、#161 は main を dev にマージするもので、メインリポジトリのベースラインに追従する通常の同期である。tilelang-musa のデフォルトブランチ main は調査期間内にコミットがゼロで、最新は依然として 09-30 の「Prepare public TileLang MUSA 0.1.15」である。tilelang-mlir-ascend の最新コミットは 10-15 で止まっており、調査期間内のプッシュはない。

出典:tile-ai/tilelang-metax(10-16)


3. エコシステムと採用側(TileOPs / TileFoundry / オペレータライブラリ)

3.1 TileOPs:アテンション側の 2 件が正式化——MLAVarlen が implemented へ、DSAPaged が実装(#2629 / #2633)

#2629 は MLAVarlenFwdOp の状態を implemented に変更した。以前にパッケージ化 varlen の MLA プレフィルカーネルはすでにマージされており、本件は manifest の要件を補完し、MLAVarlenCall が DeepSeek-V3 8×4K、DeepSeek-V3 混合 512–16K、Kimi K2 4×8K の 3 構成で呼び出しを構築するようにした。BF16 と FP16 のデュアル精度でベンチマークを登録し、FA3 の flash_attn_varlen_func と FlashInfer の BatchPrefillWithRaggedKVCacheWrapper をベンチマーク対象とする。#2633 は DSAPagedFwdOp を新規追加し、FlashMLA の DeepSeek-V3.2 656 バイト行フォーマット上でページ化 FP8 潜在キャッシュの分割デコードを行い、o と lse を返す。SM90 カーネルは 2 つの 64 スロットキーブロックバッファを 3 つの warp グループ間でローテーションし、128 ヘッド時には 2 段の 64 ヘッドが 2-CTA クラスタで協調する。

出典:tile-ai/TileOPs#2629、#2633(10-18)

3.2 TileOPs:CausalConv1d デュアルオペレータ、Hadamard 変換、SM90 W4A8 GEMM の補完(#2627 / #2624 / #2590)

#2627 は CausalConv1dFwdOp と CausalConv1dUpdateFwdOp を新規追加。幅 2 から 4、任意の bias と SiLU、FP32 累積に対応し、プリフィルはパックドシーケンス(cu_seqlens と任意の has_initial_state)で処理、デコードはシーケンスごとに 1 ステップ進め、状態形状 [B, D, W-1] は vLLM の causal_conv1d_update と整合する。#2624 の HadamardTransformFwdOp は base_order 1/12/20/28/40、n 最大 2^28、fp16/bf16 に FP32 累積を組み合わせ、1 回の 16 ビット MMA 対で 4 段蝶形演算を完了する。#2590 の GemmW4A8FwdOp は SM90 上で FP8 e4m3 活性化とグループスケーリング INT4 重みの積、BF16 出力を行い、decode カーネルは M≤32 に対応、より大きい M は warp 特化プリフィルカーネルで処理する。

出典:tile-ai/TileOPs#2627、#2624、#2590(10-18)

3.3 TileOPs:線形注意の四ファミリーをポイントごとに性能収束(GLA / GDN / KDA / DeltaNet)(10-18)

調査期間内に TileOPs へマージされたものの大半は [Perf] タグ付きで、4 本の線形注意ラインに集中している。GLA:プリフィル状態チェーンで行列積を 1 回削減(#2626)、decode 状態を value スライスごとに 1 ブロックへ(#2631)、SM89 BF16 の gate 勾配リダクション展開(#2618)とキーリダクションの部分展開(#2617)。GDN:プリフィルのパーティション分割は走査でアイドル SM が残る場合のみ行い(#2628)、強い gate 減衰下でもプリフィルを有限に保つ(#2594)。KDA:chunk scan を状態走査とブロック並列出力に分割し(#2623)、状態末尾の条件をブール判定に変更(#2630)。DeltaNet:逆方向状態勾配はブロックごとに行列積を 1 回だけ実行(#2625)。

出典:tile-ai/TileOPs#2626、#2631、#2628、#2623(10-18)

3.4 TileOPs:Softmax の 16-CTA クラスタ横断分割と GLA decode 状態スライス(#2632 / #2631)

#2632 は lm-head のような行数が少なく行長が長いケース(4×102400、FP16/BF16)向けに SoftmaxClusterSplitKernel を新規追加。旧実装では各行を 58 セグメントに分け、グローバルメモリ経由で (max, sum) を交換し grid 横断バリアを使用していたが、新実装では 1 行を 16-CTA クラスタのレジスタ上に展開し、各要素の指数を 1 回だけ取り、warp 間・CTA 間・クラスタ間を shuffle ツリーで max-first に畳み込み、各 CTA は対向側の共有メモリへ 1 対の値のみ送信する。#2631 は GLA decode をヘッドごと 1 ブロックから value スライスごと 1 ブロックへ変更し、状態を 1 回だけ読み、キー軸リダクションはまず 16 バイトベクタで局所和を取ってから一度にバッチ交換する。

出典:tile-ai/TileOPs#2632、#2631(10-18)

3.5 TileFoundry:ストレージ計画と発行計画を分離、schedule マイルストーン修正(#243 / #241)(10-18)

#243 は元の割当判断を analysis 層に残し、実行可能なエイリアス公開と MemoryMetadata.alias を削除、読み取り専用の StoragePlan / IssuePlan、TirBuilder、命名と単一の LoweringContext を切り出した。アクセス結果はメモ化し、転送はその値を再利用し、疎な物理レイアウト下でも論理バイトで予約していた共有メモリ配置の問題を修正した。39 ファイル、2543 行追加、1889 行削除。#241 は 314 ファイルのマイルストーン修正(53049 行追加、69314 行削除)で、M1 から M8 をカバーする:Reshard のトラフィックとエイリアス、ストレージインスタンス比較、正規レイアウトと局所投影、ウィンドウ束縛と字句スコープ検証を修正し、2 つの Qwen サンプルを移行、31 個の完全な長グループと全 64 個の短い TIR ファイルを再生成した。

出典:tile-ai/TileFoundry#243、#241(10-18)

3.6 採用者と夜間パイプライン:TileKernels / FlashQLA はプッシュなし、夜間スナップショットは4回に回復(10-19)

deepseek-ai/TileKernels の最新コミットは 10-14 の v2.1.0-release マージで停止しており、QwenLM/FlashQLA は 10-14 の fix-sm120 で停止しており、両者とも調査期間内にプッシュはない。TileOPs-nightly の snapshots ブランチは調査期間内に4回のスナップショットを生成した:10-16 11:35、10-17 04:13、10-18 06:02、10-19 05:41 で、いずれも「bench: (run )」形式であり、夜間ベンチマークパイプラインが日次で進行する体制に回復したことを示している。

出典:TileOPs-nightly snapshots(10-19)


4. コミュニティ、チュートリアル、イベント

4.1 ドキュメント:中国語 trace ガイドを整合、8つの新オペレータを API ページに記載(#76)

TileOPs.github.io は調査期間内に5件のマージがあり、うち #76 は中国語 trace ガイドを英語ページと一致させ、TileOPs #2619 の trace.run 変更(slots は追跡対象ビルドから分離され、追跡有効時のみデコードして HTML を書き出す)に追随し、メインリポジトリで実装済みの8つのオペレータを対応するファミリーページに記載した:GemmW4A8FwdOp、HadamardTransformFwdOp、MergeAttentionStatesFwdOp、PagedKVCacheGatherFwdOp、MLAVarlenFwdOp、DSAPagedFwdOp、CausalConv1dFwdOp、CausalConv1dUpdateFwdOp。Transform ページでは同時に「未実装」の注記を削除した。tilelang.github.io には GitHub Actions が自動生成したドキュメント更新が別途1件ある。

出典:tile-ai/TileOPs.github.io#76(10-18)

4.2 バージョンライン:TileOPs は依然 TileLang 0.1.12 を pin、0.1.15 へのアップグレード PR はクローズされ未マージ(#2554)

メインリポジトリの最新リリースは依然 09-30 の v0.1.15 である一方、TileOPs の pyproject.toml は今も tilelang==0.1.12 をハードコードしている。0.1.15 へのアップグレードを試みた #2554 はクローズ済みで未マージであり、PR 自体が述べるブロッカーは、0.1.12 で通過した29個の smoke test が 0.1.15 で失敗することである:うち28個は動的 extent の T.Pipelined が cp.async の末尾で ptx_wait_group(3 - t * 2) を残し、CUDA codegen が Downcast 失敗を報告する(メインリポジトリ #2859 の explicit_unroll デフォルト値クローズに関係)、残り1個は LegalizeSafeMemoryAccess が False に折り畳まれた分岐下で null チェックに失敗するものである。この PR はさらに TileOPs 側に FIXME(staged-rollout) を追加して回避し、その後 runner イメージを再ビルドする計画であった。

出典:tile-ai/TileOPs#2554(10-18)

4.3 メディアと学術:Google News / Hacker News / arXiv は調査期間内に新規ゼロ(10-18)

Google News の中国語・英語計13組のクエリ(TileLang、tilelang オペレータ、tile-ai、TileOPs、TileFoundry、TileKernels、tilelang 昇騰、tilelang 国産チップなど)は調査期間内にヒットなし、直近の1件は依然 10-02 の DeepSeek オープンソース昇騰コンポーネントシリーズ報道で停止している。Hacker News の tilelang クエリはゼロヒット。arXiv の TileLang および tile-level 検索は調査期間内の新論文なし、直近の関連項目は 07-24 の TileSight である。

出典:Google News TileLang 検索(10-18)


5. トレンド観察

5.1 「オペレータ補完」から「ポイントごとの性能収束」へ

調査期間内にTileOPsへマージされた44件のうち、[Perf]タグ付きが大多数を占め、しかもほぼすべてが対標ベースラインを明示している:torch-compile、quack、FA3、FlashInfer。さらに具体的な形状(serving-b1-h8、serving-b1-h16、lm-head 4×102400、8192から16384のRMSNorm行)も示している。これはオペレータ面を広げ終えた後、作業の重心が実サービス形状上で零点数パーセントの差を一つずつ解消していくことに移ったことを示しており、オペレータ数 を積み増し続けることではない。

5.2 アテンション経路をDeepSeek-V3.2の本番フォーマットに整合

DSAPagedFwdOpは656バイト行フォーマットのFP8潜キャッシュページドデコードを直接実装し、MLAVarlenFwdOpはDeepSeek-V3とKimi K2の実構成に基づいてベンチマークを登録し、PagedKVCacheGatherFwdOpとMergeAttentionStatesFwdOpがKV集約と状態マージを補完する。この経路に線形アテンション四ファミリを加えることで、長コンテキストのプリフィルからデコードまでの完全な推論経路をすでにカバーしており、vLLMとFlashMLAのストレージレイアウトを基準としている。

5.3 昇騰は「動く」から「スカラ並列の自動ベクトル化」へ

前号の主線はPTO実行ルーティングのマージであったが、今号の#3512はT.Parallelを直接PTO VMIへコンパイルし、Ascend 950を明確なターゲットとして、PTOASと物理レジスタおよびmask実体化の分担を行う。同時期の3件の小規模修正(SSバッファ、RNG状態、SimdVFリダクション)はいずれもdav-3510上のストレージと同期セマンティクスを補うものである。この路線は「カーネルを動かす」から「ユーザーがスカラ記法で書き、コンパイラがベクトル化を担う」へと移行しつつある。

5.4 コンパイラは正確性の硬化期へ

本体リポジトリのレビュー中PR 69件のうちtilelangが51件を占め、そのうち27件が[BugFix]タグ付きで、ThreadSync(アドレス書き込み判定、述語順序)、Transform(ベクトル化ドメイン正規化、スレッド間WAW、パイプライン伝播依存)、codegen(cp_async待機深度、ROCm FP4定数、Metal hoisting)に集中している。これらの問題は特定の組み合わせでのみ露見するものが多く、典型的な大規模利用後にフィードバックされる境界条件に属する。TileFoundryの#243が読み取り専用計画オブジェクトを切り出したのも、同じ方向の構造的ガバナンスである。


付:素材と検証説明

  • 本調査期間は月曜からの3日間期間で、10-16 07:00から10-19 07:00をカバーし、前号(10-15 07:00から10-16 07:00)とは重複しない。
  • 組織レベルのリポジトリ一覧はGitHub APIで全件取得し、29リポジトリのうち8リポジトリが期間内にプッシュされた。各リポジトリのメインブランチコミットはAtom feedで逐条照合し、非デフォルトブランチ(tilelang-metaxのdev、TileOPs-nightlyのsnapshots、tilelang-ascendのascendc_pto)は個別に検証した。
  • マージ済みとレビュー中の件数はGitHub検索APIの真値検索(is:mergedとis:openを各1回)から取得し、リポジトリ別のpullsリストの累加は使用していない。重複カウントを避けるためである。
  • tilelang-ascendのデフォルトブランチascendc_ptoの最新コミットは10-14で停止しており、期間内にメインブランチへのマージはない。その5件のレビュー中PRは10-16に更新があり、継続レビュー中に属するため、今号の新規分には計上していない。
  • tile-ai/tvmはapache/tvmのfork(ブランチtilelang_main)であり、期間内に2件のレビュー中PRの更新があり、最新プッシュは10-07で、TileLang主線とは直接の納品関係はなく、記録のみで展開しない。
  • ニュース側の新規ゼロは、素のクエリでプロキシ経路が正常であることを検証済み(同一クエリで37件の履歴結果を返却可能)であり、収集失敗ではなく期間内に新規報道がなかったことを確認した。

完全な情報源リスト