調査期間:2026-11-19 07:00 ~ 2026-11-20 07:00(北京時間、24時間)。前回の区切りは11-19 07:00。

情報源:GitHub tile-ai 組織のリポジトリ別調査、30リポジトリ中、期間内にプッシュがあったのは8件。組織レベルの真値検索:マージ23件、レビュー中更新20件、新規オープンissue 7件。コミット別メインブランチ調査:TileOPs 16件、tilelang 2件、TileFoundry 1件、海光 1件。MLIR 昇騰の3件は mlir-dialect ブランチに着地。リリース調査:tilelang は引き続き v0.1.15、期間内に新規タグなし。その他、Google News の中英語5組の検索、Hacker News と TileLang×RISC-V の4ソース巡回を含む。


本期インデックス

  • 今日の重点:TileOPs の mHC オペレータ3件が同日マージ、系列モデリングインターフェースがバトン完了(11-19)
  • 今日の重点:GEMM セレクタの1ルール変更で302形状、MXFP4 MoE デコードが受け入れライン到達(11-19)

    1. コアプロジェクト進展
      • 1.1 レイアウトプレースホルダ変数がシリアライズを跨いでバインディングを保持、spawn 子プロセスの負荷軽減で非単射エラーが解消(11-20)
      • 1.2 開発版バージョン番号からツールチェーンタグを削除、同一 wheel が CUDA バージョン別に分岐しなくなる(11-19)
      • 1.3 新規報告欠陥:MLA decode サンプルで2つの warpgroup 間に書き込み後読み出し同期が欠如(11-19)
      • 1.4 レビュー中修正:warp 特化時にレイアウト非互換の TMA 昇格をスキップ(11-19)
    1. マルチバックエンド適配(昇騰 / 海光 / 摩尔線程 / 沐曦)
      • 2.1 MLIR 昇騰が1日で tl.or、tl.xor、tl.pow をマージ、レビュー中で vsigmoid と sort を補完(11-19)
      • 2.2 昇騰メインリポジトリのレビュー中案件がリリースへ転向:共有 wheel 上の OBS、夜間 NPU スモーク、チューニングスキル(11-19)
      • 2.3 Atlas A3 が 910A と誤認され、carver の L0C 容量が半分に過少計算(11-19)
      • 2.4 海光が PR 品質ゲートワークフローを追加、期間内にカーネル変更なし(11-19)
      • 2.5 沐曦と摩尔線程は期間内にコミットなし(11-19)
  • 2.5. RISC-V バックエンドとコミュニティ(専門観察:TVM 路線 / MLIR 路線 / SOPHGO TPU / コミュニティインデックスページ)
    • 2.5.1 4ソース巡回で変化なし、2路線とインデックスページはいずれも前回と一致(11-20)
    1. エコシステムと採用側(TileOPs オペレータライブラリ / TileFoundry / TileKernels)
      • 3.1 アテンション sink 補完:DSADense と DSAPaged が同日マージ(11-19)
      • 3.2 FP4 グループ量子化が着地、MoE ゲーティングにハッシュルーティングと sqrt-softplus を補完(11-19)
      • 3.3 GatedPoolCompress が1回の起動でリクエスト別リング分割の KV プーリングを完了(11-19)
      • 3.4 TileFoundry がスライス mesh と Varying 値を並列計画分析に算入(11-19)
      • 3.5 新規4目標:DSAPaged bf16、AvgPool1d、DeltaNet、Mamba(11-19)
      • 3.6 TileKernels と FlashQLA は期間内にコミットなし(11-19)
    1. コミュニティ、チュートリアル、イベント
      • 4.1 ニュース側は空白:中英語5組の検索で関連報道なし(11-20)
      • 4.2 組織アクティビティ:1日23件マージ、メインリポジトリスター9006(11-19)
    1. トレンド観察
  • 付:素材と調査説明
    • 情報源調査表
    • 完全情報源リスト

今日の重点:TileOPs の mHC オペレータ3件が同日マージ、系列モデリングインターフェースがバトン完了

11-19の1日で、TileOPs は HyperConnection の pre、post、head の3オペレータを一括マージした。3件はそれぞれ #3032、#3035、#3039。これに先立ち #3021 は11-18に旧2つの mHC オペレータを削除し、レビュー済みの公開 API 破壊として登録済み。1日を隔てて、置換パスが完了した。

pre ステップは #3032 でマージ、18ファイル変更、+1106/-21。DeepSeek-V4-Flash と GLM-5.3-Flash の mHC 前半段を実行する。内容は fn 投影と平方ノルム、pre と post の重み、Sinkhorn、および加重フロー総和を含む。

投影は float32 精度を保証する。fn は3つの bfloat16 項でテンソルコアに入り、16チャネルごとに1回の64×72の WGMMA。各64チャネルスロットはさらに float32 に累加される。token 軸は実行期長さであり、1回の起動で任意の token 数をカバーする。比較対象は vLLM の TileLang mhc_pre と torch.compile リファレンス。

post ステップは #3035 でマージされ、16 ファイルを変更、+592/-21。これはブロック出力を n 本の残差ストリームに混ぜ戻す。要素ごとに post_layer_mix[j] * x + sum_i comb_res_mix[i,j] * residual[i] と書き、float32 で計算した後に一度だけ bfloat16 に丸める。

スレッドは 16 バイトセグメント単位で x と各ストリームを混ぜる。小さい呼び出しは 1 セグメント、大きい呼び出しは 4 セグメント。出力は TileKernels の mhc_post_fwd とビット単位で同一。

head ステップは #3039 でマージされ、15 ファイルを変更、+778/-9。これは LM head の前に n 本の残差ストリームを 1 本に折り畳み、DeepSeek-V4-Flash の ParallelHead.hc_head に対応する。SM あたり最大 2 トークン。それを超えると 1 つの CTA が 1 から 4 トークンをストリーム処理し、各 hc_fn ベクトルが全トークンにサービスする。

manifest エントリは実装済みに変わり、GLM-5.3-Flash の 3000 トークン行が付く。比較対象は vLLM の hc_head 融合カーネルと torch リファレンス。

3 件はいずれも対応する提案をクローズした:#2921、#2970、#2971。旧オペレータ削除と新オペレータマージの中間状態は 1 日だけ維持され、インターフェース置換に断絶バージョンは残らなかった。

情報源: https://github.com/tile-ai/TileOPs/pull/3032 https://github.com/tile-ai/TileOPs/pull/3035 https://github.com/tile-ai/TileOPs/pull/3039

今日の重点:GEMM セレクタの 1 ルール変更で 302 形状、MXFP4 MoE デコードが受け入れラインに到達

11-19 の TileOPs 性能ラインは計 6 件のマージ。2 件が自評で受け入れラインに到達し、4 件は依然として受け入れライン未満と記されている。4 件のサポート説明にはいずれも、各行がメインブランチより速いと明記されている。

GEMM セレクタは 1 つのルールを変更した(#3045)。NT クラスの GEMM で、128 行グリッドが coop2 幅で 1 ウェーブに収まるなら、最も狭い coop2 tile を選び、より狭い多ウェーブに分割しない。

判定条件は 2 つ。最終行 tile の 2 つの 64 行消費グループがいずれも行を割り当てられ、グリッドが 1 ウェーブの 15/16 を満たすこと。

ルールは 302 のモデル形状に影響する。シングルカード H200 上でメインブランチの選択より遅い例は 1 件もなく、286 形状が 1.03 から 2.6 倍高速。GLM-5.3-Flash のルーティング prefill(N=288)は 82.24 マイクロ秒から 32.13 マイクロ秒に短縮。

このコミットはもう 1 つの潜在的問題も修正した。float32 の coop2 tile をブロック全体で分割する際、128 から 383 番スレッド上のアキュムレータコピーが破棄され、共有メモリに未初期化内容が残っていた。

MXFP4 の MoE グループ GEMM が受け入れラインに到達(#3044)。共有デコードカーネルを新設し、条件は行アライメントが 128 の倍数、スケールが e8m0、K が 2048 の倍数。128 トークンを WGMMA の M オペランド、128 行の重みを N オペランドとする。

重みは 7 つのプロダクション warp が CTA ごとに 1 回デコードし、fp8 共有メモリタイルに書き込む。根本原因は旧カーネルが数学 warp 内で重みをデコードし、要素ごとに FMUL 1 回と FFMA 1 回を要していたこと。math warp あたり各 K ステップで約 363 命令、512 テンソルサイクルに対応し、テンソルパイプラインは 36% しか稼働していなかった。

GQA 可変長アテンションはヘッド次元 56 から 80 で 3 つの消費 warpgroup に切り替えた(#3041)。192 行 tile で、3 つの 64 行消費グループが交代でテンソルコアを占有する。

根本原因は 72 チャネル時に exp2 の所要時間がその積テンソル時間の 64/80 を占めること。2 消費グループでは、一方のグループの softmax が他方のグループの積を追い越してしまう。ncu はテンソル 54.7%、XU 45.2% を示し、両者はほぼ直列。

このコミットは 1 つの制限を注記している:TileFoundry の schedule finalize は現在のビルドでは、納品されたスケジュールを TIR に下げられない(tile-ai/topa#42 参照)。カーネルは実測プロトタイプに基づく手書きで、スケジュールは final_hir.py に書かれている。

KDA の bf16 给定ゲート付き prefill は 1 回のセンタリング起動に変更(#3053、9 ファイル、+749/-225)。SM90 上では従来、シーケンスと値ヘッド対数に応じて 2 つのパスを通っていた。新パスはまず統合センタリングテンソルコアプログラムで全 chunk を準備し、その後状態走査を行う。fp16 给定ゲートと元のゲートは依然として旧パスを通る。

2 件は自評で受け入れライン未満。W4A16 の K tile メタデータを非同期コピーに変更(#3050)、4 バイト未満の各行ゼロ点をアライメントされた 4 グループウィンドウに多めに取り、4 と 8 バイトの cp.async で転送する。これによりプロデューサ側は直ちに K tile の TMA を発行できる。

RoPE はロード順を調整した(#3040)。列複製付きのヘッドは先に入力ベクトルをロードしてから位置を読むため、ptxas が位置 clamp で待つことを避ける。小さい GPT-J 呼び出しはこれにより DRAM レイテンシを 1 回分節約できる。同じコミットは端数 key が key.view(-1, 0) で失敗する問題も修正し、現在は空結果を返す。

情報源: https://github.com/tile-ai/TileOPs/pull/3045 https://github.com/tile-ai/TileOPs/pull/3044 https://github.com/tile-ai/TileOPs/pull/3041


1. コアプロジェクトの進展

1.1 レイアウトのプレースホルダ変数がシリアライズを跨いでバインドを保持、spawn 子プロセスの負荷分散で非単射エラーが解消

tilelang 本体リポジトリの調査期間内に2件がマージされた。1件目は #4410 で、3ファイルを変更、+301/-2。レイアウトオブジェクトがプロセス間およびディスク往復後に無効化される問題を修正する。

tl.Layout、tl.Fragment、tl.PartialFragment はプロセス内シングルトンの tirx::Var プレースホルダでインデックスとスレッドマッピングを表現する。_i、_j などは InputPlaceholder(i) を、_rep は ReplicationPlaceholder() を使用する。

Forward、OutputShape、DetectInjective、ForwardThread の判定根拠は Var のオブジェクト同一性であり、name_hint ではない。

レイアウト、または T.annotate_layout 付きの PrimFunc が pickle や tvm.ir.save_json と load_json を経由すると、デシリアライズでプレースホルダが再構築される。新しく生成された VarNode は受信プロセスのシングルトンと同一でなくなる。

メインブランチ上で3箇所のエラーが直接再現できる。pickle 往復後、map_forward_index([7]) は [7] ではなく [_i] を返す。OutputShape() は (32,) を (_i + 1,) と計算する。spawn で生成した worker プロセス内でアノテーション付き PrimFunc の負荷分散を行うと、the forward map must be injective で失敗する。

修正方法は、バインドされたプレースホルダ Var 参照を同じ ObjectGraphSerializer チャネルに含めることである。2つのフィールドが関与する:LayoutNode の _forward_vars と FragmentNode の _replicate_var。両者のシリアライズ順序は forward_index と forward_thread より前である。これらのフィールドは repr、init、compare、hash、構造的等価性には関与せず、デフォルト値は nullptr である。

実際の効果として、マルチプロセスコンパイル経路が使用可能になる。

情報源: https://github.com/tile-ai/tilelang/pull/4410

1.2 開発版バージョン番号からツールチェーンタグを除去、同一 wheel が CUDA バージョンで分岐しなくなる

#4409 は7ファイルを変更、+16/-76。バージョン番号からバックエンドサフィックスを除去する。

発端は、TileLang がかつて CUDA 12.8 と 13.0 でそれぞれ wheel をビルドしていたことである。#1826 以降、1つの wheel が複数の CUDA ツールチェーンバージョンに同時に対応する。そのため旧サフィックスは誤解を招く:CUDA 13.0 イメージ内でビルドされたチェックアウトは 0.1.15+cu130.gitabcdef12 を報告するが、ビルドマシンのツールチェーンバージョンはこの wheel がどのバックエンドをサポートするかを示すものではない。

変更ではバックエンドサフィックスと NO_TOOLCHAIN_VERSION スイッチを削除。同一チェックアウトは各種構成で統一的に 0.1.15+gitabcdef12 を報告する。TILELANG_BUILD_WHEEL_WITH_DATE=ON を設定すると 0.1.15+d20261119.gitabcdef12 を報告する。PyPI リリースは引き続き基礎バージョン番号を使用する。

これに伴い tilelang.build_date() は2つの位置に対応する。日付は + の直後に続くことができ、旧 wheel の 0.1.15+cuda.d20261119.gitabcdef12 のような形式にも対応する。

作者は検証範囲を列挙している。3つのパッケージングテストが通過;CUDA 12.8、CUDA 13.0、ROCm、CPU、日付付きナイトリービルドとリリースビルドの PEP 517 メタデータを確認;pre-commit が全項目通過。

情報源: https://github.com/tile-ai/tilelang/pull/4409

1.3 新規報告された欠陥:MLA decode サンプルで2つの warpgroup 間に書き込み後読み取りの同期が欠如

#4412 は新規に起票された欠陥報告で、examples/deepseek_mla/example_mla_decode_ws.py を指す。報告によると、右側の warpgroup が sum_exp_shared を読み取る際、左側の warpgroup の書き込みを待機していない。

このファイルは warp 特化の MLA decode サンプルに属する。報告は、両半分間の共有メモリの受け渡しが戻り値や暗黙の順序のみに依存しており、同期として不十分であると見ている。

この報告にはまだ修正が添付されておらず、再現環境も記載されていない。本期は「報告済み・対応待ち」として記録し、修正済み問題としては引用しない。

情報源: https://github.com/tile-ai/tilelang/issues/4412

1.4 審査中の修正:warp 特化時にレイアウト非互換の TMA 昇格をスキップ

#4413 は降載失敗の一处を修正する。b1367a59 上で、sm_90a 向けのパイプライン GEMM が降載できない。トリガー条件は、その 8 ビット B tile が make_swizzled_layout(Bs, k_major=False) のパディング付きレイアウトを使用していることである。

A のロードにより、このループは warp 特化の資格を持つ。その後、この pass は B の通常の T.copy も T.tma_copy に昇格させるが、LowerBulk はパディング付きレイアウトを拒否する(issue #4053 に対応)。

修正方法は、候補 TMA ロードのターゲットレイアウト注釈を個別にチェックすることであり、範囲はパイプラインおよびその prelude を含む。レイアウト非互換のコピーはコンシューマ側に残し、互換のものは同一パイプライン内で引き続き TMA に昇格させる。

作者は、#4053 の 8 つのユースケースが現在すべて sm_90a 向けに降載できると報告している。H200 と CUDA 13.0 の組み合わせで新たに追加された FP8 リグレッションにより、A が TMA 経由、B が通常コピー経由で動作することが確認された。この PR は現在も審査中である。

情報源: https://github.com/tile-ai/tilelang/pull/4413

2. マルチバックエンド適配(昇騰 / 海光 / 摩尔線程 / 沐曦)

2.1 MLIR 昇騰が一日で tl.or、tl.xor、tl.pow をマージ、vsigmoid と sort を審査中

MLIR 昇騰リポジトリのマージは引き続き mlir-dialect ブランチで行われている。このブランチの main は 11-04 以降動いていない。11-19 の一日で 3 つの TLIR オペレータがマージされ、時刻は UTC 14:08 から 14:37 に集中している。

#225 は tl.or を追加し、#228 は tl.xor を追加し、#229 は tl.pow を追加した。3 件は同一のフローで進められている。まず方言オペレータを追加し、次に TIR 降載を行い、最後に HIVM へ変換し、それぞれテストを伴う。このうち最初の 2 件は前回のレポートでは審査中と記載されていたが、今回はマージ済みに転じた。

審査側では新たに #264 が開設され、TLIR に tl.vsigmoid を追加する。この件は 11-20 01:35 に開設され、同日に審査中として一度更新された。また #232 は TLIR の sort 操作を HIVM へ降載するもので、調査期間内に再度更新されたがマージされていない。

マージ済みの 3 件と審査中の 2 件は、同一のオペレータごとの基盤整備作業を構成している。

情報源: https://github.com/tile-ai/tilelang-mlir-ascend/pull/229

2.2 昇騰メインリポジトリの審査中案件がリリースへ方向転換:共有 wheel の OBS 公開、夜間 NPU スモークテスト、チューニングスキル

昇騰メインリポジトリでは調査期間内にマージはなかった。審査側では 5 件の更新があり、方向性はカーネルからリリースとツールチェーンへ移っている。

#4411 は 11-19 19:15 に新規開設され、標準 Linux wheel を昇騰コミュニティ OBS へ公開する。前提として、これらの wheel は Ascend、CUDA、ROCm のサポートを同時に含んでおり、既存の Dist ワークフローは x86_64 と aarch64 向けにのみビルドし、OBS へアップロードしていない。

手法は build-wheels の abi3 wheel を再利用する。abi3 タグが abi3audit --strict を通過することを要求する。ビルド通過後、既存の毎日定時と手動トリガーの 2 種類のアップロードで両アーキテクチャを対象とし、ファイル名に日付とコミットサフィックスを付けて夜間バージョンが共存できるようにする。PyPI のリリースバージョン番号は変わらない。この件はさらに、OBS アップロードとインデックス更新を直列化し、並行実行が古いマニフェストでインデックスを上書きすることを防ぐことを要求している。

#3924 は NPU スモークテストとローリングリリースを伴う夜間昇騰 wheel パイプラインであり、11-11 に開設され、調査期間内に再度更新された。#4016 は昇騰向けに書かれた TileLang パフォーマンスチューニングスキルであり、#4012 は max_vector_bits のデフォルト値を 128 に変更し、16 lane の fp8 SIMT ベクトルをサポートする。両件とも 11-13 に開設された。

また #1760 は AscendC バックエンドで FP32 GEMM をサポートする。この件は 9 月 8 日に開設され、調査期間内の 22:36 に再度更新された。

情報源: https://github.com/tile-ai/tilelang/pull/4411

2.3 Atlas A3 が 910A と認識され、carver の L0C 容量が半分少なく計算される

#2023 は carver の型番認識を修正する。Ascend.__init__ は文字列包含関係でチップを判定する。まず 910B を判定し、次に 310P を判定し、最後のフォールバックの 910 は一律 Ascend910A と見なす。

Atlas A3 のデバイス名は Ascend910_9362 であり、リポジトリ内の examples/situ_glu/benchmark.md もそのように記載している。これは 910B にも 310P にも一致しないため、フォールバックのバケットに落ちる。

結果として 3 つのハードウェアパラメータが誤って設定される。ub_cap は 262144 バイトを取得するが、実際は 196608 バイトである。l0c_cap は 262144 バイトを取得するが、実際は 524288 バイトであり、ちょうど半分少なく計算される。compute_max_core は 910A デフォルトの 32 を取得するが、実際は cube_core_num のクエリを基準にすべきである。

同一のコード内に 2 つの矛盾するマッピングが存在する。コンパイラのメインフロー tilelang/utils/target.py は同一デバイスを 910_93/910C → A3 と判定するが、carver は誤った方を使用している。

carver はこの3つの値で候補設定の実現可能性スクリーニングとコストモデリングを行う(tilelang/carver/roller/policy/ascend.py)。L0C を半分少なく見積もると、大きな C tile の設定は直接除外される。この PR は 11-19 08:14 に作成され、まだ審査中である。

出典: https://github.com/tile-ai/tilelang-ascend/pull/2023

2.4 海光が PR 品質ゲートワークフローを追加、期間内にカーネル変更なし

海光リポジトリでは期間内にマージが1件のみ(#42、1ファイル、+19/-0)。内容は pull request に品質ゲートワークフローを追加するもの。このコミットにはコミット説明本文がなく、変更は CI 設定のみに関係する。同時期の #43、#44 は同一ワークフローの審査中バージョンである。

前回の12項目の内在修復(#27)以降、海光側では今回、カーネル、精度、コード生成の変更はない。

出典: https://github.com/tile-ai/tilelang-hygon/pull/42

2.5 沐曦と摩尔線程は期間内にコミットなし

沐曦リポジトリ tilelang-metax の最終プッシュは 11-06。摩尔線程リポジトリ tilelang-musa は 11-18 03:47(UTC)。いずれも期間外である。沐曦の release/v0.1.12-musa.5-source ブランチとリリース提案は期間内に新たな動きがない。

2.5、RISC-V バックエンドとコミュニティ(専項観察:TVM 路線 / MLIR 路線 / SOPHGO TPU / コミュニティインデックスページ)

2.5.1 4源巡回に変化なし、2路線とインデックスページはいずれも前回と一致

11-20 に4つの源を巡回した。其一は kubuds/tilelang-riscv-kubuds の kubuds- プレフィックスブランチ、すなわち TVM バックエンド路線。其二は RuyiAI-Stack/tilelang-riscv の main、すなわち MLIR 改写路線。其三は TongmingLAIC/tilelang-riscv コミュニティインデックスページ。其四は TongmingLAIC/tilelang-tpu の main と新ブランチ、すなわち算能 TPU 拡張。

4源の引用は前回の留档と一致し、新規コミット、新規 PR はなく、インデックスページのプロジェクト表に増減はない。結論は上記4源のみを対象とし、他の RISC-V 関連作業には外挿しない。TVM 路線と MLIR 路線はいずれも今回新たな動きがなく、別途解釈は行わない。

出典:新規コミットなし。

3. エコシステムと採用側(TileOPs オペレータライブラリ / TileFoundry / TileKernels)

3.1 アテンション sink 補完:DSADense と DSAPaged が同日マージ

2件のアテンションマージにより、DeepSeek-V4 と GLM-5.3 で使われる sink と bf16 キャッシュ行が補完された。

DSADense 側は #3038、5ファイル変更、+228/-82。その SM90 カーネルは attn_sink と is_causal=False をサポートし始めた。このときインデックスのみで key を選択し、-1 はそのスロットをスキップすることを示し、各ヘッドの sink logit はその softmax 分母に算入される。

topk はもはや128の倍数であることを要求しない。超過部分は死スロットであり、最後のブロック対で奇数ブロックが全体として topk を越える場合、その偶数ブロックのみをロードして採点する。対照ベースラインの FlashMLA は、1回の起動で本バッチの全 kv 行を走らせるように変更され、そのインデックスは -1 で128の倍数まで補完される。

DSAPaged 側は #3048、6ファイル変更、+411/-79。bf16 キャッシュ行をサポートし、値は512列、キーはさらに0または64列で、GLM-5.3 と DeepSeek-V4 をカバーする。

単一 CTA カーネルは統合された cp.async で収集する。最後のブロックの末尾をマスクすることで任意の topk をサポートし、attn_sink を softmax 分母に加え、ブロック統合時にも同様に算入する。

範囲は明確に記述されている。FP8 の656バイト行生成コードは変わらず、その行は依然として attn_sink と topk の64倍数以外をサポートしない。SM89 は bf16 行をサポートしない。

出典: https://github.com/tile-ai/TileOPs/pull/3038 https://github.com/tile-ai/TileOPs/pull/3048

3.2 FP4 グループ量子化が実装、MoE ゲーティングにハッシュルーティングと sqrt-softplus を追加

量子化側に FP4QuantPerGroupFwdOp を新規追加(#3027、15ファイル、+810/-41)。シグネチャは block_size=32, inplace=False で、bfloat16 を e2m1 コードに量子化し、2コードを1バイトとし、ブロックスケールは2の冪の float8_e8m0fnu。出力は DeepSeek-V4-Flash の fp4_act_quant とビット単位で一致する。

丸めには FP4 変換命令を使用しない。代わりに float32 ビットに対する整数演算と、さらに1回の float32 加算に変更した。このカーネルは FP8QuantPerTokenGroupFwdOp と group_quant.py を共有する。

write_in_place は、グリッドの y 範囲を超えるグループ数のストライド行を先に連続コピーさせる。このコミットはついでに FP8 のトークンごとのグループ量子化の inplace=True パスも修正した。

MoE 側は #3036 で、4 ファイルを変更し、+360/-66。FusedTopKFwdOp に scoring_func="sqrtsoftplus" を追加し、correction_bias の有無やグループ化の有無を問わない。また、呼び出し側が expert_ids を与えることをサポートし、DeepSeek-V4-Flash のゲートとそのハッシュルーティングの最初の層を上書きする。

expert_ids が与えられた場合、カーネルはこれらのエキスパートの logit のみを読む。再正規化されていない softmax は行全体を読み、バイアスは読まない。依然として拒否される組み合わせは「バイアス付き softmax 選択」である。

情報源: https://github.com/tile-ai/TileOPs/pull/3027 https://github.com/tile-ai/TileOPs/pull/3036

3.3 GatedPoolCompress が 1 回の起動でリクエストごとのリングに分かれた KV プーリングを完了

#3033 は 12 ファイルを変更し、+1363/-3。GatedPoolCompressFwdOp を実装し、DeepSeek-V4-Flash の compressor と GLM-5.3-Flash indexer のキープーリングに対応する。

リクエストはパックして処理される。あるリクエストの起点より前の位置は、そのリクエストのリングから来ており、リングサイズは C * ratio 行である。呼び出しはその最後のいくつかの位置の行を書き出し、前回の呼び出しの最後のトークンのロールバックを許可する。

実装は前回の起動で、ホスト同期なし。リクエストごとに 1 ブロックで、まずそのリングのそれらのウィンドウをプーリングして読み、次にリングと有効フラグを書き戻す。残りのウィンドウは cu_seqlens に対する warp レベルの ballot 探索によって自分が属するリクエストを特定する。

このコミットはさらに、ベンチマーク用の torch ベースラインとしてバッチ化された torch_program を追加し、kv_state と score_state を連続として宣言した。

情報源: https://github.com/tile-ai/TileOPs/pull/3033

3.4 TileFoundry がスライス mesh と Varying 値を並列計画分析に計上

TileFoundry の調査期間内に 1 件がマージされた(#356、123 ファイル、+2752/-557)。これはメモリとトラフィックの分析を変更する。

発端は discussion #350。アナライザは PP、TP、EP、HSDP の各並列計画を比較できる必要がある。旧実装はパイプラインステージごとに各 GPU のピークを合算し、スライス mesh 間の Reshard を 0 バイトのビューとして記録し、さらに Varying を持つオペランドを、オペランド型を 1 つだけ取るオペレータから落としていた。

変更後、型推論は単一のルールでオペランドのシャーディング属性(operand_types、combine_operand_attrs)を読む。Broadcast と Varying が出会うと Varying のセルごとのストレージになり、Partial と Varying が出会うと拒否される。

スライス mesh 間の Reshard は「その値を得るセル数」で 1 回のコピーとして数える。部分的に重なるスライス間の Split または Partial の移動は拒否される。ピークは所属セルごとの統計に変更された。

さらに 3 つの付随対応がある。JSON 呼び出し行は呼び出し先(callee、callee_ref)とそれを定義する Module を明記する。1 回の呼び出しはテンソルリーフごとに 1 つの出力境界を与え、ネストしたタプルも同様に扱い、生成された Module を分析可能にする。repeat_interleave は入力の Broadcast mesh を保持する。

このコミットは PP、TP、EP、HSDP、FSDP を比較する CUDA 用例を新規に追加する。生成されたモジュールは CLI によって書き出され、再ロードされ、自動微分の結果と照合され、実測される。

情報源: https://github.com/tile-ai/TileFoundry/pull/356

3.5 新規に 4 つの目標を起票:DSAPaged bf16、AvgPool1d、DeltaNet、Mamba

調査期間内に TileOPs は形状と目標倍率を伴う作業項目を 4 つ新規に起票した。

#3049 は DSAPaged の bf16 行が DeepSeek-V4-Flash 上で FlashMLA に追いつくことを要求する。この項目は今期マージされた #3048 に対応し、「先に目標を立て、次に実装をマージする」順序に属する。

#3051 は端で切り捨てられる AvgPool1d のウィンドウを扱う。手法はデータをレジスタに読み込み、ブロックを節約できる場合に 1 つの SM が 1 ブロックだけ発行する。

#3054 は DeltaNet の chunk 入力がストライド付きテンソルを受け入れることを要求する。#3013 は CausalConv1dFwdOp と CausalConv1dUpdateFwdOp に空洞畳み込みと float32 フィルタを追加した。

さらに #3052 は保守的なマージで、コメントとドキュメントのみを追加する。これは W4A16 のメタデータウィンドウがなぜ単一消費 warpgroup に対してのみ有効かを説明し、セレクタの 128、256、512 幅の K tile と明示的な 384 幅の K tile を docstring に書き込む。

当該コミットには同時に、グループ数検査を固定する回帰テストが 1 件追加された。著者はこの検査を外した場合の結果を示している。明示的な 384 幅設定では誤った結果が返り、1x128x36864、split 24 上での相対誤差は 0.457 となる。

情報源: https://github.com/tile-ai/TileOPs/issues/3049

3.6 TileKernels と FlashQLA は調査期間内にコミットなし

採用側の 2 リポジトリはいずれも調査期間内にない。deepseek-ai/TileKernels の最終プッシュは 10-14、QwenLM/FlashQLA は 10-30。

ドキュメントサイト側では、TileOPs.github.io の調査期間内コミット数は 0。tilelang.github.io には Update docs が 1 件ある(11-19 13:45)。いずれも技術的進展には当たらず、サイト保守の記録としてのみ扱う。

情報源: https://github.com/tile-ai/tilelang.github.io/commit/dc1d73c9

4. コミュニティ、チュートリアルとイベント

4.1 ニュース側は空白:中英語 5 組のクエリで関連報道なし

自動収集は調査期間内に 4 件の候補を取得した。逐条検証の結果、利用可能なものは 1 件もなかった。うち 3 件はリポジトリ自身のページ項目(tilelang、TileFoundry、tilelang-hygon)で、クロール側がリポジトリのメタデータをニュースとして扱ったもの。4 件目は riscv.org の Infineon AURIX RC1 に関する Q&A で、TileLang とは無関係。

補足として Google News を 5 組クエリした。英語の TileLang when:2d、"TileLang" compiler when:3d、tile-ai TileOPs when:3d はいずれも空の結果。中国語の TileLang when:2d は空、TileLang 算子 when:3d はある高校のチャレンジカップ受賞稿にのみヒットし、主題とは無関係。Hacker News には調査期間内の項目がない。

情報源:関連報道なし。

4.2 組織の活発度:1 日 23 件のマージ、メインリポジトリのスター 9006

組織の 30 リポジトリのうち、調査期間内にプッシュがあったのは 8 個。上位 5 個は tilelang、TileOPs、tilelang-mlir-ascend、TileFoundry、tilelang-hygon。後ろ 3 個は tilelang.github.io、TileOPs.github.io、TileOPs-nightly。

マージは 23 件で、リポジトリ別では TileOPs 16、tilelang 2、MLIR 昇騰 3、TileFoundry 1、海光 1。審査中かつ更新ありは 20 件で、新規開設のバグ修正と昇騰リリースパイプラインに集中している。

新規 issue は 7 件。うち TileOPs 2 件(1 件は性能目標、1 件は MoE 欠陥)、TileFoundry 3 件、topa 1 件、tilelang 1 件。メインリポジトリのスターは 9006 で、前回の 9001 から 5 増加。

情報源: https://github.com/tile-ai/tilelang

5. トレンド観察

  • インターフェース破壊には引き継ぎが伴う:11-18 に旧来の 2 つの mHC オペレータを削除し API 破壊として登録、11-19 に 3 つの代替オペレータがすべてマージされた。置換 PR は削除より前に開かれており、中間状態は 1 日しか続かなかった。
  • 量子化の整合はビット単位一致を基準とする:FP4 グループ量子化は DeepSeek-V4-Flash の fp4_act_quant とビット単位で同一であることを要求する。FP8 経路はこれと同じ group_quant.py を共用する。受け入れ基準は誤差帯ではなくビットレベルの一致である。
  • 性能最適化は形状ごとのパラメータ調整からセレクタ規則へ移行:#3045 は 1 条の規則で 302 個のモデル形状をカバーし、1 例も遅くならないことを要求している。この要求は単点の高速化より満たすのが難しく、長期的に維持しやすい。
  • 昇騰の 2 路線は分担が明確:MLIR 路線は引き続きオペレータごとに方言を整備し、1 日 3 個。メインリポジトリはリリースと CI のエンジニアリング化へ移行し、OBS 上のローテーション、夜間 NPU スモーク、チューニング技能を同じ週に推進。前者は表現面を拡大し、後者は利用のハードルを下げる。
  • TileFoundry は「コンパイルできる」から「量子化できる」へ:PP、TP、EP、HSDP が同一のアナライザで比較され、スライス mesh の Reshard がコピーコストとして計上され始めた。コストモデルが信頼できるようになれば、逆にフロントエンドの選択に影響する。

付:素材と検証の説明

情報源検証表

情報源 検証結果
GitHub tile-ai リポジトリ別検証 30 リポジトリ、期間内プッシュ 8 件。メインブランチの実増は TileOPs 16、tilelang 2、TileFoundry 1、海光 1
MLIR 昇騰ブランチ検証 3 件を mlir-dialect にマージ、その main は 11-04 以降未更新
組織レベルマージ真値検索 マージ 23 件:TileOPs 16、tilelang 2、MLIR 昇騰 3、TileFoundry 1、海光 1
組織レベル審査中検索 審査中かつ更新あり 20 件、昇騰リリースパイプライン、レイアウトと TMA 修正、新規オペレータ提案に集中
新規 issue 7 件:TileFoundry 3、TileOPs 2、topa 1、tilelang 1
リリースとタグ tilelang v0.1.15、TileOPs v0.1.0、MLIR 昇騰 v0.1.2.020、期間内に新規タグなし
ニュース側 候補 4 件すべて不可用。Google News の中国語・英語 5 組の検索で報道なし。HN エントリなし
採用側リポジトリ TileKernels 最終プッシュ 10-14、FlashQLA は 10-30、いずれも期間内になし
ドキュメントサイト tilelang.github.io に 1 件 Update docs。TileOPs.github.io は期間内 0 件
TileLang×RISC-V 四源 変化なし、前回の記録と一致

完全な情報源リスト

検証説明

基準:調査期間は北京時間 11-19 07:00 から 11-20 07:00 まで。リポジトリのコミットは一律 committer 時刻で計上し、まず前回の締め切り時点と比較してから新規追加を判定する。MLIR 昇騰のマージは mlir-dialect ブランチにあり、main は 11-04 以降動いていない。本文ではブランチを明記し、これをメインブランチとは呼ばない。

TileOPs の 16 件のマージと組織レベル検索の 23 件の総数は一件ずつ突合しており、重複計上はない。審査中の項目にはそれぞれ起票日と最終更新日を明記し、古い提案を当日新規起票として記載することを避ける。#1760、#3924、#4012、#4016 はいずれも本調査期間より前に起票されており、本文には起票日を明記し、調査期間内の進展のみを計上している。

収集は調査期間の終盤に未認証 GitHub API のレート制限に達した。ブランチとタグの情報は Atom フィードと検索インターフェースで再確認し、結論に影響はない。RISC-V 四情報源の巡回出力は空であり、変化なしとして処理し、収集失敗とはみなさない。ニュース側は五組のクエリで再確認した結果、空期間であることを確認し、空の結果を収集障害と推測することはしていない。