TileLang デイリーレポート (2026-10-20)
調査期間:2026-10-19 07:00 ~ 2026-10-20 07:00(北京時間、24 時間)。
情報源:GitHub(tile-ai 組織 29 リポジトリのプッシュ全量調査、期間内に 9 リポジトリでプッシュあり:TileOPs、TileOPs-nightly、TileOPs.github.io、tilelang、tilelang.github.io、TileFoundry、tilelang-ascend、tilelang-hygon、tilelang-mlir-ascend;組織内で期間中にマージ 36 件〔TileOPs 19、tilelang 11、TileFoundry 3、TileOPs.github.io 1、tilelang-ascend 1、tilelang-mlir-ascend 1〕、レビュー中 52 件〔tilelang 24、tilelang-ascend 15、TileOPs 11、tilelang-hygon 2〕;非デフォルトブランチを個別調査〔ascendc_pto、snapshots、stats〕)+ リリースページとバージョンファイルの調査 + 仕様統計ブランチ調査 + 採用側リポジトリ調査(TileKernels / FlashQLA)+ コミュニティリポジトリ調査 + ナイトリーパイプライン調査 + Google News 中国語・英語の複数クエリ(プロキシ経由)+ Hacker News + arXiv。
本期インデックス
- 本日の重点:SM89 で1日に2件の GEMM が正式化、TileOPs の仕様とベンチマークのカバレッジがともに 205/205 を報告、メインリポジトリが Windows ARM64 を CI に組み込み(10-19)
-
- 中核プロジェクトの進展
- 1.1 メインリポジトリ:Windows ARM64 を CI に導入、CUDA 13.4 arm64 のパッケージインストールと clang 互換レイヤ(#2962)(10-19)
- 1.2 メインリポジトリ:共有バッファ上の T.cumsum で warp 特化時にスレッドオフセットを補完(#3536)(10-19)
- 1.3 メインリポジトリ:call_extern の裸の data 変数を保守的に書き込みとしてマーク(#2618)(10-19)
- 1.4 メインリポジトリ:lower trace でホストとデバイスのソースコードを分離、編集可能なベースラインに変更(#3496)(10-19)
- 1.5 メインリポジトリ:Autotuner が profiler 引数をパススルー、ROCm FP4 定数の出力と2件の CI メンテナンス(#3337 / #3548 / #3565 / #3567)(10-19)
- 中核プロジェクトの進展
-
- マルチバックエンド対応(昇騰 / 沐曦 / 海光 / 摩尔線程)
- 2.1 昇騰:ホストオペレータとデバイスカーネルを msprof 下で関連付け(#3321)(10-19)
- 2.2 昇騰:VF ドメイン外のスカラー sqrt は標準数学ライブラリを使用、PTO Ramp は型付きベクトルで発行(#3466 / #3535)(10-19)
- 2.3 昇騰:4つの要素ごとのオペレータの中国語 API ドキュメントと用例を補完(#1657)(10-19)
- 2.4 昇騰の審査待ちキュー 15 件:GLM-5.3 圧縮オペレータと3本の逆伝播オペレータ(10-19)
- 2.5 海光:審査待ちの2件で MLS ウィンドウ定数 K とレジスタパイプラインを補完(#25 / #18)(10-19)
- 2.6 沐曦 / 摩尔線程 / MLIR-Ascend:両側とも新規プッシュなし、MLIR ラインは TVM 分離を修正(#204)(10-19)
- マルチバックエンド対応(昇騰 / 沐曦 / 海光 / 摩尔線程)
-
- エコシステムと採用側(TileOPs / TileFoundry / オペレータライブラリ)
- 3.1 TileOPs:SM89 ブロックスケーリング FP8 グループ GEMM と INT8 W8A8 が同日にマージ(#2659 / #2655)(10-19)
- 3.2 TileOPs:5件の foundry オペレータで MLA ページング、KV 書き込み、融合正規化を補完(#2642 / #2635 / #2639 / #2634 / #2651)(10-19)
- 3.3 TileOPs:GQA ページング FP8 フォワードが implemented に移行、36例で FA3 とベンチマーク(#2648)(10-19)
- 3.4 TileOPs:線形注意力と GEMM のポイントごとの性能収束シリーズ(#2650 / #2645 / #2637 / #2636 / #2641 / #2640 / #2646 / #2652)(10-19)
- 3.5 TileOPs:Mamba-1 選択的スキャンが着地、MoE ルーティング列挙に収束上限を追加(#2638 / #2653)(10-19)
- 3.6 TileOPs:仕様とベンチマークのカバレッジがともに 205/205 を報告、夜間レポートにオペレータ欄を追加(#2656)(10-19)
- 3.7 TileFoundry:Apple AMX 対応と Qwen プリフィル例が M2 Pro で動作(#244 / #240 / #245)(10-19)
- 3.8 採用側と夜間パイプライン:TileKernels / FlashQLA はプッシュなし、スナップショットは 10-20 に進行(10-20)
- エコシステムと採用側(TileOPs / TileFoundry / オペレータライブラリ)
-
- コミュニティ、チュートリアル、イベント
- 4.1 ドキュメント:6つの新規オペレータを API ページに記載、メインリポジトリのドキュメントサイトが自動更新(#77)(10-19)
- 4.2 コミュニティリポジトリ:W4A16 kernel 実践リポジトリと CUDA デバッグスキルリポジトリが視野に(10-19)
- 4.3 バージョンライン:メインリポジトリ 0.1.15 は依然として更新されず、TileOPs は引き続き 0.1.12 に固定(10-19)
- 4.4 メディアと学術:ニュース検索の3件のヒットはいずれも直接関連なし、arXiv に新規論文なし(10-19)
- コミュニティ、チュートリアル、イベント
-
- トレンド観察
- 5.1 SM89 が新規オペレータのデフォルトの着地点に
- 5.2 線形注意力が「チャンクごとに1回の行列積 + SM ウェーブごとの戦略選択」として固定化
- 5.3 TileFoundry が CUDA の外へ:Apple AMX と Qwen プリフィル
- 5.4 可観測性がコンパイラ堅牢化の主線に
- 5.5 昇騰オペレータライブラリが対話モデル専用オペレータへ転換
- トレンド観察
- 付:素材と検証説明
- 完全な情報源リスト
本日の重点:SM89 で1日に2件の GEMM が正式化、TileOPs の仕様とベンチマークのカバレッジがともに 205/205 を報告、メインリポジトリが Windows ARM64 を CI に組み込み(10-19)
本ウィンドウのホスト側は依然として中国時間の夜間に活発であり、組織内で36件のマージが行われ、TileOPsが単独で19件を占めた。そのうちSM89(Ada級)のブロックスケーリングFP8グループGEMMとINT8 W8A8 GEMMが同日に着地し、さらに5件の新規オペレータを組み合わせることで、MLAページング、KVキャッシュ書き込み、QK-Norm-RoPE融合、トークン単位量子化RMSNormを一挙に補完した。組織の仕様統計ブランチも直ちに「実装済み205/205、ベンチマーク済み205/205」に更新され、すなわちオペレータライブラリの自己申告する仕様カバレッジとベンチマークカバレッジが同時に満杯となった。メインリポジトリtilelangは11件をマージし、最も重要なのはWindows ARM64をリリースパイプラインに組み込んだこと(12ファイル、CUDA 13.4 arm64インストールスクリプトとclang互換ヘッダ)であり、他に2件の正確性修正(共有バッファ上のT.cumsum、call_extern書き込み注記)と1件のデバッグ基盤改修(lower traceのホスト側とデバイス側ソースコードの分離)がある。バックエンド側では、昇騰がホスト側オペレータとデバイスカーネルをmsprof下で対応付け、海光の2件が審査中でレジスタパイプラインと定数Kアドレッシングを補完し、TileFoundryは初めてQwenプリフィル例をApple M2 ProのAMXユニット上に移して128トークンの実行に成功した。
1. コアプロジェクトの進展
1.1 メインリポジトリ:Windows ARM64がCIに参入、CUDA 13.4 arm64パッケージとclang互換レイヤ(#2962)
このコミットはWindows on ARMを正式なビルドターゲットとしてリリースパイプラインに接続する。新規PowerShellインストールスクリプトを追加し、NVIDIAプレリリースチャネルからCUDA 13.4のwindows_arm64ローカルインストーラを取得して固定パスに配置する。CMakeのFindPipCUDAToolkitモジュールとwindows_arm64_clang_compat.h互換ヘッダを新設し、MSVCツールチェーンのARM64上でのヘッダファイルとビルトインの差異を解決する。同時にpyprojectと2つのrequirementsを調整し、レイアウトモジュールとMSVC補助モジュールを変更して新プラットフォームに適応させる。計12ファイル、356行追加、45行削除。これまで組織側はROCmと昇騰の両端を連続して補完しており、このコミットでWindows ARM64を3つ目の非x86デリバリー面として補完した。Snapdragon XシリーズノートPCでローカルカーネル開発を行うユーザーにとって直接的な可用性改善となる。
出典:tile-ai/tilelang#2962(10-19)
1.2 メインリポジトリ:共有バッファ上のT.cumsumがwarp特化下でスレッドオフセットを補正(#3536)
warp特化がプロデューサとコンシューマを異なるwarpに分離した後、スキャン系プリミティブが共有バッファ上で算出するスレッド番号は依然としてCUDAブロック全体で計算されていたため、cumsumの行归属がずれていた。この変更はCUDAとHIPの2つのscanテンプレートにthread_offsetパラメータを導入し、下位パラメータのスレッド下限(thread_boundsの最小値)から渡す。テンプレートはこれに基づいてlaneと行インデックスを再整列させる。バックエンドの汎用実装とPython側のテストケースも同時に更新され、計4ファイル、101行追加、38行削除。この種の問題は実際にwarp特化を有効化しバッファが共有メモリ上にある場合にのみ顕在化し、大規模利用後にフィードバックされた境界条件に属する。
出典:tile-ai/tilelang#3536(10-19)
1.3 メインリポジトリ:call_externの裸data変数を保守的に書き込みとしてマーク(#2618)
読み取り専用パラメータの注記は元々エイリアス解析でバッファが書き込まれるかを判断していたが、外部呼び出し(call_extern)が裸ポインタ経由で書き込む場合、解析は書き込み操作を認識できず、読み取り専用と誤判定された後に定数畳み込みや早期再利用が発生していた。この変更は当該パスでcall_externを特別に識別し、その裸データ変数を一律に保守的に書き込み済みとしてマークし、「call_externが出力バッファに書き込む」記述をカバーする69行のテストケースを追加する。方向性としては最適化を少なく行う方が誤った最適化を行うより良く、最近のメインリポジトリの一連の正確性修正と同じ調子である。
出典:tile-ai/tilelang#2618(10-19)
1.4 メインリポジトリ:lower traceがホスト側とデバイス側ソースコードを分離、編集可能ベースラインに変更(#3496)
デバッグツールlower traceは元々1份の生成ソースコードのみを出力し、ホスト側ラッパーとデバイス側カーネルが混在していたため、1箇所の変更をロールバックするのが困難であった。この変更は両側を独立した成果物に分離する。デバイス側はcodegen_device.cppとその.originalベースラインおよび.latest最新版を出力し、ホスト側はホストコード生成実行時に別途codegen_host.cppと同構造のベースラインファイルを出力する。report.htmlは最新の実行へのシンボリックリンクを指す。ドキュメントも編集と再コンパイルのフローを同時に改写し、計6ファイル、121行追加、63行削除。
出典:tile-ai/tilelang#3496(10-19)
1.5 メインリポジトリ:Autotuner の profiler パラメータ透過、ROCm FP4 定数出力と 2 件の CI メンテナンス(#3337 / #3548 / #3565 / #3567)
#3337 はわずか 3 行だが、修正内容は自動チューニングの計測基準に関するものだ。デコレータ上の warmup、rep、timeout はこれまでチューナーに渡されておらず、ユーザーがデコレータ上でこれら 3 つのパラメータを変更しても実際には反映されなかったが、今回パラメータの透過を実装した。#3548 は ROCm 側の FP4(e2m1)浮動小数点定数の出力を補完するもので、この型は生バイトによる構築しかできないため、デバイス側で補助関数を経由して float32 から変換して定数を生成するよう変更し、HIP コード生成時のエラーを回避した。残りの 2 件はメンテナンス性の変更で、cibuildwheel のバージョンを 4.2 から 4.3 に更新したこと、および ROCm ラインに CodeRabbit レビュアーを 1 名追加したことだ。
出典:tile-ai/tilelang#3337、#3548、#3565、#3567(10-19)
2. マルチバックエンド対応(昇騰 / 沐曦 / 海光 / 摩尔線程)
2.1 昇騰:ホストオペレータとデバイスカーネルを msprof 下で関連付け(#3321)
昇騰側の profiler はこれまでデバイスカーネルの所要時間しか報告できず、ホストオペレータとカーネルの間に対応関係がなく、自動チューニングで取得したサンプルを具体的な呼び出しに帰属させることができなかった。本件はネイティブ profiling チャネルを新設する:ビルド時に CANN の profiling ヘッダを検出し(msprof と profiling の 2 種類のインストールレイアウトに対応)、インストールされていれば有効化し、なければスキップする。ユーザー向けのコンパイルスイッチは導入しない。ランタイム側では ascend_profiling.h とホスト側 profile モジュールを追加し、ホストオペレータの発行とデバイスカーネルの実行を呼び出し順に対応付け、グループコンパイル経路でも同じ報告機構を再利用するようにした。計 13 ファイル、676 行追加、13 行削除で、昇騰ラインの計測能力を構造的に補完するものだ。
出典:tile-ai/tilelang#3321(10-19)
2.2 昇騰:VF 域外のスカラー sqrt は標準数学ライブラリを使用、PTO Ramp は型付きベクトルで発行(#3466 / #3535)
#3466 はスカラー sqrt がベクトル化域(VF)の外側に落ちるケースを処理する:下層は従来これを一律に sqrtf へ降格していたが、スカラーコア上ではこの実装が使用できない。変更では域外かつ型が float32 の場合に AscendC::Std::sqrt を使用するよう変更し、必要に応じて標準数学ヘッダを導入した。126 行追加でテストケースを含む。#3535 は PTO コード生成における Ramp 式の発行方式を修正し、各レーンの式から型付きベクトルを組み立てるよう変更した。テストケースは並列インデックスと明示的ストライドの 2 種類の Ramp について、ベクトル化ストアの生成と実行をカバーしている。
出典:tile-ai/tilelang#3466、#3535(10-19)
2.3 昇騰:4 つの要素ごとオペレータの中国語 API ドキュメントとテストケースを補完(#1657)
昇騰対応リポジトリは T.tile 配下の relu、leaky_relu、sigmoid、silu の 4 つの要素ごとオペレータについて中国語 API ドキュメントを補完し、機能、パラメータ、戻り値、典型的な用法(例えば leaky_relu の負斜率の意味)を明記するとともに、テストケースとドキュメント入口を同期して追加した。計 6 ファイル、451 行追加、19 行削除。昇騰ラインでは珍しいドキュメント主体のマージであり、このリポジトリのオペレータ面が対外的にセマンティクスを約束する段階に入ったことを示している。
出典:tile-ai/tilelang-ascend#1657(10-19)
2.4 昇騰のレビュー待ちキュー 15 件:GLM-5.3 圧縮オペレータと 3 件の逆伝播オペレータ(10-19)
昇騰リポジトリは本調査期間でレビューが最も集中している場所だ(15 件)。オペレータ側には対話モデルへの明確な志向が見られる:GLM-5.3 の kpool 圧縮オペレータ(#1910)、KDA の chunk 逆伝播(#1895)、indexer 逆伝播(#1887)、situ_glu とその勾配(#1891 / #1877)。サンプル側では cann-bench の lstm と gru の 2 件を追加(#1892 / #1902)。コンパイラ側の 2 件は安定性に関するものだ:#1907 は UB から L1 への一時保存においてブロック注釈と ND オフセットを保持し、#1903 は並行カーネルキャッシュの公開とキャッシュ削除後の復元を修正する。他にビット演算オペレータの API 事実確認が 5 件(#1651 / #1655 / #1656 / #1659 / #1893)あり、うち #1893 は先週リバートされた後の再提出で、残り 4 件は新規の確認だ。
ソース:tile-ai/tilelang-ascend#1910、#1895、#1887、#1891、#1907、#1903(10-19)
2.5 海光:審査中の2件で MLS ウィンドウ定数 K とレジスタパイプラインを補完(#25 / #18)
海光リポジトリのデフォルトブランチでは調査期間内にマージはなかったが、審査中の2件はいずれも実質的な進展があった。#25 は、ループ展開後に MLS リソース昇格が定数ウィンドウオフセットを失う問題を修正する:まず未更新軸を検証してから単軸更新か前方差分アドレッシングの採用を決定し、必要に応じてウィンドウを保守的に再構築し、既存の MLS テストに回帰を追加する。#18 は HCU バックエンドにレジスタパイプラインを追加し、既存の共有メモリパイプラインと重ね合わせることができ、パイプライン段に応じて対応するコミット命令とバリア命令を挿入し、warp 数が4を超える場合に warp_diverge を有効化する。PR の説明によれば、example_gemm の性能は rocblas に近づいている。
ソース:tile-ai/tilelang-hygon#25、#18(10-19)
2.6 沐曦 / 摩尔線程 / MLIR-Ascend:両側とも新規プッシュなし、MLIR 側は TVM 分離を修正(#204)
tilelang-metax の最終プッシュは10-16で停止し、tilelang-musa は09-30で停止しており、両者とも調査期間内にコミットはなく、正常な静穏状態である。tilelang-mlir-ascend は TVM 分離修正(#204)をマージした。当該リポジトリと TVM の名前空間、シンボル可視性との相互汚染を処理するもので、規模は小さいがマルチバックエンド共存時のリンク安定性に直接影響する。
ソース:tile-ai/tilelang-mlir-ascend#204(10-19)
3. エコシステムと採用側(TileOPs / TileFoundry / オペレータライブラリ)
3.1 TileOPs:SM89 ブロックスケーリング FP8 グループ GEMM と INT8 W8A8 が同日マージ(#2659 / #2655)
#2659 はブロックスケーリングの FP8 グループ GEMM(MoE シナリオ)を SM89 に拡張する:4セットの明示的設定、コピーを含む6本のベンチマークケース、テストは未知キー、不正な tile サイズ、マスクカウントと slab テールブロック、チューニング、出力エイリアス、非整列入力、アイドルエキスパート保持、入力不変性をカバーし、2セットの TileLang ベースライン(0.1.12 と 0.1.15 開発版)がそれぞれ35項目合格;ケースは元の42項目から77項目に増加し、SM89 ケースを12項目追加した。#2655 は同一アーキテクチャ上で INT8 W8A8 GEMM を有効化し、13項目の SM89 インターフェースケースと既存の29個の INT8 ベンチマークワークロードがすべて vLLM に対して正しさの確認に合格し、SM90 での実行結果は主張しないと明言している。2件を合わせると、TileOPs の低精度 GEMM はもはや Hopper のみを唯一のターゲットとしないことを意味する。
ソース:tile-ai/TileOPs#2659、#2655(10-19)
3.2 TileOPs:foundry オペレータ5件で MLA ページング、KV 書き込み、融合正規化を補完(#2642 / #2635 / #2639 / #2634 / #2651)
本バッチはすべて TileFoundry の仕様パイプラインから産出されたもので、各オペレータにはまず HIR 仕様と参照実装があり、その後に配置、スケジューリング、ランタイムのツインが続く。#2642 は MLA ページド前向を新規追加し、リクエストごとにページテーブルを辿り、fp32 でスコアを累積加算し、オンライン softmax を行い、出力と lse を返す。6 行の用例は 4e-3 の絶対誤差内で参照と一致し、行内では 576 列と 512 列の 2 回の積和累加により計算リソース制限と判定される。#2635 は MLA の KV キャッシュ書き込みを新規追加し、トークンごとに kv_c と k_pe を連結し、fp32 で回転させてから書き出し、scale に従ってスケーリングし、クランプして E4M3 に変換する。6 行の用例は vLLM の同名インターフェースに対して通過する。#2639 の QK-Norm-RoPE 融合は 7 種の行/精度の組み合わせをカバーし、NeoX と隣接ペアの 2 種類の回転レイアウトをサポートする。#2634 のトークン単位量子化 RMSNorm は残差加算を融合し、12 のワークロードが vLLM 同名インターフェースと一致する。実装は 1 行 1 CTA、4096 列以内では 128 スレッド、より長い場合は 512 スレッドを用いる。#2651 は INT8 W8A8 のオペレータラッパーを補完する。
出典:tile-ai/TileOPs#2642、#2635、#2639、#2634、#2651(10-19)
3.3 TileOPs:GQA ページド FP8 前向を implemented に移行、36 例が FA3 とベンチマーク(#2648)
このコミットにより、GQA ページド前向は FP8 の Q と KV を直接受け入れ、オペレータ状態を仕様から実装済みへと進めた。参照実装はリクエストと KV ヘッド次元に従って HIR を記述し、クエリヘッドをグループ単位で積み上げてスコア行とし、各可視ページを 1 つのキー tile とする。FP8 オペランドはそれぞれの scale で逆量子化してから乗算する。36 の用例はすべて通過し、NaN と Inf のチェックを含む。比較対象には FA3 の同種ページド実装を選び、「リクエストごと、KV ヘッドごと」の descala に従って対応する形状に展開する。付随する変更は 17 ファイルにわたり、2601 行を新規追加し、ページドデコード、バッチ 1 デコード、FP8 デコード、warp 特化、RoPE 前処理の複数カーネルパスを含む。
出典:tile-ai/TileOPs#2648(10-19)
3.4 TileOPs:線形注意力と GEMM のポイント単位性能収束シリーズ(#2650 / #2645 / #2637 / #2636 / #2641 / #2640 / #2646 / #2652)
8 件の [Perf] は先週の収束ペースを継続しており、パターンは高度に一致している。各 chunk の行列積を 1 回に圧縮し、同期ポイントを前倒しまたは統合し、ハードウェアのウェーブに応じて戦略を決定する。#2650 は GDN 前充填の chunk 逆行列を warp グループ単位の求解に変更し、「SM あたり約 7 つの warp グループ求解を収容」を境界として、1 ウェーブ未満の場合は単一 warp の方が有利なままとする。#2645 は DeltaNet 前向状態を各 chunk で 1 回だけ行列積を行うようにする。#2637 は GLA 逆方向状態勾配のチェーン上に行列積を挿入しないようにする。#2636 はバッチ GEMM の各 tile のストアを次の tile の最初の WGMMA の下に移動して書き戻しをオーバーラップさせる。#2641 は長行リダクションを 512 スレッドの折り畳みに変更する。#2640 は最大プーリング 2 次元インデックスカーネルの行を evict-last で L2 に読み込む。#2646 はスケールファクタがちょうど 1 のとき、bf16 除算による全範囲スケーリングをバイパスする。#2652 は近似逆数を用いて float32 の剰余と切り捨て除算の切り捨てを実装する。
出典:tile-ai/TileOPs#2650、#2645、#2637、#2636、#2641、#2640、#2646、#2652(10-19)
3.5 TileOPs:Mamba-1 選択的スキャンが着地、MoE ルーティング列挙に収束上限を追加(#2638 / #2653)
#2638 Mamba-1の選択的スキャン順伝播を新規追加。9行のワークロードでMamba-2.8Bの4096トークン・プリフィルと単一トークン・デコード、2.8Bバッチ64デコード、1.4Bプリフィル、130Mゲートなし、シーケンスインデックス付きパック・プリフィル、グループ状態と素のスキャンをカバー。参照実装とレイアウト、スケジューラ生成器も併せてリポジトリに登録され、状態空間モデルが正式にオペレータ一覧に入ったことを示す。#2653 MoEグループGEMMのルーティング列挙を修正:従来はグループルーティングを全量列挙していたが、組み合わせ数が上限を超えると無駄に時間を消費していたため、和集合が上限を超えた時点で列挙を停止するよう変更。
出典:tile-ai/TileOPs#2638、#2653(10-19)
3.6 TileOPs:仕様とベンチマークのカバレッジがともに205/205、ナイトリーレポートにオペレータ欄を新設(#2656)
組織の仕様統計ブランチは最後のマージ直後に更新され、バッジデータは「実装済み205/205、ベンチマーク済み205/205」で、いずれも満杯となり、当期に継続的に追加されたオペレータと裏付け合っている。#2656はナイトリーレポートに二つの変更を加える:当期に未測定のオペレータを「新規オペレータ」欄として別掲し、履歴データ項目の読み取りを旧式の文字列表現からJSON解析に変更し、マッピング以外の内容は一律破棄する。テストケースは43項目から47項目に増加。#2656が自述する履歴データの一節も記録に値する:10-18のナイトリーレポート(調査期間10-05から10-17)は109項目の改善、6個の新規オペレータ、計121行を列挙し、うちW4A8 GEMMが98行を占めた。
出典:tile-ai/TileOPs#2656、TileOPs仕様統計ブランチ(10-19)
3.7 TileFoundry:Apple AMX対応とQwenプリフィル例がM2 Proで動作(#244 / #240 / #245)
#244は四つのAMX操作(X/Yロード、FP16外積とFP32累加、Zストア)をTileFoundryに取り込み、CopyとFillがAppleコアとAMX実行器スコープ上に配置できるようにした。サンプルディレクトリにはモデル全体のHIR、スケジューリング後のHIR、Pythonランタイムのツイン、C++プロジェクションカーネルを用意し、初回使用時にローカルカーネルをビルドしてキャッシュし、重みは用意済みのGGUF Q8_0を再利用する。実測ではM2 Pro上でQwen3-1.7BとQwen3.5-4Bがいずれも128トークンのプリフィルを完了し、出力logitsは有限、次のトークンIDはそれぞれ1813と306であった。TileLangエコシステムがモデル全体の推論例を非CUDAアクセラレータ上に置いたのはこれが初めてである。#240はCUDA側の降格ギャップ4箇所(効果形式Castに生成プロセッサがない、Fillがカーネルパラメータの生ポインタに書き込む、スライス座標がDim演算で解析できない)を修正し、コード生成ディレクトリのみを変更、45行追加10行削除。#245は分析層の評価コンテキストとスコープスナップショットを統一した。
出典:tile-ai/TileFoundry#244、#240、#245(10-19)
3.8 採用側とナイトパイプライン:TileKernels / FlashQLAはプッシュなし、スナップショットは10-20へ進行(10-20)
deepseek-ai/TileKernelsは依然10-14のv2.1.0リリースマージのまま、QwenLM/FlashQLAは10-14の修正コミットのまま、両者とも調査期間内にプッシュはなく、採用側は本日静穏。TileOPs-nightlyのsnapshotsブランチは調査期間内にスナップショットを1回追加し(10-20 05:39)、前回は10-19 05:41で、ナイトベンチマークは毎日1回のペースを維持している。
出典:TileOPs-nightly snapshots(10-20)
4. コミュニティ、チュートリアル、イベント
4.1 ドキュメント:六つの新規オペレータをAPIページに記載、メインリポジトリのドキュメントサイトが自動更新(#77)
TileOPsドキュメントサイトはオペレータのマージに伴い、六つの新規実装をAPIページに追加した(#77)。呼び出し規約と現在の状態を項目ごとに明記し、先週制定した「実装済みなら即ページに記載」のルールを踏襲している。tilelangメインリポジトリのドキュメントサイトは調査期間内に自動ビルドのプッシュが1回あり、人為的な内容変更はない。
出典:tile-ai/TileOPs.github.io#77(10-19)
4.2 コミュニティリポジトリ:W4A16 kernel実践リポジトリとCUDAデバッグスキルリポジトリが視野に(10-19)
コミュニティ側でTileLangをめぐる複数のサードパーティリポジトリが出現している:fanyuxiao-ui/w4a16-tilelangは10-10に作成され、TileLangと手書きCUDAを用いてA800(SM80)上でW4A16量子化推論のGEMMとGEMVを行う;sablin39/tilelang-cuda-skillsは今年5月に作成され、すでに145スターを獲得しており、TileLangの記述とCUDAツールチェーンによるデバッグのスキルパッケージを提供し、作者は同時にTileFoundryの活発なコントリビューターでもある;localizethedocs/tilelang-docs-l10nは公式ドキュメントのローカライズを行う;chaigua/tilelang-agentは10-19に新規作成された。四者はいずれもコミュニティが自発的に作ったものであり、組織の公式リポジトリではない。
出典:fanyuxiao-ui/w4a16-tilelang、sablin39/tilelang-cuda-skills、localizethedocs/tilelang-docs-l10n(10-19)
4.3 バージョン線:メインリポジトリは0.1.15のまま世代交代せず、TileOPsは引き続き0.1.12に固定(10-19)
メインリポジトリのバージョンファイルは依然として0.1.15で、09-30のリリースに対応し、調査期間内に新しいタグやリリースはない。TileOPsの依存宣言は依然として0.1.12に固定されており、先週0.1.15へ引き上げを試みたPRはすでにクローズされ、今期新たにマージされたSM89のユースケースも0.1.12と0.1.15開発版の両方で実行されており、アップグレードのゲートは依然としてデュアルベースライン検証を前提としていることがわかる。
出典:tile-ai/tilelang VERSION、tile-ai/TileOPs pyproject(10-19)
4.4 メディアと学術:ニュース検索の3件のヒットはいずれも直接関連せず、arXivに新論文なし(10-19)
Google Newsの中国語・英語の複数クエリ(TileLang、tile-ai、TileOPs、TileFoundry、tilelang オペレータなど)は調査期間内にわずか3件のヒットのみであった:DeepSeekとHuaweiチップに関する産業報道2件(The Information、Business Upturn)、およびPrime Intellectのprime-rl 0.10.0リリース稿である;各記事を照合した結果、読解可能な内容の中にTileLangの具体的な事実は見つからず、直接関連しないものとして処理し、項目には計上しない。Hacker Newsのtilelang検索に関連ヒットはなく、arXivの全フィールド検索で最近の関連論文は依然として07-24のTileSight(tile中心型GPU性能分析モデル)であり、調査期間内に新規追加はない。
出典:Google News TileLang 検索、arXiv TileLang 検索(10-19)
5. トレンド观察
5.1 SM89が新オペレータのデフォルトの落とし所に
昨日のTileOPsの重点はまだHopper上のW4A8とSM90クラスタ連携であったが、今期の2件の新GEMMはいずれもSM89を初回ターゲットとし、PR内でSM90での実行結果を主張しないことを明言している。Ada級グラフィックスカード(L40S、4090の類)は国内開発者が手にする主力ハードウェアであり、低精度GEMMをまずSM89に落とすことは、オペレータライブラリが「ピーク性能」だけでなく「入手可能性」によって優先順位を並べ始めたことを意味する。
5.2 線形注意力が「チャンクごとに1回の行列積 + SMウェーブ別の戦略選択」に固定化
GLA、GDN、KDA、DeltaNetの4ラインで今期合計8件の性能変更があり、手法は2つに収斂している:チャンクチェーン上の行列積を1ブロックにつき1回に圧縮すること、およびSMが収容できるwarpグループ数に応じてグループ化ソルバか単一warpかを決めることである。この「まずウェーブを計算してからカーネルを選ぶ」書き方はこれまで手書きGEMMライブラリにしか見られなかったが、今やオペレータライブラリのデフォルトパスに入り込んでいる。
5.3 TileFoundryがCUDAを飛び出す:Apple AMXとQwenプリフィル
TileFoundryは一貫して「agent向けのオペレータファクトリ」と位置づけられてきたが、これまでのすべての例はNVIDIA上にあった。今期のAMXサポートに加え、Qwenモデル全体のプリフィルがM2 Proで動作したことは、その仕様・配置・スケジューリングの3層抽象がCUDAに束縛されず、Appleの行列コプロセッサにまで降りられることを示している。この路線が続けば、TileFoundryの位置づけは「TileLangのフロントエンド」から「アクセラレータ横断の仕様からカーネルへのコンパイラ」へと変わるだろう。
5.4 可観測性がコンパイラ堅牢化の主線に
この期間の3件の変更は同じ目的を指している。コンパイル生成物を計測可能かつ原因追跡可能にすることだ。lower traceはホスト側とデバイス側のソースコードを分けて保存し、Autotunerはデコレータ引数を実際に計測まで透過させ、昇騰はホスト側のオペレータとデバイス側カーネルをmsprof上で対応付ける。オペレータ面がほぼ網羅された後(仕様統計は既に205/205を報告)、残るギャップはオペレータを追加するのではなく、計測によって見つける必要がある。
5.5 昇騰オペレータライブラリが対話モデル専用オペレータへ転換
昇騰の審査待ちキューには、GLM-5.3のkpool圧縮、KDAとindexerの逆伝播、situ_gluおよびその勾配が現れている。これらは汎用オペレータではなく、特定の対話モデル構造における構成部品である。先週のPTO自動ベクトル化と合わせ、昇騰ラインの作業重心は「TileLangを昇騰上で動かす」から「国内主要モデルの重要オペレータをまず昇騰上で実現する」へと移っている。
付:素材と検証説明
- 本期間は通常の24時間期間であり、10-19 07:00から10-20 07:00を対象とし、前号(10-16 07:00から10-19 07:00の3日間期間)とは重複しない。
- 組織レベルのリポジトリ一覧とプッシュ状態はGitHub APIから全件取得し、29リポジトリ中9リポジトリが期間内にプッシュされた。各リポジトリのメインブランチのコミットはAtom feedで1件ずつ照合し、非デフォルトブランチ(tilelang-ascendのascendc_pto、TileOPs-nightlyのsnapshots、TileOPsのstats)は別途検証した。
- マージ済みおよび審査待ちの件数はGitHub検索APIの真値検索(is:mergedとis:openを各1回、期間開始タイムスタンプ付き)から取得し、リポジトリごとの取得リストの累積は使用しておらず、重複計上を避けている。
- 組織APIの匿名枠が収集後半で枯渇したため、PR本文と変更統計はWebページおよびパッチファイルの読み取りに切り替えたが、項目の事実確認には影響していない。マージ済み状態はすべてis:merged検索結果を基準とする。
- 仕様とベンチマークのカバレッジ数値は組織統計ブランチのバッジデータから取得し、同ブランチは期間内の最後のマージ後に更新されており、プロジェクト自己申告の基準である。
- 夜間スナップショットの件数はsnapshotsブランチのAtom feedのUTC時間を北京時間に換算した上で期間内かどうかを判定した。
- ニュース側の3件のヒットは1件ずつ照合済みで、うち2件の産業報道は読める内容からTileLangとの具体的な関連を確認できなかったため未検証として処理し、本号の項目には計上していない。arXivとHacker Newsはいずれも新規ゼロ。
- レポートには本機環境の情報は一切含まれていない。
完全な情報源リスト
- [1] tile-ai/tilelang PR #2962 Windows ARM64 サポートと CI — https://github.com/tile-ai/tilelang/pull/2962
- [2] tile-ai/tilelang PR #3536 共有バッファ上の T.cumsum スレッドオフセット — https://github.com/tile-ai/tilelang/pull/3536
- [3] tile-ai/tilelang PR #2618 call_extern 生データ変数の書き込みマーク — https://github.com/tile-ai/tilelang/pull/2618
- [4] tile-ai/tilelang PR #3496 lower trace のホストとデバイスソースコードの分離 — https://github.com/tile-ai/tilelang/pull/3496
- [5] tile-ai/tilelang PR #3337 Autotuner による profiler パラメータのパススルー — https://github.com/tile-ai/tilelang/pull/3337
- [6] tile-ai/tilelang PR #3548 ROCm FP4 浮動小数点定数の出力 — https://github.com/tile-ai/tilelang/pull/3548
- [7] tile-ai/tilelang PR #3565 cibuildwheel アップグレード — https://github.com/tile-ai/tilelang/pull/3565
- [8] tile-ai/tilelang PR #3567 ROCm ラインに新規レビュアーを追加 — https://github.com/tile-ai/tilelang/pull/3567
- [9] tile-ai/tilelang PR #3321 昇騰 msprof ホストとデバイスの関連付け — https://github.com/tile-ai/tilelang/pull/3321
- [10] tile-ai/tilelang PR #3466 昇騰 VF ドメイン外スカラー sqrt — https://github.com/tile-ai/tilelang/pull/3466
- [11] tile-ai/tilelang PR #3535 昇騰 PTO Ramp 型付きベクトル — https://github.com/tile-ai/tilelang/pull/3535
- [12] tile-ai/tilelang-ascend PR #1657 4 つの要素単位オペレータの中国語ドキュメント — https://github.com/tile-ai/tilelang-ascend/pull/1657
- [13] tile-ai/tilelang-ascend PR #1910 GLM-5.3 kpool 圧縮オペレータ — https://github.com/tile-ai/tilelang-ascend/pull/1910
- [14] tile-ai/tilelang-ascend PR #1895 KDA chunk 逆方向オペレータ — https://github.com/tile-ai/tilelang-ascend/pull/1895
- [15] tile-ai/tilelang-ascend PR #1887 indexer 逆方向オペレータ — https://github.com/tile-ai/tilelang-ascend/pull/1887
- [16] tile-ai/tilelang-ascend PR #1907 UB から L1 への一時保持ブロックアノテーション — https://github.com/tile-ai/tilelang-ascend/pull/1907
- [17] tile-ai/tilelang-ascend PR #1903 並列カーネルキャッシュリリース修正 — https://github.com/tile-ai/tilelang-ascend/pull/1903
- [18] tile-ai/tilelang-hygon PR #25 MLS 窓定数 K の起点 — https://github.com/tile-ai/tilelang-hygon/pull/25
- [19] tile-ai/tilelang-hygon PR #18 レジスタパイプラインと warp_diverge — https://github.com/tile-ai/tilelang-hygon/pull/18
- [20] tile-ai/tilelang-mlir-ascend PR #204 TVM 分離修正 — https://github.com/tile-ai/tilelang-mlir-ascend/pull/204
-
[21]
- [11] tile-ai/TileOPs PR #2659 SM89 ブロックスケーリング FP8 グループ GEMM — https://github.com/tile-ai/TileOPs/pull/2659
- [22] tile-ai/TileOPs PR #2655 SM89 INT8 W8A8 GEMM — https://github.com/tile-ai/TileOPs/pull/2655
- [23] tile-ai/TileOPs PR #2642 MLA ページング順伝播 — https://github.com/tile-ai/TileOPs/pull/2642
- [24] tile-ai/TileOPs PR #2635 MLA KV キャッシュ書き込み — https://github.com/tile-ai/TileOPs/pull/2635
- [25] tile-ai/TileOPs PR #2639 QK-Norm-RoPE 融合 — https://github.com/tile-ai/TileOPs/pull/2639
- [26] tile-ai/TileOPs PR #2634 トークン単位量子化 RMSNorm 融合 — https://github.com/tile-ai/TileOPs/pull/2634
- [27] tile-ai/TileOPs PR #2651 INT8 W8A8 オペレータラッパー — https://github.com/tile-ai/TileOPs/pull/2651
- [28] tile-ai/TileOPs PR #2648 GQA ページング FP8 順伝播を実装済みに変更 — https://github.com/tile-ai/TileOPs/pull/2648
- [29] tile-ai/TileOPs PR #2650 GDN プレフィルを warp グループ単位で求解 — https://github.com/tile-ai/TileOPs/pull/2650
- [30] tile-ai/TileOPs PR #2645 DeltaNet 順伝播状態を chunk ごとに 1 回の行列積に — https://github.com/tile-ai/TileOPs/pull/2645
- [31] tile-ai/TileOPs PR #2637 GLA 逆伝播状態勾配の行列積を除去 — https://github.com/tile-ai/TileOPs/pull/2637
- [32] tile-ai/TileOPs PR #2636 バッチ GEMM タイル書き戻しのオーバーラップ — https://github.com/tile-ai/TileOPs/pull/2636
- [33] tile-ai/TileOPs PR #2641 長行リダクション 512 スレッド折り畳み — https://github.com/tile-ai/TileOPs/pull/2641
- [34] tile-ai/TileOPs PR #2640 マックスプーリングインデックス行 L2 追い出し戦略 — https://github.com/tile-ai/TileOPs/pull/2640
- [35] tile-ai/TileOPs PR #2646 bf16 除算スケーリングのバイパス — https://github.com/tile-ai/TileOPs/pull/2646
- [36] tile-ai/TileOPs PR #2652 float32 剰余と切り捨て除算の丸め — https://github.com/tile-ai/TileOPs/pull/2652
- [37] tile-ai/TileOPs PR #2638 Mamba-1 選択的スキャン順伝播 — https://github.com/tile-ai/TileOPs/pull/2638
- [38] tile-ai/TileOPs PR #2653 MoE グループルーティング列挙の収束 — https://github.com/tile-ai/TileOPs/pull/2653
- [39] tile-ai/TileOPs PR #2656 夜間レポートの新オペレータ欄と履歴解析 — https://github.com/tile-ai/TileOPs/pull/2656
- [40] tile-ai/TileOPs 仕様統計ブランチ(205/205) — https://github.com/tile-ai/TileOPs/tree/stats
- [41] tile-ai/TileFoundry PR #244 Apple AMX サポートと Qwen プレフィル例 — https://github.com/tile-ai/TileFoundry/pull/244
-
[42] tile-ai/TileFoundry PR #240 CUDA コード生成の 4 つのギャップ — <https://github.com/t
- [43] tile-ai/TileFoundry PR #245 バリュエーションコンテキストの統一 — https://github.com/tile-ai/TileFoundry/pull/245
- [44] tile-ai/TileOPs-nightly snapshots ブランチ — https://github.com/tile-ai/TileOPs-nightly/commits/snapshots
- [45] tile-ai/TileOPs.github.io PR #77 6つの新規オペレータを API ページに追記 — https://github.com/tile-ai/TileOPs.github.io/pull/77
- [46] tile-ai/tilelang バージョンファイル 0.1.15 — https://github.com/tile-ai/tilelang/blob/main/VERSION
- [47] tile-ai/TileOPs 依存宣言 tilelang 0.1.12 — https://github.com/tile-ai/TileOPs/blob/main/pyproject.toml
- [48] fanyuxiao-ui/w4a16-tilelang コミュニティ実装 — https://github.com/fanyuxiao-ui/w4a16-tilelang
- [49] sablin39/tilelang-cuda-skills コミュニティスキルパック — https://github.com/sablin39/tilelang-cuda-skills
- [50] localizethedocs/tilelang-docs-l10n ドキュメントローカライゼーション — https://github.com/localizethedocs/tilelang-docs-l10n
- [51] Google News TileLang 検索 — https://news.google.com/search?q=TileLang
- [52] arXiv TileLang 検索 — https://arxiv.org/search/?query=TileLang&searchtype=all