모니터링 기간: 2026-10-13 07:00 ~ 2026-10-14 07:00 (베이징 시간, 24시간).

출처: GitHub (tile-ai 조직 29개 저장소 푸시 전수 점검, 기간 내 10개 저장소에 푸시 발생: tilelang, TileOPs, TileFoundry, tilelang-ascend, tilelang-hygon, tilelang-metax, tilelang-mlir-ascend, TileSight, TileOPs-nightly, TileOPs.github.io; 조직 기간 내 병합 28건, 신규 오픈 42건, 리뷰 중 업데이트 79건; 메인 저장소 4건 병합, TileOPs 18건 병합, Ascend 두 저장소 4건 병합, TileFoundry 2건 병합; 비기본 브랜치 개별 점검〔ascendc_pto / dev / gcy_merge_main 등〕; 야간 파이프라인 1건 신규 스냅샷, TileOPs 문서 사이트 1회 배포) + 릴리스 페이지 점검 + 커뮤니티 저장소 점검 (PTO-ISA SuperNPUBench, easy-tilelang, SwHwCodesign, tilelang-debugger) + Google News 중영문 다중 쿼리 (프록시 경유) + Hacker News + arXiv.

이번 호 인덱스

  • 오늘의 핵심: MoE 이중 연산자 확정과 foundry 성능 배치——TileOPs 하루 18건 병합, 야간 기반 +22항목 (10-13 ~ 10-14)
    1. 핵심 프로젝트 진행
      • 1.1 메인 저장소: ROCm 두 건——DeepSeek mHC 전/후 커널과 safe-gated KDA 디코딩 예제 (10-13 ~ 10-14)
      • 1.2 메인 저장소: Ascend 컴파일 면 두 건——SimdVF 다중 버퍼 T.fill (#3455)과 bisheng 임시 파일 정리 (#3461) (10-13)
      • 1.3 메인 저장소 리뷰 중: SM120 mxf8f6f4 전체 패밀리, Metal 배치와 Ascend 리뷰 중 클러스터 (10-13)
    1. 다중 백엔드 적응 (Ascend / MetaX / Hygon / Moore Threads)
      • 2.1 Ascend: 문서 팩트체크 캠페인 3건 병합, 11건 리뷰 중; chunk와 희소 MLA 마이그레이션 배치 개시 (10-13)
      • 2.2 MLIR Ascend: NPUIR 명시적 메모리와 파이프라인 제어 병합 (#190); Cube 메모리 할당 API 리뷰 중 (#201) (10-13)
      • 2.3 Hygon: 레지스터 파이프라인 PR 업데이트, 신규 브랜치와 v0.1.15 업그레이드 라인 병행 (10-13)
      • 2.4 MetaX: main이 업스트림 v0.1.15 노드 따라잡음; Moore Threads 침묵 (10-13)
    1. 생태계와 채택자
      • 3.1 TileOPs: MoE 이중 연산자 확정——masked FP8 그룹 GEMM과 DeepSeek 그룹 top-k (10-13)
      • 3.2 TileOPs: SM89 네 건 마무리——GLA / DeltaNet 역방향과 KDA 프리필, GQA 수정 건 추가 (10-13)
      • 3.3 TileOPs: foundry 성능 배치 8건 병합, 8건 신규 오픈——풀링 / 정규화 / 리덕션 전개 (10-13 ~ 10-14)
      • 3.4 TileFoundry: Qwen3.8-27B 프리필 예제 병합——최초로 전체 길이에서 SGLang을 초과한 예제 (10-13)
      • 3.5 야간 파이프라인: 신규 스냅샷 a79a21e4——정확성 1064항목 (+22), 벤치마크 1966항목 (+19) 무실패 (10-14)
      • 3.6 채택자와 문서: TileKernels / FlashQLA / TileRT 침묵; TileOPs 문서 사이트 배포 (10-13)
    1. 커뮤니티, 튜토리얼과 활동
      • 4.1 PTO-ISA: SuperNPUBench 릴리스 ops-20261013.2와 CUBE 직결 등 커밋 (10-13)
      • 4.2 커뮤니티 계정: easy-tilelang 튜토리얼 저장소 업데이트; SwHwCodesign 공개 저장소 침묵 (10-13)
      • 4.3 미디어와 학술: Google News / HN / arXiv 기간 내 신규 제로 (10-13)
    1. 트렌드 관찰
      • 5.1 MoE: 쌍별 분할에서 쌍별 확정으로
      • 5.2 foundry 성능 배치 일일 업데이트 리듬 진입
      • 5.3 ROCm: DeepSeek 신아키텍처 커널의 세 번째 마무리 라인
      • 5.4 리뷰 중 큐 계속 두꺼워짐, 릴리스 침묵기의 기반 성장
  • 부록: 자료와 점검 설명
  • 전체 출처 목록

오늘의 핵심: MoE 이중 연산자 확정과 foundry 성능 배치——TileOPs 하루 18건 병합, 야간 기반 +22항목 (10-13 ~ 10-14)

날짜: 2026-10-13, 2026-10-14　출처: masked FP8 그룹 GEMM (#2521)／ DeepSeek 그룹 top-k (#2535)／ DeepSeek mHC 커널 (#3156)／ Qwen3.8-27B 프리필 예제 (#229)／ 야간 스냅샷 (a79a21e4)

모니터링 기간 24시간 내 조직은 28건을 병합했고(메인 저장소 4, TileOPs 18, Ascend 적응 저장소 3, MLIR Ascend 1, TileFoundry 2), 42건을 새로 열었으며, 10개 저장소에 푸시가 있었다. 이번 모니터링 기간의 주요 흐름은 두 가지다: TileOPs의 MoE 연산자 이중 확정과 foundry 성능 배치의 병합 러시.

  • MoE 이중 연산자 확정: masked FP8 그룹 GEMM(#2521)과 DeepSeek 그룹 top-k 라우팅(#2535)이 같은 날 병합됐다——전자는 deep_gemm masked 시맨틱에 정렬하고 14행 부하를 등록했으며, 후자는 vLLM grouped_topk 시맨틱에 정렬하고 T=512에서의 SM 스케줄링 문제를 수정했다(상세는 3.1).
  • TileOPs 하루 18건 병합: MoE 이중 연산자 외에 SM89 역방향/프리필 네 건(#2546~#2549), foundry 성능 배치 8건과 GQA 수정 건(#2550)이 같은 날 마무리됐다(상세는 3.2, 3.3).
  • 메인 저장소 ROCm 두 건: DeepSeek mHC(매니폴드 제약 초연결) 전/후처리 커널(#3156)과 safe-gated KDA 디코딩 예제(#3249)가 병합됐다——ROCm 라인은 연속 세 번째 날 마무리됐다(상세는 1.1).
  • TileFoundry 마일스톤: Qwen3.8-27B 프리필 예제(#229)가 병합됐으며, 이 저장소에서 처음으로 1024 / 4096 / 8192 전체 길이에서 SGLang을 앞선 예제다(상세는 3.4).
  • 야간 기반 지속 상승: 새 스냅샷 a79a21e4——정확성 1064항목(+22), 벤치마크 1966항목(+19), 실패 제로(상세는 3.5).

1. 핵심 프로젝트 진행

1.1 메인 저장소: ROCm 두 건——DeepSeek mHC 전/후 커널과 safe-gated KDA 디코딩 예제 (10-13 ~ 10-14)

날짜: 2026-10-13, 2026-10-14　출처: DeepSeek mHC (#3156)／ KDA 디코딩 예제 (#3249)

  • DeepSeek mHC 전/후 커널(#3156, 2개 파일, +83/-6, 10-14 새벽 병합): mHC 전처리는 CUDA에서 96 스레드 블록 내 32 스레드 경계로 역할을 분담하고 TF32 GEMM 입력을 채택한다. CDNA에서는 이것이 네이티브 64 lane 웨이브프론트를 분할하며, TF32는 MFMA의 입력 타입이 아니다. HIP 경로는 전체 목표 크기 웨이브프론트에서 분할 역할을 실행하도록 변경하고, FP32 혼합 가중치를 공유 메모리에서 BF16으로 변환해 MFMA 계산에 제공한다. CUDA 측은 기존 96 스레드 / TF32 레이아웃을 그대로 유지하며, 추가로 gfx942의 전/후 커널 정확성 커버리지(32 token 전처리, 8 token 후처리 등 케이스)를 보강했다.
  • safe-gated KDA 디코딩(#3249, +360/-0): 패킹 디코딩 커널을 신규 추가——컨볼루션 후 패킹된 QKV와 원시 게이트 입력(a, b, A_log, dt_bias), FP32 상태 풀과 요청별 상태 인덱스를 소비한다. Q/K L2 정규화와 delta-rule 재귀 업데이트를 수행하고, 지정된 상태 슬롯을 제자리에서 덮어쓰며 [batch, 1, value_heads, value_dim]을 출력한다. 음수 상태 인덱스는 0을 출력하고 상태 풀을 변경하지 않는다. 구현은 차원별로 파라미터화되어 있으며 모델명/아키텍처 디스패치를 포함하지 않고, 문서는 GLM-5.3-Flash TP8의 전용화 설정을 제시한다.

1.2 메인 저장소: Ascend 컴파일 면 두 건——SimdVF 멀티 버퍼 T.fill(#3455)과 bisheng 임시 파일 정리(#3461) (10-13)

날짜: 2026-10-13　출처: SimdVF T.fill(#3455)／ bisheng 정리(#3461)

  • #3455(+247/-31): Ascend SimdVF의 LowerFill은 원래 전체 버퍼 채우기만 지원했다(각 차원이 0에서 시작하고 범위가 버퍼 형상과 같아야 함). 다중 버퍼 파이프라인에서 MaterializeMultiBuffer가 버퍼에 버전 차원을 추가하면(예: [64] 논리 버퍼가 [2, 64] 물리 버퍼로 변환) 루프 내 T.fill은 현재 버전 슬롯 [v:v+1, 0:64]만 채우면 되는데, 전체 버퍼 검사에서 거부되었다. 이 PR은 처리 대상을 실제 채우기 영역으로 변경하여 영역 시작점과 범위에 따라 각 VReg 데이터 블록의 쓰기 인덱스를 계산하고, 상수 범위·연속성·VReg 정렬을 검사하며, 컴팩트 레이아웃과 명시적 stride를 지원한다. NPU 테스트 3건(1D / 2D / 2단계 파이프라인 다중 버퍼)을 추가했다.
  • #3461(+2/-1): bisheng wrapper가 임시 디렉터리를 생성할 때 keep_for_debug를 전달하지 않아 컴파일된 AscendC 소스가 항상 삭제되었다. 반면 nvcc, hipcc, PTO wrapper는 모두 keep_for_debug=not env.should_cleanup_temp_files()를 전달한다. 이 PR은 이를 정렬하여 TILELANG_CLEANUP_TEMP_FILES=0이 Ascend 백엔드에서도 동일하게 적용되도록 한다.

1.3 메인 저장소 검토 중: SM120 mxf8f6f4 전체 패밀리, Metal 배치와 Ascend 검토 중 클러스터(10-13)

날짜: 2026-10-13　출처: SM120 mxf8f6f4 패밀리(#3099)／ SM120 MXFP8/MXFP4(#3495)／ Metal 배치(#3194 ~ #3210)／ Ascend 독립 AIV(#3485)／ Windows MSVC(#3510)

  • SM120 블록 스케일링 MMA 두 갈래 병행: kind::mxf8f6f4 전체 f8f6f4 오퍼랜드 패밀리, 서브바이트 TMA producer와 공식 예제(#3099) 및 SM120 MXFP8/MXFP4(#3495)가 모두 검토 중 업데이트되었다. 10-10 SM121 점등에 이어 Blackwell 워크스테이션의 매트릭스를 계속 확장한다.
  • Metal 배치(10건): 세그먼트 정규화 누산기, simdgroup GEMM 프래그먼트, 스칼라 warp 리덕션, BF16 벡터 타입, 짧은 상수 루프 언롤, torch 백엔드 캐시와 파라미터 바인딩 등 — Metal 백엔드가 연속 정련 단계에 들어섰다.
  • Ascend 검토 중 클러스터: 독립 AIV 실행(#3485), 접근 영역 중첩 분석의 repeat/stride 지원(#3506), PTO 실행의 PTO codegen 라우팅(#3316)과 DeepGEMM의 PTO codegen(#3330), VF 스코프 외부 스칼라 sqrt(#3466), SimtVF remat_idx / 벡터 gather pack(#3492), profiling 호스트-디바이스 연관(#3321) 등.
  • 인프라와 수정: CI에 Windows MSVC 추가(#3510), TMA-only producer가 warp 0만 실행(#3503), 번들 TVM 발견과 DSL 선언(#3508), 테스트 인프라 캐시 IR 순회(#3502), fill / reduce 경계 3건(#3499 ~ #3501), codegen 공유 C 계열 발행(#3289). 메인 저장소 오픈 PR은 161건(이전 기간 168건).

2. 멀티 백엔드 어댑테이션(Ascend / MetaX / Hygon / Moore Threads)

2.1 Ascend: 문서 팩트체크 캠페인 3건 머지, 11건 검토 중; chunk와 희소 MLA 마이그레이션 배치 개시(10-13)

날짜: 2026-10-13　출처: round 시맨틱(#1612) / bitwise_rshift(#1676) / bitwise_xor(#1681) / Chunk O Forward(#1866) / sparse_mla_topk_reducesum(#1884)

  • 문서 팩트 체크 캠페인: T.tile.* API 항목별 점검(docstring 재작성 + 실기 테스트 + API 문서) 모니터링 기간 내 3건 머지 — 그중 #1612는 문서에 그치지 않는다: PTO의 round 낮춤을 CAST_ROUND에서 CAST_RINT로 변경하여 .5 중간값이 0에서 멀어지는 방향으로 반올림되던 문제를 수정하고 ties-to-even 시맨틱에 정렬했다(17건 실기 테스트와 codegen 단언 포함); #1676 / #1681은 bitwise_rshift / bitwise_xor를 커버한다. 별도로 11건의 동일 유형 점검이 리뷰 중 갱신되었다(axpy, clamp, clear, fill, bitwise_and/or/not/lshift, exp/ln 계열, relu 계열, sin/cos 등).
  • 연산자 이관 배치 개시: wch0810의 chunk 계열 이관 — Chunk O Forward(#1866), chunk_o_bwd(#1802), Chunk Delta H(#1799), Chunk Scaled Dot KKT(#1803); 희소 MLA 3건 — Sparse MLA SeeSaw(#1869), Sparse MLA Forward Pipelined(#1870), sparse_mla_topk_reducesum(#1884); 그 외 MHA 예제(#1879).
  • 품질과 회귀: 정밀도 표준 보급 3건 — 기존 예제에 정밀도 표준 적용(#1882), 정밀도 harness 및 runner 수정(#1883), 저성능 연산자를 examples_experiment로 이동(#1881); gemm_v0에서 W4A4 int4xint4 GEMM 결과 오류 수정(#1731). Ascend 저장소 오픈 PR은 총 229건(지난 회차 228건).

2.2 MLIR Ascend: NPUIR 명시적 메모리와 파이프라인 제어 머지(#190); Cube 메모리 할당 API 리뷰 중(#201)(10-13)

날짜: 2026-10-13　출처: NPUIR 제어(#190) / Cube 메모리 API(#201)

  • #190 머지(12개 파일, +1092/-102): TileLang에 명시적 메모리와 파이프라인 제어면을 추가 — 부호 있는 pitch를 지원하는 2행 GM→UB 복사와 연속 GM/L1 ND 복사; 물리 버퍼 뷰, 타입 지정/재형상 뷰와 변경 가능한 스칼라 저장; GEMM L0 ping-pong 이벤트와 MMAD / Fixpipe 유닛 플래그 노출(명시적 동기화 요구 포함); 스칼라 벡터 피연산자와 런타임 크기를 지원하는 T.vbrc 영역; 능력 가드가 있는 원자 모드 내장 추가 및 두 버전의 Fixpipe builder API 호환; Expert의 부호 있는 floor 나눗셈/모듈로, 부호 없는 산술, 정수 변환과 지연 조건 lowering 수정.
  • #201 리뷰 중: 명시적 Cube 메모리 할당 API(HhpPCc007). MLIR Ascend 저장소 오픈 PR은 총 32건.

2.3 Hygon: 레지스터 파이프라인 PR 갱신, 새 브랜치와 v0.1.15 업그레이드 라인 병행(10-13)

날짜: 2026-10-13　출처: 레지스터 파이프라인(#18) / 블록 스케일드 GEMM 레이아웃 브랜치 / v0.1.15 업그레이드 브랜치

  • 레지스터 파이프라인(#18): 등록 브랜치 gcy_merge_main이 계속 업데이트됨——모니터링 기간 내 “complex wait count 수정”, test_example_gemm_fp8.py 복원 등의 커밋이 새로 추가되었으며, 이번 커밋은 Hygon 백엔드에 레지스터 파이프라인(공유 메모리 파이프라인과 협력) 및 4웨이브 초과 시 warp-diverge를 도입한 것으로, 여전히 리뷰 중.
  • 신규 브랜치 개설: feat/hcu-gemm-blockscaled-async-copy-layout(10-13 오전 생성 및 푸시)——블록 스케일드 GEMM 및 비동기 복사 레이아웃 방향을 지향.
  • 업그레이드 라인: upgrade/upstream-v0.1.15 브랜치가 모니터링 기간 내 두 번 푸시되었으며, Hygon 백엔드와 업스트림 v0.1.15가 지속적으로 정렬됨. Hygon 저장소의 오픈 PR은 총 1건.

2.4 MetaX: main이 업스트림 v0.1.15 노드에 도달; Moore Threads 조용함(10-13)

날짜: 2026-10-13　출처: MetaX 저장소／ main 브랜치／ Moore Threads 저장소

  • MetaX: main 브랜치가 10-13 오전에 업데이트 푸시되었으며, 브랜치 헤드는 업스트림 v0.1.15 버전 노드(#3309)——미러 라인이 업스트림 릴리스에 도달; dev 브랜치(메인 작업 라인 적응)의 최근 푸시는 여전히 09-24이며, 모니터링 기간 내 신규 적응 커밋 없음. MetaX 저장소의 오픈 PR은 총 16건.
  • Moore Threads: 09-30 이후 활동 없음(최근 릴리스 브랜치 조용히 유지); Sunrise 저장소도 모니터링 기간 내 동향 없음.

3. 생태계와 채택 측

3.1 TileOPs: MoE 두 연산자 확정——masked FP8 그룹 GEMM과 DeepSeek 그룹 top-k(10-13)

날짜: 2026-10-13　출처: masked FP8 그룹 GEMM(#2521)／ DeepSeek 그룹 top-k(#2535)／ MoE MMA화 리팩터링(#2551)

  • masked FP8 그룹 GEMM(#2521, 20개 파일, +1788/-37, #2388 종료): MoEGroupedGemmFP8FwdOp가 spec에서 구현됨——FP8 e4m3 그룹 GEMM, 1x128 / 128x128 블록 스케일, bf16 출력, 의미론적으로 deep_gemm의 masked 변형과 정렬; 목록이 masked 레이아웃으로 좁혀지고 구현 완료로 표시됨, 14행 워크로드: E=8 두 행에 EP=8 디코딩 열두 행 추가(DeepSeek-V3, Qwen3-235B-A22B, Kimi-K2, batch 64 / 256). moe.masked_routed_metadata 생성기가 새로 추가되어 전문가 불균형을 시뮬레이션(DeepSeek-V3 b64 빈 4/32, Kimi-K2 b64 빈 13/48); sm90 커널은 TMA producer warp + 두 개의 WGMMA consumer warpgroup으로 구성된 영구 그리드이며, 타일 순회는 디바이스 측에서 행 수를 읽고, 빈 타일은 CTA를 차지하지 않으며, 각 가중치 타일은 HBM에서 한 번만 읽음.
  • DeepSeek 그룹 top-k(#2535, 15개 파일, +1193/-69, #2268 종료): FusedTopKFwdOp가 num_expert_group, topk_group 및 routed_scaling_factor(vLLM grouped_topk 의미론)를 보완하고, FusedMoEFwdOp / 공유 전문가 경로도 동기화; T=512일 때 기본 TOKENS_PER_BLOCK으로 인해 32개 블록이 32/132개 SM에 배치되는 스케줄링 문제를 수정; 문서에 fast-math 경계를 명시.
  • MoE 마무리 리팩터링(#2551, +20/-30): 컴팩트 행별 레이아웃이 MoEGroupedGemmMMAKernel에서 직접 처리되도록 변경(해당 프로그램은 원래 정렬된 행 id로 이진 탐색하여 그룹 끝을 찾음), 전용 TightRow 커널과 dispatch 키를 삭제——레이아웃 적용 범위가 SM80 / SM86으로 확대.

3.2 TileOPs: SM89 네 건 마무리——GLA / DeltaNet 역방향과 KDA 프리필, 그리고 GQA 수정 커밋(10-13)

날짜: 2026-10-13　출처: GLA 역방향(#2546)／ DeltaNet 역방향(#2547)／ KDA 프리필(#2548)／ 컴팩트 행별 GEMM(#2549)／ GQA 수정(#2550)

  • GLA 역방향(#2546, +36/-27): 블록 간 key 그래디언트 계산을 query 그래디언트 앞으로 옮겨, 축소된 프로그램이 h를 로드하기 전에 dh를 모두 소진하도록 함——chunk 32, K=V=128의 기본 공유 메모리가 114688에서 81920바이트로 줄어 SM89의 101376 상한 안에 들어감; FP16/BF16 케이스 추가.
  • DeltaNet 역방향(#2547, +166/-113): chunk 64, K=V=128의 3단 프로그램이 90112 / 98304 / 98816바이트 안에 들어감; 명시적 상태 버퍼 뷰로 리뷰어가 보고한 147968바이트 w/u 할당을 98816으로 낮춤; 오퍼랜드 수명을 단축하고, 키와 역행렬이 마지막 소비자 이후 상태 저장소를 재사용하도록 함.
  • KDA 융합 프리필(#2548, +186/-63): SM89에서 KDA 융합 프리필 활성화——128차원 입력의 컴팩트 공유 메모리 스케줄링으로 256스레드 할당을 182528에서 101120바이트로 줄임; 시퀀스/헤드 블록 수가 SM 수에 도달할 때만 융합 경로를 선택; 네 개의 공개 FP16/BF16 수치 케이스를 새로 추가하고, 구식 2048 시퀀스 거부 어서션을 수치 검사로 교체.
  • 컴팩트 행별 그룹 GEMM(#2549, +45/-11): SM89에서 정렬된 expert id에 따라 세그먼트 끝을 복원하는 컴팩트 그룹 GEMM을 지원하며, 기존 MMA 프로그램(빈 expert 및 부분 타일 포함)을 재사용.
  • GQA 수정(#2550, 18개 파일, +341/-173): dense GQA 디코딩의 split log-sum-exp를 FP32 누적으로 변경——bf16은 64~128 구간에서 0.5씩 스텝, 큰 스코어에서 split 혼합이 최대 0.23까지 편차 발생; autotune을 forward가 실제로 실행하는 프로그램 기준으로 타이밍하도록 변경(fused RoPE 경로 포함), 후보 선택 기준을 수정.

3.3 TileOPs: foundry 성능 배치 8건 머지, 8건 신규 오픈——풀링 / 정규화 / 리덕션 확대(10-13 ~ 10-14)

날짜: 2026-10-13, 2026-10-14　출처: FP8 타일(#2533)／ 숏 타이트 그룹(#2536)／ W4A16(#2545)／ 와이드 dense 타일(#2552)／ coop2 저장소(#2566)／ foundry 승인 대기 중(#2570 ~ #2579)

  • GEMM(네 건): #2533 FP8 GEMM 타일을 재배열하고 1x128 B 스케일을 웨이브 커널에 배치(block128 웨이브 커널을 gemm_fp8_block128_wave로 개명); #2536 컴팩트 비융합 그룹 호출에서 하프 폭 타일을 선택해 SM을 채움(69개 디스크립터 중 3개가 선택을 변경, 모두 더 빠름); #2545 W4A16 타일과 K 슬라이스를 공동 스코어링(qwen3-32b-prefill-down 78.69 마이크로초 대 88.83, 1.129x); #2552 와이드 dense 타일이 새 helper를 통해 단일 WGMMA로 176/192 폭을 발행, 새 ping-pong 커널이 시분할 소형 M에서 재선택(신규 vit-l16-in21k-head 부하 추가).
  • Elementwise 및 저장: #2557 GELU의 erf 체인을 5개 명령으로 단축(llama-8b-ffn-decode 1.280 마이크로초 대 1.440, 1.125x); #2565 SiluAndMul 16비트 게이트에 고속 나눗셈 사용(qwen3-8b-swiglu-b32 1.074x, torch-compile 대비 1.015x, 0.945x에서 플러스로 전환); #2566 TMA가 출력을 어드레싱할 수 없는 N이 8의 배수가 아닌 시나리오에서 행별 warp별 저장(vit-l16-in21k-head 294.7 마이크로초에서 23.2 마이크로초로, 12.7x, cublaslt-best보다 7.5x 빠름).
  • RoPE(#2567): 16바이트 L2 evict-last 로드 추가, 2D neox RoPE는 스레드당 벡터 하나를 회전, 1D 인터리브 단일 테이블 읽기 정류화(neox-2d-2k 1.022x torch-compile, 0.983x에서).
  • 신규 여덟 건(10-13 밤 ~ 10-14 새벽, 모두 리뷰 중): softmax 행 상주 레지스터에 evict-last 추가(#2570), CTA warp 간 스캔 그룹 타일 카운트(#2571), MaxPool1dIndices(#2572), AvgPool3d(#2573), RMSNorm 폭별 행 분할(#2576), SiluAndMul evict-last(#2577), any/all 리터럴 테스트(#2578), MaxPool3dIndices(#2579) —— 풀링 / 정규화 / 리덕션이 총력전에 돌입.

3.4 TileFoundry: Qwen3.8-27B 프리필 예제 병합——SGLang을 전 길이에서 앞선 첫 예제(10-13)

날짜: 2026-10-13　출처: Qwen3.8-27B 프리필 (#229)／ scaffold 병합 (#227)

  • #229(89 파일, +38069): examples/qwen3_8_27b_prefill-tilelang/ 추가——64층 gated-delta-net / attention 하이브리드 텍스트 프리필로, 1024 / 4096 / 8192 세 길이 모두에서 SGLang보다 빠름; 이 부하는 H200 변곡점을 36배 초과(8192에서 스코어링이 FLOP의 3.1%만 차지, 나머지는 GEMM), FLOP 제약형으로 절약할 트래픽이 없으며, 예제는 analyze --roofline을 의사결정 입력으로 사용; SGLang 베이스라인은 수동 제공(그 두 열의 기준이 8192에서 9.1% 차이, 예제는 열 선택을 논증해야 함). 이전 예제는 모두 디코드였고 SGLang의 일부에 불과했으며, 이 건이 전 길이를 앞선 첫 예제임.
  • #227(47 파일, +1356/-368): tilefoundry scaffold SOURCE OUT_DIR 병합——Target codegen에 따라 편집 가능한 독립 CMake 프로젝트 생성(파라미터 뷰, 특수화 디스패치, 런처, 호스트 등록 및 플레이스홀더 CUDA 바디), codegen 산출물과 링크를 여섯 개 모듈 파일로 분할.

3.5 야간 파이프라인: 신규 스냅샷 a79a21e4——정확성 1064건(+22), 벤치마크 1966건(+19) 무실패(10-14)

날짜: 2026-10-14　출처: 야간 스냅샷 (a79a21e4)／ 스냅샷 메타데이터

  • 새 스냅샷 a79a21e4(run 38443260386, 10-14 04:18): 정확성 1064건(62개 스위트, 이전 대비 +22, 0 실패 0 오류 1 스킵), 벤치마크 1966건(53개 스위트, +19, 0 실패); 환경 H200, CUDA 13.2, 드라이버 595.71.05, 이미지 cu132-torch2.13-tl-0.1.12, 스냅샷 내 tileops 0.0.1.dev1314+ga79a21e40(이전 대비 +18 개발 번호), tilelang 0.1.12, torch 2.13.0+cu132 / triton 3.7.1 / vllm 0.27.1.
  • 정확성 증가분은 모니터링 기간 내 MoE, SM89, foundry 세 가지 머지 라인과 동일한 박자——”한 건 머지될 때마다 기반이 한 단계 상승”하는 롤링 리듬이 이어짐.

3.6 채택자와 문서: TileKernels / FlashQLA / TileRT 조용; TileOPs 문서 사이트 배포(10-13)

날짜: 2026-10-13　출처: TileOPs 문서 사이트／ TileKernels／ FlashQLA

  • 채택자: TileKernels(DeepSeek), FlashQLA(Qwen) 모두 모니터링 기간 내 푸시 없음(09-30 이후 조용); TileRT 모니터링 기간 내 동향 없음.
  • 문서 사이트: TileOPs 사이트 gh-pages 배포 1회(10-13 오전, MkDocs 1.6.1); 메인 문서 사이트는 모니터링 기간 내 새로운 빌드 없음.

4. 커뮤니티, 튜토리얼 및 활동

4.1 PTO-ISA: SuperNPUBench, ops-20261013.2 및 CUBE 직결 등 커밋 릴리스(10-13)

날짜: 2026-10-13　출처: SuperNPUBench／ ops-20261013.2 릴리스

  • 신규 릴리스 ops-20261013.2(포함
    solution/quant/dynamic_mx_quant); 모니터링 기간 내 커밋: matmul_test가 직결 CUBE TCVT로 GM 왕복 대체(#234), topk 이식 가능 gfsim fixture 및 RES_CHECK ELF 릴리스(#233 / #236 머지), rms_norm tree_32k 커널 아카이브(#216), dynamic_mx_quant가 one-level 빌드에 연결.

4.2 커뮤니티 계정: easy-tilelang 튜토리얼 저장소 업데이트; SwHwCodesign 공개 저장소 조용(10-13)

날짜: 2026-10-13　출처: easy-tilelang 튜토리얼 저장소／ SwHwCodesign／ tilelang-debugger

  • easy-tilelang/tilelang-tutorials(서드파티 중국어 튜토리얼 저장소) 모니터링 기간 내 “adapt tilelang new ascend” 푸시——튜토리얼에 Ascend A5의 lower-trace 컴파일 관찰 등의 항목이 포함되어 신규 Ascend 백엔드에 적응.
  • SwHwCodesign 계정 공개 저장소는 현재 2개(AI-Compiler, AI-Infra)이며 모두 모니터링 기간 내 푸시 없음; 10-12에 기록된 플레이스홀더 저장소 물결은 이어지지 않음. tilelang-debugger 업데이트 없음(10-10 이후).

4.3 미디어와 학술: Google News / HN / arXiv 모니터링 기간 내 신규 없음(10-13)

날짜: 2026-10-13　출처: Google News／ Hacker News 검색／ arXiv 검색

  • 중영문 다수 쿼리(Ascend / MetaX / Hygon / Moore Threads 조합어 포함) 모니터링 기간 내 신규 히트 없음; 과거 히트(10-07~10-10의 집계 기사와 해설) 모두 이전 회차에 수록됨.
  • Hacker News 96시간 내 항목 없음; arXiv 신규 프리프린트 없음(최신 관련은 여전히 07-24의 TileSight 분석 모델 논문).

5. 트렌드 관찰

5.1 MoE: 쌍별 분할에서 쌍별 확정으로

  • 모니터링 기간 내 MoE 영역에서 두 건이 연속으로 수용되었다: masked FP8 그룹 GEMM(deep_gemm masked 시맨틱 정렬)과 DeepSeek 그룹 top-k(vLLM grouped_topk 정렬)가 같은 날 병합되었고, 여기에 컴팩트 행별 레이아웃이 통합되어 MMA 커널로 진입했다——TileOPs의 MoE 커버리지는 「연산자 개별 보충」에서 「모델 레시피 기준 수렴」으로 전환되었으며, DeepSeek-V3 / Qwen3-235B / Kimi-K2 워크로드가 대량으로 등재되었다. 심사 측에서는 동일 주제(gpt-oss swigluoai 전문가, permute-align, 전문가 검색 건너뛰기)가 지속적으로 두터워지고 있으며, MoE는 현재 TileOPs에서 가중치가 가장 높은 방향이다.

5.2 foundry 성능 배치가 일일 업데이트 리듬에 진입

  • 하루에 foundry 성능 병합 8건에 신규 오픈 8건: GEMM(타일 재배열, 공동 선택, 단일 WGMMA) 이후 풀링, 정규화, 리덕션, RoPE가 전면적으로 확산되었고, 각 건마다 대조 벤치마크(torch-compile / cuBLASLt / quack)가 첨부되었다. 단독 저자의 일일 업데이트 리듬은 다음을 시사한다: TileOps의 성능 엔지니어링이 이미 「핵심 연산자 집중 공략」에서 「전체 연산자 일일 순위 경신」으로 전환되었으며, 잔여 낙후 항목(MoE 네 줄, 일부 16비트 나눗셈 행)이 건별로 기록되었다.

5.3 ROCm: DeepSeek 신아키텍처 커널의 세 번째 마무리 라인

  • NSA 포워드/디코딩과 flash-decoding 타일(10-12 ~ 10-13)에 이어, 이번 모니터링 기간에는 mHC 전/후 커널과 KDA 디코딩 예시가 추가로 수용되었다——ROCm 라인은 연속 세 번째 날 병합이 있었으며, 주제가 DeepSeek 계열 신아키텍처(NSA, mHC)와 GLM-5.3 추론에 고도로 집중되었다. 기술 부채(CDNA 웨이브프런트 크기, MFMA 입력 타입, LDS/VGPR 예산)를 건별로 청산하는 방식은 다음을 보여준다: ROCm 지원이 「작동 확인」에서 「신아키텍처 릴리스와 동기화」로 전환되고 있다.

5.4 심사 대기열이 계속 두터워지며, 릴리스 침묵기의 저변 성장

  • 단일 모니터링 기간 내 병합 28건, 신규 오픈 42건, 심사 중 업데이트 79건: 메인 저장소 오픈 PR 161건(이전 기간 168건), TileOPs 26건(이전 기간 19건), Ascend 저장소 229건——메인 저장소는 슬림화, TileOPs는 두터워짐. 정식 버전은 계속 침묵 상태(메인 저장소 최신 v0.1.15, 09-30; TileFoundry v0.0.2)이지만, 야간 저변 정확성 +22, 벤치마크 +19의 상승이 지속되고 있다: 병합, 평가, 예시 세 라인이 다음 릴리스 기간을 위해 정적 준비를 축적하고 있다.

부록: 자료 및 검증 설명

출처 검증 결과
tile-ai 조직(29개 저장소) 모니터링 기간 내 10개 저장소에 푸시 발생: tilelang(병합 4, 심사 중 업데이트 29, 신규 9), TileOPs(병합 18, 심사 중 업데이트 22, 신규 25), TileFoundry(병합 2, 신규 1), tilelang-ascend(병합 3, 심사 중 업데이트 25, 신규 5), tilelang-hygon(3개 브랜치 푸시), tilelang-metax(main 동기화), tilelang-mlir-ascend(병합 1, 심사 중 1, 신규 1), TileSight(dev 브랜치 생성 및 브랜치 푸시), TileOPs-nightly(스냅샷 1건), TileOPs.github.io(배포 1회); 조직 모니터링 기간 내 총계 병합 28건, 신규 42건, 심사 중 업데이트 79건
메인 저장소 tilelang 병합 4건(#3156, #3249, #3455, #3461); 오픈 PR 총 161건(이전 기간 168); 릴리스 페이지 모니터링 기간 내 신규 없음(최신 v0.1.15, 09-30)
Ascend 저장소(ascend / mlir-ascend) ascend: 병합 3건(#1612, #1676, #1681); 오픈 PR 총 229건(이전 기간 228). mlir-ascend: 병합 1건(#190); 오픈 PR 총 32건. 기본 브랜치는 ascendc_pto(main 아님), 브랜치 수준 검증 수행됨
Hygon / MetaX / Moore Threads Hygon: 3개 브랜치 푸시(gcy_merge_main, feat/hcu-gemm-blockscaled-async-copy-layout〔신규 브랜치〕, upgrade/upstream-v0.1.15) 및 브랜치 생성 1회; #18 심사 중. MetaX: main이 업스트림 v0.1.15 노드로 푸시됨(#3309); dev 신규 커밋 없음. Moore Threads(09-30 이후)와 Sunrise(10-12 이후) 활동 없음
TileOPs 병합 18건(#2521, #2533, #2535, #2536, #2542, #2545, #2546~#2552, #2555, #2557, #2565~#2567); 오픈 PR 총 26건(이전 기간 19건)
TileOPs-nightly 신규 스냅샷 a79a21e4(10-14 04:18): 정확성 1064건(62개 스위트, +22), 벤치마크 1966건(53개 스위트, +19), 실패 0건 오류 0건
TileFoundry 병합 2건(#229, #227); 오픈 PR 총 1건; 릴리스 페이지 신규 없음(최신 v0.0.2, 09-10)
TileSight 10-13 dev 브랜치 생성 및 브랜치 수준 푸시 발생(저장소 pushed 10-14 00:16까지); 공개 브랜치에 main과 tilelang 포함(후자는 TileLang 프런트엔드 커밋 포함); 릴리스 내용 없음
채택자 및 커뮤니티 TileKernels, FlashQLA 모니터링 기간 내 푸시 없음(모두 09-30); TileRT 동향 없음; tilelang-debugger 업데이트 없음(10-10 이후); easy-tilelang 튜토리얼 저장소 업데이트 1건; SwHwCodesign 공개 저장소 2개, 모니터링 기간 내 푸시 없음
PTO-ISA 조직 SuperNPUBench: ops-20261013.2 릴리스; 모니터링 기간 내 8건 커밋(병합 2회 포함)——CUBE TCVT 직결, topk fixture와 ELF, rms_norm 아카이브, dmxq 빌드 연동
Google News / Hacker News / arXiv Google News 모니터링 기간 내 신규 히트 0건; HN 96시간 항목 0건; arXiv 신규 프리프린트 없음

전체 출처 목록

그룹 채우기 SM (#2536) — https://github.com/tile-ai/TileOPs/pull/2536