모니터링 기간: 2026-11-18 07:00 ~ 2026-11-19 07:00 (베이징 시간, 24시간; 이전 기간 기준점은 11-18 07:00).

출처: GitHub tile-ai 조직 저장소별 점검, 30개 저장소 중 모니터링 기간 내 푸시 11개. 조직 수준 병합 및 심사 중 실측 조회: 병합 38건, 심사 중 업데이트 43건, 신규 오픈 issue 20건. 건별 메인 브랜치 점검: TileOPs 23건, tilelang 3건, TileFoundry 2건, topa 3건, MLIR Ascend 4건, Sunrise 1건, Hygon 1건. 릴리스 점검: tilelang은 여전히 v0.1.15, Sunrise는 0.1.15+sunrise.1.2.1 출시. 또한 Google News 중영문 조회, Hacker News, arXiv 및 TileLang×RISC-V 4개 출처 순회 점검 포함.


이번 호 인덱스

  • 오늘의 핵심: TileFoundry, 같은 날 Metal 타깃과 자동 미분 도입 (11-18)
  • 오늘의 핵심: TileOPs 하루 23건 병합, FP8 양자화 체인 보완, 두 건의 성능 부채 당일 종료 (11-18)

    1. 핵심 프로젝트 진행
      • 1.1 메인 저장소 CPU 백엔드, 두 논리 리덕션의 직렬 저하 보완: any_of와 all_of (11-18)
      • 1.2 topk 회귀 테스트, Z3에 리소스 상한 설정하여 CUDA CI 타임아웃 해소 (11-18)
      • 1.3 Ascend 자동 튜닝 테스트, 교차 NPU 탐지 제거로 후속 케이스 오염 방지 (11-18)
      • 1.4 CUDA Tile IR 백엔드 RFC 재제출: Tile IR이 표현 가능한 부분만 변환 (11-18)
    1. 멀티 백엔드 적응 (Ascend / Hygon / Moore Threads / MetaX / Sunrise)
      • 2.1 MLIR Ascend mlir-dialect 브랜치, 하루에 tl.shl, tl.shr, tl.cast 병합 (11-18)
      • 2.2 MLIR Ascend 심사 중: tl.vrelu, tl.abs, tl.or, tl.xor 및 RoPE 커널 (11-18)
      • 2.3 Hygon 단일 건에 12개 수정 통합, intrinsic, 정밀도 및 정수 벡터 포함 (11-18)
      • 2.4 Sunrise 0.1.15+sunrise.1.2.1 릴리스; MetaX v0.1.12+musa.5 준비 중 (11-18)
  • 2·5. RISC-V 백엔드와 커뮤니티 (특별 관찰: TVM 노선 / MLIR 노선 / SOPHGO TPU / 커뮤니티 인덱스 페이지)
    • 2.5.1 4개 출처 순회 점검 변화 없음, 두 노선의 인용 이전 기간과 동일 (11-19)
    1. 생태계와 도입처 (TileOPs 타깃 목록 / TileKernels / topa / 문서 사이트)
      • 3.1 mHC 두 연산자 퇴장, 공개 API 파괴로 명시, HyperConnection 세 연산자 후속 심사 중 (11-18)
      • 3.2 일곱 건의 성능 타깃 issue, “최고 속도 라이브러리와의 거리”를 검수 가능한 목록으로 작성 (11-18)
      • 3.3 TileKernels 대조 타이밍 제안: 테스트 이미지는 여전히 tilelang 0.1.12 고정 (11-18)
      • 3.4 topa 명령 하나로 리뷰 한 라운드 완료, GPU는 타이밍 기간에만 독점 (11-18)
      • 3.5 문서 사이트 두 건 업데이트, 도입처 두 저장소 모니터링 기간 내 커밋 없음 (11-18)
    1. 커뮤니티, 튜토리얼 및 활동
      • 4.1 뉴스 측 공백: 중영문 조회, Hacker News 및 arXiv 모두 모니터링 기간 내 보도 없음 (11-19)
      • 4.2 조직 활성도: 하루 38건 병합, 43건 심사 중 업데이트, 메인 저장소 스타 9001 (11-18)
    1. 트렌드 관찰
  • 부록: 자료 및 점검 설명
    • 출처 점검표
    • 전체 출처 목록

오늘의 핵심: TileFoundry, 같은 날 Metal 타깃과 자동 미분 도입

11-18 하루 동안 TileFoundry에 두 건의 플랫폼급 변경이 병합되었다. #354는 Apple Metal 타깃을 추가하고, #355는 자동 미분을 추가한다. 전자는 컴파일 흐름을 Apple GPU까지 확장하고, 후자는 프레임워크가 자체적으로 역전파를 생성하게 한다. 두 건 모두 실행 가능한 커널을 산출하지 않는다: Metal은 TIR까지만, 자동 미분은 HIR 모듈만 생성한다.

Metal 측에는 metal.Target("apple.m2_pro.gpu")가 추가되었다. 토폴로지는 threadgroup에서 thread로 이어진다. 하드웨어 파라미터는 TOML에 작성되었으며 공개 출처가 첨부되어 있다. 기능 표는 27개의 MSL 네이티브 함수명을 그대로 채택한다.

T.metal 아래 총 아홉 개의 명령 연산자가 있다. 행렬 계열은 ldmatrix, stmatrix, matmul 및 mma. 리덕션과 셔플 계열은 reduce, prefix, shuffle, shuffle_fill 및 ballot. 한 번의 호출로 G개의 SIMD group을 커버하며, quad group은 동일한 연산자 조합으로 너비 4의 mesh 위에서 표현된다.

각 연산자마다 파일 하나. typeinfer, access, evaluator 규칙은 같은 파일에 작성하고 레이아웃은 명명 상수를 사용한다. MSL은 행렬의 lane 매핑을 규정하지 않으며, 작성자가 M2 Pro에서 실측한 후 스펙에 기록한다. HIR은 hir_matches로 매칭한다. fragment 오퍼랜드의 MatMul은 matmul로, 메모리와 fragment 사이의 Reshard는 ldmatrix와 stmatrix로 귀결된다. 이 PR은 이전 #294를 대체하며, 후자는 대상 인터페이스 재구성으로 인해 rebase가 불가능했다.

자동 미분 측에는 differentiate(module, wrt, recompute)가 새로 추가되었다. 이는 <Name>Forward와 <Name>Backward 두 모듈을 반환한다. 전방은 결과와 saved 튜플을 반환한다. 역방은 결과 그래디언트와 saved를 받아 wrt에 따라 그래디언트를 하나씩 반환한다.

역방 규칙은 연산자별로 각 파일에 작성되며, 새로 추가된 interfaces/autodiff를 통해 등록된다. 적용 범위는 내장 Qwen 모델의 모든 연산자 클래스에 ReLU와 Log를 더한 것이다. 형제 및 자식 슬롯 호출, 튜플 인자, MeshRegion, 그리고 반복 횟수가 정적으로 셀 수 있는 루프를 지원한다.

루프는 각 반복마다 변하는 값만 쌓는다. 유도 변수, 캡처, 상수에 의해서만 사용되는 값은 역방에서 재계산되므로, 레이어 루프에서 가중치를 복사하지 않는다. 그래디언트 레이아웃은 DTensor를 따른다.

출처: https://github.com/tile-ai/TileFoundry/pull/354.

오늘의 핵심: TileOPs 하루 23건 머지, FP8 양자화 체인 완성, 성능 부채 두 건 당일 종료

11-18 TileOPs 메인 브랜치에 23건의 머지가 이루어졌으며, 베이징 시간 10:17부터 21:50까지 이어졌다. 주된 흐름은 FP8이다. 토큰별 그룹 양자화, 단행 GEMM 스트리밍, paged decode 재작성, WGMMA 원시화 네 건이 같은 날 메인 브랜치에 진입했다.

FP8QuantPerTokenGroupFwdOp는 UE8M0 스케일을 도입한다(#3026). 출력은 DeepSeek-V4-Flash의 act_quant(x, 128, "ue8m0")와 비트 단위로 일치하며, 스케일은 float8_e8m0fnu로 저장된다. 새로 추가된 inplace 의사 양자화를 통해 모델에서 스텝이 있는 kv[..., :448]을 먼저 복사할 필요가 없다.

UE8M0 경로는 bfloat16x2로 리덕션과 스케일링을 수행하며, 포화 e4m3 변환 전의 clamp를 제거한다. 대조 구현은 vLLM의 per_token_group_fp8_quant이며, DeepSeek과 TileKernels의 수치는 주석에 제시되어 있다.

FP8 paged GQA decode 커널이 전면 재작성되었다(#2997). 각 CTA는 하나의 요청에 대한 패킹된 행, 하나의 KV 헤드, 그리고 키 구간을 담당한다. 각 FP8 key/value tile은 폭을 한 번만 디코딩하며, TMA warp가 페이지 복사를 담당한다. 상한은 공유 메모리에서 비롯된다. H200에서 8행 tile은 44,287개 요청을 처리할 수 있고, 64행 tile은 33,023개를 처리할 수 있다.

단행 FP8은 64행 블록 스트리밍으로 전환되었다(#3010). 하나의 생산 warpgroup이 깊은 TMA 링을 통해 b를 옮기고, 하나의 소비 warpgroup이 각 128 폭 K 스텝의 FP8 WGMMA 부분합을 float32로 누적한다.

메인 브랜치에서는 원래 8 또는 16행을 64 또는 128행 tile로 패딩했다. 이렇게 하면 160개 tile이 132개 CTA에 배치되거나 split-K로 처리된다. 실측 결과 DRAM 피크의 31%에서 52%에 불과했다.

같은 배치에서 두 건의 마무리 작업도 있었다. #3030은 FP8 스트림의 각 스텝에서 네 개의 k32 WGMMA를 TileLang 원시 연산으로 발행하도록 변경했다. 이에 따라 dense_wgmma_helper.h가 삭제되었고, 해당 커널에서만 사용되던 TrailingFence 템플릿 인자도 함께 제거되었다. #3029는 공유 메모리 회계를 수정했다. 스케일 버퍼가 원래 원시 바이트로 합산되어 1024바이트 정렬이 고려되지 않았다. 이로 인해 m=16, n=163840, k=3584 형상이 시작 시 실패했다.

두 건의 성능 부채가 같은 날 종료되었다. #3023은 TopKSelect를 재작성했다. 행 수가 SM 수의 두 배 미만인 호출은 레지스터 커널로 처리된다. 한 번에 전역에서 한 행을 읽고, 4096 버킷 히스토그램으로 임계값을 정한다. 긴 행은 radix로 처리하며, 한 번에 16바이트로 네 개의 키를 적재한다. 세 개의 decode 행이 vLLM에 약 2배 뒤처지던 것에서 1.22배에서 1.34배 앞서는 것으로 바뀌었고, #3016을 종료했다.

#3022는 MLA cache의 각 행을 16바이트 벡터 단위로 복사하도록 하며, 최대 1024 스레드를 사용한다. 메인 브랜치에서는 복사를 레이아웃 추론에 맡겼기 때문에, 448 폭 latent가 스레드당 7번의 2바이트 스칼라 접근이 되었다. 이것이 DeepSeek-V4-Flash decode가 vLLM에 뒤처진 직접적 원인이다.

출처: https://github.com/tile-ai/TileOPs/pull/3026.


1. 핵심 프로젝트 진행 상황

1.1 메인 저장소 CPU 백엔드, 두 개의 논리 리덕션에 직렬 하강 추가: any_of와 all_of

#4389 CPU 백엔드에 tl.any_of와 tl.all_of의 전용 하향 변환을 추가했다. 기존에는 이 두 연산자가 CPU 일반 파이프라인을 탈 수 없었다. 구현은 LowerTileOp 앞에 삽입되는 LowerCPUAnyAll pass를 새로 추가한다. 행 우선 순서의 직렬 스캔으로 하향 변환하며 단락 평가를 적용한다. any_of는 참값을 만나면 멈추고, all_of는 거짓값을 만나면 멈춘다.

빈 리덕션은 표준 항등원을 취한다. any_of는 false, all_of는 true다. 수치 원소는 비영 값을 참으로 변환하고, 부동소수점과 bfloat16의 NaN은 참으로 본다. while 조건 안의 리덕션은 조건 판정 때마다 재초기화되어 다시 스캔되며, 의미는 기존과 동일하다. 이 pass는 CPU의 Python 변환 인터페이스에도 함께 노출된다.

출처: https://github.com/tile-ai/tilelang/pull/4389.

1.2 topk 회귀 테스트에 Z3 리소스 상한을 설정해 CUDA CI 타임아웃 억제

#4407은 CUDA CI에서 발생하는 test_topk_candidate_overflow 타임아웃을 처리한다. 원인은 간소화 단계에서 비용이 큰 Z3 쿼리를 발생시킨 것이었다. 수정 방법은 해당 테스트가 커널을 로드할 때 arith.z3_rlimit을 100으로 설정하고 기존의 다른 JIT 옵션은 유지하는 것이다. 변경은 이 회귀 테스트에만 적용된다.

작성자는 로컬에서 topk의 네 가지 특수화에 대해 TIR을 생성하여, 상한 설정 후 Simplify가 완료됨을 확인했다. 작성자는 또한 본인 기기에 CUDA 코드 생성 환경이 없고 사용 가능한 원격 GPU도 없다고 명시했다. 전체 컴파일 소요 시간과 GPU 정확성은 모두 검증되지 않았다.

출처: https://github.com/tile-ai/tilelang/pull/4407.

1.3 Ascend 자동 튜닝 테스트에서 NPU 간 프로브 제거로 후속 케이스 오염 방지

#4401은 set_autotune_inputs 테스트에서 other_npu 분기를 삭제한다. 이 분기는 런타임이 기기 간 입력 정렬을 지원하는지 판단하기 위해 NPU 간 복사를 한 번 수행했다. 일부 Torch-NPU와 CANN 조합에서는 이 복사가 NPU 컨텍스트를 중단시킨다.

RuntimeError를 잡은 뒤 케이스를 건너뛰어도 컨텍스트는 복구되지 않는다. 같은 pytest 프로세스에서 이후의 무관한 케이스가 연달아 실패하므로, 고장 양상이 실행 순서에 의존하게 된다. 삭제 후에도 세 가지 범위의 커버리지는 유지된다. 현재 NPU에서 캡처한 입력은 현재 NPU에 남기고, CPU에서 캡처한 입력은 기준 기기로 옮기며, 전달되는 텐서는 기준 기기와 일치해야 한다.

출처: https://github.com/tile-ai/tilelang/pull/4401.

1.4 CUDA Tile IR 백엔드 RFC 재제출: Tile IR로 표현 가능한 부분만 변환

#4402와 #4403은 CUDA Tile IR 백엔드 RFC를 제출했으며, 중국어와 영어 각 한 부씩 docs/compiler_internals/tileir/에 배치했다. 목표는 TileLang 프로그램에서 CUDA Tile IR을 생성하여 tileiras에 컴파일과 스케줄링을 맡기는 것이다. 레이아웃, 파이프라인, warp 특수화, 명령 선택은 모두 tileiras가 결정하며 하드웨어 세대에 맞춰 최적화한다.

백엔드는 Tile IR가 올바르게 표현할 수 있는 의미만 변환한다. 변환할 수 없는 의미는 곧바로 컴파일 오류를 내고 해당 프로그램을 거부하며, 기존 CUDA 백엔드와의 완전한 호환을 추구하지 않는다. 작성자가 제시한 이점은 커널을 수정하지 않고 아키텍처 관련 스케줄을 직접 작성하지 않아도 자동 튜닝만으로 준수한 성능을 얻을 수 있다는 것이다.

이 버전은 이전 #3247의 재작업이다. 리뷰에서는 구 구현이 try-catch가 과다하고, 보아온 형태별로 개별 하향 변환하며, 별도의 IR을 새로 만들고, 약 1.85만 줄의 Python으로 pass를 작성했다고 지적했다. 새 RFC는 이 네 가지 지적에 맞춰 재설계되었으며, PR은 현재 초안 상태이고 논의는 #4403에서 진행된다.

출처: https://github.com/tile-ai/tilelang/issues/4403.

2. 멀티 백엔드 적응 (Ascend / Hygon / Moore Threads / MetaX / Sunrise)

2.1 MLIR Ascend mlir-dialect 브랜치, 하루에 tl.shl, tl.shr, tl.cast 병합

MLIR Ascend 저장소의 병합은 mlir-dialect 브랜치에서 이루어졌으며 main이 아니다. 해당 브랜치 헤드는 11-18에 06:23에서 08:47(UTC)로 진행되었고, 하루에 세 개의 TLIR 연산자가 병합되었다.

#211은 tl.shl을 추가하고 hivm.hir.vshl로 하향 변환하며, 기존 NpuirShl 헬퍼를 재사용한다. #212는 tl.shr을 추가하며 i16, i32, i64만 지원하고, round는 불리언 속성으로 기본값이 true다. 이 커밋은 알려진 불일치 한 건을 그대로 명시했다. rhs는 텐서 피연산자로 모델링되지만 HIVM의 vshr에는 ScalarOnlyHWTrait<1> 제약이 있다. 근본 원인은 NpuirShr와 npuir_shr의 생성자가 스칼라를 받지 않는 데 있으며, 후속 과제로 남겨두었다.

#214 tl.cast를 추가하고, round_mode는 round, rint, floor, ceil, trunc, odd 여섯 가지로 제한한다. 이 커밋은 또한 방언 수준 설정 한 곳을 변경했다. TL_Dialect에 usePropertiesForAttributes = 0을 추가했다. 그 이유는 tl.cast가 해당 방언에서 비연산자 속성을 가진 첫 번째 연산자이며, ODS 기본 Properties 생성을 따르면 손상된 CastOp가 생성되기 때문이다. 세 커밋 모두 FileCheck 테스트를 포함하며, 테스트는 실제 캡처된 출력에서 가져왔다.

출처: https://github.com/tile-ai/tilelang-mlir-ascend/pull/214.

2.2 MLIR Ascend 심사 중: tl.vrelu, tl.abs, tl.or, tl.xor 및 RoPE 커널

심사 중인 TLIR 연산자가 네 개 더 있다. tl.vrelu는 #261, tl.abs는 #238에서 확인할 수 있으며, 후자는 hivm.hir.vabs로 로워링된다. tl.or는 #225, tl.xor는 #228이다. 네 커밋 모두 “방언 연산자 + TIR 로워링 + HIVM 변환”의 동일한 절차로 진행된다.

#263은 다른 경로를 택해 회전 위치 인코딩 커널을 직접 추가하며, 개별 연산자를 보충하지 않는다. 별도로 #260은 harness의 ascend-mfu 스킬을 ascend-roofline으로 교체한다. 새 스킬은 Cube/Vector 모델 세트를 사용해 피크, 카운트, roofline, MFU, BWU 및 하드웨어 레퍼런스를 제공한다. 해당 FMA 프로브는 이 장치와 이 빌드에서 26.3 TFLOPS로 캘리브레이션되었으며, 이는 공칭 30 TFLOPS의 88%다.

출처: https://github.com/tile-ai/tilelang-mlir-ascend/pull/263.

2.3 Hygon 단일 커밋에 열두 항목 수정 통합, intrinsic·정밀도·정수 벡터 포함

Hygon 저장소의 모니터링 기간 내 병합된 커밋은 하나(#27)뿐이지만, 내용은 열두 방향을 아우른다. intrinsic 측에서는 hexp 호출 모호성, cos와 sin 디스패치를 수정했다. 정밀도 측에서는 fp64 절단 실패와 __builtin_bit_cast 크기 불일치를 수정했다. 벡터 코드 생성 측에서는 shuffle 로워링을 수정하고 전체 웨이브 shuffle 리덕션을 활성화했다.

새로 추가된 기능은 다음과 같다. hipRAND를 사용한 rng 연산 지원, 버퍼 로드 리베이스, cache_warmup intrinsic. 그 외 몇 가지 마무리 작업이 있다. 8비트 정수 벡터 브로드캐스트, 런타임 반복 횟수의 파이프라인 에필로그 전개, shuffle 마스크 가드, FP4 코드 생성 순서 수정. CI 측에서는 NumPy ABI를 고정했다. 커밋 서명에는 Hygon 엔지니어 두 명이 함께 등장한다.

출처: https://github.com/tile-ai/tilelang-hygon/pull/27.

2.4 Sunrise 0.1.15+sunrise.1.2.1 릴리스, MetaX는 v0.1.12+musa.5 준비 중

Sunrise 저장소에 #11이 병합되어 버전이 0.1.15+sunrise.1.2.1로 올라갔다. 이 커밋은 TileLang, TileOPs, TileKernels 세 업스트림 소스를 동기화하고 TANG 및 PTPU 통합을 업데이트한다. 태그 페이지에 같은 날짜로 해당 버전이 나타났으며, 이전 버전은 0.1.15+sunrise.1.2.0이었다.

MetaX 저장소는 모니터링 기간 내 main에 커밋이 없다. 움직임은 릴리스 준비 쪽에 있다. release/v0.1.12-musa.5-source 브랜치가 존재하며, 열린 #13은 v0.1.12+musa.5 소스와 MUSA 문서 릴리스에 사용된다. Moore Threads 측 메인 저장소에는 새 커밋이 없고, 모니터링 기간 내에는 코멘트와 PR 업데이트만 있었다.

출처: https://github.com/tile-ai/tilelang-sunrise/pull/11.

2·5. RISC-V 백엔드와 커뮤니티 (특별 관찰: TVM 노선 / MLIR 노선 / SOPHGO TPU / 커뮤니티 인덱스 페이지)

2.5.1 4개 소스 점검 결과 변화 없음, 두 노선의 참조는 지난 회차와 동일

11-19에 네 개 소스를 점검했다. 첫째는 kubuds/tilelang-riscv-kubuds의 kubuds- 접두사 브랜치. 둘째는 RuyiAI-Stack/tilelang-riscv의 main. 셋째는 TongmingLAIC/tilelang-riscv 인덱스 페이지. 넷째는 TongmingLAIC/tilelang-tpu의 main과 새 브랜치.

네 소스의 참조는 지난 회차 기록과 일치하며, 새 커밋도 새 PR도 없고 인덱스 페이지의 프로젝트 표에도 증감이 없다. 결론은 위 네 소스만을 대상으로 한다. TVM 노선(kubuds- 브랜치)과 MLIR 노선(RuyiAI-Stack)은 이번 주 모두 새 움직임이 없어 이번 호에서는 별도로 해석하지 않는다.

출처: 새 커밋 없음.

3. 생태계와 채택 측 (TileOPs 목표 목록 / TileKernels / topa / 문서 사이트)

3.1 mHC 두 연산자 퇴장, 공개 API 파괴로 분류, HyperConnection 세 연산자 후속 심사 중

#3021 MHCPreFwdOp와 MHCPostFwdOp를 삭제하고, 커널, manifest 항목, workload, 벤치마크 및 테스트까지 함께 제거하며, #2796의 계획에 따라 실행한다. DeepSeek-V4-Flash와 GLM-5.3-Flash는 HyperConnection의 pre, post, head 세 연산자로 전환한다. mhc.expansion이라는 manifest 원시 요소도 함께 삭제하며, 삭제된 연산자에서만 사용되었다.

해당 커밋은 scripts/ci/api_compat_allow.txt에 검토된 공개 API 파괴로 등록되었다. 이는 연산자 라이브러리가 처음으로 목록 방식으로 인터페이스 삭제를 관리한 사례이며, 삭제된 인터페이스는 다시 채워지지 않는다.

이어받는 세 가지 신규 제안이 이미 심사 중이다: #3032는 pre 추가, #3035는 post 추가, #3039는 head 추가. 별도로 #3036은 FusedTopKFwdOp에 DeepSeek-V4-Flash의 sqrt-softplus와 해시 라우팅을 추가한다. #3038은 DSADenseFwdOp에 attention sink와 인덱스 전용 선택을 추가한다. 이 일련의 변경은 같은 지점을 향한다: DeepSeek-V4의 실제 구조에 따라 시퀀스 모델링과 어텐션 인터페이스를 재배치하는 것이다.

출처: https://github.com/tile-ai/TileOPs/pull/3021.

3.2 일곱 개 성능 목표 issue, 「최고 속도 라이브러리와의 격차」를 검수 가능한 체크리스트로 작성

모니터링 기간 내 새로 열린 일곱 개 성능 목표 issue는 각각 하드웨어, 형상, 목표를 포함한다. #3018은 GQA 가변 길이가 헤드 차원 72의 비전 행에서 FlashAttention 3에 뒤처지는 격차를 주시한다. #3019는 MLA cache 쓰기가 vLLM에 뒤처지는 격차를 주시한다. 이 두 항목의 대응 수정은 각각 #3023과 #3022이며, 그중 #3022는 당일 #3019를 닫았다.

#3037은 DSADense의 전체 대조표를 제시한다: H200은 1500 MHz로 구동되며, bf16 밀집 피크는 약 811 TFLOPS이다. CSA 각 행은 피크의 약 58%에 도달하는데, 그 원인은 각 쌍의 softmax와 다음 쌍의 key 수집이 두 번의 행렬 곱 사이에 끼어 있기 때문이다. HCA의 4k 행은 64 key 블록 비용을 지불하여, 160개의 key를 192개로 계산한다.

#3031은 HyperConnection pre가 decode와 중간 시퀀스에서 TileKernels에 뒤처지는 격차를 주시한다. #3034는 GatedPoolCompress의 decode 행을 주시하며, 목표는 해당 형상에서 SOTA에 도달하는 것이다.

출처: https://github.com/tile-ai/TileOPs/issues/3037.

3.3 TileKernels 대조 타이밍 제안: 테스트 이미지는 여전히 tilelang 0.1.12에 고정

#3028은 DeepSeek의 TileKernels를 벤치마크 대조에 추가하여, DeepSeek-V4의 행을 DeepSeek 자체 커널로 직접 타이밍하도록 제안한다. 장애물은 버전이다: TileKernels는 tilelang 0.1.15 이상을 요구하지만, 테스트 이미지는 0.1.12에 고정되어 있다. 현재 어떤 벤치마크도 이를 임포트할 수 없다.

제안은 세 가지 대응 관계를 제시한다. FP4QuantPerGroupFwdOp와 FP8QuantPerTokenGroupFwdOp는 per_token_cast에 대응한다. SiLUAndMulFwdOp는 quant.swiglu_forward에 대응한다. 검수 조건은 이 벤치마크들이 CI에서 실제로 TileKernels를 타이밍하고, 야간 기록으로 대조되는 것이다. 이는 같은 날 두 건의 양자화 제안 설명에서 TileKernels의 수치가 주석으로만 제시될 수밖에 없는 이유를 설명한다.

출처: https://github.com/tile-ai/TileOPs/issues/3028.

3.4 topa, 한 명령으로 한 라운드 리뷰 완료, GPU는 타이밍 동안만 독점

topa는 #41과 #43을 병합하여 리뷰를 반복 가능한 라운드로 만들었다. #41은 각 PR 변경 시 새로운 시도를 트리거한다: 새로운 head는 전체 리뷰를 거치고, 나머지는 재검사만 수행한다. PR이 변경되지 않고 여전히 열려 있을 때만 결과를 게시한다. GPU 측에는 카드별 잠금 방식의 topa-bench를 추가하여, 타이밍 동안만 한 장의 카드를 독점하고 나머지 시간은 다른 라운드에 양보한다.

#43은 3단계 프로세스를 topa review <PR> 한 명령으로 압축한다. 리뷰 의견은 세 개의 단문 요점으로 고정된다: 문제, 재현, 수정 방법. 동일 PR의 리뷰 디렉터리는 worktree와 posted.json을 유지하며, 두 번째 리뷰는 로컬이 GitHub보다 뒤처질 때만 가져온다. 리뷰 라운드의 무변화 대기는 60분에서 10시간으로 완화되었다.

두 건 외에도 topa는 모니터링 기간 내 10개의 issue(#35~#46)를 새로 열었다. 모두 fix(...) 제목을 가진 실행 가능한 작업 항목이며, 방향은 roofline 가격 책정에 집중되어 있다. CTA별 웨이브로 makespan을 계산하고, 쓰기 행 수 기준으로 scatter 가격을 책정하며, 상주 CTA를 그리드에 포함하는 것 등이다. 이는 파이프라인이 스스로에게 배정한 다음 작업 묶음이다.

출처: https://github.com/tile-ai/topa/pull/41.

3.5 문서 사이트 두 건 업데이트, 채택 측 두 저장소는 모니터링 기간 내 커밋 없음

tilelang.github.io 모니터링 기간 내 커밋 2건, 제목은 모두 Update docs, 시각은 11-18 17:18 및 17:24(UTC). TileOPs.github.io는 #88을 머지했으며, 연산자 라이브러리와 함께 인덱스 계열과 신규 연산자 3개를 추가하고 mHC 연산자 2개를 삭제했으며, 이는 3.1의 인터페이스 삭제와 동기화되었다.

채택 측 두 저장소는 움직임이 없다. deepseek-ai/TileKernels의 마지막 푸시는 10-14, QwenLM/FlashQLA는 10-30이다. TileOPs-nightly의 스냅샷 브랜치는 11-17 18:42(UTC)에 푸시가 있었으며, 이는 본 모니터링 기간 시작보다 이르다.

출처: https://github.com/tile-ai/TileOPs.github.io/pull/88.

4. 커뮤니티, 튜토리얼 및 활동

4.1 뉴스 측 공백: 중영문 검색, Hacker News 및 arXiv 모두 모니터링 기간 내 보도 없음

Google News 6개 쿼리 그룹은 tilelang, "TileLang" GPU, tile-ai 및 중국어 단어 3개 그룹을 커버한다. tilelang이 포함된 유일한 히트는 중국 AI 생태계를 논하는 한국 매체 기사로, 본문은 TileLang과 무관하다. 나머지 히트는 tile, AI 등 일반 단어 노이즈이다. Hacker News는 시간순 검색에서 모니터링 기간 내 항목이 없다.

arXiv에서 TileLang을 주제로 한 가장 최근 논문은 11-03의 TileSight이며, 모니터링 기간 내 신규는 없다. 뉴스 측은 이번 호에 항목이 없으며, 데일리 리포트 본문은 저장소 측에서 나온다.

출처: 신규 보도 없음.

4.2 조직 활성도: 하루 38건 머지, 43건 리뷰 중 업데이트, 메인 저장소 스타 9001

조직 수준 머지 검색 결과는 38건으로, 저장소별 메인 브랜치 점검과 일치한다. 리뷰 중이면서 업데이트된 PR은 43건, 신규 오픈 issue는 20건이다. 분포상 TileOPs가 23건 머지, MLIR Ascend가 4건, topa가 3건을 차지한다.

메인 저장소 tilelang 스타는 9001로, 이전 호 대비 9개 증가했다. 릴리스 측 변화 없음: tilelang 최신은 여전히 v0.1.15(09-30 릴리스), TileOPs는 여전히 v0.1.0(10-27 릴리스)이다.

출처: https://github.com/tile-ai/tilelang.

5. 트렌드 관찰

  • 플랫폼 경계 확장: 같은 날 Metal 타깃과 자동 미분이 적용되어, 컴파일러가 추론 커널에서 훈련 및 Apple GPU로 확장되었다. 둘 다 IR 계층에 머물러 있으며, 먼저 인터페이스를 세우고 이후 백엔드와 런타임을 보완하는 순서가 명확하다.
  • FP8이 납품 단계 진입: 양자화, 단행 스트리밍, paged decode, WGMMA 원시화가 같은 날 적용되었으며, 모두 vLLM, FlashInfer 또는 DeepSeek 자체 구현을 대조군으로 삼는다. 성능 검수는 여전히 머지 기준과 독립적이며, #3010과 #3005의 자체 평가 모두 아직 검수 기준선 아래에 있다.
  • 성능 부채를 issue 단위로 관리: 목표 issue 7건을 신규 오픈하여 하드웨어, 형상 및 목표 배율을 명시했다. 2건은 개설 당일 수정되어 닫혔으며, 목록이 단순한 부채 기록을 넘어 납품을 이끌고 있다.
  • Ascend의 이중선 속도차: 메인 저장소는 이번 호에 테스트와 CI 마무리만 수행했고, MLIR 노선은 하루에 TLIR 연산자 3개를 보완했다. 전자는 수렴 중이고, 후자는 여전히 연산자별 기반 구축의 초기 단계이다.
  • 백엔드 릴리스 분기 시작: Sunrise는 이미 0.1.15+sunrise.1.2.1이 있으며, MetaX는 0.1.12+musa.5를 준비 중이고, Hygon은 병합형 수정으로 뒤따르고 있다. 세 곳이 각자 릴리스하면서 버전 정렬과 호환성 매트릭스가 새로운 유지보수 비용이 될 것이다.

부록: 자료 및 검증 설명

출처 검증표

출처 검증 결과
GitHub tile-ai 조직 저장소별 검증 30개 저장소, 모니터링 기간 내 푸시 11개; 메인 브랜치 실제 증가: TileOPs 23, tilelang 3, TileFoundry 2, topa 3, Sunrise 1, Hygon 1; MLIR Ascend 4건 mlir-dialect 브랜치에 병합, 해당 main은 11-04 이후 변동 없음
조직 레벨 병합 실측 조회 병합 38건, 저장소별로 tilelang 3, TileOPs 23, topa 3, MLIR Ascend 4, TileFoundry 2, Sunrise 1, Hygon 1, TileOPs 문서 사이트 1, 저장소별 검증과 일치
조직 레벨 심사 중 조회 심사 중 및 업데이트 43건, TileOPs 성능 및 신규 연산자 제안, MLIR Ascend TLIR 연산자, Ascend 메인 저장소 수정에 집중
신규 issue 20건: topa 10, TileOPs 7, tilelang 1(Tile IR RFC), tilelang-ascend 2(일일 테스트 실패 경고)
릴리스 및 태그 tilelang 여전히 v0.1.15(09-30); Sunrise 0.1.15+sunrise.1.2.1 추가; TileOPs 여전히 v0.1.0(10-27)
뉴스 측 Google News 중영문 6개 쿼리 관련 기사 없음; Hacker News 모니터링 기간 내 항목 없음; arXiv 최신 관련 논문 11-03, 모니터링 기간 내 신규 없음
채택 측 저장소 deepseek-ai/TileKernels 최종 푸시 10-14, QwenLM/FlashQLA 10-30, 모두 모니터링 기간 외
TileLang×RISC-V 4개 소스 점검 변동 없음: TVM 노선 kubuds- 접두사 브랜치, MLIR 노선 main, 커뮤니티 인덱스 페이지, SOPHGO TPU 모두 이전 회차와 동일

전체 출처 목록

#211 tl.shl — https://github.com/tile-ai/tilelang-mlir-ascend/pull/211

검증 설명

기준: 모니터링 기간은 베이징 시간 11-18 07:00부터 11-19 07:00까지입니다. 저장소 커밋은 일괄적으로 committer 시간으로 집계하며, 이전 회차 마감 시점과 비교한 후 신규 여부를 판정합니다. MLIR Ascend의 병합은 mlir-dialect 브랜치에 반영되었으며, main은 11-04부터 변경이 없어 본문에는 브랜치를 명시하여 기술하였고 이를 메인 브랜치라고 칭하지 않습니다.

수집 과정에서 모니터링 기간 말미에 미인증 GitHub API 속도 제한에 도달했습니다. 일부 브랜치 정보는 Atom 피드와 git ls-remote로 재확인하였으며, 결론에는 영향이 없습니다. RISC-V 4개 출처 점검 출력이 비어 있어 변경 없음으로 처리하며, 수집 실패로 간주하지 않습니다.