TileLang 위클리 리포트 (2026-09-21 ~ 2026-09-25)
보고 주기: 2026년 9월 21일(월) ~ 9월 25일(금), 총 5영업일, 5회 데일리 리포트 소재(ISO 제39주에 해당) 소재 출처: 본지의 일일 TileLang 동향 데일리 리포트 5회(09-21, 09-22, 09-23, 09-24, 09-25); 별도로 tile-ai 조직 29개 저장소의 168시간 모니터링 기간 보충 점검 및 각 저장소 릴리스 메타데이터 재검증(상세는 부록 참조)
1. 주간 주요 뉴스
-
TileRT 하루 만에 두 건의 릴리스 PR 머지, v0.1.6으로 GLM-5.2/5.3을 AMD Instinct MI350X/MI355X에 지원(09-24): 베이징 시간 09-24 저녁 20:22와 23:33, TileRT가 v0.1.5.post3(#63)와 v0.1.6(#68) 두 건의 릴리스 PR을 연속 머지했다. v0.1.6 릴리스 노트는 AMD Instinct MI350X/MI355X에서 GLM-5.2/5.3 지원(ROCm 경로) 추가와 프리필 및 디코드 분리(PD) 관련 업데이트를 포함한다고 밝혔다; 같은 날 PD 측 KV 주입 복사 크로스 디바이스 페어 오버랩 성능 단일 PR #66은 닫혔고 내용은 이번 릴리스 서사에 병합되었다. 경계: 이번 주기 말 점검 기준으로, TileRT의 GitHub Releases 페이지와 태그는 여전히 v0.1.5.post2(2026-08-06)에 머물러 있어 릴리스 페이지가 릴리스 PR보다 뒤처져 있고, 공개적으로 확보 가능한 버전은 아직 갱신되지 않았다.
-
FP4에서 FP8로의 정밀 변환을 메인 저장소에 융합, DeepSeek V4.1 전문가 GEMM 최대 5.38배 가속(09-22): 메인 저장소 tilelang #3204가 09-22 19:36에 머지되었다(09-11 개설, 11일간 다듬음, 161줄 추가). 이 변경은 「E2M1(FP4) 가중치를 FP32 중계를 거쳐 E4M3(FP8)로 변환」하는 기본 투영 체인을 매 4개 원소당 두 개의
__byte_perm명령어로 융합하여, 스칼라 및 2, 4, 8, 16, 32 다섯 가지 벡터 폭을 포괄하며, 전 과정이 레지스터 내에서 완료되고 새로운 메모리 할당이 없다. H100에서 열두 개 구성의 가속 구간은 2.97배에서 5.38배(예: 1×2304×5120이 547.94마이크로초에서 108.65마이크로초로, 2048×5120×2304가 1760.22마이크로초에서 591.92마이크로초로 단축), 레지스터 점유는 128에서 156으로 상승했으며 오버플로는 없다. 검증은 소스 생성 테스트, 각 패킹 워드의 문자별 인코딩 대조, CUDA/ROCm/Metal/CuTeDSL 현재 헤드 CI를 포괄한다; 경계: Blackwell 실행과 전체 모델 서빙 두 항목은 아직 검증되지 않았다. -
TileSight 정식 오픈소스화: 타일 중심의 해석적 성능 모델이 논문에서 공식 저장소로 구현(09-23): 09-23 22:54, tile-ai 조직에 새로 추가된 TileSight 저장소가 최초 커밋을 완료했다(177개 파일, 약 5.67만 줄, MIT 라이선스), 조직 저장소 총수는 28개에서 29개로 증가했다; 7월 24일 arXiv 논문(2607.22432) 말미의 「게재 후 오픈소스화」 약속이 이로써 이행되었다. 저장소는 20여 종의 하드웨어 프로파일(NVIDIA, AMD Instinct 및 Intel Arc 외장 GPU), 다계층 캐시 재사용 거리 모델, 파이프라인 오버랩 분석과 CUDA/HIP 마이크로벤치마크 프로브를 포괄한다; 논문 기준: A100부터 B6000까지 4세대 플랫폼 단일 카드 커널 지연 통합 평균 절대 백분율 오차 12.35%, 32카드 클러스터로 확장하면 분산 커널과 vLLM 엔드투엔드 서빙의 가중 오차가 각각 16.18%와 13.52%다.
-
TileOPs 주간 21건 머지: 거버넌스 완결과 성능 시즌 피크 병행(09-21 ~ 09-24): 이번 주기 TileOPs는 총 약 21건 머지되었다. 거버넌스 라인에서 roofline 공식 대형 PR #2158이 목록 공식을 유일한 실행 소스로 만들고 15가지 공식 오류를 수정했으며(구현된 175개 연산자 포괄), 이어서 #2167이 마지막 우회로를 철거하고 #2175가 합성 실패를 지목식 보고로 전환했다——「측정의 신뢰 공학」 완결; 성능 라인에서 09-23 하루에 일곱 건 머지(GEMM, Engram, 어텐션, MoE, Mamba, mHC, 선형 어텐션 일곱 하위 시스템), 그중 DeltaNet 추론 연산자(#2163)는 H200에서 FLA 대비 최대 3.7배 가속했다; 채널 거버넌스와 인터페이스 축소도 동시 추진되었다(상세는 4장 참조).
-
GLM-5.3 k 풀 체인 내용 메인라인 병합: 전체 예제와 AMD 테스트 자산 4건 편입 (09-20 저녁): 09-20 17:06, tilelang #3254가 스쿼시 방식으로 병합되어(11개 파일, +2520/-4), 이전 주기의 k 풀 시리즈를 메인라인에 편입:
examples/kpool/의 실행 가능한 예제 네 가지(풀 내 softmax 풀링, BF16 왕복 및 Hadamard 정규화, FP8 양자화, 페이지 캐시 재읽기 및 32헤드 MQA 가중 점수)에 ROCm 테스트 네 건 추가; 언어 계층tilelang/language/fp8.py의 FP8 dtype 선택이 디바이스별 지정 가능하도록 변경. 검증: exact-head CI 전부 통과, ROCm 7.2가 MI300X에서 2433건 통과 보고. 경계: 스택 위 #3250, #3251, #3253, #3255 네 건이 열린 상태로 미종결(내용은 이미 메인라인), 이번 주기 말까지 종결 움직임 없음. -
메인 저장소 수정 심층화: 단일 일자 6건 병합, Fuzzer 정산, AllReduce 무음 오류 차단 및 NaN 시맨틱 이중 라인 폐쇄 (09-21 ~ 09-24): 메인 저장소는 주간 14건 병합으로 3계층 심층을 구성—컴파일러 프런트엔드와 경계(두 건의 Fuzzer ICE 수정 3206/3207, 동일 보고자가 08-17에 같은 날 개설한 원 이슈가 지정 정산), 런타임 래퍼 계층(NVRTC 수정 #3260), 코드 생성과 스케줄링(AllReduce 스텝 검증 #3266이 「돌아가지만 조용히 잘못 계산」하는 무음 오류를 차단). 09-24, NaN 전파 시맨틱 이중 라인 폐쇄(#3273 컴파일 타임 오류 + #3205 clamp 하향 수정, 두 결함 이슈 종료), 같은 날 SIMT im2col 및 비동기 스테이징 리팩터링 체인이 형성(#3274 → #3275 → #3279).
-
Ascend의 「병합—롤백—복구」 일주일 폐쇄; A5 실기기 결함 공개 (09-20 ~ 09-24): 09-20 단일 일자 11건 병합(최대 건 #1753는 72개 파일, +10117/-3618의 FP32 행 리덕션 및 동기화 수정) 이후, 09-22에 세 건의 일괄 롤백(#1818이 #1753을 정확히 철회), 09-24에 일일 테스트 2448/2448 전부 통과로 마무리—「병합, 검증 실패, 롤백, 복구 전부 통과」 전 과정이 이틀 안에 완료. 동시에 09-23에 세 건의 결함 이슈 개설, 그중 #1830은 실제 Ascend 950(dav-3510)에서 디바이스 경로가 910B 세대 라벨로 컴파일되고, 부팅 즉시 디바이스 예외를 보고하며, 라벨 변경 후 조용히 잘못 계산함을 지적—검증 매트릭스의 「실기기 커버 910B 세대, 시뮬레이션 커버 950 세대」 우회 사각지대를 노출.
-
멀티 백엔드와 생태계: Hygon 예제 지원 병합, MetaX 일일 업데이트, Sunrise 릴리스, Moore Threads 무음 (09-21 ~ 09-24): Hygon #11 예제 지원 09-23 병합(37개 파일, +1104/-130, GEMM이 HCU 행렬 코어 내장 명령으로 전환), #12는 09-24 병합(FP32 MMAC K 공유 및 ds_read 프래그먼트 패킹); MetaX는 업스트림 main 동기화(#158) 완료 및 서브 워프 가드 수정(#159) 개설; Sunrise 09-21에 0.1.14+sunrise.1.1.0 릴리스(CI 체계 확장 및 sparse mask 수정); Moore Threads 저장소는 주간 무음(최근 푸시 09-17), 외부 백엔드 연동의 구조적 공백은 TileOPs 큐가 그룹 단위로 관리하며 수렴을 인수.
2. 핵심 프로젝트 진행 (메인 저장소 tilelang)
버전 및 릴리스
- 메인 저장소 최신 태그는 여전히 v0.1.14(09-02 릴리스), 이번 주기 말까지 23일간 신버전 미출시로 이전 약 30일 릴리스 간격에 근접; 전 조직에서 이번 주기는 Sunrise만 신규 릴리스(09-21), TileRT 두 건의 릴리스 PR은 병합되었으나 릴리스 페이지 미반영(4절 참조).
- 다운스트림 하드 제약 발생: TileOPs는 #2172부터 tilelang에
>= 0.1.14버전 하한을 제시(pyproject.toml에 하한 추가 및 설치 스크립트에서 강제), 릴리스 리듬과 다운스트림 채택 창의 박자가 서로 얽히기 시작. - 적응 라인 태그는 주간 미변동: Ascend
v0.1.2.000(09-09), MLIR Ascendv0.1.2.020.sglang.poc(09-09), Moore Threadsv0.1.14+musa.1(09-11), MetaXv0.1.14(09-17).
언어 계층 및 프런트엔드
- Pythonic 프런트엔드(#3230, 09-21 병합): 컴파일 타임 루프가 Python 이터러블과 컴프리헨션을 받아들이며, 5개 파일 +1084/-24(신규 테스트 766줄 포함),
PrimExpr,Buffer등의 오용에 대해 명확한 거부를 제시; 동시에 두 건의 장기 요구 사항(ForFrame 비이터러블,T.unroll표현식 리스트 인덱싱)을 종료. - 루프 타깃 바인딩 수정(#3232, 09-23 병합, +196/-14): 루프 타깃(튜플 타깃 포함)에 대해 명시적 바인딩을 구축하여 귀납 변수를 기존 바인딩에 기록하는 것을 방지; 결함 이슈 #3231이 병합과 함께 종료.
- 복사 폭 클램핑(#3246, 09-23 병합):
T.copy와T.async_copy의coalesced_width를 「나누어떨어지지 않으면 치명적 로그」에서 도달 가능한 벡터 폭에 따라 클램핑하도록 변경 — 하향 조정 시 경고, 비양수 값은 거부; 결함 이슈 #3007 종료. - NaN 전파 시맨틱 이중 라인(09-24 병합): #3273은 지원되지 않는 리덕션 NaN 전파 dtype에 대해 컴파일 타임 오류를 추가(진단에서 연산 이름, 지원되는 출력 타입과 실인자 dtype을 제시하며, 검증은 네이티브 ReduceOp 생성자에 연결됨); #3205는
T.clamp의 NaN 전파를 디바이스 템플릿으로 올바르게 낮춤. 전자는 보고서 #3270, 후자는 퍼징 테스트 결함 이슈 #3024에서 비롯되었으며, 둘 다 병합과 함께 종료. - 정리류: #3262는 불변 변수 재바인딩 경고를 제거(09-21 병합, 순삭제 14줄).
컴파일러, 코드 생성 및 런타임
- Fuzzer 정산 두 건(09-22 병합): #3206은 커널 본문 내 일반
assert를 디바이스 측 합법 검사로 낮춤(이전에는 호스트 측 오류 보고 호출이__global__커널에 기록되어 nvcc가 바로 컴파일을 거부했으며, 원 이슈 #3019); #3207은 「동적 형상 출력이 형상 제공 입력보다 앞에 오는」 호출 시점 크래시를 수정(원 이슈 #3017). - AllReduce 무음 오류 차단(#3266, 09-21 병합): XOR 버터플라이 리덕션의 스텝 검증을
CheckAllReduceWidth에 통합하고, 템플릿에 정적 어설션을 추가하며, 플래너가 지원되지 않는 형태에 대해 넓은 방안으로 폴백 — 「겉보기에는 실행되지만 정확히 96/192 스레드일 때 공유 메모리 교환이 범위를 벗어나는」 유형의 오류를 차단. - NVRTC 라인: #3260은 warp 리덕션 컴파일 문제를 수정(09-22 병합, 이슈 제기부터 수정까지 약 14.5시간); 이후 #3265(시작 불변량 정수 연산을 호스트 측으로 하향), #3263(래퍼 계층이 호스트 스칼라를 누락 전달)이 리뷰 중.
- 동적 형상 나눗셈: 요구 사항 #3261과 구현 #3267(
tl.LowerMagicDiv매직 나눗셈, 제수 런타임 값에 따라 사전 계산)은 지속적으로 업데이트되며 병합 대기 중. - SIMT im2col과 비동기 스테이징 3단계 진행(09-24): 성능 결함 이슈 #3274(하향 시점이 너무 늦어 스케줄링과 벡터화 기회를 놓침) → 3분 후 패치 #3275(로드를 스케줄링 이전으로 앞당겨 노출) → 09-25 새벽 리팩터링 초안 #3279(「통합 비동기 데이터 스테이징과 전송 인식 하향」, 실험적: 논리적 접근과 물리적 하향 분리, 공유 전송 분석, 파이프라인 대기 계획과 벡터화 확장). 같은 날 #3278(분할 레이아웃에서 비동기 복사 하향 수정)이 병합; #3276(FP8 벡터 복사 패킹 유지)이 리뷰 중.
- 엔지니어링 부속: #3268(CMake가 백엔드 환경 변수로 주어진 SDK 경로를 유지)이 새로 열려 리뷰 대기 중.
- CUDA Tile IR 실행 백엔드(#3247): 일주일 만에 8개 커밋에서 31개 커밋, +36506/-112, 139개 파일로 증가했으며, JIT, 캐시, 자동 튜닝과 DeepSeek V4 희소 어텐션 튜닝 커널을 포함하고 여전히 리뷰 중 — 「양념은 넣었지만 도장은 안 찍힌」 상태가 지속.
성능
- FP4→FP8 변환 융합(#3204, 요약 참조): H100 12개 구성에서 2.97~5.38배 속도 향상, 검증은 4계층(소스 생성, 문자별 대조, 출력 비트 단위 일치, 크로스 플랫폼 CI)으로 진행.
- SM120 블록 스케일링 라인(09-21): 요구 사항 이슈 #3256에서 패치 #3257까지 불과 21분(fragment A, 홀수 warp 그리드, 컴팩트 스케일링), 경로는 SageAttention3의 실제 요구가 이끌었으며, #3257은 리뷰 대기 중.
- 리듬 관찰: 주간 소규모 수정은 대부분 ‘당일 이슈 생성, 당주 정리’(Fuzzer 2건, NaN 1건은 당일 패치), 실질적 증분의 중심은 여전히 리뷰 큐에 있음.
리뷰 큐 관찰
- 대형 항목 적체: TileIR 백엔드(#3247, 31 커밋), 매직 디비전(#3267), 시작 불변 조건(#3265), CuTeDSL과 RNG 수정 4건(#3241~#3244 일괄 갱신), GEMM dtype 조합 차단(#3245), SM120 패치(#3257) — ‘소규모 수정 서명, 대규모 변경 축적’ 구도가 주간 내내 지속.
- k 풀 스택 잔여 4건(#3250, #3251, #3253, #3255): 내용은 #3254를 통해 메인라인에 진입, 이슈는 미종결, 연속 며칠간 동작 없음, rebase 또는 닫기로 정리 필요.
- 큐와 릴리스 연동: TileOPs가
>= 0.1.14하한을 제시한 후, 메인 저장소 릴리스 윈도우(이미 23일 초과)와 다운스트림 채택 리듬의 관계가 크로스 저장소 변수로 부상.
3. 멀티 백엔드 적응(Ascend / MetaX / Hygon / Moore Threads 등)
Ascend: 머지일, 리버트일, 복구일의 일주일 3막
- 09-20(집중 머지일): 하루 11건 머지(09:36~16:29) — 최대 건 #1753(72개 파일, +10117/-3618: 컴파일 타임 형태가 알려진 FP32 행별 max/min/sum 구현과 두 가지 자동 동기화 결함 수정), 정확성 수정 그룹 #1804(행 슬라이스 stride, 910B2에서 uint16 잘림 데이터 손상 수정), #1809(block_sparse_mqa_attn 비동기 읽기/쓰기), 연산자 및 문서 그룹 #1621(mhc_pre 예제)과 문서 시리즈 6건.
- 09-21(꼬리 출현): 2주에 걸친 리뷰 #1633(mhc_bwd, Sinkhorn 암시적 켤레 기울기 예제)이 17:16 머지, 2048/4096 시퀀스 3.1% 속도 향상, 참조 CG 검증이 PASSED 판정 기준에 병합, #1821, #1822 두 건의 새 수정 개시, 일일 테스트 실패 이슈 #1817과 두 건의 후속 PR(#1815, #1816)이 연달아 등장.
- 09-22(리버트일): 3건의 리버트가 연달아 머지 — #1818은 #1753을 정확히 철회(72개 파일, +3618/-10117, 정확 대칭), #1819, #1820은 두 건의 문서 강화를 철회, 일일 테스트 #1823이 2448/2448 전부 통과로 복구(머지 러시 이전 기준선 1936 대비, 증분 512개 항목 하락 없음).
- 09-23(결함 3중주): 2건의 mHC 예제 리버트(#1832, #1833, 저장소 진입 모두 3일 미만), 3건의 새 결함 이슈 — #1830(A5 디바이스 경로가 고정 레이블
dav-2201로 실제 Ascend 950(dav-3510)을 컴파일, 커널 시작 시 디바이스 예외 507015 보고, 레이블 변경 후 조용히 오계산, README 검증 매트릭스가 정확히 해당 레이블을 양방향으로 회피), #1824 / #1825(자동 동기화의 두 경계: 조건 분기 동기화 상태 오류 병합, 혼합 구성은 컴파일 타임에 거부해야 함), #1834 스칼라 GM 저장소 경쟁 상태 수정 방안 개시(재현 스크립트 불일치 수 12,967,510에서 3,496,136으로 감소, opt-in 재작성 경로 활성화 시 0으로, 기존 113개 스위트 통과). - 09-24(복구 추진): #1741 희소 FlashAttention 예제 머지(09-04 생성, 2주 리뷰), #1829 벡터 mask 및 FP32 행 축소 최적화, #1826 Select/Transpose 테스트 및 인플레이스 검증 복구, 일일 테스트 #1835가 2448/2448 전부 통과, API 문서 검증 큐 약 10건 일괄 갱신(주요 항목은 8월 중순부터 보류), #1828(연산자 마이그레이션), #1834 리뷰 대기.
- 판독: 대형 머지의 검증 비용이 정면으로 상환됨 — 머지, 검증 실패, 리버트, 복구에서 전체 그린까지 전 과정이 이틀 미만, A5 실기 검증은 세대 간 하드웨어 적응이 ‘컴파일 가능’에서 ‘실기 교정을 감행’하는 단계로 진입하고 있음을 시사.
MLIR Ascend(tilelang-mlir-ascend): Mamba 대형 머지와 A5 브랜치 정리
- 09-20: #187(TileOPs 벤치마크 및 리포트 인프라, 약 +5.4천 행)과 #188(최적화된 Mamba 연산자 및 per-agent 모델 선택) 두 건 반영.
- 09-22: #191 Mamba-2 SSD 청크 스캔 NPU 전문가 커널 최적화 머지(42개 파일, +4204/-1568, 개설에서 머지까지 약 3.5시간), 튜닝 결론은 패턴 라이브러리와 사례 기록에 축적.
- 09-23: #178 NPU launcher 메모리 누수 및 스트림 동기화 수정 머지(rtMalloc을 스트림 인식 할당으로 변경, 통합 발사 경로).
- 09-24: A5 개발 브랜치 네 개 집중 삭제(대응하는 동기화류 PR 닫힘); #130(A5 테스트 동기화)은 여전히 열림; #189, #190 심사 대기.
Hygon: 예제 지원 머지, 매트릭스 코어 데이터 레이아웃 수정 반영
- 예제 지원 #11 09-23 머지(37개 파일, +1104/-130: autotune 및 LDS 구성 적응, 커널 레이아웃 충돌 해결, GEMM을 HCU 매트릭스 코어 내장 명령으로 전환, 회귀 커버리지 추가) — Hygon 측 “TileLang 예제 스위트를 HCU에서 실행 통과” 단계 머지 완료.
- 기능 브랜치 두 차례 진행: FP32 MMAC K 공유 및 ds_read 패킹(09-21) → 5개 파일 버전으로 확장 및 tvm_ffi의 FP8 내보내기 우회 코드 정리(09-22).
- #12 09-24 머지: FP32 MMAC의 K 차원 공유 및
ds_read_format패킹 프래그먼트.
MetaX: 업스트림 동기화 및 서브 워프 가드
- 09-21: main을 업스트림 최신
eab74a4a로 fast-forward(약 3주 분의 업스트림 증분 동기화). - 09-24: #158(업스트림 main을 dev로 동기화, 충돌 해결 포함) 머지; #159(
T.gemm_sp서브 워프 블록 크기 가드) 개설 후 심사 대기.
Moore Threads(MUSA): 전 주간 정적, 거버넌스는 연산자 라이브러리 큐로 전환
tilelang-musa저장소 최근 푸시는 09-17, 이번 모니터링 기간 신규 동작 없음; MUSA 외부 백엔드 접속의 구조적 결함(이슈 #2164~#2166 세 건: CUDA-only 입력 검증, 제로 입력 거부, 디스패치 전 CUDA 디바이스 조회)은 TileOPs 그룹 거버넌스가 인수하여 마무리(4절 참조), 세 건의 이슈는 기간 내 지속 업데이트.
기타: Sunrise 0.1.14+sunrise.1.1.0 릴리스
- 09-21 새 버전 태그 릴리스(후보 브랜치 11:06 푸시 → 릴리스 PR #6 15:33 머지 → 태그): 내용은 엔지니어링 중심 — sparse mask 실행 수정, 디바이스 복구 실패 후 CI 중지; CI 체계 대폭 확장(run/install/junit을 JSONL 스크립트로 변환); 컴파일 속도 벤치마크 및 compile-only, lower-trace 도구 문서 추가; z3 prover 스위치 및 정수 분석 업데이트.
4. 생태계와 도입처
TileOPs: 21건 머지의 한 주 — 거버넌스 합류, 성능 시즌 정점과 채널 거버넌스
- 거버넌스 통합: #2158(09-21 머지)로 roofline 목록 공식이 유일한 실행 소스(하나의 소스, 하나의 평가 면)가 되었고, 15가지 유형의 공식 오류를 수정하고 구조 오라클이 PR마다 175개 연산자를 재계산하도록 했습니다. #2167(09-22 머지)은 “평가 메서드가 정의된 항목에 조용히 양보”하는 마지막 우회로를 제거하고 두 가지 오용에 명확한 오류를 추가했습니다. #2175(09-24 머지)는 공식 합성 실패를 지목형 리포트로 전환했습니다(torch 환경 없이도 전량 판정 가능). #2161(issue)은 목록
shape_rules의 helper가 한 번도 평가되지 않고 234개 규칙이 조용히 건너뛰어진 사실을 기록했으며, 수정 방식은 결정 대기 중입니다. - 성능 시즌 정점: 09-23 하루에 7건 머지 — W4A16 사전 패키징 가중치 순서(#2168), Engram 디코딩 분할(#2173, 배치 4 구간 8.2배), varlen GQA 통합 연산자 마이그레이션(#2160), MoE 초과 라우팅 16행 그룹화(#2169, vLLM 대비 0.99 구간으로 상승), Mamba DaCumsum(#2176), mHC 프리필 투영 K축 분할(#2177), DeltaNet 추론 연산자(#2163). 09-24에는 GLA 추론 연산자(#2174)와 SM90 DeltaNet 디코딩(#2194)이 추가로 머지되어, 선형 어텐션 패밀리가 “학습 측 → 추론 측 → 플랫폼 디코딩 → 성능 모델 기준” 다지점을 보강했습니다. W4A16 긴 K 스트리밍(#2185)도 반영되었고, 큐에는 GEMM 핑퐁 메인 루프와 176 타일(#2172), varlen GQA 사전 계획 3연작(#2178 / #2180 / #2184), FFT 커널 재작성(#2187)이 계속 진행 중입니다.
- 채널 거버넌스(외부 백엔드): #2179(09-24 머지, +797/-256)는 연산자 계층의 약 38개 장치 종류 검사를 제거하고 커널이 텐서 수준에서 장치를 선언하도록 변경했으며, 재유입을 막는 lint 훅을 추가했습니다. #2181, #2183(테스트 기본 대상 전환, 연산자 동작 테스트 전 백엔드 실행), #2186(DeltaNet 프리필 중단 및 GEMM roofline 이상 수정), #2193(입력 메모리 잔류 수정)이 같은 모니터링 기간에 머지되었습니다. #2182(issue)는
BuildKernel프로토콜 공백을 기록했으며 확장 대기 중입니다. - 인터페이스 축소: 레거시 경로 정리 초안 4연작 — #2196(귀속 없는 GDN 커널 제거), #2197(레거시 varlen GQA 제거), #2200(레거시 GLA 추론 경로 제거), #2201(GLA 연산자 이름 변경), 그 외 #2198 / #2199 / #2202 / #2203. #2195, #2205, #2180은 머지 없이 종료(내용 분할 진행).
- 판독: 거버넌스가 남긴 원장이 성능 작업의 신용 자산이 되어가고 있습니다. 각 성능 건은 대조 기준(torch.compile, cuBLASLt, vLLM, FLA)과 비트 단위 일치 선언을 갖추고 있으며, 목록과 기준으로 독립 검증이 가능합니다.
TileOPs 야간 파이프라인: 기준 1040에서 1081로, 정확성은 1140 위에서 안정
- 이번 모니터링 기간에 6개 스냅샷이 확인되었습니다(#1996부터 #2206 머지 지점 대응). 기준 케이스는 1040에서 시작해 1046, 1050을 거쳐 1081로 증가했습니다. 정확성 케이스는 1118에서 1141 사이에 있으며, 한 스냅샷에서 결과 파일 누락(이후 복구 배포, 배포 누락에 해당)이 있었던 것을 제외하면 모두 실패 0건이었습니다.
- 09-24 스냅샷에서 파일 수준 타임아웃이 한 번 발생했습니다 — DeltaNet 긴 프리필 설정이 900초 내에 테스트를 시작하지 못했습니다(신규 연산자의 “기능 머지에서 기준이 감당 가능” 사이의 비용은 미표준화). 대응 수정 #2186이 당일 머지된 후 09-25 스냅샷은 실패 0건, 오류 0건으로 복구되었습니다.
- 환경은 주 전체 동일: H200, CUDA 13.2, 드라이버 595.71.05, SM 고정 클럭, torch 2.13 — 스냅샷의 재현 요소는 완전하게 유지되었습니다.
TileRT: 하루 만에 두 건의 릴리스 PR 머지(자세한 내용은 주요 뉴스 참조)
- 패치 라인과 마이너 버전 라인이 병행: v0.1.5.post3(09-07 생성)는 v0.1.5 라인의 세 번째 패치이며, v0.1.6(당일 생성 당일 머지, 프로젝트 멤버가 머지)은 GLM-5.2/5.3의 ROCm(AMD Instinct MI350X/MI355X) 지원과 PD 분리 업데이트를 병합했습니다. 8월에 릴리스가 한 건뿐이었던 리듬에 비해 릴리스 파이프라인이 뚜렷하게 촘촘해졌습니다.
- 릴리스 페이지와 태그가 릴리스 PR보다 뒤처져 공개 채널에 정보 차이가 있으며, 다음 호에서 계속 확인합니다.
TileFoundry: 컴파일 시점 분석의 밀집한 한 주
- 09-21 두 건 병합: #170(루프 인식 버퍼 수명 계산, 구조화된 SSA 구간 및 재사용 제약, 논리 수명 합산 대체), #174(CuTe 스타일
Swizzle펑터 및 layout 대수 특수화, CUDA 코드 생성 그대로 출력). - 09-22 두 건 병합: #175(분석에서 의존 단위의 루프 시작점 지원), #176(메모리 메타데이터 및 트래픽 정규화, 분석 규격 단일 파일 변경 263줄).
- 09-24 대규모 병합: #179(메모리 풋프린트와 재사용 윈도우, +3207/-539, 44개 파일) — 접근 관계에서 시간 및 공간 재사용 축을 도출하고 「
b holds=176.00MB fits=no(47.68MB L2 대비)」 형식의 재계산 가능한 용량 결론을 제시; 같은 날 #184(isl 재귀 순회 수정) 병합. - #185(샤드 배열 재구성 초안) 후속 진행; #168, #171, #172, #173, #178 종료.
TileSight: 타일 중심 성능 모델 정식 오픈소스화(상세는 주요 뉴스 참조)
- 역할 분담: TileSight는 모델링 단계에서 크로스 레이어 비용을 예측하며, TileFoundry의 컴파일 타임 IR 분석과 상호 보완적; 하드웨어 프로파일은 AMD 및 Intel 외장 GPU를 포함하여 자연스럽게 멀티 백엔드 서사를 지원. 3단계 출시(07-24 논문 → 09-18 커뮤니티 문서 저장소 → 09-23 공식 코드 저장소)로 성능 해석 가능성을 개인적 단서에서 조직적 프로젝트로 격상.
채택자: TileKernels와 FlashQLA 전 주간 푸시 없음
- TileKernels 최근 푸시는 여전히 04-23; FlashQLA는 09-18(SM100/SM120 세 건 병합은 이전 주기). 채택자 코드는 변동이 없으나, 그 추론 워크로드가 지속적으로 업스트림 최적화를 견인 — 이번 주 병합된 FP4→FP8 융합은 바로 DeepSeek V4.1 전문가 GEMM을 대상으로 함.
5. 커뮤니티, 튜토리얼 및 활동
문서 사이트 및 정기 업데이트
- 메인 저장소 문서 사이트에 여러 차례 「Update docs」 자동 커밋(09-20, 09-21, 09-23, 09-24); TileOPs 문서 사이트 정기 배포(09-20~09-22, 09-24); 모두 자동 재생성으로 사이트 내용에 실질적 변화는 없음.
커뮤니티 프로젝트: TPU 백엔드, 트레이닝 캠프, 교육 저장소 및 SoftHier
- 커뮤니티 TPU 확장 저장소(Sophgo BM1690): 09-22 세 건 커밋 — 멀티코어 블록 스캔 S3/P6 검증, P10 성능 매트릭스, 호스트 측 소스 검증 수정; 이 저장소는 TileLang의 Python 프론트엔드를 유지하면서 TPU 로어링, 코드 생성 및 JIT 런타임을 추가한, TileLang 커뮤니티 최초의 공개 TPU 백엔드 경로.
- MetaX C500 트레이닝 캠프 자료 저장소: 09-22 두 건 — 제2강 「벡터 덧셈」의 TileLang과 JiuChi 대조 실습, 원격 인스턴스 워크플로우에 에이전트 프록시 설정 보충; 교육 시퀀스는 「환경 → 덧셈 대조 → Softmax와 GEMM → AI 에이전트 보조 → Llama 연산자」 순으로 진행.
- 교육 및 현지화 저장소: tilelang-tutorials에 init_core 그룹 예제 추가(PTO 프론트엔드 순수 Cube, 순수 Vector, 혼합 세 가지 형태, 09-21, 작성자는 Huawei 소속); tilelang-docs-l10n은 전 언어 README 번역 동기화 한 라운드 완료.
- SoftHier(ETH Zürich): TileLang을 타일식 멀티 PE RISC-V 매니코어 가속기로 확장(GVSoC 모델링, Luca Benini 연구실 지도 학기 프로젝트) — 커널 작성자는 「무엇을 계산하는지, 데이터가 어디에 있는지」만 선언하면, 컴파일러가 클러스터 배치, 집합 통신 라우팅 및 동기화를 도출; 4×4 클러스터, BM=BN=BK=128의 SUMMA GEMM(N=7168, K=2048, DeepSeek-V3 라우팅 전문가 차원 축소 투영 크기에 대응), M=512일 때 컴파일러 생성 코드 1.01 ms 대 수작업 C 0.96 ms(격차 5.14%).
미디어 및 학술 측: 전 주간 제로 히트
- Google News 중영문 다수 쿼리 연속 5개 모니터링 기간 제로 히트; Hacker News 주제 관련 항목 없음; arXiv 신규 프리프린트 없음(최근 한 편은 여전히 07-24의 TileSight 성능 모델 논문 — 해당 코드는 이번 주기에 오픈소스화됨). 미디어 측은 여러 주 연속 조용하며, 주요 내용은 GitHub 조직 동향을 기준으로 함.
6. 트렌드 관찰
- TileRT 릴리스 리듬 강화, AMD 플랫폼 비중 상향: 패치 라인과 마이너 버전 라인이 같은 날 추진되었고, ROCm(AMD Instinct MI350X/MI355X)과 GLM-5.2/5.3 조합을 릴리스 노트 가장 눈에 띄는 위치에 배치했습니다. 즉 “초저지연 추론 런타임”이라는 포지셔닝에 대해 모델 커버리지가 NVIDIA 라인과 병행해 강화되기 시작한 것입니다. 릴리스 페이지와 태그 지연은 단기 사각지대이며, 다음 호에서 확인하고 마무리해야 합니다.
- 최적화 중심이 “각 계층 명령어의 장부”로 진입: 161줄 변환 융합으로 최대 5.38배 엔드투엔드 가속을 얻었으며, 전제는 이것이 반복적으로 읽히는 가중치 경로에 나타난다는 점입니다. TileOPs의 성능 2차 물결(스케줄 계획, 레지스터 분할, 그리드 활용률, stream-K) 역시 “같은 데이터 블록이 몇 번 읽히고, 어느 캐시 레벨에서 흐르는가”를 계속 추궁합니다. 수익은 데이터 이동과 형식 변환으로 지속적으로 이동하고 있습니다.
- “조용한 오류 전진 배치”가 스케줄링 및 임시 저장 계층으로 확대: NaN 전파 이중 라인, AllReduce 정적 단언, Fuzzer 정산은 의미 검증 원칙을 이어갔습니다. SIMT im2col 조기 노출, 논리 접근과 물리적 lowering 분리, 비동기 임시 저장 통합은 “먼저 선언, 이후 추론, 암시적에서 명시적으로”를 성능 핵심 경로로 밀어 넣어 컨볼루션, GEMM, mHC 시나리오를 직접 지원합니다.
- 선형 어텐션 패밀리가 정비 기간에 진입: 이틀 안에 DeltaNet 추론 → GLA 추론 및 SM90 디코딩의 다지점 착수를 완료했고, 곧바로 네 건의 “구버전 삭제, 이름 변경, 인터페이스 수렴” 초안을 열었습니다. 이러한 정리는 보통 인터페이스 동결이나 버전 작업보다 먼저 나타납니다. TileOPs의 뒤이은 릴리스 리듬 발생 여부를 주시해야 합니다.
- 다중 백엔드 엔지니어링 부채가 표면화, 거버넌스가 그룹 단위로 추진: 외부 백엔드가 “등록 가능”에서 “스케줄 가능”으로 가는 마지막 구간을 닦기 시작했습니다(세 건 블로킹에서 38개 검사 철거 및 lint 추가로 회귀 방지, 양자 협력 추진). Ascend “병합—롤백—복구” 폐루프가 이틀 안에 완료되었고, A5 실기 검증이 세대 간 적응을 깊은 물로 밀어 넣었습니다. Hygon, MetaX는 일일 업데이트 리듬을 유지했고, Moore Threads는 계속 조용했으며, 네 곳의 관심도가 분화되었습니다.
- 성능 해석 가능성이 조직 자산으로 격상: TileSight가 논문에서 공식 저장소로, TileFoundry가 컴파일 시점 분석을 재계산 가능한 용량 결론까지 수행합니다. 연산자 라이브러리와 런타임 외에도 분석 도구의 완성도가 TileLang의 차별화 자산이 되어 가고 있으며, 다중 백엔드 서사를 위한 모델링 기반도 제공합니다.
- 다음 호 관심 사항: 메인 저장소 릴리스 창(이미 23일 경과)과 TileIR 대형 항목의 착륙 여부, 롤백된 Ascend #1753의 재작업 형태와 A5 출력 정확성 문제 일정, TileRT 릴리스 페이지 및 태그 후속, TileOPs 정리 초안 병합 후 버전 작업 촉발 여부, k 풀 스택 네 건 마무리.
부록: 자료 및 검증 설명
- 자료: 본지 일일 TileLang 동향 데일리 리포트 5회(09-21~09-25), 수집 기간은 09-20 07:00~09-25 07:00(베이징 시간)입니다. 09-21 호는 09-20 아침부터 24시간을 커버하며, 09-20 저녁의 k 풀 체인 병합 등의 항목을 포함합니다. 이 주기 이후의 주말(09-26~09-27) 동향은 다음 주 월요일 데일리 리포트에 통합됩니다.
- 추가 검증(168시간 기간, 본 보고서 작성 시점 기준): tile-ai 조직 29개 저장소 중 기간 내 13개에 푸시가 있었습니다(tilelang, TileRT, TileOPs, TileOPs-nightly, TileFoundry, TileSight, tilelang-ascend, tilelang-metax, tilelang-hygon, tilelang-mlir-ascend, tilelang-sunrise, tilelang.github.io, TileOPs.github.io). 릴리스 및 태그 메타데이터를 저장소별로 재검토했고, 채택자 및 관련 저장소의 최근 푸시 시간을 대조했습니다(TileKernels 04-23, FlashQLA 09-18, tilelang-musa 09-17).
출처 검증표
| 출처 | 점검 결과 |
|---|---|
| tile-ai 조직(29개 저장소) | 모니터링 기간 내 13개 저장소에 푸시 발생; 신규 저장소 TileSight 최초 커밋 완료(177개 파일, 약 5.67만 행) |
| 메인 저장소 tilelang | 주간 전체 14건 머지(09-20 저녁~09-24); 대형 리뷰 건(TileIR 백엔드 31건 커밋, 매직 디비전, RNG 큐 등) 지속 적체 |
| TileRT | v0.1.5.post3 및 v0.1.6 릴리스 PR 머지; 릴리스 페이지와 태그는 여전히 v0.1.5.post2에 정체 |
| TileOPs | 주간 전체 21건 머지, 다수 신규 오픈 및 클로즈; 야간 스냅샷 정확성 1118~1141, 벤치마크 1040~1081(파일 수준 타임아웃 1건 수정 완료) |
| TileFoundry | 6건 머지(#170, #174, #175, #176, #179, #184); #185 초안 후속 진행 |
| Ascend | 3막 폐루프: 머지 11건(09-20) → 롤백 5건(09-22, 09-23) → 복구 2448/2448(09-24); A5 결함 및 동기화 경계 결함 이슈 개설 |
| MLIR Ascend | #187~#191 다수 건 반영 및 A5 브랜치 정리; #130 여전히 오픈, #189/#190 리뷰 대기 |
| Hygon / MetaX | Hygon #11, #12 머지; MetaX #158 머지, #159 오픈 |
| Moore Threads / Sunrise | Moore Threads 푸시 없음(최근 09-17); Sunrise 0.1.14+sunrise.1.1.0 릴리스 |
| 채택 측(TileKernels, FlashQLA) | 주간 전체 푸시 없음(최근 04-23 / 09-18) |
| 커뮤니티 저장소 | TPU 확장, 트레이닝 캠프 자료, 교육 저장소, SoftHier 각각 업데이트 |
| 미디어 및 학술 채널 | Google News / Hacker News / arXiv 주간 전체 제로 히트 |
- 기준과 경계: 성능 데이터는 모두 머지 설명 또는 PR 본문 자체 기술(H100, H200 실측)이며, 본 데일리 리포트는 해당 하드웨어가 없어 독립적 재현을 하지 않았음; 야간 벤치마크는 단일 파이프라인 기록으로 횡적 평가가 아님; 릴리스 상태는 각 저장소 릴리스 메타데이터 재확인 기준(본 보고서 작성 시점 기준)이며, TileRT 릴리스 페이지가 릴리스 PR보다 지연되는 것은 저장소 측 릴리스 프로세스 리듬에 해당하며 릴리스 내용의 무효를 의미하지 않음.
- 다음 기간 주기 제안: 2026-09-28 ~ 2026-10-02.
주요 인용
- 메인 저장소 FP4-FP8 융합(#3204) — https://github.com/tile-ai/tilelang/pull/3204
- 메인 저장소 Pythonic 프런트엔드(#3230) — https://github.com/tile-ai/tilelang/pull/3230
- 메인 저장소 AllReduce 스트라이드 검증(#3266) — https://github.com/tile-ai/tilelang/pull/3266
- 메인 저장소 Fuzzer 2건(#3206, #3207) — https://github.com/tile-ai/tilelang/pull/3206
- 메인 저장소 NaN dtype 검증(#3273) — https://github.com/tile-ai/tilelang/pull/3273
- 메인 저장소 clamp NaN 수정(#3205) — https://github.com/tile-ai/tilelang/pull/3205
- 메인 저장소 SIMT im2col 노출(#3275) 및 비동기 스테이징 통합(#3279) — https://github.com/tile-ai/tilelang/pull/3275
- 메인 저장소 CUDA Tile IR 백엔드(#3247) — https://github.com/tile-ai/tilelang/pull/3247
- 메인 저장소 GLM-5.3 k 풀 체인(#3254) — https://github.com/tile-ai/tilelang/pull/3254
- 메인 저장소 SM120 요구 사항 티켓 및 패치(#3256, #3257) — https://github.com/tile-ai/tilelang/issues/3256
- TileRT v0.1.6 릴리스 PR(#68) — https://github.com/tile-ai/TileRT/pull/68
- TileRT v0.1.5.post3 릴리스 PR(#63) — https://github.com/tile-ai/TileRT/pull/63
- TileSight 저장소 — https://github.com/tile-ai/TileSight
- TileSight 논문(arXiv:2607.22432) — https://arxiv.org/abs/2607.22432
- TileOPs roofline 관리(#2158) — https://github.com/tile-ai/TileOPs/pull/2158
- TileOPs 평가기 우회 제거(#2167) — https://github.com/tile-ai/TileOPs/pull/2167
- TileOPs DeltaNet 추론 연산자(#2163) — https://github.com/tile-ai/TileOPs/pull/2163
- TileOPs GLA 추론 연산자(#2174) — https://github.com/tile-ai/TileOPs/pull/2174
- TileOPs 외부 백엔드 관리(#2179) — https://github.com/tile-ai/TileOPs/pull/2179
- TileOPs 야간 스냅샷 브랜치 — https://github.com/tile-ai/TileOPs-nightly/commits/snapshots
- TileFoundry 메모리 풋프린트 및 재사용 윈도우(#179) — https://github.com/tile-ai/TileFoundry/pull/179
- Ascend A5 아키텍처 번호 결함(#1830) — https://github.com/tile-ai/tilelang-ascend/issues/1830
- Ascend 스칼라 GM 경쟁 상태 수정(#1834) — https://github.com/tile-ai/tilelang-ascend/pull/1834
- Ascend 희소 FlashAttention 예제(#1741) — https://github.com/tile-ai/tilelang-ascend/pull/1741
- MLIR Ascend Mamba 청크 스캔(#191) — https://github.com/tile-ai/tilelang-mlir-ascend/pull/191
- Hygon 예제 지원(#11) 및 FP32 MMAC 수정(#12) — https://github.com/tile-ai/tilelang-hygon/pull/11
- MetaX 업스트림 동기화(#158) — https://github.com/tile-ai/tilelang-metax/pull/158
- Sunrise 0.1.14+sunrise.1.1.0 릴리스 — https://github.com/tile-ai/tilelang-sunrise/releases/tag/0.1.14%2B
sunrise.1.1.0>
- 커뮤니티 TPU 확장 저장소 (BM1690) — https://github.com/arcflute/ChunkScan-2-TileLang-4-TPU-bm1690
- SoftHier 확장 저장소 (RISC-V 매니코어) — https://github.com/HaozeG/tilelang-softhier
데이터 출처: 일일 TileLang 동향 데일리 리포트(2026-09-21 ~ 2026-09-25 총 5회) 및 이번 주기 실측 검증; 보고 주기는 2026년 9월 21일부터 9월 25일까지입니다.