보고 기간: 2026년 10월 19일(월)~10월 23일(금), 총 5영업일 자료 출처: 본지의 TileLang 커뮤니티 동향 데일리 리포트 5회분(10-19, 10-20, 10-21, 10-22, 10-23). 5회분 수집 기간 합계는 10-16 07:00부터 10-23 07:00까지이며, 추가로 tile-ai 조직 29개 저장소의 168시간 모니터링 기간 보완 점검 및 각 저장소 릴리스 페이지, 태그, VERSION 파일 재검토를 수행함(상세는 부록 참조)

1. 주간 주요 뉴스

  • TileFoundry 0.0.3 정식 릴리스, 명령어 수준 스케줄링을 agent에 위임, H200에서 Qwen3.8-27B 프리필 세 구간 모두 SGLang보다 빠름(10-21): 10-21 10:26에 v0.0.3을 태그했으며, PyPI는 tilefoundry==0.0.3, 코드명은 「Agent-driven scheduling」. 핵심 변화는 스케줄링 권한의 귀속—컴파일러가 각 HIR 연산을 어떤 명령어로 구현할 수 있는지, 각각 무엇이 필요한지 나열하면, agent가 후보 중에서 선택하고, 컴파일러가 선택된 스케줄을 TIR로 하강한다. 함께 제공되는 CLI에는 schedule candidates와 schedule facts가 추가되었고, 명령어는 AtomSched 연산으로 선언되며 명시적 TIR 오퍼랜드 계약을 가지며, CUDA MMA atom, SM90 WGMMA 및 비동기 복사부터 시작한다. 성능 측면에서는 세 가지 실제 수치를 제시했다: Qwen3.8-27B 프리필은 단일 H200에서 1024 / 4096 / 8192 token 기준 각각 80.29 / 309.61 / 631.19 ms, SGLang은 89.06 / 317.11 / 638.25 ms; 짧은 시퀀스 128 / 256 / 512 / 1024 token은 각각 SGLang의 1.88 / 1.41 / 1.10 / 1.03배. 알려진 문제 두 가지: wheel이 아직 CUDA 런타임 헤더 파일을 패키징하지 않아(설치 패키지에서 출발하면 CUDA kernel을 빌드할 수 없으며 소스 checkout 필요, 다음 버전에서 수정) 그리고 성능 타임라인이 insert_slice, tf.zeros의 mesh 위치 간 가격 책정에 오류가 있음(#239).

  • SemiAnalysis, TileLang Ascend 전용 장 마련: 승등 지원을 받은 6개 저장소 중 기사 작성 시점에 사용 가능한 것은 TileLang뿐(10-21 ~ 10-22): 10-21에 발표된 《The Huawei-DeepSeek Symbiosis》의 부제는 화웨이 Ascend 950PR 마이크로벤치마크, DSv4.1 Flash 분석, DeepSeek의 승등 지원, AICPU와 TileLang Ascend를 직접 나열한다. TileLang과 직접 관련된 세 가지: 첫째, 승등 지원을 받은 6개 저장소(TileLang, DeepGEMM, DeepEP, TileKernels, FlashMLA, DeepSelect) 중 기사 작성 시점에 사용 가능한 것은 TileLang뿐인데, CANN 9.2.0이 아직 릴리스되지 않았고 DeepSeek는 CANN 9.2.0과 C++20 컴파일러를 요구하는데 9.2.0-beta.2는 후자를 제공하지 않기 때문이다; 둘째, 승등 950 백엔드는 별도 적응 저장소에만 존재하는 것이 아니라 TileLang 메인 저장소에 병합되었으며, 네이티브 컴파일, 스케줄링, 동기화 및 런타임 통합을 제공하고, AutoSchedule은 데이터 의존성과 예상 실행 시간에 따라 중첩과 온칩 버퍼 슬롯 수를 결정하며, 950PR에서 소형 단일 연산자에 대해 최대 40% 단축한다; 셋째, CANN, Triton-ascend와 비교할 때 「일부 크기에서는 CANN과 대등하거나 능가할 수 있으며」, 최적 구현은 크기에 따라 전환된다(저자는 핫 캐시 상태의 소박한 벤치마크임을 명시). 기사는 동시에 생태계 격차도 지적한다: 대부분의 최적화가 슈퍼노드를 겨냥하며, x86 호스트에서 vLLM-Ascend 0.26.0rc1은 여전히 여러 문제가 있다. 10-22 South China Morning Post의 《Jensen’s nightmare》는 같은 보고서를 전재한 것으로, 2차 전파에 해당하며 새로운 기술적 진전은 아니지만 해당 판단이 주류 언론의 표현으로 진입하고 있음을 보여준다.

  • 메인 저장소에서 일주일 만에 세 차례의 정확성 강화 완료, 결함 유형이 ‘잘못된 계산’에서 ‘잘못된 대상 선택’과 ‘컴파일 시점 상태 왜곡’으로 확대 (10-19 ~ 10-23): 1차는 warp 특수화와 파이프라인 기하 구조 정리 — #3503는 순수 TMA 프로듀서의 모든 스레드가 정방향 배리어에 도달하도록 함(#3470의 parity 교착 수정), #2342는 형제 파이프라인이 공유 버퍼를 한 번만 확장하도록 함(#2309의 4차원 LayoutInference 크래시 수정), #3536은 공유 버퍼 상의 T.cumsum에 스레드 오프셋 보충, #2822는 전이적 복사 의존성 유지. 2차는 조용한 수치 오류 정리 — #2818은 지원되지 않는 MMA tile에 명시적 K 패딩 요구(기존에는 K 원자를 조용히 축소), #2815는 (64,1) 유지 차원 리덕션 크래시 수정, #3550은 TIR 술어가 정수 비트 폭 승격과 동기화되어 재작성되도록 함, #3070은 배치형 finalize_reducer가 첫 출력 블록만 리덕션하는 문제 수정, #3350은 cast의 소스/대상/반올림 세 조합에 대한 사전 검증, #2860은 arch 없는 CUDA target에 오류를 발생시키고 조용히 sm_50을 채우지 않도록 함. 3차는 컴파일 시점 상태 정리 — #3579는 0이 아닌 루프 하한을 벡터화 분석에 포함(10개 파일 +818/-198, #2669와 #2616 종료), #3612는 벡터화 재작성 전에 analyzer 복제, #3226은 병렬 루프 분할 후 구 analyzer 바인딩 무효화 수정. 세 배치의 공통점은 오류를 보고하지 않고 특정 크기나 루프 형태에서만 신뢰할 수 없는 결과를 낸다는 점이다.

  • Ascend 라인의 중심이 학습 역방향과 저수준 데이터 경로로 이동, 한 주에 적응 저장소 PR 11건 병합 및 sparse_mla 양방향 개설 (10-20 ~ 10-23): 학습 측 연산자 집중 반영 — #1887의 indexer_bwd(+1294, DSA 희소 미세조정 지원, AscendC와 PTO 듀얼 백엔드 동시 지원, fast/general/cast 3단 kernel), #1877의 SiTU-GLU 역방향(+854, CANN의 aclnnSituGluGrad와 의미 정렬, Kimi K3 Stable LatentMoE 게이트 활성화 역방향에 사용, 910B3에서 공식 aclnn과 교차 검증 최대 상대 오차 약 3e-3), #1892의 LSTM(+2304, 12개 jit kernel, 다층 스택·양방향·LSTMP 프로젝션 지원)과 #1902의 GRU(+2267, 8개 kernel, 시간 스텝당 약 58개의 PipeBarrier를 피하기 위해 AUTO_SYNC 수동 비활성화). 심사 대기열에는 이어서 sparse_mla 순전파와 역전파(#1929 / #1928), GLM-5.3의 kpool 압축(#1910) 및 WY fast 시리즈(#1827 등)가 보충되었다. 데이터 경로 측에서는 #3530이 18개 파일 +993/-256으로 압축 NZ 버퍼의 부분 UB→L1 복사를 지원하고 C0 그룹 행 간격을 명시적으로 제공하며, #1795는 32B 미만 컴팩트 행 간격 소스가 표현 불가함을 규명하고 실측에서 두 번째 burst가 element 1이 아닌 element 8을 읽는 문제를 확인하여 keepdim reduce의 출력 오류를 수정했으며, #1903은 JIT 캐시를 원자적 게시로 변경하고 캐시 삭제 시 복구하도록 했다.

  • TileOPs 일주일간 68건 병합, SM89와 SM90 나란히 메인 라인으로, 사양 및 벤치마크 커버리지 동시에 205/205 보고 (10-19 ~ 10-23): 조직 통계 브랜치는 10-18 하루 20건, 모니터링 기간 44건 병합 후 “구현 완료 205/205, 벤치마크 완료 205/205”로 갱신되어 두 항목이 동시에 만점을 기록했습니다. SM90 방향은 일주일간 여섯 개의 warp 특화 kernel을 새로 추가했습니다——페이지드 GQA 전방(#2668), FP8 lightning indexer 듀얼 consumer warpgroup(#2666), MLA 디코드 오프셋 시소(#2665), dense prefill 영속 순회(#2706), dense GQA decode(#2694), 인과 슬라이딩 윈도 band(#2696). SM89 방향은 소비자용 및 단일 카드 시나리오를 집중 보완했습니다: 블록 스케일링 FP8 그룹 GEMM(#2659)과 INT8 W8A8(#2655)이 같은 날 반영, FP8 BMM 기본 타일을 64×64로 변경(#2681, 1×16×64×128이 5.161에서 3.799 us로 감소), W4A16의 M 상한을 64로 확장(#2672, M=17 / 32 / 64에서 각각 43.35 / 47.20 / 40.00 퍼센트 포인트 감소), 페이지드 DSA를 MMA로 구현(#2669, 0.269 ms 대 PyTorch FP32 참조 0.727 ms), NSA top-k를 2048개 압축 블록으로 확장(#2675). 같은 기간 두 건의 NaN 수정은 모두 warp 특화 경로에서 발생했습니다: 공유 메모리 활성 기간 판단 오류(#2708)와 fast math 하의 FMA 융합 오버플로(#2699).

  • PTO, “독립 실행 경로”에서 “자동 벡터화 + 기본 실행 백엔드”로 (심사 중, 10-18부터): 메인 저장소의 PTO 벡터화 프레임워크 #3512는 사용자가 T.SimdVF(lanes=L) 내에서 스칼라 병렬 T.Parallel(원소별, 제어 흐름, 리덕션)을 작성하면 컴파일러가 이를 PTO VMI 명령으로 벡터화하고 PTOAS 컴파일을 거쳐 Ascend 950에서 실행하도록 합니다. 규모는 10-18의 44개 파일, 18988줄에서 10-21의 50개 파일, 21022줄로 증가했습니다. #3516은 target="pto"에 execution_backend="auto"를 설정하면 tvm_ffi로 해석되어 기본값으로 설정되도록 할 예정입니다. 이미 병합된 연동 작업은 일련의 저장소, 프레디케이트, 리덕션 의미론 수정입니다: #3514의 T.alloc_ss, #3437의 SimdVF dim=1 리덕션, #3582의 PTO 정수 부호성, #3581의 프레디케이트 지수 증가, #3523의 SIMT 벡터 지역 변수 할당. 메인 저장소는 동시에 #3511로 AscendC 측의 L0 로컬 복사 명시적 pitch를 보완했습니다(24개 파일 +1458/-187, 하나의 GEMM tile을 여러 번의 복사로 구성 가능하게 함)——두 경로는 병행 추진이며 대체 관계가 아닙니다.

  • 다운스트림 배포 형태에서 두 번째 사례 등장: Sunrise, 0.1.15+sunrise.1.2.0 릴리스 PR 제출(10-22): #9가 10-22 16:48에 candidate/sunrise-0.1.15-1.2.0-20261019 브랜치를 생성하고 PR을 열어 Sunrise 배포판을 0.1.15+sunrise.1.2.0으로 업데이트했으며, TileLang 0.1.15 및 함께 리뷰된 TileOPs, TileKernels, TVM, tvm-ffi 변경 사항을 포함했습니다. 소스 임포트와 병합, 배포 적응은 별도 커밋으로 분리되었고, 최종적으로 TANG 백엔드용 wheel에 적응하고 슬라이스 GEMM 회귀를 수정했습니다. 자체 보고 검증 결과 로컬 계약 테스트 55개 통과, TANG 파이프라인 codegen 테스트 54개 통과, 두 개의 lint job 및 신뢰 경계 검사 통과였으나, S2 wheel 빌드 패키징 후 설치 후 import 스모크 검사가 tangGetDeviceCount에서 실패했습니다. 해당 PR은 아직 병합되지 않았습니다.

  • 커뮤니티 측에서 일주일 사이 여러 신규 저장소 등장: 중국어 시스템 튜토리얼, CANN 커뮤니티 연산자 저장소, agent 워크플로 및 Hexagon 백엔드 실험(10-20 ~ 10-22): huandu/tilelang-tutorial이 10-20에 저장소를 생성했으며, “제로에서 원까지의 TileLang 중국어 시스템 튜토리얼”을 표방하고 연산자 작성, 컴파일 타임 메커니즘, NVIDIA와 Ascend 두 백엔드를 다루며, 체계적인 중국어 튜토리얼 저장소의 첫 등장입니다. Atlas-Ascend-Fork/ops-tilelang이 10-20에 저장소를 생성했으며, CANN 커뮤니티가 Ascend NPU를 대상으로 하는 연산자 자산 저장소(kernel 구현, 자동화 테스트, 표준 워크로드 및 성능 베이스라인 통합 관리)로, 10-22에 첫 푸시 수정이 있었습니다. tilelang/agent가 10-22에 푸시되었으며, README 자체가 실행 가능한 prompt 템플릿으로 @tilelang-operator-dev/SKILL.md를 통해 도메인 지식을 주입하고 10단계 폐루프로 연산자 최적화를 진행합니다. 또한 SoilSoi1/tilelang-hexagon(10-20 저장소 생성, Hexagon 백엔드 커뮤니티 실험)이 있으며, 메인 저장소에서 심사 중인 #2155 Hexagon HMX 백엔드 지원과 호응합니다.

2. 핵심 프로젝트 진행 상황(메인 저장소 tilelang)

버전 및 릴리스

  • 메인 저장소의 최신 태그와 릴리스는 여전히 v0.1.15(09-30 릴리스)이며, 한 주 동안 새 태그도, 새 릴리스 페이지 항목도 없어 이번 주 금요일 기준 23일째입니다. VERSION 파일 확인 결과 여전히 0.1.15이며, README의 최신 마일스톤은 여전히 09-30의 Ascend 950 백엔드에 머물러 있습니다.
  • TileFoundry 0.0.3이 이번 주 유일한 새 버전(10-21 10:26)이며, 조직 내 09-30 이후 첫 새 태그입니다. 적응 라인 태그는 한 주 동안 움직이지 않았습니다: MetaX v0.1.14(09-17), Moore Threads v0.1.15+musa.1(09-30), MLIR Ascend v0.1.2.020.sglang.poc(09-09), Ascend v0.1.2.000.
  • 다운스트림 제약은 여전히 0.1.12와 0.1.15 사이에 걸려 있음: TileOPs의 pyproject.toml은 지금까지 tilelang==0.1.12로 고정되어 있으며, 10-18에 0.1.15로 올리려던 #2554는 닫혔고 병합되지 않았습니다. PR 자체 설명의 blocker는 0.1.12에서 통과했던 29개의 smoke test가 0.1.15에서 실패하는 것으로, 그중 28개는 동적 extent의 T.Pipelined가 cp.async 마무리에서 ptx_wait_group(3 - t * 2)를 남겨 CUDA codegen이 Downcast 실패를 보고하는 것이고, 나머지 1개는 LegalizeSafeMemoryAccess가 False로 접힌 분기 아래에서 null 검사에 실패하는 것입니다. 이번 주 새로 병합된 SM89 케이스는 0.1.12와 0.1.15 개발 버전을 동시에 실행했으며, 이는 업그레이드 게이트가 이중 베이스라인 검증을 전제로 함을 보여줍니다.

컴파일러, 언어 계층 및 실행 경로

  • Windows ARM64 릴리스 파이프라인 진입(#2962, 10-19 병합, 12개 파일 +356/-45): NVIDIA 프리릴리스 채널에서 CUDA 13.4의 windows_arm64 로컬 설치 패키지를 받아 고정 경로에 배치하는 PowerShell 설치 스크립트를 추가하고, FindPipCUDAToolkit 모듈과 windows_arm64_clang_compat.h 호환 헤더를 추가하여 ARM64에서의 MSVC 툴체인 헤더 및 내장 기능 차이를 해결했으며, pyproject, 두 개의 requirements와 레이아웃, MSVC 보조 모듈을 함께 조정했습니다. 이는 ROCm과 Ascend에 이어 추가된 세 번째 비 x86 배포 대상입니다.
  • lower trace의 호스트와 디바이스 소스 코드 분리(#3496, 10-19 병합, 6개 파일 +121/-63): 디바이스 측은 codegen_device.cpp와 .original 베이스라인, .latest 최신 버전을 출력하고, 호스트 측은 별도로 codegen_host.cpp와 동일 구조의 베이스라인을 출력하며, report.html은 최근 실행을 가리키는 소프트 링크로 연결됩니다. 이에 호응하여 심사 중인 #3583(13개 파일 +106/-4390)은 lower trace 구현, 전용 환경 설정 및 관련 테스트를 메인 저장소에서 통째로 빼내고 공유 컴파일러 계측 인터페이스만 남겨 추적 도구가 독립적으로 발전할 수 있게 합니다.
  • CUDA 16비트 수학 하향 보완(#3172, 3개 파일 +463/-8): asin, acos, asinh, acosh, atanh, log1p, atan2, hypot, copysign, ldexp, nextafter에 CUDA 전용 하향 규칙이 없어 float16 및 bfloat16 호출이 codegen 단계에서 처리되지 않았습니다. 수정에서는 이들을 CUDAMath에 등록하고 half_t, bfloat16_t 오버로드를 추가했습니다. 열 개 연산자는 float32로 평가한 뒤 다시 변환하며, nextafter는 16비트 인코딩 기준 정수 비교 스텝으로 변경하여 fast math 환경에서도 bfloat16 서브노멀을 보존합니다.
  • eager 프런트엔드의 Python 소스 위치 보존(#3558, 4개 파일): 생성된 루프 호출을 for 문에, 컨텍스트 래핑을 with 문에 매핑하고 이터러블 인자 언패킹 위치를 보완하여 traceback과 커버리지 불일치를 수정했습니다.
  • BF16→FP32 벡터화 변환을 인라인 PTX로 전환(#3595, 4개 파일 +19/-7): 레인 쌍을 한 번에 f32x2로 변환하는 구현을 추가하여 레인별 스칼라 승격을 대체했으며, 2, 4, 8 세 가지 레인 너비 모두 지원을 유지하고 의미는 그대로 두고 명령 시퀀스만 변경했습니다.
  • 언롤 pass와 ROCm Select(#2887): 루프 언롤이 trip count가 0인 stepped 루프를 더 이상 제거하지 않으며, ROCm 측 벡터화 Select는 레인별 하향으로 변경하여 지원되지 않는 대상에서 전체 그룹 하향이 실패하는 것을 방지합니다.
  • softmax의 16-CTA 클러스터 분할(#2632, 10-18 병합): lm-head와 같은 적은 행과 긴 행(4×102400)을 위한 커널을 추가했습니다. 기존 구현은 각 행을 58개 세그먼트로 나누어 글로벌 메모리로 (max, sum)을 교환하고 grid 배리어를 넘었으나, 새 구현은 한 행을 16-CTA 클러스터의 레지스터에 펼쳐 각 원소의 지수를 한 번만 취하고 warp 간, CTA 간, 클러스터 간에 shuffle 트리로 max-first 방식으로 폴딩합니다.
  • 심사 중인 방향: PTO 두 건 외에 [Transform] Locate VerifyBufferInit reads outside tile ops(#3620), [Codegen] Add unsigned mulhi intrinsic(#3617), [Transform] Keep assumption checks with local dependencies in scope(#3611), [Transform] Preserve tl.assume predicates that simplify to true(#3610), [CPU] Support clz in C and C host code generation(#3609)가 모니터링 기간 내 업데이트되었으며, #3597의 혼합 부호 시프트 수정과 tile-ai/tvm 포크의 #87

쌍 단위 커밋이며, 추가로 #86에서 업스트림 루프 스코프 수정을 백포트했습니다. fork에서 심사 중 25건, 메인 저장소에서 심사 중 163건이며, TIRx 측이 선행하고 메인 저장소가 후속하는 이 협업 경로가 이번 주에 두 번째로 나타났습니다.

정확성 및 결함 수정

  • 10-16 ~ 10-18(월요일 3일 모니터링 기간): 순수 TMA 프로듀서를 포지티브 배리어에 포함(#3503, 1~3번 프로듀서 warp는 백프레셔 배리어만 대기하며 두 페이즈 뒤처져 재사용된 parity에서 전체 블록이 교착될 수 있음); 형제 파이프라인이 공유 버퍼를 한 번만 전개(#2342, 두 개의 T.Pipelined가 버퍼를 공유하고 num_stages가 달라 4차원 (4,2,64,32)가 LayoutInference ICHECK를 트리거하는 문제 수정); Profiler 3연속 수정(#3559 디바이스 간 CUDA Graph 캡처가 비어 있음, #3560 후속 호출이 이전 스냅샷 출력을 덮어씀, #3561 cache-flush 시간을 조기 종료 판정 기준에서 제외).
  • 10-19: 공유 버퍼의 T.cumsum이 warp 특수화에서 스레드 오프셋 보정(#3536, 4개 파일 +101/-38, CUDA와 HIP 두 scan 템플릿에 thread_offset 도입); call_extern의 로 data 변수를 보수적으로 쓰기로 표시(#2618, 69줄 테스트 추가로 “call_extern 출력 버퍼 쓰기” 커버, 최적화를 덜 하더라도 잘못된 최적화는 하지 않는 방향).
  • 10-20: 벡터화 분석에 0이 아닌 루프 하한 반영(#3579, 10개 파일 +818/-198, 기존 구현은 루프가 0에서 시작한다고 암묵적으로 가정, 하한이 0이 아닐 때 unit-step 벡터화가 서로 다른 lane의 주소를 같은 그룹으로 계산); 공유 메모리 스레드 간 WAW 검출을 두 스레드 인스턴스로 변경(#2821, 3개 파일 +153/-19, 기존 WAW 검사는 두 접근이 같은 스레드 변수를 재사용해 누락 판정, 배리어 삽입 누락); 미지원 MMA tile은 명시적 K 패딩 요구(#2818, FP16 K=8은 잘못된 결과 계산, K=20 / 28 등 불규칙 크기는 레이아웃 추론 단계에서 바로 실패); fragment reduce가 유지 차원 타깃 지원(#2815, 8개 파일 +343/-63); TIR 술어를 정수 비트폭 승격에 맞춰 동기 재작성(#3550, 4개 파일 +950/-27, IndexPredicateRewriter 신규 추가); CuTeDSL scan에 참여 스레드 오프셋 보완(#3576, 2개 파일 +30/-6, tl.CumSum1D(32, False, 0)이 이전에는 생성자 파라미터 오류를 바로 발생시킴).
  • 10-21: 배치형 finalize_reducer가 이전에는 첫 출력 블록만 리듀스(#3070, 2개 파일 +29/-5, 출력 차원이 batch보다 클 때 이후 각 세그먼트가 미초기화 값 획득, 수정 후 ceil(OutputDim / batch) 단위로 블록별 발행, L40S에서 23개 테스트 통과, 외부 재현 매트릭스 16건 불일치 없음); cast의 소스/타깃/반올림 세 조합 사전 검증(#3350, f32→E8M0 helper는 양의 무한대로 반올림하고 반올림 파라미터를 아예 받지 않으며, 벡터화 분기는 round를 읽지 않음); arch 없는 CUDA target은 조용히 sm_50을 채우지 않고 거부(#2860, 1개 파일, #1049 수정, 오류 메시지에 두 가지 명시적 arch 작성법 제시); 소프트웨어 파이프라인이 전이적 복사 의존성을 유지하고 스레드 도메인을 영역 충돌 판정에 참여시킴(#2822).
  • 10-22: 벡터화 재작성 전 analyzer 복제(#3612, 1개 파일 +2/-1); 병렬 루프 분할 후 기존 analyzer 바인딩 무효화([#3226](https:/

/github.com/tile-ai/tilelang/pull/3226), 파일 6개 +55/-19, loop_partition, loop_vectorize, lower_tile_op 세 pass에 관련됨); deepseek_v32 top-k 선택기 후보 버퍼 범위 초과 (#3280, 파일 2개 +91/-10, tl_topk_impl가 radix 후보를 고정 [2, 4096] 공유 버퍼에 넣으면서 첫 라운드 임계값 버킷 크기를 제한하지 않아, 하위 비트 가수가 동일한 FP32 점수 또는 완전히 동일한 입력이 범위를 넘어 기록되어 CUDA_ERROR_ILLEGAL_ADDRESS에서 충돌함. 수정 방식은 tl_topk 래퍼 계층에서 (batch, 2, seq_len) 전역 workspace를 요청하는 것임); sm8x 희소 메타데이터 비전단사 형태는 거부하도록 변경 (#3125, 단일 파일 +6/-0).

런타임, CI 및 툴체인

  • 성능 회귀 작업 H100으로 고정 (#3569, 파일 1개 +15/-1): 조직이 자체 호스팅 H20 용량 기종을 도입하여 정기 정확성 CI를 수행하고 있으며, 해당 레이블 집합이 기존 [self-hosted, nvidia]와 겹침. H20의 FP16 밀집 연산 성능은 약 148 TFLOPS로 H100의 약 990 TFLOPS보다 약 7배 차이남. 만약 조용히 벤치마크 작업을 가져간다면 모든 벤치마크에서 존재하지 않는 회귀가 보고될 것임. 현재 pr-regression은 반드시 h100 레이블을 가져야 하며 작업 시작 전에 할당된 카드가 실제 H100인지 검증하도록 요구함. 레이블이 잘못 기록되면 즉시 빠르게 실패함.
  • Autotuner 프로파일러 파라미터 전달 (#3337, 3줄): 데코레이터의 warmup, rep, timeout이 이전에 튜너로 전달되지 않아 사용자가 이 세 파라미터를 변경해도 실제로 적용되지 않았음. 같은 배치의 유지보수 변경 사항 세 건 추가: ROCm 측 FP4(e2m1) 부동소수점 상수 출력(#3548, 디바이스 측에서 보조 함수를 통해 float32에서 변환하여 상수를 생성하도록 변경), cibuildwheel 4.2에서 4.3으로 업그레이드(#3565), ROCm 라인 리뷰어 1명 추가(#3567).
  • Ascend CI 단일 check 단계별 분할 통합 (#3564, 파일 1개 +61/-9): 빌드와 테스트 결과를 동일한 Test for Ascend PR 검사에 통합하고, CANN 환경은 한 번만 구성하고 한 번만 빌드하며, AscendC 예제, PTO 예제 및 Ascend 단위 테스트를 동일 job의 세 단계로 각각 실행함. 특정 스위트가 실패한 후에도 나머지 스위트를 계속 실행하며, 최종적으로 전체는 여전히 실패로 판정됨.
  • 문서 사이트: tilelang.github.io는 일주일 동안 총 15회 자동 빌드 푸시가 있었음(10-19~10-22, 모두 메인 저장소 머지 시 트리거됨). TileOPs 문서 사이트는 세 건의 수동 콘텐츠 업데이트—여덟 개 신규 연산자를 API 페이지에 작성(#76), 여섯 개 신규 연산자 작성(#77), 두 개의 MLA 역방향 op를 Attention 페이지에 작성(#78, 원인은 check_api_pages.py가 메인 저장소에서 내보낸 207개 op 중 두 페이지가 누락되었다고 보고했기 때문).

리뷰 대기열 관찰

  • 메인 저장소 오픈 PR은 167건(10-21 기준)에서 163건(10-22 기준)으로 감소, TileOPs는 16건에서 9건으로 감소, Ascend 적응 저장소는 235~236건의 높은 수준을 유지—「메인 저장소와 연산자 라이브러리는 긴축, 적응 저장소는 여전히 두터움」구도는 지난주와 일치하나, TileOPs의 감소 폭은 이번 주 조직 내에서 가장 큰 부분임.
  • 조직 내 모니터링 기간 검토 중 업데이트 수: 52건(10-20) → 71건(10-23). 메인 저장소 10-19 기준 51건 중 검토 중 27건이 [BugFix] 태그가 붙어 있으며, ThreadSync, Transform 및 codegen 세 곳에 집중되어 있어 규모화 사용 후 회귀되는 경계 조건에 해당함.
  • 10-20 11:30 전후로 64건의 검토 중 PR의 updated_at이 동시에 갱신되었으며, 그중 세 건을 표본 점검한 결과 해당 시각에 댓글, 리뷰, 브랜치 푸시 이벤트가 없어 플랫폼 측 일괄 재계산으로 판단, 개발 활동에 포함하지 않음. 검토 중 수량은 각 저장소의 is:open 카운트를 기준으로 함.

3. 다중 백엔드 적응 (Ascend / Hygon / MetaX / Moore Threads)

Ascend: 연산자 보충에서 학습 역방향 및 데이터 경로로 전환

  • 이번 주 11건의 어댑테이션 저장소 PR 병합: 요소별 연산자 중국어 문서(#1657, relu / leaky_relu / sigmoid / silu 네 연산자의 기능, 파라미터, 반환값, 대표 사용법 보완, 6개 파일 +451/-19), indexer_bwd(#1887), SiTU-GLU 역방향(#1877), LSTM(#1892), GRU(#1902), CrossEntropy 벤치마크 중국어판(#1801, FA 및 SFA의 en/zh 쌍 관례 참조), 32B 미만 행간 수정(#1795), JIT 캐시 원자적 게시(#1903), depthwise_conv_2d 예시(#1915), Dilation2D 예시(#1916), 그리고 같은 날 depthwise_conv_2d 롤백(#1919, 커밋 메시지에 사유 미기재, 예시 저장소가 「하나 들어오고 하나 나가는」 상태).
  • 메인 저장소 측 Ascend 변경 총 12건: T.alloc_ss(#3514, dav-3510에서 하나의 AIC와 두 개의 AIV가 공유하는 스칼라 스토리지, 그룹 내 3 KiB SS 풀, 32바이트 정렬 베이스 주소), RNG 상태 리셋(#3331, 형제 커널에 남은 __asc_rng_state로 인해 bisheng이 미선언 식별자 오류를 내는 것 방지), SimdVF 리덕션이 lane 0에만 저장(#3437), VF 도메인 밖 스칼라 sqrt를 표준 수학 라이브러리로 처리(#3466), PTO Ramp를 타입화된 벡터로 발행(#3535), L0 로컬 복사 명시적 pitch(#3511), DeepGEMM 휴리스틱과 epilogue 정렬(#3577, 29개 파일 +1392/-1036, dense/batched/grouped GEMM의 융합 bias, Alpha, BF16 확률적 반올림 및 FP8 양자화 커버), PTO 정수 부호성(#3582, pto.redux_max/min이 타입이 있는 정수를 거부, ≥2^31 uint32 lane으로 노출), NZ 버퍼 부분 UB→L1 복사(#3530), MAD 방향 술어 지수 증가(#3581), SIMT 벡터 로컬 변수를 lane별 할당(#3523), msprof 호스트와 디바이스 연관(#3321).
  • #3321은 메트릭 능력의 구조적 보완: 이전에는 Ascend profiler가 디바이스 커널 소요 시간만 보고할 수 있었고 호스트 연산자와 커널 사이에 대응 관계가 없어 자동 튜닝 샘플을 특정 호출에 귀속시킬 수 없었다. 해당 PR은 빌드 시 CANN의 profiling 헤더를 탐지하고(msprof와 profiling 두 설치 레이아웃 호환, 설치되어 있으면 활성화, 없으면 건너뜀, 사용자 대상 컴파일 스위치 도입 없음), 런타임에 ascend_profiling.h와 호스트 측 profile 모듈을 추가하여 호스트 연산자 하달과 디바이스 커널 실행을 호출 순서대로 대응시키고, 그룹 컴파일 경로도 동일한 보고 체계를 재사용한다(13개 파일 +676/-13).
  • #1795의 기술적 난도가 가장 높다: 근본 원인은 템플릿 계층에 있다. copy_ub_to_gm이 무조건 다중 burst DataCopyPad를 생성하는데, MTE3 엔진은 시스템 수준의 「UB 좁은 행을 32B 슬롯 단위로 저장」 규약을 구현하여 소스 주소가 burst마다 ceil(blockLen/32) + srcStride개의 32B 블록만큼 전진한다. 32B 경계로 행을 기록하는 생산자에게는 정확히 일치하지만, T.reduce_max의 (M,1) fp32 출력은 V-pipe로 조밀하게 기록되고 행간이 4B에 불과하여 엔진이 표현할 수 없다. 수정은 양쪽이 모두 packed이고 총량이 65535를 넘지 않을 때 하나의 flat 단일 burst로 접고, 표현할 수 없는 32B 배수가 아닌 행간은 trap()으로 명시적 중단으로 변경했다. 다운그레이드하지 않은 이유는 bisheng의 교차 파이프라인 자동 동기화가 직선 intrinsics만 커버하기 때문이다. 조건 분기로 DataCopyPad를 감싸면 bisheng이 잘못된 동기화 코드를 생성하여 디바이스 교착을 일으킨다(실측으로 행별 DMA가 런타임 분기로 감싸지면 aicore 예외가 발생). PR 자체 설명에 따르면 두 가지 경계가 남아 있다. 32B 미만의 조밀한 행간이면서 행간 목적지가 있을 때는 여전히 슬롯 스텝 방식을 사용하고, blockCount > 4095(12비트 필드)는 여전히 조용히 잘린다.
  • 검토 대기열: sparse_mla_fwd(#1929, varlen packed 랜덤 행 gather, 온라인 softmax, QK/PV 이중 GEMM 융합, examples/dsa_sparse_finetune/에 위치, fast 경로 적용 범위를 H=128 및 G=1, dim/tail 512/64, topk 256의 정수 배로 고정), sparse_mla_bwd(#1928, dQ GEMM 체인, P/dP 벡터 체인, dKV 랜덤 행 스캐터), indexer_topk_reducesum(#1917), GLM-5.3의 kpool 압축(#1910), WY fast 및 chunk 시리즈(#1827 / #1828 / #1802 / #1803 / #1799, 명백히 선형 어텐션과 게이트 델타 네트워크의 학습 체인을 겨냥), 그 외 UB→L1 임시 보관 보존 블록 애노테이션과 ND 오프셋(#1907), 동시 커널 캐시 게시 수정(#1903 병합 전), 자동 크로스코어 동기화 설정 검증(#1854), gemm_v0의 W4A4 int4×int4 결과 오류(#1731).

Hygon: 상수 윈도 수정 병합, 성능 프로파일링 브랜치 진입

  • #25 10-20 09:53 병합 (2개 파일 +346): 루프 언롤링 후 MLS 리소스 승격이 상수 윈도 오프셋을 잃어버려 이후 접근이 잘못된 구간에 떨어지는 문제를 수정했다. 수정 방식은 단일 축 갱신 또는 전방 증분 주소 지정을 선택하기 전에 갱신되지 않은 차원을 먼저 검증하고, 필요한 경우 보수적으로 윈도를 재초기화하며, 기존 MLS 테스트에 회귀 커버리지를 추가하는 것이다. 이는 이번 주 Hygon 메인라인의 유일한 병합이며, main 브랜치는 이 커밋에서 멈춰 있다.
  • 심사 중 3건: #26은 fp4 MLS의 warp 파티션 처리(14개 파일 +261/-144), #18은 레지스터 파이프라인과 warp-diverge 지원 추가(자체 설명으로 example_gemm 성능이 이미 rocblas에 근접), #19는 분산 관련 변경이다.
  • feature 브랜치가 재사용 가능한 성능 결론을 제시: feat/hcu-smls-b-vgpr는 10-21 11:04와 15:27에 세 차례 푸시되었다. 11:04 푸시는 디코딩 GEMM의 k-loop를 언롤링하고 M>96 타일을 bn96으로 되돌렸으며, 작성자의 핵심 판단은 「매 단계 고정 오버헤드는 barrier가 아니라 주소 체인에서 온다」는 것이다. 기호화된 공유 레벨 인덱스 (k+d) % 3가 v_mul_lo_u16, v_sub_u16, v_readfirstlane_b32로 내려가 matrix_load의 주소 경로에 떨어지며 kernel의 13%를 차지하는데, T.Pipelined는 원래 같은 두 개의 barrier를 발생시키기 때문이다. 15:27 푸시는 M이 64에서 128 사이인 wide-N 중간 구간을 블록 수 기준으로 우선 분할하고, gate_up은 M이 64에서 96 사이일 때 bm96/bn128/bk128/ns2를 사용하며, 디코딩 GEMM 기록 문서를 3825줄에서 588줄의 「결과 + 최적화 로그」 2단 구성으로 정리했다.
  • 10-22 gcy_merge_main 레지스터 파이프라인 스위치 제거 (6개 파일 +10/-24): HCU 레지스터 소프트 파이프라인의 주입과 파이프라인 계획 두 pass, pipeline_utils.h, 그리고 언어 계층의 loop 확장을 함께 변경했다. 스위치 삭제는 일반적으로 레지스터 파이프라인 경로가 기본으로 활성화되어 이중 트랙 유지가 더 이상 이득이 없다는 것을 의미하지만, 이 변경들은 아직 병합 브랜치에서 반영을 기다리고 있다.

MetaX／Moore Threads(MUSA)／MLIR Ascend: 전 주간 정적

  • MetaX: 마지막 푸시는 10-16에 멈춰 있으며(dev 브랜치 #161은 main을 dev에 병합, #160은 MetaXGPU의 xfail 케이스 수정), 릴리스는 여전히 09-17의 v0.1.14에 머물러 있다. 전 주간 신규 커밋 없음, 신규 태그 없음.
  • Moore Threads: 마지막 푸시는 09-30의 「Prepare public TileLang MUSA 0.1.15」에 멈춰 있으며, 최신 릴리스는 v0.1.15+musa.1이고 전 주간 커밋 0건, 심사 중 0건이다.
  • MLIR Ascend: 10-19에 #204의 TVM 격리 수정이 병합되었으며, 해당 저장소와 TVM 네임스페이스, 심볼 가시성 간의 상호 오염을 처리했다. 규모는 크지 않지만 다중 백엔드 공존 시 링크 안정성에 직접 영향을 준다. 이후 푸시는 없다.
  • 결론: 이번 모니터링 기간의 모든 백엔드 변경은 Ascend와 Hygon 두 라인이 담당했고, 나머지 두 라인은 기존 버전에 머물러 있다. 이는 지난주 「Moore Threads가 v0.1.15에 정렬되지 않은 유일한 백엔드」라는 판단과 일치하며, 이번 주에는 MetaX도 정적으로 전환되었다.

4. 생태계와 채택 측(TileOPs / TileFoundry / 채택 측)

TileOPs: 한 주 68건 병합, 두 하드웨어 주력 라인 동시 추진

  • 커버리지: 조직 규격 통계 브랜치가 10-18 단일 일자 20건, 모니터링 기간 44건 머지 후 「구현 완료 205/205, 벤치마크 완료 205/205」로 갱신되어 두 항목 모두 만점을 기록했다. 이번 주 머지된 연산자는 어텐션, 선형 어텐션, 상태 공간, 컨볼루션, 정규화, GEMM 여섯 분류를 커버한다: MLA 프리필 역방향 op 레이어(#2678, FA3의 _flash_attn_backward 인터페이스에 정렬), MLA 역방향 SM90 warp 특화 kernel(#2680, D_qk=192, D_v=128), MLA 페이지드 포워드(#2642), MLA의 KV 캐시 쓰기(#2635), QK-Norm-RoPE 융합(#2639, 일곱 가지 행/정밀도 조합, NeoX와 인접 쌍 두 가지 회전 레이아웃 지원), 토큰별 양자화 RMSNorm 융합 잔차(#2634, 12개 워크로드가 vLLM 동명 인터페이스에 정렬), CausalConv1d 이중 연산자(#2627, 폭 2~4, 선택적 bias와 SiLU), Hadamard 변환(#2624, base_order 1/12/20/28/40, n 최대 2^28), Mamba-1 선택적 스캔(#2638, 아홉 행 워크로드가 Mamba-2.8B의 4096 token 프리필과 단일 token 디코딩을 커버), DSAPaged(#2633, FlashMLA의 DeepSeek-V3.2 656바이트 행 형식), GQA 페이지드 FP8 포워드(#2648, 36개 케이스 전부 NaN과 Inf 검사 포함 통과), dense GQA의 FP32 attention sink(#2515, -inf는 해당 sink를 끄고, +inf는 해당 head 출력을 0으로 초기화).
  • SM90 특화 프로그램이 그룹으로 등장: 페이지드 GQA 포워드가 GQAPrefillPagedWSKernel로 교체(#2668, 8개 파일 +901/-103, head dim 256과 단일 KV head에서 16개 head보다 넓은 query 그룹 서비스, FP8 미커버 차원 64와 256은 페이지의 16비트 미러 읽기, 단일 회 상한 4 GiB); FP8 lightning indexer가 두 consumer warpgroup이 번갈아 64-key tile을 처리하도록 변경(#2666, 기존 구현은 한 번의 깨끗한 스캔으로 2.5 TB/s로 윈도우 밖에 -inf를 기록, chunk-prefill-kscale 472마이크로초 중 425마이크로초 차지); MLA 디코딩이 오프셋 시소 방식으로 전환(#2665, 한 요청의 key를 min(sm_count // blocks, tiles // 2) 세그먼트로 나눈 뒤 log-sum-exp로 병합); dense prefill 영속화(#2706, query tile 수가 SM 수를 초과할 때 하나의 CTA가 하나의 SM을 점유하여 교대로 자신의 tile을 완료, D64에서 tile당 192행 query를 세 개의 64행 consumer에 분산, K/V 재읽기 1/3 감소); dense GQA decode(#2694, TMA 프로듀서 warp가 두 슬롯 K/V 링을 채움); 인과 슬라이딩 윈도우 band(#2696, 하나의 CTA가 「query tile, KV head」에 대해 band의 두 key/value tile을 한 번만 적재); GQA 역방향이 그룹 KV head를 직접 서비스(#2685).
  • SM89가 소비자급 및 단일 카드 시나리오 보완: 블록 스케일링 FP8 그룹 GEMM이 SM89로 확장(#2659, 네 가지 명시적 구성, 복사 포함 여섯 개 벤치마크, 케이스 42개에서 77개로 증가), INT8 W8A8이 SM89에서 활성화(#2655, 13개 SM89 인터페이스 케이스와 29개 INT8 벤치마크 워크로드 모두 vLLM 대비 정확성 검증 통과), FP8 BMM 기본 타일 64×64로 축소(#2681, 1×16×64×128이 5.161에서 3.799 us로, 16×128×128×1024가 12.943에서 7.414 us로 감소), W4A16의 64열 기본 M 상한이 16에서 64로 확장(#2672), 페이지드 DSA를 MMA로 구현(#2669, batch 4 / 128 head / 256 위치 0.269 ms로 PyTorch FP32 참조 0.727 ms 대비, 저자는 「대형 케이스는 기본적으로 동등하며 보편적 우위를 구성하지 않는다」고 명시), NSA top-k가 1024~2048 압축 블록으로 확장(#2675) 및 group48이 tiled 프로그램 재사용(#2674), 단일 행 단일 열에서 벡터 GEMM으로(#2660, 공유 메모리 예산에 따라 후보 필터링, 최대 staged ring 96 KiB), SSD chunk scan 기본 파이프라인 단계가 2단계로 축소(#2705), paged DSA key 구간 분할(#2691), NSA top-k가 32열 tile 사용(#2690, 여덟 개 케이스의 GPU busy 중앙값 감소

2.1%에서 15.0%).

  • 성능 수렴의 고정 패턴: GLA, GDN, KDA, DeltaNet 네 개 선형 어텐션 라인의 총 십여 건은 두 가지 방식으로 수렴했다 — chunk 체인상의 행렬 곱을 블록당 한 번으로 압축하는 것(#2626, #2645, #2637, #2625), 그리고 SM이 수용할 수 있는 warp 그룹 수에 따라 그룹 해법을 쓸지 단일 warp를 쓸지 결정하는 것(#2650, 자체 설명 “SM당 약 7개의 warp 그룹 해법 수용”을 경계로 함); 이 외에 배치 GEMM 타일을 다음 타일의 첫 WGMMA 아래로 겹쳐 쓰기(#2636), 긴 행 리덕션을 512 스레드 폴딩으로 변경(#2641), 스케일링 인자가 정확히 1일 때 bf16 나눗셈을 우회(#2646), float32 나머지와 내림 나눗셈에 근사 역수 사용(#2652), predicate 브로드캐스트와 불리언 피연산자를 16바이트 벡터 읽기로 변경(#2702는 linear-bias-float32 여섯 가지 비교를 0.99에서 1.06으로, #2697은 이진 kernel 전체 크기 피연산자를 evict-first 읽기로 변경).
  • 두 건의 NaN과 세 건의 계약 수정: 공유 메모리 플래너가 warp 역할별 버퍼를 서로 다른 시간대에 활성인 것으로 읽어, split handover를 여전히 TMA로 채워지는 key 또는 value 링 주소에 배치했다(#2708, 2개 파일 +80/-30, “7개의 단일 token 요청이 300 token 요청보다 앞서고, 4099행 FP8 cache, 48행 페이지” 조합에서 NaN 반환); 인과 윈도우에서 128×64 튜닝 타일이 마지막 몇 행에서 연속으로 두 개의 전면 마스킹된 key tile을 만나, fast math가 prev * scale - curr * scale를 FMA로 융합하고 반올림 오차 약 2의 99제곱이 오버플로하여 NaN이 됨(#2699, 수정 방법은 스케일 재조정 전에 running maxima를 먼저 빼는 것); varlen query RoPE에서 홀수 half rotation width일 때 병렬도가 rotation 분기 스레드 수로 나누어떨어지지 않으면 루프 상한을 잃음(#2700, 일반 경로에서 바로 행); 페이지드 decode의 autotune 공급이 모든 요청에 동일한 block table을 제공(#2703, 실측 MHA decode 튜너가 opt-1.3b-b16에서 block_N 128, 즉 콜드 80.0 us를 선택하고 72.5 us를 포기하여 flashinfer의 0.994로 하락); ref_program이 정확성 참조이자 torch 베이스라인 타이밍 대상으로 입력 dtype을 따라감(#2692, GroupNorm과 InstanceNorm이 MTT S5000에서 실패, 참조를 float32 이상에서 계산하도록 변경).
  • 야간 파이프라인과 리포트: #2656은 야간 리포트에 “신규 연산자” 칼럼을 추가하고 히스토리 데이터 항목 읽기를 구식 문자열 표현에서 JSON 파싱으로 변경; 자체 설명한 10-18 리포트(통계 기간 10-05 ~ 10-17)는 109개 개선, 6개 신규 연산자, 총 121행을 나열했으며 그중 W4A8 GEMM이 98행을 차지. snapshots 브랜치는 이번 주 10-19 05:41, 10-20 05:39 두 차례 스냅샷을 찍었고 이후 야간 리포트 기준은 일 단위 진행으로 변경.
  • 큐: 검토 중 건수가 16건(10-21)에서 9건(10-22)으로 감소, 이 모니터링 기간에 조직 내에서 검토 중 수량이 뚜렷이 감소한 유일한 저장소; 20건이 머지된 두 날(10-21 기준, 10-23 기준) 모두 이번 축소와 함께 발생.

TileFoundry: 0.0.3 이전의 리팩터링 주간

  • 릴리스: 0.0.3은 10-21 10:26에 태그가 생성되었습니다(자세한 내용은 주요 뉴스 참조). README의 Latest News에는 10-21 이전에 #247을 통해 10/2026 항목 세 개(0.0.3 릴리스, Qwen3.8-27B 프리필 예시, Apple AMX 프리필 예시)가 추가되었고, 08/2026 항목 두 개는 접힌 Earlier 목록으로 옮겨졌습니다. 커밋 설명에 따르면 README가 곧 PyPI 롱 디스크립션(pyproject.toml의 readme = "README.md")이므로 공지는 태그 생성 전에 반드시 반영되어야 했습니다.
  • 구조적 리팩터링: 스토리지 계획과 이슈 계획 분리(#243, 39개 파일 +2543/-1889, 원시 할당 결정을 analysis 계층에 남기고 실행 가능한 별칭 발행을 제거했으며, 읽기 전용 StoragePlan과 IssuePlan을 분리하고 희소 물리 레이아웃에서도 논리 바이트 기준으로 예약되던 공유 메모리 배치 문제를 수정); schedule 마일스톤 수정(#241, 314개 파일 +53049/-69314, M1~M8을 포괄하며 Qwen 예시 두 개를 마이그레이션하고 31개의 전체 롱 그룹과 64개의 숏 TIR 파일 전부를 재생성); 테스트 리팩터링(#246, 51개 파일 +655/-366, 로컬과 CI에서 ccache와 torch extension 캐시를 재사용하고, 두 테스트를 호스트 측에서 컴파일한 CuTe 참조와 비교해 MMA 레이아웃을 검증하도록 변경하여 수기 참조와 수천 개의 매개변수화 케이스를 대체).
  • 크로스 가속기: Apple AMX를 지원하고 Qwen 프리필 예시가 M2 Pro에서 동작하도록 했습니다(#244, AMX 연산자 네 개를 포함하고 Copy와 Fill이 Apple 코어와 AMX 실행기 스코프에 배치될 수 있으며, Qwen3-1.7B와 Qwen3.5-4B 모두 128 토큰 프리필을 완료했고 출력 logits는 유한하며 다음 토큰 번호는 각각 1813과 306임). 이는 TileLang 생태계 최초로 전체 모델 추론 예시를 비 CUDA 가속기에 올린 사례입니다.
  • 디바이스 모델링과 가격 산정: sm_89 아키텍처와 RTX 6000 Ada 두 가지 대상 설명을 추가하고 사양 문서를 동기화했습니다(#259, 11개 파일 +392/-22). 디바이스 모델링을 Hopper에서 Ada로 확장한 것입니다. gmem 가격 산정은 풋프린트와 실행 mesh 기준으로 변경하고 피호출자 차원에 바인딩했습니다(#258, 74개 파일 +1128/-553, #239, #252, #253 수정, 기존에는 132개 CTA 중 40개만 탐색할 때 under-fill을 발견할 수 없었음). 디바이스가 커널 실행을 거부할 때는 반드시 오류를 발생시켜야 합니다(#256, 7개 파일 +69/-11). 이전에는 런처가 커널을 발행한 뒤 실행 상태를 전혀 읽지 않았기 때문에, sm_89 단일 카드에서 번들 sm_90 대상으로 컴파일된 테스트는 값이 잘못되는 것으로만 나타났고 compute-sanitizer를 통해서야 cudaLaunchKernel이 cudaErrorNoKernelImageForDevice를 반환했음이 드러났습니다.

채택자와 배포판

  • TileKernels: DeepSeek의 채택자 저장소는 이번 주 커밋이 없으며 마지막 푸시는 10-14의 v2.1.0-release 병합에서 멈췄습니다(스타 1991→2005). 이 버전은 TileLang 0.1.15, PyTorch 2.13, Ascend 950 NPU와 CANN 9.2.0을 명시적으로 요구하며, “0.1.15 베이스라인”의 첫 하위 하드 제약이라는 점에서 SemiAnalysis가 지적한 CANN 9.2.0 미출시와도 맞물립니다.
  • FlashQLA: Qwen의 채택자 저장소 역시 커밋이 없으며 마지막 푸시는 10-14의 SM120 수정에서 멈췄고(스타 732→737), 버전은 여전히 09-30의 v0.1.3입니다. 채택자 측은 2주 연속 조용했고, 메인라인의 동력은 여전히 tile-ai 조직 내부에 있습니다.
  • Sunrise 배포판: 0.1.15+sunrise.1.2.0 릴리스 PR(#9)이 검토 중이며 자세한 내용은 주요 뉴스 참조. TANG 백엔드 wheel을 산출물로 삼아 메인 저장소의 CUDA / ROCm / Ascend(러시아어: Асценд) 제공면과는 다른 배포 형태를 구성하며, TileLang에 두 번째 하위 배포 형태가 등장했음을 보여줍니다.
  • TileRT / tilescale / DeepStack: 세 저장소 모두 모니터링 기간 내 커밋이 없습니다(최신 각각 09-24, 08-25, 10-05).

5. 커뮤니티, 튜토리얼 및 이벤트

  • 중국어 시스템 튜토리얼 저장소 등장: huandu/tilelang-tutorial이 10-20에 저장소를 생성하고 푸시했으며, “제로에서 하나까지의 TileLang 중국어 시스템 튜토리얼”로 포지셔닝되어 연산자 작성, 컴파일 시기 메커니즘, NVIDIA와 Ascend 두 백엔드를 아우릅니다. 이전에는 중국어 자료가 주로 단편 블로그와 공식 문서 번역문 위주였으나, 체계적인 튜토리얼 저장소는 처음 등장했습니다. 같은 주에 RuneFang/tvm_tilelang_cookbook(34 스타, 10-21 푸시)도 업데이트되었으며, “Python을 조금 쓸 줄 알고 CUDA를 들어봤지만 컴파일러 코드를 읽어본 적은 없는” 독자를 대상으로 자리매김하고 @tilelang.jit부터 .cubin까지 설명합니다.
  • CANN 커뮤니티 연산자 저장소 개설: Atlas-Ascend-Fork/ops-tilelang이 10-20에 저장소를 생성했으며, 저장소 내에 이미 src, tests, scripts, docs의 네 계층과 OAT.xml, SECURITY.md 등 OpenAtom 커뮤니티 규범 파일이 있습니다. 10-22에는 “합법적 상한 시드와 테스트 케이스 해시가 결합된 후 오버플로되어 CPU 테스트가 실패하는 문제”를 수정하는 커밋을 푸시했고, 더 이른 커밋에는 “Ascend A5 참조를 Ascend 950으로 교체”와 “benchmark 실패 또는 중단된 세션에서도 성능 기준선을 덮어쓰는 문제”가 있었습니다. 단일 DSL을 유일한 구현 언어로 삼는 커뮤니티급 연산자 저장소는 이전에 없었습니다.
  • agent 워크플로 형성: tilelang/agent(08-28 저장소 생성, 10-22 푸시)는 README를 실행 가능한 prompt 템플릿으로 작성했습니다. @tilelang-operator-dev/SKILL.md로 도메인 지식을 주입하고, 입력은 연산자 이름, GPU/CPU 참조 구현, shape, 그리고 “tilelang npu 납품, 중국어 납품” 제약뿐이며, 주석에는 agent가 A5 환경에서 실행해야 하고 로드 후 10단계 폐루프를 따라야 한다고 명시되어 있습니다. Skill에는 선정 결정 트리, 8-CSV 규칙, L0부터 L4까지의 전략, 11가지 함정이 포함되어 있습니다. 또한 cc-c122/TileLang-Remote-Autotuning-Agent(1 스타, 10-21과 10-22 모두 푸시)도 자동 튜닝을 원격으로 구동 가능한 agent로 만들고 있습니다.
  • 백엔드 실험과 툴체인: SoilSoi1/tilelang-hexagon이 10-20에 저장소를 생성했으며, Hexagon 백엔드의 커뮤니티 실험으로 메인 저장소에서 심사 중인 #2155와 호응합니다. PTO-ISA/tilelangGym(10-14 저장소 생성, 10-20 푸시)은 서로 다른 benchmark와 마이크로벤치마크가 PTO lowering 하에서 갖는 성능 민감도를 테스트하는 데 사용됩니다. easy-tilelang/tilelang-devkit-vscode(10-19 저장소 생성, 10-20 푸시)는 VS Code에서 lowering pass, IR 차이, CPU C JIT 컴파일을 탐색하는 것으로 자리매김되어 있으며, 메인 저장소가 lower trace 전체를 외부로 이전하는 방향(#3583)과 일치합니다.
  • 서드파티 소규모 저장소: fanyuxiao-ui/w4a16-tilelang(10-10 저장소 생성, TileLang과 수작업 CUDA로 A800에서 W4A16 양자화 추론의 GEMM과 GEMV 수행), sablin39/tilelang-cuda-skills(145에서 146 스타, 작성자는 TileFoundry의 활발한 기여자이기도 함), localizethedocs/tilelang-docs-l10n(공식 문서 현지화), flytiger-eco/tilelang-wrapper-for-sail(10-21 저장소 생성, 10-22 푸시, 저장소 이름은 SAIL에 TileLang 래퍼를 제공함을 가리키지만 설명도 README도 없음), chaigua/tilelang-agent(10-19 신규 생성). 모두 커뮤니티 자발적이며 조직 공식 저장소가 아닙니다.
  • 미디어와 학술: Google News의 중국어 및 영어 여러 쿼리에서 10-19 모니터링 기간에는 신규 0건, 10-20 모니터링 기간에는 3건 적중(DeepSeek와 Huawei 칩에 관한 산업 보도 2편, prime-rl 0.10.0 릴리스 기사 1편, 편별로 대조한 결과 TileLang 구체적 사실을 찾지 못해 비직접 관련으로 처리), 10-22 모니터링 기간에는 Huawei-DeepSeek 협력에 관한 3편 중 SemiAnalysis 1편만 TileLang 전용 장을 포함, 10-23 모니터링 기간에는 2건이 동일 보고서의 미디어 전재이고 또 하나는 DeepSeek 자금 조달로 주제와 무관하여 제외했습니다. Hacker News에는 전 주간 관련 논의가 없었고, arXiv에서 TileLang을 제목 또는 초록 키워드로 검색한 결과 모니터링 기간 내 0건이었으며, 가장 최근 관련 항목은 여전히 07-24의 TileSight입니다.

6. 트렌드 관찰

  • 정확성 강화의 계층이 반복이 아니라 점진적으로 심화되고 있다: 지난주 메인 저장소가 정리한 것은 「형상과 기하 검증」이었고, 이번 주 세 구간은 각기 다르다—먼저 warp 특화와 파이프라인의 기하와 배리어(#3503, #2342, #3536, #2822), 다음으로 조용한 수치 오류(#2818, #2815, #3550, #3070, #3350, #2860, #3125), 마지막으로 컴파일 시점 상태 일관성(#3579, #3612, #3226)이다. 세 번째 구간이 가장 주목할 만하다: 이런 결함이 생성한 kernel은 여전히 정확할 수 있지만, 컴파일러가 사용자에게 말하는 것과 실제로 하는 것이 불일치한다; TileLang이 agent 자동 kernel 작성에 접어들고 있는 지금, 컴파일 시점 상태의 자기 일관성은 agent 반복 폐루프의 수렴 여부를 직접 좌우할 것이다.
  • Ascend 측의 병목은 이미 연산자 수에서 메모리 모델, 런타임 경계, 학습 역방향으로 이동했다: 이번 주 어댑테이션 저장소에 11건의 커밋이 병합되었는데, 그중 역방향과 재귀 연산자가 다섯 건(indexer_bwd, SiTU-GLU 역방향, LSTM, GRU, CrossEntropy 문서)을 차지하고, 메인 저장소 측 최대 건은 NZ 레이아웃의 UB→L1 행 간격 표현(#3530, 18개 파일)이며, 기술 밀도가 가장 높은 것은 32B 미만의 컴팩트 행 간격이 표현 불가능해 명시적으로 중단하는 것(#1795)이다. 여기에 JIT 캐시 원자적 게시(#1903)와 PTO 프레디킷 지수적 증가(#3581)를 더하면, 이 라인의 주제는 「기존 연산자가 경계 조건에서 오류를 내지 않도록 만드는 것」이다. CANN 커뮤니티가 별도로 ops-tilelang 연산자 저장소를 새로 만든 것과 맞물려 보면 분업을 읽을 수 있다: 연산자 자산은 커뮤니티 저장소가 담당하고, 메인 저장소는 백엔드 의미론과 codegen에 집중한다.
  • SM89와 SM90이 나란히 두 개의 하드웨어 주류 라인이 되었고, 우선순위를 정하는 기준이 피크 성능에서 확보 가능성으로 전환되었다: SM90 방향은 이번 주 여섯 개의 warp 특화 kernel을 산출했고, SM89 방향은 블록 스케일링 FP8, INT8 W8A8, FP8 BMM, W4A16, 페이지드 DSA, NSA top-k 여섯 경로를 동시에 추진하며, PR에는 대개 단일 카드 실측이 첨부되어 있고 「SM90 실행 결과를 주장하지 않음」「대형 케이스는 대체로 동등하며 보편적 우위를 구성하지 않음」이라고 명시되어 있다. Ada급 그래픽 카드(L40S, 4090류)는 국내 개발자들이 보유한 주력 하드웨어이며, 이러한 방향은 SemiAnalysis가 지적한 「최적화가 초노드에 다변화되고 범용성이 성능에 뒤처진다」와 정확히 상호보완적이다.
  • 생태계 계층의 조직적 움직임이 코드 계층보다 많다: 메인 저장소는 이번 주 릴리스도, breaking change도 없었지만, 조직 외부에는 중국어 시스템 튜토리얼 저장소, CANN 커뮤니티 연산자 저장소, agent SKILL 워크플로, Hexagon 백엔드 실험, VS Code 확장과 SAIL 래퍼 저장소가 나타났고, 조직 내부에는 TileFoundry 0.0.3의 agent 스케줄링, Sunrise의 두 번째 배포 형태, TileOPs의 스펙 만충이 있었다. 「사람이 규칙을 작성하고, agent가 튜닝하며, 저장소에 베이스라인을 축적한다」는 세 가지를 함께 보면, Ascend 측과 TileLang 전체의 엔지니어링 분업이 재편되고 있으며, 코드 리듬 자체는 평온하다.
  • 분석 기관이 TileLang을 Ascend 가용성의 판단 기준으로 삼기 시작했다: SemiAnalysis는 「여섯 저장소 중 당시 사용 가능한 것은 TileLang뿐」이라는 기준으로 DeepSeek Ascend 지원의 완성도를 정의했는데, 이는 어떤 단일 기술 블로그보다도 TileLang이 국산 컴퓨팅 파워 담론에서 차지하는 위치—실험적 DSL에서 디폴트 캐리어 계층으로—를 잘 보여준다. 같은 보고서는 또한 반대 신호도 제시한다: 최적화가 초노드에 집중되어 있고 x86 호스트 지원은 여전히 불완전하며, 성능과 범용성 사이에 뚜렷한 트레이드오프가 존재한다. SCMP의 전언은 이러한 판단이 주류 미디어의 표현으로 진입하고 있음을 보여준다.
  • 다음 호 관심 포인트: 메인 저장소 v0.1.16의 릴리스 여부(이미 23일째 조용함); TileOPs의 0.1.12 잠금 해제 가능 여부(#2554 종료 후 새 버전 방안이 보이지 않으며, 이중 베이스라인 검증이 여전히 관문); PTO의 #3512와 #3516 병합 가능 여부(PTO가 기본 실행 백엔드가 될지 결정); TileFoundry 0.0.3의 wheel 헤더 파일 누락과 #239 가격 책정 문제가 다음 버전에서 수정될지; Sunrise의 S2 wheel이 tangGetDeviceCount에서 실패하는 문제를 어떻게 처리할지; Ascend sparse_mla 순방향과 역전파(#1929 / #1928), GLM-5.3 kpool(#1910)의 착지 리듬; Hygon gcy_merge_main의 레지스터 파이프라인 스위치 정리가 언제 main에 들어갈지.

부록: 자료와 검증 설명

  • 자료: 본지의 TileLang 커뮤니티 동향 데일리 리포트 5회(10-19, 10-20, 10-21, 10-22, 10-23)로, 5회 수집 기간 합계는 10-16 07:00부터 10-23 07:00까지(베이징 시간)입니다. 이 중 10-19 회차는 월요일 3일 기간으로 10-16 07:00부터 10-19 07:00까지를 포괄하며, 본문은 10-16~10-18 주말 동향을 배경으로 포함하되 이번 주 합류 통계에는 산입하지 않았습니다. 10-20~10-23 4회차는 엄격히 이번 주에 속합니다.
  • 합류 통계 기준: 이번 주 합류 129건으로, 4회 데일리 리포트 기준으로는 36건(10-20 회차), 26건(10-21 회차), 32건(10-22 회차), 35건(10-23 회차)이며, 저장소별로는 메인 저장소 tilelang 37건, TileOPs 68건, Ascend 어댑테이션 저장소 11건, TileFoundry 8건, Hygon 1건, MLIR Ascend 1건, 문서 사이트 3건입니다. 10-19 회차에는 별도로 61건이 있으며, 이는 10-16~10-18 주말 기간에 속해 상기 표에 산입하지 않았습니다.
  • 보충 검증: 168시간 기간의 조직 수준 검증 결과 tile-ai의 29개 저장소 중 11개가 기간 내 푸시가 있었음(TileOPs, tilelang, tilelang-ascend, tilelang-hygon, tilelang-mlir-ascend, tilelang-sunrise, TileFoundry, TileFoundry 문서 사이트, TileOPs 문서 사이트, tilelang 문서 사이트, TileOPs-nightly)을 확인했으며, 각 회차 데일리 리포트의 저장소별 결론과 일치합니다. 금요일 07:00 이후의 조직 동향은 관례대로 차기 데일리 리포트에 병합하며, 본 리포트에서는 그 내용을 예측하지 않습니다.
  • 기준과 경계: 성능 데이터는 모두 PR 설명 또는 릴리스 노트의 자기 기술(H100, H200, L40S, M2 Pro, 910B3, MTT S5000 등)이며, 본지에는 해당 하드웨어가 없어 독립 재현을 하지 않았습니다. 규격 및 벤치마크 205/205는 조직 통계 브랜치의 배지 데이터에서 가져온 것으로 프로젝트 자기 기술 기준입니다. 릴리스 시점은 각 저장소의 태그와 릴리스 페이지 재검토를 기준으로 하며, 어댑테이션 저장소의 릴리스 페이지와 브랜치 진행에는 지연이 있을 수 있습니다. SemiAnalysis와 SCMP의 판단은 제3자 분석이며 벤더의 공식 성명이 아닙니다. 심사 중 건수는 회차별 통계 기준이 완전히 일치하지 않으며(어떤 것은 저장소 is:open 총수, 어떤 것은 기간 내 갱신 수를 취함), 인용 시 본문에 이미 명시했습니다.
  • 차기 주기 제안: 2026-10-26 ~ 2026-10-30.

출처 검증표

출처 검증 결과
tile-ai 조직(29개 저장소) 168시간 기간 내 11개 저장소에 푸시 있음; 이번 주 4회차 기준 합류 129건, 심사 중 기간 갱신 52~71건
메인 저장소 tilelang 이번 주 합류 37건; 오픈 PR 167에서 163으로 감소; VERSION 여전히 0.1.15, 전 주간 신규 태그 없음, 릴리스 없음(23일째 조용)
TileOPs 이번 주 합류 68건(별도 주말 기간 44건); 심사 중 16에서 9로 감소; 규격 및 벤치마크 커버리지 보고 205/205; 여전히 tilelang 0.1.12에 pin
TileOPs-nightly snapshots 브랜치 10-19 05:41, 10-20 05:39 두 차례 스냅샷; 리포트에 “신규 연산자” 항목 추가
TileFoundry 이번 주 합류 8건; v0.0.3이 10-21 10:26에 릴리스됨(이번 주 유일한 신규 버전); 심사 중 1~4건
Ascend(tilelang-ascend + 메인 저장소 내 Ascend 변경) 어댑테이션 저장소 합류 11건, 심사 중 11건 이상; 메인 저장소 내 Ascend 관련 합류 12건; sparse_mla 전방향 및 역전파 심사 중
Hygon(tilelang-hygon) main에 1건 합류(#25); 심사 중 3건; feature 브랜치 3회 푸시로 디코딩 GEMM의 주소 체인 위치 특정 제시
MetaX / Moore Threads / MLIR Ascend 3개 저장소 모두 기간 내 커밋 없음, 각각 10-16 / 09-30 / 10-19에 정지
Sunrise 0.1.15+sunrise.1.2.0 릴리스 PR(#9) 심사 중; S2 wheel 설치 후 import가 tangGetDeviceCount에서 실패
채택자(TileKernels / FlashQLA) 모두 10-14에 정지, 전 주간 커밋 없음; 버전 요구 사항은 여전히 TileLang 0.1.15 및 CANN 9.2.0을 가리킴
TileRT / tilescale / DeepStack 모두 기간 내 푸시 없음(최신 각각 09-24, 08-25, 10-05)
커뮤니티 및 제3자 저장소 신규 저장소 4개(tilelang-tutorial, ops-tilelang, tilelang-hexagon, tilelang-wrapper-for-sail), 활성 5개 이상(cookbook, devkit-vscode, tilelangGym, w4a16-tilelang, tilelang-cuda-skills)
미디어 및 학술 Google News 중영문 다수 쿼리 기간 내 총 6건 적중, SemiAnalysis 한 편만 TileLang 전용 장 포함, 나머지는 전재 또는 직접 관련 없음; Hacker News 관련 논의 없음; arXiv 기간 내 0건

주요 인용

tile-ai/tilelang/pull/3512>

— https://github.com/tile-ai/TileOPs/tree/stats

데이터 출처: 일일 TileLang 커뮤니티 동향 데일리 리포트(2026-10-19부터 2026-10-23까지 총 5회) 및 이번 주기 실측 검증; 보고 기간은 2026년 10월 19일부터 10월 23일까지입니다.