모니터링 기간: 2026-11-19 07:00 ~ 2026-11-20 07:00 (베이징 시간, 24시간). 이전 회차 기준점은 11-19 07:00.

출처: GitHub tile-ai 조직 저장소별 점검 결과, 30개 저장소 중 기간 내 푸시된 곳은 8개. 조직 수준 실측 검색: 머지 23건, 리뷰 중 업데이트 20건, 신규 이슈 7건. 건별 메인 브랜치 점검: TileOPs 16건, tilelang 2건, TileFoundry 1건, Hygon 1건. MLIR Ascend 3건은 mlir-dialect 브랜치에 반영. 릴리스 점검: tilelang은 여전히 v0.1.15이며 기간 내 신규 태그 없음. 그 외 Google News 중영문 5개 쿼리, Hacker News 및 TileLang×RISC-V 4개 소스 순회 포함.


이번 호 인덱스

  • 오늘의 핵심: TileOPs mHC 연산자 3건 동일자 머지, 시퀀스 모델링 인터페이스 교체 완료 (11-19)
  • 오늘의 핵심: GEMM 선택기 규칙 1건으로 302개 형상 변경, MXFP4 MoE 디코딩 합격선 도달 (11-19)

    1. 핵심 프로젝트 진행
      • 1.1 레이아웃 자리표시자 변수가 직렬화 전반에서 바인딩 유지, spawn 서브프로세스 부하 감소 시 비단사 오류 해소 (11-20)
      • 1.2 개발판 버전 번호에서 툴체인 태그 제거, 동일 wheel이 더 이상 CUDA 버전별로 분기되지 않음 (11-19)
      • 1.3 신규 결함 보고: MLA decode 예제에서 두 warpgroup 간 쓰기 후 읽기 동기화 누락 (11-19)
      • 1.4 리뷰 중 수정: warp 특수화 시 레이아웃 비호환 TMA 승격 건너뜀 (11-19)
    1. 멀티 백엔드 적응 (Ascend / Hygon / Moore Threads / MetaX)
      • 2.1 MLIR Ascend 하루 만에 tl.or, tl.xor, tl.pow 머지, vsigmoid와 sort는 리뷰 중 (11-19)
      • 2.2 Ascend 메인 저장소 리뷰 중 항목이 릴리스로 전환: 공유 wheel 상 OBS, 야간 NPU 스모크, 튜닝 스킬 (11-19)
      • 2.3 Atlas A3가 910A로 인식되어 carver의 L0C 용량이 절반으로 계산됨 (11-19)
      • 2.4 Hygon PR 품질 게이트 워크플로 추가, 기간 내 커널 변경 없음 (11-19)
      • 2.5 MetaX와 Moore Threads는 기간 내 커밋 없음 (11-19)
  • 2.5. RISC-V 백엔드와 커뮤니티 (특별 관찰: TVM 노선 / MLIR 노선 / SOPHGO TPU / 커뮤니티 인덱스 페이지)
    • 2.5.1 4개 소스 순회 변화 없음, 두 노선과 인덱스 페이지 모두 이전 회차와 동일 (11-20)
    1. 생태계와 채택 주체 (TileOPs 연산자 라이브러리 / TileFoundry / TileKernels)
      • 3.1 어텐션 sink 보완: DSADense와 DSAPaged 동일자 머지 (11-19)
      • 3.2 FP4 그룹 양자화 적용, MoE 게이팅에 해시 라우팅과 sqrt-softplus 추가 (11-19)
      • 3.3 GatedPoolCompress 한 번의 실행으로 요청별 링 분할 KV 풀링 완료 (11-19)
      • 3.4 TileFoundry, 슬라이스 mesh와 Varying 값을 병렬 계획 분석에 포함 (11-19)
      • 3.5 신규 목표 4건 개시: DSAPaged bf16, AvgPool1d, DeltaNet, Mamba (11-19)
      • 3.6 TileKernels와 FlashQLA는 기간 내 커밋 없음 (11-19)
    1. 커뮤니티, 튜토리얼 및 활동
      • 4.1 뉴스 측 공백: 중영문 5개 쿼리 관련 보도 없음 (11-20)
      • 4.2 조직 활성도: 단일일 머지 23건, 메인 저장소 스타 9006 (11-19)
    1. 트렌드 관찰
  • 부록: 자료 및 점검 설명
    • 출처 점검표
    • 전체 출처 목록

오늘의 핵심: TileOPs mHC 연산자 3건 동일자 머지, 시퀀스 모델링 인터페이스 교체 완료

11-19 하루 동안 TileOPs는 HyperConnection의 pre, post, head 세 연산자를 한꺼번에 머지했다. 세 건은 각각 #3032, #3035, #3039이다. 앞서 #3021이 11-18에 기존 mHC 연산자 두 개를 삭제하고 리뷰를 거친 공개 API 파괴로 등록했다. 하루 간격으로 교체 경로가 완료되었다.

pre 단계는 #3032로 머지되었으며 18개 파일 변경, +1106/-21이다. DeepSeek-V4-Flash와 GLM-5.3-Flash의 mHC 전단을 실행한다. 내용은 fn 프로젝션과 제곱 노름, pre와 post 가중치, Sinkhorn, 그리고 가중 흐름 합산을 포함한다.

프로젝션은 float32 정밀도를 보장한다. fn은 세 개의 bfloat16 항으로 텐서 코어에 진입하며, 16채널마다 한 번씩 64×72 WGMMA를 수행한다. 각 64채널 슬롯은 다시 float32로 누적된다. token 축은 런타임 길이이며, 한 번의 실행으로 임의 token 수를 커버한다. 비교 대상은 vLLM의 TileLang mhc_pre와 torch.compile 참조 구현이다.

post 단계는 #3035로 병합되었으며, 16개 파일이 변경되고 +592/-21을 기록했다. 이는 블록 출력을 n개의 잔차 스트림에 다시 혼합한다. 원소별로 post_layer_mix[j] * x + sum_i comb_res_mix[i,j] * residual[i]로 작성되며, float32로 계산한 후 한 번에 bfloat16으로 반올림한다.

스레드는 16바이트 세그먼트 단위로 x와 각 스트림을 혼합한다. 작은 호출은 한 세그먼트, 큰 호출은 네 세그먼트를 사용한다. 출력은 TileKernels의 mhc_post_fwd와 비트 단위로 동일하다.

head 단계는 #3039로 병합되었으며, 15개 파일이 변경되고 +778/-9를 기록했다. 이는 LM head 이전에 n개의 잔차 스트림을 하나로 접으며, DeepSeek-V4-Flash의 ParallelHead.hc_head에 대응한다. SM당 최대 두 개의 토큰을 처리하며, 초과 시 하나의 CTA가 한 개에서 네 개의 토큰을 스트리밍하고 각 hc_fn 벡터가 모든 토큰을 서비스한다.

manifest 항목은 구현 완료로 전환되었으며, GLM-5.3-Flash의 3000 토큰 행이 첨부되었다. 비교 대상은 vLLM의 hc_head 융합 커널과 torch 참조이다.

세 건 모두 해당 제안을 종료했다: #2921, #2970, #2971. 구 연산자 삭제와 신 연산자 병합의 중간 상태는 하루만 유지되었으며, 인터페이스 교체로 인한 단절 버전은 남지 않았다.

출처: https://github.com/tile-ai/TileOPs/pull/3032 https://github.com/tile-ai/TileOPs/pull/3035 https://github.com/tile-ai/TileOPs/pull/3039

오늘의 중점: GEMM 선택기 규칙 하나 변경으로 302개 형상, MXFP4 MoE 디코딩이 수락 기준 도달

11-19 TileOPs 성능 라인에서 총 여섯 건이 병합되었다. 두 건은 자체 평가에서 수락 기준에 도달했고, 네 건은 여전히 수락 기준 미만으로 표시되었다. 네 건의 지원 설명에는 모두 각 행이 메인 브랜치보다 빠르다고 명시되어 있다.

GEMM 선택기가 규칙 하나를 변경했다(#3045). NT 계열 GEMM에서 128행 그리드가 coop2 폭에서 한 웨이브에 들어갈 수 있으면, 가장 좁은 coop2 tile을 선택하고 더 좁은 다중 웨이브로 분할하지 않는다.

판정 기준은 두 가지이다. 마지막 행 tile의 두 64행 소비 그룹 모두에 행이 할당되어야 하며, 그리드가 한 웨이브의 15/16을 채워야 한다.

이 규칙은 302개 모델 형상에 영향을 준다. 단일 카드 H200에서 메인 브랜치 선택 방식보다 느린 사례는 없었으며, 286개 형상이 1.03배에서 2.6배 빨라졌다. GLM-5.3-Flash의 라우팅 prefill(N=288)은 82.24마이크로초에서 32.13마이크로초로 감소했다.

해당 변경은 잠재적 결함도 수정했다. float32 coop2 tile을 전체 블록으로 분할할 때 128번부터 383번 스레드의 누산기 복사가 누락되어 공유 메모리에 초기화되지 않은 내용이 남는 문제였다.

MXFP4의 MoE 그룹 GEMM이 수락 기준에 도달했다(#3044). 공유 디코딩 커널이 추가되었으며, 조건은 행 정렬이 128의 배수, 스케일이 e8m0, K가 2048의 배수이다. 128개 토큰을 WGMMA의 M 피연산자로, 128행 가중치를 N 피연산자로 사용한다.

가중치는 일곱 개의 프로덕션 warp가 CTA당 한 번 디코딩하여 fp8 공유 메모리 타일에 기록한다. 근본 원인은 구 커널이 수학 warp에서 가중치를 디코딩하여 원소당 한 번의 FMUL과 한 번의 FFMA가 발생한 것이었다. 수학 warp당 K 스텝마다 약 363개 명령어가 발생하여 512 텐서 사이클에 대응하며, 텐서 파이프라인은 36%만 가동되었다.

GQA 가변 길이 어텐션이 헤드 차원 56에서 80에 대해 세 개의 소비 warpgroup으로 변경되었다(#3041). 192행 tile에서 세 개의 64행 소비 그룹이 교대로 텐서 코어를 점유한다.

근본 원인은 72채널일 때 exp2의 소요 시간이 해당 곱셈 텐서 시간의 64/80을 차지한 것이다. 두 소비 그룹일 때 한 그룹의 softmax가 다른 그룹의 곱셈을 지연시켰다. ncu는 텐서 54.7%, XU 45.2%를 보여 두 요소가 거의 직렬로 실행되었음을 나타낸다.

해당 변경은 한 가지 제한을 명시했다: TileFoundry의 schedule finalize가 현재 빌드에서 전달된 스케줄을 TIR로 낮출 수 없다(tile-ai/topa#42 참조). 커널은 실측 프로토타입 기반으로 수작성되었으며, 스케줄은 final_hir.py에 작성되어 있다.

KDA의 bf16 주어진 게이팅 prefill이 단일 중앙 집중 시작으로 변경되었다(#3053, 9개 파일, +749/-225). SM90에서 기존에는 시퀀스와 값 헤드 로그 수에 따라 두 경로를 사용했다. 새 경로는 공동 중앙 집중 텐서 코어 프로그램이 모든 chunk를 먼저 준비한 후 상태 순회를 수행한다. fp16 주어진 게이팅과 원시 게이팅은 여전히 구 경로를 사용한다.

두 건은 자체 평가에서 수락 기준 미만이다. W4A16의 K tile 메타데이터가 비동기 복사로 변경되었다(#3050). 4바이트 미만의 행별 제로 포인트를 네 개의 정렬된 그룹 윈도우로 오버페치하여 4바이트 및 8바이트 cp.async로 전송한다. 프로듀서 측은 따라서 K tile의 TMA를 즉시 발행할 수 있다.

RoPE는 로드 순서를 조정했다(#3040). 열 복사가 있는 헤드는 입력 벡터를 먼저 로드한 후 위치를 읽어, ptxas가 위치 clamp에서 대기하는 것을 방지한다. 작은 GPT-J 호출은 따라서 DRAM 지연을 한 번 덜 지불한다. 동일 변경은 key.view(-1, 0)에서 남은 key가 실패하는 문제도 수정하여 이제 빈 결과를 반환한다.

출처: https://github.com/tile-ai/TileOPs/pull/3045 https://github.com/tile-ai/TileOPs/pull/3044 https://github.com/tile-ai/TileOPs/pull/3041


1. 핵심 프로젝트 진행 상황

1.1 레이아웃 자리표시자 변수가 직렬화를 넘어 바인딩을 유지하고, spawn 하위 프로세스 오프로드 시 더 이상 단사 오류가 발생하지 않음

tilelang 메인 저장소 모니터링 기간 내 두 건이 병합되었습니다. 첫 번째는 #4410으로, 3개 파일을 변경했으며 +301/-2입니다. 이는 레이아웃 객체가 프로세스와 디스크 왕복 후 무효화되는 문제를 수정합니다.

tl.Layout, tl.Fragment, tl.PartialFragment는 프로세스 내 싱글턴 tirx::Var 자리표시자로 인덱스와 스레드 매핑을 표현합니다. _i, _j 등은 InputPlaceholder(i)를 사용하고, _rep는 ReplicationPlaceholder()를 사용합니다.

Forward, OutputShape, DetectInjective, ForwardThread의 판단 근거는 name_hint가 아니라 Var의 객체 동일성입니다.

레이아웃 또는 T.annotate_layout이 포함된 PrimFunc가 pickle 또는 tvm.ir.save_json과 load_json을 거치면, 역직렬화 시 자리표시자가 재생성됩니다. 새로 생성된 VarNode는 수신 프로세스의 싱글턴과 더 이상 동일하지 않습니다.

메인 브랜치에서 세 가지 오류를 직접 재현할 수 있습니다. pickle 왕복 후 map_forward_index([7])이 [7]이 아닌 [_i]를 반환합니다. OutputShape()는 (32,)를 (_i + 1,)로 계산합니다. spawn으로 생성된 worker 프로세스에서 주석이 포함된 PrimFunc를 오프로드하면 the forward map must be injective 오류로 실패합니다.

수정 방법은 바인딩된 자리표시 Var 참조를 동일한 ObjectGraphSerializer 채널에 포함시키는 것입니다. 두 필드가 관련됩니다: LayoutNode의 _forward_vars와 FragmentNode의 _replicate_var. 두 필드의 직렬화 순서는 forward_index와 forward_thread보다 앞섭니다. 이 필드들은 repr, init, compare, hash 및 구조적 동등성에 참여하지 않으며, 기본값은 nullptr입니다.

실제 효과는 다중 프로세스 컴파일 경로를 사용할 수 있게 된 것입니다.

출처: https://github.com/tile-ai/tilelang/pull/4410

1.2 개발 버전 번호에서 툴체인 태그 제거, 동일 wheel이 더 이상 CUDA 버전별로 분기되지 않음

#4409는 7개 파일을 변경했으며 +16/-76입니다. 버전 번호에서 백엔드 접미사를 정리합니다.

발단은 TileLang이 과거 CUDA 12.8과 13.0에 대해 각각 wheel을 빌드했기 때문입니다. #1826 이후 하나의 wheel이 여러 CUDA 툴체인 버전을 동시에 지원합니다. 따라서 기존 접미사는 오해를 유발합니다. CUDA 13.0 이미지에서 빌드된 체크아웃은 0.1.15+cu130.gitabcdef12를 보고하지만, 빌드 머신의 툴체인 버전으로는 해당 wheel이 어떤 백엔드를 지원하는지 알 수 없습니다.

변경 사항은 백엔드 접미사와 NO_TOOLCHAIN_VERSION 스위치를 삭제합니다. 동일 체크아웃은 모든 구성에서 통일되게 0.1.15+gitabcdef12를 보고합니다. TILELANG_BUILD_WHEEL_WITH_DATE=ON으로 설정하면 0.1.15+d20261119.gitabcdef12를 보고합니다. PyPI 배포에는 여전히 기본 버전 번호를 사용합니다.

tilelang.build_date()는 이에 따라 두 가지 위치를 모두 지원합니다. 날짜는 + 바로 뒤에 올 수 있으며, 기존 wheel의 0.1.15+cuda.d20261119.gitabcdef12 형식도 호환됩니다.

작성자는 검증 범위를 나열했습니다. 세 가지 패키징 테스트 통과, CUDA 12.8, CUDA 13.0, ROCm, CPU, 날짜 포함 야간 빌드 및 배포 빌드의 PEP 517 메타데이터 확인, pre-commit 전체 통과.

출처: https://github.com/tile-ai/tilelang/pull/4409

1.3 신규 결함 보고: MLA decode 예제에서 두 warpgroup 간 쓰기 후 읽기 동기화 누락

#4412는 새로 접수된 결함 보고서로, examples/deepseek_mla/example_mla_decode_ws.py를 지목합니다. 보고서에 따르면 오른쪽 warpgroup이 sum_exp_shared를 읽을 때 왼쪽 warpgroup의 쓰기를 기다리지 않습니다.

해당 파일은 warp 특화 MLA decode 예제에 속합니다. 보고서는 두 절반 사이의 공유 메모리 핸드오프가 반환값이나 암시적 순서에만 의존하는 것으로는 동기화를 구성하기에 불충분하다고 봅니다.

해당 보고서는 아직 수정 사항이 첨부되지 않았고 재현 환경도 표시되지 않았습니다. 이번 호에서는 “보고됨, 처리 대기”로 기록하며 수정된 문제로 인용하지 않습니다.

출처: https://github.com/tile-ai/tilelang/issues/4412

1.4 검토 중 수정: warp 특화 시 레이아웃 비호환 TMA 승격 건너뛰기

#4413은 로워링 실패 한 건을 수정합니다. b1367a59에서 sm_90a를 대상으로 하는 파이프라인 GEMM이 로워링되지 않았습니다. 트리거 조건은 8비트 B tile이 make_swizzled_layout(Bs, k_major=False)의 패딩 포함 레이아웃을 사용하는 것이었습니다.

A의 로드로 인해 해당 루프가 warp 특화 자격을 갖추게 되었습니다. 이어서 해당 pass가 B의 일반 T.copy까지 T.tma_copy로 승격했고, LowerBulk는 패딩 포함 레이아웃을 거부했습니다(issue #4053).

수정 방식은 후보 TMA 로드의 대상 레이아웃 어노테이션을 개별 검사하는 것으로, 범위는 파이프라인 및 그 prelude를 포함합니다. 레이아웃이 비호환인 복사는 소비 측에 남기고, 호환되는 복사는 동일 파이프라인 내에서 TMA로 승격합니다.

작성자는 #4053의 여덟 개 사례 모두 이제 sm_90a용으로 로워링된다고 보고했습니다. CUDA 13.0이 설치된 H200에서 새로 추가된 FP8 회귀는 A가 TMA를, B가 일반 복사를 사용함을 확인합니다. 해당 PR은 현재 여전히 검토 중입니다.

출처: https://github.com/tile-ai/tilelang/pull/4413

2. 멀티 백엔드 적응 (Ascend / Hygon / Moore Threads / MetaX)

2.1 MLIR Ascend, 하루에 tl.or, tl.xor, tl.pow 병합, vsigmoid와 sort는 검토 중 보강

MLIR Ascend 저장소의 병합은 여전히 mlir-dialect 브랜치에서 이루어집니다. 해당 브랜치의 main은 11-04 이후 움직이지 않았습니다. 11-19 하루에 TLIR 연산자 세 개가 병합되었으며, 시간은 UTC 14:08부터 14:37에 집중되었습니다.

#225는 tl.or를, #228은 tl.xor를, #229는 tl.pow를 추가합니다. 세 건은 동일한 절차를 따릅니다. 먼저 방언 연산자를 추가하고, TIR 로워링을 제공한 뒤, 마지막으로 HIVM으로 변환하며, 각각 테스트를 포함합니다. 이 중 앞의 두 건은 지난 호 리포트에서 여전히 검토 중으로 표시되었으나, 이번 호에서 병합으로 전환되었습니다.

검토 측에서는 #264가 새로 열려 TLIR에 tl.vsigmoid를 보강합니다. 해당 건은 11-20 01:35에 열렸고, 같은 날 검토 중 한 번 업데이트되었습니다. 또한 #232는 TLIR의 sort 연산을 HIVM으로 로워링하며, 모니터링 기간 내에 다시 업데이트되었으나 병합되지 않았습니다.

병합된 세 건과 검토 중인 두 건은 동일한 연산자별 기반 작업 배치를 구성합니다.

출처: https://github.com/tile-ai/tilelang-mlir-ascend/pull/229

2.2 Ascend 메인 저장소, 검토 중 릴리스로 방향 전환: 공유 wheel 기반 OBS, 야간 NPU 스모크, 튜닝 스킬

Ascend 메인 저장소는 모니터링 기간 내 병합이 없었습니다. 검토 측에서는 다섯 건이 업데이트되었으며, 방향은 커널에서 릴리스 및 툴체인으로 전환되었습니다.

#4411은 11-19 19:15에 새로 열려 표준 Linux wheel을 Ascend 커뮤니티 OBS에 게시합니다. 전제는 이 wheel들이 이미 Ascend, CUDA, ROCm 지원을 동시에 포함하고 있다는 것이며, 기존 Dist 워크플로는 x86_64와 aarch64용으로만 빌드하고 OBS에 업로드하지 않습니다.

방식은 build-wheels의 abi3 wheel을 재사용하는 것입니다. abi3 태그는 abi3audit --strict를 통과해야 합니다. 빌드가 통과하면 기존의 일일 정기 및 수동 트리거에 따라 두 아키텍처 모두 업로드하며, 파일명에 날짜와 커밋 접미사를 붙여 야간 버전이 공존할 수 있게 합니다. PyPI 릴리스 버전 번호는 변경되지 않습니다. 해당 건은 또한 OBS 업로드와 인덱스 업데이트를 직렬화하여 동시 실행이 구 manifest로 인덱스를 덮어쓰는 것을 방지할 것을 요구합니다.

#3924는 NPU 스모크 테스트와 롤링 릴리스를 포함한 야간 Ascend wheel 파이프라인으로, 11-11에 열렸고 모니터링 기간 내에 다시 업데이트되었습니다. #4016은 Ascend용으로 작성된 TileLang 성능 튜닝 스킬이며, #4012는 max_vector_bits 기본값을 128로 변경하고 16 lane fp8 SIMT 벡터를 지원합니다. 두 건 모두 11-13에 열렸습니다.

또한 #1760은 AscendC 백엔드가 FP32 GEMM을 지원하도록 합니다. 해당 건은 9월 8일에 열렸고, 모니터링 기간 내 22:36에 다시 업데이트되었습니다.

출처: https://github.com/tile-ai/tilelang/pull/4411

2.3 Atlas A3이 910A로 인식되어 carver의 L0C 용량이 절반으로 계산됨

#2023은 carver의 모델 인식을 수정합니다. Ascend.__init__은 문자열 포함 관계로 칩을 판별합니다. 먼저 910B를 판별하고, 다음으로 310P를 판별하며, 마지막 폴백의 910은 일괄적으로 Ascend910A로 취급합니다.

Atlas A3의 디바이스 이름은 Ascend910_9362이며, 저장소 내 examples/situ_glu/benchmark.md에도 그렇게 기재되어 있습니다. 이는 910B에도 310P에도 해당하지 않아 폴백 버킷에 떨어집니다.

그 결과 세 가지 하드웨어 파라미터가 잘못 매칭됩니다. ub_cap은 262144바이트를 취하지만 실제는 196608바이트입니다. l0c_cap은 262144바이트를 취하지만 실제는 524288바이트로, 정확히 절반을 적게 계산합니다. compute_max_core는 910A 기본값인 32를 취하지만 실제로는 cube_core_num 조회를 기준으로 삼아야 합니다.

동일한 코드에 두 세트의 모순된 매핑이 존재합니다. 컴파일러 주 흐름인 tilelang/utils/target.py는 동일 디바이스를 910_93/910C → A3로 판별하지만, carver는 잘못된 쪽을 사용합니다.

carver는 이 세 값을 사용해 후보 구성의 실행 가능성 필터링과 비용 모델링을 수행한다(tilelang/carver/roller/policy/ascend.py). L0C를 절반만 계산하면 큰 C tile 구성은 바로 필터링된다. 해당 PR은 11-19 08:14에 생성되었으며 아직 검토 중이다.

출처: https://github.com/tile-ai/tilelang-ascend/pull/2023

2.4 Hygon, PR 품질 게이트 워크플로 추가, 모니터링 기간 내 커널 변경 없음

Hygon 저장소의 모니터링 기간 내에는 병합된 커밋이 하나뿐이다(#42, 파일 1개, +19/-0). 내용은 pull request에 품질 게이트 워크플로를 추가한 것이다. 해당 커밋에는 커밋 설명 본문이 없으며, 변경은 CI 구성에만 관련된다. 같은 기간 #43, #44는 동일 워크플로의 검토 중인 버전이다.

지난 기간의 12개 내재적 수정(#27) 이후, Hygon 측은 이번 기간에 커널, 정밀도 또는 코드 생성 변경이 없다.

출처: https://github.com/tile-ai/tilelang-hygon/pull/42

2.5 MetaX와 Moore Threads, 모니터링 기간 내 커밋 없음

MetaX 저장소 tilelang-metax의 마지막 푸시는 11-06이다. Moore Threads 저장소 tilelang-musa는 11-18 03:47(UTC)이다. 둘 다 모니터링 기간 밖에 있다. MetaX의 release/v0.1.12-musa.5-source 브랜치와 릴리스 제안은 모니터링 기간 내에 새로운 움직임이 없다.

2.5. RISC-V 백엔드와 커뮤니티 (특별 관찰: TVM 노선 / MLIR 노선 / SOPHGO TPU / 커뮤니티 인덱스 페이지)

2.5.1 4개 소스 점검 변화 없음, 두 노선과 인덱스 페이지 모두 지난 기간과 동일

11-20에 4개 소스를 점검했다. 첫째는 kubuds/tilelang-riscv-kubuds의 kubuds- 접두사 브랜치, 즉 TVM 백엔드 노선이다. 둘째는 RuyiAI-Stack/tilelang-riscv의 main, 즉 MLIR 재작성 노선이다. 셋째는 TongmingLAIC/tilelang-riscv 커뮤니티 인덱스 페이지이다. 넷째는 TongmingLAIC/tilelang-tpu의 main과 새 브랜치, 즉 Sophgo TPU 확장이다.

4개 소스의 참조는 지난 기간 보관 기록과 일치하며, 새 커밋도 새 PR도 없고 인덱스 페이지의 프로젝트 표에도 추가나 삭제가 없다. 결론은 위 4개 소스만을 대상으로 하며 다른 RISC-V 관련 작업으로 확대 해석하지 않는다. TVM 노선과 MLIR 노선은 이번 기간 모두 새로운 움직임이 없으며 별도로 해석하지 않는다.

출처: 새로 추가된 커밋 없음.

3. 생태계와 채택 측 (TileOPs 연산자 라이브러리 / TileFoundry / TileKernels)

3.1 어텐션 sink 보완: DSADense와 DSAPaged 같은 날 병합

두 건의 어텐션 병합으로 DeepSeek-V4와 GLM-5.3에서 사용되는 sink와 bf16 캐시 행이 보완되었다.

DSADense 측은 #3038이며, 파일 5개 변경, +228/-82이다. 이의 SM90 커널은 attn_sink와 is_causal=False를 지원하기 시작했다. 이때 인덱스만으로 key를 선택하며, -1은 해당 슬롯을 건너뛴다는 의미이고, 각 헤드의 sink logit은 해당 softmax 분모에 포함된다.

topk는 더 이상 128의 배수일 것을 요구하지 않는다. 초과 부분은 데드 슬롯이다. 마지막 블록 쌍에서 홀수 블록이 전체 구간이 topk를 넘으면 짝수 블록만 로드하고 점수화한다. 대조군 FlashMLA는 한 번의 실행으로 이번 배치의 모든 kv 행을 완료하도록 변경되었으며, 그 인덱스는 -1로 128의 배수까지 보완된다.

DSAPaged 측은 #3048이며, 파일 6개 변경, +411/-79이다. bf16 캐시 행을 지원하며, 값은 512열, 키는 추가로 0 또는 64열이며, GLM-5.3과 DeepSeek-V4를 커버한다.

단일 CTA 커널은 병합된 cp.async로 수집한다. 마지막 블록의 꼬리 부분을 마스킹하여 임의의 topk를 지원하며, attn_sink를 softmax 분모에 추가하고, 블록 병합 시에도 동일하게 포함한다.

범위는 명확히 기술되어 있다. FP8의 656바이트 행 생성 코드는 변경되지 않았으며, 해당 행은 여전히 attn_sink와 topk가 64의 배수가 아닌 경우를 지원하지 않는다. SM89는 bf16 행을 지원하지 않는다.

출처: https://github.com/tile-ai/TileOPs/pull/3038 https://github.com/tile-ai/TileOPs/pull/3048

3.2 FP4 그룹 양자화 적용, MoE 게이팅에 해시 라우팅과 sqrt-softplus 보완

양자화 측에 FP4QuantPerGroupFwdOp가 새로 추가되었다(#3027, 파일 15개, +810/-41). 시그니처는 block_size=32, inplace=False이며, bfloat16을 e2m1 코드로 양자화하고, 두 코드를 1바이트로 하며, 블록 스케일은 2의 거듭제곱인 float8_e8m0fnu이다. 출력은 DeepSeek-V4-Flash의 fp4_act_quant와 비트 단위로 일치한다.

반올림은 FP4 변환 명령을 사용하지 않는다. 대신 float32 비트에 대한 정수 연산으로 변경하고, float32 덧셈을 한 번 추가한다. 해당 커널은 FP8QuantPerTokenGroupFwdOp와 group_quant.py를 공유한다.

write_in_place는 그룹 수가 그리드 y 범위를 초과하는 스트라이드 행이 먼저 연속 복사를 수행하도록 합니다. 이 커밋은 덤으로 FP8 토큰별 그룹 양자화의 inplace=True 경로도 함께 고쳤습니다.

MoE 쪽은 #3036으로, 4개 파일을 변경했으며 +360/-66입니다. FusedTopKFwdOp에 scoring_func="sqrtsoftplus"를 추가했고, correction_bias와 그룹화의 유무를 모두 지원합니다. 또한 호출자가 expert_ids를 지정할 수 있도록 지원하며, DeepSeek-V4-Flash의 게이팅과 그 해시 라우팅 첫 레이어를 커버합니다.

expert_ids가 주어지면, 커널은 해당 expert들의 logit만 읽습니다. 재정규화되지 않은 softmax는 전체 행을 읽으며, bias는 읽지 않습니다. 여전히 거부되는 조합은 「bias가 있는 softmax 선택」입니다.

출처: https://github.com/tile-ai/TileOPs/pull/3027 https://github.com/tile-ai/TileOPs/pull/3036

3.3 GatedPoolCompress, 한 번의 실행으로 요청별 링 분할 KV 풀링 완료

#3033은 12개 파일을 변경했으며 +1363/-3입니다. GatedPoolCompressFwdOp를 구현하며, DeepSeek-V4-Flash의 compressor와 GLM-5.3-Flash indexer의 키 풀링에 대응합니다.

요청은 묶음 처리됩니다. 특정 요청의 시작점 이전에 위치한 위치들은 해당 요청의 링에서 오며, 링 크기는 C * ratio 행입니다. 호출은 자신의 마지막 몇 개 위치의 행을 기록하며, 이전 호출의 마지막 토큰을 롤백할 수 있습니다.

구현은 이전 실행만 참조하며 호스트 동기화가 없습니다. 요청당 하나의 block으로, 먼저 자신의 링을 읽는 윈도우들을 풀링한 뒤, 링과 유효 플래그를 다시 기록합니다. 나머지 윈도우들은 cu_seqlens에 대한 warp 수준 ballot 검색을 통해 자신이 속한 요청을 찾습니다.

이 커밋은 또한 배치 처리된 torch_program을 기준으로 하는 torch 베이스라인을 추가하고, kv_state와 score_state를 연속으로 선언했습니다.

출처: https://github.com/tile-ai/TileOPs/pull/3033

3.4 TileFoundry, 슬라이스 mesh와 Varying 값을 병렬 계획 분석에 포함

TileFoundry 모니터링 기간 내 한 건이 머지되었습니다(#356, 123개 파일, +2752/-557). 메모리 및 트래픽 분석을 변경한 건입니다.

발단은 discussion #350입니다. 분석기가 PP, TP, EP, HSDP 여러 병렬 계획을 비교할 수 있어야 합니다. 기존 구현은 파이프라인 스테이지별로 각 GPU 피크를 합산했고, 슬라이스 mesh 간의 Reshard를 0바이트 뷰로 기록했으며, Varying을 가진 피연산자를 단일 피연산자 타입만 취하는 연산자에서 누락시켰습니다.

변경 후, 타입 추론은 단일 규칙을 통해 피연산자의 샤딩 속성(operand_types, combine_operand_attrs)을 읽습니다. Broadcast와 Varying이 만나면 Varying의 셀 단위 저장이 되고, Partial과 Varying이 만나면 거부됩니다.

슬라이스 mesh 간의 Reshard는 「해당 값을 얻는 셀 수」만큼 한 번의 복사로 계산합니다. 부분적으로 겹치는 슬라이스 간의 Split 또는 Partial 이동은 거부됩니다. 피크는 소속 셀 단위로 집계하도록 변경되었습니다.

추가로 세 가지가 함께 반영되었습니다. JSON 호출 행에 피호출자(callee, callee_ref)와 이를 정의한 Module을 명시합니다. 한 번의 호출이 텐서 리프 단위로 하나의 출력 경계를 제시하며, 중첩 튜플도 포함되어 생성된 Module이 분석 가능해집니다. repeat_interleave는 입력의 Broadcast mesh를 유지합니다.

이 커밋은 PP, TP, EP, HSDP, FSDP를 비교하는 CUDA 케이스를 추가했습니다. 생성된 모듈은 CLI로 기록되고, 다시 로드되며, 자동 미분 결과와 대조되고 실측됩니다.

출처: https://github.com/tile-ai/TileFoundry/pull/356

3.5 새 목표 네 건 개설: DSAPaged bf16, AvgPool1d, DeltaNet, Mamba

모니터링 기간 내 TileOPs에 형상과 목표 배율을 갖춘 작업 항목 네 건이 새로 개설되었습니다.

#3049는 DSAPaged의 bf16 행이 DeepSeek-V4-Flash에서 FlashMLA를 따라잡을 것을 요구합니다. 해당 항목은 이번 기간에 머지된 #3048과 대응하며, 「먼저 목표를 세우고, 그다음 구현을 머지」하는 순서에 속합니다.

#3051은 가장자리가 잘린 AvgPool1d 윈도우를 처리합니다. 방식은 데이터를 레지스터로 읽어들이고, block을 절약할 수 있을 때 하나의 SM이 하나의 block만 발행하도록 하는 것입니다.

#3054는 DeltaNet의 chunk 입력이 스트라이드 텐서를 받아들이도록 요구합니다. #3013은 CausalConv1dFwdOp와 CausalConv1dUpdateFwdOp에 팽창 컨볼루션과 float32 필터를 추가했습니다.

또한 #3052는 유지보수성 머지로, 주석과 문서만 보강합니다. W4A16의 메타데이터 윈도우가 왜 단일 소비 warpgroup에만 적용되는지 설명하고, 선택기의 128, 256, 512 폭 K tile과 명시적 384 폭 K tile을 docstring에 작성했습니다.

해당 커밋은 동시에 회귀 테스트를 하나 추가해 그룹 수 검사를 고정했다. 작성자가 해당 검사를 제거했을 때의 결과를 제시했다. 명시적 384 폭 설정은 잘못된 결과를 반환하며, 1x128x36864, split 24에서 상대 오차는 0.457이다.

출처: https://github.com/tile-ai/TileOPs/issues/3049

3.6 TileKernels와 FlashQLA는 모니터링 기간 내 커밋 없음

채택 측 두 저장소 모두 모니터링 기간에 포함되지 않는다. deepseek-ai/TileKernels의 마지막 푸시는 10-14, QwenLM/FlashQLA는 10-30이다.

문서 사이트 측에서 TileOPs.github.io의 모니터링 기간 내 커밋 수는 0이다. tilelang.github.io에는 Update docs 한 건이 있다(11-19 13:45). 두 곳 모두 기술적 진전을 구성하지 않으며, 사이트 유지보수 기록으로만 남는다.

출처: https://github.com/tile-ai/tilelang.github.io/commit/dc1d73c9

4. 커뮤니티, 튜토리얼 및 활동

4.1 뉴스 측 공백: 중·영문 5개 쿼리 관련 보도 없음

자동 수집이 모니터링 기간 내 후보 4건을 추출했다. 건별 검증 후 사용 가능한 항목은 없었다. 그중 3건은 저장소 자체의 페이지 항목(tilelang, TileFoundry, tilelang-hygon)으로, 수집 단계에서 저장소 메타데이터를 뉴스로 오인한 것이다. 네 번째는 riscv.org의 Infineon AURIX RC1 관련 Q&A로, TileLang과 무관하다.

추가로 Google News 5개 쿼리를 조회했다. 영문 TileLang when:2d, "TileLang" compiler when:3d, tile-ai TileOPs when:3d는 모두 빈 항목을 반환했다. 중국어 TileLang when:2d는 비어 있었고, TileLang 算子 when:3d는 한 대학의 챌린지컵 수상 기사만 적중했으며 주제와 무관하다. Hacker News에는 모니터링 기간 내 항목이 없다.

출처: 관련 보도 없음.

4.2 조직 활동도: 하루 23건 병합, 메인 저장소 스타 9006

조직의 30개 저장소 중 모니터링 기간 내 푸시된 것은 8개다. 상위 5개는 tilelang, TileOPs, tilelang-mlir-ascend, TileFoundry, tilelang-hygon이다. 나머지 3개는 tilelang.github.io, TileOPs.github.io, TileOPs-nightly다.

병합 23건으로, 저장소별로는 TileOPs 16, tilelang 2, MLIR Ascend 3, TileFoundry 1, Hygon 1이다. 심사 중 갱신 20건은 주로 새로 열린 버그 수정과 Ascend 릴리스 파이프라인에 집중되어 있다.

새로 열린 이슈 7건. 그중 TileOPs 2건(성능 목표 1건, MoE 결함 1건), TileFoundry 3건, topa 1건, tilelang 1건이다. 메인 저장소 스타는 9006으로, 이전 회차 9001 대비 5 증가했다.

출처: https://github.com/tile-ai/tilelang

5. 트렌드 관찰

  • 인터페이스 파괴에는 후속 대체가 동반된다: 11-18에 기존 mHC 연산자 두 개를 삭제하고 API 파괴로 등록했으며, 11-19에 대체 연산자 세 개가 전부 병합됐다. 대체 PR은 삭제 이전에 이미 열려 있었고, 중간 상태는 하루만 유지됐다.
  • 양자화 정렬은 비트 단위 일치를 기준으로 한다: FP4 그룹 양자화는 DeepSeek-V4-Flash의 fp4_act_quant와 비트 단위로 동일해야 한다. FP8 경로는 동일한 group_quant.py를 공유한다. 수용 기준은 오차 범위가 아니라 비트 수준 동등성이다.
  • 성능 최적화는 형상별 튜닝에서 선택기 규칙으로 전환 중이다: #3045는 하나의 규칙으로 302개 모델 형상을 커버하며, 단 한 건도 느려지지 않을 것을 요구한다. 이 요구는 단일 지점 속도 향상보다 충족하기 어렵지만, 장기적으로 유지하기는 더 쉽다.
  • Ascend 두 라인의 분업이 명확하다: MLIR 노선은 연산자별 방언을 계속 확장하며 하루 세 건, 메인 저장소는 릴리스와 CI 엔지니어링으로 전환해 OBS 라운드, 야간 NPU 스모크, 튜닝 스킬을 같은 주에 추진한다. 전자는 표현 범위를 넓히고, 후자는 사용 진입 장벽을 낮춘다.
  • TileFoundry는 「컴파일 가능」에서 「양자화 가능」으로 나아간다: PP, TP, EP, HSDP가 동일한 분석기에서 비교되고, 슬라이스 mesh의 Reshard가 복사 비용으로 계산되기 시작한다. 비용 모델이 신뢰할 수 있게 되면 역으로 프런트엔드 선택에 영향을 미친다.

부록: 자료 및 검증 설명

출처 검증표

출처 검증 결과
GitHub tile-ai 저장소별 검증 30개 저장소, 모니터링 기간 내 푸시 8개; 메인 브랜치 실증가 TileOPs 16, tilelang 2, TileFoundry 1, Hygon 1
MLIR Ascend 브랜치 검증 3건 mlir-dialect에 병합, 해당 main은 11-04 이후 변동 없음
조직 수준 병합 실측 조회 병합 23건: TileOPs 16, tilelang 2, MLIR Ascend 3, TileFoundry 1, Hygon 1
조직 수준 심사 중 조회 심사 중 및 갱신 20건, Ascend 릴리스 파이프라인, 레이아웃 및 TMA 수정, 신규 연산자 제안에 집중
신규 오픈 issue 7건: TileFoundry 3, TileOPs 2, topa 1, tilelang 1
릴리스 및 태그 tilelang v0.1.15, TileOPs v0.1.0, MLIR Ascend v0.1.2.020, 모니터링 기간 내 신규 태그 없음
뉴스 측 후보 4건 전부 사용 불가; Google News 중영문 5개 쿼리 보도 없음; HN 항목 없음
채택사 저장소 TileKernels 최종 푸시 10-14, FlashQLA는 10-30, 모두 모니터링 기간 외
문서 사이트 tilelang.github.io 1건 Update docs; TileOPs.github.io 모니터링 기간 내 0건
TileLang×RISC-V 4개 출처 변동 없음, 이전 회차 기록과 일치

전체 출처 목록

le-ai/tilelang/pull/4016>

검증 설명

기준: 모니터링 기간은 베이징 시간 11-19 07:00부터 11-20 07:00까지입니다. 저장소 커밋은 일괄적으로 committer 시간 기준으로 집계하며, 먼저 이전 회차 마감 시점과 대조한 뒤 신규 여부를 판정합니다. MLIR Ascend의 병합은 mlir-dialect 브랜치에 있으며, main은 11-04부터 변경되지 않았으므로 본문에서는 브랜치를 명시하여 서술하고 이를 메인 브랜치라 칭하지 않습니다.

TileOPs의 16건 병합과 조직 수준 검색의 총 23건은 건별로 일치하며 중복 집계는 없습니다. 심사 중 항목은 각각 개설 날짜와 최근 업데이트 날짜를 표기하여 오래된 제안을 당일 신규 개설로 기재하지 않도록 합니다. #1760, #3924, #4012, #4016은 모두 본 모니터링 기간 이전에 개설되었으며, 본문에 개설 날짜를 명시하고 모니터링 기간 내 진행 상황만 집계했습니다.

수집 과정에서 모니터링 기간 말미에 미인증 GitHub API 속도 제한에 도달했습니다. 브랜치와 태그 정보는 Atom 피드 및 검색 API로 재확인했으며 결론에는 영향을 미치지 않았습니다. RISC-V 4개 출처 점검 결과는 비어 있었으며, 변경 없음으로 처리하고 수집 실패로 간주하지 않습니다. 뉴스 측은 5개 쿼리로 재확인한 결과 빈 구간임을 확인했으며, 빈 결과를 수집 장애로 추정하지 않았습니다.