FlagOS 데일리 리포트 (2026-11-18)
모니터링 기간: 2026-11-17 06:00 ~ 2026-11-18 06:00 (베이징 시간, 24시간; 직전 데일리 리포트 마감 시점에서 이어짐).
출처: GitHub(org: flagos-ai 64개 저장소 전수 점검, 기간 내 커밋 146건, 병합된 PR 201건, 기간 내 업데이트된 심사 중 PR 279건, 20개 저장소 푸시, 31개 저장소 Release 및 8개 저장소 Tag 원자적 점검), Google News RSS(중영문 검색어 24조, 프록시 경유), HN Algolia, CSDN FlagOS 칼럼, Zhiyuan 커뮤니티, 회원사 원문 보도(상세는 부록 출처 목록 참조).
이번 호 인덱스
- 오늘의 핵심: FlagTree 0.7.1 정식 라인이 하룻밤 사이 Pingtouge와 Enflame을 보강, Enflame의 두 tops 라인 전면 세대 교체 (11-17~11-18)
- 오늘의 핵심: vLLM 0.32.0 애플리케이션 계층 5개 백엔드 동일자 개방, Ascend와 Pingtouge는 각각 한 곳의 업스트림 의존성에서 막힘 (11-17)
-
- 오픈소스 프로젝트 진행 상황(GitHub 동향)
- 1.1 조직 리듬: 20개 저장소 푸시, 커밋 146건, 병합 201건, 17시 한 시간에 20건 (11-17)
- 1.2 build-infra: Enflame 두 개 퇴역 라인을 연결 라인으로 교체, flagcx 빌더는 밤새 의존성 조정 (11-17~11-18)
- 1.3 FlagTree: Ascend 3.6.x 백엔드 이식 1286개 파일, Enflame TritonGCU 백엔드는 0.7.1까지 추종 (11-17~11-18)
- 1.4 FlagGems: MUSA 참조 정렬 55건이 8분 만에 병합, 285B 모델 프로파일이 벤치마크에 진입 (11-17)
- 1.5 FlagGems-vllm: DeepSeek-V4.1 디코딩 블록 선택과 Hygon INT8 출력 프로젝션 동일자 착지 (11-17)
- 1.6 FlagGems-sglang: batch12 연산자 17개 골격 저장소 입고, 경연 FP8 연산자 16건 병합 (11-17)
- 1.7 희소성, 비전 및 어텐션: NCIC 커널 최적화 3건 FlagSparse 진입, FlagCV 5단계 평가 보강 (11-17)
- 1.8 양자 라인: FlagQuantum 임베디드 Stim 샘플링 연결, FlagQAI 27건으로 연구 파이프라인 구성 (11-17)
- 1.9 프레임워크와 통신: Torch-FL Ascend 네이티브 호스트 파일럿 27개 항목 전부 통과, FlagCX MUSA 플랫폼 보강 (11-17)
- 1.10 심사 대기열: 신규 개설 104건, Mega 시리즈 융합 대형 연산자와 SiliconFlow 6개 백엔드 배치 심사 진입 (11-17)
- 오픈소스 프로젝트 진행 상황(GitHub 동향)
-
- 뉴스 보도와 생태계
- 2.1 채널 점검: 24조 조회에서 후보 16건, 컴포넌트명은 전부 제로 히트 (11-17)
- 2.2 인민일보 논평이 Open3D-PIMC를 CANN, MUSA와 병렬 언급, 금융계는 당일 해설 기사 게재 (11-17)
- 2.3 회원사: Moore Threads 훈련 측 어댑테이션 보강, MetaX와 Cambricon은 동일자로 SenseNova Loop-9B 수용 (11-17)
- 2.4 CSDN 칼럼: 가져오기 타임스탬프는 최신이나 기사 원문 날짜는 8월 말 (11-17)
- 뉴스 보도와 생태계
-
- 회원사와 백엔드 벤더 심층 분석
- 3.1 Enflame: 컴파일러, 빌드, 통신 3개 라인이 같은 날 움직임 (11-17)
- 3.2 Ascend: 단일 코어 융합 대형 연산자 2개가 1.34배와 1.18배 기록 (11-17)
- 3.3 Pingtouge: INT8 MegaMoE가 영속 커널 하나로 전문가 병렬 전 과정 수행 (11-17)
- 3.4 Moore Threads와 MetaX: mtml 하한선을 2.5.0으로 설정, MetaX는 베어런 CI 한 건 중단 (11-17)
- 3.5 Hygon과 Kunlunxin: BW1000은 FP8 가중치를 재사용해 INT8로 처리, Kunlunxin은 연산자별로 항목별 정리 (11-17)
- 회원사와 백엔드 벤더 심층 분석
-
- 요약
- 부록: 출처 점검표와 전체 출처 목록
오늘의 핵심: FlagTree 0.7.1 정식 라인이 하룻밤 사이 Pingtouge와 Enflame을 보강, Enflame의 두 tops 라인 전면 세대 교체 (11-17~11-18)
날짜: 2026-11-17 ~ 2026-11-18 출처: FlagTree 0.7.1+ppu3.6 · FlagTree 0.7.1+enflame3.6 · build-infra #1852 · FlagCX #712
- 두 개의 정식 태그: FlagTree는 11-17 18:23에
0.7.1+ppu3.6을, 11-18 01:16에0.7.1+enflame3.6을 생성했으며, 두 Release의 설명은 모두 한 줄pypi 0.7.1+…뿐으로, 체인지로그가 아니라 PyPI에 게시되었음을 표시하는 태그이다. - 계보 변화: Pingtouge는 이전에
0.7.1.dev1+ppu3.6(개발 라인)에 머물러 있었고, Enflame은 이전에0.7.0+enflame3.6에 머물러 있었는데, 두 커밋이 함께 이 두 백엔드를 0.7.1 정식 라인으로 끌어올렸다. 이로써 0.7.1 정식 버전은 ascend3.5, xpu3.6, ppu3.6, enflame3.6 네 개 백엔드를 포괄하며, 사전 릴리스 측은 여전히 a1 6개 백엔드와 a2 2개 백엔드가 병존하는 분할 출시 구도이다. - Enflame 세대 교체: build-infra #1852는 두 개의 퇴역 라인을 교체 라인으로 바꾸었다—
enflame-tops1.9.10(Zixiao C200 및 S60)을enflame-tops1.9.29로,enflame-tops1.10.6(L600)을enflame-tops4.1.6으로 교체했다. 변경 사항은 Base Containerfile의 새 deb와 새 드라이버 패키지,configs.yaml의 torch-gcu 및 pyefml 의존성,build-config.yml의 runner 이름 변경(tops1106은 1.9.29로, tops416은 4.1.6으로), 그리고backends.yaml에서 tops4.1.6을 해당 벤더의default_for_vendor로 설정한 것에 반영되었다. - 하나의 심볼릭 링크: 4.1.6 이미지에
/opt/triton_gcu를 새로 추가했는데, 그 이유는 FlagTree의toolkit.py가 이 경로로 컴파일러를 찾기 때문이다. 같은 커밋에서 topsaten 버전을 작업 브랜치의 3.8.20261111에서 Containerfile을 기준으로 한 4.1.20261111로 정정했다. - 통신 측 맞물림: FlagCX #712는 Enflame에 ECCL 디바이스 API 백엔드를 추가했다(디바이스 API 구현, 통신 traits, 플랫폼 traits, ECCL 및 TOPS 어댑터, 빌드 스크립트, +5629/-41, 21개 파일). 단일 머신 테스트 케이스
test_device_api_intra와test_device_ir_intra는 통과했으며, 머신 간 테스트 케이스는 “구현되었으나 테스트되지 않음”으로 명시되어 있다. build-infra 측 #1854는 두 Enflame 라인의 flagcx를 0.14.1로 고정했고, #1870은 ECCL 버전을 라인별로 선언하여 두 tops 라인이 하나의 ECCL 번호를 공유하는 것을 피했다. - 일정 의미: #1852의 설명에는 후속 작업이 이 PR에 포함되지 않는다고 명시되어 있다—먼저 두 백엔드의 FlagCX 휠을 출시하고, 이어서 base에서 runtime 이미지로 진행하며, 애플리케이션 계층은 잠시 보류한다. 즉, Enflame의 이번 라인 교체는 현재 “컴파일러와 빌드는 준비 완료, 런타임 이미지는 출시 대기”라는 중간 상태에 있다.
- 관찰: 라인 교체의 실제 비용은 버전 번호가 아니라 패키지와 심볼에 있다.
/opt/triton_gcu같은 경로 규약, topsaten 버전 번호가 어느 파일을 기준으로 하는지, ECCL 버전을 라인별로 선언하는 것은 모두 “동일한 코드가 여러 칩에서 실행된다”는 암묵적 계약이다. 하룻밤 사이에 세 곳이 동시에 조정되었다는 것은 이 백엔드 라인이 벤더 SDK의 추종자에서 커뮤니티가 자체 유지하는 빌드 노선으로 전환되고 있음을 보여준다.
오늘의 핵심: vLLM 0.32.0 애플리케이션 계층 5개 백엔드 동시 개방, Ascend와 Pingtouge는 각각 한 곳의 업스트림 의존성에 걸림 (11-17)
날짜: 2026-11-17 출처: build-infra #1851 · build-infra #1863 · build-infra #1872 · vllm-plugin-FL #703
- 오픈 범위: #1851은 nvidia-cuda13.3, amd-rocm7.2.4, ascend-cann9.2.1, iluvatar-corex5.0.1, thead-ppu2.1.0 다섯 개 라인에
deps_app.vllm0.32.0을 추가하며, 해당 애플리케이션 이미지 태그는2.3.0-0.5.0.dev0_g814b6d3.d20261117로 통일되었다. #1863은 별도로status_matrix.vllm0.32.0.yaml을 생성했으며, 다섯 백엔드 모두 미검증 상태이고 검증 스크립트의 VRAM 점유 파라미터를 0.6에서 0.4로 낮췄다(노드 VRAM 부족). - 하나의 하드 의존성: vLLM 0.32.0 라인은 0.5.0-dev 플러그인을 사용하는데, 해당 FlagGems 백엔드는
flaggems_vllm을 하드 import하면서도 이를 선언하지 않는다. 따라서 다섯 라인 모두flaggems_vllm==0.3.0.dev20261117을 명시적으로 포함한다. 이 버전은 당일에야 각 벤더 인덱스에 릴리스되었다. nvidia 라인에는numpy==1.26.4를 추가로 지정하는데, native 플러그인 휠의 설치 체인이 numpy를 2.x로 끌어올려 매트릭스 무결성 게이트를 트리거하기 때문이다. - Ascend 병목: #1872는 ascend의 changelog에 블로커를 기록했다.
flaggems_vllm==0.3.0.dev20261117에는 Ascend용 V2 샘플링 export가 없으며, 0.5.0-dev 플러그인은 npu에서 import 시 무조건install_ascend_v2_sampling_shims()를 호출하여v2_apply_penalties,v2_apply_temperature,v2_gumbel_rng세 심볼을 요구한다. 이 세 심볼은 FlagGems-vllm의codex/ascend-v2-sampling브랜치, 즉 아직 리뷰 중인 #1234에만 존재하며, 데일리 휠은 main을 빌드한다. 작성자의 결론은 명확하다. 더 새로운 데일리 패키지를 기다린다고 해결되는 문제가 아니며, Ascend 애플리케이션 이미지는 #1234가 머지될 때까지 기다려야 한다. - T-Head 병목: #1863은 thead 라인 검증 실패 원인이 플러그인 측 thead 벤더 적응 계층의 attention 구현 파일이
flash_attn_3._C를 하드 import하는 것인데 thead 런타임에 해당 모듈이 없기 때문이라고 설명하며, vllm-plugin-FL 측 수정이 필요하다고 밝혔다. 같은 날 #1868은 먼저flash_attn_3를 thead의 vllm 0.32.0 애플리케이션 의존성에 추가했는데, 이는 “의존성 먼저 보충하고, 플러그인의 import 수정을 기다리는” 2단계 접근이다. - 기록된 태그: amd-rocm7.2.4, iluvatar-corex5.0.1, thead-ppu2.1.0, nvidia-cuda13.3 네 개의 애플리케이션 이미지 태그는 bot이 changelog에 기록했다(#1864, #1865, #1869, #1874). ascend 라인은 블로커 기록만 있을 뿐 태그는 없다.
- 관찰: 애플리케이션 계층 오픈의 장점은 “실행 가능 여부”를 칸칸이 채울 수 있는 매트릭스로 분해한 것이다. 대가는 각 칸 뒤에 업스트림 브랜치가 매달려 있다는 점이다. 오늘 두 병목 모두 FlagOS 자체 코드 문제가 아니라 플러그인과 연산자 라이브러리 간의 심볼 계약 문제이며, 이런 문제는 매트릭스에 명시적으로 기록할 수만 있고 재시도로 덮을 수는 없다.
1. 오픈소스 프로젝트 진행 상황 (GitHub 동향)
1.1 조직 리듬: 20개 저장소 푸시, 146건 커밋, 201건 머지, 17시 단일 시간 20건 (11-17)
날짜: 2026-11-17 출처: flagos-ai 조직 · FlagGems · FlagGems-vllm
-
총량: 64개 저장소 중 20개가 모니터링 기간 내에 푸시가 있었음. 커밋 검색 146건 적중, 병합 PR 201건, 모니터링 기간 내 업데이트된 심사 중 PR 279건(그중 당일 신규 개설 104건), 조직 이벤트 100건(PushEvent 66, CreateEvent 13, DeleteEvent 10, PR 관련 4).
-
커밋 분포: build-infra 36, FlagQAI 27, FlagGems-sglang 24, FlagGems-vllm 17, FlagGems 16, FlagQuantum 12, FlagSparse 4, FlagTree 2, FlagAttention 2, optest·vllm-plugin-FL·Trident·FlagCX·Torch-FL·FlagTrain 각 1.
-
병합 분포: FlagGems 71, build-infra 36, FlagQAI 27, FlagGems-sglang 22, FlagGems-vllm 17, FlagQuantum 12, vllm-plugin-FL 4, FlagTree 2, FlagAttention 2, 나머지 8개 저장소 각 1(optest, Megatron-LM-FL, Trident, FlagTrain, sglang-plugin-FL, Torch-FL, FlagSparse, FlagCX).
-
시간 분포: 커밋 시각 기준으로 17시 20건이 최대치, 11시와 13시 각 14건, 14시 13건; 0시 이후에도 5건이 있어(build-infra의 검수 수정 4건과 새벽 마무리) 빌드 라인이 야간에도 계속 진행되었음을 보여줌.
-
신규 생성 및 정리: 모니터링 기간 내 신규 저장소 없음;
DeleteEvent10건은 Trident, FlagQuantum, build-infra, FlagGems의 임시 브랜치 정리에 분산되어 있으며 정상적인 마무리에 해당함.
1.2 build-infra: Enflame 두 개 폐기 라인이 교체 연결 라인으로 전환, flagcx 빌더는 밤새 의존성 조정(11-17~11-18)
날짜: 2026-11-17 ~ 2026-11-18 출처: build-infra #1852 · build-infra #1854 · build-infra #1870 · build-infra #1878
- 구성: 36건 머지, 전체 조직 당일 커밋의 약 5분의 1을 차지하며, 모두 세 가지 작업에 집중되었다 — Enflame 라인 교체(#1852, #1854, #1855, #1870, #1873, #1875), vLLM 0.32.0 애플리케이션 계층(#1850, #1851, #1863, #1864, #1865, #1868, #1869, #1872, #1874), 그리고 빌더와 문서 수정.
- 라인 교체 세부 사항: 오늘의 주요 사항 첫 번째 항목 참조; 추가로 기록할 만한 것은 #1852가 동시에 네 건의 구 라인 changelog와 생성된 설명 페이지를 삭제하고, 네 건의 게이트 대기 중인 changelog를 새로 추가한 것으로, 「구 페이지 오프라인, 신 페이지 대기」의 중간 상태에 해당한다.
- flagcx 빌더: Enflame 행 연속 네 건 수정 — #1859는
--no-deps로 torch와 torch-gcu를 별도로 설치, #1860은 torch 설치 전에 setuptools를 69.5.1로 고정, #1862는--pre를 제거하고 두 가지를 하나의 호출로 병합, #1873은 해당 행 자체의 triton 버전을 빌더에 고정. 이 몇 건을 종합하면 한 가지를 설명한다: Enflame 4.1.6의 의존성 폐쇄가 업스트림 PyPI의 기본 해석과 일치하지 않으므로 반드시 항목별로 명시적으로 고정해야 한다. - 검증 수정: 새벽 세 건(#1877, #1878, #1880)은 모두 「검증 단계 자체가 잘못 말하는」 문제를 수정 — 애플리케이션 이미지 검증 출력이 부정확, flagcx 휠은 런타임이 아니라 빌더에서 검증해야 함, 단계 2의 페이로드가 큰따옴표로 잘림. 이러한 수정은 산출물을 변경하지 않지만 매트릭스 채울 때 읽히는 것이 진짜 값인지 가짜 값인지를 결정한다.
- 릴리스 기록: bot이 vllm-plugin과 vllm-plugin-native 두 휠 릴리스(#1848, #1849) 및 flagcx 휠 릴리스(#1876)를 기록; Moore Threads 측 musa 행은 같은 날 08:25에 musa530 runner를 가리켰다(#1838).
- Moore Threads toolkit 계층: #1841은 mthreads의 toolkit 계층을 다시 선언하고
mtml >= 2.5.0의 하한을 제시. 근본 원인이 구체적으로 기술됨 — 호스트 머신의 mtml 2.4.2에는 베어libmtml.so만 있고 런타임이 찾는 것은libmtml_musa.so이며, 찾지 못해도 치명적이지 않고 컨테이너가 빈 디바이스 테이블로 시작하여 이미지가 손상된 것처럼 보인다; mtml 2.5.0이 해당 파일을 보충한 후 동일한 toolkit 2.1.0으로 여덟 개 디바이스를 주입할 수 있다. 검증 기록: worker33024(드라이버 5.3.0, mtml 2.5.0, toolkit 2.1.0)에서--runtime mthreads가 8개의/dev/mtgpu*를 제공,mthreads-gmi가 8장의 MTT S5000을 보고,torch.musa.device_count()가 8, matmul 실행 가능,MTHREADS_VISIBLE_DEVICES=0,1로 2개로 좁힐 수 있다. #1845는 이후 이 하한을 드라이버 5.3.0으로 제한했다.
1.3 FlagTree: Ascend 3.6.x 백엔드 1286개 파일 이식, Enflame TritonGCU 백엔드 0.7.1까지 추종 (11-17~11-18)
날짜: 2026-11-17 ~ 2026-11-18 출처: FlagTree #1637 · FlagTree #1619 · FlagTree #1675 · FlagTree #1676
- Ascend 이식: #1637은 Ascend NPU 백엔드를 Triton 3.6.x로 전면 이전했으며, +307349/-294, 1286개 파일로 compiler, driver, runtime, interpreter 4개 계층과 hint handler, dtype guard, op dtype config, npu_utils 등 지원 구성 요소를 포함한다. 컴파일러 측에는 SplitDataflow, ComputeBlockOpt, DynamicCVPipeline, TritonToLinalg, TritonToGraph, PlanComputeBlock, AllocMultiCache 등 십여 개의 pass가 포함되며, 테스트 측에는 200여 개의 연산자 수준 단위 테스트와 UB tuner 케이스가 보강되었다.
- Enflame 백엔드: #1619는 TritonGCU 백엔드를 업데이트했으며, +20069/-16757, 114개 파일로 triton_gcu300과 400의 lib 및 include, 백엔드와 TLE 테스트를 정렬하고, 레거시 gcu_intrinsics를 삭제하고, Combine38.td를 신규 추가하고, TLE-Raw의 tops 런타임, efshmem 및
test_tle_*케이스를 복원했으며, 빌드 측은 다중 Python 버전의 MLIR 임시 저장 방식으로 변경되었다. 이 커밋은 새벽의0.7.1+enflame3.6태그와 같은 라인의 전후 작업이다. - 검토 중 툴체인: #1675는 통합 설정 및 환경 스위치(
config.env중앙 집중 파라미터, PyTorch Profiler와 Eager 모드 전환 가능)를 제안하고, 셸 스크립트를 「메인 흐름 / 추상 메서드」 2계층 구조로 리팩터링하고, 연산자·형상·데이터 타입별로 CPU/GPU 시간을 집계하는getshape.py를 신규 추가했다(+1503/-0, 14개 파일). - 기타 검토 중: #1676은 Iluvatar의 SME 행 스트라이드 지원을 NVIDIA 비동기 복사에서 분리했다; #1679는 TLE 융합 스케일링 행렬 곱셈 덧셈 reduce-scatter 튜토리얼을 보강했다; #1673은 hcu3.6에서 FlagGems-vllm v0.2.0 베이스라인을 활성화했다; #1677은 MUSA 디버거 의존성을 런타임에 남겼다; #1678은 git-auto-commit-action을 v4에서 v7로 올렸다.
- 커뮤니티 거버넌스: community #168(FEP-0168, FlagTree 멀티플랫폼 지원 및 Triton API 호환)은 11-17 17:34에도 여전히 업데이트가 있었으며, 대응 브랜치
codex/fep23-flagtree-device-enablement-20261105는 모니터링 기간 내에 여러 차례 푸시되었다.
1.4 FlagGems: 55건의 MUSA 참조 정렬이 8분 만에 병합되었고, 285B 모델 프로파일이 벤치마크에 진입 (11-17)
날짜: 2026-11-17 출처: FlagGems #9334 · FlagGems #4916 · FlagGems #8526 · FlagGems #9160
- 규모와 집중도: 71건의 머지 중 55건이 lukatao에 의해 11:06부터 11:14까지 8분 만에 머지되었으며, 모두 MUSA 측의 테스트 참조 정렬입니다. 작성자는 「CPU 참조」를 통일된 수법으로 삼아
linalg_inv_ex,linalg_tensorinv, Cholesky 계열,slogdet,geqrf,orgqr(Householder 참조),determinant,solve_ex등을 선형대수 영역에서 일괄 보충했고, 양자화와 컨볼루션 측에서는 FP8 비교,quantized_max_pool3d출력 픽스처,conv_transpose3d의 미지원 케이스를 처리했습니다. - 모델 프로파일이 벤치마크로: #9334는 285B 모델의 연산자 프로파일링 결과를 벤치마크 형상 프로파일(
285B.yaml)로 만들어, 등록된 11개 연산자(mm, bmm, add, copy_, fill_scalar, mul, zeros, rms_norm, silu, silu_and_mul, softmax)를 포괄하며, 각 항목에 prefill과 decode의 GPU 시간 점유율과 호출 횟수를 포함하고,--model-profile스위치와 결과의 「Time Share (prefill/decode)」 열을 새로 추가했습니다. 데이터는 11-16에 8장의 H100 80GB, TP=8에서 수집한 프로파일링 보고서에서 나왔습니다. - 연산자와 백엔드: #8526은 Pingtouge PPU의 GEMM 테스트 형상과 레이아웃 커버리지를 갱신했고, #9160은
log10의 Triton autograd 역방향을 보충했으며, #7730과 #7401은 NVIDIA 측의_cast_Float와_sparse_coo_tensor_with_dims를 보충했고, #9067은 cuda에서addmm과act_quant의 런치 파라미터 불일치를 수정했으며, #9335는 MetaX가 갱신한 TLE 능력 API에 맞춰 W8A8 INT8을 수정했고, #9278은 Ascend의 mul 스칼라 및 연속 부하를 최적화했습니다. - 성능과 CI: #4916은 대규모 행 수에서 LayerNorm 역방향을 최적화했고, #8788, #9084, #9294는 Kunlunxin의 중첩 텐서,
masked_select역방향,max_pool3d정밀도를 수정하고thnn_differentiable_lstm_cell_backward,row_stack,padded_dense_to_jagged를 보충했으며, #9340은 일일 파이프라인을 01:30 CST로 변경했고, #9341은model_shapes를models_shapes로 이름을 변경했습니다. - 관찰: 하루 만에 「테스트 기준선」과 「실제 모델 형상」이 동시에 진전되었다는 것은, 이 라이브러리의 수용 기준이 「연산자 의미가 맞는가」에서 「실제 부하의 시간 점유율 아래에서 최적화할 가치가 있는가」로 전환되고 있음을 보여줍니다. 285B 프로파일의 의미가 바로 여기에 있습니다.
1.5 FlagGems-vllm: DeepSeek-V4.1 디코드 블록 선택과 Hygon INT8 출력 프로젝션이 같은 날 착수 (11-17)
날짜: 2026-11-17 출처: FlagGems-vllm #1197 · FlagGems-vllm #1192 · FlagGems-vllm #1177 · FlagGems-vllm #1280
- 디코딩 블록 선택: #1197 신규 후보 블록 선택 연산자
select_candidate_blocks_cooperative추가, vLLM의 DeepSeek-V4.1 디코딩 후보 블록 선택을 Triton 구현으로 이식(+1175, 7개 파일) — 각 행은 블록 내 최댓값(NaN 전파)으로 점수를 매기고, 최신 token을 포함한 블록을 고정하며, 유효 접두사 내에서 top-k를 선택하고, -1로 채우며 정렬하지 않음. 계층 구조는 업스트림과 동일: 두 개의 Triton 커널(점수 매기기, 마무리)을 직접 이식하고, 행 접두사 top-k는 우선 본 저장소의persistent_topk를 재사용(작성자는 현재 NVIDIA에서 더 빠른 Triton 백엔드라고 명시),cooperative_topk로 폴백; 지원 형상은 fp32 logits, 행 수 64 이하, k는 512/1024/2048, 블록 수는 4로 나누어떨어짐, 범위 초과 경로는 직접 예외를 발생시키고 torch 계산 폴백을 두지 않음, 35개 기능 테스트와 벤치마크 포함. - Hygon: #1192는 BW1000에
dsv41_o_proj추가 — FP8의wo_a에 INT8, 인플레이스 BF16 경로를 적용, 기존 FP8 가중치에서 정밀도를 바꾸는 것이 아니라 알고리즘을 바꾸는 것. - 융합과 통신: #1177은 TLE 융합 행렬 곱셈 및 reduce-scatter 추가,
symm_mem에 따라 디스패치; #1282와 #1227은 DeepSeek-V4의 qnorm, rope, kv-rope 전체 캐시 FP8 삽입 융합 연산자 보충(다중 플랫폼). - 백엔드별 패치: #1239 Ascend TLE의
mhc_pre를 mix-major 레이아웃으로 변경하고 테스트 정리; #1250은 min-p 필터링 추가 및 Hopper의 TLE 레이아웃 조정; #1252는apply_thinking_budget추가(융합 마커 캐시 업데이트); #1254는 Triton 3.7 이상 버전의 커널 시작 인자 불일치 수정; #1237 Moore Threads는 FP8 상태의 GDN 디코딩과 프리필 보충; #1280 T-Head는 PPU-ZW810E의cooperative_topk최적화; #1222는mhc_pre_broadcast연산자 추가; #1265는 285B 프로파일링 형상과 8개 연산자의 vLLM API 검증 보충; #1268과 #1276은 모델 프로필 옵션과 문서 보충; #1277은 metax-maca3720 베어런 CI 일시 중지; #1281은 vLLM API 부재 시 thinking_budget 수집 건너뜀. - 관찰: 이번 배치의 공통점은 「모델 형상에 따라 빠른 경로 선택」 — 디코딩 블록 선택은 행 수에 따라 등급을 나누고, o_proj는 가중치 정밀도에 따라 알고리즘을 바꾸며, thinking budget은 캐시 레이아웃에 따라 융합한다. 크로스 칩 스택의 차별화는 「지원 여부」에서 「동일 모델이 자사 카드에서 어느 경로를 선택하는가」로 이동하고 있다.
1.6 FlagGems-sglang: batch12 17개 연산자 골격 저장소 등록, 16건 경진 FP8 연산자 병합(11-17)
날짜: 2026-11-17 출처: FlagGems-sglang #392 · FlagGems-sglang #390 · FlagGems-sglang #371 · FlagGems-sglang #385
- 스켈레톤 저장소 반영: #392는 batch12의 17개 연산자를
sglang-ops의docs/tasks/batch12에서 본 저장소 규약으로 이관했으며, 각 연산자마다 참조 구현 1개, 정확성 테스트 1개, 벤치마크 1개,conf/operators.yaml기록 1건을配备하여 총 52개 파일입니다. dsa(act_quant,dequantize_k_cache_fast,quantize_k_cache_fast,triton_sparse_mla_fwd등 7개), kvcache(3개), attention(2개), quantization(2개), moe(2개), speculative(1개)를 포함합니다. 작성자는 이번 커밋에src구현이 포함되지 않음을 명확히 했습니다. Triton 구현이落地되기 전까지get_candidate는 ImportError를 발생시키고get_op는 None을 반환하며, 테스트와 벤치마크는 모두 건너뜁니다. 또한 원 저장소에서 Ascend, Kunlunxin, Enflame용 소프트웨어 FP8 shim을 제거했습니다. - 경쟁 채널: 17:37부터 18:05 사이에 16건의 경쟁 PR이 연속 병합되었습니다. c2flowDS 12건(absrobed BMM 연결 변환, 활성화 양자화, 페이지드 dequantize k cache, gather-dequant-requant FP8 페이지드, MLA KV 패킹 양자화, per-token-group 양자화 MLA 마스크, quantize k cache 고속/저속 두 버전, reshape-and-cache-flash, set MLA KV buffer FP8 양자화, swiglu OAI MXFP8 양자화, 희소 MLA 전방향), yzw1128 4건(dequantize k cache, FP8 per-token을 per-tensor로 변환, per-tensor 양자화 MLA, quantize k cache 분리 버전), 그리고 task180 경쟁 제출 1건(#372)이 있습니다.
- AMD 성능 3건: #371, #390, #391은 gfx1100 속도 향상을 대상으로 합니다.
fused_softmax_pool,per_group_transpose,ltx2_split_rotary,dsv3_fused_a_gemm,embedding_lora_a,apply_token_*시리즈, 그리고 MoE GEMM의 silu 확장 및 축소 재계산 경로입니다. - Enflame 병합: #385는
enflame_flagos브랜치를 병합했으며, 같은 날 build-infra의 Enflame 라인 교체와 같은 방향입니다.
1.7 희소성, 비전 및 어텐션: NCIC 3건 커널 최적화 FlagSparse 반영, FlagCV 5단계 평가 보완(11-17)
날짜: 2026-11-17 출처: FlagSparse #121 · FlagAttention #142 · FlagTrain #89 · FlagDNN #26
- FlagSparse: #121은 NCIC-AlphaSparse 계정에 의해 병합되었으며(+3371/-39, 21개 파일), 커밋은
cuad 105 opt,cuda sddmm opt,ascend spgemm opt3건으로 각각 CUDA의 샘플링 및 희소 행렬 곱, Ascend의 희소 일반 행렬 곱을 대상으로 합니다. - FlagCV: lukatao가 KernelGen 평가 항목 5건(bitwise_and, bitwise_not, flip, subtract, multiply)을 연속 개설했으며, 모두 평가 구성이며 연산자 구현은 아닙니다.
- FlagAttention: #142는 저장소 구조를 재정비했고(11-18 00:03 병합), #144는 NVIDIA 측 벤치마크 의존성을 구성했습니다. 심사 중인 2건은 방향이 명확합니다. #141은 Ascend용 MoBA 백엔드, #143은 T-Head 지원 Inkling FA4 상대 위치 어텐션입니다.
- FlagTrain: #89는
bias_geglu_impl을 네이티브 이중 매개변수 인터페이스에 정렬했습니다.此外 5건의 KernelGen이 심사 중입니다(Transformer Engine의 L2 정규화 역방향, Megatron의 MTP 손실 자동 스케일링, 멀티모달 회전 위치 인코딩, 가중 SwiGLU, 융합 Sinkhorn).此外 Ascendmulti_tensor_lion과multi_tensor_adam1건이 있습니다. - FlagDNN: #26은 Fedora 및 openEuler용 RPM 패키징을 보완했습니다(심사 중).
1.8 양자 라인: FlagQuantum 임베디드 Stim 샘플링 연결, FlagQAI 27건 연구 파이프라인 구축(11-17)
날짜: 2026-11-17 출처: FlagQuantum #1190 · FlagQuantum #1195 · FlagQAI #96
- FlagQuantum 규모: 12건 병합, 12건 커밋, 10:32부터 19:58 사이에 연속적으로 진행되었으며, 메인 라인은 두 가지—컴파일러 모듈을 책임별로 재구성(#1192, #1193에서 사양 재작성과 로직 스케줄링 분리), 그리고 오류 정정 및 시뮬레이션.
- 오류 정정 및 시뮬레이션: #1190은 Sparse Blossom 배치 디코딩을 패키징하고, #1197은 배치 처리 흐름에서 네이티브 Sparse Blossom으로 전환하며, #1201은 AI 프리디코더 평가도 배치화했다. #1195는 내장 Stim으로 위치 노이즈가 있는 샘플링을 수행하고, #1199는 외부 Stim 텍스트 실험이 내장 엔진에서 실행되도록 했다. #1194, #1196, #1198, #1200, #1202 다섯 건은 각각 오프라인 qfunc 내보내기와 배포 패키징, 합성 Bell 결과물의 사전 검사와 시맨틱, 지향 Bell 결과물, 바인딩 결과물의 배포 사전 검사를 다룬다.
- FlagQAI: 27건 병합은 모두 FlagQuantum 계정이 10:31부터 21:20까지 진행했으며, 주제는 「연구 파이프라인화」—Agent 트랜스크립트 읽기 위치 복원, 미읽은 답글 표시, 수치만 포함된 실험 결과 표시, Python 자동완성 출력, 회로 소스 코드 라인 표시, Agent 코드 미리보기, QAOA 결과의 비교 조작 위치, 활성 라운드 소요 시간, Jobs별 프로젝트 베이스라인 관리, 후보 수정의 등급 분류와 재검토, 재검토된 후보의 로컬 검증(#96), KMX 회로 리셋 슬롯 재사용.
- 관찰: 양자 라인은 「Agent 생성 → 수동 재검토 → 로컬 검증」을 상태를 가진 워크플로로 만들고 있으며, 이는 링크 상의 연산자 라이브러리 반복과는 다른 리듬이다. 전자는 기능 폐쇄성으로 승부하고, 후자는 커버리지와 성능으로 승부한다.
1.9 프레임워크와 통신: Torch-FL 어센드 네이티브 호스트 파일럿 27건 전부 통과, FlagCX MUSA 플랫폼 보완 (11-17)
날짜: 2026-11-17 출처: Torch-FL #846 · FlagCX #712 · FlagCX #722 · sglang-plugin-FL #155
- Torch-FL 어센드 호스트: #846은 실험적인 어센드 적응을 추가하며(+2232/-98, 35개 파일), 공유 native host ABI를 사용하고, 배포된 FlagTree NPU 로더와 원본 FlagGems 커널을 사용한다. 난점은 ABI에 있다—어센드는 CUDA의 포인터 배열이 아닌 패킹된 구조체를 사용한다: 불리언은 32비트, FP16/BF16 스칼라는 float 와이어 포맷, 논리 그리드와 워크스페이스와 락과 FFTS는 모두 컴파일러 메타데이터에 의존하며, ACL 현재 스트림의 소속 문제도 있다. 실측으로 910C에서 휠 설치 방식의 27개 일관성 테스트 케이스가 전부 통과했다(29.90초, 스킵 0건 오류 0건). CI 작업은
85b1fd8e에서 FlagTree 다운로드 재시도 소진으로 실패했으며, 재실행이 필요하다. 전체 모델 logits와 벤더 PyTorch 대비 0.8배 이상의 성능은 여전히 #833에 걸려 있다. - FlagCX 엔플레임: #712의 ECCL 디바이스 API가 병합되었으며, 자세한 내용은 오늘의 주요 사항 첫 번째 항목을 참조.
- FlagCX MUSA: #722는 심사 중이며, FlagCX 디바이스 API에 MUSA 플랫폼 지원(기본 백엔드)을 추가한다.
- sglang-plugin-FL: #155는 쿤룬신 백엔드를 SGLang 0.5.18로 업그레이드한다.
- vllm-plugin-FL: 4건 병합—#703은 vLLM 0.32의 Runner V2에 적응하고 전체 CI를 활성화(어센드 측), #694는 엔플레임의 M-RoPE 인터리브 세그먼트 마스크를 rotary_dim/2로 수정하고 비블록 FP8 체크포인트를 지원, #758은 엔드투엔드 스모크를 적응 게이트로 교체, #769는
cuda.yaml의 오래된 참조를 정리. - 기타: Megatron-LM-FL #221은 야간 보충 커버리지 스위트를 추가(megatron/core와 megatron/plugin 커버); Trident #6은 사용자 자체 LLVM_ROOT 지원; optest #49는 연산자 테스트의 백엔드 FlagTree 데일리 휠을 업그레이드.
1.10 심사 대기열: 104건 신규 오픈, Mega 시리즈 융합 대형 연산자와 SiliconFlow 6백엔드 일괄 심사 진입 (11-17)
날짜: 2026-11-17 출처: FlagGems-vllm #1286 · FlagGems-vllm #1287 · FlagGems-vllm #1274 · FlagGems-vllm #1283
- 총량: 심사 중 PR 모니터링 기간 내 279건 업데이트, 당일 신규 104건; 분포는 FlagGems 127, FlagGems-vllm 44, FlagTree 23, vllm-plugin-FL 17, FlagTrain 17, sglang-plugin-FL 10, FlagCX 10, FlagCV 5, FlagQuantum 4, 나머지는 산발적.
- Mega 시리즈: Ascend 두 건의 단일 코어 융합 대형 연산자(MegaGate, MegaMHC, 상세는 3.2), Pingtouge 한 건의 INT8 MegaMoE(상세는 3.3); 세 건의 공통점은 「라우팅, 게이팅, 전문가 연산, 정규화, 통신」 중 여러 단계를 하나의 영속 커널에 수용하고, 사전 바인딩된 컨텍스트로 런치와 워크스페이스를 재사용하는 것.
- SiliconFlow 배치: winfan1314가
[SiliconFlow]접두사로 일곱 건을 연속 개설 —triton_ihc_pre는 6개 백엔드를 커버하며 기존ihc_pre인터페이스를 유지, 그룹화된 Gemma RMSNorm의 행 수 간 재사용, Ascend 및 디코드/프리필 경로의 콜드 컴파일 시간 압축,gate_sigmoid_mul과 패키징 디코드의 CPU 참조 경합 감소. 이 배치의 특징은 「테스트와 벤치마크의 CPU 참조 경합」을 테스트 노이즈가 아닌 성능 문제로 다룬다는 점. - 연산자 갭: FlagGems 측 심사 중인 Pingtouge
conv2d, Ascendrouter_gemm, Iluvatar CoreX SDPA 포워드, Pingtouge가 제거된 TLE 파이프라인 이터레이터를tl.range로 교체, Hygon이 CUDA Graph 없이 BLAS 런치 오버헤드 감소, Kunlunxin이 SDPA 수학 경로를 2단계 Triton 커널로 전환. - 플랫폼 측: vllm-plugin-FL #766이 Tsingmicro를 vLLM 0.32의 0.5.0-dev 라인에 적응시킴; FlagBLAS #162가 Pingtouge와 Hygon을 위해 H100 그룹화 GEMM 베이스라인을 저장; flagtree-cpu #12와 #13이 TLE 최소 서브셋을 Triton 3.7로 이식하고 CPU libdevice의 hypot과 atan2를 보충.
2. 뉴스 보도와 생태계
2.1 채널 검증: 24개 쿼리 중 16개 후보, 컴포넌트명 전부 제로 히트 (11-17)
날짜: 2026-11-17 출처: Google News RSS · Hacker News · CSDN FlagOS 칼럼
- 쿼리와 히트: 24개 중영문 쿼리를 24시간 기간 내 중복 제거 후 16개 후보. FlagOS, FlagGems, FlagScale, FlagTree, FlagPerf, FlagCX, KernelGen, BAAI FlagOS, flagos-ai, 국산 컴퓨팅 파워 오픈소스 소프트웨어 스택 등 쿼리는 전부 제로 히트; 히트된 것은 Zhiyuan/BAAI 관련 7건, Enflame 3건, Moore Threads 2건, MetaX 2건, Tsingmicro 1건, Hygon 연산자 1건.
- 제외 기준: 제목 의미에 따라 세 가지 노이즈 제외 — 주식시장 및 섹터 시세 기사(예: 「컴퓨팅 파워 칩 개념 진동 하락」), Zhiyuan과 무관한 동음 오히트(「소스 측 직류 분산형 광저장 네트워크 지능형 제어 시스템」의 「소스」), 그리고 모델사 자체의 발표 기사. 제외 후 가용 항목은 2.2와 2.3에 병합.
- HN Algolia: FlagOS 8건, FlagGems 2건, BAAI 30건 히트했으나 제목과 본문 모두 본 프로젝트와 직접 매칭 없음, 키워드 광범위 히트에 해당.
- 결론: 뉴스 측은 여전히 멤버 기관의 자본 및 제품 소식이 주를 이루며, FlagOS 자체의 기술 서사는 계속 GitHub와 칼럼이 담당.
2.2 인민일보 논평이 Open3D-PIMC를 CANN, MUSA와 병렬 배치, 금융계 당일 해설 기사 게재 (11-17)
날짜: 2026-11-17 출처: 금융계 해설 기사 · 신화망 Open3D-PIMC 보도(배경)
- 논평 기준: 런민르바오의 최근 논평은 AI의 중소·영세 기업 확산을 논하면서 CANN, Open3D-PIMC, MUSA 세 가지 중국산 소프트웨어·하드웨어 기술 생태계를 병렬로 언급하며, 컴퓨팅-인메모리 일체화와 3D 집적 등 하드웨어 돌파와 소프트웨어 생태계의 지속적인 오픈소스 개방에 따라 AI 도입 문턱이 계속 낮아질 것이라고 보았다.
- 해설 기사 내용: 금융계 11-17 10:44 기사는 세 가지의 관계를 명확히 설명한다—CANN은 화웨이, MUSA는 Moore Threads에 속하며, Open3D-PIMC는 칭웨이즈넝(Qingwei Zhineng, CleanWave Intelligence)과 즈위안 연구원(BAAI)이 공동 발표하고 2026년 9월 중국 컴퓨팅 파워 대회에서 오픈소스로 공개한 세계 최초 3D 컴퓨팅 칩 대상 프로그래밍 모델 겸 소프트웨어 프레임워크로, 즈중 FlagOS의 차세대 3D 칩 대상 주요 방안 중 하나이기도 하다. 기사는 동시에 FlagOS의 규모 기준을 제시한다: 이미 20개 벤더, 30여 종 AI 칩에 적응했으며 GPU, NPU, DSA, RISC-V 등 아키텍처를 포괄한다.
- 기술 논리: Open3D-PIMC는 컴파일 최적화를 프레임워크에 내장하여 개발자는 데이터 분포와 작업 분할만 기술하면 각 사의 사설 명령어 집합이 플러그인으로 접속된다. 즈위안 AI 시스템 연구 책임자 먼춘레이(Men Chunlei)의 판단은 3D 칩 양산이 임박한 상황에서 컴파일 능력이 뒷받침되지 않으면 「선진 하드웨어, 저효율 소프트웨어」에 빠진다는 것이다.
- 기준 주의: Open3D-PIMC의 오픈소스 자체는 9월의 과거 사안으로, 본 조항은 논평과 해설로 인한 재노출이며 새로운 릴리스 사건에 해당하지 않는다. 기사 중 「20개 벤더 30여 종 칩」은 보도 기준이며, 컴포넌트 단위 통계(연산자 라이브러리가 포괄하는 벤더와 모델 수)와는 동일한 분모가 아니다.
2.3 멤버 기관: Moore Threads 훈련 측 적응 보완, MetaX와 Cambricon이 같은 날 SenseNova Loop-9B 수용(11-17)
날짜: 2026-11-17 출처: 제일재경(摩尔线程) · 제일재경(沐曦) · 매일경제신문(寒武纪) · SenseNova-Loop 저장소
- Moore Threads: Moonshot AI(月之暗面)가 2.8조 파라미터의 Kimi K3.1 Pro를 오픈소스로 공개한 후, Moore Threads는 MTT S5000과 MUSA 소프트웨어 스택 기반으로 훈련 적응을 완료하고 네이티브 FSDP2 멀티모달 훈련 경로를 구축하여 모델 로딩, 샤딩 스케줄링부터 그래디언트 동기화까지의 전체 체인을 연결했다(제일재경 11-17 19:24). 구분해야 할 점은 동일 모델의 Day-0 추론 적응은 11-06에 이미 발표되었고, 오늘 보완한 것은 훈련 측이다.
- MetaX: SenseTime SenseNova(商汤日日新) Loop-9B가 11-17 발표 및 오픈소스로 공개되자, MetaX는 Day 0 적응 완료를 선언하며 해당 모델 적응을 가장 먼저 완료한 중국산 컴퓨팅 파워 플랫폼이라고 밝혔다(제일재경 11-17 22:44).
- Cambricon: 같은 날 23:44에 동일 모델의 Day 0 적응 완료를 발표했다(매일경제신문).
- 모델 측 사실: SenseNova-Loop-9B는 약 9B 파라미터로, 24개 디코더 레이어를 두 번 반복 실행하여 32개 물리 레이어를 한 번의 전방 패스에서 56회 레이어 계산으로 확장한다. 이중 스트림 mHC로 잔차 스트림의 라우팅과 융합을 수행하고, 4개 레이어를 한 그룹으로 교차 선형·전체 어텐션, 512K 컨텍스트를 채택했으며, 공식에 따르면 4비트 가중치와 8비트 KV 캐시 하에서 256K 멀티모달 추론에 약 15GiB VRAM이 필요하며 첫날 AWQ 4비트 양자화 버전을 제공했다.
- 대조 관찰: 이중 스트림 mHC와 같은 하이퍼커넥션 구조는 FlagGems-vllm이 당시 진행 중이던
mhc_pre,mhc_post와 Ascend(昇腾) MegaMHC와 동일한 유형의 구조상 연산자 작업에 속한다. 양측이 이미 연동되었는지는 저장소와 공개 보도 모두 밝히지 않았으므로, 여기서는 아키텍처 트렌드 대조만 할 뿐 적응 선언으로 삼지 않는다.
2.4 CSDN 칼럼: 가져온 타임스탬프는 최신이지만 원문 날짜는 8월 말(11-17)
날짜: 2026-11-17 출처: CSDN FlagOS 칼럼
- 페이지 상태: 칼럼 첫 페이지에 43개 기사 링크가 있으며, 페이지상 타임스탬프에는 11-17 20:08 등 최근 값이 포함된다. 최신 세 건은 《FlagOS, 「뉴라이(牛来)」 모델을 더 많은 중국산 칩에서 구동: GLM-5.3-Flash Day0 적응 9종 AI 칩》《Qwen3.8-Flash-Next 발표 첫날 8종 AI 칩 적응》《영상 생성 추론 프레임워크 LightX2V 정식 FlagOS 접속》이다.
- 판정: 세 건의 카드 원문 날짜는 2026-08-27부터 08-28로, 역사 기사를 주제별로 재정렬해 게시한 것이며 당일 동향에 포함하지 않는다. 해당 칼럼의 최근 관행은 일관된다: 가져온 시간과 원문 발표 시간이 동기화되지 않으며, 둘이 충돌할 경우 원래 발표 시간을 기준으로 처리한다.
3. 멤버 기관 및 백엔드 벤더 심층 분석
3.1 Enflame: 컴파일러, 빌드, 통신 3개 라인 같은 날 움직임(11-17)
날짜: 2026-11-17 출처: FlagTree 0.7.1+enflame3.6 · build-infra #1852 · FlagCX #712 · vllm-plugin-FL #694
- 세 가지 사건: 새벽 01:16에
0.7.1+enflame3.6태그가 생성됨; 18:08부터 build-infra가 두 개의 tops 라인을 인계 라인으로 교체함; 10:26에 FlagCX가 ECCL 디바이스 API를 병합함. 세 사건은 각각 컴파일러, 빌드, 통신에 해당하며, 동일한 백엔드 라인의 위에서 아래로 이어지는 세 개 층임. - 부수 세부사항: 플래그 측
packaging/flagcx/backends.yaml에서 tops4.1.6을 해당 벤더의 기본값으로 설정하고, ECCL 버전은 행별로 선언함; vllm-plugin-FL #694는 Enflame 엔지니어가 제출했으며, M-RoPE 인터리브 세그먼트 마스크와 비블록식 FP8 체크포인트를 수정함 — 애플리케이션 측도 동시에 따라가고 있음을 보여줌. - 리스크 측면: 두 개의 tops 라인이 병행됨(1.9.29는 Zixiao C200과 S60, 4.1.6은 L600)은 빌드 매트릭스 조합이 두 배로 늘어남을 의미함; #1852는 애플리케이션 계층을 명시적으로 보류하고, 먼저 FlagCX 휠과 base에서 runtime 이미지까지 통과시키는데, 이 순서는 올바름 — 통신 라이브러리가 통하지 않으면 애플리케이션 계층 검증은 의미가 없음.
3.2 Ascend: 두 개의 단일 코어 융합 대형 연산자가 1.34배와 1.18배를 제시 (11-17)
날짜: 2026-11-17 출처: FlagGems-vllm #1286 · FlagGems-vllm #1287 · FlagGems-vllm #1239 · FlagTree #1637
- MegaGate: #1286은 910B를 위해 FlagTree TLE 단일 코어를 추가하여 BF16의 MoE 라우팅 프로젝션과 전문가 선택을 하나로 융합함 — Cube 코어는 FP32 누산 라우팅 logits를 수행하고, Vector 코어는 스코어링, 선택적 보정 바이어스 및 그룹 선택을 수행하며, top-k 전문가 번호와 정규화된 라우팅 가중치를 반환함;
prepare_mega_gate는 런처와 워크스페이스를 입력 형상, 라우팅 구성 및 NPU 스트림에 바인딩하고, 이후 매 호출마다 재사용함. 5개 모델 353개 형상에 걸친 평균 가속은 ACL Graph 1.336배, Eager 1.408배이며, 그중 DeepSeek V4 Flash의 106개 형상은 1.553배임. - MegaMHC: #1287은 mHC post, mHC pre 및 RMSNorm을 하나의 단일 코어로 융합하여 네 개의 잔차 스트림과 일반, 시프트 두 가지 실행을 지원함; 시프트 경로는 포함된
pre_mix를 사용하여 Cube가 다음 프로젝션을 계산하는 동시에 RMSNorm을 시작함. 63개 형상의 평균 가속은 ACL Graph 1.175배, 사전 바인딩된 컨텍스트의 Eager 1.182배이며, DeepSeek V4 Pro 단일 형상은 1.773배임; 사전 바인딩되지 않은 Eager는 0.648배에 불과하여, 이익이 순수 커널 연산이 아닌 런처와 워크스페이스 재사용에서 비롯됨을 보여줌. - 부수 사항: #1239는
mhc_pre에 mix-major 레이아웃을 적용하고 테스트를 정리함; #1637의 Triton 3.6.x 백엔드 이식은 이러한 TLE 단일 코어 유형에 컴파일러 기반을 제공함. - 관찰: 두 건 모두 “단일 코어 융합 + 컨텍스트 사전 바인딩”에 집중하고 있으며, 둘 다 ACL Graph와 Eager 두 가지 수치를 함께 제시함. Ascend에게 그래프 모드와 즉시 모드의 격차 자체가 제품 라인 정보임 — 동일한 커널이 두 모드에서 20% 이상 차이가 나므로, 배포 측에서 어떤 실행 방식을 선택하느냐가 이익에 직접 영향을 미침.
3.3 T-Head: INT8 MegaMoE가 영속 커널 하나로 전문가 병렬 전체 과정을 완료 (11-17)
날짜: 2026-11-17 출처: FlagGems-vllm #1274 · FlagGems #8526 · FlagGems-vllm #1280 · FlagTree 0.7.1+ppu3.6
- 단일 커널 범위: #1274는 PPU 백엔드에 INT8 전문가 병렬 MegaMoE를 추가한다(+4691/-8, 10개 파일). 상시 상주하는 FlagTree/Triton 커널 하나 안에서 토큰 디스패치, 두 차례의 전문가 GEMM, SwiGLU, INT8 가중치 재양자화, 크로스카드 쓰기 되돌림과 병합을 완료한다. 입력은 INT8 활성값과 전문가 가중치에 FP32 스케일링과 라우팅 가중치를 더한 것이고, 출력은 카드 내 BF16이다. 호출자는 재사용 가능한 컨텍스트, 대칭 피어 버퍼, 스트림 배리어를 제공한다.
- 스케줄링 전략: 8카드 워크로드는 전체 블록 디스패치로 처리하고, 대규모의 2카드 및 4카드 워크로드는 각 카드가 고속 경로를 충족할 때 부분 반환으로 처리한다. EP 그룹은 컨텍스트 초기화 단계에서 CUDA Graph 캡처보다 앞서 반환 레이아웃에 합의하며, 워크스페이스 정렬이 일치하지 않을 경우 전체 그룹이 라우팅별 반환으로 후퇴하여 각 카드가 동일한 피어 슬롯을 서로 다르게 해석하는 일을 피한다.
- 당일 동반 변경: #8526은 T-Head의 GEMM 테스트 형상과 레이아웃 커버리지를 갱신하고, #1280은 PPU-ZW810E의
cooperative_topk를 최적화한다. 새벽의0.7.1+ppu3.6태그는 백엔드를 개발 라인에서 정식 라인으로 끌어올린다. - 관찰: 디스패치, 두 단계 GEMM, 활성화, 양자화, 쓰기 되돌림, 병합을 하나의 커널에 압축하면 다수의 중간 물질화와 시작 오버헤드가 줄어드는 이점이 있지만, 컨텍스트 상태와 피어 버퍼의 일관성을 호출자가 보장해야 하는 비용이 따른다. 이것이 이번 변경이 거듭해 “레이아웃을 캡처 전에 정렬한다”고 강조하는 이유이기도 하다.
3.4 Moore Threads와 MetaX: mtml 하한선 2.5.0, MetaX는 베어 런 CI 한 건 중단(11-17)
날짜: 2026-11-17 출처: build-infra #1841 · build-infra #1845 · FlagGems #9335 · FlagGems-vllm #1277
- Moore Threads: mtml 2.5.0이 toolkit 계층의 최소 요구 사항이 되었고, 8카드가 한 번에 채워진다(상세는 1.2 참조). musa 행은 musa530 runner로 변경되었으며, FlagGems-vllm #1237은 FP8 상태의 GDN 디코딩과 프리필을 보완한다.
- MetaX: #1277은 metax-maca3720의 베어 런 CI 테스트를 중단하는데, 이는 불안정한 노드에 대한 수렴 조치다. FlagGems #9335는 MetaX가 갱신한 TLE 능력 API에 맞춰 W8A8 INT8 임포트를 수정하며, 심사 중인 항목으로는 ple_conv의 MetaX 백엔드(#1279)와 순수 Triton 기반 블록 레벨 top-k(#1289)가 있다.
- 관찰: 두 회사 모두 “환경 하한선”을 명시적으로 선언하고 있다. 한쪽은 mtml 버전, 다른 쪽은 노드 신뢰도다. 크로스 칩 스택의 일상적 손실은 상당 부분 이런 환경 차이에서 비롯되므로, 하한선을 빌드 설정에 적어 두는 것이 사후에 문제를 추적하는 것보다 저렴하다.
3.5 Hygon과 Kunlunxin: BW1000은 FP8 가중치를 재사용해 INT8로 처리, Kunlunxin은 연산자별로 항목별 정리(11-17)
날짜: 2026-11-17 출처: FlagGems-vllm #1192 · FlagGems #8788 · FlagGems #9294 · sglang-plugin-FL #155
- Hygon: #1192의
dsv41_o_proj는 BW1000에서 FP8의wo_a를 INT8로 처리하고 제자리 BF16 출력을 수행합니다. 이는 가중치 형식을 바꾸지 않고 연산 경로를 교체하는 것과 같습니다. 심사 중인 #9338은 CUDA Graph를 사용하지 않는 전제에서 BLAS 시작 오버헤드를 낮추려고 시도합니다. - Kunlunxin: 세 건의 수정이 저녁에 연달아 병합되었습니다. #8788은
nested_tensor_from_mask,masked_select역방향 및max_pool3d의 XPU 정밀도를 수정했고, #9084는thnn_differentiable_lstm_cell_backward를 보완했으며, #9294는row_stack,padded_dense_to_jagged및 Sobol 엔진 커버리지를 보완했습니다. 플러그인 측은 SGLang 0.5.18로 올라갔습니다. 심사 중인 #9330은 한 번의 커밋으로 다섯 개 XPU 연산자 정밀도 수정과 matmul 역방향 성능을 처리하며, #9325는 SDPA 수학 경로를 두 단계 Triton 커널로 변경합니다. - 관찰: Kunlunxin 라인의 리듬은 “연산자별로 하나씩 처리”하는 방식입니다. 하루에 서너 건, 건마다 하나의 연산자군입니다. 이런 작업은 headline을 만들지 않지만 모델이 실제로 실행될 수 있는지를 결정합니다.
4. 요약
- 버전 라인: FlagTree 0.7.1 정식 라인은 하룻밤 사이에 Pingtouge와 Enflame을 보완했습니다(
0.7.1+ppu3.6은 18:23,0.7.1+enflame3.6은 다음 날 01:16). 정식 버전은 ascend3.5, xpu3.6, ppu3.6, enflame3.6 네 백엔드를 커버합니다. Enflame의 두 tops 라인은 같은 날 세대 교체되어tops4.1.6이 해당 벤더의 기본이 되었습니다. - 빌드 라인: vLLM 0.32.0 애플리케이션 계층 다섯 백엔드가 동시에 개방되었고, 네 백엔드는 이미 이미지 태그가 기록되었습니다. Ascend는 V2 샘플링 심볼 부재(FlagGems-vllm #1234 심사 중)로 정체되었고, Pingtouge는 플러그인의 하드 import
flash_attn_3로 정체되었습니다. 두 곳 모두 FlagOS 자체 코드 문제는 아닙니다. - 연산자 라인: FlagGems 71건 병합 중 55건은 MUSA 테스트 참조 정렬이며, 285B 모델 프로파일이 기준에 들어갔습니다. FlagGems-vllm 17건은 DeepSeek-V4.1 디코딩 블록 선택, Hygon INT8 출력 투영 및 각 백엔드 수정을 커버합니다. FlagGems-sglang은 batch12의 열일곱 연산자를 골격으로 만들고 16건의 경쟁 FP8 연산자를 병합했습니다.
- 프런트엔드 라인: Torch-FL의 Ascend 네이티브 호스트 파일럿은 910C에서 27개 일관성 테스트 케이스를 모두 통과했지만, CI가 FlagTree 다운로드 실패로 재실행이 필요합니다. FlagCX는 Enflame ECCL 디바이스 API를 보완했고, MUSA 플랫폼 지원은 심사 중입니다.
- 생태계 측: 뉴스 면은 계속해서 회원사 제품과 자본 소식이 공급합니다. Moore Threads는 Kimi K3.1 Pro 학습 측 적응을 보완했고, MetaX와 Cambricon은 같은 날 SenseNova Loop-9B를 받아들였습니다. 인민일보 논평은 Open3D-PIMC를 CANN, MUSA와 나란히 언급하여 FlagOS의 공동 구축 노선이 주류 매체 담론에서 한 번 더 노출되었습니다.
- 위험과 할 일: Ascend 애플리케이션 이미지는 #1234를 기다리고, Pingtouge는 플러그인 import 수정을 기다리며, Enflame 애플리케이션 계층은 FlagCX 휠과 런타임 이미지를 기다리고, Torch-FL의 CI는 재실행이 필요합니다. 이 네 항목은 모두 타인 브랜치나 후속 빌드에 있으므로 데일리 리포트는 “차단은 이미 기록됨, 다운스트림 대기”로 기록합니다.
부록: 출처 검증표와 전체 출처 목록
출처 검증표
| 출처 | 검증 결과 |
|---|---|
| GitHub org(flagos-ai) | 64개 저장소 전수 검증, 20개 저장소 모니터링 기간 내 푸시, 146건 커밋, 201건 병합, 279건 심사 중 업데이트, 104건 신규 오픈 |
| Release / Tag 원자 검증 | 31개 저장소 Release, 8개 저장소 Tag 스캔. 모니터링 기간 내 신규 정식 태그 두 개(0.7.1+ppu3.6, 0.7.1+enflame3.6) |
| Google News RSS(24개 쿼리, 프록시 경유) | 후보 16건. 컴포넌트명 전부 제로 히트. 사용 가능 항목은 회원사 제품과 자본 소식 |
| HN Algolia | FlagOS 8건, FlagGems 2건, BAAI 30건, 제목 직접 일치 없음 |
| CSDN FlagOS 칼럼 | 11-17 가져오기 타임스탬프가 있으나, 기사 원문 날짜는 2026-08-27~08-28로 재배포에 해당 |
| Zhiyuan BAAI 커뮤니티 hub | 홈페이지와 검색 페이지 접근 가능, FlagOS 컴포넌트 항목 없음 |
| 회원사 원사이트 | Moore Threads, MetaX, Cambricon, Qingwei 네 건의 제품 측 소식 모두 원사이트에서 날짜와 요점 확인 완료 |
| 인민일보 논평과 해설 | 금융계 11-17 기사가 논평 논조를 완전히 인용, Open3D-PIMC 배경은 신화망 9월 보도로 검증 |
한계 설명: 이번 기간 GitHub 측은 커밋 검색, 병합 PR 검색, 조직 이벤트 세 채널 교차 검증으로 수집했으며, 심사 중 PR의 병합 시간은 통계에 포함하지 않습니다. FlagTree 두 Release의 설명은 PyPI 마커일 뿐 변경 로그를 포함하지 않으며, 버전 내용은 해당 PR(#1637, #1619)과 태그 계보로 추정했습니다. 뉴스 측 컴포넌트명 제로 히트는 일상적이므로 “뉴스 없음이 곧 진전 없음”이라는 추론은 하지 않습니다. CSDN 칼럼의 가져오기 시간과 원문 날짜가 불일치하므로, 충돌 시 원래 게시 시간을 기준으로 처리합니다. 오늘의 중점 중 모델 아키텍처와 연산자 라이브러리 대조는 추세 관찰일 뿐이며, 양측이 이미 연동을 완료했음을 의미하지 않습니다.
전체 출처 목록
- [1] FlagTree 0.7.1+ppu3.6(릴리스) — https://github.com/flagos-ai/FlagTree/releases/tag/0.7.1%2Bppu3.6
- [2] FlagTree 0.7.1+enflame3.6(릴리스) — https://github.com/flagos-ai/FlagTree/releases/tag/0.7.1%2Benflame3.6
- [3] build-infra #1852(Enflame tops 라인 세대 교체) — https://github.com/flagos-ai/build-infra/pull/1852
- [4] build-infra #1851(vllm 0.32.0 5개 백엔드 애플리케이션 계층 진입) — https://github.com/flagos-ai/build-infra/pull/1851
- [5] build-infra #1863(vllm 0.32.0 상태 매트릭스) — https://github.com/flagos-ai/build-infra/pull/1863
- [6] build-infra #1872(Ascend vllm 0.32.0 업스트림 블로킹) — https://github.com/flagos-ai/build-infra/pull/1872
- [7] build-infra #1841(mthreads toolkit 계층과 mtml 하한선) — https://github.com/flagos-ai/build-infra/pull/1841
- [8] build-infra #1845(mtml 하한선 드라이버 5.3.0 한정) — https://github.com/flagos-ai/build-infra/pull/1845
- [9] build-infra #1854(Enflame flagcx 0.14.1 고정) — https://github.com/flagos-ai/build-infra/pull/1854
- [10] build-infra #1870(ECCL 버전 Enflame 행별 선언) — https://github.com/flagos-ai/build-infra/pull/1870
- [11] build-infra #1868(thead vllm 애플리케이션 의존성 flash_attn_3 보완) — https://github.com/flagos-ai/build-infra/pull/1868
- [12] build-infra #1878(flagcx 휠 빌더 내 검증) — https://github.com/flagos-ai/build-infra/pull/1878
- [13] FlagTree #1637(Ascend Triton 3.6.x 백엔드 이식) — https://github.com/flagos-ai/FlagTree/pull/1637
- [14] FlagTree #1619(Enflame TritonGCU 백엔드 업데이트) — https://github.com/flagos-ai/FlagTree/pull/1619
- [15] FlagTree #1675(통합 구성 및 프로파일링 툴체인) — https://github.com/flagos-ai/FlagTree/pull/1675
- [16] FlagTree #1676(Iluvatar SME 행 스트라이드 분할) — https://github.com/flagos-ai/FlagTree/pull/1676
- [17] FlagGems #9334(285B 모델 프로파일 벤치마크 추가) — https://github.com/flagos-ai/FlagGems/pull/9334
- [18] FlagGems #4916(대규모 행 수 LayerNorm 역방향 최적화) — https://github.com/flagos-ai/FlagGems/pull/4916
- [19] FlagGems #8526(T-Head GEMM 테스트 형상 갱신) — https://github.com/flagos-ai/FlagGems/pull/8526
- [20] FlagGems #9160(log10의 Triton autograd 역방향) — https://github.com/flagos-ai/FlagGems/pull/9160
- [21] FlagGems #9294(Kunlunxin row_stack 등 커버리지) — https://github.com/flagos-ai/FlagGems/pull/9294
- [22] FlagGems #9335(MetaX W8A8 TLE API 적용) — <https://
github.com/flagos-ai/FlagGems/pull/9335>
- [23] FlagGems-vllm #1197 (DeepSeek-V4.1 디코딩 블록 선택) — https://github.com/flagos-ai/FlagGems-vllm/pull/1197
- [24] FlagGems-vllm #1192 (Hygon BW1000 INT8 출력 프로젝션) — https://github.com/flagos-ai/FlagGems-vllm/pull/1192
- [25] FlagGems-vllm #1177 (TLE 융합 행렬 곱셈-덧셈 reduce-scatter) — https://github.com/flagos-ai/FlagGems-vllm/pull/1177
- [26] FlagGems-vllm #1280 (T-Head PPU-ZW810E의 cooperative_topk) — https://github.com/flagos-ai/FlagGems-vllm/pull/1280
- [27] FlagGems-vllm #1239 (Ascend mhc_pre mix-major 레이아웃) — https://github.com/flagos-ai/FlagGems-vllm/pull/1239
- [28] FlagGems-vllm #1286 (Ascend MegaGate, 검토 중) — https://github.com/flagos-ai/FlagGems-vllm/pull/1286
- [29] FlagGems-vllm #1287 (Ascend MegaMHC, 검토 중) — https://github.com/flagos-ai/FlagGems-vllm/pull/1287
- [30] FlagGems-vllm #1274 (T-Head INT8 MegaMoE, 검토 중) — https://github.com/flagos-ai/FlagGems-vllm/pull/1274
- [31] FlagGems-vllm #1283 (SiliconFlow triton_ihc_pre, 검토 중) — https://github.com/flagos-ai/FlagGems-vllm/pull/1283
- [32] FlagGems-vllm #1234 (Ascend Runner V2 샘플링 내보내기, 검토 중) — https://github.com/flagos-ai/FlagGems-vllm/pull/1234
- [33] FlagGems-vllm #1277 (metax-maca3720 베어 런 CI 일시 중지) — https://github.com/flagos-ai/FlagGems-vllm/pull/1277
- [34] FlagGems-sglang #392 (batch12 17개 연산자 골격) — https://github.com/flagos-ai/FlagGems-sglang/pull/392
- [35] FlagGems-sglang #390 (AMD gfx1100 성능) — https://github.com/flagos-ai/FlagGems-sglang/pull/390
- [36] FlagSparse #121 (NCIC의 cuad, sddmm 및 spgemm 최적화) — https://github.com/flagos-ai/FlagSparse/pull/121
- [37] FlagAttention #142 (저장소 구조 재정리) — https://github.com/flagos-ai/FlagAttention/pull/142
- [38] FlagAttention #141 (Ascend MoBA 백엔드, 검토 중) — https://github.com/flagos-ai/FlagAttention/pull/141
- [39] FlagAttention #143 (T-Head Inkling FA4 상대 어텐션, 검토 중) — https://github.com/flagos-ai/FlagAttention/pull/143
- [40] FlagTrain #89 (bias_geglu_impl 이중 파라미터 인터페이스 정렬) — https://github.com/flagos-ai/FlagTrain/pull/89
- [41] FlagQuantum #1190 (패키징된 Sparse Blossom 배치 디코딩) — https://github.com/flagos-ai/FlagQuantum/pull/1190
- [42] FlagQuantum #1195 (내장 Stim으로 위치 노이즈 샘플링) — https://github.com/flagos-ai/FlagQuantum/pull/1195
[43] FlagQAI #96(재검토 후보의 로컬 검증) — https://github.com/flagos-ai/FlagQAI/pull/96
- [44] Torch-FL #846(Ascend 네이티브 호스트 파일럿) — https://github.com/flagos-ai/Torch-FL/pull/846
- [45] FlagCX #712(Enflame ECCL 디바이스 API) — https://github.com/flagos-ai/FlagCX/pull/712
- [46] FlagCX #722(MUSA 플랫폼 지원, 리뷰 중) — https://github.com/flagos-ai/FlagCX/pull/722
- [47] vllm-plugin-FL #703(Ascend의 vLLM 0.32 Runner V2 적응) — https://github.com/flagos-ai/vllm-plugin-FL/pull/703
- [48] vllm-plugin-FL #694(Enflame M-RoPE 및 FP8 체크포인트 수정) — https://github.com/flagos-ai/vllm-plugin-FL/pull/694
- [49] sglang-plugin-FL #155(Kunlunxin, SGLang 0.5.18로 업그레이드) — https://github.com/flagos-ai/sglang-plugin-FL/pull/155
- [50] Megatron-LM-FL #221(야간 보충 커버리지 스위트) — https://github.com/flagos-ai/Megatron-LM-FL/pull/221
- [51] FlagDNN #26(Fedora 및 openEuler RPM 패키징, 리뷰 중) — https://github.com/flagos-ai/FlagDNN/pull/26
- [52] community #168(FEP-0168 FlagTree 멀티 플랫폼 지원) — https://github.com/flagos-ai/community/pull/168
- [53] Jingrongjie: Qingwei Zhineng Open3D-PIMC 및 인민일보 논평 해설 — https://finance.jrj.com.cn/2026/11/17104459165997.shtml
- [54] Xinhuanet: Open3D-PIMC, 국산 컴퓨팅 파워 소프트웨어 생태계 보완(9월 오픈소스 배경) — http://www.news.cn/finance/20260914/0aa70ce06a464f7fab31403fb884da96/c.html
- [55] Yicai: Moore Threads, Kimi K3.1 Pro 학습 적응 완료 — https://www.yicai.com/news/103444014.html
- [56] Yicai: MetaX, SenseNova Loop-9B Day 0 적응 완료 — https://www.yicai.com/news/103444279.html
- [57] NBD: Cambricon, SenseNova Loop-9B 적응 완료 — https://www.nbd.com.cn/articles/2026-11-17/4650764.html
- [58] SenseNova-Loop 저장소 설명(모델 구조 및 배포 조건) — https://github.com/OpenSenseNova/SenseNova-Loop/blob/main/README_CN.md
- [59] CSDN FlagOS 칼럼 — https://flagos.csdn.net/
- [60] flagos-ai 조직 홈페이지 — https://github.com/flagos-ai