Ежедневный отчёт TileLang (2026-10-13)
Окно мониторинга: 2026-10-12 07:00 ~ 2026-10-13 07:00 (пекинское время, 24 часа).
Источники: GitHub (полная проверка 29 репозиториев организации tile-ai, в окне было 9 репозиториев с коммитами: tilelang, TileOPs, TileFoundry, tilelang-ascend, tilelang-hygon, tilelang-sunrise, TileOPs-nightly, tilelang.github.io, TileOPs.github.io; в окне организации слито 20, открыто новых 41, обновлено в ревью 59; в основном репозитории 7 слитых, в TileOPs 10 слитых, TileFoundry #221 на месте, двойная миграция бэкенда Ascend NSA слита, продвижение Hygon трёх веток, 1 новый снимок ночного конвейера, 3 сборки основного сайта документации), проверка репозиториев сообщества (коммиты и релизы PTO-ISA SuperNPUBench, tilelang-debugger, аккаунт SwHwCodesign), множественные запросы Google News RSS на китайском и английском (через прокси), Hacker News, arXiv, проверка сайта документации и страниц релизов.
Индекс текущего выпуска
- Главное за сегодня: двойной удар по ROCm и завершение крупной миграции Ascend NSA — 10 коммитов TileOPs за день делают SM89 второй платформой (10-12 ~ 10-13)
-
- Прогресс ключевых проектов
- 1.1 Основной репозиторий: двойной коммит ROCm — DeepSeek NSA forward/decode и flash-decoding рабочие тайлы (10-13)
- 1.2 Основной репозиторий: thread_storage_sync точные границы потоков (#3291) и исправление #2954 (10-13)
- 1.3 Основной репозиторий: структурированный отчёт экспериментов Autotune, автоматическое назначение CodeRabbit и документация по спецификации тестирования (10-12 ~ 10-13)
- 1.4 Основной репозиторий: вендоринг помощника редукции CANN PTODSL SIMT (#3469) исправляет сборку CANN Weekly (10-12)
- 1.5 Основной репозиторий в ревью: SM120 MXFP8/MXFP4 block-scaled MMA, двухкоммитная работа по L2 prefetch и Host IR (10-12)
- Прогресс ключевых проектов
-
- Мультибэкендовая адаптация (Ascend / MetaX / Hygon / Moore Threads)
- 2.1 Ascend: две крупные миграции NSA Decode / NSA Bwd слиты — 48 многоуровневых тестов (10-12)
- 2.2 Ascend: открыт фикс группировки cross-warp allreduce (#3494) и пакет исправлений копирования/точности/кэша (10-12)
- 2.3 Hygon: продвижение ветки FP8 (432 TFLOPS), ветка обновления upstream v0.1.15 и конвейер регистрации (10-12)
- 2.4 Два коммита MLIR Ascend в ревью; Sunrise — только обновление зависимостей CI; MetaX / Moore Threads без изменений (10-12)
- Мультибэкендовая адаптация (Ascend / MetaX / Hygon / Moore Threads)
-
- Экосистема и потребители
- 3.1 TileOPs: пакет расширения платформы SM89 — GQA prefill/decode, GDN / DeltaNet и Norm (10-12)
- 3.2 TileOPs: пакет производительности foundry — NSA persistent CTA, W4A16 GEMM и 16-битное деление (10-12)
- 3.3 TileOPs: исправления линейного внимания — обход зависания TMA и пропуск состояния prefill GLA (10-12)
- 3.4 TileOPs в ревью: четыре подряд для SM89, пакет paged KV / кластера внимания и два коммита MoE (10-12)
- 3.5 TileFoundry: свойства операций парсера и лексические улучшения компоновки слиты (#221); независимый проект scaffold в ревью (#227) (10-12)
- 3.6 Ночной конвейер: новый снимок — корректность 1042 пункта (+10), бенчмарки 1947 пунктов (52 набора) без ошибок (10-13)
- 3.7 Потребители и документация: TileKernels / FlashQLA без изменений; 3 сборки основного сайта документации (10-12 ~ 10-13)
- Экосистема и потребители
-
- Сообщество, руководства и мероприятия
- 4.1 PTO-ISA: четыре коммита и два релиза SuperNPUBench (ops-20261012 / ops-20261013) (10-12)
- 4.2 Аккаунты сообщества: шесть заглушек AI-* в SwHwCodesign; TileLang-Awesome недоступен (10-12)
- 4.3 Медиа и академическая сфера: Google News / HN / arXiv без новых материалов в окне (10-12)
- Сообщество, руководства и мероприятия
-
- Наблюдения за трендами
- 5.1 Догоняющий ROCm: два исправления с учётом бюджета устройства
- 5.2 SM89 становится второй платформой: 6 слитых и 4 в ревью за день
- 5.3 Линия миграции Ascend переходит к завершению по корректности
- 5.4 Рост базы в период затишья релизов
- Наблюдения за трендами
- Приложение: материалы и пояснения к проверке
- Полный список источников
Главное за сегодня: двойной удар по ROCm и завершение крупной миграции Ascend NSA — 10 коммитов TileOPs за день делают SM89 второй платформой (10-12 ~ 10-13)
Дата: 2026-10-12, 2026-10-13 Источники: ROCm NSA (#3152) / ROCm flash-decoding тайлы (#3149) / Ascend NSA Decode (#1701) / Ascend NSA Bwd (#1730) / Список PR TileOPs / Ночной снапшот (6ec0d086)
За 24-часовое окно организация слила 20 коммитов (основной репозиторий — 7, TileOPs — 10, TileFoundry — 1, репозиторий адаптации Ascend — 2), открыто 41 новых; в 9 репозиториях были пуши, слияния шли в течение всего дня и сконцентрировались ближе к раннему утру 10-13 (4 слияния в основном репозитории пришлись на пекинское время раннего утра).
- Два коммита ROCm в основном репозитории зафиксированы: прямое/декодирующее направление DeepSeek NSA на стороне HIP переведено на однократный проход из 64 lane (#3152); ядро flash-decoding автоматически выбирает между тайлами 128x64 и 64x64 в зависимости от бюджета LDS/VGPR устройства (#3149) — соответственно исправлены «отказ block меньше волнового фронта» и «сбой запуска из-за превышения бюджета тайла» на gfx942 (подробности в 1.1).
- Два переноса NSA на Ascend слиты: Decode (#1701) и обратный проход (#1730) суммарно +2348 строк примеров, обе реализации Developer mode hybrid, приложены многоуровневые наборы тестов на 28 / 20 случаев (подробности в 2.1).
- 10 слияний TileOPs за один день: SM89 за день получил предзаполнение/декодирование GQA, предзаполнение GDN / DeltaNet, InstanceNorm и рефакторинг Norm; пакет производительности foundry (постоянный CTA NSA, W4A16, 16-битное деление) продвинулся в тот же день (подробности в разделе 3).
- Три ветки Hygon продвигаются: ветка новой функции FP8 MQA (коммит заявляет достижение 432 TFLOPS на channelwise GEMM), ветка апгрейда upstream v0.1.15 слила адаптацию, регистрационный конвейер #18 продолжает находиться на рассмотрении (подробности в 2.3).
- Ночной снапшот и документационный сайт: 1042 пункта корректности (на +10 больше, чем в прошлом отчёте), 1947 пунктов бенчмарков (52 набора) без единого сбоя; 3 сборки основного документационного сайта.
1. Прогресс ключевых проектов
1.1 Основной репозиторий: два коммита ROCm — прямое/декодирующее направление DeepSeek NSA и рабочие тайлы flash-decoding (10-13)
Дата: 2026-10-13 (слито в пекинское время раннего утра) Источники: ROCm NSA (#3152) / ROCm flash-decoding тайлы (#3149)
- DeepSeek NSA on ROCm (#3152, +111/-2): размер волнового фронта на gfx942 равен 64, TileLang отклоняет HIP block меньше волнового фронта, а два примера NSA жёстко задавали 32 потока; данный коммит выбирает одну волну из 64 lane для ядер прямого прохода и декодирования одного токена, сохраняет существующую в CUDA конфигурацию запуска с 32 потоками и добавляет покрытие корректности причинного прямого прохода и декодирования одного токена на gfx942 (в сравнении с эталоном PyTorch NSA, FP16, 16 Q-голов 1 KV-голова, последовательность 64).
- Адаптация тайлов flash-decoding (#3149, +82/-5): на gfx942 генерационному ядру тайла 128x64 требуется 66048 байт динамического LDS (превышает верхний предел устройства в 65536) и оно упирается в потолок 256 VGPR, что приводит к ошибке запуска «invalid argument»; данный коммит перед запуском проверяет занятость LDS и VGPR в сгенерированном HIP и откатывается к существующему тайлу 64x64 только при превышении бюджета (без жёсткого кодирования по имени устройства), путь CUDA не изменён, добавлена рантайм-регрессия для gfx942.
1.2 Основной репозиторий: точные границы потоков thread_storage_sync (#3291) и исправление #2954 (10-13)
Дата: 2026-10-13 Источники: Точные границы потоков (#3291)
- Вычисление точных границ потоков для
thread_storage_sync(4 файла, +292/-96), автор подтверждает, что #2954 исправляется этим коммитом; добавлены новые тестовые случаи, проверяющие «эквивалентные частичные потоковые guard-редукции сводятся к одному и тому же barrier», а также приложено сравнение продуктов компиляции до и после на SM89 (4060 Ti).
1.3 Основной репозиторий: структурированный отчёт об испытаниях Autotune, автоматическое назначение CodeRabbit и документ спецификации тестирования (10-12 ~ 10-13)
Дата: 2026-10-12, 2026-10-13 Источники: отчёт об испытаниях (#3393)/ автоматическое назначение CodeRabbit (#3487)/ спецификация тестирования (#3489)
- Отчёт об испытаниях Autotune (#3393, +98/-7): добавлен экспериментальный интерфейс-наблюдатель
AutoTuner.run(on_trial=...)(соответствует RFC #3375), выводящий по каждому испытанию индекс конфигурации, JSON-конфигурацию, результат, задержку, метку валидации и текст ошибки с ограничением; обратный вызов выполняется в агрегирующем потоке, вне блокировки общего кеша; ошибка отчёта/сериализации лишь закрывает данный отчёт и не влияет на тюнинг, при этом не изменяются генерация кандидатов, тайм-ауты и идентичность кеша. Автор отмечает, что «обратный вызов vs фиксированный артефакт JSONL» остаётся открытым решением по API. - Защитные ограждения ревью (#3487, +1/-1):
reviews.auto_assign_reviewersв CodeRabbit установлен в true, чтобы он действительно отправлял запросы на review (ранее он лишь перечислял предложения при обходе), 11 правил reviewer и их порядок остались без изменений. - Спецификация тестирования (#3489, 8 файлов): добавлено Testing Style Guide — когда полагаться на существующее покрытие, когда минимально расширять, когда добавлять сфокусированное покрытие;
tilelang-cpp-styleпереименован вtilelang-dev-guide, правила C++ переведены в справочный режим по требованию, CONTRIBUTING сокращён и снабжён ссылками.
1.4 Основной репозиторий: vendoring помощника редукции Ascend PTODSL SIMT (#3469) исправляет компиляцию CANN Weekly (10-12)
Дата: 2026-10-12 Источники: vendoring помощника редукции PTODSL (#3469)
- В upstream PTOAS удалён
ptodsl/_allreduce.pyс ожиданием, что TileLang выполнит vendoring самостоятельно, однако в основном репозиторииcontrib/ptodsl/simt.pyпо-прежнему ссылается на этот модуль — компиляция любого целевого оператора PTO с последним CANN Weekly (09-30) выдаётModuleNotFoundError; этот коммит выполняет vendoring помощника какtilelang/contrib/ptodsl/allreduce.py(+555/-115), объединяет совместимость целочисленных знаков из monkey patch в таблицу редукций и диспетчеризацию dtype, восстанавливая работоспособность цели PTO.
1.5 Основной репозиторий на рассмотрении: SM120 MXFP8/MXFP4 блочно-масштабируемая MMA, L2-префетч и два коммита по Host IR и др. (10-12)
Дата: 2026-10-12 Источники: SM120 MX блочно-масштабируемая MMA (#3495)/ L2-префетч (#3490)/ Host IR прямое подключение JIT (#3481)/ унификация исполнения Host IR (#3473)/ Windows ARM64 CI (#2962)
- #3495 (+884/-51):
T.gemm_blockscaledна SM120/SM121 расширяет семейство блочно-масштабируемых MMA с NVFP4 до MXFP8 (kind::mxf8f6f4, 1X, UE8M0) и MXFP4 (mxf4nvf4, 2X, UE8M0), накопление FP32, один масштаб на каждые 32 элемента K; продолжает расширение аппаратной матрицы вслед за включённым 10-10 SM121 (#3430). - #3490 (+87/-1): добавлен
tl.prefetch_l2(addr, eviction_policy=...), поддерживаются evict_normal / evict_last, требуется sm_80 и выше, CUDA codegen эмитирует политику как шаблонный параметр времени компиляции. - Два коммита Host IR (#3481 / #3473): прямой JIT Host IR с кэшированием, унификация исполнения CUDA и CuTeDSL через Host IR, продолжается рассмотрение.
- Прочее на рассмотрении: добавление Windows ARM64 в CI (#2962), хешируемая валидация параметров JIT (#3417), скалярная редукция частичной волны (#3478), безопасное разворачивание guard для положительного постоянного делителя (#3488), валидация комбинации cast (#3350), валидация имени дескриптора TMA (#3484) и др.
2. Мультибэкендовая адаптация (Ascend / MetaX / Hygon / Moore Threads)
2.1 Ascend: две крупные миграции NSA Decode / NSA Bwd влиты — 48 многоуровневых тестов (10-12)
Дата: 2026-10-12 Источники: NSA Decode (#1701) / NSA Bwd (#1730)
- #1701 (+755):
example_tilelang_nsa_decode.pyреализует одноядерное декодирование NSA (seq_q=1) в режиме Developer mode hybrid (четыре pass_configs: combineCV + auto_cv_sync + auto_sync + memory_planning), с явным распределением L1/L0C/UB и автоматическим выделением 5 сегментов GM workspace черезworkspace_idx=[6..10]; компилятор автоматически разделяет области Cube/Vector и вставляет межъядерную синхронизацию флагов (без ручных barrier/Scope/set_flag). 28 многоуровневых тестов: пороги L0, функциональность L1 (включая типовую конфигурацию DeepSeek-V3 D=128, S=16, BS=64), аномалии и граничные особые значения L2; измерения на 910B3, fp16 (B=2, SEQ_LEN=64). - #1730 (+1593):
example_tilelang_nsa_bwd.pyпредоставляет два JIT-ядра:nsa_fwd(онлайн softmax + выбор разрежённых K-блоков, для сквозного исполнения) иnsa_bwd_single(одноядерный обратный проход: 5 GEMM + softmax + Delta + dS с внутрикристальной fusion); обратный проход по парадигме flashattn_bwd использует прямой внутрикристальный T.copy (L0C→UB, UB→L1), исключая 9 GM workspace, и сохраняет двухуровневые компенсационные GEMM (ds_delta / ds_delta2); 20 многоуровневых тестов. Пакеты миграции обоих коммитов охватывают период около национального праздника, в данном окне они зафиксированы в ветке по умолчанию репозитория адаптации.
2.2 Ascend: открыт фикс группировки cross-warp allreduce (#3494) и пакет исправлений копирования/точности/кэша (10-12)
Дата: 2026-10-12 Источники: группировка cross-warp allreduce (#3494) / выравнивание точности примеров (#1867) / пример situ_glu_grad (#1877) / исправление copy_ub_to_gm (#1795)
- #3494(основной репозиторий, +145/-26, на рассмотрении):когда один cross-warp allreduce покрывает несколько независимых групп редукции, две цели ascend и pto отправляют результаты первой группы всем группам — это обратная связь по корректности, сообщённая сообществом после слияния #3469 (включая минимальное воспроизведение); исправление распределяет по группам; ритм линии Ascend «мигрировать партию — аудировать партию» выражен явно.
- Адаптационный репозиторий на утверждении:проверка точности примеров приведена к стандарту (#1867), пример оператора situ_glu_grad (#1877), исправление повреждения вывода редукции с keepdim из-за неспособности
copy_ub_to_gmвыразить компактные строки sub-32B (#1795); разделение кэша на три части (#1871–#1873: ключ JIT-специализации включает параметры тюнинга, ключ autotune выровнен по параметрам эффективного профиля, кэши NPU и симулятора разделены). - Кластер Ascend основного репозитория на рассмотрении:многобуферность SimdVF T.fill (#3455), SimtVF remat_idx / векторный gather pack (#3492), пострοчное одноэлементное сохранение редукции SimdVF dim=1 (#3437), cast на лету L0C fp32→f16/bf16 dual_copy (#3468 и #3328, два параллельных), независимое выполнение AIV (#3485), T.PersistentKernel и AutoPersistent (#3325), пример ручного FlashMLA (#3464), скалярный sqrt вне области видимости VF (#3466), PTO codegen для DeepGEMM (#3330), выбор цели примеров (#3474) и др.
2.3 Hygon: продвижение ветки FP8 (показатель 432 TFLOPS), ветка обновления upstream v0.1.15 и конвейер регистров (10-12)
Дата:2026-10-12 Источники:конвейер регистров (#18)/ ветка feat/hcu-mqa-fp8/ ветка upgrade/upstream-v0.1.15
- Конвейер регистров (#18):регистрация ветки
gcy_merge_main(49 файлов, +4144/-318), два обновления push в окне, продолжает рассматриваться — добавление конвейера регистров в бэкенд Hygon (в координации с конвейером разделяемой памяти) и warp-diverge при более чем 4 волнах; автор заявляет, что пример GEMM достигает уровня производительности эталонной библиотеки. - Ветка функции FP8
feat/hcu-mqa-fp8:цепочка коммитов охватывает MLS channelwise FP8 GEMM — с 10-10 коммит «достигнуто 432 TFLOPS», 10-12 дополнено «при M≤32 пропускная способность fp8 декодирующего GEMM превосходит hipblas» и сведены файлы и именование (все — авторские измерения внутри ветки, связь с PR пока не обнаружена). - Ветка обновления
upgrade/upstream-v0.1.15:10-12 слито «Merge upstream v0.1.15 and adapt HCU backend», бэкенд Hygon выровнен с основным репозиторием v0.1.15. - MetaX (последний push 09-24), Moore Threads (09-30) в этом окне без активности.
2.4 MLIR Ascend: две на рассмотрении; Sunrise — только обновление CI-зависимостей; остальные бэкенды молчат (10-12)
Дата:2026-10-12 Источники:параметризация T.Pipelined (#199)/ codegen FloorDiv / FloorMod (#200)/ tilelang-sunrise
- MLIR Ascend: поддержка параметров num_stages / stage / order / group в
T.Pipelined()на рассмотрении (#199); codegen FloorDiv / FloorMod в TileLangIR на рассмотрении (#200). - Sunrise (репозиторий бэкенда TANG для Sunrise S2/S3): в окне только два обновления CI-зависимостей от Dependabot на рассмотрении (upload-artifact, download-artifact), без изменений в коде.
- Остальные репозитории уровня организации (TileRT, tilescale, DeepStack, tilelang-puzzles и др.) в окне без коммитов.
3. Экосистема и стороны внедрения
3.1 TileOPs: пакет расширения платформы SM89 — префилл/декодирование GQA, GDN / DeltaNet и Norm (10-12)
Дата: 2026-10-12 Источники: D256 GQA-декодирование (#2529)/ dense GQA-префилл (#2528)/ GDN / DeltaNet-префилл (#2527)/ Исправление InstanceNorm (#2526)/ Рефакторинг конфигурации Norm (#2544)
- D256 dense GQA-декодирование (#2529): на SM89 открыто 256-мерное dense GQA-декодирование — сохранена схема разбиения 64×64, одна стадия, 128 потоков, 16 кандидатов разбиения занимают 98304 байта (ниже лимита SM89 в 101376); исключены кандидаты с одним split, сохранены кандидаты с двумя split для короткого KV; тесты расширены до 61 узла (+6), охватывают длину KV 1 / 63 / 2048. Измерено на RTX 6000 Ada.
- dense GQA-префилл (#2528, +260/-43): на SM89 добавлены FP16/BF16 и нативный FP8-префилл (переиспользовано упакованное внимание, размер головы 128), 14 примеров падали на main, в этом коммите проходят (10 FP16/BF16 + 4 FP8); сохранены прямоугольная маска, сгруппированные головы, пользовательский scale, softcap, RoPE и деквантование FP8; общая конфигурация по умолчанию и учёт видеопамяти, чтобы избежать дублирования реализации.
- GDN / DeltaNet-префилл (#2527, 11 файлов): переиспользованы chunk prepare и scan из KDA для реализации SM89-префилла, 21 пример общего префилла перешёл из «падает, нераспространяемо» в проходит; сохранены округление raw-beta, границы упакованных последовательностей, сгруппированные головы, FP32 начальное и конечное состояние и value-major раскладка состояния GDN; переиспользовано устойчивое треугольное решение, допуски для кейсов корреляционных ключей не ослаблены.
- Два коммита по Norm: #2526 исправляет компиляцию обучения InstanceNorm при пространственном входе 192×192 (шесть комбинаций batch / точности перешли из падения в прохождение, переиспользованы границы ширины и двухпроходное суммирование GroupNorm); #2544 переносит общую константу ширины сложения смещений (32768) в модуль конфигурации norm (все 87 примеров проходят, заявлений о производительности нет).
3.2 TileOPs: партия производительности foundry — персистентный CTA для NSA, W4A16 GEMM и 16-битное деление (10-12)
Дата: 2026-10-12 Источники: Персистентный CTA для NSA (#2531)/ W4A16 GEMM (#2534)/ 16-битное деление (#2543)
- Персистентный CTA для NSA-сжатия (#2531, +391/-2): на SM90
NSACompressedVarlenFwdOpпереведён на новое ядроNSACompressedFwdVarlenTMAKernel— старое ядро на пару (token, голова KV) использовало CTA из 32 потоков и перезагружало сжатые K/V на каждый token; новое ядро использует 512 персистентных CTA, каждый CTA проходит плитку из 64 строк (4 token × 16 голов), запросы идут через двухстадийный TMA-кольцевой буфер, блоки K/V запроса постоянно reside в разделяемой памяти, QK считается через n=16 SS WGMMA, PV — через n=64 RS WGMMA, O после чтения QK выгружается через TMA вместе с log-sum-exp; на каждый SM приходится четыре CTA по 48KB. - W4A16 GEMM (#2534, +24/-0):
_legal_configsограничивает плитку K значением не больше K, а глубину кольца — числом плиток K, K<512 больше не дополняется нулями; строки single-tile (K=128) и multi-tile (K=256) переведены на плитки 8x64 с K-плитками шириной 128/256 (две стадии), опережают деквантованное matmul из torch; остальные 13 строк конфигурации без изменений, 3 строки по-прежнему отстают (автор сам перечислил ограничения). - 16-битное деление (#2543, 9 файлов): Reciprocal и bf16 sigmoid переведены с деления IEEE float32 на быстрое деление
__fdividef(для bf16 версия с масштабированием диапазона), при 16M строк fp16/bf16 задержка 17.86 / 17.79 микросекунды, что составляет 1.02x от старой версии и 0.991x / 0.995x от torch-compile.
3.3 TileOPs: исправления линейного внимания — обход зависания TMA и пропуск состояния префилла GLA (10-12)
Дата: 2026-10-12 Источники: Загрузка состояния декодирования с одним тайлом (#2538)/ Пропуск состояния предзаполнения GLA (#2540)
- #2538 (+66/-6): на SM90 программа рекурсивного декодирования GLA / DeltaNet при
k_tile == dim_kпадает при первом запуске — TileLang 0.1.12 понижает копирование одношагового состояния до 1D пакетного копирования, producer которого при warp specialization никогда не достигает barrier; после перевода четырёх builder на загрузку без TMA любой k_tile, делящий dim_k нацело, может выполняться, поведение приk_tile < dim_kне меняется; в коде оставлен FIXME, обход будет снят после того, как TileOPs зафиксирует TileLang 0.1.13+. - #2540 (+77/-67): четыре реализации предзаполнения GLAFwdOp специализируются по
has_initial_state— при отсутствии начального состояния очищается локальный тайл рекурсии и используется непрочитанный скалярный заполнитель, что позволяет избежать выделения, обнуления и чтения всей тензорной заготовки начального состояния FP32; исходный код устройства при сборке с состоянием побайтово совпадает с main, публичный интерфейс и область диспетчеризации не меняются (закрывает #2380).
3.4 TileOPs на рассмотрении: четыре подряд для SM89, страничный KV / кластер внимания и два коммита MoE (10-12)
Дата: 2026-10-12 Источники: Четыре подряд для SM89 (#2546–#2549)/ varlen sinks и скользящее окно (#2537)/ PagedKVCacheWrite (#2539)/ masked FP8 групповой GEMM (#2521)/ DeepSeek групповой top-k (#2535)
- Четыре подряд для SM89 (#2546–#2549): время жизни состояния обратного прохода GLA, адаптация разделяемой памяти обратного прохода DeltaNet, слитное предзаполнение KDA, компактный построчный групповой GEMM MoE — покрытие SM89 расширяется от слитых коммитов до коммитов на рассмотрении.
- Страничный KV / кластер внимания (шесть коммитов): varlen GQA с головными sinks и конвейерным скользящим окном (#2537 — строки окна быстрее текущей лучшей базовой линии в 1.03–1.13 раза, смешение sink быстрее FlashInfer в 1.51–1.53 раза, частичный RoPE и две строки FP8 всё ещё ниже эталона); PagedKVCacheWriteFwdOp (#2539, рассеяние на месте по слотам вызывающей стороны, независимые масштабы K/V для FP8 и насыщающее округление, прилагается адаптер бенчмарка vLLM); paged GQA с RoPE/окном/sinks (#2516), сбор страничного KV (#2519), слияние состояний внимания со взвешиванием по LSE (#2530), конвейер dense FP8 GQA для длинного причинного KV (#2541).
- Два коммита MoE: masked FP8 групповой GEMM (#2521, согласование с семантикой masked
deep_gemm, исправление завышения трафика из-за переноса всей формулы roofline MoE, нагрузка в 14 строк); групповой top-k маршрутизации DeepSeek (#2535,num_expert_group/topk_group/routed_scaling_factorсогласованы сgrouped_topkиз vLLM, а также исправлена проблема планирования, при которой при T=512 задействовано лишь 32 / 132 SM). - Пакет производительности GEMM (четыре коммита): перестановка тайлов FP8 и масштаб 1x128 B с волновым ядром (#2533), заполнение SM короткими компактными группами (#2536), сужение области модульных констант (#2542), оценка W4A16 вместе со срезом K (#2545) — продолжают находиться на рассмотрении.
3.5 TileFoundry: атрибуты операций парсера и синтаксический сахар лексического макета слиты (#221); автономный проект scaffold на рассмотрении (#227) (10-12)
Дата: 2026-10-12 Источники: Атрибуты парсера и сахар макета (#221)/ Автономный проект scaffold (#227)
- Слияние #221 (222 файла, +4473/-4951): создан единый авторский интерфейс для атрибутов и раскладок операторов — разбор schema-ориентированных атрибутов операторов, композиция раскладок и явные состояния значений, миграция fixture и обучающих материалов с повторной генерацией эталонных выводов printer; выбор mesh теперь строится через композицию и поддерживает
specialize(mesh=...); грамматика и правила parser генерируются из исполняемых схем с проверкой pre-commit; после объединения с изменениями buffer-alias выровнены псевдонимы Reshard и записи региональной видеопамяти. - На рассмотрении #227 (47 файлов): добавлена команда
tilefoundry scaffold SOURCE OUT_DIR— генерация редактируемого автономного проекта CMake по Target codegen (представление параметров, специализированная диспетчеризация, лаунчер, регистрация хоста и заполнитель тела CUDA), позволяющая автору взять на себя ядро, не нарушая соглашение о вызовах; артефакты codegen и линковка разделены на шесть файлов модулей,LinkedModule.functionsзаменяет единственныйentry.
3.6 Ночной конвейер: новый снимок — 1042 проверки корректности (+10), 1947 бенчмарков (52 набора) без сбоев (10-13)
Дата: 2026-10-13 Источники: ночной снимок (6ec0d086) / метаданные запуска снимка
- Новый снимок 6ec0d086 (run 38288018755, 10-13 03:53): 1042 проверки корректности (61 набор, +10 к предыдущему снимку, 0 сбоев, 0 ошибок, 1 пропуск), 1947 бенчмарков (52 набора, 0 сбоев); окружение H200, CUDA 13.2, драйвер 595.71.05, в снимке tileops 0.0.1.dev1296+g6ec0d086d, tilelang 0.1.12.
- Прирост корректности совпал по времени со слиянием серии SM89 в окне мониторинга; оценочная база продолжает катиться в ритме «одно слияние — один шаг базы».
3.7 Потребители и документация: TileKernels / FlashQLA молчат; 3 сборки основного сайта документации (10-12 ~ 10-13)
Дата: 2026-10-12, 2026-10-13 Источники: основной сайт документации / TileKernels / FlashQLA
- Потребители: TileKernels (DeepSeek) и FlashQLA (Qwen) без push-событий в окне мониторинга (оба молчат с 09-30); у TileRT нет динамики в окне.
- Сайт документации: 3 сборки основного сайта (две 10-12, одна ранним утром 10-13); 1 развёртывание gh-pages сайта TileOPs (утром 10-12).
4. Сообщество, обучающие материалы и мероприятия
4.1 PTO-ISA: четыре коммита и два релиза SuperNPUBench (ops-20261012 / ops-20261013) (10-12)
Дата: 2026-10-12 Источники: SuperNPUBench / релиз ops-20261013
- 4 коммита в окне мониторинга: rms_norm с разложением R=8192 редукции на тайлы по 16 KiB (#223), исправление потокобезопасности блокировки файлового ввода-вывода RES_CHECK в gfsim, упрощение matmul_test до 4-PE (Local-A / Shared-B, #222), слияние #225.
- Два релиза ops: ops-20261012 и ops-20261013 — последний основан на main
4c66c2ab, разбит на 2 малых пакета по suite, включает все скомпилированные выходные ELF (без шлюза gfrun); в примечаниях к релизу указано, что «четыре пункта инструментальной цепочки не изменились, все различия в выводе с предыдущей версией обусловлены только кодом».
4.2 Учётные записи сообщества: шесть заглушек AI-* у SwHwCodesign; TileLang-Awesome больше недоступен (10-12)
Дата: 2026-10-12 Источники: учётная запись SwHwCodesign / исходная ссылка TileLang-Awesome
- Появившийся 10-11 сторонний сводный репозиторий TileLang-Awesome (включённый в предыдущий отчётный период) теперь недоступен (404, и поиск не находит нового репозитория с тем же именем); тот же аккаунт вечером 10-12 создал 6 репозиториев-заглушек (AI-Chip / AI-Compiler / AI-Infra / AI-Instruction / AI-Kernel / AI-Model, все с первоначальным коммитом) — формирование сторонних материалов ещё не сложилось.
- tilelang-debugger (superAngGao) без обновлений в окне мониторинга (последний коммит 10-10); других новых сторонних инструментальных репозиториев не обнаружено.
4.3 СМИ и академическая сфера: нулевой прирост в окне мониторинга Google News / HN / arXiv (10-12)
Дата: 2026-10-12 Источники: Google News/ поиск по Hacker News/ поиск по arXiv
- По нескольким группам запросов на китайском и английском в окне мониторинга ноль новых попаданий: агрегационная статья tech-insider от 10-11 и глубокие разборы ZhiWei от 10-10 / 10-11 уже были включены в предыдущий выпуск, в текущем окне последующих новых материалов нет.
- Hacker News: ноль записей за 96 часов; arXiv: новых препринтов нет (последняя релевантная работа — статья об аналитической модели TileSight от 07-24).
5. Наблюдения за трендами
5.1 Восполнение пробелов ROCm: две правки с учётом реалий устройства
- Две правки ROCm в текущем окне указывают на одну тему — «адаптация под реальность устройства»: 64-lane волновой фронт gfx942 (#3152) и бюджеты LDS/VGPR (#3149). Обе исправлены на стороне примеров (examples), не затрагивая стратегию генерации внутри ядра, что говорит о том, что поддержка ROCm всё ещё находится на стадии «запустить и добавить регрессию»; после слияния с недавними многоgenerational правками SM121, SM89 в основном репозитории бэкенд-топология TileLang переходит от «приоритет NVIDIA» к «одновременному сопровождению нескольких устройств».
5.2 SM89 становится второй платформой: 6 слияний и 4 на рассмотрении за день
- TileOPs за один день: 6 слияний SM89 (префилл/декодирование внимания, линейное внимание, полное покрытие Norm) плюс 4 SM89 на рассмотрении; рабочие станции уровня RTX 40-й серии и L40 / 6000 Ada на стороне библиотеки операторов становятся такой же штатной целью, как Hopper. Синхронизация на стороне оценки (ночной базовый набор +10 пунктов), покрытие корректности SM89 движется от «компилируется» к «есть регрессия».
5.3 Линия миграции Ascend переходит к завершению по корректности
- Слияние двух крупных миграций прямого/обратного прохода NSA (в сумме 48 многоуровневых тестов), последующее исправление тройного разбиения кэша и группировки cross-warp allreduce — центр тяжести линии Ascend смещается от «переноса примеров и операторов» к завершающему аудиту «корректности, семантики кэша и компиляционной пригодности»; после исправления #3469 сразу последовало исправление корректности по обратной связи от сообщества (#3494), цикл взаимодействия работает нормально.
5.4 Рост базового набора в период тишины релизов
- В основном репозитории после v0.1.15 от 09-30 новых релизов нет; открытых PR в организации насчитывается 507 (в предыдущем периоде 498), за одно окно открыт 41, слито 20 — структура «шлюз слияния ужесточён, очередь на рассмотрении утолщается» сохраняется. Расширение SM89 в TileOPs и ночной базовый набор +10 показывают: хотя официальные версии в тишине, «статическая подготовка» по обеим линиям — слияниям и оценке — всё ещё накапливается, суждение о приближении релизного окна не меняется.
Приложение: материалы и пояснения по проверке
| Источник | Результат проверки |
|---|---|
| Организация tile-ai (29 репозиториев) | В окне были пуши в 9 репозиториях: tilelang (влито 7, обновлений на рассмотрении 29), TileOPs (влито 10, обновлений на рассмотрении 16), TileFoundry (влито 1, на рассмотрении 1), tilelang-ascend (влито 2, обновлений на рассмотрении 7), tilelang-hygon (пуши в трёх ветках, обновление #18), tilelang-sunrise (2 CI-зависимости на рассмотрении), TileOPs-nightly (1 снимок), tilelang.github.io (3 сборки), TileOPs.github.io (1 развёртывание); итого по организации за окно: слито 20, открыто новых 41, обновлений на рассмотрении 59; всего открытых PR 507 (в предыдущем выпуске 498) |
| Основной репозиторий tilelang | Влито 7 (#3152, #3149, #3291, #3489, #3487, #3393, #3469); обновлений на рассмотрении 29; открытых PR 168 (в предыдущем выпуске 170); на странице релизов и в тегах за окно новых нет (последний v0.1.15, 09-30) |
| Репозиторий Ascend (ascend / mlir-ascend) | ascend: влито 2 (#1701, #1730); обновлений на рассмотрении 7; открытых PR 228 (в предыдущем выпуске 230). mlir-ascend: обновления на рассмотрении #199, #200 |
| Hygon / MetaX / Moore Threads | Hygon: пуши в трёх ветках (gcy_merge_main, feat/hcu-mqa-fp8, upgrade/upstream-v0.1.15); #18 на рассмотрении. MetaX (последний пуш 09-24), Moore Threads (09-30) — активности нет |
| Sunrise | В окне только два обновления CI-зависимостей от Dependabot (#7, #8) на рассмотрении; открытых PR 3 |
| TileOPs | Влито 10 (#2526–#2529, #2531, #2534, #2538, #2540, #2543, #2544); обновлений на рассмотрении 16; открытых PR 19 |
| TileOPs-nightly | Один новый снимок 6ec0d086 (10-13 03:53): корректность 1042 пункта (61 набор, +10), бенчмарки 1947 пунктов (52 набора), ноль сбоев и ошибок |
| TileFoundry | Влито 1 (#221); на рассмотрении 1 (#227); открытых PR 2 |
| Потребители и сообщество | TileKernels, FlashQLA — пушей в окне нет (оба 09-30); TileRT — динамики в окне нет; tilelang-debugger — обновлений нет (после 10-10); SwHwCodesign — шесть заглушечных репозиториев AI-* (10-12); TileLang-Awesome — недоступен (404) |
| Организация PTO-ISA | SuperNPUBench — 4 коммита в окне, 2 релиза (ops-20261012 / ops-20261013); tilelang-puzzles-ascend — обновлений нет |
| Google News / Hacker News / arXiv | Google News — ноль новых попаданий в окне; HN — ноль записей за 96 часов; arXiv — новых препринтов нет |
Полный список источников
- [1] Список PR основного репозитория — https://github.com/tile-ai/tilelang/pulls
- [2] ROCm DeepSeek NSA (#3152) — https://github.com/tile-ai/tilelang/pull/3152
- [3] ROCm flash-decoding тайлы (#3149) — https://github.com/tile-ai/tilelang/pull/3149
- [4] thread_storage_sync границы потоков (#3291) — https://github.com/tile-ai/tilelang/pull/3291
- [5] Спецификация тестирования и руководство по разработке (#3489) — https://github.com/tile-ai/tilelang/pull/3489
- [6] Автоматическое назначение CodeRabbit (#3487) — https://github.com/tile-ai/tilelang/pull/3487
- [7] Отчёт об экспериментах Autotune (#3393) — https://github.com/tile-ai/tilelang/pull/3393
- [8] PTODSL помощник редукции vendor (#3469) — https://github.com/tile-ai/tilelang/pull/3469
- [9] SM120 MX блочное масштабирование MMA (#3495) — https://github.com/tile-ai/tilelang/pull/3495
- [10] Инструкции предвыборки L2 (#3490) — https://github.com/tile-ai/tilelang/pull/3490
- [11] Группировка cross-warp allreduce (#3494) — https://github.com/tile-ai/tilelang/pull/3494
- [12] Host IR прямое подключение JIT (#3481) — https://github.com/tile-ai/tilelang/pull/3481
- [13] Унификация выполнения Host IR (#3473) — https://github.com/tile-ai/tilelang/pull/3473
- [14] Windows ARM64 CI (#2962) — https://github.com/tile-ai/tilelang/pull/2962
- [15] Отладка деградации траектории разделение хост/устройство (#3496) — https://github.com/tile-ai/tilelang/pull/3496
- [16] Ascend двойная миграция: NSA Decode (#1701) — https://github.com/tile-ai/tilelang-ascend/pull/1701
- [17] Ascend двойная миграция: NSA Bwd (#1730) — https://github.com/tile-ai/tilelang-ascend/pull/1730
- [18] Ascend выравнивание точности примеров (#1867) — https://github.com/tile-ai/tilelang-ascend/pull/1867
- [19] Ascend пример situ_glu_grad (#1877) — https://github.com/tile-ai/tilelang-ascend/pull/1877
- [20] Ascend исправление copy_ub_to_gm (#1795) — https://github.com/tile-ai/tilelang-ascend/pull/1795
- [21] Ascend пакет исправлений кэша (#1871–#1873) — https://github.com/tile-ai/tilelang-ascend/pull/1871
- [22] Ascend MLIR: параметризация T.Pipelined (#199) — https://github.com/tile-ai/tilelang-mlir-ascend/pull/199
- [23] Ascend MLIR: FloorDiv / FloorMod (#200) — https://github.com/tile-ai/tilelang-mlir-ascend/pull/200
- [24] Hygon конвейер регистров (#18) — https://github.com/tile-ai/tilelang-hygon/pull/18
- [25] Hygon ветка FP8 MQA — https://github.com/tile-ai/tilelang-hygon/tree/feat/hcu-mqa-fp8
-
[26] Hygon ветка обновления v0.1.15 — <ht
- [27] Репозиторий Sunrise — https://github.com/tile-ai/tilelang-sunrise
- [28] Репозиторий MetaX — https://github.com/tile-ai/tilelang-metax
- [29] Репозиторий Moore Threads — https://github.com/tile-ai/tilelang-musa
- [30] D256 GQA-декодирование (#2529) — https://github.com/tile-ai/TileOPs/pull/2529
- [31] Плотная предзаполнение GQA (#2528) — https://github.com/tile-ai/TileOPs/pull/2528
- [32] Предзаполнение GDN / DeltaNet (#2527) — https://github.com/tile-ai/TileOPs/pull/2527
- [33] Исправление InstanceNorm (#2526) — https://github.com/tile-ai/TileOPs/pull/2526
- [34] Рефакторинг конфигурации Norm (#2544) — https://github.com/tile-ai/TileOPs/pull/2544
- [35] Постоянный CTA сжатия NSA (#2531) — https://github.com/tile-ai/TileOPs/pull/2531
- [36] W4A16 GEMM (#2534) — https://github.com/tile-ai/TileOPs/pull/2534
- [37] 16-битное деление (#2543) — https://github.com/tile-ai/TileOPs/pull/2543
- [38] Загрузка состояния декодирования одного тайла (#2538) — https://github.com/tile-ai/TileOPs/pull/2538
- [39] Пропуск состояния предзаполнения GLA (#2540) — https://github.com/tile-ai/TileOPs/pull/2540
- [40] Квадро SM89 (#2546–#2549) — https://github.com/tile-ai/TileOPs/pull/2546
- [41] varlen sinks и скользящее окно (#2537) — https://github.com/tile-ai/TileOPs/pull/2537
- [42] PagedKVCacheWrite (#2539) — https://github.com/tile-ai/TileOPs/pull/2539
- [43] Маскированный групповой GEMM FP8 (#2521) — https://github.com/tile-ai/TileOPs/pull/2521
- [44] Групповой top-k DeepSeek (#2535) — https://github.com/tile-ai/TileOPs/pull/2535
- [45] Свойства парсера и синтаксический сахар раскладки TileFoundry (#221) — https://github.com/tile-ai/TileFoundry/pull/221
- [46] Отдельный проект scaffold TileFoundry (#227) — https://github.com/tile-ai/TileFoundry/pull/227
- [47] Ночной снимок (6ec0d086) — https://github.com/tile-ai/TileOPs-nightly/commit/6ec0d086d3312e34ad92c71f728ff93e6fac04d8
- [48] Метаданные запуска снимка — https://github.com/tile-ai/TileOPs-nightly/blob/snapshots/meta.json
- [49] Основной сайт документации — https://github.com/tile-ai/tilelang.github.io
- [50] Сайт документации TileOPs — https://github.com/tile-ai/TileOPs.github.io
- [51] SuperNPUBench — https://github.com/PTO-ISA/SuperNPUBench
- [52] SuperNPUBench ops-20261013 — https://github.com/PTO-ISA/SuperNPUBench/releases/tag/ops-20261013
- **
[53]** Аккаунт SwHwCodesign — https://github.com/SwHwCodesign
- [54] tilelang-debugger — https://github.com/superAngGao/tilelang-debugger
- [55] TileKernels — https://github.com/deepseek-ai/TileKernels
- [56] FlashQLA — https://github.com/QwenLM/FlashQLA
- [57] Поиск по Hacker News — https://hn.algolia.com/
- [58] Поиск по arXiv — https://arxiv.org/
- [59] Поиск по Google News — https://news.google.com/
- [60] Страница релизов основного репозитория — https://github.com/tile-ai/tilelang/releases