Ежедневный отчёт TileLang (2026-11-20)
Окно мониторинга: 2026-11-19 07:00 ~ 2026-11-20 07:00 (пекинское время, 24 часа). Предыдущая точка отсечения — 11-19 07:00.
Источники: проведена проверка каждого репозитория организации tile-ai на GitHub; из 30 репозиториев в окне было 8 с пушами. Организационный поиск по эталонным данным: 23 влитых, 20 обновлённых в проверке, 7 новых issue. Проверка основной ветки по каждому коммиту: TileOPs 16, tilelang 2, TileFoundry 1, Hygon 1. MLIR Ascend 3 коммита в ветке mlir-dialect. Проверка релизов: tilelang по-прежнему v0.1.15, новых тегов в окне нет. Дополнительно — пять групп запросов Google News на китайском и английском, а также обзор Hacker News и четырёх источников TileLang×RISC-V.
Индекс выпуска
- Главное за день: три mHC-оператора TileOPs влиты в один день, интерфейс моделирования последовательностей принял эстафету (11-19)
-
Главное за день: одно правило GEMM-селектора меняет 302 формы, декодирование MXFP4 MoE достигает приёмочной черты (11-19)
-
- Основные результаты по проектам
- 1.1 Переменная-заполнитель layout сохраняет привязку между сериализациями, снижение нагрузки через spawn дочернего процесса больше не выдаёт ошибку неинъективности (11-20)
- 1.2 Номер dev-версии лишён метки инструментальной цепочки, один и тот же wheel больше не разделяется по версии CUDA (11-19)
- 1.3 Новый дефект: в примере MLA decode между двумя warpgroup отсутствует синхронизация чтения после записи (11-19)
- 1.4 Исправление в проверке: при warp-специализации пропускается продвижение TMA для несовместимого layout (11-19)
- Основные результаты по проектам
-
- Адаптация под несколько бэкендов (Ascend / Hygon / Moore Threads / MetaX)
- 2.1 MLIR Ascend за день влил tl.or, tl.xor, tl.pow, в проверке дополняются vsigmoid и sort (11-19)
- 2.2 Основной репозиторий Ascend в проверке переключился на выпуск: OBS на общих колёсах, ночной NPU-смоук, навыки тюнинга (11-19)
- 2.3 Atlas A3 распознаётся как 910A, ёмкость L0C в carver занижается вдвое (11-19)
- 2.4 Hygon добавляет workflow-шлюз качества PR, изменений ядра в окне нет (11-19)
- 2.5 MetaX и Moore Threads без коммитов в окне (11-19)
- Адаптация под несколько бэкендов (Ascend / Hygon / Moore Threads / MetaX)
- 2.5. Бэкенд RISC-V и сообщество (специальное наблюдение: маршрут TVM / маршрут MLIR / SOPHGO TPU / индексная страница сообщества)
- 2.5.1 В обзоре четырёх источников без изменений, оба маршрута и индексная страница совпадают с прошлым выпуском (11-20)
-
- Экосистема и потребители (библиотека операторов TileOPs / TileFoundry / TileKernels)
- 3.1 Дополнение attention sink: DSADense и DSAPaged влиты в один день (11-19)
- 3.2 Реализовано групповое квантование FP4, в MoE-гейтинг добавлены хеш-маршрутизация и sqrt-softplus (11-19)
- 3.3 GatedPoolCompress за один запуск выполняет KV-пулинг с разбиением по запросам на кольца (11-19)
- 3.4 TileFoundry учитывает срезовый mesh и значения Varying в анализе плана параллелизма (11-19)
- 3.5 Открыты четыре новые цели: DSAPaged bf16, AvgPool1d, DeltaNet, Mamba (11-19)
- 3.6 TileKernels и FlashQLA без коммитов в окне (11-19)
- Экосистема и потребители (библиотека операторов TileOPs / TileFoundry / TileKernels)
-
- Сообщество, руководства и мероприятия
- 4.1 Новостная сторона пуста: пять групп запросов на китайском и английском не дали релевантных публикаций (11-20)
- 4.2 Активность организации: 23 влитых за сутки, у основного репозитория 9006 звёзд (11-19)
- Сообщество, руководства и мероприятия
-
- Наблюдения за трендами
- Приложение: материалы и описание проверки
- Таблица проверки источников
- Полный список источников
Главное за день: три mHC-оператора TileOPs влиты в один день, интерфейс моделирования последовательностей принял эстафету
За один день 11-19 TileOPs влил сразу три оператора HyperConnection: pre, post и head. Это #3032, #3035 и #3039. Ранее #3021 уже 11-18 удалил два старых mHC-оператора и был зарегистрирован как прошедшее ревью публичное ломающее изменение API. С разницей в один день путь замены был пройден.
Шаг pre влит через #3032, изменено 18 файлов, +1106/-21. Он выполняет mHC-префикс DeepSeek-V4-Flash и GLM-5.3-Flash. Содержимое включает проекцию fn и квадратичную норму, веса pre и post, Sinkhorn, а также взвешенное суммирование потоков.
Проекция гарантирует точность float32. fn входит в тензорные ядра тремя членами bfloat16, каждые 16 каналов — один WGMMA 64×72. Каждый 64-канальный слот дополнительно накапливается в float32. Ось token имеет длину времени выполнения, один запуск покрывает любое число token. Объект сравнения — TileLang mhc_pre из vLLM и эталон torch.compile.
Шаг post объединён через #3035, изменено 16 файлов, +592/-21. Он смешивает выходные данные блока обратно в n потоков остатков. Поэлементно записывается как post_layer_mix[j] * x + sum_i comb_res_mix[i,j] * residual[i], вычисляется в float32, затем однократно округляется до bfloat16.
Потоки смешивают x и каждый из потоков сегментами по 16 байт. Малый вызов — один сегмент, большой — четыре. Выход побитово совпадает с mhc_post_fwd из TileKernels.
Шаг head объединён через #3039, изменено 15 файлов, +778/-9. Он сворачивает n потоков остатков в один перед LM head, что соответствует ParallelHead.hc_head из DeepSeek-V4-Flash. Не более двух токенов на SM; при превышении один CTA последовательно обрабатывает от одного до четырёх токенов, каждый вектор hc_fn обслуживает все токены.
Запись в manifest переведена в состояние «реализовано», приложена строка на 3000 токенов для GLM-5.3-Flash. Объект сравнения — фьюжн-ядро hc_head из vLLM и эталон torch.
Все три изменения закрывают соответствующие предложения: #2921, #2970, #2971. Промежуточное состояние между удалением старых операторов и объединением новых продержалось лишь один день, замена интерфейса не оставила разрывной версии.
Источники: https://github.com/tile-ai/TileOPs/pull/3032 https://github.com/tile-ai/TileOPs/pull/3035 https://github.com/tile-ai/TileOPs/pull/3039
Главное сегодня: одно правило селектора GEMM меняет 302 формы, декодирование MXFP4 MoE достигает приёмочной черты
В линии производительности TileOPs за 11-19 всего шесть объединений. Два по самооценке достигают приёмочной черты, четыре по-прежнему отмечены ниже неё. Во всех четырёх сопроводительных пояснениях указано: каждая строка быстрее основной ветки.
Селектор GEMM изменил одно правило (#3045). Для GEMM класса NT, если сетка из 128 строк укладывается в одну волну при ширине coop2, выбирается самый узкий tile coop2, а не разбиение на более узкие многовалновые.
Критериев два. Обе группы потребления из 64 строк последнего tile должны получить строки, и сетка должна заполнять 15/16 одной волны.
Правило затрагивает 302 формы моделей. На одной карте H200 ни один случай не медленнее выбора основной ветки, 286 форм быстрее в 1,03–2,6 раза. Маршрутизационный prefill GLM-5.3-Flash (N=288) снизился с 82,24 микросекунды до 32,13 микросекунды.
Это изменение также устраняет скрытую проблему. При поблочном разбиении float32 tile coop2 копии аккумуляторов на потоках с 128 по 383 отбрасывались, оставляя в разделяемой памяти неинициализированное содержимое.
Сгруппированный GEMM MoE для MXFP4 достигает приёмочной черты (#3044). Добавлено общее ядро декодирования при условиях: выравнивание строк кратно 128, масштаб e8m0, K кратно 2048. 128 токенов служат M-операндом WGMMA, 128 строк весов — N-операндом.
Веса декодируются один раз на CTA семью производственными warp и записываются в tile разделяемой памяти fp8. Корневая причина — старый kernel декодировал веса в математических warp, по одной FMUL и одной FFMA на элемент. Около 363 инструкций на каждый математический warp на каждом шаге K, что соответствует 512 тензорным циклам, тензорный конвейер занят лишь на 36%.
Переменная длина внимания GQA при размерности головы от 56 до 80 переведена на три потребительских warpgroup (#3041). Tile из 192 строк, три группы потребления по 64 строки поочерёдно занимают тензорные ядра.
Корневая причина — при 72 каналах время exp2 составляет 64/80 от времени его произведения тензоров. При двух группах потребления softmax одной группы перетягивает произведение другой. ncu показывает тензоры 54,7%, XU 45,2%, они почти последовательны.
Изменение отмечает одно ограничение: schedule finalize в TileFoundry в текущей сборке пока не может понизить поставленный schedule до TIR (см. tile-ai/topa#42). Ядро написано вручную по измеренному прототипу, schedule записан в final_hir.py.
Prefill KDA с bf16 заданным гейтингом переведён на однократный центрированный запуск (#3053, 9 файлов, +749/-225). На SM90 ранее использовались два пути в зависимости от числа пар последовательность-голова значений. Новый путь сначала подготавливает все chunk совместной центрированной тензорно-ядерной программой, затем идёт обход состояний. Prefill с fp16 заданным гейтингом и исходным гейтингом по-прежнему идут старым путём.
Два изменения по самооценке ниже приёмочной черты. Метаданные K tile для W4A16 переведены на асинхронное копирование (#3050): нулевые точки каждой строки размером менее четырёх байт догружаются в выровненные окна из четырёх групп и переносятся через cp.async по 4 и 8 байт. Производственная сторона благодаря этому может немедленно выдавать TMA для K tile.
RoPE скорректировал порядок загрузки (#3040). Головы с копированием столбцов сначала загружают входной вектор, затем читают позицию, избегая ожидания ptxas на clamp позиции. Малые вызовы GPT-J благодаря этому экономят одну задержку DRAM. Это же изменение устраняет сбой хвостового key в key.view(-1, 0), теперь возвращается пустой результат.
Источники: https://github.com/tile-ai/TileOPs/pull/3045 https://github.com/tile-ai/TileOPs/pull/3044 https://github.com/tile-ai/TileOPs/pull/3041
1. Основные достижения проекта
1.1 Заполняющие переменные компоновки сохраняют привязку при сериализации; дочерние процессы spawn при снижении нагрузки больше не сообщают об отсутствии инъективности
В окне мониторинга основного репозитория tilelang было слито два коммита. Первый — #4410, изменены 3 файла, +301/-2. Он исправляет проблему недействительности объектов компоновки после межпроцессного и междескового кругового обхода.
tl.Layout, tl.Fragment, tl.PartialFragment используют внутрипроцессные одноэлементные заполнители tirx::Var для выражения индексов и отображения потоков. _i, _j и т.д. используют InputPlaceholder(i), _rep использует ReplicationPlaceholder().
Критерием для Forward, OutputShape, DetectInjective, ForwardThread является тождественность объекта Var, а не name_hint.
Как только компоновка или PrimFunc с T.annotate_layout проходят через pickle или tvm.ir.save_json и load_json, десериализация пересоздаёт заполнители. Новый VarNode перестаёт быть тождественным одноэлементу в принимающем процессе.
В основной ветке можно напрямую воспроизвести три ошибки. После кругового обхода pickle map_forward_index([7]) возвращает [_i] вместо [7]. OutputShape() вычисляет (32,) как (_i + 1,). При снижении нагрузки на аннотированный PrimFunc в порождённом процессе worker возникает ошибка the forward map must be injective.
Исправление заключается во включении связанных ссылок на заполняющие Var в тот же канал ObjectGraphSerializer. Затронуты два поля: _forward_vars в LayoutNode и _replicate_var в FragmentNode. Порядок их сериализации предшествует forward_index и forward_thread. Эти поля не участвуют в repr, init, compare, hash и структурном сравнении, значение по умолчанию — nullptr.
Практический результат — путь многопроцессной компиляции становится работоспособным.
Источники: https://github.com/tile-ai/tilelang/pull/4410
1.2 Номер версии dev-сборки лишён метки инструментальной цепочки; один и тот же wheel больше не разветвляется по версии CUDA
#4409 изменяет 7 файлов, +16/-76. Он очищает суффикс бэкенда в номере версии.
Причина в том, что TileLang ранее собирал wheel отдельно для CUDA 12.8 и 13.0. Начиная с #1826, один wheel обслуживает несколько версий инструментальной цепочки CUDA. Старый суффикс поэтому вводил в заблуждение: извлечение, собранное в образе CUDA 13.0, сообщало 0.1.15+cu130.gitabcdef12, тогда как версия инструментальной цепочки сборочной машины не может указывать, какие бэкенды поддерживает этот wheel.
Изменение удаляет суффикс бэкенда и переключатель NO_TOOLCHAIN_VERSION. Одно и то же извлечение во всех конфигурациях единообразно сообщает 0.1.15+gitabcdef12. При TILELANG_BUILD_WHEEL_WITH_DATE=ON сообщается 0.1.15+d20261119.gitabcdef12. Релизы на PyPI по-прежнему используют базовый номер версии.
tilelang.build_date() теперь совместим с двумя позициями. Дата может следовать сразу за +, а также поддерживается старый формат wheel вида 0.1.15+cuda.d20261119.gitabcdef12.
Автор перечисляет объём проверки. Три теста упаковки пройдены; проверены метаданные PEP 517 для сборок CUDA 12.8, CUDA 13.0, ROCm, CPU, ночных сборок с датой и релизных сборок; pre-commit пройден полностью.
Источники: https://github.com/tile-ai/tilelang/pull/4409
1.3 Новый отчёт о дефекте: в примере MLA decode отсутствует синхронизация записи-чтения между двумя warpgroups
#4412 — это новый отчёт о дефекте, указывающий на examples/deepseek_mla/example_mla_decode_ws.py. В отчёте говорится, что правая warpgroup при чтении sum_exp_shared не ожидает записи от левой warpgroup.
Этот файл относится к примеру MLA decode со специализацией warp. В отчёте утверждается, что передача разделяемой памяти между двумя половинами только через возвращаемое значение или неявный порядок недостаточна для синхронизации.
Отчёт пока не сопровождается исправлением и не содержит отметки о среде воспроизведения. В этом выпуске он фиксируется как «сообщено, ожидает обработки» и не цитируется как исправленная проблема.
Источники: https://github.com/tile-ai/tilelang/issues/4412
1.4 Исправление на рассмотрении: пропуск несовместимого по layout повышения до TMA при warp-специализации
#4413 исправляет один сбой понижения. На b1367a59 конвейерный GEMM для sm_90a не понижается. Условие срабатывания — его 8-битный B tile использует layout с заполнением из make_swizzled_layout(Bs, k_major=False).
Загрузка A делает этот цикл подходящим для warp-специализации. Затем этот проход повышает обычный T.copy для B также до T.tma_copy, а LowerBulk отвергает layout с заполнением (соответствует issue #4053).
Исправление состоит в проверке аннотаций целевого layout для каждой загрузки-кандидата на TMA, включая конвейер и его prelude. Несовместимые по layout копии остаются на стороне потребителя, совместимые по-прежнему повышаются до TMA в том же конвейере.
Автор сообщает, что все восемь случаев из #4053 теперь понижаются для sm_90a. Новый регрессионный тест FP8 на H200 с CUDA 13.0 подтверждает, что A идёт через TMA, а B — через обычное копирование. PR в настоящее время всё ещё на рассмотрении.
Источники: https://github.com/tile-ai/tilelang/pull/4413
2. Адаптация под множество бэкендов (Ascend / Hygon / Moore Threads / MetaX)
2.1 MLIR Ascend за день влил tl.or, tl.xor, tl.pow; на рассмотрении — vsigmoid и sort
Вливания в репозиторий MLIR Ascend по-прежнему происходят в ветке mlir-dialect. Ветка main этого репозитория не менялась с 11-04. 11-19 за один день влиты три оператора TLIR, по времени сосредоточенные с 14:08 до 14:37 UTC.
#225 добавляет tl.or, #228 добавляет tl.xor, #229 добавляет tl.pow. Все три проходят один и тот же процесс: сначала добавляется оператор диалекта, затем выполняется понижение TIR, наконец преобразование в HIVM, и каждый сопровождается тестами. Первые два в предыдущем отчёте ещё значились на рассмотрении, в этом выпуске перешли во влитые.
На стороне рассмотрения открыт новый #264, добавляющий в TLIR tl.vsigmoid. Он открыт 11-20 в 01:35 и в тот же день один раз обновлён на рассмотрении. Также #232 понижает операцию sort в TLIR до HIVM, обновлён ещё раз в окне мониторинга, но не влит.
Три влитых и два находящихся на рассмотрении составляют один и тот же пакет последовательной работы по отдельным операторам.
Источники: https://github.com/tile-ai/tilelang-mlir-ascend/pull/229
2.2 Основной репозиторий Ascend на рассмотрении переключается на релизы: OBS на общих колёсах, ночной NPU smoke-тест, навык тюнинга
В основном репозитории Ascend в окне мониторинга вливаний нет. На стороне рассмотрения пять обновлений, направление сместилось с ядер на релизы и инструментарий.
#4411 открыт 11-19 в 19:15, публикует стандартные Linux wheel в OBS сообщества Ascend. Предпосылка — эти wheel уже одновременно содержат поддержку Ascend, CUDA и ROCm, а существующий рабочий процесс Dist собирает только для x86_64 и aarch64 и не загружает в OBS.
Подход — переиспользовать abi3-колёса из build-wheels. Требуется, чтобы метка abi3 проходила abi3audit --strict. После успешной сборки загрузка выполняется для обеих архитектур по существующему ежедневному расписанию и при ручном запуске, имена файлов несут суффикс с датой и коммитом, чтобы ночные версии могли сосуществовать. Номер версии релиза в PyPI не меняется. Этот PR также требует сериализовать загрузку в OBS и обновление индекса, чтобы избежать перезаписи индекса старым манифестом при параллельных запусках.
#3924 — ночной конвейер колёс Ascend со smoke-тестом NPU и скользящим релизом, открыт 11-11, в окне мониторинга обновлён ещё раз. #4016 — навык тюнинга производительности TileLang, написанный для Ascend, #4012 меняет значение по умолчанию max_vector_bits на 128 и поддерживает 16-lane SIMT-векторы fp8. Оба открыты 11-13.
Также #1760 добавляет поддержку FP32 GEMM в бэкенде AscendC. Он открыт 8 сентября, в окне мониторинга в 22:36 обновлён ещё раз.
Источники: https://github.com/tile-ai/tilelang/pull/4411
2.3 Atlas A3 распознаётся как 910A, ёмкость L0C в carver занижается вдвое
#2023 исправляет распознавание модели в carver. Ascend.__init__ определяет чип по вхождению подстроки: сначала проверяет 910B, затем 310P, а попавший в fallback 910 всегда считается Ascend910A.
Имя устройства Atlas A3 — Ascend910_9362, именно так записано в репозитории в examples/situ_glu/benchmark.md. Оно не совпадает ни с 910B, ни с 310P, поэтому попадает в fallback-корзину.
Следствие — неверное сопоставление трёх аппаратных параметров. ub_cap берётся как 262144 байта, фактически — 196608 байт. l0c_cap берётся как 262144 байта, фактически — 524288 байт, ровно вдвое меньше. compute_max_core берётся равным 32 по умолчанию для 910A, тогда как фактически следует опираться на запрос cube_core_num.
В одном и том же коде существуют два противоречивых отображения. Основной поток компилятора tilelang/utils/target.py определяет то же устройство как 910_93/910C → A3, а carver использует неверный вариант.
carver использует эти три значения для проверки осуществимости кандидатных конфигураций и моделирования затрат (tilelang/carver/roller/policy/ascend.py). Учёт L0C в половинном объёме напрямую отсеивает конфигурации с большими C tile. Этот PR был открыт 19.11 в 08:14 и всё ещё находится на рассмотрении.
Источники: https://github.com/tile-ai/tilelang-ascend/pull/2023
2.4 Hygon добавляет рабочий процесс контроля качества PR, изменений ядра за окно нет
В репозитории Hygon за окно мониторинга был только один слитый коммит (#42, 1 файл, +19/-0). Его содержание — добавление рабочего процесса контроля качества для pull request. У этого коммита нет текста описания, изменения касаются только конфигурации CI. За тот же период #43 и #44 являются версиями того же рабочего процесса, находящимися на рассмотрении.
После двенадцати внутренних исправлений (#27) из предыдущего выпуска, на стороне Hygon в этом выпуске не было изменений ядра, точности или генерации кода.
Источники: https://github.com/tile-ai/tilelang-hygon/pull/42
2.5 MetaX и Moore Threads: коммитов за окно нет
Последний push в репозиторий MetaX tilelang-metax был 06.11. В репозитории Moore Threads tilelang-musa — 18.11 в 03:47 (UTC). Оба находятся за пределами окна мониторинга. Ветка MetaX release/v0.1.12-musa.5-source и предложение о релизе за окно не имели новых действий.
2.5. RISC-V бэкенд и сообщество (специальное наблюдение: маршрут TVM / маршрут MLIR / SOPHGO TPU / индексная страница сообщества)
2.5.1 Обход четырёх источников без изменений, оба маршрута и индексная страница совпадают с предыдущим выпуском
20.11 был проведён обход четырёх источников. Первый — ветки с префиксом kubuds- в kubuds/tilelang-riscv-kubuds, то есть маршрут бэкенда TVM. Второй — main в RuyiAI-Stack/tilelang-riscv, то есть маршрут переписывания на MLIR. Третий — индексная страница сообщества TongmingLAIC/tilelang-riscv. Четвёртый — main и новые ветки в TongmingLAIC/tilelang-tpu, то есть расширение TPU от SOPHGO.
Ссылки на четыре источника совпадают с архивом предыдущего выпуска, новых коммитов нет, новых PR нет, таблица проектов на индексной странице без изменений. Вывод охватывает только上述 четыре источника и не распространяется на другие работы, связанные с RISC-V. Маршрут TVM и маршрут MLIR в этом выпуске не имели новых действий, отдельная интерпретация не приводится.
Источники: новых коммитов нет.
3. Экосистема и стороны внедрения (библиотека операторов TileOPs / TileFoundry / TileKernels)
3.1 Дополнение attention sink: DSADense и DSAPaged слиты в один день
Два слияния в области attention дополнили sink и строки bf16-кэша, используемые DeepSeek-V4 и GLM-5.3.
На стороне DSADense — #3038, изменения в 5 файлах, +228/-82. Его ядро SM90 начинает поддерживать attn_sink и is_causal=False. В этом случае ключ выбирается только по индексу, -1 означает пропуск слота, sink logit каждого заголовка учитывается в знаменателе его softmax.
topk больше не обязан быть кратным 128. Часть за пределами — мёртвые слоты; если в последней паре блоков нечётный блок целиком выходит за topk, загружается и оценивается только его чётный блок. В базовой версии для сравнения FlashMLA изменена на запуск за один раз всех kv-строк текущей партии, её индексы дополняются -1 до кратности 128.
На стороне DSAPaged — #3048, изменения в 6 файлах, +411/-79. Он поддерживает строки bf16-кэша со значением 512 столбцов, ключ ещё 0 или 64 столбца, охватывая GLM-5.3 и DeepSeek-V4.
Ядро с одним CTA собирает через объединённый cp.async. Оно поддерживает произвольный topk через маскирование хвоста последнего блока и добавляет attn_sink в знаменатель softmax, также учитывая его при блочном объединении.
Область применения описана чётко. Генерация кода для строки FP8 длиной 656 байт не изменилась, эта строка по-прежнему не поддерживает attn_sink и topk, не кратный 64. SM89 не поддерживает строки bf16.
Источники: https://github.com/tile-ai/TileOPs/pull/3038 https://github.com/tile-ai/TileOPs/pull/3048
3.2 Реализовано групповое квантование FP4, в MoE-гейтинг добавлены хеш-маршрутизация и sqrt-softplus
На стороне квантования добавлен FP4QuantPerGroupFwdOp (#3027, 15 файлов, +810/-41). Сигнатура — block_size=32, inplace=False, квантует bfloat16 в код e2m1, два кода в байте, масштаб блока — float8_e8m0fnu со степенью двойки. Выход побитово совпадает с fp4_act_quant из DeepSeek-V4-Flash.
Округление не использует инструкцию преобразования FP4. Вместо этого выполняются целочисленные операции над битами float32, затем одно сложение float32. Это ядро совместно с FP8QuantPerTokenGroupFwdOp использует group_quant.py.
write_in_place заставляет строки с шагом, у которых число групп превышает диапазон сетки по y, сначала выполнять непрерывное копирование. Этот коммит попутно исправляет путь inplace=True для поточного группового квантования FP8.
На стороне MoE — #3036, изменено 4 файла, +360/-66. Он добавляет FusedTopKFwdOp параметр scoring_func="sqrtsoftplus", с correction_bias или без него, а также с группировкой или без неё. Он также поддерживает задание expert_ids вызывающей стороной, что покрывает гейтинг DeepSeek-V4-Flash и первый слой его хэш-маршрутизации.
При заданных expert_ids ядро читает logit только этих экспертов. Ненормализованный softmax читает всю строку и не читает смещение. По-прежнему отклоняется комбинация «выбор softmax со смещением».
Источники: https://github.com/tile-ai/TileOPs/pull/3027 https://github.com/tile-ai/TileOPs/pull/3036
3.3 GatedPoolCompress выполняет пулинг KV по кольцам запросов за один запуск
#3033 изменяет 12 файлов, +1363/-3. Он реализует GatedPoolCompressFwdOp, соответствующий компрессору DeepSeek-V4-Flash и пулингу ключей индексора GLM-5.3-Flash.
Запросы обрабатываются пакетно. Позиции, находящиеся до начала некоторого запроса, берутся из кольца этого запроса, размер кольца составляет C * ratio строк. Вызов записывает строки своих последних нескольких позиций и допускает откат последнего токена предыдущего вызова.
Реализация выполняется за один запуск, без синхронизации с хостом. На каждый запрос — один block: сначала пулинг читает те окна своего кольца, затем записывает обратно кольцо и флаг валидности. Остальные окна находят свой запрос с помощью warp-уровневого ballot-поиска по cu_seqlens.
Этот коммит также добавляет пакетный torch_program в качестве эталонного torch-базлайна и объявляет kv_state и score_state непрерывными.
Источники: https://github.com/tile-ai/TileOPs/pull/3033
3.4 TileFoundry учитывает срезовые mesh и значения Varying в анализе планов параллелизма
В окне мониторинга в TileFoundry влит один коммит (#356, 123 файла, +2752/-557). Он меняет анализ памяти и трафика.
Причина — discussion #350. Анализатор должен уметь сравнивать планы параллелизма PP, TP, EP и HSDP. Старая реализация суммировала пики всех GPU по стадиям конвейера, записывала Reshard между срезовыми mesh как представление в 0 байт, а операнды с Varying теряла в операторах, берущих только один тип операнда.
После изменений вывод типов через единое правило читает атрибуты срезов операндов (operand_types, combine_operand_attrs). Broadcast при встрече с Varying даёт Varying с поячеечным хранением, а Partial при встрече с Varying отклоняется.
Reshard между срезовыми mesh считается одной копией по «числу ячеек, получающих это значение». Split или перемещение Partial между частично перекрывающимися срезами отклоняются. Пики теперь считаются по принадлежащим ячейкам.
Есть ещё три сопутствующих изменения. Строка вызова JSON указывает вызываемого (callee, callee_ref) и Module, который его определяет. Один вызов даёт одну границу выхода по тензорным листьям, включая вложенные кортежи, чтобы сгенерированный Module можно было проанализировать. repeat_interleave сохраняет Broadcast mesh входа.
Этот коммит добавляет CUDA-примеры, сравнивающие PP, TP, EP, HSDP и FSDP. Сгенерированные модули записываются CLI, перезагружаются, сверяются с результатами автоматического дифференцирования и измеряются.
Источники: https://github.com/tile-ai/TileFoundry/pull/356
3.5 Четыре новые цели: DSAPaged bf16, AvgPool1d, DeltaNet, Mamba
В окне мониторинга в TileOPs открыто четыре рабочих пункта с формами и целевыми кратностями.
#3049 требует, чтобы bf16-строка DSAPaged догнала FlashMLA на DeepSeek-V4-Flash. Этот пункт соответствует влитому в этом выпуске #3048 и относится к порядку «сначала поставить цель, затем влить реализацию».
#3051 обрабатывает окно AvgPool1d с краевым усечением. Способ — читать данные в регистры и, когда можно сэкономить block, запускать только один block на SM.
#3054 требует, чтобы вход chunk в DeltaNet принимал тензоры с шагом. #3013 добавляет в CausalConv1dFwdOp и CausalConv1dUpdateFwdOp дырявую свёртку и фильтры float32.
Также есть #3052 — поддерживающий коммит, добавляющий только комментарии и документацию. Он объясняет, почему окно метаданных W4A16 действует только для одного потребляющего warpgroup, и вписывает в docstring селектор с ширинами K tile 128, 256, 512 и явным K tile шириной 384.
К этому коммиту также добавлен регрессионный тест, фиксирующий проверку числа групп. Автор приводит последствия отказа от этой проверки: при явной конфигурации ширины 384 будет возвращён неверный результат, относительная погрешность 0.457 на 1x128x36864 при split 24.
Источники: https://github.com/tile-ai/TileOPs/issues/3049
3.6 TileKernels и FlashQLA — нет коммитов в окне мониторинга
Оба репозитория со стороны потребителей не попадают в окно мониторинга. Последний push в deepseek-ai/TileKernels — 10-14, в QwenLM/FlashQLA — 10-30.
На стороне сайта документации число коммитов в TileOPs.github.io за окно мониторинга — 0. В tilelang.github.io есть один коммит Update docs (11-19 13:45). Ни то, ни другое не является техническим прогрессом и служит лишь записью об обслуживании сайта.
Источники: https://github.com/tile-ai/tilelang.github.io/commit/dc1d73c9
4. Сообщество, руководства и мероприятия
4.1 Новостная сторона: пустое окно — пять групп запросов на китайском и английском не дали релевантных публикаций
Автоматический сбор в пределах окна мониторинга выдал 4 кандидата. После поштучной проверки ни один не оказался пригодным. Три из них — страницы самих репозиториев (tilelang, TileFoundry, tilelang-hygon): сборщик принял метаданные репозиториев за новости. Четвёртый — вопросы и ответы на riscv.org об Infineon AURIX RC1, не связанные с TileLang.
Дополнительно проверены пять групп запросов в Google News. Англоязычные TileLang when:2d, "TileLang" compiler when:3d, tile-ai TileOPs when:3d вернули пустые результаты. Китайскоязычный TileLang when:2d — пусто, TileLang 算子 when:3d дал лишь материал о победе в конкурсе «Челленджер» одного вуза, не относящийся к теме. На Hacker News записей в пределах окна нет.
Источники: релевантных публикаций нет.
4.2 Активность организации: 23 слияния за день, 9006 звёзд у основного репозитория
Из 30 репозиториев организации в окне мониторинга push затронул 8. Первые пять — tilelang, TileOPs, tilelang-mlir-ascend, TileFoundry и tilelang-hygon. Последние три — tilelang.github.io, TileOPs.github.io и TileOPs-nightly.
Слито 23 коммита, в разрезе репозиториев: TileOPs 16, tilelang 2, MLIR Ascend 3, TileFoundry 1, Hygon 1. На рассмотрении и обновлении 20, сосредоточены в новых исправлениях ошибок и конвейере релизов Ascend.
Открыто 7 новых issue. Из них TileOPs — 2 (одна цель по производительности, один дефект MoE), TileFoundry — 3, topa — 1, tilelang — 1. Звёзд у основного репозитория 9006, что на 5 больше, чем 9001 в предыдущем периоде.
Источники: https://github.com/tile-ai/tilelang
5. Наблюдения за тенденциями
- У Breaking changes есть сопровождающая замена: 11-18 удалены два старых оператора mHC и зарегистрированы как Breaking changes API, 11-19 все три заменяющих оператора слиты. Замещающий PR был открыт до удаления, промежуточное состояние продержалось лишь один день.
- Выравнивание квантизации ведётся по критерию побитового совпадения: групповое квантование FP4 требует побитового совпадения с
fp4_act_quantиз DeepSeek-V4-Flash. Путь FP8 использует тот жеgroup_quant.py. Критерий приёмки — побитовое равенство, а не полоса погрешности. - Оптимизация производительности переходит от подстройки под каждую форму к правилам селектора: #3045 одной правило покрывает 302 формы моделей и требует, чтобы ни один случай не замедлился. Это требование сложнее выполнить, чем точечное ускорение, но и легче поддерживать в долгосрочной перспективе.
- Две линии Ascend чётко разделены: маршрут MLIR продолжает послойно наращивать диалект — три оператора в день; основной репозиторий переходит к релизам и инженерии CI — ротация OBS, ночной smoke-тест NPU, навыки тюнинга продвигаются на той же неделе. Первый расширяет поверхность выразительности, второй снижает порог входа.
- TileFoundry движется от «способности компилировать» к «способности квантизовать»: PP, TP, EP, HSDP попадают в один анализатор для сравнения, Reshard срезов mesh начинает учитывать стоимость копирования. Как только модель затрат станет достоверной, она, в свою очередь, начнёт влиять на выбор фронтенда.
Приложение: материалы и пояснения к проверке
Таблица проверки источников
| Источники | Результаты проверки |
|---|---|
| Поэтапная проверка GitHub tile-ai по репозиториям | 30 репозиториев, в окне мониторинга пуш в 8; фактический прирост в основной ветке: TileOPs 16, tilelang 2, TileFoundry 1, Hygon 1 |
| Проверка ветки MLIR Ascend | 3 мержа в mlir-dialect, её main не менялась с 11-04 |
| Поиск истинных значений мержей на уровне организации | 23 мержа: TileOPs 16, tilelang 2, MLIR Ascend 3, TileFoundry 1, Hygon 1 |
| Поиск на уровне организации в статусе ревью | 20 в статусе ревью и обновлены, сосредоточены на конвейере выпуска версий Ascend, исправлениях раскладки и TMA, предложениях новых операторов |
| Новые issue | 7: TileFoundry 3, TileOPs 2, topa 1, tilelang 1 |
| Релизы и теги | tilelang v0.1.15, TileOPs v0.1.0, MLIR Ascend v0.1.2.020, новых тегов в окне мониторинга нет |
| Новостная сторона | все 4 кандидата непригодны; пять групп запросов Google News на китайском и английском не дали сообщений; записей HN нет |
| Репозитории приёмщиков | последний пуш TileKernels 10-14, FlashQLA — 10-30, оба вне окна мониторинга |
| Сайт документации | tilelang.github.io — один Update docs; TileOPs.github.io — 0 в окне мониторинга |
| TileLang×RISC-V по четырём источникам | без изменений, совпадает с архивом прошлого выпуска |
Полный список источников
- [1] TileOPs #3032 mHC pre — https://github.com/tile-ai/TileOPs/pull/3032
- [2] TileOPs #3035 mHC post — https://github.com/tile-ai/TileOPs/pull/3035
- [3] TileOPs #3039 mHC head — https://github.com/tile-ai/TileOPs/pull/3039
- [4] TileOPs #3038 sink внимания — https://github.com/tile-ai/TileOPs/pull/3038
- [5] TileOPs #3048 строка кэша bf16 — https://github.com/tile-ai/TileOPs/pull/3048
- [6] TileOPs #3027 квантование FP4 — https://github.com/tile-ai/TileOPs/pull/3027
- [7] TileOPs #3036 хеш-маршрутизация — https://github.com/tile-ai/TileOPs/pull/3036
- [8] TileOPs #3033 пулирование KV — https://github.com/tile-ai/TileOPs/pull/3033
- [9] TileOPs #3045 селектор GEMM — https://github.com/tile-ai/TileOPs/pull/3045
- [10] TileOPs #3044 декодирование MXFP4 — https://github.com/tile-ai/TileOPs/pull/3044
- [11] TileOPs #3041 потребительская группа GQA — https://github.com/tile-ai/TileOPs/pull/3041
- [12] TileOPs #3053 одиночный запуск KDA — https://github.com/tile-ai/TileOPs/pull/3053
- [13] TileOPs #3050 асинхронное копирование метаданных — https://github.com/tile-ai/TileOPs/pull/3050
- [14] TileOPs #3040 порядок загрузки RoPE — https://github.com/tile-ai/TileOPs/pull/3040
- [15] TileOPs #3052 описание окна метаданных — https://github.com/tile-ai/TileOPs/pull/3052
- [16] TileOPs #3047 исправление слота -1 — https://github.com/tile-ai/TileOPs/pull/3047
- [17] TileOPs #3049 цель bf16 — https://github.com/tile-ai/TileOPs/issues/3049
- [18] TileOPs #3051 AvgPool1d — https://github.com/tile-ai/TileOPs/issues/3051
- [19] TileOPs #3054 DeltaNet — https://github.com/tile-ai/TileOPs/issues/3054
- [20] TileOPs #3013 пустая свёртка Mamba — https://github.com/tile-ai/TileOPs/pull/3013
- [21] tilelang #4410 сериализация переменных-заполнителей — https://github.com/tile-ai/tilelang/pull/4410
- [22] tilelang #4409 метка номера версии — https://github.com/tile-ai/tilelang/pull/4409
- [23] tilelang #4412 конкуренция MLA — https://github.com/tile-ai/tilelang/issues/4412
- [24] tilelang #4413 продвижение TMA — https://github.com/tile-ai/tilelang/pull/4413
- [25] tilelang #4411 колёса OBS — https://github.com/tile-ai/tilelang/pull/4411
- [26] tilelang #3924 ночные колёса — https://github.com/tile-ai/tilelang/pull/3924
-
[27] tilelang #4016 навык тюнинга — <https://github.com/ti
- [28] tilelang #4012 ширина векторного блока — https://github.com/tile-ai/tilelang/pull/4012
- [29] Ascend #1760 FP32 GEMM — https://github.com/tile-ai/tilelang-ascend/pull/1760
- [30] Ascend #2023 carver — https://github.com/tile-ai/tilelang-ascend/pull/2023
- [31] MLIR #225 tl.or — https://github.com/tile-ai/tilelang-mlir-ascend/pull/225
- [32] MLIR #228 tl.xor — https://github.com/tile-ai/tilelang-mlir-ascend/pull/228
- [33] MLIR #229 tl.pow — https://github.com/tile-ai/tilelang-mlir-ascend/pull/229
- [34] MLIR #264 vsigmoid — https://github.com/tile-ai/tilelang-mlir-ascend/pull/264
- [35] MLIR #232 снижение нагрузки sort — https://github.com/tile-ai/tilelang-mlir-ascend/pull/232
- [36] TileFoundry #356 параллельный анализ — https://github.com/tile-ai/TileFoundry/pull/356
- [37] Hygon #42 качественный шлюз — https://github.com/tile-ai/tilelang-hygon/pull/42
- [38] обновление сайта документации — https://github.com/tile-ai/tilelang.github.io/commit/dc1d73c9
Пояснения к проверке
Методика: окно мониторинга — с 07:00 11-19 до 07:00 11-20 по пекинскому времени. Коммиты в репозиториях учитываются по времени committer: сначала сравниваются с отметкой предыдущего выпуска, затем определяется новизна. Слияния в MLIR Ascend попадают в ветку mlir-dialect, main не менялся с 11-04; в тексте указана ветка, и она не называется основной.
16 слияний TileOPs поштучно сверены с 23 общими записями организационного поиска, повторного подсчёта нет. Для рассматриваемых записей отдельно указаны дата открытия и дата последнего обновления, чтобы старые предложения не описывались как открытые в этот день. #1760, #3924, #4012, #4016 открыты до начала этого окна; в тексте указаны даты открытия, и учитывается только продвижение в рамках окна.
На завершающем этапе окна сбор данных столкнулся с ограничением частоты неаутентифицированного GitHub API. Информация о ветках и тегах была перепроверена через Atom-подписки и поисковый интерфейс; выводы не затронуты. Обход четырёх источников RISC-V дал пустой результат, что обработано как отсутствие изменений и не считается сбоем сбора. Новостная часть после перепроверки пятью группами запросов подтверждена как окно без новостей; пустой результат не был истолкован как сбой сбора.