developer.nvidia.com·2026/10/20·Tanya Lenz
为什么重要 为推理优化展示如何把状态空间模型 chunkwise 计算映射到 Tensor Core matmul，避免物化巨大 hidden state，降低内存占用。适合 做 GPU 内核、状态空间模型推理优化、AI Infra 的工程师
| 对比项 | 之前 / 基线 | 现在 / 本方案 | |
|---|---|---|---|
| 序列建模计算特性 | Softmax attention：训练快，推理成本随序列长度线性增长 | Mamba-2：固定 hidden state，chunkwise 计算可用 Tensor CoreRNN 训练慢但推理恒定；Mamba-2 折中两者 |
NVIDIA CUDA Tile（cuTile）是一种基于 Python 的 DSL 和面向 NVIDIA GPUs 的并行编程模型，它会自动利用高级硬件能力来
NVIDIA CUDA Tile (cuTile) is a Python-based DSL and parallel programming model for NVIDIA GPUs that automatically leverages advanced hardware capabilities to...
EVIDENCE / METHODS
要点
Jane Street 在 术语解释NVIDIA 的 Python DSL，以 tile 为中心抽象 GPU 线程/warp 调度 实现 Mamba-2 状态空间模型并与 NVIDIA 合作优化前向内核。