Amazon 开源 TorchNeuron:PyTorch 代码近乎零改动即可运行于 Trainium
降低 PyTorch 训练负载迁移 Trainium 的门槛,Neuron SDK 提供周期级 profiler 与 NKI 近汇编级内核控制。

共 46 条 · 按质量与时效综合排序 · 仅收录近 3 个月内容最近同步 25 分钟前
已折叠 · 展开查看该领域的技术路线图、最新技术与成果、发展态势与前景趋势(含表格与 Mermaid 路线图)。
Amazon 开源 TorchNeuron:PyTorch 代码近乎零改动即可运行于 Trainium
降低 PyTorch 训练负载迁移 Trainium 的门槛,Neuron SDK 提供周期级 profiler 与 NKI 近汇编级内核控制。

NVIDIA OCP展示BlueField-4 CMX服务器
面向上下文内存的DPU/服务器方案,或影响长上下文推理基础设施。

Nvidia Vera用第二代SCF和LPDDR5X提升带宽
解释Vera核心、互连和内存路径,影响AI服务器推理与数据吞吐评估。

AWS Trainium 实时视频生成 kernel 方案
自回归 diffusion 动态形状与缓存优化可迁移,利好端侧/云端实时生成。

微软 Maia 300 推理 XPU 曝光,主打高带宽
若属实将影响云端推理算力成本与自研芯片竞争,需关注规格落地
NVIDIA 发布 RTX Spark N1X,将 GB10 SoC 引入 Windows
AI-focused SoC 进入 Windows 笔记本,推动本地推理与内容创作。

XCENA 与 Samsung 发布 MX1 CXL 近存计算设备
缓解大模型内存容量与带宽瓶颈,提供近存计算与缓存路径。

NVIDIA 用 CUDA Tile Python DSL 编写 Mamba-2 前向高性能 kernel
展示用 Python 级 tile DSL 写 SSM kernel 的路径,对自研算子与 Mamba 推理优化有参考价值
K-Search 将数十年 CUDA 内核经验迁移到 MLX
面向 Apple Silicon 的 AI kernel 移植提供自动搜索与优化迁移思路,降低 CUDA 生态经验复用成本。

文章讨论跨数据中心分布式AI训练网络新挑战。
提示大规模训练瓶颈从单数据中心互联扩展到长距离网络协调。
三堵物理墙同时冲击 AI 数据中心基础设施,复合效应更糟
信息不足,影响待观察
JetPack 7.2.1 新增 Agentic Video Skills
面向 Jetson 多摄像头视频与 AI 推理链路,为机器人视频处理提供智能体化能力,但具体细节有限。
