TranSAGE 较商业 GPU/NPU 基线吞吐最高提升 2.41 倍、能效最高提升 13.04 倍
自动生成空间加速器与 RTL,降低大型 Transformer 加速器设计成本;开源代码便于复现,对芯片架构与编译优化有参考意义。
DOMAIN OBSERVATORY
资料 43 条 · 常规内容近 60–90 天,综述/报告保留一年最近同步 35 分钟前
(暂无权威综述,基于前沿内容归纳)AI 硬件的焦点正从单纯堆算力转向 HBM 带宽、KV 缓存驻留与推理/编译联合优化,并出现自研推理 XPU 与端侧部署并行推进。
TranSAGE 较商业 GPU/NPU 基线吞吐最高提升 2.41 倍、能效最高提升 13.04 倍
自动生成空间加速器与 RTL,降低大型 Transformer 加速器设计成本;开源代码便于复现,对芯片架构与编译优化有参考意义。
提出多目标 RL 生成 Pareto 最优 RTL 电路,相对 Hypervolume 提升 +13.3 与 +14.4 个百分点
让 LLM 生成 RTL 电路不只优化单一质量,而是优化整组候选的 Pareto 质量与多样性,供设计者按功耗/性能/面积需求事后选择。

量化点积重构:乘法次数最多 2k,推出 SA-PE
提出 scatter-accumulate 处理单元,乘法器共享时能降能耗并缩小权值存储;对低比特推理加速器设计有参考价值。
LEAF 用 LUT 感知训练在 FPGA 实现纳秒级 Attention
为超低延迟实时场景提供 FPGA 原生 Transformer 推理路线,值得评估硬件加速与边缘部署。
FIGFLEX 在 LLaMA-2-7B 上 3-bit 困惑度 5.85,吞吐/面积高 1.56x
针对低比特量化“省内存不省计算”问题,算法-硬件协同设计提升了精度灵活性与吞吐,对 LLM 推理硬件设计有参考价值。

共享DRAM的GPU+近存处理架构优化prefill-decode分离
针对PD分离中预填充带宽闲置、解码算力闲置的错配,探索GPU与PNM协同提升利用率。
