VANE 用下一帧预测做视觉预训练,EPIC-KITCHENS-100 超 V-JEPA 2.1 7.1 点
提供统一图像/视频的自监督表示学习路径,证明嵌入空间下一帧预测随模型与数据扩展有效,可作为视觉骨干预训练参考。

共 26 条 · 按质量与时效综合排序 · 仅收录近 3 个月内容最近同步 9 分钟前
已折叠 · 展开查看该领域的技术路线图、最新技术与成果、发展态势与前景趋势(含表格与 Mermaid 路线图)。
VANE 用下一帧预测做视觉预训练,EPIC-KITCHENS-100 超 V-JEPA 2.1 7.1 点
提供统一图像/视频的自监督表示学习路径,证明嵌入空间下一帧预测随模型与数据扩展有效,可作为视觉骨干预训练参考。

首次给出认证规则统一ICL与微调,GPT-2判定正确61,948/64,000流
以信息价值认证数据应存上下文还是权重,可指导数据选择与上下文/微调策略,对优化训练推理有参考价值。
AWS 提出 Priming:不到 1% 成本改造 Transformer 架构
可低成本获得最高 2 倍吞吐,并让混合架构对比不再依赖从零训练,影响推理优化

RD 提升 MDM 推理,Sudoku 97%、3-SAT 99%
提供免微调、免奖励的测试时纠错与训练方法,对掩码扩散模型推理优化有直接参考。

OpenAI 与合作方用 数千个 AI agents 在 数百万脑细胞 数据中发掘研究线索
分布式 AI agents 应用于大规模生物数据挖掘,展示了智能体在科研发现中的工程潜力,值得关注。
Meta GenRecs Tokenization 用稳定语义词汇表示广告,带来 +0.35% 转化提升
将 LLM 世界知识与语义理解引入广告匹配,替代逐条评分,为大规模广告推荐提供新的 token 化数据表示参考。

ResGVC 视频压缩框架将 BD-rate 降低 63.7%(LPIPS)和 83.8%(PSNR)
通过显式残差源约束和扩散熵模型大幅降低视频码率,对高保真视频传输和存储具有明确工程价值。

ULME 统一嵌入与生成,MTEB 提升 3.3-4.1 分并跨 Qwen2.5/Qwen3
统一 embedder 和 generator 减少 RAG/agent 系统双模型部署,提升检索与生成一致性。
提出LAW纯自条件语言建模,GSM8K解决率**42.2%**超扩散基线
证明连续生成模型可完全基于自条件,为扩散语言模型提供新训练与采样范式,部分场景接近自回归模型,值得关注。

BIRD-RL 四阶段 agentic RL 将空间效率提升 12.8x,7B/14B 成功率 44.40%/48.00%
为 SQL 等有状态数据任务提供可复用的轨迹隔离训练基础设施,缓解轨迹污染并降低容器开销,对数据闭环中的小模型 RL 有直接参考价值。

提出边感知注意力层,图生成峰值 GPU 内存降 65%,吞吐大幅提升
用 PyTorch FlexAttention 实现图生成注意力,在保持生成质量的同时降低 65% 峰值 GPU 内存,对扩展图基础模型训练有直接工程价值。
EgoX 自我中心重建相机误差降 68.9%
提供自动标注、大规模数据与基准,对具身感知、手物交互和场景重建工程有参考价值。
