VANE 用下一帧预测做视觉预训练,EPIC-KITCHENS-100 超 V-JEPA 2.1 7.1 点
提供统一图像/视频的自监督表示学习路径,证明嵌入空间下一帧预测随模型与数据扩展有效,可作为视觉骨干预训练参考。

数据源与状态仍在导航菜单中
DOMAIN OBSERVATORY
资料 25 条 · 常规内容近 60–90 天,综述/报告保留一年最近同步 1 小时前
当前主线为:以预测式自监督获得地基表征并走向统一 [1][8];再借权重复用与高效注意力做低成本改造 [3][16];优化重心从训练前移到推理时 [4];最终由智能体 RL 与生产系统承接,落向科学发现 [5][9]。
VANE 用下一帧预测做视觉预训练,EPIC-KITCHENS-100 超 V-JEPA 2.1 7.1 点
提供统一图像/视频的自监督表示学习路径,证明嵌入空间下一帧预测随模型与数据扩展有效,可作为视觉骨干预训练参考。

首次给出认证规则统一ICL与微调,GPT-2判定正确61,948/64,000流
以信息价值认证数据应存上下文还是权重,可指导数据选择与上下文/微调策略,对优化训练推理有参考价值。
R2D 提升 MDM 推理,Sudoku 97%、3-SAT 99%
提供免微调、免奖励的测试时纠错与训练方法,对掩码扩散模型推理优化有直接参考。

ResGVC 视频压缩框架将 BD-rate 降低 63.7%(LPIPS)和 83.8%(PSNR)
通过显式残差源约束和扩散熵模型大幅降低视频码率,对高保真视频传输和存储具有明确工程价值。

ULME 统一嵌入与生成,MTEB 提升 3.3-4.1 分并跨 Qwen2.5/Qwen3
统一 embedder 和 generator 减少 RAG/agent 系统双模型部署,提升检索与生成一致性。
提出LAW纯自条件语言建模,GSM8K解决率**42.2%**超扩散基线
证明连续生成模型可完全基于自条件,为扩散语言模型提供新训练与采样范式,部分场景接近自回归模型,值得关注。

BIRD-RL 四阶段 agentic RL 将空间效率提升 12.8x,7B/14B 成功率 44.40%/48.00%
为 SQL 等有状态数据任务提供可复用的轨迹隔离训练基础设施,缓解轨迹污染并降低容器开销,对数据闭环中的小模型 RL 有直接参考价值。

提出边感知注意力层,图生成峰值 GPU 内存降 65%,吞吐大幅提升
用 PyTorch FlexAttention 实现图生成注意力,在保持生成质量的同时降低 65% 峰值 GPU 内存,对扩展图基础模型训练有直接工程价值。
EgoX 自我中心重建相机误差降 68.9%
提供自动标注、大规模数据与基准,对具身感知、手物交互和场景重建工程有参考价值。

SCDM 提出共享参数元学习框架,实现可扩展时序因果发现
高维时间序列因果发现中候选关系二次增长,现有方法受限;SCDM 通过共享参数元学习避免逐目标优化,为大规模时序因果推断提供可扩展思路。

DoobPO 无似然微调扩散/流策略,支持 PPO/GRPO
为扩散/流生成策略提供无需动作似然的强化学习微调框架,有助于机器人连续控制策略训练。

TSFM 预训练平均增益仅 2.58 点,校正后仅 NuTime 显著
提示 MTSC 评估应区分预训练权重与架构贡献,并纳入随机初始化、非预训练强基线,避免高估 TSFM 收益。