AI前沿：从光速注意力到机器人自学

AI可可AI生活 · Apr 25, 2025 · 11m

本期《TAI快报》深入探讨了五项AI前沿研究，涵盖注意力机制、奖励模型、表示学习和机器人学习，展现了AI在效率、数据利用和现实应用上的突破：

Generalized Neighborhood Attention: Multi-dimensional Sparse Attention at the Speed of Light 提出广义邻域注意力 (GNA)，通过“步长”参数统一局部稀疏注意力模式，显著提升图像和视频生成速度（如 HunyuanVideo 加速63%），并开源工具助力研究。

Process Reward Models That Think 推出 THINKPRM，用少量（8000条）合成数据生成验证思维链，超越传统奖励模型，助力数学、编程等任务的推理验证。

Representation Learning via Non-Contrastive Mutual Information 提出 MINC 损失，结合互信息理论和非对比式学习优势，提升自监督学习效率，适用于图像分类等任务。

Latent Diffusion Planning for Imitation Learning 提出模块化的 LDP 方法，利用次优和无动作数据，在低专家数据下提升机器人模仿学习性能，适合服务机器人等应用。

Offline Robotic World Model: Learning…