AI前沿：AI推理新境界——更短更巧、更快更强

AI可可AI生活 · Feb 13, 2025 · 14m

本期播客精华汇总:

[CL] When More is Less: Understanding Chain-of-Thought Length in LLMs 论文颠覆了思维链推理中“越长越好”的传统认知，揭示了思维链长度与准确率之间存在U型关系，并指出存在最优CoT长度，该长度受模型能力和任务难度影响。论文提出了“长度过滤投票”方法，并强调训练数据中CoT长度分布对模型性能至关重要。

[LG] Curvature Tuning: Provable Training-free Model Steering From a Single Parameter 论文提出了曲率调整 (CT) 方法，一种无需训练的模型操控技术，仅通过单参数 β 调整模型决策边界曲率，即可显著提升模型的泛化性和鲁棒性。CT方法高效、可解释，为模型操控提供了新思路。

[LG] LLMs Can Easily Learn to Reason from Demonstrations Structure, not content, is what matters! 论文发现大语言模型从演示中学习推理能力，关键在于学习长链思考 (Long CoT) 的结构而非内容。即使使用内容错误的演示数据，只要结构正确，模型仍能有效学习推理。论文验证了少量Long CoT数据和参数高效微调方法 (LoRA) 在推理学习中的有效性。…