AI前沿：AI的超能力——更长记忆、更快速度、更强思考

AI可可AI生活 · Feb 15, 2025 · 12m

本期播客精华汇总:

[LG] InfiniteHiP: Extending Language Model Context Up to 3 Million Tokens on a Single GPU 提出 InfiniteHiP 框架，通过模块化分层剪枝、动态 RoPE 调整和 KV 缓存卸载等技术，将LLM上下文处理能力扩展至300万Token，推理速度提升近19倍。

[CL] CopySpec: Accelerating LLMs with Speculative Copy-and-Paste Without Compromising Quality 提出 CopySpec 框架，利用 “投机性复制粘贴” 加速LLM推理，通过高效识别和复制重复Token序列，实现最高3倍的加速，且不影响生成质量。

[CL] SelfCite: Self-Supervised Alignment for Context Attribution in Large Language Models 提出 SelfCite 自监督框架，让LLM学会生成高质量的句子级引用，通过 “上下文消融” 技术生成奖励信号，提升生成内容的可信度和可追溯性。

[CL] SQuARE: Sequential Question Answering Reasoning Engine for Enhanced…