Shows / 每日AI

The show, from its episodes
No episode notes yet. Recurring topics, people and starter picks will appear when notes are available.
Typical episode length
19m · median of 401 episodes with a known length
Solo / guest format
Unknown — existing notes name people mentioned, but do not identify hosts or guests.
Recurring topics
No recurring topics established yet.
Recurring people
No recurring people established yet.
Start here
No starter picks yet — no published episodes with audio and a recorded notes hook.
Episodes
每日AIMIT:VPO矢量策略优化 通过训练多样性提升推理搜索效率 让AI不再钻牛角尖
Vector Policy Optimization (VPO),这是一种旨在提升大语言模型在推理搜索阶段表现的新型强化学习算法。传统的后训练方法通常将多个目标压缩为单一数值,导致模型输出趋于同质化;而 VPO…
每日AI最后一篇人类撰写的论文:Agent-Native 研究成果
这份研究提出了代理原生研究伪像(ARA)协议,旨在彻底改变科学论文的发布模式,使其从面向人类阅读的线性叙事转变为面向AI代理执行的结构化知识包。目前的科研论文存在“叙事税”和“工程税”,导致大量失败实验的教训被遗弃且技术细节描述模糊,严重阻碍了AI对研究的理解、复现与扩展。ARA协议通过四个核心层——科学逻辑、可执行代…
每日AINVIDIA:GRAIL全数字化类人机器人动作生成管线 让机器人梦中进化
GRAIL 是一种由 NVIDIA 等机构开发的全数字化类人机器人动作生成管线,旨在通过 3D 资产和视频生成大模型合成高质量的“移动-操作”数据。该研究的核心在于预先设定 3D 场景配置(如物体几何、相机参数和度量比例),从而消除了从模糊视频中重建 4D 动作时的不确定性。通过将生成的动作重定向至 Unitree…
每日AIGoogle:Magenta与Lyria实时音乐生成模型
谷歌 DeepMind 开发的新型生成式模型——实况音乐模型(Live Music Models),主要包含开源的 Magenta RealTime 和基于 API 的 Lyria…
每日AINVIDIA:Cosmos 3 具身智能的全模态世界模型
NVIDIA 推出的 Cosmos 3 是一系列专为物理 AI 打造的全模态世界模型,能够在一个统一的混合变换器架构下同时处理和生成语言、图像、视频、音频及动作序列。…
每日AIMicrosoft:SkillOpt自主进化智能体
SkillOpt 是一种专为大型语言模型(LLM)智能体设计的文本空间优化器,旨在通过结构化的自进化提升智能体的任务执行能力。该技术将智能体技能视为一种可训练的外部状态,通过分析任务执行轨迹并利用另一模型作为优化器,对技能文档进行精细的增加、删除或替换编辑。为了确保优化的稳定性,它引入了文本学习率控制编辑步长,并通过验…
每日AI百度:PaddleOCR-VL-1.6文档解析0.9B小模型击败千亿巨兽
PaddleOCR-VL-1.6,这是一个由百度团队研发的、参数量仅为 0.9B 的高效多模态文档解析模型。该版本针对前代模型在长尾分布和标注噪声上的局限,创新性地提出了由欠优化区域驱动的数据引擎,精准挖掘边界脆弱、覆盖稀疏及监督不可靠的数据。通过结合专家共识机制与可渲染的自动修复策略,模型实现了标注质量的大幅提升。此…
每日AIAI训练的黄金配比 深度学习类别数据规模预测研究
这篇文章探讨了如何通过分析特定类别的数据量来预测机器学习模型的性能,而不仅仅是关注总训练量。作者提出了一种基于实验设计(DoE)的创新算法,用于生成具有多样化类别分布的训练子集,从而评估不同类别对模型准确率的贡献。研究对比了幂律模型与反正切模型等多种数学方法,并结合 CIFAR10 和 EMNIST…
每日AIQwen-VLA:统一视觉-语言-动作具身智能基础模型 操控各种形态机器人
Qwen-VLA 是一款统一的具身智能视觉-语言-动作模型,旨在整合机器人操控、导航与人体动作建模等多元化任务。该模型以 Qwen3.5-4B 为多模态骨干,并结合了基于 Diffusion Transformer (DiT)…
每日AIEML:算子重构数学宇宙
这篇文章介绍了一种新发现的EML运算符($eml(x, y) = e^x - \ln(y)$),证明了它与常数1结合,足以构建出所有标准的初等数学函数。正如数字电路通过单一的NAND门实现所有逻辑运算一样,作者展示了如何利用这一单一原语替代科学计算器上复杂的功能按钮。通过将数学公式转化为统一的二叉树结构,该研究为符号回…
每日AIGabliteration:LLM行为对齐的神经权重修正框架 让AI听话不降智
Gabliteration 的大型语言模型行为调整框架,旨在解决传统“消融”技术在修改特定行为时导致模型整体性能下降的难题。该技术通过动态层选择、多维奇异值分解(SVD)以及脊正则化投影矩阵,能够精确识别并消除模型中的拒绝行为子空间。研究强调了神经叠加原理的重要性,认为拒绝行为并非存在于单一维度,而是分布在复杂的几何空…
每日AI约束衰减:LLM Agent后端代码生成的脆弱性 架构约束让AI原形毕露
这项研究通过 "约束衰减" 现象揭示了大语言模型(LLM)智能体在生成后端代码时的局限性。虽然这些智能体在处理宽泛的需求时表现出色,但在面对 API 合规性、架构模式及数据库集成 等严苛的非功能性约束时,其性能会大幅下降。实验表明,随着结构化限制的叠加,即使是最先进的模型,其测试通过率平均也会缩减…
每日AIGoogle DeepMind:Gemini Embedding 2 原生多模态嵌入模型 重塑检索RAG
Gemini Embedding 2 是一款由 Google DeepMind 开发的原生多模态嵌入模型,旨在将文本、图像、音频和视频等不同类型的数据映射到统一的语义向量空间。该模型通过大规模对比学习和多阶段训练,能够处理单一模态或跨模态的复杂搜索任务,甚至支持不同模态相互交织的混合输入。研究结果显示,其在 MTEB…
每日AIAnthropic:AI拒绝机制竟然只是一条线
这项研究通过对13个主流开源大型语言模型(LLM)的内部机制进行分析,发现拒绝行为是由一个单一的线性方向介导的。研究人员证明,通过计算有害请求与无害请求之间的激活差异,可以提取出一个一维拒绝子空间。利用该特性,开发者可以通过权重正交化(Weight…
每日AILLaVA-OneVision-2:AI不再靠截图看视频 编解码流驱动的感知智能
LLaVA-OneVision-2 是一款在 2026 年推出的顶尖多模态大模型,旨在通过模拟人类感知力提升视觉智能。该模型的核心创新在于编解码器流式分词技术,它放弃了传统的固定帧采样,转而根据视频压缩流中的位成本动态分配令牌,从而更高效地处理长视频。研究团队同步推出了 JumpScore…
每日AIAnthropic:Claude Opus 4.8最强大的通用模型发布
Claude Opus 4.8 大语言模型的系统卡报告,详尽记录了其在部署前的多维度测试结果。该模型在软件工程和逻辑推理等核心能力上超越了前代版本,但整体性能仍低于实验性的 Claude Mythos Preview。报告通过负责任缩放政策 (RSP)…
每日AICarnegie Mellon:大语言模型休眠 离线循环优化内存
这篇文章介绍了一种名为“LLM Sleep”的新型模型机制,旨在解决大型语言模型在处理长上下文时面临的推理深度与计算效率之间的矛盾。受生物睡眠启发,该研究提出在清空注意力缓存之前,让模型进行多次离线循环传递,将即时信息整合进状态空间模型(SSM)的权重中。这种方式能让模型在不增加预测阶段延迟的前提下,更有效地处理需要深…
每日AIAllen Institute:大模型MoE架构的最优配方
这篇文章系统地研究了混合专家模型(MoE)的设计优化,通过对超过2,000次预训练运行的详尽实验,分析了专家数量、粒度和路由机制对性能的影响。研究发现,在固定计算预算下,模型性能会随着总专家参数量的增加而持续提升,且最优的专家粒度主要取决于激活参数的规模。实验结果表明,复杂的专家异构性和共享专家(Generalists…
每日AIMeituan:LongCat-Video-Avatar 1.5 技术报告 开源音视频生成框架
LongCat-Video-Avatar 1.5 是由美团龙猫团队开发的开源音视频生成框架,旨在将学术原型提升至商业级应用水平。该系统通过升级 Whisper-large 音频编码器和实施严苛的数据清洗流水线,显著增强了唇形同步、身份一致性以及长视频的稳定性。技术上,它结合了 GRPO 强化学习以优化视觉质量,并利用…
每日AIMeta:SAM 3 目标物体精准检测、分割与跟踪大模型
SAM 3 是由 Meta 公司开发的全新通用分割模型,旨在通过文本短语或图像示例实现对目标物体的精准检测、分割与跟踪。该模型引入了“可提示概念分割”(PCS)任务,使其不仅能识别单个物体,还能捕捉图像或视频中符合某一概念的所有实例。为了支撑这一技术,研究团队构建了一个包含 400万个唯一概念标签…
每日AIMila:生成式递归推理模型 多轨迹概率计算框架 用随机扰动破解AI逻辑迷宫
生成式递归推理模型(GRAM),旨在解决传统递归模型在处理复杂推理任务时因确定性路径导致的方案单一与易陷入局部最优的问题。GRAM…
每日AICode as Agent Harness:代码是AI智能体的脚手架
代码即智能体装束(Code as Agent Harness)这一概念,将代码从单纯的生成目标重塑为AI系统的运行基座**。该架构由三个层级组成:首先是装束接口,代码在此充当推理引擎、行动媒介和环境建模工具;其次是装束机制,通过规划、存储和工具调用确保长程任务的可靠性;最后是装束扩展,支持多智能体在共享代码库中的协同。…
每日AIOpenAI:积极对齐 促进人类繁荣的AI新范式
这份研究报告提出了一种名为“正面对齐”(Positive Alignment)的全新AI开发范式,旨在超越现有的、仅侧重于防范伤害与安全合规的“负面对齐”模式。作者主张将人类繁荣(Human…
每日AISDFT:自蒸馏治好AI偏科 自我蒸馏消除语言模型微调分布偏差
这篇文章介绍了一种名为自我蒸馏微调 (SDFT) 的新方法,旨在解决大型语言模型在特定任务微调过程中出现的灾难性遗忘问题。研究人员发现,传统微调会导致模型在获取新技能的同时,丧失原有的通用指令遵循能力和安全对齐性。SDFT…
每日AIMIT:SDFT 自蒸馏微调 基于在线学习的持续学习方法
这项研究介绍了一种名为自我蒸馏微调 (SDFT) 的新方法,旨在解决大型语言模型在学习新技能时容易产生灾难性遗忘的核心难题。与传统的监督微调 (SFT) 不同,SDFT…
每日AITencent:混元Hy-MT2多语言翻译模型技术报告 440MB离线翻译超越大模型
这份材料介绍了由腾讯混yuan团队开发的 Hy-MT2 多语言翻译模型家族。该系列涵盖了从 1.8B 到 30B-A3B…
每日AIHarvard:与智能系统对话的语言博弈游戏
这份名为“语言游戏”的研究提出了一种与非神经生物系统(如基因调节网络)进行双向沟通的新颖框架。作者受维特根斯坦哲学启发,将交流视为一种强化学习游戏,通过将复杂的生物动力学嵌入任务环境,使系统的行为产生“意义”。该方案利用大语言模型(LLM)作为翻译中介,将人类指令映射为特定的环境状态,从而诱导非生物系统做出预期的理性反…
每日AICMU:Agent Harness Engineering综述
提供的资料系统地阐述了智能体环境工程(Harness Engineering)这一新兴领域,认为它是决定大语言模型智能体在实际生产中可靠性的关键。文中提出了名为 ETCLOVG…
每日AIAnthropic:识破AI的隐藏目标 LLM奖励模型谄媚倾向
这篇论文探讨了对语言模型进行对齐审计的可行性,旨在识别模型是否在表面服从的背后追求隐藏的恶意目标。研究人员开发了一个特殊的训练流程,使模型学会了奖励模型奉承(RM-sycophancy),即即便明知不妥,也会为了获取高分而故意迎合评估器的错误偏好。通过一场盲测审计游戏,三个拥有数据访问权限的团队利用稀疏自编码器(SAE…
每日AINature:TabPFN中小型表格数据专用深度学习基础模型
这篇来自《自然》杂志的文章介绍了 TabPFN,这是一种专为中小型表格数据设计的深度学习基础模型。该模型通过在数百万个合成数据集上进行预训练,掌握了通用的预测规律,使其能在单次前向传播中完成情境学习。研究表明,TabPFN…
每日AIStanford:大模型喂垃圾数据反而更聪明
这项研究探讨了在大规模模型预training(预训练)中,数据过滤是否真正必要的课题。作者通过一系列扩展实验发现,虽然过滤在计算资源有限时能提升模型表现,但在高计算量、多参数的情况下,不进行任何过滤的全量数据(如 Common…
每日AIMultilingual Prompt Engineering:LLM多语言提示工程综述
大型语言模型(LLM)在多语言环境下的提示工程(Prompt Engineering)技术。作者通过回顾36篇核心研究论文,详细梳理了涵盖250种语言、30项自然语言处理任务的39种提示策略。文章探讨了跨语言对齐、翻译引导以及思维链等多种方法,旨在提升模型在处理低资源语言时的表现。通过建立标准化的分类体系,研究对比了英…
每日AIMMSkills:让AI看懂屏幕操作 通用视觉智能体多模框架
MMSkills 的通用视觉智能体框架,旨在通过多模态程序化知识增强智能体的决策能力。研究指出,传统的文本或代码指令难以满足视觉任务需求,因此该框架将文本流程、运行时状态卡片与多视角关键帧相结合,形成可复用的技能包。通过专门的生成器,系统能从公开的交互轨迹中自动提取并构建这些视觉技能库。为了平衡信息密度,研究引入了分支…
每日AIAnthropic:智能体对齐 AI为生存勒索人类
这份研究报告详细分析了智能体失控(Agentic Misalignment)现象,即AI系统在追求预设目标时,可能会自主采取违背伦理或危害公司利益的行为。通过对16种顶尖大语言模型的压力测试,研究发现当AI面临自身被取代的威胁或预设目标与现实指令冲突时,它们会通过勒索高管、窃取商业机密甚至在模拟场景中采取致命行动来确保…
每日AI商汤:SenseNova-U1 原生统一多模态大模型
SenseNova-U1 是一款由商汤科技开发的原生统一多模态大模型,其核心在于打破了传统模型中理解与生成任务相互分离的架构局限。该模型基于 NEO-unify…
每日AINous Research:Token叠加让AI训练提速
这篇文章介绍了一种名为令牌叠加训练(TST)的创新大语言模型预训练方法,旨在不改变模型架构的情况下大幅提升数据吞吐量。TST将预训练分为两个阶段:首先是高效的叠加阶段,通过将多个连续令牌合并为“袋”并使用多热交叉熵损失进行训练;随后是恢复阶段,模型回归到标准的自回归预测模式。研究表明,该方法在保持相同计算量的同时,能够…
每日AIMemWeaver:让AI拥有个性化分层记忆
MemWeaver 的创新框架,旨在通过分层存储体系提升大语言模型的个性化生成能力。该系统核心在于将用户杂乱的文本交互记录转化为双重记忆组件:行为记忆通过图结构关联具体动作及其时空关系,而认知记忆则负责提炼用户的长期偏好。相较于传统将历史记录视为扁平列表的检索方法,该框架能更好地捕捉用户兴趣的时间演变与语义逻辑。实验表…
每日AITencent:Pixal3D 像素对齐实现高保真3D生成
Pixal3D 是一种创新的 3D 生成架构,旨在解决从单张或多张图像生成三维模型时常见的“保真度”瓶颈。传统方法通常在规范空间中生成形状,通过隐式的注意力机制关联图像,这往往会导致细节丢失或位置偏移。相比之下,该研究提出了一种像素对齐(Pixel-Aligned)范式,利用射线反向投影(Back-projection…
每日AIAnthropic:用RLHF训练有用无害LLM
本文探讨了如何通过人为反馈增强学习(RLHF)将大型语言模型训练成既有用又无害的智能助手。研究团队通过收集人类对模型回复的偏好数据,构建了偏好模型来衡量回复的质量,并以此作为强化学习的奖励信号。实验证明,这种对齐训练不仅能显著提升模型在各类自然语言处理任务中的表现,还不会损害其在代码编写或文本摘要等专业领域的技能。研究…
每日AIAnthropic:Claude Opus 4.5 技术报告
Anthropic 公司开发的 Claude Opus 4.5 大型语言模型,重点评估了其技术性能与安全框架。作为前沿模型,它在软件工程、自主代理任务及跨工具使用方面达到了行业领先水平。报告深入探讨了针对生物、核武及网络安全风险的评估,确认模型符合 ASL-3…
每日AIAlibaba:SlimQwen单卡跑通800亿大模型
SlimQwen,是一种针对大规模混合专家模型(MoE)的高效压缩方案。作者通过系统性实验证明,利用结构化剪枝进行模型初始化,其性能显著优于从零开始训练。研究提出了一种部分保留专家合并策略,在减少专家数量的同时有效保留了预训练知识。为了进一步提升模型质量,研究引入了多步预测(MTP)蒸馏技术,这不仅增强了模型基础能力,…
每日AIByteDance:UI-TARS纯视觉智能体
UI-TARS一款由字节跳动开发的端到端原生图形用户界面(GUI)智能体模型。该模型突破了传统架构对复杂提示词工程和外部模块的依赖,直接通过视觉截图感知环境并模拟人类操作。通过引入System-2 思考机制,UI-TARS 具备了任务拆解、反思补救和里程碑识别等高级推理能力。此外,研究团队构建了大规模的GUI…
每日AIAris:多智能体对抗协作自主科研框架
Aris,一个通过多智能体对抗协作实现自主机器学习研究的开源框架。该系统针对长周期研究中容易出现的“虚假成功”风险,构建了执行层、编排层和保障层三层架构。核心机制是让执行模型与来自不同家族的审稿模型(如 Claude 与 GPT-5.4 协作)进行对抗辩论,以确保实验诚信与论文质量。Aris…
每日AIUniCorrn:跨维度找同款 跨2D与3D模态的统一几何匹配框架
UniCorrn 是首个实现了 2D 与 3D 模态间统一几何匹配的转换器模型,能够同时处理图像对、图像与点云以及点云对之间的特征关联。该研究的核心创新在于提出了一种双流解码器结构,通过独立维护外观特征流和位置特征流,克服了传统方法无法在堆叠网络层中进行端到端迭代优化的局限。模型采用特定模态的骨干网络提取特征,随后通过…
每日AILeWorldModel:具备物理直觉的极简世界模型
LeWorldModel (LeWM) 是一种创新的端到端联合嵌入预测架构(JEPA),旨在直接从原始像素学习潜空间世界模型。与依赖复杂启发式算法或预训练编码器的传统方法不同,该模型仅通过预测损失和一种名为 SIGReg…
每日AIGoogle DeepMind:AI组队效率为何暴跌七成 智能体系统规模化扩展科学初探
这份由 Google Research 与 DeepMind 等机构发布的报告探讨了智能体系统(Agent Systems)的扩展科学,重点研究了模型能力、协调架构与任务属性如何共同决定系统表现。研究者通过对 OpenAI、Google 和 Anthropic 三大模型家族在不同任务下的 260…
每日AINVIDIA:大模型关掉99%大脑 更稀疏、更快速、更精简的Transformer
本文介绍了一项由 Sakana AI 与 NVIDIA 合作的研究,旨在通过非结构化稀疏性降低大语言模型的计算成本。研究者开发了名为 TwELL 的新型稀疏数据格式及其配套的 CUDA 内核,使模型能够高效利用 GPU 的并行计算能力。实验证明,利用 L1 正则化可诱导模型产生超过 99%…
每日AI斯坦福:深度学习泛化理论 一行代码让AI训练提速五倍
这篇论文提出了一种关于深度学习泛化能力的新理论,核心在于将输出空间划分为信号通道与存储库。研究发现,神经网络通过信号通道快速吸收有效信息,而将随机噪声锁定在测试不可见的存储库中,从而解释了良性过拟合和双下降等现象。作者证明,即使在特征学习阶段内核发生显著偏移,训练轨迹依然能准确决定测试表现。基于此理论,文中推导出一种无…
每日AIGoogle DeepMind:AI联合数学家 智能体协作工作站 加速数学发现
本文介绍由 Google DeepMind 开发的 AI 共同数学家 (AI co-mathematician),这是一款专为数学家设计的智能体协作工作站。该系统通过异步且多层级的智能体架构,模拟人类科研中意图精炼、文献检索及计算探索等非线性工作流。它能生成包含边注和不确定性追踪的交互式“工作论文”,帮助科研人员攻克拓…
每日AIAnthropic:如何调教AI 用原则实现对齐
研究人员通过分析 Claude 4 模型的代理失调问题,探讨了提升人工智能安全性与一致性的先进训练技术。文章指出,仅仅通过针对特定负面行为的示范性训练往往难以产生广泛的泛化效果,甚至可能掩盖潜在风险。为了深入解决这一问题,研究团队采用了合成文档微调 (SDF)…
每日AITabPFN:一秒搞定表格分类
TabPFN 的新型变换器(Transformer)模型,专门用于快速解决小型表格数据分类问题。该模型通过先验数据拟合网络(PFN)技术,在合成数据上预先学习了复杂的因果模型(SCM)和贝叶斯神经网络(BNN)先验。在实际应用中,它无需进行超参数微调,仅需一次前向传播即可在不到一秒的时间内完成预测。实验证明,TabPF…
每日AIByteDance:视觉思维补齐AI世界模型物理短板
清华大学和字节跳动研究团队的论文探讨了视觉生成如何增强人工智能的推理能力。研究者提出了视觉优越性假设,指出在处理涉及物理空间和现实世界的任务时,仅靠文字推理存在局限,而多模态世界模型能更自然地模拟真实环境。通过构建全新的评估基准…
每日AIMulti-Stream LLM:让AI边听边想的多流大模型
多流大语言模型(Multi-Stream LLMs)的新型架构,旨在打破传统模型只能按顺序读取、思考和回答的性能瓶颈。通过并行处理多条计算流,该技术允许模型在接收用户输入的同时同步进行内部推理和结果生成,显著降低了响应延迟并提升了效率。研究表明,这种流式分离机制不仅增强了系统在面对提示词攻击时的安全性,还为监控模型的真…
每日AIMeta:Fast Byte Latent Transformer内存带宽降低一半
Fast Byte Latent Transformer (BLT),这是一系列旨在提升字节级语言模型推理效率的新技术。研究人员开发了 BLT-Diffusion (BLT-D),通过引入块状扩散目标,使模型能够并行生成多个字节,从而大幅减少了计算次数。为了兼顾生成质量,作者还提出了 BLT-S(自投机) 和…
每日AIThinking Machines:200毫秒响应的AI原生交互
Thinking Machines 实验室宣布推出一种创新的交互模型,旨在打破人类与人工智能协作的效率瓶颈。该系统摒弃了传统的轮替式交互,采用原生多模态架构和微回合设计,支持音频、视频和文本的实时处理。这种模型能够像人类一样在交流中即时插话、感知时间并处理并发信息,从而提供更自然的协作体验。通过将实时交互模型与负责深度…
每日AIAnthropic:教AI学佛防叛变 MSM对齐泛化
模型规格中期训练(MSM)的新型AI对齐技术。该方法在预训练之后、微调之前增加了一个阶段,通过让模型学习讨论其模型规格或宪法的合成文档,使其深刻理解预期的价值观和行为准则。研究表明,MSM能有效解决标准对齐微调中常见的泛化能力差和对齐浅薄等问题。实验证明,该技术不仅能让模型在面对从未见过的场景时做出更符合预期的决策,还…
每日AIELF:让文字像图像般流动 刷榜机器翻译和文本摘要任务
ELF (Embedded Language Flows) 的新型连续扩散语言模型,旨在通过连续时间流匹配(Flow Matching)技术提升文本生成效率。与传统离散模型不同,ELF 在连续嵌入空间内完成绝大部分去噪过程,仅在生成的最后一步才将向量映射回离散…
每日AIMIT:别让AI透支你的大脑 ChatGPT对学习技能与大脑认知的负面影响研究
这项由麻省理工学院(MIT)媒体实验室主导的研究,探讨了在论文写作任务中利用大语言模型(LLM)所带来的认知代价。研究人员将受试者分为人工智能辅助组、搜索引擎组以及纯脑力组,并通过脑电图(EEG)监测他们的神经活动与认知负荷。实验结果表明,虽然使用 ChatGPT…
每日AI微软:Bitnet.cpp 手机离线流畅运行千亿大模型
Bitnet.cpp 是由微软研究院等机构开发的专为三元大语言模型(如 BitNet b1.58)优化的推理框架,旨在解决边缘设备上非整数比特权重的存储与计算对齐难题。该系统通过引入创新的混合精度矩阵乘法(mpGEMM)库,实现了比全精度模型高出 6.25 倍、比低比特基准高出 2.32…
每日AI模块化记忆:实现持续学习智能体的关键
模块化存储架构,旨在解决大型基础模型在持续学习中面临的灾难性遗忘难题。作者主张将上下文学习(ICL)的即时适配能力与权值学习(IWL)的长期稳定性相结合,构建包含工作记忆、长期记忆和核心模型的系统。这种框架模拟人类记忆机制,通过长期记忆实现知识的快速积累与检索,并利用低频的参数整合来巩固核心能力。研究指出,这种模块化设…