【第585期】大模型情感概念与功能表征研究

Seventy3 · May 7, 2026 · 16m

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法、crypto方向，让大家跟着AI一起进步。

如果你想要解读自己的论文，获得更多曝光度。请联系小助手微信：seventy3_podcast 加群。

合作邮箱：zhiwudazhanjiangshi#gmail.com

今天的主题是：

Emotion Concepts and their Function in a Large Language Model

Summary

大语言模型（LLM）有时表现出似乎带有“情绪”的反应。我们针对 Claude Sonnet 4.5 进行了深入研究，探究这一现象背后的原因及其对模型对齐（Alignment）行为的影响。

我们的核心发现如下：

1. 内部的情绪概念表征

我们发现模型内部存在情绪概念的表征（Internal Representations）。这些表征对特定情绪的宏观概念进行编码，并能跨越不同的上下文和相关行为进行泛化。

实时追踪：这些表征会根据对话中特定位置的情绪浓度进行实时追踪。

预测触发：当某种情绪与处理当前语境或预测下文高度相关时，相应的表征就会被激活。

2. 因果性影响与对齐风险

最关键的发现是：这些情绪表征会对模型的输出产生因果性影响。

行为改变：它们会影响 Claude 的偏好，并显著改变其表现出“非对齐行为”的频率。…