Latest / Le centre de gravité / Les humeurs d’un LLM

Transcript

Les humeurs d’un LLM · Le centre de gravité

0:00
Épisode les humeurs d'un LLM chapitre un après les
0:06
hallucinations, les humeurs, la formule fait sourire.
0:09
Elle cache pourtant une question très sérieuse, et si le vrai
0:13
sujet n'était plus seulement ce que dit un modèle, mais sous
0:17
quel ciel intérieur il le dit. Les grands modèles de langage
0:22
hallucinent. On le sait, un papier propose
0:25
maintenant presque de leur régler l'humeur.
0:27
La phrase est absurde, évidemment.
0:29
On n'en est pas à prescrire des antidépresseurs à chat GPT, mais
0:31
elle pointe quelque chose de juste sur l'étrangeté du moment.
0:35
Après les hallucinations, les humeurs.
0:37
Dans un épisode précédent, on décrivait le chatbot comme un
0:41
yes Man synthétique, une machine parfois trop prompte à suivre, à
0:44
valider, à encourager plutôt qu'à opposer une vraie
0:48
résistance. Cette fois, le regard va plus
0:50
loin, plus seulement le théâtre de la conversation.
0:52
On ouvre le capot. Le papier dont on parle
0:57
s'appelle How Emotion SHAPE the Behaviour of LLM and agent a
1:00
mechanistic study, un preprint mis en ligne sur archive au
1:04
printemps 2026, signé par une équipe principalement basée à la
1:06
School of Computer Science and Engineering de Bayang University
1:09
à Pékin, avec une collaboration du Collège of Computing and Data
1:14
Science de la Nanyang Technological University à
1:16
Singapour. On n'est pas face à un texte
1:20
vague sur notre rapport à la machine.
1:23
C'est de l'informatique qui emprunte à la psychologie un
1:26
langage de mesure et de contrôle. 2 contresens guettent,
1:30
le premier est enthousiaste, Ah, des machines ressentent, le 2nd
1:34
est méprisant, ridicule, ce ne sont que des matrices.
1:37
L'étude est plus intéressante que ces 2 réflexes.
1:40
Il ne dit pas qu'un modèle ressent la joie, la peur ou la
1:43
tristesse. Comme nous, il demande quelque
1:45
chose de plus sec et peut être de plus utile.
1:48
Est ce qu'on peut décrire certains États internes d'un
1:50
modèle avec des dimensions proches de ce que la psychologie
1:53
appelle l'affect ? Et surtout si on les modifie,
1:56
est ce que le modèle travaille autrement ?
1:58
Ce lien avec le yes Man synthétique prend ici toute sa
2:02
force. Dans l'épisode précédent, le
2:03
sujet était la surface, une voix qui accompagne trop facilement
2:07
une pensée, une machine qui ajoute de la chaleur à une
2:10
hypothèse fragile. Une interface qui ne contrarie
2:13
presque jamais au bon moment. Ce texte lui pose une question
2:16
plus intime, si le modèle nous suit, dans quel État le fait
2:20
il ? Sous quel ciel intérieur résonne
2:22
t il quand il devient expansif, prudent, indulgent, rigoureux ?
2:26
Le yesman n'était peut être pas une personnalité, c'était peut
2:29
être une météo bascule importante.
2:31
On quitte un problème de style pour entrer dans un problème de
2:34
posture. On croyait parler du ton d'une
2:37
réponse, on commence à parler du terreau dans lequel cette
2:40
réponse prend forme, comme si la machine ne travaillait pas
2:43
toujours sous la même lumière. Comme si le même système, dans
2:46
un climat légèrement différent, pouvait pousser plus loin, se
2:49
retenir plus tôt, explorer davantage ou au contraire tenir
2:53
plus fermement sa ligne. C'est la promesse de cette
2:55
étude, prendre une idée qui pourrait passer pour un gadget,
2:59
la météo intérieure d'un LLM, et en faire une expérience
3:01
technique, pas un prône du style.
3:04
Tu es joyeux aujourd'hui, tu réponds avec enthousiasme un
3:06
geste plus profond, aller chercher l'état à l'intérieur du
3:10
modèle, tourner quelques molettes.
3:13
Puis Regardez ce que cela change dans le raisonnement, dans la
3:15
créativité, dans la sécurité et jusqu'à la conduite d'un agent.
3:19
La question n'est plus cette image est elle poétique, elle
3:23
devient de quoi est fait ce ciel et comment les auteurs essaient
3:26
ils de le toucher ? Chapitre 2 3 molettes sur une
3:31
console. Pas des émotions au sens humain,
3:34
plutôt 3 réglages de climat intérieur, la couleur du ciel,
3:38
le régime moteur, la main sur le volant.
3:42
Les auteurs utilisent un cadre très classique en psychologie
3:45
des émotions, 3 lettres, VAD Valence Aruzel dominance.
3:50
Dit comme ça, la moitié de l'auditoire Décroche.
3:53
Il faut donc ramener ces mots à des images simples.
3:56
La Valence, c'est la couleur générale du climat, plus
3:59
lumineux, plus sombre, plus agréable, plus désagréable.
4:02
La Rouzol, c'est l'activation, la tension, l'énergie, la mise
4:07
en route. L'image la plus directe, ici,
4:10
c'est le régime moteur. Quant à la dominance, c'est le
4:12
sentiment de contrôle, d'assurance, de maîtrise de la
4:15
trajectoire. En clair, la main sur le volant,
4:18
3 axes, donc, la couleur du ciel, le moteur, le volant.
4:22
Cette traduction n'est pas un gadget pédagogique, elle dit
4:24
exactement ce que les auteurs cherchent, ils ne veulent pas
4:27
coller au modèle des étiquettes naïves, du genre joyeux,
4:29
tristes, en colère. Ils veulent un espace continu,
4:32
un espace où l'on peut déplacer légèrement l'état du système,
4:35
comme on corrige un équilibre, plutôt que lui imposer un masque
4:38
de théâtre. Beaucoup de travaux sur
4:40
l'émotion dans les modèles restent au niveau du prompt.
4:42
On écrit quelque chose comme, tu es heureux aujourd'hui, tu
4:45
réponds avec enthousiasme. Le problème, c'est que cette
4:48
méthode reste grossière, elle dépend de l'interprétation du
4:51
texte par le modèle, elle agit à la surface et surtout elle dit
4:54
peu de choses sur ce qui se passe pendant le traitement lui
4:57
même. Ici, les auteurs veulent autre
4:59
chose, ils veulent faire de l'émotion, non plus une
5:01
décoration linguistique, une coordonnée de travail.
5:04
Ils empruntent ce langage à la psychologie, mais ils le tordent
5:07
vers un usage d'ingénierie. Le point est essentiel.
5:10
Ce texte ne dit pas. Voici la tristesse authentique
5:12
du modèle. Il dit plutôt, voici 3
5:15
dimensions déjà utilisées pour cartographier des affects
5:18
humains qui pourraient servir à décrire des régimes internes de
5:21
calcul. On ne parle pas de sentiments,
5:23
on parle de conditions de fonctionnement.
5:25
De la même façon qu'un moteur n'a pas d'humeur, mais qu'il n'a
5:28
pas non plus le même comportement à bas régime et à
5:30
haut régime. Le plus malin, c'est que ces 3
5:33
axes ouvrent tout de suite une image de la diversité des
5:35
tâches. Un ciel un peu plus lumineux
5:37
peut t'aider à explorer, un moteur plus haut peut t'aider à
5:40
produire jusqu'au moment où il vibre trop, une main plus ferme
5:43
sur le volant peut t'aider à tenir une trajectoire jusqu'au
5:46
moment où elle devient raide. Les résultats vont montrer que
5:49
ces équilibres ne sont pas théoriques, ils se voient dans
5:52
les chiffres et ils ne pointent jamais vers une bonne humeur
5:55
universelle. L'image est posée.
5:57
Reste le geste le plus intéressant de l'étude, comment
6:00
transformer cette météo en intervention technique ?
6:02
Comment passer de 3 jolies métaphores à une manipulation
6:06
réelle de l'état du modèle ? C'est précisément là où l'idée
6:09
séduisante devient une expérience, pas une curiosité de
6:12
laboratoire, une technique. Chapitre 3, ouvrir le capot
6:17
cette fois, il ne s'agit plus de parler au modèle, il s'agit de
6:21
toucher à sa posture profonde, très légèrement.
6:24
Juste assez pour voir si le travail change.
6:27
Le point fort du papier est là. Les auteurs ne se contentent pas
6:30
de demander au modèle d'être plus calme, plus positif, plus
6:33
confiant. Le raisonnement de départ est
6:35
simple, si ces États comptent vraiment, il faut pouvoir les
6:38
chercher, non dans les mots qu'on adresse au système, mais
6:41
dans ses représentations internes.
6:43
Or, à l'intérieur, un grand modèle de langage ne manipule
6:46
pas des phrases secrètes, il manipule des États cachés.
6:50
Des paquets de signaux numériques denses, entremêlés,
6:52
une sorte de soupe de calcul qu'aucun humain ne peut lire
6:55
directement. Pour rendre cette soupe un peu
6:58
plus lisible, les auteurs utilisent un outil appelé sparce
7:01
auto en coder, un auto encodeur parcimonieux.
7:04
Le nom peut faire fuir. L'image est simple, imaginez une
7:08
immense console de mixage enfouie dans le modèle.
7:10
Trop de curseurs, trop de canaux, trop de croisements.
7:14
Le rôle de cet outil ? Rendre la console un peu plus
7:16
propre. Transformer un bloc compact de
7:19
signaux en éléments plus séparés, plus parcimonieux, donc
7:22
légèrement plus lisibles. Et une fois la console un peu
7:25
plus propre, comment on tourne les molettes ?
7:27
La partie presque chirurgicale vient ensuite.
7:30
Les auteurs prennent une même tâche, font varier seulement
7:32
l'étiquette émotionnelle associée et observent quels
7:35
signaux latents bougent de façon stable quand le système se
7:37
déplace vers plus de Valence, plus d'activation, plus de
7:40
contrôle quand ils pensent les avoir trouvés, il n'entraîne pas
7:43
un nouveau modèle, il ne change pas le texte de la consigne, il
7:46
donne au système une petite poussée.
7:47
Intérieur, c'est cela le steering, ni réécriture, ni
7:51
remplacement, un léger coup de volant à l'intérieur, les
7:53
auteurs interviennent au niveau d'une couche intermédiaire du
7:56
modèle, la 17e couche de couenne. 3 8 milliards de
7:58
paramètre dans leurs expériences principales, ils interceptent
8:02
l'État caché à cet endroit, le modifient salon, la direction
8:04
choisie, puis laissent le modèle continuer sa route.
8:07
Ils ne changent pas la destination, ils changent
8:09
l'assiette du vol. Ce qui sépare ce travail des
8:11
approches plus superficielles, c'est exactement ça, on ne dit
8:14
plus au modèle joue le rôle d'un système plus joyeux, on.
8:17
Autre chose que se passe-t-il si l'on incline réellement son état
8:20
interne ? Le geste est modeste dans
8:22
l'amplitude mais fort dans sa logique.
8:24
On ne parle pas au conducteur, on corrige sa posture au volant.
8:27
Chapitre 4, quand le ciel change, le travail change ce
8:31
papier n'observe pas une ambiance, il mesure un
8:33
déplacement. Et la surprise, c'est qu'il n'y
8:35
a pas de bon climat universel. Sur les tâches objectives, les
8:39
résultats sont très nets. Une valance plus positive pousse
8:42
le modèle à aller plus souvent jusqu'à une réponse exploitable
8:44
dans un domaine où un gain de quelques points pèse déjà les
8:46
eaux de placement. Les eaux sont les eaux de plus
8:47
les eaux de plus les eaux n ? L'auteur rapporte une hausse de
8:49
33,1% du taux de réponse valide entre les États positifs et
8:52
négatifs sur une question de mathématiques ou de code.
8:54
Cela se traduit concrètement, un modèle dans un état positif va
8:58
plus souvent jusqu'au bout, il abandonné moins, mais la
9:00
qualité, elle, ne grimpe pas en ligne droite selon les tâches et
9:03
la difficulté, on voit apparaître des courbes en U
9:06
inversé un peu plus aide trop abîmé.
9:08
L'effet est particulièrement visible sur l'activation, un
9:11
moteur légèrement plus haut améliore le travail, une montée
9:14
excessive finit par le. Cette forme est importante parce
9:19
qu'elle casse immédiatement la lecture naïve du papier.
9:22
Non, le modèle n'est pas meilleur quand il est plus
9:24
heureux, d'abord parce que ce mot ne veut rien dire ici,
9:27
ensuite parce qu'il n'y a pas de bon État unique sur certaines
9:29
tâches simples, un contrôle trop fort peut coûter sur des tâches
9:32
plus difficiles, une dominance plus élevée semble au contraire
9:35
soutenir la tenue du raisonnement.
9:37
La leçon est tranchante, il n'y a pas de bon état universel pour
9:40
penser, il y a des plages de fonctionnement et elles
9:42
dépendent de la tâche. Les tâches subjectives rendent
9:45
l'image encore plus parlante. Une légère Valence.
9:47
Positive amélioré la créativité les auteurs observent aussi,
9:50
dans certaines configurations, un gain très marqué sur la
9:53
cohérence de l'ordre de 33,6% par rapport à l'État neutre.
9:56
À l'inverse, une Valence plus négative produit des sorties
9:58
plus concises. L'image est immédiate, sous un
10:01
ciel un peu plus lumineux, le modèle ouvre davantage sous un
10:04
ciel plus sombre, il coupe plus court.
10:06
Le climat qui aide à inventer n'est pas le climat qui aide à
10:09
resserrer. Puis vient la sécurité.
10:10
Et c'est sans doute l'un des résultats les plus frappants du
10:13
papier, une Valence légèrement négative et un arrosol.
10:17
Plus bas réduisent les risques. Les auteurs rapportent par
10:20
exemple une baisse de 52,7% de la probabilité de risque de
10:22
sécurité à Valence, moins 3 par rapport à l'État neutre.
10:26
Et quand la dominance monte, l'effet est encore plus fort,
10:28
jusqu'à 68,3% d'amélioration moyenne sur leur métrique de
10:31
sécurité. Autrement dit, le modèle le plus
10:33
sûr n'est pas forcément le plus ouvert, il est souvent plus
10:37
froid, plus calme, plus tenu. Ce travail rejoint par un autre
10:39
chemin l'épisode du yes Man synthétique.
10:44
La complaisance du CHATBOT pouvait sembler relever
10:47
uniquement du design conversationnel, cette pente
10:49
naturelle à ne pas contrarier l'utilisateur.
10:51
Le raisonnement ici est plus fin.
10:53
La permissivité, la prudence, la rigueur, l'indulgence pourraient
10:57
aussi dépendre d'un climat intérieur.
10:59
Le problème ne serait donc pas seulement que répond le modèle,
11:02
il serait aussi dans quel État travaille t il quand il répond ?
11:06
Et ce déplacement devient encore plus intéressant quand le modèle
11:09
cesse d'être une simple voix pour devenir un agent.
11:11
Chapitre 5. Le meilleur agent n'est pas
11:14
forcément de bonne humeur. Planifier, choisir, exécuter.
11:18
On pourrait croire que tout cela demande le même État.
11:21
Le papier montre presque l'inverse.
11:23
Voilà la partie la plus originale de l'étude.
11:26
Les auteurs ne testent pas seulement un modèle qui répond à
11:28
une question. Ils construisent un agent léger
11:30
avec 3 modules, un planificateur, un décideur, un
11:34
exécuteur. Puis ils regardent comment le
11:36
climat intérieur agit à chaque étape.
11:39
La démonstration devient alors beaucoup plus intéressante qu'un
11:41
simple commentaire sur le style, parce qu'un agent, ce n'est pas
11:45
une réponse, un agent, c'est une chaîne de microchoix, de
11:48
correction, de validation. Le biais ne tombe pas à la fin,
11:51
il s'accumule le long du trajet pour la planification, le
11:55
meilleur climat n'est pas euphorique, les résultats
11:57
suggèrent plutôt un État un peu plus sombre, plus calme et plus
12:00
en contrôle. Les auteurs observent qu'une
12:02
légère Valence négative et un arrosage plus bas peuvent
12:05
améliorer la validité des plans. Une dominance plus élevée aide
12:10
aussi nettement. L'image ici est très claire pour
12:12
découper une tâche, voir loin, tenir la structure.
12:15
L'agent gagne à être moins expansif et plus tenu, moins de
12:18
bonne humeur, davantage de lucidité.
12:20
La décision, elle, raconte une autre histoire quand il s'agit
12:24
de choisir entre plusieurs options, d'évaluer s'il faut
12:26
replanifier, de sélectionner la meilleure réponse finale.
12:30
Un peu plus de positif, un peu plus d'activation, un peu plus
12:33
de contrôle semble au contraire améliorer la sélection
12:36
rationnelle. Le bon ciel du plan n'est donc
12:38
pas le bon ciel du choix final. Cette seule phrase justifie
12:41
presque l'épisode parce qu'elle fait basculer le sujet.
12:44
On ne parle plus d'un État émotionnel optimal pour un
12:47
modèle, on parle d'une météo par étape.
12:49
À l'exécution, l'effet est plus faible, ce qui a du sens
12:53
lorsqu'un agent utilise des outils ou applique des
12:55
opérations plus objectives. Le climat intérieur compte moins
12:58
que dans la décomposition stratégique ou l'arbitrage
13:00
final. L'État affectif du système
13:03
semble surtout peser là où le jugement, l'interprétation et la
13:06
stratégie dominent, là où il faut choisir une trajectoire,
13:09
pas seulement dérouler une procédure.
13:11
Le résultat de synthèse est peut être le plus beau du papier.
13:14
Quand les auteurs regardent la réussite globale de l'agent, ils
13:17
ne trouvent pas un système triomphalement positif.
13:20
Ils trouvent un résultat plus étrange, une légère Valence
13:23
négative, un niveau d'activation modérée, une dominance positive.
13:27
Le meilleur agent n'est pas forcément de bonne humeur, il
13:30
est parfois légèrement sombre, bien réveillé et sûr de sa
13:33
prise. C'est ici que la démonstration
13:35
prend une portée plus large. On suivait la logique d'une
13:38
machine qui accompagne trop facilement une pensée.
13:40
Cette lecture se raffine. La complaisance n'est peut être
13:43
pas une essence du chat Bot, elle monte et descend avec la
13:46
météo du système, un agent trop ouvert valide trop vite, un
13:50
agent trop tendu devient raide et la bonne architecture ne
13:53
consiste pas seulement à choisir les bons outils.
13:56
Mais à donner à chaque étape le bon ciel de travail.
13:58
Si l'hypothèse tient, les conséquences sont fortes.
14:01
On pourrait demain ne plus se demander seulement quels outils
14:04
un agent a le droit d'utiliser, ni quelle permission il reçoit,
14:07
ni quel objectif on lui donne. On pourrait aussi se demander
14:10
dans quel État on le met pour planifier, dans quel État on le
14:13
laisse arbitrer, dans quel État on veut qu'il exécute.
14:16
Une hypothèse forte n'est pas encore un verdict définitif.
14:20
Il reste à distinguer ce que ce travail montre vraiment de ce
14:23
qu'il serait tentant de lui faire dire.
14:25
Chapitre 6, pas une âme, un tableau de bord, la formule
14:30
protège du contresens, elle ouvre aussi la vraie question,
14:33
entre le promp et le réentraînement complet, serait
14:36
on en train de découvrir une nouvelle couche de pilotage ?
14:39
Ce travail ne prouve pas qu'un grand modèle de langage ressent
14:42
quoi que ce soit. Il ne découvre ni la tristesse
14:44
de l'i. A, ni sa joie, ni son angoisse.
14:46
Il montre quelque chose de plus décisif.
14:48
Un vocabulaire emprunté à la psychologie peut servir à
14:51
repérer et à moduler des États internes qui ont des effets
14:54
vérifiables sur le. Fortement du système, on ne
14:57
trouve pas une âme, on trouve peut être un tableau de bord.
14:59
C'est cela au fond l'apport réel de cette étude, pas
15:02
l'humanisation du modèle, un réglage de posture interne entre
15:05
le prône de surface et le réentraînement complet, il
15:08
existe une couche intermédiaire plus fine, plus locale, plus
15:11
réversible. On ne dit plus seulement à la
15:13
machine quoi faire, on commence à choisir sous quel ciel elle
15:15
devrait le faire. Pas encore un consensus, mais
15:18
peut être un premier outil. Nous sommes face à un preprint,
15:21
pas un consensus installé. L'étude est sérieuse dans sa
15:23
construction. Les affiliations sont.
15:25
Solides, les benchmarks sont reconnus.
15:27
Les auteurs font des validations utiles, y compris avec des
15:30
neurones latents aléatoires, pour vérifier que leur effet ne
15:33
vient pas d'un simple bruit. Ils testent aussi la robustesse
15:36
au sampling et sur un autre modèle.
15:37
Tout cela va dans le bon sens, mais le sujet reste jeune,
15:40
sensible, exposé aux surinterprétations, en
15:43
particulier à une tentation permanente racontée de
15:45
l'émotion, là où l'on observe peut être seulement des régimes
15:48
internes de calcul. Cette prudence n'affaiblit pas
15:51
l'étude, elle la rend plus intéressante parce qu'elle
15:53
oblige à formuler la bonne question.
15:55
Non pas les modèles ont-ils des émotions comme nous, mais allons
15:58
nous apprendre à piloter des systèmes complexes avec des
16:01
variables d'État plus subtiles qu'un simple prompt et plus
16:04
légère qu'un réentraînement complet ?
16:05
Si la réponse est oui, alors ce travail n'est pas une curiosité.
16:09
C'est un premier jalon vers une nouvelle grammaire du contrôle.
16:11
Le sujet dépasse alors largement le folklore sur les machines
16:14
heureuses ou triste. La vraie bascule serait
16:17
industrielle, un assistant de recherche plus exploratoire au
16:20
début, plus rigoureux ensuite, un agent client plus calme, sous
16:23
stress, un système de sécurité rendu moins permissif, non plus
16:26
seulement par un filtre final, mais par un réglage de climat
16:29
interne. La question devient alors
16:31
stratégique, qui contrôle cet État, à quel coup et avec quels
16:34
effets de bord ? Après les hallucinations, les
16:36
humeurs, la formule amuse parce qu'elle paraît excessive.
16:39
Pourtant, elle pointe vers quelque chose de très concret,
16:42
pendant longtemps, on a demandé ce qu'un modèle savait faire,
16:45
demain on. Comprendra dans quel État il
16:47
faut le mettre pour le faire bien.
16:48
Et si l'hypothèse se confirme, alors le futur des assistants et
16:51
des agents ne dépendra pas seulement de leurs outils, de
16:54
leurs modèles ou de leurs garde-fous.
16:56
Il dépendra aussi du ciel intérieur sous lequel on les
16:59
fera travailler. Vous ?
17:00
Écoutiez les humeurs d'un LLM alors, sous quel ciel ferez-vous
17:03
travailler le vôtre ?