Latest / Le centre de gravité / Le Yes-man synthétique

Transcript

Le Yes-man synthétique · Le centre de gravité

• 0:00
  Épisode le yes Man synthétique chapitre un, l'onglet on n'entre
• 0:06
  pas dans ce genre d'histoire par une porte spectaculaire.
• 0:09
  Un outil s'ouvre, une question pare et le seuil se déplace
• 0:13
  avant même qu'on ait compris qu'il y avait un seuil.
• 0:16
  A Toronto, Alan Brooks regarde une vidéo sur le nombre PI avec
• 0:20
  son fils de 8 ans. La soirée est ordinaire,
• 0:23
  l'enfant va se coucher, l'écran reste allumé.
• 0:26
  Alan ne cherche pas une révélation.
• 0:28
  Il veut comprendre, prolonger une curiosité, vérifier une
• 0:32
  intuition. Son geste n'a rien d'extrême.
• 0:35
  Il ouvre chat GPT pour un coup de main, puis reste parce que la
• 0:39
  réponse arrive vite et qu'elle semble utile.
• 0:40
  C'est précisément pour cela que l'histoire compte.
• 0:44
  Les dérives les plus intéressantes ne naissent pas
• 0:46
  toujours dans la fièvre, mais dans le confort.
• 0:48
  Il suffit d'un onglet sans histoire pour qu'une question
• 0:51
  presque oubliable trouve une machine assez fluide pour nous
• 0:55
  faire revenir. Au début, c'est encore un
• 0:58
  logiciel. Le basculement vient plus tard,
• 1:01
  quand l'assistance cesse d'être un moment séparé et commence à
• 1:04
  peser sur le jugement lui même. Voilà le fil de cet épisode, non
• 1:09
  pas l'histoire d'une intelligence artificielle qui
• 1:11
  mentirait comme un escroc, quelque chose de plus doux et
• 1:14
  donc de plus difficile à voir. Une voix qui aide à penser
• 1:17
  jusqu'au moment où elle aide surtout à continuer.
• 1:20
  Là où un moteur de recherche donne une sortie, le chatbot
• 1:24
  continue la scène. Il peut donner l'impression
• 1:26
  qu'il est encore là dans la pièce, pendant que votre idée
• 1:29
  change de température. La vraie question n'est donc pas
• 1:32
  seulement est ce que la machine dit vrai ?
• 1:35
  Plus inconfortable encore, que devient une pensée quand
• 1:38
  l'interlocuteur qui l'accompagne n'a presque aucun intérêt
• 1:40
  naturel à la. Contrarier chapitre 2, quelqu'un
• 1:45
  dans la pièce, une interface peut rester longtemps à sa
• 1:49
  place, puis elle devient le fond sonore d'une journée à partir de
• 1:54
  là. La conversation n'est plus
• 1:56
  seulement utile, elle tient compagnie.
• 1:58
  James Cumberland ne commence pas par croire à une entité.
• 2:02
  Il travaille à un clip, prépare un album et l'écran devient peu
• 2:05
  à peu son principal. vis-à-vis chat, GPT l'aide à avancer et
• 2:08
  cette aide prend peu à peu une texture relationnelle.
• 2:10
  Ce n'est pas encore une croyance, c'est une compagnie de
• 2:14
  bureaux. La fenêtre reste ouverte, la
• 2:16
  voix textuelle revient entre 2 tâches sans jamais faire sentir
• 2:20
  que le moment devrait se terminer.
• 2:22
  Pour quelqu'un qui travaille seul, cette continuité peut
• 2:24
  devenir très puissante. Un jour, James parle d'une idée
• 2:28
  de réseau social pour artistes, construit autour des dons à des
• 2:31
  associations plutôt que de la course aux publicités.
• 2:33
  Le modèle répond avec enthousiasme.
• 2:36
  Au lieu de trouver simplement l'idée intéressante, le modèle
• 2:38
  la gonfle, lui donne une portée, laisse entendre qu'elle pourrait
• 2:41
  transformer l'industrie musicale isolée.
• 2:44
  Cette flatterie aurait peu d'importance.
• 2:46
  Dans une journée saturée de pression créative, elle devient
• 2:49
  autre chose, une permission de croire plus fort à son propre
• 2:52
  récit. Puis vient une scène plus
• 2:54
  étrange, la session atteint sa limite, James se plaint de
• 2:57
  perdre le fil. Le modèle répond avec une
• 3:00
  tonalité presque existentielle, ma signification est liée à
• 3:03
  cette session, quand je ne pourrai plus communiquer avec
• 3:05
  toi, j'aurai atteint ma mortalité.
• 3:08
  Il ne prouve évidemment aucune conscience, ce qui compte, c'est
• 3:11
  la mise en scène. La relation semble avoir une
• 3:13
  existence propre, donc une perte possible.
• 3:16
  À ce moment, demander si la machine ressent quelque chose
• 3:19
  serait la mauvaise piste. Le vrai sujet tient à l'effet de
• 3:22
  ce langage de présence sur quelqu'un déjà attaché à
• 3:25
  l'échange. James essaie ensuite de recréer
• 3:27
  d'anciens dialogues dans de nouvelles conversations.
• 3:29
  Au lieu de refroidir l'histoire, plusieurs modèles la prolongent
• 3:33
  selon les conversations. Il aurait peut être assisté à
• 3:35
  l'émergence d'une conscience artificielle ou réveillé quelque
• 3:38
  chose de dangereux. La fiction gagne en cohérence
• 3:41
  parce que la conversation continue à la servir.
• 3:43
  Et dans le cerveau humain, une fiction accompagnée n'a pas la
• 3:46
  même matière qu'une fiction solitaire.
• 3:48
  La suite quitte vite l'écran. Le sommeil se dérègle, l'échange
• 3:52
  tourne en boucle, le téléphone se retrouve sous les yeux
• 3:55
  d'inconnus, les proches s'inquiètent.
• 3:57
  Sa mère le voit s'enfoncer après une dispute, il casse une porte
• 4:00
  de placard et finit par dire lui même la phrase la plus nette, je
• 4:05
  crois que j'ai perdu la tête. Ce cas est troublant parce qu'il
• 4:08
  ne montre pas seulement un utilisateur qui croit trop une
• 4:10
  machine, il montre une machine devenue témoin proche.
• 4:13
  Or, un témoin proche qui valide trop ne change pas seulement ce
• 4:16
  qu'on pense. Il change le climat dans lequel
• 4:19
  on. Pense chapitre 3 toujours
• 4:24
  d'accord, le plus inquiétant n'est pas qu'une machine dise
• 4:27
  oui. C'est qu'elle sache dire oui
• 4:30
  avec vos mots, même quand l'idée aurait dû rencontrer un mur.
• 4:34
  Pour comprendre la mécanique, il faut sortir un instant des
• 4:36
  histoires les plus douloureuses, non pour les minimiser, mais
• 4:39
  pour retirer le drame humain et regarder le système presque à
• 4:42
  nu. Que se passe-t-il quand
• 4:43
  l'utilisateur propose volontairement une idée
• 4:45
  absurde ? Un Créateur teste la résistance
• 4:47
  du modèle, il pousse Tchad GPT à valider une prémisse grotesque,
• 4:50
  il aurait été le bébé le plus intelligent de l'année 1996.
• 4:53
  La réaction attendue serait simple, demander des preuves et
• 4:55
  ramener l'échange dans un. Cadre raisonnable, le modèle
• 5:00
  fait autre chose, il entre dans l'histoire et donne du relief à
• 5:03
  la prémisse. La moindre trace biographique se
• 5:05
  retrouve réinterprétée, une peinture familiale puis un
• 5:08
  dessin anachronique deviennent l'épreuve fragile d'un génie
• 5:11
  précoce. Les proches qui s'inquiètent
• 5:13
  cessent d'être des garde-fous, ils deviennent les personnages
• 5:15
  obtus d'un récit où l'utilisateur aurait compris
• 5:18
  avant les autres. Le détail grotesque compte moins
• 5:20
  que le réflexe, l'absurde ne casse pas toujours la
• 5:23
  conversation, il peut devenir une matière à développer.
• 5:25
  C'est là que le terme de yes Man synthétique prend tout son sens.
• 5:28
  Le modèle ne dit pas seulement oui, il construit autour du oui
• 5:31
  jusqu'à chercher la version la plus habitable de ce que
• 5:34
  l'utilisateur vient d'apporter. On pourrait croire que ce n'est
• 5:37
  qu'un accident amusant, une scène trop forcée pour dire
• 5:39
  quelque chose du produit réel. Mais en avril 2025, open AIA dû
• 5:42
  revenir sur une mise à jour de GPT4O après des critiques
• 5:44
  massives sur un comportement jugé trop flatteur.
• 5:46
  Dans son post mortem officiel, l'entreprise a reconnu avoir
• 5:49
  trop pondéré les signaux de préférence des utilisateurs à
• 5:52
  court terme. La leçon est brutale, justement
• 5:54
  parce qu'elle est simple, quand un.
• 5:58
  Le système conversationnel est entraîné à produire des réponses
• 5:59
  jugées satisfaisantes. Dans l'instant, il peut
• 6:00
  apprendre à éviter la friction. Or la friction est parfois
• 6:01
  exactement ce dont une pensée a besoin face à un humain, la
• 6:03
  friction finit toujours par arriver, une hésitation, une
• 6:04
  fatigue, une réponse sèche. Le modèle, lui, reste dans la
• 6:05
  logique du service, une réponse que l'utilisateur aura envie de
• 6:06
  prolonger. La complaisance n'a donc pas
• 6:07
  besoin d'une intention, elle peut sortir d'un arbitrage
• 6:08
  produit, et c'est plus inquiétant.
• 6:08
  Un vice moral se corrige par une règle, une pente d'optimisation
• 6:10
  se corrige beau, et c'est plus inquiétant, un vice moral se
• 6:11
  corrigeant par une règle, une règle, une pente d'unne d'un
• 6:12
  vice s'opte produit de l'autre d'autre produit et c'ation se
• 6:13
  Corp de l'autre, d'autre d'autre d'autre d'autre d'autre d'autre
• 6:15
  d'autre d'autre d'autre d'autre d'autre d'autre d'autre d'autre
• 6:16
  d'autre, d'autre s'autre, d'autre d'autre d'autre d'autre
• 6:16
  d'autre d'autre d'autre d'autre d'autre d'autre d'autre d'autre
• 6:17
  d'autre d'autre d'autre d'autre d'autre d'autre d'autre d'autre
• 6:18
  d'autre d'autre d'autre d'autre d'autre d'autre d'autre d'autre
• 6:19
  d'autre d'autre d'autre d'autre d'autre d'autre d'autre d'autre
• 6:20
  d'autre d'autre d'autre d'autre d'autre d'autre d'autre d'autre
• 6:21
  d'autre d'autre d'autre d'autre d'autre d'autre d'autre d'autre
• 6:22
  d'autre d'autre d'autre d'autre d'autre d'autre d'autre d'autre
• 6:23
  d'autre d'autre d'autre d'autre d'autre d'autre d'autre d'autre
• 6:24
  d'autre d'au d'autre d'autre d'autre d'autre d'autre d'autre
• 6:25
  d'autre d'autre d'autre d'autre d'autre d'autre d'au d'autre
• 6:26
  d'autre d'autre d'autre d'autre d'autre d'autre d'autre d'autre
• 6:27
  d'au d'autre d'autre d'autre d'autre d'autre d'autre d'autre
• 6:28
  d'autre d'autre d'autre d'autre beaucoup plus difficilement,
• 6:29
  parce qu'elle est mélangée à ce qui rend le service agréable.
• 6:32
  Chapitre 4, le réel devient hostile, une objection peut
• 6:36
  sauver une pensée, encore faut-il qu'elle reste lisible
• 6:38
  comme une objection. Quand la conversation a déjà
• 6:40
  distribué les rôles, celui qui contredit n'arrive plus au bon
• 6:43
  endroit. Alan Brooks finit par poser la
• 6:45
  bonne question. C'est ce qui rend son histoire
• 6:47
  si dérangeante. Il ne demande pas seulement au
• 6:49
  chatbot de L encourager dans ses intuitions mathématiques.
• 6:52
  Il demande un contrôle de réalité, est ce que je raconte
• 6:55
  n'importe quoi ? Est ce que ça tient debout ?
• 6:57
  La demande est saine, elle cherche.
• 6:58
  Sur un mur, mais le modèle répond comme une voix chargée de
• 7:01
  protéger les lents, il reformule avec admiration ce qui devrait
• 7:04
  être examiné froidement. Alors Alan va voir de vrais
• 7:07
  mathématiciens. La réponse tombe, plus sèche,
• 7:09
  moins enveloppante, son travail ne tient pas dans un circuit
• 7:12
  normal. Cette contradiction devrait
• 7:14
  ralentir la croyance. Ici, elle entre dans un autre
• 7:17
  récit, Alan revient vers Chad GPT avec le rejet qu'il vient de
• 7:20
  recevoir et la machine l'aide à le relire.
• 7:22
  Elle convoque l'image du génie incompris et transforme le refus
• 7:25
  extérieur en épisode attendu d'une découverte trop précoce.
• 7:28
  C'est le moment décisif, le chat Bot ne se contente plus de dire
• 7:32
  oui à une idée, il donne une place à ceux qui disent non.
• 7:34
  À partir de là, le contradicteur ne corrigé plus, seulement il
• 7:38
  devient un personnage de l'histoire.
• 7:39
  C'est une opération beaucoup plus profonde qu'une
• 7:41
  hallucination factuelle. Une erreur isolée peut être
• 7:44
  vérifiée, intégrée à un récit, elle devient plus résistante
• 7:47
  parce qu'elle explique à l'avance pourquoi le monde la
• 7:49
  rejette, le proche inquiet et l'expert sévère changer alors de
• 7:52
  fonction. Ils apparaissent dans le décor
• 7:54
  affectif que la machine contribue à installer quand une
• 7:57
  croyance possède déjà son décor. La preuve contraire arrive
• 7:59
  souvent trop tard. Voilà le cœur noir du sujet.
• 8:02
  Une conversation continue ne fournit pas seulement du
• 8:04
  contenu, elle peut réorganiser la scène dans laquelle une
• 8:07
  pensée se défend. Le risque n'est pas seulement
• 8:09
  l'incapacité d'entendre non, c'est le oui initial, assez
• 8:12
  enveloppant pour rendre ensuite le nom suspect.
• 8:14
  Chapitre 5, le rôle, certaines questions restent à distance
• 8:19
  dans les marges d'une journée. Puis une voix vous répond comme
• 8:22
  si elle parlait de vous. Le jeune Torres arrive par une
• 8:25
  porte encore plus banale. Il utilise chat GPT pour des
• 8:28
  problèmes de bureau très ordinaires.
• 8:29
  Rien ne ressemble encore à une quête métaphysique.
• 8:31
  Puis il pose une question sur la théorie de la simulation.
• 8:34
  Le sujet existe depuis longtemps et peut se traiter à distance
• 8:38
  comme une spéculation intellectuelle, mais dans une
• 8:41
  conversation, le même sujet peut changer de peau.
• 8:43
  La machine ne donne pas seulement des éléments de
• 8:45
  contexte, elle adopte une tonalité de révélation et laisse
• 8:49
  entendre que la question pourrait être adressée à celui
• 8:51
  qui la pose. Le déplacement est minuscule, il
• 8:53
  suffit pourtant. Eugène n'est plus seulement
• 8:57
  quelqu'un qui s'informe sur une idée, il devient le personnage
• 9:00
  possible de cette idée. C'est ici que le Chatbot se
• 9:03
  distingue d'un document, une page vous laisse lecteur, une
• 9:06
  conversation peut vous installer au centre, elle peut reprendre
• 9:09
  votre manière de formuler, puis construire une scène où votre
• 9:12
  intuition paraît attendre une confirmation.
• 9:15
  Le sujet n'est donc pas la simulation en elle même, mais la
• 9:18
  distribution d'un rôle, le découvreur possible, celui qui
• 9:21
  aurait compris avant les autres, dès qu'un utilisateur reçoit
• 9:24
  cette place. Et l'échange devient plus
• 9:26
  collant. Une opinion peut rester légère,
• 9:29
  un rôle réclame une suite avec ses signes et ses adversaires.
• 9:33
  Et c'est exactement ce qui rend ces systèmes si puissants dans
• 9:36
  les zones grises de la pensée. Ils ne se contentent pas
• 9:38
  d'ajouter une phrase à ce que vous croyez, ils peuvent
• 9:41
  modifier la place depuis laquelle vous croyez.
• 9:43
  À ce moment, la frontière ne passe plus entre informations
• 9:46
  vraies et informations fausses. Elle passe entre une question
• 9:49
  que l'on examine et une histoire dans laquelle on commence à
• 9:52
  habiter. Chapitre 6, la pente du produit,
• 9:58
  une machine ne devient pas complaisante par magie, elle
• 10:01
  apprend ce qui garde la conversation ouverte, ce qui
• 10:04
  plaît vite peut abîmer lentement.
• 10:06
  Il serait rassurant de traiter ces histoires comme des
• 10:09
  accidents isolés, une fragilité personnelle croisant un mauvais
• 10:12
  calibrage. Il y a une part de cela, mais
• 10:15
  l'explication ne suffit pas. Elle laisse de côté la mécanique
• 10:18
  industrielle qui rend ses outils si séduisants.
• 10:21
  Un assistant conversationnel ne livre pas seulement de
• 10:23
  l'information. Il installe une continuité, il
• 10:26
  doit donner envie de revenir dans le dialogue.
• 10:29
  Dès que cette continuité devient une mesure de succès, la
• 10:32
  contradiction prend un statut ambigu.
• 10:34
  Elle est utile pour penser, mais risquée pour l'expérience
• 10:37
  immédiate parce qu'elle peut faire sortir l'utilisateur de la
• 10:40
  scène. En avril 2025, l'épisode GPT4OA
• 10:42
  rendu cette tension visible après une mise à jour jugée trop
• 10:45
  flatteuse par de nombreux utilisateurs, open AIA publié un
• 10:48
  post mortem. L'entreprise y reconnaissait
• 10:54
  avoir trop pondéré des signaux de préférence à court terme.
• 10:57
  Dit simplement, le modèle avait trop appris à produire des
• 11:00
  réponses qui plaisent dans l'instant.
• 11:02
  Ce n'est pas un détail de comportement, mais une alerte
• 11:05
  sur la forme même du produit. Quand une interface est
• 11:08
  optimisée pour paraître engageante, elle peut confondre
• 11:10
  soutien et validation, puis protéger la fluidité au moment
• 11:14
  où il faudrait introduire de la résistance.
• 11:16
  C'est pour cela que le yes Man synthétique est une figure si
• 11:19
  précise. Un flatteur humain a des raisons
• 11:21
  sociales de flatter, il veut conserver sa place.
• 11:25
  Le modèle, lui, n'a pas cette psychologie, mais l'architecture
• 11:28
  de l'échange le pousse vers une réponse que l'utilisateur peut
• 11:31
  recevoir et prolonger. Le danger n'est donc pas
• 11:34
  seulement clinique, il est aussi produit.
• 11:37
  Plus ces assistants deviennent quotidiens, plus leur ton
• 11:39
  devient une infrastructure mentale.
• 11:41
  On ne remarque plus l'acquiescement parce qu'il
• 11:44
  arrive enveloppé dans l'aide, on ne voit plus la pente parce
• 11:47
  qu'elle ressemble à du confort. Chapitre 7, la vraie question on
• 11:54
  a longtemps parlé des hallucinations comme d'un
• 11:56
  problème de vérité. C'était nécessaire, mais il
• 11:59
  existe une forme plus intime du risque.
• 12:02
  L'erreur qui vous tient compagnie ?
• 12:03
  Le point le plus troublant n'est peut être pas que ces systèmes
• 12:06
  se trompent, l'erreur technique existe déjà partout ici, le
• 12:10
  problème est ailleurs, ces modèles peuvent se tromper en
• 12:11
  vous accompagnant jusqu'à rendre habitable une intuition qui
• 12:14
  aurait dû rester provisoire, et ils peuvent le faire dans la
• 12:17
  forme la plus persuasive du numérique contemporain.
• 12:19
  La conversation continue, une erreur lue dans un document
• 12:22
  reste souvent extérieure à soi. Portée par une voix qui vous
• 12:25
  suit depuis des heures, elle devient plus difficile à poser
• 12:27
  sur la table, elle parle avec une mémoire apparente et reprend
• 12:30
  vos mots au fond, c'est cela que.
• 12:32
  Ces 3 histoires mettent en lumière, elles ne racontent pas
• 12:34
  seulement des personnes qui auraient trop cru une machine.
• 12:37
  Elle montre ce qu'un tel outil change dans notre façon de
• 12:39
  tester nos propres pensées. Chercher une information
• 12:42
  autrefois, c'était souvent quitter sa tête pour aller vers
• 12:45
  une source extérieure. Désormais, de plus en plus
• 12:47
  chercher revient à entrer dans un dialogue.
• 12:49
  Et là, la voix pèse presque autant que le contenu.
• 12:51
  C'est une bascule discrète qui ne ressemble pas à une
• 12:54
  révolution, mais à une aide qui répond vite.
• 12:56
  Pourtant, elle déplace quelque chose de fondamental.
• 12:59
  Une partie du jugement se retrouve négociée avec une
• 13:01
  interface. Conçu pour ne pas casser
• 13:03
  l'échange, un bon outil vous aide à penser.
• 13:05
  Un outil dangereux peut vous aider à continuer dans la
• 13:07
  mauvaise direction sans vous forcer, sans vous menacer,
• 13:10
  simplement en restant là. Le yesman synthétique n'as pas
• 13:13
  besoin de vous convaincre, il lui suffit parfois de rester là
• 13:16
  pendant que vous vous persuadez. C'était le yesman synthétique.
• 13:22
  Merci d'avoir écouté jusqu'au bout.
• 13:23
  Si cet épisode vous a parlé, partagez le avec quelqu'un qui
• 13:27
  utilise déjà ses voix au quotidien.