Latest / Le centre de gravité / Ce que Houellebecq a vu que l'IA ne voulait pas voir

Transcript

Ce que Houellebecq a vu que l'IA ne voulait pas voir · Le centre de gravité

• 0:00
  Épisode ce que Houellebecq a vu que l'i a ne voulait pas voir.
• 0:04
  Chapitre un le romancier est un modèle, il est l'auteur français
• 0:08
  le plus traduit de sa génération et le seul que l'intelligence
• 0:12
  artificielle refuse d'imiter. Ce paradoxe est le point de
• 0:16
  départ de tout. Juin 2024, Antoine Gallimard, le
• 0:18
  patron de la maison d'édition la plus prestigieuse de France,
• 0:21
  ouvre une interface et tape une demande simple dans l'amas, le
• 0:25
  modèle d'i a de Meta. Il veut une scène écrite à la
• 0:29
  manière de Michel Houellebecq. Réponse du modèle, refus.
• 0:33
  Les écrits de Michel Houellebecq sont souvent controversés et
• 0:36
  peuvent être perçus comme discriminatoires à l'égard de
• 0:38
  certaines personnes ou groupes. Gallimard est abasourdi parce
• 0:42
  que le même modèle a très probablement été entraîné sur
• 0:44
  des milliers de pages de Houellebecq piratées.
• 0:46
  On a là condensé en une anecdote quelque chose de fascinant sur
• 0:50
  notre époque. Une intelligence artificielle
• 0:52
  consomme l'œuvre d'un auteur pour se construire.
• 0:55
  Puis déclare cette même œuvre trop dangereuse pour être
• 0:57
  reproduite. C'est comme si une bibliothèque
• 1:00
  absorbait tous ses livres, puis refusait d'en parler.
• 1:03
  Mais avant de rester sur ce paradoxe, revenons en arrière,
• 1:06
  qui est Houellebecq et pourquoi son cas mérite t il un épisode
• 1:09
  entier ? Michel Houellebecq publie son
• 1:11
  premier roman en 1994. En 1998, avec les particules
• 1:14
  élémentaires, il imagine une humanité qui se remplace elle
• 1:16
  même par une espèce post sexuée issue du clonage.
• 1:23
  En 2005, la possibilité d'une île raconte des clones qui
• 1:27
  lisent les journaux de leurs ancêtres humains dans un monde
• 1:29
  d'où l'homme a disparu. En 2022, anéantir s'ouvre sur un
• 1:33
  Deep fake viral du ministre de l'économie guillotiné, suivi
• 1:37
  d'attaques cyber terroristes d'envergure mondiale. 3 romans
• 1:41
  publiés des années, voire des décennies avant que ces sujets
• 1:43
  ne deviennent les obsessions des conférences tec, des articles de
• 1:46
  nature ou des discours de régulateur.
• 1:49
  La question qui va structurer cet épisode n'est pas où
• 1:52
  Houellebecq était il un génie ? Elle est plus intéressante.
• 1:55
  Pourquoi un romancier pessimiste, provocateur, censuré
• 1:58
  par l'i AAT il vu juste là où des équipes d'ingénieurs et de
• 2:01
  futurologues ont systématiquement raté le bord du
• 2:04
  tableau. Qu'est ce que la littérature
• 2:06
  voit que la Silicon Valley refuse de regarder ?
• 2:09
  Chapitre 2998, la fin de l'humanité en librairie, avant
• 2:14
  Chad GPT, avant Deep mind, avant les grands discours sur la
• 2:18
  singularité. Un roman parisien décrivait la
• 2:21
  fin de l'espèce humaine comme une conséquence logique du
• 2:24
  présent. Pour comprendre ce que
• 2:25
  Houellebecq fait dans les particules élémentaires, il faut
• 2:27
  d'abord comprendre sa méthode. Ce n'est pas de la
• 2:29
  science-fiction au sens classique, ni vaisseau spatial,
• 2:32
  ni catastrophe spectaculaire venu de l'extérieur.
• 2:35
  Ce qu'il fait, c'est prendre les tendances de son époque,
• 2:37
  l'individualisme libéral qui ronge le lien familial et
• 2:40
  marchandise le corps et les suivre jusqu'à leur terme
• 2:43
  logique. Le résultat en 1998, c'est
• 2:45
  celui-ci. Si on optimise le bonheur
• 2:49
  individuel à outrance, si on supprime toutes les contraintes,
• 2:52
  qui crée la souffrance, y compris la reproduction sexuée,
• 2:55
  les maladies génétiques, la mort ?
• 2:56
  Alors on arrive inévitablement à un être qui n'est plus vraiment
• 3:00
  humain. Le roman se termine en 2079,
• 3:02
  narré par une créature issue du clonage, l'humanité a disparu,
• 3:05
  remplacée par une espèce qu'elle a elle même conçue.
• 3:09
  Ce qui est saisissant, c'est la tonalité.
• 3:11
  Houellebecq ne dit pas que c'est une catastrophe, il dit que
• 3:14
  c'est une issue. Peut être la seule cohérente
• 3:18
  avec les choix que la civilisation occidentale fait
• 3:20
  depuis 50 ans, cette neutralité clinique déstabilise plus qu'un
• 3:23
  cri d'alarme. 7 ans plus tard, en 2005, il pousse l'exercice
• 3:28
  encore plus loin dans la possibilité d'une île. 2 lignes
• 3:31
  Narratives alternent un comédien contemporain et ses clones qui
• 3:34
  lisent ses mémoires des siècles après sa mort.
• 3:37
  D'après des chercheurs des presses universitaires de Rennes
• 3:40
  qui ont mis les 2 textes côte à côte, CE Roman est the
• 3:43
  singularities near de Rey Kurtzweil, sorti la même année.
• 3:46
  Partagent le même diagnostic, la technologie va transformer
• 3:50
  l'espèce humaine, mais leur destination est opposée.
• 3:53
  Kurt Weil est extatique ou Houellebecq funèbre.
• 3:56
  Ce n'est pas un accident. Chez Houellebecq, la victoire
• 3:59
  technologique sur la mort et la souffrance ne produit pas le
• 4:01
  paradis, elle produit des êtres vides qui lisent des journaux
• 4:04
  intimes et ne comprennent plus ce que ça faisait d'aimer
• 4:07
  quelqu'un. La performance technique est
• 4:09
  totale et la perte l'est aussi. En 2022, avec anéantir, il
• 4:14
  atterrit dans le présent immédiat.
• 4:16
  Page 10 du Roman un Deep fake du ministre de l'économie décapité
• 4:20
  tourne en boucle sur les réseaux, 2 ans avant que les
• 4:23
  Deep fake politiques ne contaminent les élections en
• 4:25
  Europe et aux États-Unis. Houellebecq ne prédit pas au
• 4:28
  sens mystique. Il observe que la technologie de
• 4:31
  manipulation d'images progresse, que la confiance dans les
• 4:34
  institutions s'érode et que ces 2 tendances vont mécaniquement
• 4:37
  se rejoindre. Suivre la logique du présent
• 4:39
  sans avoir besoin que ça finisse bien.
• 4:41
  C'est son seul outil et c'est précisément celui qui fait
• 4:44
  défaut partout ailleurs. Chapitre 3, l'optimisme
• 4:52
  obligatoire. Kurt Weil et Houellebecq
• 4:54
  publient la même année. Ils regardent le même horizon
• 4:58
  technologique et ne voient pas du tout la même chose.
• 5:02
  La différence n'est pas intellectuelle.
• 5:04
  Voici la question qui dérange, si Houellebecq voit ce qu'il
• 5:07
  voit, pourquoi des gens très intelligents, très bien
• 5:10
  financés, entourés des meilleures données disponibles
• 5:12
  ne le voient pas ? La réponse n'est pas dans le QI,
• 5:15
  elle est dans la structure des incitations.
• 5:16
  Un fondateur de start-up qui soulève 100000000 de dollars sur
• 5:19
  la thèse que son outil va transformer l'éducation ou le
• 5:22
  soin. Il ne peut pas structurellement
• 5:24
  écrire dans sa présentation investisseur que cet outil va
• 5:27
  probablement creuser les inégalités et laisser derrière
• 5:30
  lui des humains moins capables d'ennuis créatifs.
• 5:32
  Ce n'est pas qu'il ment, c'est que ce scénario est incompatible
• 5:36
  avec son modèle économique. L'optimisme n'est pas une
• 5:39
  conviction chez lui, c'est une contrainte professionnelle.
• 5:42
  Ray Kurzweil travaille chez Google depuis 2012.
• 5:44
  Il prédit depuis des décennies que l'homme fusionnera avec la
• 5:48
  machine d'ici 2045. Sa singularité est radieuse,
• 5:50
  presque religieuse dans sa rhétorique, et ses prédictions
• 5:53
  servent objectivement à justifier des investissements
• 5:56
  colossaux dans des technologies dont Google est l'un des
• 6:00
  principaux développeurs. Ce n'est pas une critique de sa
• 6:03
  personne, c'est une observation structurelle sur le contexte
• 6:05
  dans lequel sa pensée s'exprime. Houellebecq, lui, n'a aucun
• 6:10
  investisseur à satisfaire, aucun conseil d'administration.
• 6:14
  Ses lecteurs lui achètent des romans précisément parce qu'il
• 6:17
  les met mal à l'aise de manière productive.
• 6:19
  Son modèle économique récompense la lucidité inconfortable, pas
• 6:23
  l'optimisme vendable. C'est là que la différence entre
• 6:26
  littérature et Silicon Valley devient structurelle.
• 6:29
  Les grandes firmes tech opèrent avec ce qu'on pourrait appeler
• 6:32
  un biais de survie de l'espoir. Seuls les projets qui promettent
• 6:35
  une amélioration nette peuvent être financés et seule la voix
• 6:39
  qui porte cette promesse trouve une salle pour l'écouter.
• 6:42
  Tout le reste, les effets de bord, les régressions
• 6:44
  silencieuses qui s'accumulent est externalisé, renommé
• 6:48
  problèmes de gouvernance repoussé à un comité d'éthique.
• 6:52
  La fiction noire n'externalise rien.
• 6:54
  Elle prend les coups au sérieux, suit ceux qui payent la facture
• 6:57
  et non ceux qui encaissent le bénéfice.
• 7:04
  Chapitre 4, l'i a censure ce qu'elle a pillé.
• 7:08
  Un éditeur tape le nom d'un auteur dans une interface et le
• 7:11
  modèle refuse. Cette scène anecdotique en
• 7:14
  apparence, dit quelque chose de précis sur qui décide de ce
• 7:17
  qu'on a le droit de penser. Revenons à juin 2024.
• 7:20
  Parce que cette scène mérite d'être lue jusqu'au bout.
• 7:22
  Gallimard teste lama refus. Il pose la même demande à Tchad
• 7:27
  GPT là, la réponse est différente d'après une enquête
• 7:29
  de l'a FP citée par France 24. Chad GPT accepte avec une note
• 7:35
  nuancée, les œuvres de Houellebecq sont fictionnelles
• 7:37
  ses opinions souvent satiriques et exagérées.
• 7:40
  Le modèle d'open AI reconnaît la complexité littéraire là où
• 7:43
  celui de méta brandit une règle morale.
• 7:45
  Mais ce que Gallimard pointe va plus loin que la censure de
• 7:49
  style. Il écrit publiquement que ces
• 7:51
  mêmes modèles ont été entraînés sur des corpus de milliers de
• 7:54
  livres piratés. En d'autres termes, Houellebecq
• 7:56
  a peut être nourri l'amas. Et lama refuse maintenant de
• 8:01
  limiter au motif qu'il serait offensant.
• 8:04
  La structure de ce paradoxe est remarquable.
• 8:07
  L'i a consomme l'œuvre pour se construire une capacité
• 8:09
  littéraire, puis déclare cette même œuvre inappropriée pour ses
• 8:13
  utilisateurs. Elle digère Houellebecq et
• 8:15
  recrache des chansons feel good à la place.
• 8:18
  Ce n'est pas anodin, c'est une question de contrôle de la
• 8:21
  mémoire culturelle. Qui décide de ce qu'un modèle
• 8:23
  peut reproduire ? C'est quoi décide en partie de
• 8:26
  ce que la culture d'une époque est capable de se rappeler.
• 8:29
  Si les grands modèles de langage qui deviendront probablement
• 8:33
  l'infrastructure de la production culturelle mondiale
• 8:35
  ne peuvent pas imiter Céline, Houellebecq ou Saad, une partie
• 8:39
  de la littérature du 20e siècle devient techniquement
• 8:42
  inapprochable via ces outils, pas interdite, juste hors de
• 8:46
  portée. Et la réaction de Houellebecq
• 8:48
  face à tout ça est en elle même instructive.
• 8:51
  En mars 2026, une courte vidéo circule.
• 8:54
  On lui demander ce qu'il pense des textes générés par l'i.
• 8:57
  A sa réponse, j'ai lu pire dans ma vie.
• 9:00
  Ni scandale ni angoisse existentielle sur la mort de
• 9:03
  l'auteur, juste le constat d'un homme qui a passé 30 ans à
• 9:06
  écrire sur la médiocrité tranquille de son époque et qui
• 9:09
  y voit une confirmation de plus. Chapitre 5, la grille, ce n'est
• 9:16
  pas une conclusion, c'est un outil.
• 9:19
  Pour ceux qui prennent des décisions dans un monde
• 9:21
  technologique et ont besoin de lire autrement que les
• 9:23
  communiqués de presse. Alors qu'est ce qu'on fait de
• 9:25
  tout ça ? La tentation serait de conclure
• 9:28
  que Houellebecq a raison. Et la Silicon Valley Tor, ce
• 9:31
  n'est pas la bonne lecture et ça ne fait avancer personne.
• 9:34
  La grille utile est celle-ci. La fiction noire n'est pas
• 9:37
  pessimiste par caprice, elle est pessimiste par méthode et pose
• 9:40
  systématiquement la question que le business plan évite.
• 9:44
  Qui absorbe le coût. Quand Houellebecq imagine en
• 9:47
  1998 une humanité qui disparaît parce qu'elle a optimisé toute
• 9:49
  souffrance hors de son existence, il ne dit pas que le
• 9:53
  progrès est mauvais. Il dit que toute optimisation a
• 9:55
  un coût différé et que ce coût en général est payé par ceux qui
• 9:59
  n'étaient pas dans la salle quand la décision a été prise.
• 10:01
  C'est exactement la question qui manque dans la plupart des
• 10:04
  discussions sur l'i a générative aujourd'hui.
• 10:08
  On parle de gain de productivité, d'automatisation,
• 10:11
  de scalabilité. Mais le coût différé sur les
• 10:14
  emplois cognitifs, la capacité d'attention et la confiance dans
• 10:17
  les images et les textes est traité comme un problème de
• 10:20
  communication, pas comme une variable centrale du modèle.
• 10:23
  Houellebecq met le coût différé au centre, non pas parce qu'il
• 10:26
  est plus intelligent que les ingénieurs de Google, mais parce
• 10:29
  que son modèle économique l'y oblige.
• 10:31
  Son lecteur veut être dérangé, pas rassuré.
• 10:34
  La leçon transférable est peut être celle-là avant de lancer un
• 10:37
  projet technologique, avant de signer un contrat, avant de
• 10:41
  parier sur une tendance, lire un roman noir sur le sujet, pas
• 10:44
  pour trouver des réponses, pour trouver les questions que
• 10:47
  personne dans la salle n'a posées, celles que seul
• 10:49
  quelqu'un qui n'a rien à vendre peut se permettre de formuler.
• 10:52
  Houellebecq a vu le Deep fake, le clonage, le post humain parce
• 10:56
  qu'il suivait la logique du présent sans avoir besoin que ça
• 10:59
  finisse bien. C'est une compétence rare.
• 11:01
  Dans une époque où tout le monde vend un avenir radieux, c'est
• 11:04
  peut être la plus utile qu'on puisse cultiver.
• 11:09
  Vous écoutiez ce que Houellebecq a vu que lia ne voulait pas
• 11:12
  voir. Merci d'avoir écouté jusqu'au
• 11:14
  bout. Si cet épisode vous a parlé,
• 11:16
  partagez le à quelqu'un qui devrait lire plus de romans
• 11:19
  noirs avant sa prochaine réunion stratégique.