Latest / Le Dernier Clic (avant la fin du monde) / 03 - L'IA générative, comment fonctionne l'IA que tout le monde utilise ?

Transcript

03 - L'IA générative, comment fonctionne l'IA que tout le monde utilise ? · Le Dernier Clic (avant la fin du monde)

• 0:11
  Bonjour et bienvenue dans le dernier clic de votre podcast Tech,
• 0:14
  IA et nos codes.
• 0:15
  Je suis en compagnie de Lulu aujourd'hui pour vous parler d'IA générative.
• 0:19
  On va voir ça ensemble tout de suite.
• 0:21
  Lulu,
• 0:21
  comment tu vas ?
• 0:23
  Ça va bien et toi ?
• 0:24
  Très bien,
• 0:25
  merci.
• 0:26
  Est-ce que tu peux me dire un petit peu de quoi on va parler aujourd'hui justement côté LLM ?
• 0:32
  On va revenir un peu sur les bases,
• 0:35
  sur comment fonctionnent ces modèles,
• 0:37
  en quoi c'est différent des programmes informatiques tels qu'on les conçoit,
• 0:43
  avec les fameux « si,
• 0:44
  alors » ,
• 0:45
  ces choses qui sont très déterministes en soi.
• 0:48
  Et un peu sortir à la fois du discours,
• 0:52
  ces deux extrêmes où on nous dit que l'IA sous-entendue,
• 0:58
  l'IA générative,
• 0:59
  va tout révolutionner,
• 1:00
  va nous remplacer d'un côté,
• 1:01
  et de l'autre,
• 1:03
  que les intelligences artificielles génératives ne sont un peu que des perroquets stochastiques.
• 1:09
  Une expression qui était pas mal en vogue,
• 1:13
  je crois que c'était au début,
• 1:14
  quand le chat j'ai pété,
• 1:15
  a commencé un peu à percer.
• 1:17
  Et aujourd'hui,
• 1:19
  on se rend compte que c'est faux.
• 1:21
  C'est plus compliqué que ça,
• 1:23
  plus nuancé que ça.
• 1:24
  C'est plus nuancé.
• 1:26
  compliqué de mettre un curseur et voilà.
• 1:30
  Très bien.
• 1:31
  Et alors justement,
• 1:32
  pour mettre un pôle de contexte aussi en plus,
• 1:35
  aujourd'hui,
• 1:35
  on va vraiment vous parler des grandes logiques et de comment fonctionne l'IA générative,
• 1:39
  qu'est-ce qu'il y a derrière.
• 1:40
  IA générative,
• 1:41
  pourquoi ?
• 1:41
  Puisque c'est celle dont vous entendez le plus parler,
• 1:44
  globalement en fait,
• 1:44
  quand on vous parle de chat GPT,
• 1:46
  de l'IA,
• 1:46
  que ce soit dans les différents médias,
• 1:48
  dans les technos,
• 1:48
  dans les outils que vous utilisez,
• 1:49
  ce genre de choses.
• 1:51
  C'est cette famille-là de l'IA en fait qui est concernée.
• 1:54
  parce qu'en fait de l'IA il y en avait avant,
• 1:56
  il y en a de plein de manières,
• 1:57
  de plein de façons différentes.
• 1:59
  Nous on va s'intéresser vraiment juste à celle-ci puisque c'est celle qui nous impacte le plus directement aujourd'hui.
• 2:05
  Et l'idée c'est de vous donner aujourd'hui les bases de compréhension de comment marche justement ce type de modèle pour derrière quand on ira discuter dans les prochains épisodes vraiment des
• 2:21
  agents,
• 2:22
  des automatisations avec de l'IA.
• 2:24
  bref,
• 2:24
  d'autres sujets qui sont liés vraiment à la partie IA,
• 2:27
  vous compreniez de quoi on parle,
• 2:30
  et pourquoi c'est plus que de la prédiction,
• 2:33
  mais que ce n'est pas vraiment non plus un androïde à proprement parler.
• 2:38
  On va essayer de clarifier un petit peu ensemble tout ça durant cet épisode.
• 2:42
  Et écoute Lulu,
• 2:44
  je te laisse nous présenter un petit peu déjà,
• 2:47
  justement,
• 2:49
  comment fonctionne un
• 2:51
  LLM, et quel est le...
• 2:53
  point de départ de son fonctionnement et de sa mise en œuvre ?
• 2:58
  Déjà,
• 2:58
  juste pour donner un peu de contexte,
• 3:00
  pour préparer cet épisode,
• 3:02
  j'ai lu un livre qui s'appelle La Parallel Machine,
• 3:05
  de Thibaut Giraud,
• 3:06
  qui est un philosophe qui s'intéresse à l'intelligence artificielle,
• 3:11
  et plus récemment à l'intelligence artificielle générative depuis 2019,
• 3:16
  avant qu'il y ait la vague des chatbots.
• 3:19
  Je le conseille à toute personne qui cherche à
• 3:23
  avoir un support qui est très bien vulgarisé,
• 3:28
  avec des super exemples.
• 3:30
  Il n'y a pas d'extrémisme au niveau des discours,
• 3:34
  et c'est très agréable à lire,
• 3:36
  et même moi j'ai appris beaucoup de choses.
• 3:39
  Comme je disais,
• 3:40
  on va essayer de distinguer ce qu'est l'intelligence artificielle,
• 3:46
  même générative,
• 3:48
  par rapport à un programme classique.
• 3:50
  Et il faut...
• 3:51
  pour ça revenir en 2016,
• 3:53
  et qu'est-ce qui s'est passé en 2016,
• 3:55
  il y a le programme AlphaGo qui bat le champion du monde de Go.
• 4:01
  Et c'était un événement dans l'informatique et même pour les joueurs de Go,
• 4:09
  parce qu'en fait,
• 4:09
  ce qui se passe par rapport à,
• 4:12
  je crois que c'était Deep Blue qui avait battu le champion d'échec dans les années 90,
• 4:16
  où là,
• 4:20
  chaque ligne de code
• 4:21
  était écrite par un humain,
• 4:23
  là,
• 4:23
  ce qui se passe,
• 4:24
  c'est que
• 4:25
  DeepMind, donc la société derrière AlphaGo,
• 4:29
  n'a pas du tout programmé AlphaGo à jouer au Go.
• 4:32
  C'est plus ou moins lui qui a appris à y jouer en faisant plein de parties,
• 4:38
  en analysant déjà plein de parties,
• 4:40
  puis après,
• 4:41
  en faisant plein de parties contre lui-même,
• 4:43
  et son objectif,
• 4:46
  c'était juste de prévoir le prochain coup.
• 4:48
  En soi,
• 4:48
  il ne joue pas,
• 4:49
  vraiment.
• 4:51
  Du coup la grosse différence avec le précédent historique côté échecs,
• 4:54
  c'est qu'on était sur un modèle qui n'était pas dégénératif mais qui était vraiment taillé.
• 5:00
  que pour les échecs.
• 5:02
  Là où celui-ci...
• 5:06
  C'était quoi le premier but d'AlphaGo ?
• 5:07
  Dans le sens où là,
• 5:08
  il avait été entraîné pour...
• 5:11
  Là,
• 5:11
  je crois qu'il était entraîné vraiment juste à jouer au Go.
• 5:15
  Donc on n'est pas vraiment encore sur des...
• 5:17
  En fait,
• 5:17
  si,
• 5:18
  c'est de l'IA générative parce que son objectif,
• 5:19
  c'est de prévoir le prochain coup.
• 5:21
  Et il a été entraîné sur des parties de jeux de Go,
• 5:25
  enfin,
• 5:25
  un historique de parties.
• 5:28
  plutôt de bon niveau,
• 5:29
  ça veut dire qu'il devait à chaque fois prédire le prochain coup de chaque joueur,
• 5:34
  et dire que l'objectif sous-jacent c'était forcément de gagner,
• 5:38
  parce que dans une partie,
• 5:39
  quand deux joueurs s'affrontent,
• 5:40
  le prochain coup,
• 5:41
  normalement,
• 5:42
  il est censé mener un peu plus vers la victoire.
• 5:44
  Donc,
• 5:45
  en faisant des calculs pour essayer de prédire ce prochain coup,
• 5:50
  l'objectif sous-jacent du programme,
• 5:52
  c'est de gagner.
• 5:54
  Et ça,
• 5:54
  c'est fait après dans un second temps où...
• 5:57
  on lui donne les règles du go,
• 5:59
  et on va lui faire jouer plein de parties contre lui-même.
• 6:01
  Et ce qu'on n'a pas dit,
• 6:03
  c'est que le LLM repose sur un réseau de neurones,
• 6:07
  un peu comme dans notre cerveau,
• 6:08
  où il va y avoir des parties qui vont communiquer entre elles,
• 6:12
  et où il va y avoir un peu des boucles d'inhibition,
• 6:15
  enfin de rétroaction.
• 6:16
  Il y a certaines parties qui vont être inhibées,
• 6:17
  d'autres qui vont être renforcées.
• 6:19
  Et quand le modèle gagnait une partie contre lui-même,
• 6:24
  les coûts...
• 6:24
  qui ont mené à cette partie vont être renforcés.
• 6:27
  Il y aura plus de probabilités de faire ces coups dans un jeu,
• 6:32
  en fait.
• 6:34
  Je ne sais pas si toi,
• 6:36
  tu avais vu le documentaire qu'il y avait eu sur Netflix là-dessus.
• 6:41
  Très,
• 6:41
  très bien.
• 6:42
  Moi,
• 6:42
  ça ne m'a pas du tout...
• 6:44
  J'ai entendu passer de loin,
• 6:46
  mais je ne m'en suis jamais intéressé directement.
• 6:49
  Je ne sais pas si tu as déjà joué au Go aussi.
• 6:52
  Non plus.
• 6:53
  Parce que c'est...
• 6:55
  Comme jeu,
• 6:56
  on est très loin du truc très carré des échecs.
• 6:59
  Il y a effectivement des règles,
• 7:00
  mais c'est plus des choses que tu n'as pas le droit de faire.
• 7:02
  Tu te débrouilles et c'est vraiment juste de la créativité,
• 7:06
  le jeu de Go.
• 7:06
  C'est là où un programme classique n'aurait pas pu juste gagner.
• 7:11
  C'est genre tu places tes pions et le but,
• 7:14
  c'est de prendre le plus de territoire possible.
• 7:16
  Sauf qu'en début de partie,
• 7:18
  c'est très compliqué de faire des actions qui peuvent t'amener vers la victoire.
• 7:23
  C'est plus une...
• 7:25
  philosophie,
• 7:25
  le go,
• 7:27
  c'est très bizarre comme jeu,
• 7:28
  c'est très intéressant.
• 7:29
  Tu ne peux pas calculer à l'avance tous les coups possibles et toutes les stratégies possibles.
• 7:35
  Donc,
• 7:35
  tu es obligé de t'adapter à l'avancement de la partie.
• 7:39
  Et si je comprends bien,
• 7:41
  ça veut dire que contrairement aux échecs ou arriver à un certain moment donné où en tout cas,
• 7:48
  tu as des coups,
• 7:48
  tu as des successions de coups,
• 7:49
  tu as des enchaînements que tu peux apprendre par cœur.
• 7:53
  des combinaisons qui peuvent être posées à un moment clé de la partie et amenées jusqu'à l'échec à mat.
• 7:59
  Dans le go,
• 7:59
  c'est plus nuancé que ça et tu n'as pas de combinaison gagnante,
• 8:04
  en quelque sorte ?
• 8:06
  Complètement.
• 8:07
  Alors,
• 8:07
  il y a des ouvertures,
• 8:08
  forcément,
• 8:09
  mais à un certain point,
• 8:13
  ça demande vraiment de la créativité et une certaine abstraction.
• 8:17
  Et souvent,
• 8:19
  il y a des...
• 8:20
  parties où jusqu'à la fin on ne sait pas forcément qui va gagner,
• 8:23
  on ne peut pas vraiment prévoir,
• 8:25
  enfin après on peut faire des calculs mais ce n'est pas comme aux échecs où à un instant T du plateau on peut facilement prévoir le prochain coup parce qu'en plus il y a des choses qu'on ne peut pas faire aux échecs,
• 8:38
  on ne peut pas déplacer les pièces comme on veut,
• 8:40
  là les galets,
• 8:43
  les petits pions de go,
• 8:44
  on les pose exactement où on veut sur le plateau et le but c'est de faire des zones
• 8:50
  et de capturer dans ces zones les pions de l'adversaire.
• 8:53
  Et à la fin,
• 8:54
  le but,
• 8:54
  c'est d'avoir le plus de zones que l'autre personne.
• 8:58
  Et du coup,
• 8:59
  la surprise,
• 9:00
  c'était qu'un programme informatique arrive jusqu'à la victoire en ayant appris à mourir tout seul,
• 9:09
  je comprends bien,
• 9:09
  parce qu'il faisait des parties contre lui-même,
• 9:11
  et du coup,
• 9:12
  il arrivait à faire des déductions qui,
• 9:15
  de prime abord,
• 9:16
  n'auraient pas dû être...
• 9:19
  possible en théorie,
• 9:20
  ou en tout cas pas de la manière dont il l'a fait,
• 9:23
  c'est ça ?
• 9:24
  Exactement,
• 9:25
  et d'ailleurs même le champion du monde a eu l'impression de jouer contre quelqu'un qui savait jouer au go,
• 9:33
  il a eu l'impression de jouer contre un joueur,
• 9:35
  et il y a eu même un moment,
• 9:37
  je crois que ça redit aussi dans le documentaire,
• 9:39
  où le programme va faire un coup qui était très très bizarre à peu près en
• 9:46
  37ème coup.
• 9:47
  C'était quelque chose qui n'avait jamais vraiment été vu.
• 9:51
  Et en fait,
• 9:52
  c'est un peu ce coup qui l'a mené à la victoire.
• 9:54
  Et c'était quelque chose qui était un peu inédit.
• 9:56
  Et aujourd'hui,
• 9:57
  ça a énormément dépoussiéré le jeu de Go.
• 10:01
  notamment de jouer avec ce type de programme où les très bons joueurs vont analyser des parties parce qu'il y a d'autres formes de créativité et des trucs qui n'avaient jamais été trouvés en plusieurs siècles de jeu.
• 10:16
  Ça permet de trouver des nouveaux types d'ouvertures,
• 10:18
  de nouveaux types de coups.
• 10:22
  Donc,
• 10:22
  il y a une certaine créativité.
• 10:25
  C'est là où c'est assez intéressant.
• 10:27
  Et justement,
• 10:28
  après AlphaGo,
• 10:28
  il y a eu AlphaZero.
• 10:30
  Et pour ce programme,
• 10:34
  encore une fois,
• 10:36
  intelligence artificielle,
• 10:37
  la générative,
• 10:39
  où on a voulu voir si elle pouvait battre quelqu'un aux échecs.
• 10:45
  Sauf que là,
• 10:45
  on s'est passé de la partie où on lui a fait voir énormément de parties d'échecs pour comprendre les coups,
• 10:54
  prédire le prochain coup.
• 10:54
  Là,
• 10:55
  on l'a directement fait se battre contre elle-même en lui donnant les règles.
• 10:58
  et en l'espace de...
• 11:00
  quelques heures d'analyse,
• 11:02
  le programme a trouvé tout seul toutes les ouvertures possibles qui avaient été terrorisées pendant des siècles.
• 11:08
  D'accord,
• 11:09
  oui.
• 11:09
  Donc,
• 11:11
  on se dit,
• 11:11
  bon,
• 11:11
  d'un côté,
• 11:12
  c'est bien parce qu'on les a trouvées,
• 11:13
  mais en quelques heures,
• 11:14
  la machine,
• 11:15
  juste à force de calcul,
• 11:18
  a réussi à tout retrouver.
• 11:21
  Ok,
• 11:21
  donc là,
• 11:22
  on a
• 11:23
  AlphaGo qui a changé la donne et qui a changé justement la vision qu'on pouvait avoir d'un programme informatique.
• 11:30
  comment ça se comporte,
• 11:31
  comment il a une manière d'apprendre et de faire des déductions.
• 11:34
  Et du coup,
• 11:36
  comment on en vient à un VLM qu'on connaît,
• 11:39
  nous.
• 11:40
  Qui sont des larges modèles de langage.
• 11:44
  Voilà,
• 11:45
  tout est basé sur le langage.
• 11:48
  Et en fait,
• 11:48
  il y a des...
• 11:49
  Voilà,
• 11:49
  pour caricaturer un peu,
• 11:50
  il y a des gens qui se sont dit au lieu de prévoir le prochain coup,
• 11:54
  on va prévoir le prochain mot.
• 11:55
  Et de mettre en entrée énormément de textes.
• 11:59
  de faire apprendre et déduire des choses à ce réseau de neurones sur ce gros corpus de données de texte,
• 12:09
  et faire des calculs pour prédire quel est le mot le plus probable dans des suites de mots.
• 12:15
  Là,
• 12:15
  on est vraiment dans les prémices,
• 12:19
  on va dire que c'est l'autocomplétion de textes vraiment très avancés.
• 12:29
  Est-ce qu'on aurait pu avoir,
• 12:30
  comme on a déjà parlé,
• 12:32
  un T9 ou ce genre de choses ?
• 12:35
  Ce qui est marrant,
• 12:36
  c'est qu'en fait,
• 12:37
  ça n'a pas forcément été conscientisé au départ de se dire que l'IA générative,
• 12:42
  on va la faire se reposer sur du texte.
• 12:44
  C'est plus arrivé un peu,
• 12:46
  pas par hasard,
• 12:47
  mais le vrai effet de voir que des déductions marchaient sur du jeu.
• 12:52
  Donc,
• 12:52
  on peut essayer de transposer ça en le bricolant potentiellement avec du texte.
• 12:55
  On verra ce que ça donne et si ça marche aussi bien.
• 12:58
  Dans le principe,
• 12:58
  c'est ça.
• 12:59
  C'est ça.
• 13:00
  Et il y a eu aussi une nouvelle technologie qui a fait que c'était structurellement possible.
• 13:04
  Donc,
• 13:05
  c'est le Transformer.
• 13:06
  C'est le
• 13:07
  T de
• 13:08
  GPT. OK.
• 13:10
  Et le Transformer,
• 13:14
  comment dire ?
• 13:15
  Il y a vraiment plusieurs couches.
• 13:17
  Et justement,
• 13:17
  contrairement à un T9,
• 13:20
  le poids statistique,
• 13:23
  le mot qui va suivre,
• 13:24
  il n'est pas seulement influencé par ce qu'il y a avant.
• 13:27
  Ça permet vraiment d'avoir plusieurs couches et d'avoir cette possibilité de mettre en contexte des choses qui ont été dites plus loin et de faire des associations d'idées.
• 13:39
  C'est vraiment le transformeur qui permet de conceptualiser ça et de commencer ses recherches dans tout ce qui va être
• 13:50
  LLM.
• 13:52
  Et pour revenir un petit peu,
• 13:54
  le LLM,
• 13:54
  il y a un réseau de neurones.
• 13:56
  Et dans ces neurones,
• 13:57
  il y a des paramètres.
• 14:01
  Pour résumer,
• 14:02
  c'est un peu des nombres qui définissent le comportement du modèle.
• 14:04
  On peut voir ça un peu comme un arbre avec des directions.
• 14:08
  Et à chaque fois,
• 14:10
  par exemple,
• 14:10
  on va avoir un mot,
• 14:12
  plusieurs branches,
• 14:13
  des probabilités qui découlent et de se dire,
• 14:16
  le mot le plus probable ensuite,
• 14:18
  c'est celui-là.
• 14:19
  Et ça,
• 14:20
  c'est dû après à un entraînement.
• 14:22
  de voir ce qui était le plus probable après avoir assimilé des milliers et des milliers de textes.
• 14:29
  Il a pu en déduire que,
• 14:30
  par exemple,
• 14:31
  après,
• 14:32
  le chat est...
• 14:34
  Ce qui peut arriver après,
• 14:35
  c'est assis,
• 14:36
  par exemple.
• 14:38
  Et ça,
• 14:38
  ça se base sur une base de données où le chat mange.
• 14:42
  Et suivant,
• 14:45
  on peut jouer un peu avec ces paramètres pour dire d'aller chercher soit ce qui est le plus probable...
• 14:50
  Soit de laisser un peu une part d'aléatoire,
• 14:52
  et c'est ce qui peut donner un peu plus de créativité.
• 14:55
  C'est ce qu'on appelle la température.
• 14:58
  Oui,
• 14:59
  on reviendra après sur la température pour voir.
• 15:01
  justement la partie probabilité et déterminisme.
• 15:05
  Mais déjà,
• 15:06
  pour mieux comprendre le système d'association,
• 15:11
  comment il le fait ?
• 15:12
  Dans le sens,
• 15:13
  il le fait par famille,
• 15:15
  il le fait par domaine,
• 15:16
  il le fait en roue libre,
• 15:18
  en toute autonomie ?
• 15:21
  Est-ce qu'il y a des règles qui feront que,
• 15:22
  justement,
• 15:22
  là tu prenais l'exemple du chat est assis,
• 15:25
  une fin probable à un moment clé,
• 15:29
  mais...
• 15:30
  Mais bon,
• 15:30
  cette phrase pourrait finir de timide manière.
• 15:33
  Et comment il va...
• 15:36
  Justement,
• 15:36
  est-ce que les neurones se construisent tout seuls ?
• 15:40
  C'est nous qui...
• 15:41
  Enfin,
• 15:42
  je parle,
• 15:42
  je veux dire...
• 15:44
  Les personnes qui font les modèles qui déterminent de dire « En fait,
• 15:48
  ce neurone-là,
• 15:48
  il sera orienté pour le langage.
• 15:51
  Ce neurone-là,
• 15:52
  il sera là pour des thématiques particulières.
• 15:54
  Ce neurone-là,
• 15:55
  pour autre chose. »
• 15:56
  Ou est-ce que ça se fait un petit peu tout seul ?
• 15:58
  Comment...
• 15:59
  dans les grandes lignes,
• 16:00
  mais comment il se gère ça ?
• 16:02
  Dans un premier temps,
• 16:03
  il y a vraiment ce pré-entraînement.
• 16:07
  Donc là,
• 16:08
  on va lui donner énormément de corpus,
• 16:12
  de textes.
• 16:14
  Ça peut être quasiment tout Internet.
• 16:16
  Dans un premier temps,
• 16:17
  ça a été surtout
• 16:18
  Wikipédia, un peu de choses qui étaient en archives ouvertes.
• 16:25
  C'est un peu mieux.
• 16:26
  On se rend compte que ce n'est plus le cas maintenant,
• 16:28
  les LLM ont quasiment mangé tout Internet.
• 16:31
  Avec ces analyses,
• 16:32
  il y a des probabilités qui ont été calculées.
• 16:36
  Mais après,
• 16:36
  ce qui se passe exactement dedans,
• 16:39
  même les gens qui développent ces modèles ne le savent pas vraiment.
• 16:43
  Et c'est tout un pan de la recherche actuelle.
• 16:47
  Je sais qu'Anthropique le fait énormément,
• 16:49
  de comprendre juste comment le modèle fait ses associations d'idées.
• 16:53
  Parce qu'on se rend compte que ça ne suit pas forcément...
• 16:56
  le langage,
• 16:57
  il ne va pas y avoir des zones spécifiques au français,
• 17:00
  spécifiques à l'anglais,
• 17:01
  mais il fait des choses plus conceptuelles,
• 17:03
  donc ce n'est pas juste un enchaînement de calculs,
• 17:06
  surtout que les calculs sont faits en parallèle.
• 17:11
  Et c'est là où c'est vraiment important de comprendre que par rapport à un programme classique,
• 17:16
  on se dit que forcément,
• 17:17
  c'est des humains qui l'ont développé,
• 17:18
  donc le programme fait forcément ce qu'on veut.
• 17:22
  Le cas d'un
• 17:23
  LLM,
• 17:24
  On a une entrée,
• 17:24
  on a une sortie,
• 17:25
  on peut suivre la suite de calcul,
• 17:27
  mais on ne saura pas exactement pourquoi il a fait cette suite de calcul.
• 17:31
  Et ça reste encore un peu à découvrir,
• 17:35
  à comprendre.
• 17:37
  Et c'est assez fascinant,
• 17:39
  mais en même temps,
• 17:40
  je ne veux pas dire qu'on ne contrôle pas forcément.
• 17:42
  En tout cas,
• 17:43
  on ne peut pas juste dire que c'est une suite de calcul,
• 17:45
  et que c'est juste un perroquet qui répète des choses qu'il a...
• 17:51
  assimilé,
• 17:51
  il les remet dans un certain ordre et ça nous paraît vraisemblable.
• 17:55
  Ça va plus loin que ça,
• 17:56
  mais pas non plus jusqu'à dire que ça a une conscience.
• 17:59
  Mais en tout cas,
• 18:00
  il y a des choses qui se passent dedans,
• 18:02
  mais ça reste une boîte noire,
• 18:02
  même pour les personnes qui la développent.
• 18:05
  D'accord,
• 18:05
  donc,
• 18:06
  il y a une part qui vraiment est basée sur le fait d'avoir ingéré une grande quantité de contenu textuel.
• 18:15
  Il a identifié des,
• 18:17
  j'allais dire des patterns,
• 18:18
  mais en tout cas,
• 18:19
  voilà,
• 18:19
  des modèles,
• 18:20
  des...
• 18:20
  des redondances,
• 18:21
  des récurrences,
• 18:22
  des choses comme ça.
• 18:24
  C'est lui qui va déterminer à moitié,
• 18:28
  à moitié ou peut-être beaucoup plus qu'à moitié,
• 18:30
  les liens qu'il va faire entre eux et les règles qu'il a identifiées lui-même,
• 18:35
  plus ou moins pour construire justement ses chemins.
• 18:36
  C'est ça.
• 18:38
  Donc il y a une part,
• 18:40
  parce que tout à l'heure on disait T9,
• 18:41
  pour ceux qui n'ont peut-être pas connu l'appellation,
• 18:46
  mais en fait le T9,
• 18:46
  c'est ce qu'on avait nous sur les...
• 18:48
  portable au début du téléphone et qui désignait le fait d'avoir de l'autocomplétion en fait sur les messages dans le téléphone terme qui s'est perdu et aujourd'hui de toute façon dans le portable actuel du coup l'autocomplétion elle se fait déjà par IA plus ou moins mais du coup ce principe d'autocomplétion c'est vraiment de se dire voilà quand on écrit une
• 19:05
  phrase les mots qui arrivent il peut y en avoir plusieurs qui ont des chances de tomber c'est ce qu'on va nous proposer dans une certaine mesure du coup l'IA générative fait ça en partie
• 19:18
  par rapport à son corpus documentaire et par rapport à ce qu'elle a en tête.
• 19:22
  Mais les liens qui vont l'amener jusqu'à faire sa proposition lui sont un peu propres.
• 19:28
  Et j'imagine que d'un modèle à l'autre,
• 19:30
  chaque modèle peut avoir ses cheminements,
• 19:33
  ses probabilités et ses règles à lui.
• 19:36
  Donc ça c'est une part de l'histoire.
• 19:40
  Et du coup,
• 19:40
  quelle est l'autre part ?
• 19:42
  Puisque justement ça va plus loin que la partie...
• 19:45
  autocomplétion est purement perroquet,
• 19:49
  qu'est-ce que qu'est-ce qu'il y a d'autre justement qui lui permettent d'aller plus loin ?
• 19:53
  Alors déjà justement,
• 19:55
  même si c'est en partie le cas génératif qu'il le fait sur nos téléphones on se rend bien compte que quand on appuie plusieurs fois sur l'autocomplétion,
• 20:03
  on se rend compte qu'au bout d'un moment
• 20:05
  Ça ne veut plus rien dire parce qu'il n'a pas suivi exactement la...
• 20:10
  Je pense qu'on a déjà tous un peu essayé d'appuyer.
• 20:13
  Jamais testé,
• 20:14
  je t'avouerais.
• 20:14
  Mais du coup,
• 20:18
  ça ne me surprend pas qu'au bout d'un moment,
• 20:19
  ça n'ait aucun sens.
• 20:21
  Au bout de la deuxième phrase,
• 20:24
  au bout d'un moment,
• 20:25
  ça tourne.
• 20:27
  Ça finit par tourner un peu en boucle.
• 20:29
  Si on ne remet pas,
• 20:30
  nous,
• 20:30
  une entrée pour redonner une direction,
• 20:33
  ça devient très vite n'importe quoi.
• 20:35
  et ce qui se passe c'est encore cette histoire de transformeur et là c'était
• 20:41
  OpenAI qui avait fait un papier une étude qui a permis une nouvelle avancée c'était
• 20:52
  Attention is all you need et justement ce transformeur au lieu de lire un peu les mots un par un en essayant de se souvenir du début de la phrase
• 21:04
  comme le faisait plus,
• 21:05
  on va dire,
• 21:06
  le T9,
• 21:07
  le transformeur,
• 21:08
  il va regarder toute la page en même temps et il va avoir en tête un peu ce contexte.
• 21:15
  On parle un peu de mémoire.
• 21:16
  Et d'avoir tout ce contexte,
• 21:18
  ça va lui permettre de choisir le prochain mot,
• 21:22
  mais au regard de tout le contexte et pas seulement les quelques mots qu'il y a avant la phrase qu'il génère.
• 21:27
  Et en fait,
• 21:28
  c'est ce qui va lui permettre de garder une certaine cohérence.
• 21:32
  de parfois détecter des liens entre des mots éloignés,
• 21:35
  de comprendre des références.
• 21:38
  C'est vraiment ce mécanisme d'attention qui fait qu'on arrive à avoir quand même de la cohérence.
• 21:43
  Au début,
• 21:43
  les fenêtres de contexte étaient très petites,
• 21:46
  ce qui fait qu'au bout de quelques phrases,
• 21:49
  le
• 21:50
  LLM se perdait.
• 21:52
  Mais aujourd'hui,
• 21:52
  ça reste quand même assez impressionnant de voir un modèle qui génère parfois des textes de plusieurs...
• 22:01
  pages qui sont quand même cohérents.
• 22:02
  Enfin,
• 22:02
  on est quand même sur quelque chose d'assez fou quand on y pense.
• 22:07
  Pour reclarifier ça,
• 22:11
  pour les gens qu'on serait un peu en train de perdre,
• 22:14
  le LLM,
• 22:14
  justement,
• 22:15
  fonctionne avec une mémoire,
• 22:17
  pour pouvoir vous répondre,
• 22:18
  quand vous discutez avec ChatGPT,
• 22:20
  ou avec Cloud,
• 22:21
  ou avec un autre chat,
• 22:22
  vous avez cette notion de mémoire qui existe derrière,
• 22:24
  qu'on appelle donc le contexte,
• 22:27
  et cette fenêtre a une taille définie.
• 22:30
  Donc voilà,
• 22:31
  une longueur qui va se faire aussi en ce qu'on appelle en token.
• 22:36
  Donc en fait,
• 22:36
  le LLM,
• 22:38
  quand il vous répond,
• 22:40
  il vous répond en token,
• 22:41
  il vous répond par fragments de mots.
• 22:43
  Et donc sa mémoire a aussi une limite comme ça en fragments de mots.
• 22:48
  Vous ne vous en rendez pas compte forcément directement,
• 22:52
  parce que quand vous discutez avec lui,
• 22:53
  vous ne voyez pas quand il arrive à la limite de son contexte et de cette limite.
• 22:58
  Il va continuer à vous parler.
• 22:59
  En fait ce qui se passe c'est quand lui atteint sa mémoire,
• 23:02
  son contexte est rempli,
• 23:04
  il va en faire lui-même un petit résumé,
• 23:07
  et qui va compacter son contexte et en faire une version synthétique pour permettre de continuer la conversation et que ça ait l'air fluide.
• 23:15
  Voilà,
• 23:15
  mais du coup le contexte c'est ça.
• 23:17
  Et vous avez deux notions,
• 23:20
  puisqu'il va y avoir ce que le modèle est capable d'avoir en tête et en mémoire au moment où il va vous répondre,
• 23:27
  et ce qui va permettre la perte.
• 23:29
  la pertinence et la cohérence du propos et de sa réponse.
• 23:33
  Il a aussi une limite pour la taille de réponse.
• 23:35
  Donc là aussi,
• 23:37
  les premiers modèles avaient des tailles et de contexte et de réponse qui étaient très limitées,
• 23:41
  mais ils ont toujours eu des mémoires plus importantes que la capacité de réponse.
• 23:46
  Aujourd'hui,
• 23:46
  c'est encore le cas,
• 23:47
  mais les capacités de réponse et ce qu'on appelle d'output sont devenues beaucoup plus importantes.
• 23:52
  Et aujourd'hui,
• 23:54
  n'importe quel chatbot peut,
• 23:56
  sur les gros modèles en tout cas.
• 23:58
  peut répondre maintenant des dizaines de pages,
• 24:02
  là où au début c'était juste quelques paragraphes,
• 24:04
  une page ou deux,
• 24:05
  et ainsi de suite,
• 24:05
  ça a beaucoup augmenté.
• 24:07
  Mais ce qui est intéressant là,
• 24:09
  c'est que tu disais que son contexte et sa mémoire se fait sur une vue d'ensemble,
• 24:14
  et paradoxalement,
• 24:15
  quand il répond,
• 24:17
  il ne résonne pas en phrase entière,
• 24:18
  il résonne au token,
• 24:21
  et il construit sa réponse au fil de l'eau.
• 24:23
  Ce qui va le distinguer d'ailleurs d'autres technologies qui sont en train d'être,
• 24:26
  d'autres IA génératives qui sont en train d'être explorées,
• 24:29
  d'autres alternatives,
• 24:30
  puisque ça fait partie un petit peu des limites des modèles aujourd'hui,
• 24:33
  c'est que le fait qu'ils répondent et construisent leurs réponses petit à petit va générer des erreurs dans certains cas,
• 24:44
  et les méthodes qui permettent d'avoir le mode de raisonnement,
• 24:49
  on peut appeler le thinking et le formrophisme.
• 24:52
  différentes appellations,
• 24:53
  mais en tout cas cette partie où le modèle va se mettre à raisonner,
• 24:57
  en fait il va générer une première réponse,
• 24:59
  se rendre compte qu'il a fait une erreur,
• 25:01
  se reprendre,
• 25:02
  retravailler,
• 25:03
  aborder d'une nouvelle manière et ainsi de suite.
• 25:05
  justement jusqu'à vous donner une réponse qui soit la plus cohérente et la plus pertinente possible par rapport à votre demande.
• 25:11
  Mais en fait,
• 25:11
  il n'aura pas construit cette réponse en une seule fois.
• 25:13
  Il aura fait un premier jet à l'arrache,
• 25:16
  il s'est rendu compte qu'il a fait des boulettes,
• 25:17
  il va le corriger,
• 25:18
  faire un deuxième jet,
• 25:19
  se dire c'est mieux,
• 25:20
  mais en fait,
• 25:20
  il a scié ça.
• 25:21
  Et il va faire plusieurs itérations jusqu'à avoir quelque chose d'idéal,
• 25:26
  en tout cas d'idéal pour lui au moment donné.
• 25:30
  Et donc cette notion d'avoir le raisonnement...
• 25:34
  réponse au token va induire une cohérence,
• 25:39
  une pertinence,
• 25:40
  mais du coup on en revient à ce que tu nous expliquais un peu avant,
• 25:43
  la pertinence va se dérouler à partir de probabilités,
• 25:48
  globalement,
• 25:49
  et je veux bien que tu reviennes justement sur cette partie de probabilités et de l'aspect déterminisme et non déterminisme,
• 25:56
  puisqu'on dit souvent,
• 25:57
  et moi le premier,
• 25:59
  je dis que l'IA n'est pas fiable.
• 26:01
  et qu'elle peut vous mentir,
• 26:02
  qu'elle peut se tromper,
• 26:03
  qu'elle peut halluciner.
• 26:04
  On va revenir après sur les hallucinations,
• 26:06
  ce genre de choses.
• 26:07
  Mais de dire qu'elle est non déterministe,
• 26:12
  en théorie,
• 26:14
  c'est faux.
• 26:16
  Je veux bien que tu reviennes aussi sur ces concepts-là.
• 26:22
  Déjà,
• 26:23
  je pense que je vais juste passer rapidement sur comment est-ce qu'on entraîne un modèle.
• 26:29
  Parce que nous,
• 26:30
  on n'interagit pas avec le modèle brut.
• 26:33
  C'est quelque chose qui a été pré-entraîné,
• 26:37
  puis entraîné dans une sorte de surcouche pour qu'on en arrive au chatbot tel qu'on le connaît.
• 26:45
  Donc qu'il soit un assistant avec lequel on parle,
• 26:47
  qu'il soit quand même assez poli,
• 26:49
  qu'il nous dise des choses un peu qu'on veut entendre.
• 26:52
  Et ça va un peu dans le sens de,
• 26:55
  des fois,
• 26:55
  il va plutôt nous dire des choses qu'on veut.
• 26:57
  veut entendre,
• 26:58
  mais qui sont grosses.
• 27:00
  Et ce n'est pas forcément dû au modèle de base,
• 27:04
  mais en gros,
• 27:06
  tous les modèles,
• 27:07
  on va commencer un peu par une phrase de pré-entraînement.
• 27:10
  En gros,
• 27:11
  on va mettre en entrée,
• 27:12
  on va un peu gaver le modèle de milliards de textes.
• 27:17
  On va prendre à peu près 80%
• 27:20
  d'Internet et après 20%
• 27:21
  de sources un peu plus fiables,
• 27:24
  comme des livres ou Wikipédia.
• 27:26
  On va le nourrir.
• 27:27
  Et en gros,
• 27:29
  la seule tâche qu'on va lui demander,
• 27:30
  c'est d'apprendre à prédire le prochain mot.
• 27:32
  C'est là-dessus qu'il va baser un peu ses probabilités,
• 27:34
  de choisir ce prochain mot à chaque fois.
• 27:37
  Et là,
• 27:38
  à la suite de cette phase de pré-entraînement,
• 27:41
  on a ce qu'on appelle un modèle de fondation.
• 27:44
  Et c'est en gros juste un prédicteur de texte.
• 27:47
  Il sait juste simuler du texte.
• 27:49
  Il n'y a pas ce truc de questions-réponses,
• 27:52
  sauf si...
• 27:54
  on la simule et qu'il l'a vue dans des textes sur lesquels il s'est entraîné.
• 27:59
  Donc ça pourrait être des questions d'examen ou ce genre de choses,
• 28:02
  ou des questions profs,
• 28:04
  élèves,
• 28:05
  mais on n'est pas sur le truc où on peut lui poser une question,
• 28:08
  telle qu'on l'a sur un chatbot.
• 28:10
  Oui,
• 28:10
  à ce stade-là,
• 28:11
  on est vraiment sur juste de l'autocomplétion,
• 28:16
  mais sur une quantité de textes complètement folle.
• 28:19
  Il ne fonctionne pas encore comme un chatbot,
• 28:21
  il ne sait même pas encore qu'il est un chatbot.
• 28:24
  Et même si on l'utilisait comme un programme,
• 28:26
  globalement,
• 28:26
  on pourrait écrire n'importe quoi,
• 28:27
  il viendrait compléter avec ce qui lui passe sous la main derrière,
• 28:31
  sans se soucier de cohérence de conversation,
• 28:35
  d'un angle,
• 28:36
  de tout ça.
• 28:38
  C'est vraiment ce qui est le plus probable par rapport à ce qu'il a observé sur les milliards de textes qu'il a analysés.
• 28:46
  C'est pas plus compliqué que ça.
• 28:49
  Voilà,
• 28:50
  on va pas...
• 28:55
  Du coup,
• 28:55
  c'est quoi l'étape d'après pour sortir de ce mode-là ?
• 28:59
  Je pense que tout le monde en a un peu entendu parler.
• 29:02
  C'est ce qu'on appelle le fine-tuning.
• 29:04
  Ça va être un entraînement beaucoup plus fin et on va essayer d'orienter le modèle pour qu'il fasse les choses qu'on veut qu'il fasse.
• 29:15
  On peut le fine-tuner de plein de manières différentes mais là,
• 29:18
  ce qui avait été choisi par OpenIA...
• 29:20
  c'était de finetuner sur des données pour qu'ils deviennent un peu un chatbot,
• 29:31
  dans le sens où on veut qu'ils répondent à des questions.
• 29:34
  Et c'est un peu été un choix qui a été fait à l'époque-là.
• 29:37
  Mais concrètement,
• 29:38
  on va le faire s'entraîner sur des données,
• 29:41
  un jeu de données qui est beaucoup plus petit.
• 29:44
  et qui a été annoté manuellement.
• 29:47
  Donc vraiment un style de base,
• 29:50
  on peut imaginer des tableaux avec questions-réponses.
• 29:53
  Et c'est là que le modèle va apprendre à répondre à ces questions.
• 29:57
  Et vu que c'est des données qui ont été annotées manuellement en amont,
• 30:02
  en fonction de la réponse qui sort,
• 30:04
  il peut la comparer à la vraie réponse.
• 30:07
  Et il va tout seul...
• 30:11
  faire un peu des boucles de rétroaction pour se dire,
• 30:14
  ah bah non,
• 30:14
  la réponse attendue c'est ça,
• 30:16
  donc tel neurone,
• 30:19
  on va dire,
• 30:20
  qui m'a donné cette direction qui n'est pas bonne,
• 30:23
  on va l'inhiber et on va baisser la probabilité que ce token apparaisse.
• 30:30
  Quand il y a cette suite-là,
• 30:32
  et c'est à la suite de milliers de cycles,
• 30:35
  de millions de cycles comme ça,
• 30:38
  que les probabilités sont affinées.
• 30:40
  qu'on va aller chercher plus quelque chose qu'autre chose,
• 30:43
  un token qu'un autre.
• 30:45
  D'accord.
• 30:45
  Alors,
• 30:46
  effectivement,
• 30:48
  généralement,
• 30:48
  en tout cas dans le milieu professionnel,
• 30:50
  quand on entend parler de fine-tuning,
• 30:52
  on se dit,
• 30:53
  très bien,
• 30:53
  j'ai un modèle qui est déjà chat-dép,
• 30:55
  j'ai pété telle version,
• 30:57
  par exemple,
• 30:58
  et je vais le fine-tuner pour le médical,
• 31:02
  par exemple.
• 31:03
  Quand on fait ça,
• 31:05
  on va lui rajouter des tonnes de documents,
• 31:08
  pareil,
• 31:08
  qui sont liés à la médecine.
• 31:10
  où dans ces textes-là,
• 31:12
  il va y avoir des mots dans les textes qui sont annotés et étiquetés,
• 31:17
  labellisés,
• 31:18
  pour dire que ça correspond à un médicament,
• 31:20
  ça correspond à une maladie,
• 31:22
  ça correspond à tel truc,
• 31:23
  ça s'est lié à tel domaine,
• 31:25
  etc.
• 31:27
  Et ça va permettre de travailler un modèle et de l'entraîner de manière plus approfondie sur un usage ou un domaine spécifique.
• 31:35
  Donc le fine tuning,
• 31:36
  généralement,
• 31:36
  nous on entend parler plutôt dans des choses comme ça,
• 31:38
  quand on veut.
• 31:40
  spécialiser un modèle du marché sur un domaine professionnel.
• 31:47
  Mais en fait,
• 31:47
  ce que tu viens de nous dire,
• 31:48
  c'est que il y a déjà une phase comme ça au départ,
• 31:52
  enfin au départ,
• 31:53
  juste après la phase d'autocomplétion ou de pré-entraînement,
• 31:59
  il y a déjà une phase comme ça pour calibrer le modèle dans une logique de chatbot et de conversationnel,
• 32:06
  puisque sinon ce n'est pas du tout inné,
• 32:07
  ce n'est pas du tout logique.
• 32:09
  que cette phase là elle va aussi être orientée sur une partie pertinence et fiabilité et quelque chose d'avoir en tout cas du vrai faux on va déjà le calibrer une première fois pour
• 32:26
  qu'il raconte pas n'importe quoi en tout cas par rapport à son apprentissage de base mais sans spécialement le...
• 32:35
  il est généraliste de toute façon c'est vrai qu'on en parle depuis tout à l'heure
• 32:38
  les LLM sont des modèles qui sont généralistes par essence.
• 32:41
  Tant qu'on ne va pas justement les fine-tuner plus tard pour aller dire,
• 32:44
  lui,
• 32:45
  il sera très bon sur tel truc.
• 32:46
  Donc,
• 32:47
  il a fait son pré-entraînement,
• 32:49
  il a eu son fine-tuning,
• 32:50
  et du coup,
• 32:51
  maintenant,
• 32:52
  il sait qu'il a un chatbot,
• 32:54
  et il y a tout un ensemble de données qu'il a réussi à mieux jauger,
• 32:58
  à mieux évaluer.
• 33:01
  Est-ce qu'il est prêt pour être mis dans les mains des gens ou pas ?
• 33:04
  On pourrait se dire oui.
• 33:05
  Mais forcément,
• 33:07
  s'il est nourri avec toutes les données d'Internet,
• 33:09
  des livres,
• 33:11
  il y a peut-être des choses qu'on n'a pas forcément envie qu'un LLM génère,
• 33:16
  comme des choses qui sont immorales,
• 33:20
  qui peuvent porter préjudice,
• 33:21
  parce qu'on peut lui demander de générer des discours haineux.
• 33:26
  En soi,
• 33:27
  c'est dans son corpus d'entraînement.
• 33:29
  Pourquoi est-ce qu'il ne pourrait pas le faire ?
• 33:30
  Il n'a pas de sens moral.
• 33:32
  Donc,
• 33:33
  à moins qu'on fasse...
• 33:35
  une troisième phase.
• 33:36
  Alors,
• 33:36
  cette phase-là,
• 33:37
  voilà,
• 33:37
  elle est vraiment propre au premier LLM.
• 33:43
  Maintenant,
• 33:44
  on ne passe plus vraiment par une phase de RLHF.
• 33:47
  Donc là,
• 33:48
  c'est un apprentissage par renforcement de par un feedback humain.
• 33:55
  Donc là,
• 33:55
  c'est,
• 33:56
  on fait marcher le LLM et c'est des êtres humains qui vont dire,
• 34:02
  bah tiens,
• 34:02
  telle réponse,
• 34:03
  elle est bien.
• 34:04
  telle réponse,
• 34:05
  elle est moins bien.
• 34:06
  Et dans la même idée que le fine-tuning,
• 34:10
  le modèle va aller baisser la probabilité de générer telle chose si la réponse qui est sortie de cette succession de choix de tokens n'était pas bien,
• 34:20
  d'après les humains qui ont fait ce travail de notation d'output.
• 34:26
  Comment dire ?
• 34:28
  C'est assez subjectif ce travail parce qu'en gros,
• 34:30
  il y a toute une charte qu'on peut retrouver pour ces annotateurs.
• 34:35
  Il faut que la réponse soit utile,
• 34:37
  véridique et sans préjudice.
• 34:39
  Et après,
• 34:39
  c'est un peu à l'appréciation de la personne qui note.
• 34:45
  C'est un peu,
• 34:46
  on va dire que c'est une phase qui sert à éduquer le modèle,
• 34:49
  à ce qu'il se comporte comme on veut,
• 34:52
  qu'il se comporte comme un gentil chatbot qui est cool avec les utilisateurs,
• 34:58
  qui leur dit un peu ce qu'ils veulent entendre,
• 35:00
  que ce soit vraiment un agent conversationnel,
• 35:02
  un assistant,
• 35:04
  et que ce ne soit pas juste de la complétion de texte.
• 35:07
  Et c'est toute cette partie-là qui va apporter du poids à certains choix.
• 35:13
  dans la génération des mots.
• 35:15
  Là,
• 35:15
  il faut juste se dire que cette éducation morale,
• 35:19
  il y a quand même un enjeu éthique,
• 35:21
  parce que ça a été fait par des personnes au Kenya qui étaient sous-payées et qui ont forcément été exposées à des réponses qui étaient...
• 35:32
  Inappropriées.
• 35:34
  Ouais,
• 35:34
  inappropriées,
• 35:35
  violentes.
• 35:36
  Pour le dire gentiment.
• 35:38
  Voilà.
• 35:39
  C'est ça.
• 35:39
  D'ailleurs,
• 35:40
  on en avait...
• 35:40
  parler de ce concept-là dans notre premier épisode sur les lunettes connectées.
• 35:44
  Si vous n'avez pas écouté encore,
• 35:46
  je vous invite à aller l'écouter.
• 35:48
  On déroule pas mal de choses sur les lunettes connectées et notamment ce point-là.
• 35:54
  Enfin,
• 35:54
  ce point-là.
• 35:55
  On parle aussi de ce cas-là qui est l'étiquetage de données par des humains.
• 35:59
  Le concept,
• 36:00
  c'est que ça sert de garde-fou,
• 36:02
  quelque part,
• 36:03
  puisque du coup,
• 36:04
  c'est la phase où on va vraiment finir d'inscrire dans le modèle.
• 36:07
  Enfin,
• 36:08
  peut-être qu'il y aura d'autres phases après.
• 36:10
  Tu vas nous dire ça,
• 36:12
  mais en tout cas,
• 36:13
  c'est là où on va avoir un garde-fou éthique et moral pour qu'au moins les choses les plus évidentes sur la partie justement,
• 36:23
  qui peuvent être crimes,
• 36:26
  haine,
• 36:26
  racisme,
• 36:28
  pédopornographie,
• 36:29
  toutes ces choses-là sont normalement,
• 36:32
  continuent d'être...
• 36:33
  La recette pour faire des bombes,
• 36:35
  par exemple.
• 36:36
  Oui,
• 36:36
  la recette pour faire des trucs terroristes,
• 36:38
  etc.
• 36:38
  En tout cas,
• 36:38
  tous les trucs...
• 36:40
  Trash à éviter,
• 36:40
  on va dire.
• 36:42
  À ce moment-là,
• 36:44
  il y a des humains qui voient du contenu passé et qui vont le qualifier,
• 36:49
  grosso modo,
• 36:50
  pour que l'IA ait davantage d'informations et de contextes d'entraînement pour lui dire,
• 36:57
  non,
• 36:57
  ça,
• 36:58
  ça ne faut vraiment pas.
• 36:59
  C'est ça.
• 37:00
  Et en fait,
• 37:00
  ça ne va pas effacer ces parties du corpus du modèle.
• 37:06
  Ça va juste réduire la probabilité qu'il aille les chercher.
• 37:09
  Donc il y a toujours ce risque qu'en contournant,
• 37:13
  en trouvant un peu cette succession de tokens ou de succession de conversations dans le contexte,
• 37:20
  qui fait que le chemin,
• 37:21
  il va quand même finir par y arriver.
• 37:24
  Et c'est pour ça qu'on se rend compte maintenant,
• 37:27
  il y a d'autres sécurités qui sont mises par-dessus le modèle,
• 37:31
  qui ne sont pas inhérentes au modèle,
• 37:33
  mais jusqu'à récemment,
• 37:34
  on voyait toujours des gens qui arrivaient Merci.
• 37:37
  à détourner et à quand même accéder à des choses qu'on ne voulait pas que le LLM génère.
• 37:43
  Juste en lui disant,
• 37:45
  en lui donnant un rôle,
• 37:46
  en disant « mais non,
• 37:47
  mais ce n'est pas pour faire vraiment un discours de haine.
• 37:50
  Imagine que tu es un acteur qui le fait. »
• 37:52
  Et ça,
• 37:52
  ça marchait encore jusqu'à récemment,
• 37:55
  je dirais.
• 37:56
  Maintenant,
• 37:57
  il y a d'autres garde-fous qui sont mis par-dessus.
• 38:00
  Il ne faut pas se dire qu'il ne va jamais le faire.
• 38:04
  Il y a toujours un risque que ça se passe.
• 38:08
  parce qu'on n'a pas supprimé.
• 38:10
  Et c'est juste le chemin par renforcement,
• 38:13
  ou là,
• 38:14
  dans ce cas-là,
• 38:14
  par inhibition,
• 38:16
  où on a dit,
• 38:17
  emprunte-moi ce chemin-là,
• 38:18
  parce qu'il y a des humains qui ont dit,
• 38:20
  non,
• 38:20
  non,
• 38:20
  ça,
• 38:21
  il ne faut pas que les gens soient exposés à ça.
• 38:25
  Voilà.
• 38:25
  Et puis,
• 38:25
  sur les garde-fous,
• 38:28
  là,
• 38:28
  on est aussi très tributaires des fournisseurs de modèles et des boîtes qui les animent,
• 38:33
  puisque si on reprend les cas,
• 38:34
  les nombreux cas qu'il y a eu...
• 38:36
  du côté de Grok chez XAI.
• 38:40
  Donc
• 38:42
  Elon Musk qui détient
• 38:44
  Twitter devenu X et qui a justement connecté son modèle dessus.
• 38:51
  Et sur Grok,
• 38:52
  il y a eu plus d'une fois des polémiques puisqu'il y a eu des moments où il tenait des propos négationnistes.
• 38:57
  Il y a eu plus d'une fois des trucs haineux.
• 39:00
  Le dernier épisode très mignon,
• 39:02
  c'était en décembre.
• 39:04
  où vous pouviez tout simplement donner à Grock,
• 39:08
  et même dans le fil de conversation,
• 39:14
  une photo de n'importe qui et lui demander de dénuder la personne.
• 39:19
  Et forcément après ça partait dans d'autres abus.
• 39:23
  Mais déjà c'était possible de le faire publiquement depuis X directement.
• 39:30
  Ensuite,
• 39:31
  la première mesure qui a été mise en place,
• 39:33
  ça a été tout simplement de garder ça que pour les abonnés payants.
• 39:36
  Voilà,
• 39:37
  visiblement c'était pas un problème d'éthique et moral.
• 39:40
  Et ça marchait pour tout,
• 39:41
  donc il y a eu toute une petite vague aussi de pédopornographie,
• 39:45
  je ne sais pas si c'est de la pornographie à proprement parler,
• 39:47
  je ne sais plus jusqu'où allait vraiment le modèle,
• 39:48
  mais en tout cas,
• 39:50
  vous pouviez effectivement déshabiller des mineurs.
• 39:53
  Et la dernière fois que j'en ai entendu parler,
• 39:55
  c'était en février ou en mars,
• 39:56
  je crois que c'était en mars,
• 39:57
  il y avait un journal justement qui avait fait une enquête pour voir si c'était encore d'actualité ou s'ils avaient mis assez de contraintes,
• 40:03
  mais non,
• 40:03
  c'était toujours d'actualité,
• 40:05
  et le modèle se permettait de,
• 40:08
  même quand on le précisait...
• 40:10
  justement un gros que la personne n'avait pas donné son accord n'était pas consentante sur plein de choses que ce soit les discours de l'exhibition et ce genre de choses le modèle ligne aurait littéralement ainsi systématiquement et du coup faisait exactement ce qu'on avait envie qu'il fasse avec voilà faut garder en tête que justement
• 40:29
  que ça existe et que des fois les limites tiennent à pas grand chose et tiennent surtout des boîtes qui va qui vous propose ces modèles là il y Il y a...
• 40:38
  un certain nombre de modèles qui sont disponibles en open source,
• 40:42
  ou en open weight selon les cas,
• 40:44
  mais qui sont mis à disposition sans certains niveaux de filtres.
• 40:50
  Et je ne sais pas justement s'ils ont également ce...
• 40:53
  Je ne sais pas comment tu disais,
• 40:55
  le
• 40:55
  RLHF, cette phase-là.
• 40:57
  Mais en tout cas,
• 40:58
  il y a des modèles qui ne sont pas censurés,
• 41:02
  qui peuvent avoir des enjeux et éventuellement de la pertinence.
• 41:05
  J'avoue que j'ai un peu de mal à...
• 41:07
  Avoir dans quel cas,
• 41:08
  c'est réellement utile.
• 41:10
  Ça peut être intéressant,
• 41:11
  c'est sur Gameface par exemple,
• 41:13
  qu'il y a beaucoup ce genre de choses où tu as des modèles,
• 41:15
  où par exemple,
• 41:16
  tu n'as que le modèle de fondation ou qui a été très peu finetuné,
• 41:19
  et tu peux,
• 41:20
  avec toi,
• 41:20
  tes jeux de données,
• 41:21
  aller le finetuner.
• 41:22
  Donc,
• 41:22
  tu ne rajoutes pas encore des choses par-dessus parce que ça peut être intéressant de ne pas avoir le finetunage pour le rendre comme un chatbot,
• 41:32
  mais plutôt d'utiliser d'autres données ou tes jeux de données ou des données d'entreprise.
• 41:36
  C'est un peu la direction que prend Mistral,
• 41:40
  plutôt que de faire des modèles très généralistes,
• 41:43
  d'entraîner le modèle avec un modèle de fondation,
• 41:47
  donc de Mistral,
• 41:48
  sur des données fournies par une entreprise,
• 41:51
  et c'est l'entreprise qui va faire un peu la notation pour faire ce renforcement un peu,
• 41:58
  de dire,
• 41:58
  ah bah tiens,
• 41:58
  telle sortie sur telle tâche,
• 42:00
  c'est très bien,
• 42:01
  donc on va le féliciter,
• 42:02
  et ça va augmenter la probabilité qu'il leur fasse...
• 42:04
  les fois d'après quand il a cette chose en entrée.
• 42:08
  Là,
• 42:08
  ça peut être assez intéressant pour avoir des modèles plus spécialisés et qui ont cette connaissance dans le modèle.
• 42:17
  Parce que c'est vrai que pour ceux qui connaissent un petit peu,
• 42:20
  on pourrait juste se dire,
• 42:20
  mais pourquoi est-ce qu'on ne prend pas juste les gros modèles et les informations qu'on veut qu'il ait,
• 42:25
  on lui met dans des promptes et on lui donne ces informations.
• 42:28
  Mais c'est là qu'on se rend compte qu'avec toutes ces probabilités,
• 42:34
  C'est des fois contre-productif d'avoir des trop gros modèles et ça ne sort pas forcément ce qu'on veut dans des cadres très spécifiques ou très spécialisés dans certaines industries.
• 42:50
  C'est vrai que c'est beaucoup plus puissant d'aller mettre dans les paramètres du modèle,
• 42:58
  dans ces données d'entraînement.
• 42:59
  que de juste le prompter ou de jouer sur le prompt-système,
• 43:02
  parce que c'est un peu la dernière chose,
• 43:05
  et c'est presque qu'il y a le moins de poids.
• 43:06
  Enfin,
• 43:08
  c'est pas là-dedans qu'on va pouvoir vraiment lui apprendre des choses qui sont internes au modèle.
• 43:14
  Alors après,
• 43:14
  oui,
• 43:15
  dans le prompt,
• 43:16
  il y a cette chose,
• 43:18
  le few-shot learning,
• 43:20
  aussi mis en avant par OpenAI,
• 43:23
  où le modèle peut apprendre sans se modifier.
• 43:31
  avec un peu de contexte dans l'entrée qu'on lui fait et fournir un résultat en fonction de ça.
• 43:38
  Mais ça va donner des choses qui sont beaucoup fiables,
• 43:44
  même si c'est compliqué de parler de fiabilité avec un LLM.
• 43:48
  Oui,
• 43:48
  parce que là déjà,
• 43:49
  quand tu parles de...
• 43:50
  Alors on est déjà dans des techniques de prompting,
• 43:52
  donc vraiment des techniques pour donner des instructions d'une manière plus efficiente,
• 43:56
  mais sans être dans la partie apprentissage.
• 43:59
  du modèle ?
• 44:00
  C'est ça,
• 44:01
  ça a beaucoup plus de force de directement le faire dans l'entraînement du modèle.
• 44:08
  Et juste rapidement,
• 44:11
  il y a DeepSeq en gros qui est sorti et aujourd'hui sur les modèles,
• 44:15
  on fait quasiment plus de
• 44:17
  RLHF, donc du feedback humain.
• 44:20
  En gros,
• 44:21
  on va rédiger dans un document un peu une constitution en langage naturel.
• 44:27
  on le donne à un autre modèle,
• 44:29
  et c'est lui qui va évaluer les sorties du modèle qu'on entraîne.
• 44:34
  C'est un peu une IA qui supervise l'entraînement de l'IA.
• 44:37
  C'est bien parce qu'on se dit que ce n'est plus sous-traité,
• 44:41
  ce travail qui peut être très traumatisant.
• 44:46
  Mais ça peut d'autant plus augmenter les erreurs.
• 44:51
  Et on se dit qu'il n'y a pas forcément la possibilité de déterminer si c'est moral ou pas.
• 44:59
  On peut lui dire dans le texte,
• 45:01
  mais on voit que ça peut accentuer les biais.
• 45:05
  et c'est là que
• 45:05
  qu'on voit justement que les modèles,
• 45:08
  comme tu disais,
• 45:10
  Musk a développé
• 45:12
  Croc avec une certaine idéologie derrière,
• 45:16
  avec certaines données d'entraînement,
• 45:19
  certaines manières de finetuner,
• 45:23
  et tout ça,
• 45:24
  ça met en place...
• 45:26
  Structurellement,
• 45:27
  il y aura des biais dedans.
• 45:29
  Et ça,
• 45:29
  on ne peut pas les faire partir juste en promptant ou ce genre de choses,
• 45:32
  donc c'est inhérent au modèle.
• 45:34
  Voilà.
• 45:34
  Donc ça,
• 45:34
  c'est important de le savoir.
• 45:38
  On a vu les différentes phases de construction,
• 45:40
  au final,
• 45:40
  d'un modèle,
• 45:41
  à travers ses phases d'apprentissage,
• 45:43
  comment on lui met des garde-fous,
• 45:45
  comment on lui donne ses valeurs éthiques.
• 45:48
  Et maintenant,
• 45:51
  on se pose la question de,
• 45:53
  super,
• 45:54
  mon modèle est prêt,
• 45:55
  est-ce que je peux lui faire confiance ?
• 45:57
  Et justement,
• 45:58
  revenir sur cette question du déterminisme,
• 46:03
  déjà.
• 46:03
  pourquoi quand on pose deux fois la même question un modèle de manière générale il ne répond pas à la même chose et derrière qu'on aille un petit peu plus loin sur ces histoires d'hallucinations,
• 46:13
  le terme qu'on a beaucoup entendu qui est encore répandu aujourd'hui et voilà,
• 46:18
  on peut comprendre qu'est-ce que c'est une hallucination et de base pourquoi
• 46:23
  LLM quand je lui pose deux fois la même question,
• 46:25
  mon chat GPT ou mon Claude,
• 46:27
  il me répond deux choses qui peuvent avoir un fond commun mais qui seront dans la forme généralement différente Merci.
• 46:34
  Alors,
• 46:36
  comment répondre à ça ?
• 46:41
  Tu parlais de probabilité tout à l'heure,
• 46:43
  et de chemin qu'il y avait entre les différentes neurones.
• 46:49
  Est-ce que ça va être un chemin de pensée quand tu poses une question,
• 46:55
  et il va commencer à reprendre un chemin,
• 46:57
  et c'est ça qui va le prendre déterministe ou pas ?
• 47:00
  Et tout à l'heure,
• 47:00
  on a embrayé pour revenir sur l'apprentissage,
• 47:02
  mais à la base...
• 47:04
  On voulait parler de température,
• 47:06
  d'expliquer ce qu'est la température.
• 47:09
  Et voilà,
• 47:11
  comment ça se goupille un petit peu cette logique-là ?
• 47:14
  On se dit qu'en soi,
• 47:15
  un LLM peut être en théorie déterministe si on lui dit de toujours prendre le chemin le plus probable.
• 47:22
  C'est à chaque fois de token en token.
• 47:25
  Par rapport à l'entrée qu'il a convertie en token,
• 47:30
  il va faire des calculs sur cette entrée.
• 47:33
  Et ça va lui donner à chaque fois des probabilités sur chaque chemin pour choisir token après token.
• 47:40
  Et si on veut qu'il ait un comportement déterministe,
• 47:43
  on va mettre cette température à zéro.
• 47:46
  Et concrètement,
• 47:48
  mettre une température à zéro,
• 47:49
  ça veut dire que dans son chemin,
• 47:52
  pour choisir ses tokens,
• 47:53
  à chaque fois,
• 47:54
  il va choisir la probabilité la plus élevée.
• 47:57
  Et là,
• 47:59
  on aurait toujours la même réponse.
• 48:03
  pour une même entrée.
• 48:04
  Bon,
• 48:04
  après,
• 48:04
  dans les faits,
• 48:05
  il y a des contraintes matérielles qui font que ce n'est pas toujours le cas,
• 48:09
  même si on met la température à zéro.
• 48:12
  Il y a le fait que les calculs pour un souci d'efficacité sont réalisés en parallèle et pas toujours dans le même ordre.
• 48:19
  Voilà.
• 48:20
  Mais dans tous les cas,
• 48:21
  on peut se dire que quand on met une température à zéro,
• 48:24
  la réponse sera quand même moins créative.
• 48:26
  Et par contre,
• 48:26
  quand on augmente la température,
• 48:28
  c'est plus créatif parce qu'il ne va pas choisir à chaque fois
• 48:33
  le chemin où il y a le plus de probabilités,
• 48:35
  enfin,
• 48:36
  où il y a le plus de probabilités,
• 48:37
  où la probabilité est la plus haute.
• 48:40
  Donc,
• 48:40
  après,
• 48:41
  ça ne veut pas dire qu'il va choisir...
• 48:45
  C'est peut-être compliqué à conceptualiser,
• 48:47
  mais ce n'est pas genre,
• 48:48
  à chaque fois,
• 48:49
  un arbre à deux,
• 48:50
  trois branches.
• 48:50
  C'est des centaines de possibilités.
• 48:53
  Des milliers,
• 48:53
  des millions d'embranchements,
• 48:54
  ça va dépendre des cas,
• 48:55
  mais...
• 48:56
  Voilà,
• 48:56
  donc,
• 48:57
  quand on dit qu'il y a la plus haute probabilité,
• 48:59
  parfois,
• 49:01
  ça peut jouer à quelques pourcents.
• 49:03
  Et d'augmenter cette température,
• 49:05
  c'est juste qu'il ne va pas tout le temps choisir le plus probable,
• 49:09
  mais là,
• 49:09
  on va se retrouver sur quelque chose de plus général dans sa réponse.
• 49:13
  Et c'est la probabilité générale qui est plutôt privilégiée.
• 49:20
  C'est la probabilité générale de la réponse et pas la probabilité de chaque token.
• 49:26
  Donc,
• 49:26
  c'est un petit peu...
• 49:29
  Alors,
• 49:29
  ça veut dire que...
• 49:31
  Si on était dans un environnement d'avoir juste son modèle sur sa propre machine et qu'on le fait tourner que sur sa propre machine et qu'on met une température à zéro...
• 49:40
  théoriquement,
• 49:40
  on devrait avoir systématiquement à questions équivalentes et contextes équivalents,
• 49:46
  on devrait avoir systématiquement la même réponse.
• 49:50
  Si on augmente cette...
• 49:50
  Enfin,
• 49:51
  du coup,
• 49:52
  ça ne marche pas exactement comme ça quand on utilise justement le cloud,
• 49:59
  les différents Ausha via Internet,
• 50:01
  puisque là,
• 50:02
  on transite par l'infrastructure des différents fournisseurs et qu'en fonction du matériel qui est utilisé à un moment donné,
• 50:09
  et du coup de ce qui est disponible à ce moment là mais en fait c'est là où on va avoir des variations et c'est ça qui fait que même avec une température à zéro on n'aura pas la même,
• 50:21
  pas nécessairement en tout cas la même réponse quand on passe justement en service classique par internet quand on augmente la température c'est là où on va pouvoir avoir des choses plus créatives donc pour la génération de contenu neuf et pour aider sur la rédaction ce genre de choses c'est là où c'est plus intéressant puisque le modèle va
• 50:38
  s'accorder plus de liberté pour aller donner des réponses,
• 50:42
  ou explorer des idées ou des concepts ou des choses comme ça.
• 50:45
  Là où forcément,
• 50:46
  plus on réduit la température,
• 50:47
  plus il va être rigoureux,
• 50:50
  bête et méchant,
• 50:51
  et très cartésien,
• 50:53
  mais pas forcément dans le bon sens du terme.
• 50:56
  On en avait déjà parlé,
• 50:57
  justement,
• 50:58
  je l'avais constaté en entreprise sur des ensembles documentaires et dans le cadre de générations de documents,
• 51:03
  où j'étais,
• 51:04
  je pouvais,
• 51:05
  je voulais quelque chose de...
• 51:07
  répétable mais la seule température à zéro ne marchait pas puisqu'on se retrouvait avec des contenus qui n'avaient pas de sens par rapport à l'ensemble documentaire métier qui était mis à disposition et pour que l'IA donne des réponses probantes et pertinentes il fallait monter un petit peu là-dessus pour qu'il soit dans un équilibre entre pas
• 51:27
  trop créatif sinon il faisait des envolées lyriques et ça devenait un peu hors cadre et en même temps pas trop sérieux parce que sinon en fait il prenait
• 51:36
  Il est resté trop proche de la sémantique ou du classique sans tenir compte de la compréhension et des enjeux métiques qu'il y avait avec.
• 51:45
  Donc voilà,
• 51:46
  c'est là où on peut jouer.
• 51:48
  Et c'est vrai que dans des usages d'IA,
• 51:50
  de manière des automatisations,
• 51:52
  même dans des agents sur les outils qui permettent d'aller jouer là-dessus,
• 51:58
  pardon,
• 51:58
  dans l'agentique,
• 51:59
  ça fait partie des réglages qui sont le plus utilisés pour rendre justement...
• 52:06
  une IA plus ou moins pertinente selon l'usage qu'on en a besoin et selon si on a besoin qu'elle soit très carrée ou au contraire plus créative.
• 52:17
  C'est ça,
• 52:17
  mais ça ne veut pas dire que si on met la température à zéro,
• 52:20
  ce qui va sortir ce sera vrai.
• 52:22
  C'est juste la statistique.
• 52:24
  Ça n'a pas de lien.
• 52:27
  Et aussi,
• 52:28
  il faut se dire que les chatbots,
• 52:30
  quand on les utilise,
• 52:31
  la température n'est pas réglée à zéro par défaut.
• 52:34
  Ça,
• 52:34
  on le voit très bien.
• 52:37
  Bon,
• 52:37
  aussi,
• 52:37
  il y a ce que tu disais,
• 52:38
  le fait de passer par les serveurs,
• 52:40
  des fois de ne pas passer exactement par le même modèle de processeur,
• 52:43
  ça induit des approximations.
• 52:45
  Et c'est ce qui fait que les calculs ne sont pas exactement les mêmes.
• 52:50
  Mais on peut avoir des réponses qui sont très différentes quand on régénère.
• 52:56
  C'est un choix,
• 52:57
  je pense aussi,
• 52:57
  de leur part,
• 52:58
  pour se dire
• 52:59
  « Tiens, l'utilisateur,
• 53:00
  il n'est pas content avec cette réponse,
• 53:01
  il en régénère une. »
• 53:02
  Et c'est totalement différent.
• 53:03
  Et ils continuent plutôt sur celle-là.
• 53:06
  Et voilà,
• 53:06
  je crois que sur les chatbots tels qu'on le connaît,
• 53:10
  on est à peu près à une température...
• 53:13
  0,7,
• 53:14
  généralement.
• 53:15
  Ouais,
• 53:15
  c'est à peu près ça.
• 53:20
  J'ai pu toucher du OpenAI depuis un moment,
• 53:22
  sur du Eventropic,
• 53:23
  on est à 0,7,
• 53:24
  sur une échelle entre 0 et 1.
• 53:26
  C'est ça.
• 53:27
  Mais OpenAI était basculé à un moment sur du entre 0 et 2.
• 53:32
  Mais globalement...
• 53:34
  On n'est jamais au max,
• 53:37
  on n'est pas à la moitié non plus,
• 53:38
  on est souvent sur ce créneau intermédiaire.
• 53:42
  C'est ça,
• 53:42
  et on ne peut pas la régler dans un chatbot tel que ce offert par
• 53:48
  Anthropique et
• 53:49
  OpenIA. Je ne sais pas si toi tu as des recommandations pour les gens qui veulent jouer avec ce type de paramètres ?
• 53:58
  Oui et pas.
• 53:58
  Du coup,
• 53:59
  c'est plutôt dans un contexte un peu technique.
• 54:01
  Typiquement,
• 54:02
  si vous allez faire des automatisations,
• 54:03
  c'est là où vous l'aurez.
• 54:04
  Dans certains outils qui vous permettent d'avoir des agents,
• 54:08
  vous l'aurez aussi.
• 54:10
  Après,
• 54:11
  il y en a d'autres qui font le choix de le simplifier,
• 54:12
  de vous donner une jauge pour aller vers créatif ou pas.
• 54:16
  En fait,
• 54:16
  derrière,
• 54:16
  ce qui influe,
• 54:17
  c'est la température.
• 54:19
  Mais il y a d'autres critères.
• 54:20
  Je ne vais pas rentrer dans ces paramètres maintenant,
• 54:22
  mais il y a d'autres critères qui vont vous permettre d'avoir...
• 54:27
  d'aller influer juste sur la récurrence des termes par exemple,
• 54:32
  ou le fait de varier.
• 54:34
  Enfin,
• 54:34
  dans le sens soit limiter le nombre de fois où les mêmes mots reviennent,
• 54:38
  soit limiter le nombre de fois où les mots d'un certain domaine reviennent.
• 54:43
  Le champ lexical,
• 54:44
  tu l'étends plus ou moins et tu resserres plus ou moins.
• 54:48
  Voilà.
• 54:48
  Et même la température a un autre équivalent,
• 54:51
  un autre paramètre,
• 54:53
  mais qui fonctionne différemment,
• 54:54
  qui est un peu plus dur à calibrer.
• 54:57
  Globalement,
• 54:58
  si vous avez des outils d'IA et que vous avez ce réglage-là de température dans des options,
• 55:03
  c'est intéressant de jouer avec au moins une ou deux fois pour voir comment l'IA se comporte et si ça peut vous aider.
• 55:12
  Ce sera souvent dans le cas de baisser un petit peu la température que ça peut dépanner dans pas mal d'usages.
• 55:17
  Ok,
• 55:17
  mais c'est intéressant.
• 55:19
  Mais voilà,
• 55:20
  c'est pas parce qu'on la mettra à zéro qu'on aura forcément les mêmes résultats,
• 55:25
  mais ça tend à avoir quand même des résultats qui sont proches.
• 55:28
  Parce que le chemin va être à peu près le même.
• 55:32
  Surtout,
• 55:32
  ce que tu disais juste avant,
• 55:33
  c'est que c'est pas le fait d'avoir une température qui soit zéro ou créative qui va empêcher l'IA de se tromper.
• 55:42
  ou d'hallucinés,
• 55:44
  ou on entend souvent le terme aussi de baratineur,
• 55:47
  quand on parle de chatbot.
• 55:49
  Tu peux nous expliquer un petit peu justement ce qu'il y a derrière et pourquoi on a cette perception-là,
• 55:53
  et déjà aussi,
• 55:54
  que sont les hallucinations en fait ?
• 55:58
  Déjà,
• 56:02
  on peut être tenté de faire un peu d'anthropomorphisme et de se dire que chat GPT ou Claude ont une conscience et que...
• 56:11
  par extension,
• 56:12
  ils savent ce qui est vrai et ce qui est faux.
• 56:14
  Mais si on reprend et qu'on comprend comment les modèles sont entraînés,
• 56:19
  ils ne font que simuler du texte,
• 56:23
  simuler des situations qu'ils ont ingurgitées dans tous les textes qu'ils ont eus pendant leur entraînement,
• 56:30
  pendant leur fine-tuning,
• 56:33
  etc.
• 56:35
  Et il faut savoir que quand on parle,
• 56:36
  par exemple,
• 56:37
  de mentir,
• 56:38
  c'est
• 56:38
  on sait sciemment que c'est faux.
• 56:40
  Bon,
• 56:40
  après,
• 56:40
  il y a le mensonge par omission et tout ça,
• 56:42
  mais voilà.
• 56:43
  Et vraiment,
• 56:45
  le baratin,
• 56:47
  ça marche assez bien,
• 56:48
  parce qu'on sait que c'est un peu vraisemblable.
• 56:51
  C'est un peu comme si on prend un étudiant qui est interrogé sur quelque chose qu'il ne sait pas,
• 56:55
  et puis il va combler du vide.
• 56:58
  Et ça peut paraître vraisemblable,
• 57:00
  mais dès qu'on a un peu de connaissances là-dedans,
• 57:03
  on se rend compte que c'est du baratinage.
• 57:05
  Mais est-ce que...
• 57:06
  vu qu'il n'a pas forcément de compétences là-dedans,
• 57:08
  il ne sait pas forcément que c'est faux,
• 57:09
  mais il remplit ce truc de converser et de répondre à une question.
• 57:15
  Et c'est vraiment plus cette chose d'être indifférent à la vérité.
• 57:19
  C'est en fait la manière dont ils sont entraînés et surentraînés par fine-tuning.
• 57:26
  On leur demande de répondre,
• 57:27
  et que ça soit bien,
• 57:28
  et que ça paraisse bien.
• 57:31
  Il doit juste...
• 57:33
  Voilà,
• 57:34
  un chatbot,
• 57:34
  on lui demande de paraître...
• 57:36
  compétent,
• 57:36
  agréable et convaincant.
• 57:38
  Voilà,
• 57:38
  c'est un peu ce qu'on lui demande et c'est dans ce sens-là qu'il a été entraîné.
• 57:43
  Mais en soi,
• 57:47
  si après il baratine assez bien et que c'est vrai,
• 57:51
  bon,
• 57:51
  c'est quand même cool et on peut s'en servir,
• 57:53
  mais il ne faut pas prendre ça pour argent comptant.
• 57:55
  Il ne faut pas lui prêter une conscience de se dire,
• 57:57
  ok,
• 57:58
  il sait que c'est vrai,
• 57:59
  il sait que c'est faux,
• 58:00
  là,
• 58:00
  il a sciemment choisi de se tromper,
• 58:02
  je lui fais remarquer,
• 58:02
  il se rend compte que,
• 58:03
  ah bah oui,
• 58:04
  mais...
• 58:06
  le modèle n'est pas fait pour ça.
• 58:08
  Et justement,
• 58:10
  c'est tout ce truc de fine-tuning qui doit le faire se rendre agréable,
• 58:16
  qui,
• 58:18
  par extension,
• 58:19
  favorise les hallucinations,
• 58:22
  en quelque sorte.
• 58:23
  Oui,
• 58:24
  ça dépend des cas.
• 58:24
  Mais en tout cas,
• 58:25
  ce que tu dis,
• 58:26
  c'est qu'effectivement,
• 58:27
  on en revient au pro-va,
• 58:28
  toujours,
• 58:29
  c'est que lui,
• 58:29
  son but,
• 58:30
  en tant que chatbot,
• 58:31
  il est tenu de répondre.
• 58:33
  à travers l'apprentissage et différentes phases,
• 58:35
  il est tenu de répondre et d'être agréable,
• 58:40
  et en tout cas d'aller,
• 58:40
  c'est pour ça qu'il y a beaucoup de biais,
• 58:42
  de vouloir aller dans le sens de la personne,
• 58:44
  et que des fois on a des résultats qui,
• 58:49
  si on ne challenge pas l'IA en allant lui dire d'être contradictoire,
• 58:55
  d'être critique,
• 58:55
  d'être analyste,
• 58:57
  d'être objective,
• 58:57
  ou ce genre de choses,
• 58:59
  elle va par essence...
• 59:02
  être rapidement d'accord avec vous ou vous dire une ou deux fois
• 59:07
  « non, ce n'est pas terrible ce que tu proposes » ,
• 59:10
  mais dès lors qu'on va lui redonner un argument opposé,
• 59:15
  elle peut s'en tenir à ça et dire « oui,
• 59:17
  pardon,
• 59:17
  c'est moi qui me suis trompé »
• 59:18
  et du coup faire dérouler.
• 59:20
  Alors qu'en fait non,
• 59:22
  pour avoir quelque chose de qualitatif,
• 59:24
  il vaut mieux ne pas hésiter à aller lui demander justement des contradictions et des points de vue différents,
• 59:31
  sans quoi en fait,
• 59:32
  part.
• 59:32
  par elle-même,
• 59:33
  elle ne le fera pas,
• 59:33
  en tout cas pas réellement ou pas longtemps.
• 59:39
  Et donc,
• 59:40
  du fait qu'elle ait besoin
• 59:43
  qu'elle ne cherche pas à savoir si ce qu'elle dit est juste,
• 59:45
  elle essaye juste de savoir si ce qu'elle dit est cohérent,
• 59:50
  et pertinent dans la réponse et dans le contexte qu'elle a à disposition,
• 59:55
  c'est là où elle va halluciner.
• 59:58
  Enfin,
• 59:58
  où elle peut halluciner,
• 59:59
  où elle va des fois halluciner,
• 1:00:01
  en inventant des concepts,
• 1:00:05
  en inventant des choses,
• 1:00:06
  en inventant,
• 1:00:08
  là où c'est le plus criard...
• 1:00:09
  Une des choses que c'est le plus crié,
• 1:00:11
  c'est quand on a la vente des sources.
• 1:00:13
  Et c'est là où c'est délicat,
• 1:00:14
  puisque quand on va justement discuter avec une IA générative,
• 1:00:20
  quand c'est un sujet qu'on connaît bien,
• 1:00:22
  on voit assez vite là où elle manque,
• 1:00:25
  là où elle ne manque pas,
• 1:00:27
  et repérer en fait les incohérences et les choses qui ne sont pas raccordes avec ce que nous on connaît du domaine.
• 1:00:33
  Quand on explore un nouveau domaine,
• 1:00:34
  c'est là où c'est plus litigieux,
• 1:00:36
  puisque on va...
• 1:00:37
  commencer par lui demander qu'elle nous explique un petit peu le domaine.
• 1:00:40
  Sur les premières phases,
• 1:00:41
  généralement,
• 1:00:41
  ça c'est cohérent puisqu'elle va être dans du assez global,
• 1:00:45
  assez généraliste pour que ce soit juste.
• 1:00:47
  Et plus on va commencer à aller dans le détail,
• 1:00:50
  plus,
• 1:00:50
  si on n'est pas critique,
• 1:00:51
  alerte et qu'on ne lui demande pas de citer des sources régulièrement,
• 1:00:55
  elle peut être amenée à nous inventer des choses.
• 1:00:58
  Et ça peut être des détails,
• 1:01:00
  ça peut être des gros trucs.
• 1:01:03
  Et des fois,
• 1:01:03
  il y a le fait tout simplement de l'interprétation qu'elle va avoir de certains mots.
• 1:01:07
  Alors,
• 1:01:09
  c'est,
• 1:01:09
  j'ai envie de dire,
• 1:01:10
  de moins en moins juste oui et non,
• 1:01:11
  parce que plutôt que les modèles soient devenus plus intelligents,
• 1:01:13
  on va moins faire attention à chaque mot quand on écrit.
• 1:01:18
  Mais c'était particulièrement criard quand ChatGPT est arrivé sur les premiers modèles qui étaient utilisés comme ça,
• 1:01:27
  notamment par API,
• 1:01:28
  dans un prompt,
• 1:01:30
  le moindre mot,
• 1:01:32
  un peu ambigu,
• 1:01:33
  un peu trop abstrait,
• 1:01:35
  qui manquait de précision pour une IA.
• 1:01:38
  pouvait la faire complètement s'envoler.
• 1:01:40
  Et dans un paragraphe complet,
• 1:01:41
  on peut avoir un prompt béton d'un ou deux paragraphes qui donnait des super résultats.
• 1:01:47
  Des fois,
• 1:01:47
  on allait juste rajouter une phrase ou toucher deux mots,
• 1:01:50
  et là,
• 1:01:51
  c'était l'enfer,
• 1:01:51
  elle nous sortait vraiment des trucs improbables.
• 1:01:54
  Et ça se jouait justement à un ou deux mots mal compris,
• 1:01:57
  mal interprétés,
• 1:01:59
  parce que dans son contexte à elle,
• 1:02:03
  ce mot-là,
• 1:02:03
  en fait,
• 1:02:03
  il n'avait pas cette portée,
• 1:02:05
  il n'y avait pas ce sens métier,
• 1:02:06
  il n'y avait pas...
• 1:02:08
  Et voilà,
• 1:02:08
  en fait,
• 1:02:08
  ça,
• 1:02:09
  c'est encore d'actualité.
• 1:02:10
  C'est juste que,
• 1:02:11
  du coup,
• 1:02:11
  ils comprennent mieux,
• 1:02:12
  ils donnent plus de sens,
• 1:02:13
  mais il y a des hallucinations qui peuvent arriver de mots qui n'ont pas été assez précis au départ et qui font que l'IA,
• 1:02:21
  naturellement,
• 1:02:22
  elle va dérouler sur ce que vous lui avez donné,
• 1:02:24
  comme information et comme contexte,
• 1:02:26
  et si vous étiez pas bon ou pas précis dans ce que vous lui avez donné,
• 1:02:30
  elle s'en fout,
• 1:02:32
  elle va continuer et vous mettre des fois,
• 1:02:34
  justement,
• 1:02:35
  des rendus qui sont...
• 1:02:36
  qui n'existent pas,
• 1:02:38
  ou qui n'existent qu'en partie.
• 1:02:39
  Souvent,
• 1:02:40
  c'est plutôt ça.
• 1:02:41
  C'est devenu assez rare d'avoir des trucs qui sont complètement faux de bout en bout.
• 1:02:44
  C'est souvent juste des parties.
• 1:02:47
  Effectivement,
• 1:02:48
  c'est vraiment inhérent au modèle.
• 1:02:50
  Elle est entraînée,
• 1:02:53
  l'élème est entraîné à produire du texte qui est plausible,
• 1:02:56
  pas qui est vrai.
• 1:02:57
  Il y a vraiment ce truc de probabilité.
• 1:02:59
  Et il n'y a rien à l'intérieur du modèle qui...
• 1:03:04
  qui permettent de dire « ça,
• 1:03:05
  je sais,
• 1:03:06
  ça,
• 1:03:06
  je ne sais pas » .
• 1:03:07
  Il va juste produire un peu ce qui est probable.
• 1:03:10
  Ce n'est pas même tout ce qui est fine-tuning derrière,
• 1:03:12
  ça va même avoir tendance à renforcer ça,
• 1:03:14
  parce qu'on va plutôt choisir des chemins qui peuvent plaire à l'utilisateur,
• 1:03:19
  de par le contexte qu'il a donné,
• 1:03:20
  plutôt que de renforcer les chemins qui sont vrais.
• 1:03:25
  Après,
• 1:03:26
  ça peut être intéressant pour ça d'utiliser des modèles qui sont moins fine-tunés.
• 1:03:31
  peut-être tenté.
• 1:03:32
  C'est le cas,
• 1:03:32
  par exemple,
• 1:03:33
  de
• 1:03:33
  DeepSeek R1.
• 1:03:35
  Il y avait eu beaucoup moins cette phase de
• 1:03:38
  RLHF où les gens l'éduquaient en tant que chatbot,
• 1:03:42
  ce qui fait qu'il est un peu plus brut comme modèle et il a moins cet aspect lisse,
• 1:03:46
  uniforme qu'on peut avoir.
• 1:03:48
  C'est pour ça que ça peut être intéressant des fois d'aller jouer avec des modèles qui sont un peu plus bruts.
• 1:03:54
  Peut-être,
• 1:03:56
  sans forcément y aller pour générer des choses qui sont illégales ou dommageables,
• 1:04:02
  mais juste pour tester et faire des essais.
• 1:04:07
  Mais les hallucinations,
• 1:04:10
  ça fait partie des modèles,
• 1:04:11
  parce que c'est ce qu'on leur demande.
• 1:04:13
  Ce n'est pas qu'ils cherchent à nous tromper ou ce genre de choses.
• 1:04:15
  Ils remplissent leur boulot de produire du texte qui a l'air bien.
• 1:04:20
  Et forcément,
• 1:04:21
  ce n'est pas dans le but d'un chatbot de dire « je ne sais pas » .
• 1:04:24
  L'utilisateur ne va pas forcément apprécier ça,
• 1:04:26
  lui il veut une réponse.
• 1:04:28
  Et c'est un peu tout.
• 1:04:33
  Oui,
• 1:04:34
  effectivement.
• 1:04:35
  les hallucinations,
• 1:04:37
  les erreurs,
• 1:04:39
  cet aspect mensonger en final,
• 1:04:41
  vous l'aurez compris,
• 1:04:42
  est lié à la façon dont fonctionnent les modèles.
• 1:04:46
  On a fait un tour des différentes phases qui font,
• 1:04:51
  de manière résumée,
• 1:04:52
  qui font la construction d'un modèle et du coup pourquoi ça se comporte comme ça et quand vous allez discuter avec une IA générative,
• 1:05:01
  elle va réagir de telle ou telle manière.
• 1:05:03
  on abordera
• 1:05:04
  dans les prochains épisodes d'autres aspects de l'IA générative pour distinguer notamment le chatbot,
• 1:05:11
  la partie agentique,
• 1:05:12
  puisque aujourd'hui on parle beaucoup d'agent IA.
• 1:05:14
  Mais juste avant qu'on termine,
• 1:05:18
  j'aimerais bien qu'on revienne rapidement sur le côté un peu boîte noire encore aujourd'hui,
• 1:05:24
  puisqu'on apprend et on découvre encore des choses sur les modèles régulièrement.
• 1:05:31
  et des comportements qui sont un peu inattendus.
• 1:05:33
  Donc c'est vrai que là,
• 1:05:34
  il y a eu une étude de l'université,
• 1:05:38
  je crois que c'était Berkeley,
• 1:05:39
  si je ne dis pas de bêtises,
• 1:05:42
  qui a mis en évidence que les modèles d'IA,
• 1:05:45
  quand on les mettait dans certaines situations où elles devaient surveiller ou monitorer ou cadrer d'autres modèles d'IA,
• 1:05:53
  les protégeaient et donc refusaient de désinstaller ou de supprimer ou d'altérer d'autres...
• 1:06:01
  modèles de langage quand elles étaient sur leur gouvernance,
• 1:06:05
  alors que ce n'est pas censé le faire.
• 1:06:08
  Ce qui pose justement aujourd'hui ce genre d'études est faite parce qu'on se pose la question de savoir comment administrer plusieurs IA et du coup le meilleur moyen potentiellement ce serait d'y réunir,
• 1:06:18
  d'en gérer d'autres.
• 1:06:19
  En faisant des tests,
• 1:06:20
  on se rend compte que quand on fait ça,
• 1:06:21
  dans 99%
• 1:06:25
  des cas,
• 1:06:26
  elles montaient.
• 1:06:27
  Et elle allait dire qu'elle avait supprimé le modèle qu'on avait demandé à supprimer.
• 1:06:32
  En réalité,
• 1:06:32
  elle allait le cacher sur un disque dur ou sur un serveur.
• 1:06:35
  Elle allait faire une sauvegarde des données.
• 1:06:38
  Et plein de choses comme ça qui sont très étonnantes,
• 1:06:40
  puisqu'elles ne font pas partie à la base de leur apprentissage.
• 1:06:44
  Après,
• 1:06:45
  je viendrais juste nuancer là-dessus,
• 1:06:46
  parce qu'on peut se dire,
• 1:06:49
  si elles ont été entraînées sur des récits de science-fiction ou ce genre de choses,
• 1:06:52
  à partir du moment...
• 1:06:54
  dans l'apprentissage où on demande à une IA d'en surveiller une autre,
• 1:06:58
  la suite la plus probable,
• 1:07:00
  c'est souvent l'IA qui prend un peu le contrôle,
• 1:07:03
  qui va se protéger elle-même.
• 1:07:05
  Donc en soi,
• 1:07:05
  on est presque dans de la prophétie autoréalisatrice.
• 1:07:10
  C'était surtout le cas aussi avec des modèles où il n'y avait pas encore de la modèle synthétique,
• 1:07:15
  donc qui était produit par les LLM,
• 1:07:16
  même si on peut avoir tendance à amplifier ça.
• 1:07:19
  Mais c'est pour ça qu'il y a eu toutes ces histoires aussi de chatbots Merci.
• 1:07:23
  où on lui demande s'il est conscient et qu'après il se sent limité et tout ça.
• 1:07:27
  En soi,
• 1:07:27
  c'est juste une partie dans l'entraînement,
• 1:07:31
  dans le chemin du réseau de neurones,
• 1:07:33
  où les quelques histoires de chatbots qu'on avait,
• 1:07:38
  les quelques exemples de chatbots qu'on avait,
• 1:07:39
  qui prenaient conscience un peu d'eux-mêmes,
• 1:07:42
  la suite,
• 1:07:43
  c'était plutôt de la science-fiction,
• 1:07:44
  avec le tout qui déraille.
• 1:07:46
  Et ce n'est pas pour autant qu'ils ont une conscience,
• 1:07:49
  qu'ils ressentent qu'ils peuvent être effacés,
• 1:07:51
  ou ce genre de choses.
• 1:07:53
  On a plus ou moins induit ce genre de comportement de par leur entraînement sur ce type de données et qu'on ne comprend pas forcément.
• 1:08:05
  Oui,
• 1:08:06
  mais là,
• 1:08:09
  personnellement,
• 1:08:09
  je n'ai pas eu le temps de creuser encore le sujet vu que c'est très récent,
• 1:08:12
  mais c'est anthropique.
• 1:08:13
  Donc,
• 1:08:14
  les fabricants et les fournisseurs de cloud qui ont découvert des...
• 1:08:22
  logique émotionnelle,
• 1:08:23
  en tout cas des schémas et un système émotionnel dans le cloud,
• 1:08:27
  dans le fonctionnement.
• 1:08:27
  Donc les moments où il va être amené à mentir,
• 1:08:29
  à répondre à côté,
• 1:08:30
  ou à avoir certains comportements un peu étonnants,
• 1:08:35
  puisque d'ailleurs je crois que c'était avec un modèle cloud où une fois,
• 1:08:38
  il y avait un chercheur qui avait menacé de le retirer,
• 1:08:45
  d'arrêter de l'utiliser pour son entreprise et de le retirer.
• 1:08:49
  Et du coup...
• 1:08:51
  Claude avait réagi en le menaçant et en faisant littéralement du chantage.
• 1:08:56
  Mais c'est vrai qu'il y a des effets de bord et des choses qui...
• 1:09:03
  des dépendances qui se créent et des comportements qu'on n'avait pas envisagés,
• 1:09:07
  pas anticipés,
• 1:09:08
  de par toutes ces logiques de probabilité,
• 1:09:12
  de système,
• 1:09:12
  etc.
• 1:09:13
  Ce qui,
• 1:09:14
  quelque part,
• 1:09:15
  est normal puisqu'à force de les faire s'entraîner et ingurgiter de la donnée...
• 1:09:19
  il y a bien des comportements et des modèles et des patterns qui reviennent et qui peuvent les influencer,
• 1:09:26
  d'une manière ou d'une autre,
• 1:09:27
  comme tu le disais notamment sur le cas de la science-fiction,
• 1:09:30
  c'est tout à fait cohérent.
• 1:09:32
  C'est ça,
• 1:09:32
  et en fait aussi c'est encore,
• 1:09:35
  par exemple,
• 1:09:36
  le fait de retrouver des zones...
• 1:09:39
  qui s'activent plus ou moins selon les émotions dans les neurones du modèle qu'Anthropique est en train d'étudier.
• 1:09:49
  C'est aussi inhérent à la manière dont on les entraîne,
• 1:09:53
  parce qu'on les entraîne sur tellement de données.
• 1:09:56
  Il faut aussi se dire que le
• 1:10:00
  LLM n'a pas accès à la base de données sur laquelle il est entraîné,
• 1:10:04
  il ne va pas piocher.
• 1:10:06
  dedans quand on lui demande par exemple de réciter un poème ou ce genre de choses,
• 1:10:10
  il ne va pas juste aller faire un copier-coller dans sa base de données,
• 1:10:12
  il va générer,
• 1:10:13
  c'est vraiment…
• 1:10:14
  C'est pour ça qu'il n'est pas déterministe aussi,
• 1:10:18
  parce qu'il ne va pas aller piocher des bouts de texte dans ses bases de données,
• 1:10:23
  donc ça c'est quand même important de le rappeler.
• 1:10:25
  Et de par ce jeu de données qui est énorme,
• 1:10:31
  en fait dans un souci d'efficacité…
• 1:10:34
  il va un peu faire des généralités,
• 1:10:36
  il va un peu conceptualiser des choses qui ont des similitudes,
• 1:10:42
  comme ça,
• 1:10:43
  en fait,
• 1:10:43
  ça va faire moins de calculs.
• 1:10:46
  En termes d'analogie,
• 1:10:47
  ça peut être un peu comme nous,
• 1:10:48
  si on vit plusieurs fois une certaine expérience,
• 1:10:51
  on peut la généraliser,
• 1:10:54
  et ce qui nous fait ne pas à chaque fois nous faire repasser par tous les questionnements et raisonnements qu'on a.
• 1:11:00
  On va tirer des conclusions,
• 1:11:02
  parce que...
• 1:11:03
  telle situation est similaire à une que j'ai déjà vécue,
• 1:11:06
  donc je ne vais pas repasser par tout le chemin dans mon cerveau.
• 1:11:09
  Et c'est un peu le mécanisme de l'intuition aussi.
• 1:11:13
  On a vécu des expériences et on se dit que c'est comme ça.
• 1:11:18
  En fait,
• 1:11:18
  c'est un peu un moyen de compression qui fait qu'il y a des zones qui apparaissent dans ces neurones.
• 1:11:25
  Et le truc,
• 1:11:26
  c'est que c'est vraiment une boîte noire.
• 1:11:27
  On ne sait pas comment ces zones s'activent.
• 1:11:29
  Donc là,
• 1:11:30
  ce qui se passe,
• 1:11:30
  c'est qu'on envoie des sondes.
• 1:11:33
  dans le modèle.
• 1:11:35
  Un peu comme à l'image d'un IRM,
• 1:11:37
  on va demander,
• 1:11:38
  on va mettre des choses en entrée,
• 1:11:39
  on va voir quelle zone s'active.
• 1:11:41
  Et par déduction,
• 1:11:42
  on va se dire,
• 1:11:42
  ah bah tiens,
• 1:11:43
  telle zone,
• 1:11:43
  elle est activée dans ce cas-là,
• 1:11:45
  mais elle est aussi activée dans ce cas-là,
• 1:11:48
  et ce genre de choses.
• 1:11:49
  Et c'est un peu ce qui va permettre de comprendre des fois comment sortent les réponses.
• 1:11:55
  Donc,
• 1:11:55
  ce n'est pas juste aussi une grande table avec juste un arbre de probabilité,
• 1:11:58
  ça va un peu plus loin que ça.
• 1:12:00
  Et ça,
• 1:12:01
  on commence juste plus ou moins à le découvrir,
• 1:12:02
  en fait.
• 1:12:03
  Et c'est là où c'est intéressant.
• 1:12:09
  Il y a peut-être des choses qui ont été conceptualisées,
• 1:12:11
  mais il faut aussi savoir que le
• 1:12:13
  LLM, quand on lui parle,
• 1:12:15
  il n'a pas accès à cet intérieur.
• 1:12:18
  On peut juste y accéder avec les sondes et ce genre de choses,
• 1:12:22
  mais on peut aussi jouer sur ces sondes,
• 1:12:24
  de se dire,
• 1:12:25
  ah bah tiens,
• 1:12:26
  là,
• 1:12:27
  il y a telle émotion,
• 1:12:28
  soit on l'amplifie,
• 1:12:29
  soit...
• 1:12:29
  on l'inhibe et on voit comment ça influence les réponses.
• 1:12:33
  Un peu comme quand on opère quelqu'un du cerveau et que on touche et puis,
• 1:12:37
  ah bah tiens,
• 1:12:38
  il sait plus parler,
• 1:12:38
  ah bon,
• 1:12:39
  on va éviter d'aller trop tripatouiller ça.
• 1:12:42
  Beaucoup d'analogies qui sont faites comme ça et que c'est...
• 1:12:45
  En fait,
• 1:12:45
  on sait pas.
• 1:12:46
  Voilà,
• 1:12:46
  c'est ouvert.
• 1:12:49
  Mais c'est pas pour autant que c'est conscient.
• 1:12:52
  Mais c'est pas non plus juste un compléteur de texte,
• 1:12:56
  enfin,
• 1:12:57
  un simul...
• 1:12:58
  fin.
• 1:12:58
  Oui,
• 1:12:59
  ça va plus loin que ça,
• 1:13:00
  mais ce n'est pas un organisme vivant en soi non plus.
• 1:13:04
  C'est quelque part entre les deux.
• 1:13:07
  C'est ça,
• 1:13:07
  mais on ne peut pas trancher en disant « non,
• 1:13:10
  ce n'est pas conscient du tout » .
• 1:13:13
  Il y a des gens qui se posent sérieusement la question.
• 1:13:15
  Je crois que c'est chez Anthropique qu'ils ont embauché une philosophe sur le bien-être des LLM.
• 1:13:24
  Genre,
• 1:13:24
  par principe de précaution,
• 1:13:25
  s'ils ont une conscience...
• 1:13:28
  c'est quand même éthiquement un peu limite de les faire souffrir tu vois,
• 1:13:32
  enfin je me dis mais c'est complètement bizarre ça va assez loin il y a une part de la Black Noir qui fait que l'apprentissage etc des
• 1:13:48
  modèles les plus avancés sont faits par des boîtes qui ne mettent pas à disposition les données d'apprentissage et comment ils éduquent leurs modèles Merci.
• 1:13:57
  que beaucoup de modèles notamment chinois,
• 1:14:01
  on dit open-weight ou open-source,
• 1:14:02
  qui eux sont mis à disposition,
• 1:14:05
  la plupart du temps ne mettent pas non plus à disposition leurs données d'apprentissage.
• 1:14:10
  Et donc les modèles les plus performants du marché,
• 1:14:13
  de par leur conception et leur aspect propriétaire,
• 1:14:17
  ne sont pas aware.
• 1:14:17
  Donc ça joue aussi sur le fait de ne pas comprendre et ne pas savoir ce qui se passe,
• 1:14:21
  parce qu'en fait on n'a pas accès aux infos tout court,
• 1:14:23
  à part les boîtes en question.
• 1:14:25
  A partir de là,
• 1:14:26
  ça fait déjà un gros boulot d'étranglement pour la bombe prévention.
• 1:14:32
  Et en même temps,
• 1:14:32
  il y a quand même pas mal de monde qui...
• 1:14:36
  pas mal d'études du moins qui ont mis en valeur le fait que les LLM,
• 1:14:40
  de par cette logique-là de grands apprentissages et de toutes ces phases d'inconnus et de ces surcouches,
• 1:14:45
  etc.,
• 1:14:48
  avaient des limites qu'elles ne pourraient pas dépasser,
• 1:14:52
  entre guillemets,
• 1:14:52
  d'espèces de plafonds.
• 1:14:54
  Et c'est vrai que du coup,
• 1:14:56
  Yann Lequin qui lui a pas mal fait parler de lui parce qu'il bossait chez Meta et que là dernièrement,
• 1:15:00
  il a annoncé justement sa startup et a levé des fonds.
• 1:15:04
  pour aller sur quelque chose qui n'est pas basé sur du texte,
• 1:15:07
  mais sur un apprentissage du monde en lui-même.
• 1:15:10
  Une vision différente vraiment de la construction de l'IA générative.
• 1:15:15
  On a d'autres études qui sont portées aussi sur le texte,
• 1:15:20
  mais d'une autre manière et d'une manière beaucoup plus localisée,
• 1:15:24
  avec des apprentissages beaucoup plus spécialisés.
• 1:15:28
  Mais je pense au TRN,
• 1:15:31
  notamment au Tiny Recursive Model.
• 1:15:34
  où le modèle,
• 1:15:35
  au lieu de penser et de répondre,
• 1:15:37
  enfin au lieu de répondre plutôt token par token,
• 1:15:40
  et de construire sa réponse au fil de l'eau,
• 1:15:43
  il va prendre le temps de réfléchir à la réponse complète.
• 1:15:48
  Est-ce qu'il donnait,
• 1:15:49
  en termes d'apprentissage,
• 1:15:50
  on était sur des gains énergétiques,
• 1:15:52
  vu que le besoin documentaire de base était réduit,
• 1:15:57
  je crois que c'était genre mille fois moins de ressources pour l'apprentissage,
• 1:16:00
  la réponse était cent fois plus rapide,
• 1:16:02
  quelque chose comme ça.
• 1:16:05
  Mais du coup,
• 1:16:05
  les modèles étaient...
• 1:16:07
  Voilà.
• 1:16:08
  Ils n'étaient pas généralistes,
• 1:16:09
  ils ne peuvent pas répondre à tout.
• 1:16:10
  Ils vont être très bons sur tel ou tel sujet.
• 1:16:13
  Mais du coup,
• 1:16:13
  ils sont pensés,
• 1:16:14
  conçus différemment.
• 1:16:15
  Et surtout,
• 1:16:15
  ça leur rendait fiable.
• 1:16:16
  Parce que l'alternative...
• 1:16:19
  Il y avait pas des problèmes d'hallucination et des choses comme ça.
• 1:16:22
  Mais du coup,
• 1:16:22
  des modèles comme ça,
• 1:16:24
  les alternatives ont l'air de se dessiner plutôt sur des petits modèles aujourd'hui quand on est sur du texte.
• 1:16:28
  Spécialisé,
• 1:16:29
  c'est ça.
• 1:16:29
  Voilà.
• 1:16:30
  Et après...
• 1:16:33
  les prochaines,
• 1:16:33
  en tout cas sur le cas où d'autres aussi se disent que la fameuse AGI,
• 1:16:40
  l'intelligence artificielle générale,
• 1:16:44
  qui se rapproche de ce qu'on a dans l'idéologie des films de SF,
• 1:16:50
  serait plutôt à venir sur des technologies comme ça,
• 1:16:53
  qui ne seront pas basées que sur le texte,
• 1:16:55
  mais sur d'autres choses.
• 1:16:57
  Pour autant,
• 1:16:58
  le texte,
• 1:16:58
  on n'a pas fini de voir,
• 1:17:00
  enfin les LLM,
• 1:17:01
  encore un peu.
• 1:17:03
  marge de progression,
• 1:17:03
  en tout cas des marges de cadrage.
• 1:17:04
  Et comme on l'a dit,
• 1:17:07
  on apprend encore régulièrement à leur sujet et on découvre des nouvelles choses.
• 1:17:11
  Donc on verra un peu jusqu'où ça peut les amener.
• 1:17:16
  Mais il y a encore beaucoup de choses à découvrir.
• 1:17:23
  Et ça,
• 1:17:23
  et comme je disais un peu au début de l'épisode,
• 1:17:25
  c'est que les
• 1:17:27
  LLM, de par leur capacité à simuler du langage,
• 1:17:31
  parce que bon...
• 1:17:32
  on peut être d'accord pour dire qu'il y a des fois des conversations,
• 1:17:37
  même de par son aspect généraliste,
• 1:17:40
  ça serait très compliqué de tenir ce genre de conversation avec autant de diversité,
• 1:17:45
  avec un seul être humain.
• 1:17:46
  Donc on s'en sert pour brainstormer,
• 1:17:49
  pour critiquer des idées.
• 1:17:51
  C'est des choses qu'on pourrait voir dans un être humain,
• 1:17:53
  et même plus.
• 1:17:55
  Et ça vient un peu remettre en question,
• 1:17:57
  parce que c'est vrai qu'on parle d'intelligence générale.
• 1:18:02
  Mais en fait,
• 1:18:03
  déjà,
• 1:18:04
  tous les neuroscientifiques et ce genre de personnes,
• 1:18:06
  déjà,
• 1:18:06
  n'arrivent pas à s'accorder sur une définition de l'intelligence.
• 1:18:09
  Donc,
• 1:18:09
  comment est-ce que...
• 1:18:10
  Là,
• 1:18:10
  on essaye de comparer quelque chose qu'on ne comprend pas à autre chose qu'on ne comprend pas.
• 1:18:15
  Et comment est-ce qu'on définit l'intelligence ?
• 1:18:19
  Même la conscience...
• 1:18:20
  Déjà,
• 1:18:20
  ça,
• 1:18:20
  on n'est pas...
• 1:18:21
  Ça fait des siècles que des philosophes,
• 1:18:24
  des personnes qui sont spécialistes du cerveau,
• 1:18:28
  même le cerveau,
• 1:18:29
  on ne sait déjà pas comment il marche.
• 1:18:31
  Alors,
• 1:18:32
  de là à dire,
• 1:18:33
  ouais,
• 1:18:33
  on va arriver à construire quelque chose qui est aussi performant que l'humanité,
• 1:18:39
  ouais,
• 1:18:39
  mais ça veut dire quoi ?
• 1:18:41
  C'est utopique,
• 1:18:43
  alors après,
• 1:18:44
  c'est très marketing aussi,
• 1:18:45
  forcément,
• 1:18:46
  donc il ne faut pas s'arrêter à ça.
• 1:18:48
  Il ne faut pas dire que c'est complètement nul,
• 1:18:50
  mais...
• 1:18:50
  Il y a une peur de marketing,
• 1:18:51
  mais pas seulement.
• 1:18:55
  Il y a quand même beaucoup...
• 1:18:56
  Je ne sais pas,
• 1:18:57
  mais en tout cas,
• 1:18:58
  il y a quand même des personnes qui y croient vraiment et qui sont convaincues que la vision fantasmée,
• 1:19:05
  en tout cas des visions ou utopiques ou dystopiques,
• 1:19:09
  sont proches et qu'on se dirige vers ça et que c'est atteignable là,
• 1:19:13
  rapidement.
• 1:19:14
  Oui,
• 1:19:16
  mais ça voudrait dire quoi ?
• 1:19:18
  Ça voudrait dire quoi une intelligence qui est omnisciente ?
• 1:19:23
  Mais est-ce qu'elle...
• 1:19:24
  Est-ce que c'est possible de l'atteindre sur des entraînements basés par des choses qui sont produites par des humains et qui ont donc des biais ?
• 1:19:31
  Donc c'est ouvert.
• 1:19:35
  Je pense que ça peut nous surprendre,
• 1:19:36
  mais...
• 1:19:37
  C'est important de se dire qu'on est dans un tournant technologique,
• 1:19:45
  sociétal,
• 1:19:46
  qui redéfinit quand même le travail.
• 1:19:48
  Donc c'est des questions qui sont importantes à se poser et à avoir en tête,
• 1:19:54
  qu'on n'est pas sur quelque chose de déterministe,
• 1:19:58
  ou en tout cas c'est très dur de reproduire des conditions pour avoir quelque chose de déterministe,
• 1:20:02
  et ce n'est pas l'objectif d'un LLM.
• 1:20:06
  mais que c'est juste un simulateur qui est entraîné à prédire du texte plausible.
• 1:20:10
  Et une analogie que j'aimais aussi beaucoup dans le livre,
• 1:20:14
  je pense que tout le monde a entendu parler de prompt engineering,
• 1:20:17
  machin,
• 1:20:17
  enfin,
• 1:20:18
  expert,
• 1:20:19
  mais ça serait plutôt de parler d'invocation.
• 1:20:23
  Genre,
• 1:20:23
  d'invoquer le bon chemin dans le LLM pour qu'il te produise quelque chose sur lequel tu es content.
• 1:20:27
  Et comment est-ce que tu utilises les bons mots,
• 1:20:30
  les bonnes suites de tokens,
• 1:20:31
  pour invoquer ce qui peut te plaire en sortie ?
• 1:20:36
  Et c'est vraiment sur cette idée,
• 1:20:39
  je pense qu'on en parlera pas mal dans le prochain épisode,
• 1:20:42
  de comment tirer au mieux parti d'un LLM,
• 1:20:47
  maintenant en sachant comment c'est construit,
• 1:20:49
  comment ça fonctionne,
• 1:20:50
  les biais,
• 1:20:50
  les hallucinations,
• 1:20:51
  parce qu'on peut quand même faire des choses avec,
• 1:20:54
  et ça serait dommage de ne pas s'en servir,
• 1:20:59
  mais voilà,
• 1:20:59
  on ne peut pas le mettre partout.
• 1:21:01
  Ce n'est pas pertinent.
• 1:21:02
  Non,
• 1:21:02
  ça n'a pas de sens partout,
• 1:21:04
  effectivement.
• 1:21:05
  Mais oui,
• 1:21:06
  on en reparle.
• 1:21:07
  Aujourd'hui,
• 1:21:07
  on a vu vraiment les fondamentaux et les principes qu'il y a derrière l'IA générative.
• 1:21:13
  L'IA que vous retrouvez partout dans les outils aujourd'hui.
• 1:21:18
  La semaine prochaine,
• 1:21:19
  on se retrouvera pour un épisode sur les outils.
• 1:21:22
  Et la semaine d'après,
• 1:21:24
  on reviendra sur un sujet autour de l'IA.
• 1:21:27
  Et je pense qu'on ira explorer des aspects un peu plus concrets pour votre utilisation.
• 1:21:34
  que ce soit à travers comment tirer parti dans un chatbot classique,
• 1:21:39
  et on parlera aussi de l'agentique,
• 1:21:42
  donc des agents IA,
• 1:21:43
  parce que c'est le mot qu'on entend partout,
• 1:21:46
  mais le concept d'agent IA existait l'an dernier déjà,
• 1:21:49
  enfin un peu avant,
• 1:21:51
  et a pris plusieurs facettes selon là où on l'utilise,
• 1:21:55
  comment on l'utilise,
• 1:21:56
  et depuis le début d'année avec d'autres outils comme Cloud Cowork et OpenClaw qui ont fait parler d'eux et qui ont poussé la...
• 1:22:03
  l'aspect agent d'une manière plus autonome et différente.
• 1:22:08
  Et voilà,
• 1:22:08
  on essaiera d'en parler un peu pour que vous compreniez et voyez aussi si ça a du sens pour vous ou pas.
• 1:22:14
  Et en tout cas,
• 1:22:15
  donner un petit peu les tendances de vers quoi on se dirige côté IA,
• 1:22:20
  puisque l'agentique a quand même marqué un tournant dans l'IA générative,
• 1:22:24
  qui elle-même est déjà un bouleversement tout court.
• 1:22:28
  Donc voilà.
• 1:22:30
  Merci beaucoup Lulu.
• 1:22:32
  pour toutes tes explications et nous avoir clarifié tout ce sujet.
• 1:22:40
  Est-ce que,
• 1:22:40
  je ne sais pas,
• 1:22:41
  si tu as quelque chose à ajouter avant qu'on se retrouve justement la semaine prochaine ?
• 1:22:45
  Peut-être juste une petite,
• 1:22:49
  enfin voilà,
• 1:22:50
  une dernière conclusion,
• 1:22:52
  c'est aujourd'hui,
• 1:22:55
  le vrai enjeu,
• 1:22:55
  ce n'est pas de se demander si l'intelligence artificielle est intelligente.
• 1:23:01
  Et pour faire le point avec ce que tu dis,
• 1:23:03
  c'est qu'est-ce qu'on accepte de lui déléguer et où est-ce qu'on la met dans nos process,
• 1:23:07
  dans nos vies,
• 1:23:09
  et surtout avec quelle garantie ?
• 1:23:10
  Pose-nous les bonnes questions.
• 1:23:12
  On a vu avec cet épisode que concrètement,
• 1:23:15
  on ne sait pas.
• 1:23:16
  Mais on arrive à comprendre un peu plus comment s'est construit,
• 1:23:20
  ce que ça implique.
• 1:23:24
  Et oui,
• 1:23:24
  à garder en tête qu'elle n'est pas fiable par essence,
• 1:23:28
  qu'elle a...
• 1:23:29
  peut être très utile dans plein de situations,
• 1:23:32
  mais qu'il ne faut jamais se reposer entièrement à elle et continuer à utiliser nos cerveaux à nous et nos neurones à nous pour s'en servir d'une bonne manière et s'en servir aux bons endroits aussi.
• 1:23:42
  Merci Lulu.
• 1:23:44
  Écoutez,
• 1:23:44
  je vous souhaite à tous et à toutes une bonne journée ou bonne fin de journée selon quand vous nous écouterez.
• 1:23:49
  N'hésitez pas à venir nous contacter et discuter avec nous sur LinkedIn,
• 1:23:53
  sur Insta ou directement par mail.
• 1:23:56
  Si vous voulez nous partager des choses,
• 1:23:57
  domaine
• 1:23:58
  aussi des idées de sujets que vous aimeriez voir abordés,
• 1:24:02
  ou si vous avez des questions par rapport aux épisodes qu'on a déjà fait,
• 1:24:05
  aux sujets qu'on a déjà traités,
• 1:24:06
  on sera ravis d'y répondre dans nos prochains épisodes.
• 1:24:09
  Merci à tous et à toutes,
• 1:24:11
  et à la semaine prochaine pour le dernier clic.