Latest / À propos / Mythos, l’IA d’Anthropic qui effraie les dirigeants (et enchante les criminels) - « À propos », le podcast du Soir

Transcript

Mythos, l’IA d’Anthropic qui effraie les dirigeants (et enchante les criminels) - « À propos », le podcast du Soir · À propos

• 0:00
  Le soir,
• 0:04
  repensons notre quotidien.
• 0:09
  Bonjour, vous écoutez À propos,
• 0:11
  le podcast d'actualité du journal Le Soir.
• 0:14
  Tous les jours,
• 0:14
  c'est l'expertise de notre rédaction dans vos
• 0:17
  oreilles. C'est un modèle d'intelligence artificielle qui fait trembler le monde entier,
• 0:28
  qui pourrait être une arme
• 0:30
  ultra dangereuse entre de mauvaises mains.
• 0:32
  On vous dit tout ce qu'il faut savoir sur Mythos
• 0:35
  dans un instant.
• 0:36
  Je m'appelle Pierre Fagnard
• 0:38
  à propos.
• 0:39
  Voici l'actualité comme vous l'entendez,
• 0:42
  grand angle
• 0:43
  dans le secteur de la cybersécurité,
• 0:45
  il n'y en a plus que pour lui,
• 0:47
  c'est Mythos,
• 0:48
  le dernier modèle d'intelligence artificielle développé par la société américaine Anthropic.
• 0:53
  Le modèle surpuissant serait capable de déceler des failles inconnues dans des logiciels,
• 0:58
  mais qui peut déceler des failles peut aussi les exploiter.
• 1:01
  Et c'est ça qui fait peur aux gouvernements,
• 1:03
  aux organismes bancaires ou aux organismes de défense.
• 1:06
  On en parle avec Philippe Laloux du pôle économie.
• 1:09
  Bonjour Philippe,
• 1:09
  bonjour Pierre.
• 1:10
  Je le
• 1:10
  disais en lancement,
• 1:10
  on va revenir en détail sur un nouveau modèle d'intelligence artificielle,
• 1:14
  Mythos, un modèle qui effraie de très nombreuses personnes et on va expliquer
• 1:18
  pourquoi. D'abord,
• 1:19
  Mythos, c'est donc le dernier modèle développé par Anthropic,
• 1:22
  qui fait partie
• 1:24
  d'un système d'intelligence artificielle plus large qui s'appelle Claude.
• 1:27
  Claude, c'est un peu à Anthropic,
• 1:29
  ce que
• 1:30
  ChatGPT est à OpenAI
• 1:31
  ou ce que
• 1:32
  Gemini est à Google.
• 1:34
  Et donc mythos
• 1:34
  par rapport à tout ça,
• 1:35
  c'est quoi?
• 1:35
  ? Je
• 1:36
  suis un petit peu perdu.
• 1:37
  Oui, ça fait beaucoup de mots compliqués en 2 phrases,
• 1:39
  je comprends.
• 1:40
  Alors, on va essayer de ne pas être trop technique pour pas perdre
• 1:43
  nos auditeurs.
• 1:44
  Mais si je devais faire une comparaison un peu grossière,
• 1:46
  imaginez que
• 1:47
  en fait
• 1:48
  anthropique. OpenAI,
• 1:51
  Google, tout ça c'est un peu les des marques de voitures en fait.
• 1:55
  D'accord. Et puis alors,
• 1:57
  vous avez Claude,
• 1:58
  Gemini, Chat GPT,
• 2:01
  tout ça ce sont en fait
• 2:02
  des modèles.
• 2:03
  Ouais, d'accord.
• 2:04
  Et puis après,
• 2:04
  dans ces modèles,
• 2:05
  il y a le moteur
• 2:07
  et Mythos,
• 2:08
  c'est le moteur.
• 2:09
  Comme GPT 5
• 2:10
  ou Opus,
• 2:11
  et cetera,.
• 2:11
  sont des
• 2:12
  moteurs. Et donc,
• 2:13
  en fait,
• 2:13
  ce qui s'est passé ici
• 2:16
  avec Mythos,
• 2:16
  c'est en comparant la vitesse d'évolution de l'intelligence
• 2:18
  artificielle par rapport à l'évolution de la voiture.
• 2:20
  On est passé du
• 2:22
  en quelques mois
• 2:23
  du moteur diesel d'une vieille Peugeot 504
• 2:26
  à une Ferrari,
• 2:27
  à une Ferrari.
• 2:28
  Ça veut dire que c'est un moteur,
• 2:29
  un modèle donc qui
• 2:30
  est plus puissant que les précédents.
• 2:32
  Il est capable de faire quoi ?
• 2:34
  Voilà, quand on dit plus puissant,
• 2:35
  donc ça veut dire que il y a une puissance de calcul
• 2:37
  qui est absolument
• 2:38
  époustouflant, donc capable de raisonner extrêmement rapidement.
• 2:42
  Il y a
• 2:44
  333 caractéristiques majeures
• 2:46
  pour Mythos.
• 2:47
  C'est justement sa capacité de
• 2:49
  raisonnement, de raisonnement académique même,
• 2:52
  sa capacité aussi de d'écrire du code
• 2:55
  informatique. Et la 3e,
• 2:56
  et c'est précisément celle-là qui inquiète et qui fait paniquer
• 2:59
  un peu les chancelleries,
• 3:01
  comme on dit,
• 3:02
  c'est ses capacités en cybersécurité.
• 3:04
  Donc ça veut dire quoi ?
• 3:05
  Ça veut dire cette capacité à repérer des failles
• 3:07
  de sécurité dans des systèmes
• 3:09
  informatiques. Et donc,
• 3:10
  à partir du moment où on peut les repérer,
• 3:12
  mais aussi de les exploiter pour
• 3:13
  attaquer des systèmes informatiques,
• 3:15
  par exemple
• 3:16
  le système informatique des banques ou de la défense.
• 3:19
  C'est ça.
• 3:19
  Début avril,
• 3:20
  il y a eu des fuites qui ont fait que le
• 3:22
  langage, le modèle est devenu disponible.
• 3:26
  Et en fait,
• 3:26
  à ce moment-là,
• 3:27
  les experts se
• 3:28
  sont rendus compte qu'il y
• 3:29
  avait de quoi donner des sueurs froides à tous les experts en cybersécurité.
• 3:34
  Le début de l'histoire est même très particulier puisque
• 3:36
  Anthropic se targue toujours d'avoir des systèmes hyper sécurisés.
• 3:38
  Et ici,
• 3:40
  il n'y a même pas eu de fuite de données ou quoi que ce soit.
• 3:42
  C'est une bête erreur de configuration,
• 3:44
  une erreur humaine en fait,
• 3:44
  qui a eu pour effet de
• 3:46
  jeter dans la nature plus de 3000 fichiers.
• 3:49
  Et ces fichiers,
• 3:49
  c'est quoi ?
• 3:50
  C'est un peu le bac à sable dans lequel on expérimente,
• 3:52
  un peu le laboratoire où on
• 3:54
  expérimentait ce modèle
• 3:58
  Mythos. Et là,
• 3:59
  il y a eu un retour de flamme absolument
• 4:03
  fulgurant. C'est que
• 4:05
  plusieurs experts ont dit,
• 4:06
  mais qu'est-ce que vous avez fait
• 4:08
  là ? Ce que vous mettez,
• 4:09
  ce que vous apprêtez à mettre entre les mains du grand public
• 4:12
  est vraiment
• 4:13
  extrêmement puissant et donc potentiellement
• 4:15
  dangereux. Et donc
• 4:16
  Anthropic a pris la mesure
• 4:18
  de cette menace
• 4:20
  et a décidé de ne
• 4:21
  pas sortir.
• 4:22
  Donc ça c'est important quand même.
• 4:23
  Là, ce modèle mythos
• 4:24
  n'est pas entre les mains du grand public.
• 4:26
  Oui, il n'est pas disponible pour tout un chacun.
• 4:29
  Le modèle a été,
• 4:31
  entre guillemets,
• 4:32
  mis en pause.
• 4:33
  Anthropique a rassemblé plusieurs entreprises dans un espèce de
• 4:36
  groupe de travail pour faire quoi à ce moment-là ?
• 4:37
  Pour essayer de tester les failles et donc de trouver des
• 4:40
  solutions. En fait,
• 4:41
  la première chose qu'ils ont faite,
• 4:42
  c'est de prendre leur téléphone et appeler la Maison Blanche.
• 4:45
  D'abord le gouvernement américain.
• 4:46
  Donc c'est marrant parce que c'est vraiment une posture,
• 4:48
  on va en reparler
• 4:50
  de cette posture un peu paradoxale de dire
• 4:52
  attention, on a fait un truc
• 4:55
  incroyablement efficace.
• 4:56
  Donc c'est
• 4:56
  quand même presque du langage marketing,
• 4:58
  mais c'est tellement efficace qu'on se doit quand
• 5:00
  même notre conscience nous indique
• 5:02
  de prévenir les
• 5:03
  autorités et
• 5:04
  on va mettre en place un groupe de travail.
• 5:06
  Alors le groupe de travail c'est une cinquantaine d'entreprises.
• 5:08
  Alors c'est pas la PMI du coin.
• 5:09
  On retrouve
• 5:11
  Google, Nvidia,
• 5:12
  donc vraiment les toutes toutes grosses
• 5:14
  Apple, JP Morgan,
• 5:17
  donc des grandes banques,
• 5:18
  etc. Un
• 5:19
  groupe de travail pour tester la bête
• 5:21
  et voir dans quelle mesure
• 5:23
  elle est
• 5:25
  compatible avec les systèmes de sécurité actuels.
• 5:29
  Donc c'est toujours cette
• 5:30
  obsession chez Anthropic,
• 5:31
  c'est ce qu'on appelle l'alignement.
• 5:33
  Est Ce que le modèle que je
• 5:34
  mets en
• 5:36
  entre les mains du grand public
• 5:37
  est aligné
• 5:38
  avec nos connaissances et l'évolution de nos de
• 5:41
  nos institutions
• 5:42
  pour pouvoir
• 5:43
  toujours maîtriser le la bête?
• 5:44
  ? Ça
• 5:44
  vaut la peine ici de faire une petite incise justement sur ce qu'est anthropique.
• 5:49
  2 incises
• 5:50
  en fait.
• 5:51
  Avant toute chose,
• 5:52
  avant de voir ce que c'est,
• 5:53
  quelles sont les particularités d'Anthropic
• 5:55
  dans par rapport aux autres boîtes qui développent des intelligences artificielles ?
• 5:58
  Il y a le rapport d'Anthropic au gouvernement américain.
• 6:01
  Vous l'avez dit,
• 6:01
  là, le premier réflexe a été d'appeler directement la Maison Blanche.
• 6:05
  Pourtant, c'était pas les meilleurs amis Anthropic et Donald Trump,
• 6:08
  loin de là.
• 6:10
  C'est vraiment des conceptions très différentes qui traversent la Silicon
• 6:13
  Valley. Anthropic a toujours
• 6:17
  considéré qu'il fallait être
• 6:18
  extrêmement prudent.
• 6:19
  C'est plutôt une logique laboratoire en se
• 6:22
  disant on doit d'abord tout comprendre,
• 6:24
  tout maîtriser avant de lâcher le modèle entre les mains du grand public.
• 6:28
  Là où,
• 6:29
  souvenez-vous, ChatGPT du jour au lendemain a débarqué dans nos
• 6:32
  vies et on ne savait pas très bien où on allait.
• 6:34
  Et là,
• 6:35
  Sam Altman,
• 6:35
  le patron d'OpenAI,
• 6:36
  qui a donc
• 6:37
  développé ChatGPT,
• 6:38
  a vraiment une logique produit
• 6:40
  c'est vraiment l'inverse,
• 6:41
  on va dire,
• 6:42
  on va
• 6:43
  lancer, on va susciter
• 6:46
  un usage
• 6:47
  massif et
• 6:48
  puis en fonction des retours,
• 6:49
  on va prendre notre clé de 8,
• 6:50
  on va adapter et corriger
• 6:53
  et faire en sorte qu'il reste
• 6:56
  sécurisé. C'est vraiment
• 6:58
  approche produit,
• 6:59
  approche laboratoire très prudente et c'est ce qui avait amené donc
• 7:03
  Anthropic à refuser
• 7:05
  l'appel du pied
• 7:07
  du Pentagone
• 7:08
  qui souhaitait utiliser
• 7:10
  Anthropique à des fins militaires
• 7:12
  et donc la
• 7:13
  posture éthique ou
• 7:14
  vraie conviction
• 7:16
  ne le sera pas.
• 7:18
  Anthropique avait refusé.
• 7:20
  Et pour la petite histoire,
• 7:22
  en fait,
• 7:22
  tout le monde savait très bien qu'Anthropic était
• 7:24
  déjà utilisé à des fins militaires puisque
• 7:27
  le l'enlèvement un peu rocambolesque de Maduro
• 7:30
  au Venezuela
• 7:32
  a s'est
• 7:34
  appuyé notamment sur des technologies d'IA
• 7:36
  développées par Anthropic.
• 7:37
  Idem pour l'opération militaire.
• 7:40
  En cours en Iran
• 7:41
  où là aussi des technologies anthropiques sont utilisées.
• 7:43
  Donc il y a cette double posture
• 7:46
  qui est un peu paradoxale.
• 7:47
  Ouais, mais même dans le rapport à l'i a en tant que telle,
• 7:51
  Anthropic, c'est une boîte particulière.
• 7:52
  On a parfois l'impression que
• 7:54
  il ne considère pas l'i a
• 7:56
  de la même façon que,
• 7:58
  par exemple,
• 7:58
  OpenAI considère l'i a.
• 8:00
  Oui, tout à fait.
• 8:01
  En fait,
• 8:01
  il y a quand même une base commune,
• 8:02
  c'est que tous les deux alertent sur les dangers
• 8:05
  de l'IA
• 8:06
  ou d'une IA non maîtrisée.
• 8:07
  Anthropique, c'est vrai qu'on peut se demander
• 8:09
  jusqu'à quel point il n'y a pas un rapport un peu
• 8:12
  anthropomorphique avec ces systèmes.
• 8:15
  Alors anthropomorphique,
• 8:16
  ça veut dire que l'on considère l'autre comme un
• 8:17
  être humain,
• 8:18
  on lui donne des caractéristiques humaines.
• 8:20
  Alors non,
• 8:22
  attention, le patron d'Anthropique
• 8:24
  n'est pas
• 8:25
  stupide. Il sait très bien que
• 8:28
  Claude, c'est marrant d'ailleurs,
• 8:29
  Claude doit
• 8:30
  avoir donné.
• 8:30
  donner un nom
• 8:31
  humain c'est quand
• 8:32
  même pas anodin
• 8:33
  alors il ne considère pas Claude comme une
• 8:35
  personne en se disant tu as quelqu'un d'intelligent,
• 8:36
  sensible, etc.
• 8:39
  Mais ce qu'il dit
• 8:40
  c'est que
• 8:41
  des systèmes tels que ceux-là
• 8:43
  sont tellement puissants
• 8:44
  et vont
• 8:44
  tellement plus vite
• 8:46
  que nos
• 8:47
  institutions résonnent
• 8:49
  tellement plus vite
• 8:50
  qu'ils pourraient être capables d'occuper une
• 8:52
  place véritablement dans la société,
• 8:54
  de devenir un
• 8:55
  acteur public,
• 8:56
  un acteur
• 8:58
  politique, capable de développer des stratégies,
• 9:02
  capable aussi d'avoir des
• 9:03
  intentions, et donc
• 9:06
  des intentions qui ne sont pas
• 9:07
  nécessairement bienveillantes.
• 9:09
  D'où cette approche
• 9:10
  extrêmement prudente
• 9:13
  qui consiste toujours à aligner les modèles de langage
• 9:16
  avec une
• 9:17
  capacité à pouvoir les maîtriser.
• 9:19
  Là où Samatma doit être un techno-enthousiaste,
• 9:21
  on disait « on
• 9:23
  y va,
• 9:23
  puis on va voir ».
• 9:24
  Et ce rapport quasiment mystique a
• 9:27
  considéré ces machines en fait
• 9:31
  comme des entités potentiellement capables de
• 9:34
  réagir comme des
• 9:35
  humains et quand
• 9:36
  même extrêmement particulier.
• 9:39
  Et c'est ce qui leur rend,
• 9:40
  d'un point de vue marketing,
• 9:41
  très séduisant
• 9:43
  quand ils
• 9:43
  ont refusé,
• 9:44
  quand ils
• 9:44
  ont adopté cette posture
• 9:47
  anti-guerre vis-à-vis du gouvernement américain.
• 9:49
  Il y a
• 9:49
  eu une vague de désabonnement chez ChatGPT absolument
• 9:53
  inouïe au profit de
• 9:56
  Claude et d'Anthropic.
• 9:58
  Voilà comme un peu le chevalier blanc de l'éthique.
• 10:01
  Malgré tout,
• 10:02
  ça pose
• 10:03
  plein de questions d'avoir ce type de rapport avec une machine pose plein de questions.
• 10:06
  Ici, il y a aussi une
• 10:08
  dimension presque géographique dans cette dans l'histoire,
• 10:10
  ici autour de Mythos,
• 10:12
  parce que là,
• 10:13
  il y a plus ou moins que des
• 10:14
  entreprises américaines qui sont
• 10:15
  intégrées aux réflexions autour de Mythos,
• 10:17
  autour des failles,
• 10:18
  autour de comment est ce qu'on peut combattre ces failles.
• 10:20
  Ça veut dire que
• 10:21
  l'Union européenne va.
• 10:22
  encore passer à côté d'un train lié à l'intelligence artificielle ?
• 10:25
  On est définitivement
• 10:27
  largué. La première leçon à retenir de
• 10:31
  ceci, elle est déjà,
• 10:33
  si on prend une vue un peu hélicoptère,
• 10:35
  c'est quand
• 10:35
  même de
• 10:36
  constater une fois de plus
• 10:38
  que l'évolution technologique n'est absolument pas linéaire,
• 10:41
  elle est exponentielle.
• 10:42
  Que l'Europe,
• 10:43
  donc, si on se ramène à l'Europe,
• 10:45
  on est déjà à peine dans le train,
• 10:47
  et ce train
• 10:48
  est toujours en train d'accélérer.
• 10:49
  Oui, là,
• 10:49
  visiblement, ils n'ont même pas l'intention de nous inviter pour discuter des dangers
• 10:52
  Et que ça pourrait représenter,
• 10:53
  mais on n'existe pas.
• 10:55
  Donc il
• 10:56
  y a aucune raison.
• 10:57
  Ils inviteraient qui
• 10:59
  pour être
• 11:00
  franc. Donc
• 11:02
  oui, c'est ça rappelle la nécessité de garder le cap si au niveau européen.
• 11:07
  En termes de régulation pour avoir des garde-fous.
• 11:10
  Et puis surtout,
• 11:10
  évidemment, de
• 11:12
  prendre le problème de souveraineté
• 11:14
  technologique et souveraineté numérique par
• 11:18
  le taureau par les cornes de sérieusement s'attaquer à ce souci,
• 11:22
  même si
• 11:23
  l'espoir de pouvoir rattraper l'avance technologique,
• 11:26
  qu'elle soit américaine ou chinoise,
• 11:28
  est quasiment nul.
• 11:29
  Mais il y a
• 11:31
  malgré tout une possibilité
• 11:33
  de développer des écosystèmes
• 11:36
  où. on garde la main sur
• 11:39
  les intentions,
• 11:40
  sur les objectifs,
• 11:40
  la stratégie
• 11:42
  et l'usage finalement que l'on fait de ces outils.
• 11:44
  Merci beaucoup Philippe.
• 11:45
  Merci Pierre.
• 11:50
  À propos,
• 11:50
  c'est fini pour aujourd'hui,
• 11:52
  mais on revient demain matin.
• 11:53
  Merci de votre écoute.
• 11:54
  Si vous en voulez encore,
• 11:56
  tous nos podcasts sont disponibles dans l'application du soir.
• 11:59
  Rendez-vous dans le store de votre smartphone
• 12:01
  ou de votre tablette pour la télécharger.
• 12:04
  À demain.