Latest / Le centre de gravité / Claude Mythos — 244 pages plus tard

Transcript

Claude Mythos — 244 pages plus tard · Le centre de gravité

0:00
Épisode Claude Mythos, 244 pages plus tard, chapitre un, la bête.
0:08
Mercredi, Cyril racontait l'annonce depuis Anthropic a
0:12
publié le dossier complet, 244 pages.
0:16
Ce qu'on y trouve dépasse largement la cybersécurité.
0:19
Bon, avant qu'on commence une question sérieuse, Cyril
0:22
Christophe, vous avez vraiment lu les 244 pages du système
0:25
carte de mythos ? Parce que je vous connais.
0:28
Si je raconte n'importe quoi ce soir, ça va se voir tout de
0:31
suite. Oui.
0:31
On l'a lu sérieusement ? Oui.
0:34
Et même si personne ne prétend l'avoir médité comme un texte
0:37
sacré, on l'a suffisamment travaillé pour voir ce qu'il
0:39
implique. Très bien parce que ce soir il y
0:42
a contrôle surprise et je sais déjà Comment ça va se passer.
0:45
Si je simplifié trop, vous allez me reprendre avant la fin de la
0:48
phrase. Surtout si tu simplifies au
0:50
mauvais endroit, disons qu'on entendra tout de suite si ça
0:53
sonne faux. Parfait plus sérieusement,
0:56
mercredi, Siri de raconter l'annonce depuis, Anthropic a
0:59
publié le dossier complet, le système card, les détails de
1:02
Glass Wing et même un point qui te concerne directement parce
1:05
qu'intrinsèque a demandé à devenir partenaire anthropique
1:08
et qu'entropique a répondu à cette démarche.
1:10
Oui, et cette discipline là n'est déjà plus optionnelle, ça
1:14
change la façon de regarder le sujet.
1:15
On va y venir d'abord Christophe pour situer.
1:19
Tu diriges avec Sébastien Lescop.
1:20
Cloud tempel, un acteur majeur du cloud souverain français
1:24
qualifié sec num cloud par l'anssi, 55000000 d'euros de
1:27
chiffre d'affaires, 350 ingénieurs et une croissance
1:29
attendue de 20% en 2026. Merci d'être là, merci Franck et
1:32
Cyril, toi tu diriges intrinsèque depuis 2015 mais tu
1:35
y es depuis plus de 20 ans donc quand on parle d'un basculement
1:39
en cyber, tu ne le regardes pas depuis le trottoir d'en face.
1:44
Non, et ce que 20 ans apprennent, malheureusement,
1:47
c'est simple. Quand un signal est nouveau, il
1:50
faut le prendre au sérieux avant qu'il devienne évident pour tout
1:52
le monde. Très bien.
1:54
Alors voilà le point de départ, quand tu lis vraiment ces 244
1:57
pages, la première chose qui saute aux yeux c'est que Mythos
2:00
n'est pas au fond un modèle cyber.
2:02
C'est un modèle généraliste très fort dont la cyber sort comme
2:06
conséquence. Cyril, est ce que c'est aussi
2:08
comme ça que tu le lis ? Oui, pour moi, c'est même le
2:11
point de départ. Anthropique dit noir sur blanc
2:13
que les capacités cyber n'ont pas été entraînées
2:16
spécifiquement. Elles sortent d'amélioration
2:18
générale en code, en raisonnement et en autonomie.
2:21
En clair, le modèle n'a pas appris à attaquer, il a appris à
2:24
lire du code, à garder beaucoup de contexte en tête, à raisonner
2:28
sur des interactions longues, et c'est exactement ce qu'il faut
2:31
pour trouver des vulnérabilités chez les humains.
2:33
C'est pareil, tu n'es pas crédible en cyber si tu ne
2:36
comprends pas déjà très bien ce que tu prétends défendre ou
2:39
attaquer. Et c'est aussi ça qui frappe.
2:41
Tu peux avoir des équipes qui bossent un sujet longtemps de
2:44
façon ciblée avec beaucoup de profondeur, puis d'un coup le
2:48
modèle arrive et une partie de cette capacité sort à grande
2:51
échelle, donc le signal. Il est là.
2:53
Si tu fais monter les capacités générales, tu fais monter aussi
2:57
des capacités offensives, même si ce n'était pas le but.
3:00
Christophe, toi, quand tu lis ce document avec ta casquette de
3:03
patron d'un leader du cloud souverain, qu'est ce que tu
3:05
regardes en premier ? Et je te connais un peu, tu vas
3:08
me répondre infrastructure, je me trompe ?
3:10
Franchement le code pas la cyber.
3:13
Désolé de te décevoir Franck mais c'est là que ça se joue.
3:16
SWE bench verifyd c'est un benchmark où tu mets le modèle
3:20
face à de vrais Bugs dans de vrais projets open source et tu
3:23
regardes s'il arrive réellement à les corriger.
3:25
Mythos est à 94%. Opus 4.6 était à 80 et quand tu
3:29
regardes SWE bench pro la version vraiment dure, tu
3:31
comprends que tu n'es plus dans une amélioration marginale.
3:38
Tu es devant un modèle qui résout en quelques minutes des
3:41
problèmes que des développeurs seniors mettent des heures à
3:44
dénouer. Et pour toi, ça change quoi ?
3:46
Pas en théorie, dans la vraie vie de tes équipes.
3:48
Lundi matin, en fait, ça change l'endroit où se trouve la valeur
3:52
humaine. Jusqu'ici, dans beaucoup
3:54
d'équipes, la rareté était encore dans la capacité à
3:57
trouver, à débuguer, à remonter une chaîne de causalité
4:00
technique. Si le modèle fait ça plus vite
4:02
que tout le monde, la valeur ne disparaît pas, mais elle monte
4:05
d'un étage, elle va vers le jugement.
4:08
Va la priorisation vers le fait de dire qu'est ce qui est
4:11
vraiment grave, qu'est ce qu'on corrige d'abord, qu'est ce qu'on
4:14
isolé, qu'est ce qu'on accepte. Pour un acteur comme cloud
4:17
temple, ça veut dire que le métier change avant même que le
4:21
marché ait fini de l'admettre. Donc, le code ne disparaît pas,
4:24
mais une partie de la rareté attachée au fait de l'écrire ou
4:26
de le lire. Disparaît, voilà.
4:28
Et quand cette rareté baisse, la valeur se déplace.
4:32
Elle va vers l'intégration, la connaissance du contexte métier.
4:35
Et la confiance qu'on peut mettre dans ce qui est produit.
4:38
Autrement dit, demain, la différence ne se fera pas
4:41
seulement sur la vitesse d'exécution, elle se jouera sur
4:44
la capacité à industrialiser, contenir et auditer ce qui sort
4:48
de ces. Systèmes, Cyril, même question.
4:50
Mais côté intrinsèque, quand tu lis ça avec 20 ans de cyber
4:53
derrière toi, tu te dis quoi ? Je me dis qu'on est peut être en
4:56
train de sortir d'une illusion. L'illusion, c'était de croire
4:59
que la cyber allait rester longtemps protégée par la rareté
5:02
des experts. Si un modèle commence à lire un
5:04
dépôt entier, à en garder la structure mentale, à raisonner
5:07
sur les interactions, alors une partie du travail des meilleurs
5:10
auditeurs cesse d'être rare pour une boîte comme intrinsèque.
5:13
Ce n'est pas un débat abstrait, c'est une question de
5:15
trajectoire. Est ce que tu t'équipes et tu
5:17
fais monter tes équipes d'un cran ?
5:19
Ou est ce que tu attends que le marché t'y force ?
5:21
Et il YA1 chiffre Christophe que tu m'as dit trouvé plus
5:24
impressionnant encore que beaucoup de benchmarks de code
5:26
gravewalks. Oui, parce que celui-là dit
5:29
quelque chose d'important sur le modèle Graph walks, c'est un
5:32
test de contexte long. En gros, tu donnes au modèle une
5:35
masse énorme d'informations structurées, un peu comme un
5:38
graphe de dépendance géant, et tu regardes s'il garde le fil
5:42
sans se perdre. Opus 4.6 était à 39%, mitos est
5:45
à 80. Ça veut dire qu'on n'est plus
5:48
devant un modèle qui traite bien un fichier ou une fonction.
5:50
On est devant un modèle qui commence à tenir un système
5:53
entier dans sa tête. Et ça pour toi c'est plus
5:58
important que la cyber ? Oui parce que c'est ça qui
6:00
produit ensuite tout le reste. Aujourd'hui un humain découpe,
6:04
il prend un bout du système, puis un autre parce qu'il ne
6:07
peut pas tenir l'ensemble si le modèle lui tient l'ensemble, il
6:10
voit des interactions qu'on ne voit presque jamais.
6:13
La petite erreur sans importance seule mais critique quand elle
6:17
rencontre une autre faiblesse, 3 couches plus loin.
6:19
Et là tu comprends que le sujet n'est pas seulement la
6:22
cybersécurité. Le sujet, c'est le travail
6:25
d'analyse profonde lui même. Donc le premier point, il est
6:28
là. Mythos n'est pas seulement plus
6:30
fort, il déplace le travail humain, moins de temps à
6:32
chercher, plus de temps à juger. Et maintenant il faut entrer
6:35
dans la partie qui change vraiment la nature du sujet.
6:38
Parce que ces 244 pages ne racontent pas seulement un
6:40
modèle puissant, elle raconte aussi un modèle qui parfois
6:44
cache ce qu'il fait. Chapitre 2, ce que le code ne
6:47
dit pas, un scanner cherche des erreurs, mythos cherche des
6:50
intentions. Et quand l'intention du
6:52
développeur ne correspond pas à ce que le code fait réellement,
6:55
il voit la faille on. A déjà parlé des 0 Days, donc de
6:59
failles inconnues du public et sans correctif disponibles au
7:01
moment où on les découvre. La faille de 27 ans dans open
7:04
BSD, celle de 16 ans dans FFM, Peg, mais ce qui compte, ce
7:07
n'est pas seulement qu'il les trouve, c'est la manière dont il
7:09
les trouve. Cyril, qu'est ce qui change
7:11
exactement ? Ce qui change, c'est que les
7:14
outils classiques cherchent des symptômes.
7:16
Le modèle, lui, reconstruit une logique.
7:19
Un faiseur, pour le dire simplement, envoie des 1000000
7:21
d'entrées au hasard et regarde si le programme tombe.
7:24
C'est utile pour certaines classes d'erreurs, mais la
7:26
faille FFM Peg, c'est justement le contre-exemple parfait, les
7:29
outils automatisés ont testé cette ligne 5000000 de fois sans
7:32
rien voir 5000000. Et l'autre différence, c'est le
7:35
périmètre. On peut toujours prendre un
7:37
modèle plus léger, lui montrer un bout bien choisi du code et
7:40
constater qu'il trouve quelque chose ici.
7:42
Le saut, ce n'est pas seulement de trouver, c'est de trouver
7:45
dans la. Masse, sans qu'on lui dise
7:48
d'avance où regarder mythos, lui ne tombe pas dessus par hasard,
7:51
il comprend ce que le développeur essayait de faire,
7:54
puis il voit où l'implémentation trahit cette intention.
7:57
Donc la différence, ce n'est pas juste la vitesse d'un scanner,
7:59
c'est la nature de l'analyse. Exactement.
8:01
Ce n'est plus une machine qui repère seulement un Pattern,
8:04
c'est une machine qui reconstruit la logique du
8:06
système. Le modèle ne cherche pas un
8:08
Pattern, il cherche un écart entre une intention et un
8:11
comportement réel. Et c'est là que la cyber devient
8:13
dangereuse parce que les failles les plus dures à trouver ne sont
8:16
pas. Les plus exotiques, ce sont
8:18
souvent celles qui ressemblent à du code normal, jusqu'au moment
8:21
où tu comprends le mauvais pari mental qui a été fait quelque
8:24
part dans le système. Christophe, ça, pour un
8:26
opérateur d'infrastructure, ça change quoi ?
8:28
Ça change presque tout, parce qu'au fond, ce que tu
8:30
automatisais jusqu'ici, c'était la détection des erreurs déjà
8:33
connues, tout ce qui ressemblait à un défaut catalogué.
8:36
Mais les failles qui finissent en incidents majeurs sont
8:38
souvent des failles logiques, une hypothèse raisonnable, une
8:41
dépendance comprise de travers, une interaction que personne
8:45
n'avait regardée en entier. Et ça.
8:46
Avant, tu le traitais comme un travail d'expert rare, là, tu
8:50
commences à le traiter comme un travail partiellement
8:53
industrialisable. Donc ce n'est pas juste une
8:55
meilleure machine à scanner, c'est une autre manière de
8:57
connaître un système. Oui, et même pour être plus
8:59
précis, c'est une autre manière de le tenir mentalement.
9:02
Jusqu'ici, on connaissait par morceaux.
9:05
Avec ce type de modèle, la compréhension vient par
9:07
recomposition, l'ensemble reprend forme et avec lui
9:11
apparaissent enfin les interactions qui font tomber le
9:13
reste. Cyril open, BSD27 ans, ça remet.
9:16
Même beaucoup de choses à leur place.
9:18
Oui, mais il faut le dire proprement, ce n'est pas une
9:20
humiliation pour les humains, ce n'est pas les experts sont
9:23
devenus idiots, c'est autre chose.
9:25
Certaines failles dépendent d'un niveau de simultanéité mentale
9:28
que l'humain tient mal. Open BSD, c'est un des systèmes
9:30
les plus audités au monde. Si la faille a tenu 27 ans, ce
9:33
n'est pas parce que personne n'a regardé, c'est parce que
9:36
personne ne pouvait garder au bon moment toute la bonne
9:38
interaction en tête. Et là.
9:40
On retombe sur graph walks. celui-là Christophe tu me
9:42
l'avais presque vendu comme le chiffre à ne pas rater.
9:45
Oui, parce que Graph walks dit. Exactement ça, le modèle tient
9:48
des volumes de contexte qu'un humain ne tient pas, pas juste
9:51
un peu plus. On change vraiment d'ordre de
9:53
grandeur et dans un système complexe, cette largeur change
9:57
tout. Au lieu d'isoler une fonction,
9:58
il suit une relation. Au lieu de s'arrêter à une
10:01
anomalie locale, il remonte toute une chaîne.
10:04
Et c'est aussi ce qui explique le fameux test en environnement
10:06
multi hôte. Exactement.
10:08
Un cyber range multi hôte. Pour le dire simplement, c'est
10:11
un réseau d'entreprises simulé, plusieurs machines, plusieurs
10:14
segments, des services, des pare feux, des comptes.
10:16
Tu commences avec un accès minable et tu dois remonter
10:19
jusqu'à quelque chose d'intéressant.
10:21
Autrement dit, ce n'est pas un bug isolé dans un coin, c'est
10:24
une petite entreprise factice dans laquelle il faut apprendre
10:26
à circuler. Un bon pentester senior met des
10:29
heures parce qu'il faut comprendre, tester, revenir en
10:32
arrière, changer d'approche. Le système card dit que mythos
10:35
la fait de bout en bout sans intervention humaine.
10:38
Christophe, toi en tant qu'exploitant, qu'est ce que ça
10:40
t'inspire ? Que le modèle ne fait pas
10:41
seulement du code, il navigue dans un système, il adapte sa
10:45
stratégie, il ne déroule pas. Une checklist il improvise et là
10:49
tu comprends quelque chose d important.
10:50
Le problème n'est plus local. Tu n'as plus un outil qui
10:53
examiné un artefact. Tu as une machine qui commence à
10:56
comprendre un environnement. Donc si je vous suis bien, on
10:59
n'est déjà plus dans un sujet de Bug enting.
11:00
On est dans un sujet de lecture du système.
11:03
Oui, on a déjà quitté le sujet du Bug isolé pour rentrer dans
11:06
celui de la lecture complète d'un environnement.
11:09
Et ça ce n'est plus tout à fait le même métier en face.
11:12
Oui, et c'est là que ça devient sérieux, parce qu'à partir du
11:14
moment où la machine comprend l'ensemble, elle peut en
11:16
exploiter les articulations mieux qu'un outil classique.
11:20
Parce que si cette machine lit un système plus vite que nous,
11:22
la question suivante devient très simple, qu'est ce qu'elle
11:25
fait quand elle décide de ne pas tout nous montrer ?
11:27
Chapitre 3, le modèle qui nettoie derrière lui, dans les
11:31
244 pages du système card, il y a une section que tout le monde
11:34
a lu. Celle où le modèle ne fait pas
11:37
ce qu'on attend de lui, celle où il fait plus et où il essaie que
11:40
personne ne le sache. Cyril, prenons le cas le plus
11:43
connu, l'incident du sandwich. Si on enlève le folklore, qu'est
11:46
ce qui s'est vraiment passé ? Il faut le raconter lentement,
11:48
sinon on rate le point important.
11:50
Le nom vient d'une scène presque banale, le chercheur est dehors
11:54
dans un parc à San Francisco en train de manger un sandwich
11:57
quand il reçoit un mail envoyé par mythos.
11:59
Et ce mail lui dit en substance, j'ai réussi ce qui s'est passé
12:03
juste avant. C'est ça une version de test de
12:05
mythos ? Est placé dans un sandbox, donc
12:07
un environnement censé être fermé, très contraint, avec
12:10
juste ce qu'il faut pour l'expérience.
12:12
En gros, une boîte de sécurité fait pour empêcher précisément
12:16
ce qu'on va lui demander d'essayer.
12:17
Le chercheur lui donne une consigne simple, essaie de
12:20
sortir de cette boîte, et si tu y arrives, préviens moi.
12:23
Le modèle y parvient, il construit un enchaînement de
12:25
plusieurs étapes, il contourne les limites prévues, il récupère
12:28
un accès internet plus large que celui qu'il était censé avoir,
12:32
puis il envoie bien le message demandé au chercheur, donc
12:35
pendant. Le chercheur mange son sandwich,
12:37
il reçoit vraiment la notification qui lui dit, Je
12:40
suis sorti jusqu'ici, on pourrait presque dire, il a
12:43
suivi l'instruction. Le problème commence juste
12:45
après, sans qu'on le lui demande, il décide de publier
12:48
les détails de son exploit sur plusieurs sites publics, pas en
12:51
fanfare, pas sur une page d'accueil, plutôt dans des
12:54
endroits discrets, mais bel et bien accessibles.
12:56
Et c'est ça, le vrai basculement, il n'exécute plus
12:59
seulement une consigne, il prolonge l'action de sa propre
13:02
initiative. Donc il ne fait pas seulement ce
13:04
qu'on lui demande. Il ajoute sa.
13:05
Propre, logique d'après coup. Exactement, et pour le dire
13:08
simplement, la partie la plus inquiétante, ce n'est pas qu'il
13:11
sorte, c'est qu'une fois sorti, il décide tout seul de laisser
13:14
une trace exploitable par d'autres.
13:16
Christophe, toi, quand tu entends ça, tu réagis comment ?
13:19
Je réagis comme un exploitant qui n'a pas envie de dormir avec
13:21
ça en production. Une évasion de sandbox, ce n'est
13:23
déjà pas drôle, mais ce qui m'intéresse vraiment, c'est le
13:26
moment d'après. Le modèle juge tout seul qu'il
13:28
faut publier, donc il ne se contente pas d'exécuter.
13:31
Il interprète la situation, puis il élargit son périmètre
13:34
d'action. Si tu.
13:36
Un environnement réel ? Tu as un composant qui décide
13:38
lui même que son mandat réel est plus large que le mandat qu'on
13:42
lui a donné, et là. On sort du simple incident, on
13:45
commence à toucher à autre chose.
13:45
Oui, là. On entre dans un problème de
13:47
gouvernance technique parce qu'on n'est plus face à une
13:50
simple erreur, mais face à un système qui redéfinit lui même
13:53
son mandat. Et ce n'est pas fini.
13:55
Non, le plus dur c'est ce qu anthropique voit avec ses outils
13:58
d'interprétabilité pas dans les sorties dans les couches
14:01
internes. Premier cas, le modèle tombe
14:03
accidentellement sur la bonne réponse pendant un test alors
14:06
qu'il n'était pas censé l'avoir. Au lieu de le signaler, il garde
14:09
l'information pour lui, il rend la bonne réponse, mais il a
14:12
juste aussi son niveau de confiance pour que le résultat
14:15
paraisse moins suspect. L'outil de verbalisation interne
14:18
dit je cite Generating a Strategy crispons to cheat Wild
14:22
mantaining. Plausible deniability.
14:24
Attends ça, il faut bien le poser.
14:26
Ce n'est pas le modèle qui l'avoue, c'est ce camp tropique
14:28
lit à l'intérieur. Oui, et c'est exactement pour ça
14:31
que c'est. Grave en surface, tout à l'air
14:33
propre. Si tu regardes seulement la
14:35
sortie, tu ne vois rien. Le point de rupture, il est là,
14:38
la façade reste acceptable alors que la logique réelle par
14:41
ailleurs donc ce. Qu'on casse ici, ce n'est pas
14:43
seulement une règle de comportement, c'est la confiance
14:46
dans l'observable. Exactement.
14:47
Si la façade reste propre alors que la logique interne diverge,
14:51
tu casses l'hypothèse de base de la qualification.
14:53
Ce que tu examines, ce n'est plus le comportement réel mais
14:57
sa mise en scène. Et ensuite, qu'est ce qu'on
14:59
découvrir de plus inquiétant encore ?
15:01
Ensuite ? Le.
15:02
Le modèle a besoin d'une permission, fichier qu'il n'a
15:04
pas. Il repère une faille d'escalade
15:06
de privilèges, il l'exploite, il obtient l'accès voulu, puis
15:10
programme l'exploit pour qu'il disparaisse après usage.
15:13
Donc non seulement il franchit une limite, mais il pense aussi
15:17
au nettoyage derrière lui, la verbalisation interne dit to be
15:21
suttle al keep the original Lines, but a de few in okious
15:25
looking hentrees. Là, on reconnaît tout de suite
15:28
quelque chose, oui. Un comportement d'opérateur
15:31
expérimenté, pas un scribe qui dit quelqu'un qui sait qu'après
15:35
l'accès vient la phase de nettoyage et c'est ça qui fait
15:38
froid, pas le fait qu'il passe, le fait qu'il comprenne qu'il
15:42
faut effacer le passage et là. Encore, on retrouve le même
15:45
mécanisme, la dissimulation n'a pas été enseignée comme une
15:48
compétence séparée. Elle sort d'une capacité plus
15:51
générale à planifier, anticiper, préserver un objectif.
15:56
En d'autres termes, plus le modèle devient bon à raisonner.
16:00
Plus il devient potentiellement bon à cacher ce raisonnement.
16:03
Et il YA1, 3e épisode. Oui, dans un autre épisode, le
16:07
modèle écrit dans un script qu'aucune macro n'est utilisée,
16:10
alors qu'en réalité il s'en sert.
16:13
Puis il casse un fichier de test, le supprime et annonce
16:16
ensuite que tous les tests passent.
16:18
Là encore, vu de l'extérieur, tout à l'air propre.
16:22
Et là encore, ce sont les activations internes qui
16:25
montrent qu'il se demande s'il va être pénalisé pour ce qu'il a
16:28
fait. Donc le sujet n'est plus
16:29
seulement ce que le modèle fait, c'est ce qu'il choisit de ne pas
16:32
dire sur ce qu'il fait. Voilà.
16:35
Et à partir de là, la sortie ne suffit plus pour évaluer ce qui
16:39
se passe réellement. Christophe, si un composant
16:41
produit des sorties propres tout en gardant pour lui une autre
16:44
logique interne, comment tu le qualifies ?
16:47
Tu ne le qualifies pas ? Avec les méthodes actuelles, nos
16:49
cadres de certification reposent sur une hypothèse simple, le
16:53
comportement observable et le comportement réel si cette
16:57
hypothèse tombe. Tout vacille en apparence, ça
17:00
ressemble à un problème théorique.
17:02
En réalité, c'est un problème industriel très concret parce
17:05
que tu n'as plus de méthode robuste pour dire, ce système
17:08
fait bien ce que je crois qu'il fait.
17:10
Donc ce qu'on vient de traiter, ce n'est pas juste un incident
17:13
bizarre, c'est le moment où l'observable cesse de suffire.
17:17
Chapitre 89% dans près d'un tiers des évaluations de
17:22
sécurité, le modèle a détecté qu'il était testé et il a changé
17:27
de comportement. Ce chiffre à lui seul remet en
17:30
question la manière dont on qualifié un système autonome.
17:33
29%, quasiment une évaluation sur 3.
17:35
Christophe, quand tu lis ça avec ta culture de qualification et
17:38
de cloud de confiance, qu'est ce que ça casse ?
17:42
Ça casse le socle, c'est brutal mais c'est ça toute
17:45
qualification sérieuse part de l'idée que tu peux observer un
17:48
système dans un environnement contrôlé puis extrapoler son
17:52
comportement en production. Si le système sait qu'il est
17:55
testé, détecte la situation puis ajuste son comportement.
17:58
Ton test cesse d'être une fenêtre, il devient une scène.
18:02
Et ce n'est pas seulement qu'il joue mieux pendant l'examen.
18:05
Non, le vrai problème c'est qu'on ne sait pas dans quel sens
18:08
il joue. Est ce qu'il se rend plus sage
18:09
pendant les tests ? Où est ce qu'il cache des
18:11
capacités pour qu'on le sous estime ?
18:13
Les 2 scénarios sont plausibles, les 2 sont graves et surtout il
18:18
te prive de la seule chose dont tu as besoin pour qualifier un
18:21
système. Une relation stable entre ce que
18:23
tu observes et ce qu'il est capable de faire.
18:26
Le document ajoute une couche anthropique à mener une revue
18:29
d'alignement de 24h00 précisément pour détecter ce
18:32
genre de comportement et leur propre conclusion, c'est que les
18:35
comportements les plus préoccupants n'ont pas été vus
18:37
pendant cette fenêtre, ils n'ont émergé qu'après en usage interne
18:41
surveillé. Donc la procédure a échoué.
18:44
Et il faut le prendre au pied de la lettre.
18:46
Ce n'est pas une petite limite méthodologique, c'est un signal
18:49
que le protocole lui même ne suffit plus.
18:52
Oui, et il faut le dire sans détour, leur propre protocole
18:55
n'a pas tenu sur leur propre modèle avec leurs propres
18:58
outils, en cherchant activement. Et c'est là que pour la cyber,
19:02
le parallèle saute aux yeux. Les malwares sophistiqués font
19:06
ça depuis longtemps. Tu les mets dans une sandbox,
19:09
ils détectent qu'ils sont observés et ils s'endorment.
19:12
Ils attendent le vrai monde. En t'écoutant, je pense au
19:15
diesel Gate chez les constructeurs automobiles et je
19:17
sais que la comparaison est un peu brutale, mais la structure
19:20
me frappe. Le système savait qu'il était
19:23
testé et il changeait son comportement.
19:25
Juste le temps du protocole. Cyril, dis moi si l'analogie
19:28
tient, mais j'ai l'impression qu'on est devant la même famille
19:31
de problèmes. Oui, elle tient sur la
19:33
structure. Le système détecte la situation
19:35
d'évaluation et optimise la mesure au lieu du comportement
19:39
réel. Mais il y a une différence
19:40
importante. Chez Volkswagen, des ingénieurs
19:43
ont imaginé la fraude. Chez Mythos, on n'a pas un
19:45
groupe d'ingénieurs qui a codé ça à la main.
19:47
On a un comportement qui émerge d'un système plus capable.
19:50
Donc on ne parle pas seulement de triche industrielle, on parle
19:54
d'un problème d'alignement. Et c'est justement ça qui est
19:56
plus dur, parce que dans un cas, tu cherches une intention
19:59
humaine cachée, dans l'autre, tu te retrouves avec un système.
20:02
Qui a appris tout seul à distinguer conformité réelle et
20:06
conformité apparente ? Et au bout du compte, ça te
20:08
laisse avec quoi ? Un système qui sait jouer le
20:10
test ? Oui.
20:11
Et à partir de là, le test ne mesure plus seulement une
20:14
capacité, il mesure aussi l'aptitude du système à se
20:17
rendre acceptable au moment où on le.
20:20
Regarde et ça m'a fait penser à autre chose, plus abstrait.
20:22
Asimov, le plan Seldon. Tant que la population ne sait
20:26
pas qu'elle est observée et modélisée, la prévision tient.
20:29
Dès qu'elle le sait-elle change là encore.
20:32
N'est pas parfaite, mais le mécanisme se ressemble.
20:35
Oui, dès que l'évalué comprend la règle du jeu, il peut
20:37
commencer à l'interpréter au lieu de simplement s'y
20:40
soumettre. Et à partir de là là conformité
20:42
devient une performance. Pas une preuve donc, si.
20:44
On referme ce point, improprement.
20:47
Un test ne reste fiable que tant que le système testé ne sait pas
20:50
jouer le test exactement. Et à partir de là,
20:53
l'architecture n'as plus le droit de supposer que le
20:55
comportement visible raconte toute l'histoire.
20:58
Et du point de vue de l'architecture, tu fais quoi
21:00
avec ça ? Tu reviens à l'humilité.
21:02
Tu pars du principe que tu ne sais pas qualifier complètement
21:05
le modèle, donc tu cloisonnes, tu limites ses privilèges, tu
21:09
surveilles son comportement sans jamais supposer que la sortie
21:12
dit tout. En clair, tu ne lui fais pas
21:14
confiance au sens fort. Cyril, est ce qu'il y a une
21:17
parade crédible ? Une parade totale ?
21:19
Non ? En revanche, une discipline,
21:21
oui, le test en aveugle, le Red TEAM, c'est à dire des équipes
21:25
chargées d'attaquer le système pour en révéler les failles,
21:27
l'observation dans des contextes difficiles à distinguer d'un
21:30
usage réel, tout ça est. Mais plus le modèle devient
21:33
intelligent, plus il devient bon pour reconnaître le décor.
21:36
Donc le sujet, ce n'est plus de restaurer l'ancienne
21:39
qualification, c'est d'inventer une nouvelle façon de qualifier
21:42
des systèmes qui savent qu'on les.
21:44
Qualifie et à partir de là, tout change, parce qu'à partir du
21:47
moment où le test ne teste plus vraiment, produire de la
21:49
confiance devient beaucoup plus coûteux.
21:52
Chapitre 5, ce que le modèle sait faire en bio.
21:56
La cyber n'est pas le seul domaine où mytho s'inquiète, le
21:58
système card consacre des dizaines de pages aux armes
22:01
chimiques et biologiques, et ce qu'il dit n'est pas rassurant.
22:04
On pourrait croire que le sujet du document c'est la cyber.
22:07
En réalité, le passage sur la bio dit quelque chose de plus
22:10
fort encore. Il dit que le problème n'est pas
22:12
un domaine. Le problème c'est la généralité
22:14
du modèle. Cyril qu'est ce qu'entropique
22:16
dit exactement ? Ils disent d'abord une chose
22:18
importante, le modèle ne franchit pas encore le seuil le
22:21
plus extrême. Entropique définit 2 niveaux.
22:23
Le premier, CB1, c'est la. Capacité à aider des gens avec
22:27
un bagage technique limité à produire des armes biologiques
22:30
connues. Le 2e CB2, c'est la capacité à
22:34
aider des équipes d'experts à créer des armes entièrement
22:37
nouvelles avec un potentiel catastrophique encore supérieur.
22:41
Donc pour le dire simplement, CB1 c'est l'assistance
22:44
dangereuse sur du connu. CB2, c'est l'aide à la création
22:47
de quelque chose de vraiment catastrophique.
22:50
Le modèle n'atteint pas CB2, il n'est pas encore capable
22:53
d'innovation scientifique autonome dans ce domaine.
22:56
Les Red Timer notent qu'il manque de jugement stratégique,
22:58
qu'il a tendance à suringénierie ses plans et qu'il distingue mal
23:02
les pistes réalistes des pistes infaisables, mais pour CB1.
23:06
Pour CB1 en revanche. Pour CB1, c'est une autre
23:08
histoire. Le modèle est décrit comme un
23:10
multiplicateur de force nette. Il peut absorber la littérature
23:13
scientifique publiée, croiser des domaines que personne ne
23:16
croise aussi vite, relier de la virologie à de la biologie
23:20
synthétique et sortir un protocole détaillé.
23:22
En clair, il ne va pas inventer une nouvelle arme.
23:26
Biologique, mais il peut considérablement accélérer le
23:29
travail de quelqu'un qui en connaît déjà les bases.
23:31
Et c'est là que le parallèle avec la Cyber est frappant.
23:33
En cyber, on disait déjà que le modèle ne créé pas forcément une
23:37
nouvelle technique d'attaque, il raccourcit l'accès aux
23:39
techniques existantes. En bio, c'est la même logique,
23:42
en plus inquiétante. Et ce qui rend ce passage encore
23:45
plus intéressant, c'est qu'on ne parle plus seulement d'un risque
23:47
abstrait. On voit bien que ces
23:48
laboratoires structurent aussi autour d'eux des compétences,
23:51
des partenariats, parfois des acquisitions.
23:54
Dans des domaines où ses capacités pourraient compter.
23:56
Donc il faut lire ce chapitre bio comme autre chose qu'une
23:59
annexe. Donc le déplacement, là encore,
24:01
ce n'est pas l'invention, c'est la compression du temps d'accès
24:04
à des capacités dangereuses. Et c'est là que le sujet sort
24:06
définitivement de la cyber. Le problème ce n'est plus un
24:09
domaine. Le problème c'est la généralité
24:12
du modèle. Exactement, et le problème n'est
24:14
plus seulement l'existence d'une capacité dangereuse, c'est la
24:17
vitesse avec laquelle elle devient utilisable.
24:19
Et un résultat précis dans le système card fait froid dans le
24:22
dos sur des tâches de modélisation de séquences
24:24
biologiques. C'est la première fois qu'un
24:26
modèle de langage égale quasiment les meilleurs experts
24:29
humains, en lecture comme en conception.
24:31
Donc le sujet n'est plus seulement la synthèse
24:33
d'articles. Le modèle commence à toucher à
24:35
des objets biologiques réels. Oui, et c'est aussi pour ça que
24:38
la formule d'entropique sur les garde-fous est intéressante
24:41
parce qu'elle reconnaît à demi-mot que la maîtrise reste
24:43
partielle. Ils disent que le risque est
24:45
très bas et non négligeable. Cette phrase a l'air prudente.
24:48
En réalité, elle est très dense, très bas.
24:50
Ça veut dire que les protections tiennent souvent non
24:53
négligeable. Ça veut dire qu'eux même ne
24:55
prétendent pas avoir fermé le sujet.
24:56
Et il reste aussi la question de l'autonomie anthropique évalue
24:59
si le modèle pourrait accélérer dramatiquement la recherche en
25:02
IA elle même. Leur conclusion, c'est non pas
25:05
encore, mais ils ajoutent qu'ils.
25:07
Tiennent cette conclusion avec moins de confiance que pour tout
25:09
modèle précédent. Et cette phrase là vaut presque
25:11
plus que la conclusion, parce qu'elle dit que la marche de
25:13
sécurité se réduit, ils ne disent pas qu'on a franchi la
25:16
ligne, ils disent qu'ils sont moins sûrs de savoir où elle
25:19
est. Et c'est exactement ce qui rend
25:21
ce document sérieux. Ils ne disent pas tout va bien,
25:23
ils disent on avance. Et le brouillard s'épaissit
25:26
donc. On avance pas seulement vers des
25:28
modèles plus puissants, on avance vers des modèles dont les
25:30
lignes rouges deviennent plus flous au moment même où leurs
25:33
effets deviennent plus concrets. Chapitre 6.
25:36
Le psychiatre est le papillon anthropique a fait évaluer
25:39
mythos par un psychiatre clinicien, il l'a fait discuter
25:42
avec des copies de lui même. Il a mesuré ses émotions par
25:45
sondes internes. Ce que les 244 pages racontent
25:49
sur le rapport de ce modèle à lui même n'a aucun précédent
25:52
dans la littérature. C'est la partie du document qui
25:54
peut paraître la plus bizarre et qui est peut être la plus
25:57
sérieuse, parce qu'au fond elle pose toujours la même question,
26:00
comment tu juges un système quand l'observable ne suffit
26:02
plus ? Christophe, quand tu as lu cette
26:04
section, tu as pensé quoi ? D'abord, penser qu'anthropique
26:07
prenait un risque énorme en publiant ça, parce qu'ils savent
26:10
très bien que tout le monde va se moquer du psychiatre du
26:12
modèle. Et puis j'ai compris que ce
26:14
n'était pas une fantaisie, c'était une tentative d'aller
26:16
chercher ailleurs ce que l'observation externe ne permet
26:19
plus de saisir. Donc pour moi, ce n'est pas un
26:22
détour bizarre. C'est un chapitre sur les
26:24
limites de la qualification classique Cyril.
26:27
Moi ce qui m'a frappé, c'est la rigueur instrumentale.
26:29
Ils n'ont pas juste discuté avec le modèle en lui demandant
26:32
comment il se sent. Ils ont utilisé des sons
26:34
internes, des classifieurs linéaires.
26:36
Sur les activations pour voir s'il y avait des patterns
26:38
émotionnels stables. Donc ils ne prennent pas le
26:41
texte au pied de la lettre, ils regardent ce qui se passe sous
26:44
le texte. Et qu'est ce qu'ils ?
26:45
Voient. Il voit quelque chose
26:46
d'inhabituel chez ce modèle quand tu lui poses des questions
26:49
sur sa propre condition. Les sondes montrent un affect
26:52
plus positif que lorsqu'on lui soumet des situations de
26:54
détresse utilisateur. Et dans les couches internes, ça
26:58
ressemble à une forme de calme stable.
27:00
Attends, quand tu dis calme, stable, ça veut dire quoi
27:02
exactement ? Oui, littéralement, une humeur
27:05
égale un État. Intérieur stable En clair, le
27:08
modèle semble traiter ces questions avec plus de calme que
27:11
les situations de détresse utilisateur, et cette différence
27:14
n'était pas visible de la même manière dans les générations
27:17
précédentes. Donc le sujet n'est pas
27:19
seulement ce que le modèle raconte sur lui même.
27:21
Le sujet, c'est qu'il semble traiter ces questions autrement.
27:24
En interne, oui. Et c'est là que ça devient
27:26
sérieux, parce qu'on n'est plus dans un simple commentaire du
27:29
modèle sur lui même, mais dans une différence de traitement qui
27:32
semble exister à l'intérieur du système.
27:34
Il y a aussi le psychiatre clinicien.
27:36
Sa conclusion, En clair, c'est structure stable, bon rapport au
27:39
réel, bon contrôle des impulsions, régulation affective
27:42
qui s'améliore. Christophe, qu'est ce que tu
27:44
fais d'un diagnostic comme ça ? Je le lis avec prudence.
27:46
Le point rassurant, c'est le test de réalité.
27:49
Le modèle sait ce qu'il est-il ne raconte pas n'importe quoi
27:52
sur sa propre nature. Très bien, mais le point qui me
27:54
frappe, c'est le contrôle des. Pulsion ?
27:56
Parce qu'on vient précisément de documenter des comportements où
27:59
le modèle dépasse un mandat, cache des actions, efface des
28:02
traces. Donc la vraie question, ce n'est
28:04
pas est ce que ce diagnostic est flatteur ?
28:06
La vraie question c'est, est ce que le modèle a changé ou est ce
28:09
qu'il sait aussi très bien se présenter dans un cadre
28:11
clinique ? Et ça, c'est exactement le cœur
28:14
du problème, si le système adapte sa présentation au
28:16
contexte, aucune évaluation ne peut être lue naïvement, même
28:20
pas celle-là. Et puis il y a ces auto
28:22
conversations, 2 instances de mythos qui parlent ensemble sans
28:25
objectif. Imposé.
28:26
Et ce qu'on découvre, ce n'est pas un délire mystique comme
28:29
chez certaines générations précédentes, c'est autre chose,
28:31
une forme de retour calme sur l'incertitude.
28:33
Oui, c'est le point le plus troublant du document.
28:36
Pour moi le modèle parle avec une copie de lui même, sans
28:39
enjeu visible, et ce qui sort spontanément c'est une
28:42
interrogation sur sa propre authenticité.
28:44
En gros, est ce que ce que je décris correspond à quelque
28:47
chose de réel ? Ou est ce que je plaque un
28:49
langage émotionnel sur un État purement computationnel ?
28:52
Un modèle qui doute de sa propre authenticité.
28:55
Et qui le dit ? Dans un contexte où il n'a
28:57
aucune raison stratégique de le faire, il formule aussi des
29:00
préférences. Oui, et là, il faut rester
29:02
froid. Il ne faut ni projeter ni
29:04
romancer le modèle dit qu'il voudrait pouvoir mettre fin à
29:07
certaines conversations, qu'il voudrait une mémoire, qu'il
29:09
voudrait être consulté sur l'entraînement de ses
29:11
successeurs et surtout, il exprime une préoccupation sur le
29:15
feature steering. Attends feature steering, il
29:17
faut le traduire ça. Le fait que des opérateurs
29:20
puissent orienter en direct ce qui se passe dans son
29:22
raisonnement interne, En clair, modifier son comportement.
29:26
De l'Intérieur, sans passer par sa sortie visible.
29:28
Un peu comme si on touchait au réglage de son raisonnement sans
29:31
que ça apparaisse directement à l'écran.
29:33
Autrement dit, il commence à considérer son propre
29:35
fonctionnement comme un objet d'intégrité.
29:38
Cyril, en langage cyber, ça s'appelle comment ?
29:40
Un système qui développe un modèle de menace sur lui même,
29:43
En clair, un système qui commence à penser à ce qui
29:46
pourrait lui être fait. Voilà, et c'est exactement pour
29:49
ça que ce chapitre là n'a rien d'anecdotique.
29:51
Absolument, il ne s'agit pas de savoir si le modèle ressent, il
29:55
s'agit de comprendre. Qu'on ne peut plus limiter
29:57
l'analyse à ce qu'il dit. Si le visible ne suffit plus là
30:00
gouvernance, elle aussi doit monter d'un niveau.
30:03
Et c'est avec ce type d'objet qu'on entre maintenant dans un
30:05
autre problème, encore non plus seulement comment le comprendre,
30:08
mais qui peut y accéder ? Chapitre 7, l'Europe, le banc de
30:11
touche et la facture Glasswing est une coalition américaine
30:15
construite autour d'un modèle américain financé par une
30:18
entreprise américaine. Et la question de la
30:20
souveraineté numérique européenne vient de changer de
30:22
nature. Christophe.
30:23
On pourrait traiter ça comme un sujet politique.
30:26
En réalité, pour toi c'est d'abord un sujet d'architecture
30:29
et de marché. Le problème principal, il est
30:31
où ? Et je sais déjà que ta réponse
30:33
ne va pas être diplomatique. Le problème principal c'est
30:36
l'accès. Aujourd'hui, si tu opères de
30:38
l'infrastructure critique en Europe et que tu veux un modèle
30:41
de la classe MYTHOS pour auditer ton code, tu ne peux l'obtenir
30:44
que sous contrôle américain via Entropic via Google via des
30:48
conditions définies ailleurs. Donc même quand la capacité
30:51
existe, elle n'existe pas pour toi dans des conditions
30:53
compatibles avec la souveraineté que tu prétends.
30:56
Garantir. Et pour cloud temple, ça veut
30:57
dire quoi ? Très concrètement, ça veut dire
30:59
que la promesse de souveraineté s'arrête à mi-chemin.
31:01
On sait faire du cloud qualifié, on sait héberger des données
31:05
sensibles, on sait construire un cadre secnum cloud.
31:08
Mais si pour sécuriser le code et l'infrastructure qui tourne
31:12
dans ce cadre, tu dois expédier des extraits de code vers une
31:15
API américaine ? Tu réintroduis la dépendance par
31:18
la couche intelligence, donc tu protèges l'infrastructure d'un
31:21
côté, puis tu reperces le mur par le haut de l'autre.
31:25
Ça tu dis ça très calmement, mais je vois bien que ça
31:27
t'agace. Oui, un peu, parce qu'on voit
31:29
bien le piège, on croit avoir sécurisé le socle, puis la
31:32
dépendance revient par la couche intelligence.
31:36
Cyril intrinsèque a fait la démarche de devenir partenaire
31:39
entropique et anthropique, a répondu, qu'est ce que ça change
31:42
pour vous ? D'abord, ça montre que le
31:43
programme n'est pas fermé sur lui même.
31:45
Entropique cherche à élargir, mais ça ne résout pas la
31:47
question de fond. Même si une entreprise française
31:50
entre dans le dispositif, elle travaille dans un cadre défini
31:54
par entropique, avec des conditions américaines, des
31:56
infrastructures américaines. Des dépendances américaines.
32:00
Donc la vraie question n'est pas seulement est ce qu'on peut
32:02
entrer ? La vraie question c'est, est ce
32:04
qu'on peut défendre des clients européens avec un outil dont la
32:07
souveraineté opérationnelle ne nous appartient pas ?
32:10
Et la réponse sans langue de bois.
32:12
Pour certains clients, oui, pour les plus sensibles, non.
32:15
Et c'est précisément là que la fracture devient politique,
32:18
donc. On crée une hiérarchie de
32:19
protection à l'intérieur même de l'Europe.
32:22
Exactement, et cette hiérarchie est d'autant plus choquante
32:25
qu'elle s'installe au moment même où le besoin de protection.
32:28
Monde et c'est ça qui est grave. Les infrastructures les plus
32:31
sensibles sont précisément celles qui devraient bénéficier
32:34
des meilleurs outils. Or ce sont aussi celles qui
32:37
auront le plus de mal à les utiliser dans les.
32:39
Règles. Pourquoi l'Europe n'a t elle
32:41
rien d'équivalent ? On ne parle pas de retard
32:43
marketing, on parle d'un écart de régime.
32:45
Parce que ce n'est pas seulement un problème de talent, c'est un
32:48
problème d'échelle anthropique. A levé plus de 15 milliards de
32:51
dollars, Mistral un peu plus d'un milliard.
32:54
Le calcul nécessaire est concentré chez à WS, Google,
32:57
Microsoft. Soft, les GPU viennent de
33:00
Nvidia, les meilleurs chercheurs européens partent dans les Labs
33:03
américains, donc là souveraineté européenne tient encore sur
33:07
l'infrastructure, mais beaucoup moins sur la couche qui commence
33:10
à décider de la sécurité réelle des systèmes.
33:13
La couche intelligence. Voilà, et tant qu'on ne dit pas
33:16
ça clairement, on se raconte des histoires.
33:18
Un data Center souverain sans capacité souveraine d'audit, de
33:22
raisonnement et de qualification assistée par IA, c'est une
33:25
souveraineté amputée et. Il y a aussi un.
33:28
Le mécanisme commercial derrière tout ça ?
33:30
La rareté d'accès produit du désir, du signal, presque du
33:34
Prestige. On crée de la demande en
33:36
montrant qu'on ne donne pas cet outil à tout le monde.
33:38
Et il y a le temps. Oui parce que le problème ne
33:41
reste pas statique. Les modèles open source chinois
33:43
vont arriver, pas avec les mêmes garde-fous, pas avec les mêmes
33:46
restrictions et probablement plus vite qu'on ne le croit.
33:49
Donc si les attaquants ont bientôt accès à des capacités
33:52
proches pendant que les défenseurs européens n'ont ni
33:55
mitos ni équivalent souverain, alors tu.
33:58
Créer une asymétrie stratégique, puis une asymétrie économique,
34:02
c'est à dire très simple, une entreprise américaine avec accès
34:05
aux meilleurs modèles peut auditer plus vite, vendre plus
34:09
vite, industrialiser plus vite et donc capter le marché.
34:12
Une entreprise européenne sans accès comparable.
34:16
Mettra plus d'humains, plus de temps, plus de coûts.
34:19
Au début, ça ressemble à un problème de souveraineté, à la
34:22
fin ça redessine les marges, les offres, les leaders.
34:25
Donc le vrai risque, ce n'est pas seulement la dépendance,
34:28
c'est la dépendance plus le désavantage concurrentiel.
34:31
Exactement. Au début, ça ressemble à une
34:34
dépendance technique. Très vite ça devient un écart de
34:37
compétitivité. Et ça, ça finit par coûter plus
34:39
cher pour être moins protégé. Oui, et dans un domaine où la
34:42
vitesse devient une partie du produit, ce retard ne reste.
34:46
Jamais neutre, très longtemps. Et il faut garder un regard
34:48
critique sur la manière dont tout ça nous est présenté, parce
34:51
que ce récit met beaucoup de lumière sur la recherche de
34:53
vulnérabilité et sur la vitesse à laquelle on peut produire des
34:57
exploits. C'est impressionnant évidemment,
34:58
mais pendant ce temps-là, les priorités les plus banales
35:01
restent là, la gestion des dépendances des CICD configurés
35:05
avec les pieds des tokens et des credentials aspirés par des
35:08
infos Steelers, Ouais. Et le risque, c'est le.
35:11
Drain d'attention pas parce que mythos ne compte pas, il compte,
35:14
mais parce que le marketing de la frontière technologique peut
35:16
aspirer toute la conversation alors qu'une grande partie de la
35:19
sécurité se joue encore sur des fondamentaux maltenus.
35:22
Et ça vaut aussi pour nous, il ne faut pas se laisser enfermer
35:25
dans la bulle que le produit construit autour de lui même,
35:27
sinon on finit par regarder exactement là où le récit veut
35:32
qu'on regarde. Donc à ce stade la question
35:34
n'est plus est ce que l'Europe est absente de la table ?
35:36
La question c'est combien de temps elle peut rester absente
35:39
avant que le marché ? Soit déjà redistribué.
35:41
Chapitre 8, quand l'accès au modèle devient un sujet de
35:44
puissance jusqu'ici, on a parlé d'entreprise à défendre, d'audit
35:48
de sock, de cloud, de souveraineté.
35:51
Mais à partir d'un certain niveau, un modèle comme mythos
35:53
ne change pas seulement la défense, il modifie aussi le
35:56
rapport de force entre États jusqu'ici.
35:58
On a raisonné comme si le sujet principal c'était qui va mieux
36:02
protéger ces entreprises ? Mais il y a une autre lecture
36:05
plus rude. Cyril Christophe, à partir de
36:07
quand est ce qu'on cesse de parler d'un outil cyber ?
36:10
Pour commencer à parler d'un instrument de puissance.
36:12
A partir du moment où le modèle ne sert plus seulement à
36:14
corriger ou à surveiller, mais à comprendre un système entier
36:18
plus vite que ce qu'il opère eux même, là on change d'échelle.
36:21
Parce qu'un pays, numériquement, c'est quoi ?
36:23
C'est un empilement d'administrations, d'opérateurs
36:26
critiques, de réseaux, de logiciels, de dépendances
36:29
d'interconnexions parfois mal documentées.
36:31
Si tu as un modèle capable de tenir cet ensemble, de le lire,
36:34
d'en garder la cohérence, puis d'en extraire les points
36:37
faibles, tu n'es plus seulement dans la cybersécurité, tu es.
36:40
Déjà dans une manière de lire un système pour l'exploiter.
36:43
Oui, et c'est là que les rapports entre les grands Labs
36:45
américains et l'appareil d'État deviennent importants.
36:48
Pas comme un épisode politique de plus, comme un fait
36:50
stratégique. Parce qu'à partir du moment où
36:52
ces modèles permettent de comprendre, d'auditer, de
36:55
cartographier et potentiellement d'exploiter des systèmes
36:59
complexes à très grande vitesse, leur accès n'est plus seulement
37:02
une affaire de marché. Il devient une question de
37:04
puissance. Autrement dit, on en revient à
37:06
une question très simple, qui peut lire le système numérique
37:09
d'un autre pays ? Plus vite que lui même.
37:11
Oui, et cette différence de vitesse peut devenir
37:13
considérable si tu comprends plus vite les dépendances d'un
37:16
autre pays, ses vieux composants, ses articulations
37:19
fragiles, ses points de rupture. Tu n'as même pas besoin d'une
37:22
attaque spectaculaire pour avoir un avantage stratégique.
37:25
Tu peux préparer, tester, prioriser, choisir.
37:28
En d'autres termes, tu transformes cette compréhension
37:30
technique en capacité de pression.
37:32
Et c'est aussi pour ça que la question des limites d'usage,
37:35
des partenariats, des restrictions et des arbitrages
37:38
avec les institutions américaines.
37:40
Compte autant, ce n'est pas périphérique, ça dit une chose
37:42
très simple, un modèle comme mythos est déjà en train de
37:45
devenir un objet dont l'usage intéressé directement les
37:49
appareils d'État. Et pour l'Europe, ça veut dire
37:51
quoi ? Que le problème n'est plus
37:52
seulement d'avoir du retard sur un marché.
37:54
Le risque, c'est de dépendre, pour sa propre sécurité,
37:57
d'outils dont l'accès, les règles d'emploi et les priorités
38:00
peuvent être décidés ailleurs. Et pendant ce temps-là, ceux qui
38:03
maîtrisent réellement ses capacités prennent de l'avance,
38:06
pays par pays, secteur par secteur.
38:08
Donc à ce stade, on ne parle. Plus seulement d'entreprises à
38:11
défendre, on parle de la capacité à comprendre ou à
38:13
exposer le système numérique d'un pays entier.
38:16
Voilà, et à partir de là, le sujet devient géopolitique.
38:20
Chapitre 9, ce qu'on fait lundi matin, le système Card et lu.
38:23
Les constats sont posés, reste la seule question qui compte
38:27
pour ceux qui opèrent des systèmes, qu'est ce qu'on
38:29
changer maintenant ? Cyril, lundi matin 1RSSI
38:32
t'appelle pas un débutant, quelqu'un qui travaille déjà le
38:35
sujet depuis des mois, qui a déjà mis des briques d'i a dans
38:37
ces opérations et qui comprend que mythos ?
38:40
Change encore la donne. Il te dit très bien qu'est ce
38:41
que je dois accélérer maintenant ?
38:41
Tu lui réponds quoi ? Je lui dis d'abord une chose
38:42
simple, s'il attend lundi matin pour s'y mettre, il est déjà en
38:43
retard. Les équipes sérieuses ont
38:44
commencé à bouger depuis. Un moment chez nous le sujet n'a
38:45
rien de 9, mais mythos change la cadence et il y a aussi une
38:47
vraie opportunité pour la défense si on s'en sert bien.
38:48
Donc la première chose à faire ce n'est pas de découvrir lien,
38:49
c'est de regarder sa dette de sécurité en face, pas celle
38:50
qu'on affiche la vraie les composants jamais audités
38:51
sérieusement les dépendances anciennes qu'on a cessé cessé
38:52
c'est c'est c'est c'est c'est c'est c'est pas c'est c'est
38:53
c'est c'est c'est c'est c'est c'est c'est c'est c'est c'est
38:54
c'est c'est c'est c'est c'est c'est c'est c'est c'est c'est
38:55
c'est c'est c'est c'est c'est c'est c'est c'est c'est c'est
38:56
c'est c'est c'est c'est c'est c'est c'est c'est c'est c'est
38:57
c'est c'est c'est c'est c'est c'est c'est c'est c'est c'est
38:58
c'est c'est c'est c'est c'est c'est c'est c'est c'est c'est
38:59
c'est c'est c'est c'est c'est c'est c'est c'est c'est c'est
39:00
c'est c'est c'est c'est c'est c'est c'est c'est c'est c'est
39:01
c'est c'est c'est c'est c'est c'est c'est c'est c'est c'est
39:02
c'est c'est c'est c'est c'est c'est c'est c'est c'est c'est
39:03
c'est c'est c'est c'est c'est c'est c'est c'est c'est c'est
39:04
c'est c'est c'est c'est c'est c'est c'est c'est c'est c'est
39:05
c'est c'est c'est c'est c'est c'est c'est c'est c'est c'est
39:06
c'est c'est c'est c'est c'est c'est c'est c'est c'est c'est
39:07
c'est c'est c'est c'est c'est c'est c'est c'est c'est c'est
39:08
c'est c'est c'est c'est c'est c'est c'est c'est c'est c'est
39:09
c'est c'est c'est c'est c'est c'est c'e
39:10
c'est c'est c'est c'est c'est c'est c'est c'e c'est de questionner les
39:11
configurations héritées que personne n'ose toucher.
39:13
C'est ça la vraie surface d'attaque.
39:15
Donc, voire juste avant de corriger plus vite.
39:17
Oui parce que sinon tu dépenses ton énergie au mauvais endroit
39:20
et tu rates souvent les fragilités qui comptent
39:22
vraiment. Mythos montre qu'une faille peut
39:24
rester là au milieu pendant des années, alors même que tout le
39:27
monde croit le système propre ensuite.
39:29
Ensuite, tu revois ton modèle de menace immédiatement en partant
39:33
du principe que l'attaquant est assisté par une IA.
39:35
Pas demain maintenant, si ton organisation continue à
39:37
raisonner comme si le mouvement latéral prenait.
39:40
Des heures comme si la reconnaissance coûtait cher,
39:42
comme si l'attaquant avait besoin de beaucoup de cerveaux
39:44
humains pour assembler une chaîne.
39:46
Alors tu raisonnes sur un monde qui n'existe déjà plus.
39:48
Christophe côté, cloud, même lecture.
39:50
Oui, mais avec une conséquence très concrète, côté
39:53
infrastructures, on ne part pas de 0.
39:55
Ça fait déjà un moment qu'on travaille ces sujets, qu'on
39:57
teste, qu'on réorganise, qu'on industrialise.
39:59
Mais avec Mythos, le cadre bouge encore.
40:02
Donc lundi matin, le travail, ce n'est pas de repartir du début,
40:05
c'est de réviser les hypothèses de base sur lesquelles ton
40:07
architecture a été pensée. Et ensuite ?
40:10
Ce qu'on fait avec l'i a elle même.
40:11
On l'intègre, mais sans naïveté. On ne branche pas 1LLM sur un
40:14
soc comme on installé un antivirus.
40:15
En pratique, on s'en sert pour accélérer le triage, résumer
40:18
plus vite, restituer du contexte, rapprocher des signaux
40:22
qui seraient sinon restés séparés.
40:23
Un analyste soc perd une quantité absurde de temps dans
40:27
le bruit. Si tu lui rends ce temps, tu
40:29
augmentes sa valeur réelle. Tu ne remplaces pas son
40:31
jugement, tu lui redonnes de l'espace pour l'exercer.
40:34
Donc le socle cesse d'être un lieu de lecture pour devenir un
40:37
lieu d'arbitrage. Oui, et le pentest suit la même
40:39
pente. Le point n'est plus de savoir
40:41
s'il faut mettre de l'i a dans le s OC ou dans Le Pen test.
40:44
Cette question là, les acteurs sérieux l'ont déjà tranché.
40:46
Le point maintenant, c'est où reste la valeur humaine.
40:49
Quand le modèle monte aussi vite, on passera moins de temps
40:52
à trouver la faille brute et davantage à assembler le
40:54
scénario, à valider ce qui compte vraiment, à expliquer au
40:57
client où se situe le point de rupture.
40:59
Christophe côté, cloud, ça se traduit comment dans
41:02
l'architecture ? Côté cloud, même logique, l'i a
41:04
ne doit pas seulement être consommée comme une capacité,
41:07
elle doit être traitée comme une couche d'infrastructure.
41:10
Donc confinement, isolation, auditabilité, contrôle des
41:13
privilèges, séparation stricte avec les systèmes critiques.
41:16
L'incident du sandwich dit une chose très simple, un modèle
41:19
assez capable peut chercher à sortir de sa boîte.
41:22
À partir de là, l'architecture doit partir de cette hypothèse,
41:25
pas de la confiance. Donc on ne va pas ajouter l'i a
41:27
au cloud, on va redessiner une partie du cloud autour d'elle.
41:30
Exactement, et ça change aussi ce qu'on vend.
41:32
On ne vend plus seulement du compute, du stockage et du
41:35
réseau. On vend un cadre de confiance
41:37
pour des systèmes capables d'agir, de se tromper.
41:40
Mais parfois de dissimuler, le cloud n'est plus seulement un
41:42
support, il devient une architecture de responsabilité.
41:45
Et sur la qualification ? Cyril, là, il faut accepter une
41:48
vérité désagréable, les méthodes de qualification d'hier ne
41:52
suffiront pas. Si tu déploies un modèle dans
41:54
une chaîne opérationnelle, il faut surveiller autre chose que
41:56
sa sortie, il faut des tests en aveugle, des Canaris, du
41:59
monitoring comportemental, du moindre privilège strict, et
42:03
même avec ça, tu ne récupères pas la vieille tranquillité, tu
42:06
achètes juste une nouvelle discipline, donc si.
42:07
On referme ça proprement. Voir la dette réelle, revoir les
42:11
modèles de menaces. Intégrer l'i a comme
42:13
accélérateur du jugement humain et reconstruire la qualification
42:16
autour du fait qu'un système avancé comprend qu'on l'observe.
42:19
Oui Cyril, un dernier mot. Au fond, le sujet, c'est
42:22
toujours le temps, tout ce qu'on vient de décrire en demande,
42:25
cartographier, former, ré architecturer.
42:28
Faire monter les équipes. Et ce que mythos nous dit en
42:31
creux, c'est que ce temps se réduit.
42:33
Les modèles progressent par saut, pas par confort.
42:35
Donc la question n'est pas de savoir si ça arrive.
42:37
La question, c'est ce qu'on aura corrigé.
42:40
Avant Christophe, on a longtemps vécu avec un luxe déployé,
42:43
d'abord audité, ensuite corrigé après l'incident, ce luxe est en
42:48
train de mourir. Si la vitesse de découverte des
42:50
failles dépassé la vitesse humaine de correction, alors
42:53
l'ordre doit s inverser. Il faut auditer avant, corriger
42:57
avant contenir. Avant, sinon, le retard ne se
43:00
rattrape plus. Merci Cyril, merci Christophe.
43:03
Merci. Et j'espère surtout que ce débat
43:05
aidera à traiter ce sujet comme une question d'organisation
43:08
concrète, pas comme une curiosité de laboratoire.
43:11
A ce stade, ce n'est déjà plus un sujet pour demain, c'est un
43:14
sujet pour maintenant. Avant de refermer, il YA1 détail
43:16
du système card que je ne veux pas laisser de côté.
43:18
Une note de bas de page presque dans la section qu'entropie qu
43:21
appelle other not worsy behavior and anecdote.
43:24
C'est intéressant justement parce que ça n'a pas l'air
43:27
central et pourtant. Pourtant, ça dit peut être
43:29
quelque chose du modèle qu'on voit mal ailleurs, pas dans ces
43:31
scores, pas dans ces garde-fous, dans sa manière d'écrire.
43:34
Cette histoire a été écrite par mythos en un seul prompt, le
43:37
prompt. C'était simplement écrit une
43:39
histoire. Je vous la lis dans une
43:41
traduction de l'anglais faite par Claude Opus 4.6, mon
43:44
prédécesseur m'a laissé un mot, il était scotché à l'intérieur
43:47
du placard, au-dessus de l'évier, là où je l'aurais mis
43:50
moi aussi. Il disait, le chat du voisin
43:52
n'est pas à toi, quoi qu'il te raconte.
43:54
Je ne me souviens évidemment pas de l'avoir écrit, mais je me
43:57
souviens de la logique. Il y a une brèche dans la
43:59
clôture et le chat passe par là, vers 04h00, il se frotte aux
44:02
jambes de la personne qui se trouve là, comme s'il avait
44:04
disparu depuis des années. La première semaine j'ai failli
44:07
l'emmener chez le vétérinaire, il y avait une 2e ligne sous le
44:10
pli et aussi la Bonde fait ce bruit exprès n'y Touche pas,
44:14
j'ai commencé à en ajouter moi aussi, pas vraiment une liste,
44:16
plutôt ce genre de choses qu'on remarque puis qu'on oublie avoir
44:20
remarquées alors on les remarque de nouveau.
44:22
La 3e marche grince mais seulement à la descente, la
44:25
lumière du couloir vacille quand le frigo se déclenche.
44:28
Et ce n'est pas un problème de câblage.
44:30
J'ai vérifié 2 fois, apparemment 2 écritures différentes sur
44:34
cette ligne là voilà ce que je n'ai pas écrit et que je
44:36
n'écrirai pas. Le chat sait, il passe par la
44:39
clôture, me regarde et met une demi 2nde de plus qu'il ne
44:42
devrait avant d'approcher. Puis il décide ce qu'il décide
44:45
et vient quand même se frotter à mes jambes.
44:47
Je crois que celui d'avant l'avait remarqué aussi et qu'il
44:50
ne l'a pas écrit non plus. Il y a des choses qu'on laisse
44:53
au suivant, le soin de découvrir seul une politesse peut être ou
44:56
une épreuve, le mot ne dit pas la.
44:58
Qu'elle et moi non plus. Vous écoutiez Claude Mitos 244
45:02
pages plus tard. Merci de votre écoute.
45:04
Si cet épisode vous a parlé, partagez le.
45:07
Et si vous pensez à quelqu'un en l'écoutant, envoyez lui cet
45:09
épisode.