Latest / Le centre de gravité / Claude Mythos — quelques mois d'avance

Transcript

Claude Mythos — quelques mois d'avance · Le centre de gravité

0:00
Épisode Claude mitos quelques mois pour corriger chapitre un
0:05
ce matin tout change pendant quelques jours, Claude mitos
0:09
ressemblait encore à un leak inquiétant ce matin.
0:12
Anthropique en a fait autre chose, une confirmation
0:15
officielle, un programme et surtout une stratégie de
0:18
défense. Sur un sujet comme celui-ci, il
0:21
fallait quelqu'un qui connaisse la cyber de l'Intérieur et
0:24
depuis longtemps. Cyril Barthélémy dirige
0:26
intrinsèque depuis 2015. Mais il y a commencé il y a plus
0:29
de 20 ans, dans une entreprise fondée en 1995.
0:32
Cela veut dire qu'il a traversé de l'Intérieur presque toute la
0:34
montée en puissance de la cyber. C'est donc sa voix et cette
0:38
expérience qui vont nous guider ici.
0:41
Merci Franck. Il y a une semaine, Claude
0:43
mythos ressemblait encore à un lick étrange, un nom de code,
0:46
des captures, des documents internes, beaucoup de bruit et
0:49
une question assez simple, est ce qu'on regardait seulement un
0:52
futur modèle plus puissant que les autres ?
0:54
Ce matin, le récit a changé anthropique, a annoncé
0:57
officiellement Claude Mitos Preview.
0:59
L'entreprise a publié un billet technique sur ses capacités
1:02
cyber et surtout, elle a lancé ce qu'elle appelle Project
1:06
glasswing. C'est là que l'histoire devient
1:08
plus importante qu'un simple produit.
1:09
Parce qu'anthropic ne présente pas mythos preview comme un
1:12
lancement classique, l'entreprise dit explicitement
1:15
qu'elle veut utiliser ce modèle pour aider à sécuriser les
1:18
logiciels les plus critiques avant que des capacités
1:21
comparables ne deviennent plus largement disponibles.
1:23
Mais voici ce qui change tout ce qui compte maintenant c'est
1:27
simple, que peut-on corriger avant que des capacités ?
1:29
Comparable n'arrive plus largement pendant un temps.
1:32
L'idée n'est pas que tout le monde ait immédiatement accès au
1:35
même outil. L'idée est de donner d'abord une
1:37
avance au défenseur, le temps d'auditer le temps, de corriger
1:41
le temps, de renforcer les systèmes les plus importants
1:43
avant que le même type de puissance n'arrive plus
1:46
largement dans la nature. Quand un frontière Lab commence
1:49
à poser la question de cette manière, on n'est plus dans la
1:51
logique habituelle de diffusion technologique, on entre dans une
1:55
logique de sécurité où le temps lui même devient une ressource.
1:58
Voilà le vrai. De Claude Mitos anthropique
2:01
reconnaît noir sur blanc qu'une courte avance peut compter,
2:04
revoir des composants critiques, corriger des failles anciennes,
2:07
durcir des briques sur lesquelles repose une partie du
2:10
monde numérique. Et Cela dit aussi quelque chose
2:13
de beaucoup moins rassurant, si l'on veut donner d'abord du
2:15
temps au défenseur, c'est qu'on considère déjà qu'ensuite cette
2:19
avance se refermera. C'est là que cet épisode
2:21
commence, non pas avec un leak avec une course contre la
2:24
montre. Chapitre 2, pourquoi le cyber
2:27
est différent ? En cybersécurité, un très bon
2:29
modèle n'accélère pas seulement l'écriture, il accélère aussi la
2:33
lecture, le tri, l'enquête, la correction et parfois la
2:37
persuasion, tout ce qui décide au fond de la vitesse réelle
2:40
d'une attaque ou d'une défense. Pour comprendre pourquoi
2:43
anthropiques traite mythos preview différemment, il faut
2:46
repartir d'une évidence, un grand modèle de langage n'est
2:49
pas seulement une machine à texte, c'est une machine à
2:51
contexte. Il lit, il relit, il planifie,
2:55
il corrige. Il tient un objectif.
2:58
Or, si l'on retire le folklore autour de la cybersécurité,
3:02
c'est précisément de cela qu'elle est faite.
3:04
Lire des logs, relire du code, relier des signaux faibles,
3:08
comprendre une interaction entre plusieurs composants, prioriser
3:11
ce qui mérite d'être traité avant le reste.
3:14
Prenons un cas concret, une équipe sécurité voit remonter
3:17
une anomalie mineure sur un composant logiciel très banal,
3:20
utilisé dans plusieurs services internes.
3:22
Rien qui déclenche immédiatement l'alarme générale, juste une
3:25
erreur rare. Une réponse étrange dans un cas
3:27
limite, quelque chose qu'on pourrait facilement ranger dans
3:31
la catégorie du bruit. Pour comprendre si c'est anodin
3:33
ou non, il faut ouvrir beaucoup de tiroirs, relire la
3:37
documentation, remonter les derniers changements, vérifier
3:40
comment plusieurs briques interagissent, comparer le
3:42
comportement attendu et le comportement réel.
3:45
Un humain le fait, bien sûr, mais lentement, il lit, il teste
3:50
une première hypothèse, elle ne tient pas, il en essaie une
3:52
autre, puis il revient en arrière.
3:55
Maintenant, imagine un système capable d'absorber d'un coup le
3:58
dépôt, les dépendances, les exceptions, les règles métier et
4:02
les traces techniques utiles. Pas pour produire une vérité
4:05
magique, juste pour réduire le temps qu'il faut pour savoir où
4:08
creuser. Il repère une incohérence
4:10
discrète, il formule une première piste, elle échoue, il
4:14
la corrige, il repart, puis il relie cette faiblesse à autre
4:17
chose, plus loin dans la chaîne. Et soudain, ce qui ressemblait à
4:21
une anomalie mineure commence à ressembler à une vraie faille.
4:24
Côté défense, c'est formidable, on peut comprendre plutôt ce
4:28
qu'on a sous les yeux, prioriser plus vite, corriger avant qu'il
4:31
ne soit trop tard. C'est exactement le titre
4:33
d'avance qu'un accès restreint à Mitos pourrait offrir, non pas
4:37
une protection magique, mais du temps gagné sur le travail le
4:40
plus dur. Mais le cyber ne passe pas
4:42
seulement par les systèmes, il passe aussi par les humains.
4:45
Imagine maintenant non plus une faille discrète dans un
4:47
composant, mais un faux message interne, pas le phishing
4:50
grotesque d'il y a 10 ans. Un message propre, le bon ton.
4:54
Le bon niveau de langue, une référence crédible à un projet
4:57
réel, une urgence mesurée ? Rien qui semble l'arnaque
5:01
immédiate, juste assez de naturel pour faire baisser la
5:04
garde. C'est là aussi qu'un LLM devient
5:06
redoutable. Pas parce qu'il invente un
5:08
mensonge magique, parce qu'il sait écrire vite, adapter un
5:11
style, reformuler si la première approche échoue, tenir un
5:15
échange cohérent, répondre à une objection, relancer sans casser
5:19
le personnage. Avant, ce type de social
5:22
Engineering demandait du temps, une bonne plume, une vraie
5:25
compréhension du contexte. Avec un très bon modèle.
5:28
Ce coup s'effondre et cela change beaucoup de choses.
5:31
Parce qu'un LLM n'a pas besoin de casser un système pour créer
5:34
un problème cyber, il lui suffit parfois d'écrire assez bien pour
5:37
convaincre un humain. Le risque ici n'est plus
5:40
seulement dans le code, il est dans la persuasion humaine.
5:42
C'est pour cela que le cyber est un terrain si particulier pour
5:46
les LLM. Dans d'autres domaines, l'i a
5:49
améliore surtout le confort. Ici, elle changer le tempo sur
5:53
les systèmes mais aussi dans les têtes.
5:55
Et si anthropique pense vraiment qu'il faut mettre ce type
5:58
d'outil d'abord dans les mains des défenseurs, c'est bien parce
6:01
que le gain de vitesse paraît réel.
6:04
Project Glass Wing, le nom du programme dit déjà beaucoup.
6:08
Il ne s'agit pas seulement de tester un modèle, il s'agit de
6:11
gagner du temps pour sécuriser d'abord ce qui compte le plus.
6:15
Le cœur du communiqué d'entropique tient dans un nom.
6:18
Project Glasswing c'est sans doute le point le plus important
6:21
de toute cette histoire. Il formalise ce que le Leak
6:23
laissait seulement deviner, l'idée est simple, anthropique
6:26
dit vouloir utiliser Mythos Preview pour aider à sécuriser
6:29
les logiciels les plus critiques avant que des modèles aux
6:32
capacités comparables ne deviennent plus largement
6:34
disponibles. Pas après avant.
6:37
Cela veut dire que l'entreprise ne présente pas mito comme un
6:40
simple gain de performance. Elle le présente comme une
6:42
capacité qu'il faut d'abord orienter vers la défense des
6:46
partenaires critiques, des développeurs open source, des
6:49
systèmes centraux, des briques logicielles dont dépend une
6:52
grande partie du reste. La bonne image n'est donc pas
6:54
celle d'un bouclier magique, c'est celle d'un chantier
6:57
accéléré. Un modèle comme mytho ne
6:58
viendrait pas rendre les systèmes soudainement sûrs.
7:01
Il permettrait plutôt de vider plus vite une partie du stock de
7:04
faiblesse accumulé. Et dans la cybersécurité réelle,
7:07
ce stock est immense, trop de dettes, trop de correctifs en
7:11
attente, trop de composants mal compris, trop de dépendances,
7:14
trop de configurations imparfaites.
7:16
Dans ce cadre, une fenêtre d'avance peut compter
7:19
énormément, non parce qu'elle changer la nature des systèmes,
7:21
mais parce qu'elle changer l'ordre des choses.
7:23
On peut corriger d'abord ce qui est le plus exposé.
7:25
On peut auditer avant d'être forcé.
7:27
De réagir. On peut fermer certaines portes
7:30
avant que d'autres disposent eux aussi du même type
7:32
d'accélérateur. Cela dit implicitement, quelque
7:35
chose d'assez brutal, si anthropique veut donner d'abord
7:38
cet outil au défenseur, c'est que l'entreprise considère déjà
7:41
qu'ensuite l'équilibre sera moins favorable.
7:43
On peut presque raconter glasswin comme une course contre
7:46
diffusion, tant que l'accès reste limité.
7:49
Certains défenseurs disposent d'un surcroît temporaire de
7:51
lecture, de tri, d'endurance, d'attention, puis quand des
7:55
capacités comparables circulent plus largement.
7:58
Cette supériorité provisoire s'efface, le modèle ne disparaît
8:01
pas, le monde change simplement de niveau, et c'est là
8:04
qu'apparaît une vérité beaucoup moins confortable.
8:06
Si cette stratégie existe, elle ne vise pas à empêcher
8:09
définitivement les attaquants d'avoir des capacités
8:11
comparables. Elle vise à faire en sorte qu'au
8:13
moment où ils les auront, une partie du terrain aura déjà été
8:16
nettoyée. Une partie seulement.
8:18
Pas tout, jamais tout, mais suffisamment peut être pour
8:22
réduire la casse. C'est une logique très cyber.
8:24
Au fond, on ne promet pas là vulnérabilité, on gagne du
8:27
temps, on durcit ce qu'on peut-on corrigé ce qu'on peut
8:30
corriger avant la prochaine vague.
8:31
Et ici, la vague en question n'est pas un malware
8:34
particulier, ni une campagne précise.
8:37
Ce serait la diffusion plus large d'un niveau nouveau
8:39
d'assistance offensive et défensive.
8:42
On comprend alors pourquoi Project glasswin est peut être
8:45
plus important encore que les benchmarks.
8:47
Les scores disent, le modèle est très fort.
8:49
Le programme lui dit, l'entreprise considère que cette
8:53
force doit d'abord servir à sécuriser.
8:55
Si cette lecture est juste. Claude Mito Preview n'est pas
8:58
seulement une annonce technique, c'est presque un programme de
9:00
transition. D'abord les défenseurs, ensuite
9:03
un monde plus large, d'abord bouché, corrigé, hiérarchisé,
9:07
ensuite seulement courir avec les autres et tout le drame est
9:10
là. Parce que le temps que glasswin
9:11
cherche à acheter n'est pas un luxe, c'est peut être la
9:14
dernière ressource rare avant que la course ne devienne
9:17
générale. Chapitre 4, le seuil, ce qui
9:21
rend mythos preview si important, ce n'est pas
9:23
seulement son existence. C'est le fait qu'entropique
9:26
parle désormais d'un moment de bascule pour la sécurité.
9:29
Le communiqué. D'Entropique va beaucoup plus
9:31
loin que ce qu'on pouvait imaginer il y a quelques jours.
9:33
L'entreprise ne dit pas seulement que Mythos Preview est
9:36
fort. Elle décrit un modèle capable
9:38
d'identifier puis d'exploiter des vulnérabilités dans les
9:41
grands systèmes d'exploitation, les grands navigateurs des
9:44
bibliothèques open source et même certains logiciels à code
9:47
fermé. Il faut mesurer la portée de
9:49
cette affirmation. On ne parle plus ici d'un
9:52
assistant qui aide à relire du code ou à corriger des erreurs
9:55
simples. Anthropic décrit un modèle
9:56
capable de découvrir des zero Days, de transformer des and
10:00
Days en exploit, de faire du reverse Engineering et d'écrire
10:04
des preuves de concept exploitables.
10:06
Et c'est précisément pour cela que l'entreprise parle d'un
10:09
water Shed moment for Security. Un moment de bascule.
10:12
Le mot est fort, mais si l'on suit la logique du texte, il dit
10:16
quelque chose de simple, les modèles généralistes sont en
10:19
train de devenir assez bons pour modifier concrètement l
10:22
équilibre du travail cyber. Le détail le plus ?
10:25
Troublant n'est peut être même pas le catalogue des cas
10:27
présentés. C'est la phrase qui explique
10:29
qu'Anthropique n'a pas explicitement entraîné mitos
10:32
preview pour obtenir ses capacités.
10:34
Elles auraient émergé comme conséquence d'amélioration
10:37
générale en code, en raisonnement et en autonomie.
10:40
Ce n'est pas un outil spécialisé forgé pour attaquer, c'est un
10:43
modèle généraliste devenu assez bon pour toucher au cœur du
10:47
problème. Et cela change énormément de
10:49
choses parce que si ce type de capacité émerge ici, l'histoire
10:53
ne concerne pas mitos seul. Elle concerne la trajectoire
10:56
entière de la génération suivante, aujourd'hui, mythos,
11:00
demain. D'autres modèles ailleurs.
11:02
Il faut aussi entendre l'autre partie du message anthropique
11:05
d'y penser qu'à long terme, de tels modèles bénéficieront
11:08
davantage aux défenseurs qu'aux attaquants.
11:11
Mais l'entreprise dit aussi que la période de transition
11:13
pourrait être tumultueuse. C'est une manière prudente de
11:16
dire quelque chose de beaucoup plus brutal au début.
11:19
Si l'on ne fait rien, l'avantage peut très bien aller au camp qui
11:22
saura industrialiser le plus vite ses capacités.
11:25
C'est pour cela que le seuil compte, tant un seuil n'est pas
11:28
une victoire, ce n'est pas un monde nouveau déjà stabilisé.
11:31
C'est le moment où l'on comprend que les anciennes règles ne
11:34
suffisent plus tout à fait. On peut discuter les chiffres,
11:36
on peut discuter les cas choisis, on peut discuter la
11:39
communication de l'entreprise. Mais une chose paraît beaucoup
11:42
plus difficile à écarter, un frontière Lab estime désormais
11:46
que des modèles de cette classe justifient une coordination
11:49
défensive à l'échelle du secteur.
11:51
Rien que cela suffit à marquer un avant et un après et se.
11:55
Déplacement n'a déjà plus rien de théorique.
11:57
Fin mars, Accenture a lancé cyber point EI, une offre
12:01
construite autour de Claude avec une promesse très claire, faire
12:04
passer les organisations d'une réponse à vitesse humaine à des
12:08
capacités cyber continues pilotées par IA.
12:11
Le langage compte parce qu'il dit que le secteur ne regarde
12:14
déjà plus ces modèles comme de simples assistants, mais comme
12:17
des moteurs d'opération défensives à grande échelle.
12:20
La question n'est donc plus simplement, est ce que ces
12:23
modèles sont impressionnants ? La question.
12:25
Devient que se passe-t-il quand leur amélioration cesse d'être
12:28
seulement un sujet de produit pour devenir un sujet
12:31
d'équilibre sécuritaire ? Et c'est là que mythos Preview
12:35
cesse d'être un nom de plus dans la course à l'i a il devient un
12:38
signal, le signal que l'ancienne frontière entre assistant utile
12:42
et capacité cyber sensible est en train de se déplacer.
12:46
Chapitre 5, après glasswing, la Reine Rouge.
12:50
Même si l'avance initiale est réelle, elle ne durera pas et
12:53
toute la question devient alors terriblement simple, aura-t-on
12:56
corrigé assez avant que la même vitesse n'arrive ailleurs ?
12:59
La meilleure image pour penser toute cette affaire vient de
13:02
Lewis Carroll. Dans de l'autre côté du miroir,
13:04
la Reine rouge dit à Alice qu'ici, il faut courir aussi
13:07
vite que possible pour rester au même endroit.
13:10
L'expression a ensuite servi à décrire la course de l'évolution
13:13
entre prédateur et proie, où chacun doit continuer à
13:16
s'adapter simplement pour ne pas être dépassé.
13:19
En cybersécurité, c'est presque une définition.
13:21
Pendant une première phase, glasswing essaie justement de
13:24
créer un décalage, quelques partenaires critiques, quelques
13:27
développeurs open source, quelques défenseurs en avance,
13:30
une fenêtre pour auditer, corriger, durcir, pas pour
13:34
gagner définitivement, pour préparer le terrain, puis tôt ou
13:37
tard, ce décalage se refermera. Anthropic ne dit pas que Mythos
13:41
Preview sera généralement disponible, mais l'entreprise
13:44
dit explicitement vouloir aider à sécuriser les systèmes les
13:47
plus importants avant que des modèles aux capacités
13:49
comparables ne deviennent plus largement disponibles.
13:52
Le cœur de la phrase est là, pas si ?
13:54
Pas au cas où. Avant que cela veut dire que le
13:57
futur supposé par entropique n'est pas celui d'une capacité
14:01
rare longtemps confinée, c'est celui d'une diffusion
14:03
progressive de performance comparable dans l'écosystème.
14:07
Et à partir de ce moment-là, la logique de glasswin change de
14:10
sens. L'objectif n'est plus d'empêcher
14:12
le monde suivant. L'objectif est d'y entrer avec
14:15
moins de retard. C'est exactement ce que raconte
14:17
la Reine rouge, mais avec une nuance décisive.
14:20
Dans la version classique, tout le monde court déjà à la même
14:23
vitesse et doit accélérer pour rester à la même place.
14:25
Ici, il y aurait d'abord une parenthèse stratégique, un court
14:29
moment pendant lequel les défenseurs les mieux placés
14:31
accélèrent les premiers, puis le reste du monde suit, puis
14:35
l'équilibre à stable revient. Pour une grande organisation
14:38
bien équipée, cette parenthèse peut valoir énormément.
14:41
Elle permet de relire des bibliothèques critiques, de
14:43
revoir des configurations, de cartographier des dépendances
14:47
oubliées, de repérer des fautes logiques qu'on savait possibles
14:50
sans avoir eu le temps de les traquer vraiment.
14:52
Pour une petite structure, l'effet peut être plus ambigu.
14:55
Elle bénéficiera peut être moins directement du programme, mais
14:58
subira quand même le moment où des capacités comparables seront
15:02
plus largement disponibles. Et c'est là que l'inégalité
15:04
redevient centrale. Tous les acteurs n'auront pas la
15:07
même avance ni la même capacité à la transformer en vrai
15:10
durcissement. C'est pour cela que glasswin est
15:12
à la fois rassurant et inquiétant.
15:14
Rassurant parce qu'il dit que certains acteurs prennent le
15:17
problème au sérieux assez tôt pour essayer de renforcer les
15:20
défenses avant la suite. Inquiétant parce qu'il reconnaît
15:23
implicitement que cette suite arrive.
15:25
Une fois la parenthèse refermée, la Reine rouge reprend ses
15:28
droits. Les attaquants disposent à leur
15:30
tour d'une lecture plus rapide, d'une meilleure capacité de tri,
15:33
de variantes plus nombreuses, d'une endurance plus forte.
15:36
Les défenseurs gardent eux aussi ces gains.
15:39
Le même moteur accélère donc tout le monde et dans un monde
15:42
déjà profondément asymétrique, cette accélération générale ne
15:45
rassure personne très longtemps. C'est là que l'épisode cesse
15:48
d'être une histoire sur anthropique.
15:50
Seulement il devient une histoire sur la forme probable
15:53
du futur. D'abord des accès contrôlés,
15:55
ensuite une fenêtre défensive, puis une diffusion plus large de
15:59
capacités comparables, puis une nouvelle normalité, plus rapide,
16:03
plus dense, plus nerveuse. Une normalité où les acteurs les
16:07
mieux équipés absorberont l'accélération et où les autres
16:10
tenteront simplement de ne pas décrocher.
16:12
Au fond, anthropique dit peut être quelque chose de très
16:15
simple. Il faut mettre tout le monde au
16:17
Footing maintenant, parce qu'ensuite il faudra tenir le
16:19
demi fond. Au fond, tout se joue là,
16:21
qu'aura t on corrigé avant que cette avance ne se referme ?
16:25
Et voilà peut être la phrase la plus importante de tout cet
16:28
épisode. Claude Mythos preview n'annonce
16:30
pas seulement un modèle plus fort, il impose un nouveau
16:33
rapport au temps. D'abord corriger, ensuite
16:36
courir. Voilà Franck, ce que je pouvais
16:38
te dire de mythos. Et maintenant il faut déjà
16:41
retourner sécuriser ce qui peut encore l'être.
16:43
Merci Cyril pour ton temps et pour cet échange à très bientôt.
16:46
Vous écoutiez Claude mitos quelques mois pour corriger.
16:50
Merci de votre écoute. Si cet épisode vous a été utile,
16:53
le plus simple est de le partager.
16:55
Et si vous pensez à quelqu'un du secteur en l'écoutant, envoyez
16:58
lui ou partagez le sur LinkedIn.