Latest / Le centre de gravité / La pierre de Sauron dans votre smartphone

Transcript

La pierre de Sauron dans votre smartphone · Le centre de gravité

0:00
Épisode la Pierre de Sauron dans votre smartphone, chapitre un,
0:05
la Pierre qui voit tout, un nom vieux de 3000 ans, une Pierre
0:10
qui corrompt, celui qui la tient et une entreprise qui vaut 200
0:14
milliards. demandez-vous pourquoi ils ont choisi ce nom
0:19
là. Il.
0:21
Y a une chose que Peter till et Alex Carp ont faite avant de
0:23
lever un seul dollar avant d'écrire une seule ligne de
0:26
code, ils ont choisi un nom. Ce nom vient d'un roman de
0:30
Tolkien dans le Seigneur des Anneaux.
0:32
Les palantirs sont des pierres de vision, des Globes de cristal
0:35
indestructibles qui permettent de voir ce qui se passe à des
0:38
milliers de kilomètres. Elles ont été forgées par les
0:40
Elfes, 7 d'entre elles ont été données au roi des hommes et
0:44
Sauron, le Seigneur des ténèbres, s'en est emparé une à
0:47
une. Il ne les a pas détruites, il
0:49
les a utilisées pour diffuser de la propagande, semer le
0:52
désespoir, montrer à ses ennemis des visions soigneusement
0:56
choisies. Le professeur Tom Chipet,
0:58
spécialiste de Tolkien, l'a écrit en 1982, la Pierre ne ment
1:02
pas, mais elle peut tromper en montrant une vérité incomplète.
1:04
Ce n'est pas le mensonge brut, d'Orwell, c'est quelque chose de
1:08
plus subtil. Et til et carp, 2 philosophes
1:11
qui ont tous les 2 étudié, Léo Strauss et l'école de Francfort,
1:14
savaient exactement ce que ce nom portait.
1:17
Mettons ça en face d'un autre fait daté et précis, nous sommes
1:20
en 2003. Le Congrès américain vient de
1:25
couper les fonds d'un programme fédéral appelé Total Information
1:29
Awareness, piloté par l'amiral John Point Dexter.
1:33
Ce programme visait à croiser toutes les bases de données
1:35
disponibles sur les citoyens américains transactions
1:38
bancaires, relevés médicaux, communications téléphoniques.
1:42
Pour identifier des suspects terroristes avant qu'ils ne
1:44
passent à l'acte. Les sénateurs des 2 parties ont
1:47
voté contre. Ils ont utilisé exactement ce
1:50
mot pour justifier leur vote orwellien. 6 mois plus tard,
1:53
Peter Thiel fonde palantir technologies. la CIA, via son
1:57
bras d'investissement in cutel, injecte 2000000 de dollars de
2:01
seed money. Le programme, que la démocratie
2:03
américaine avait refusé, reprend vie.
2:05
Mais cette fois, il n'y a pas de vote, il n'y a pas de débat au
2:09
Congrès, il y a une start-up dans une cave de Palo Alto.
2:12
C'est la première ironie que cet épisode va dérouler.
2:15
Mais ce n'est pas la plus vertigineuse, la plus
2:17
vertigineuse, on va y arriver. Elle tient dans le discours
2:21
d'Alex carpe à CNBC en février 2000251 homme qui vient de
2:26
construire l'outil de surveillance le plus puissant
2:28
jamais remis entre les mains d'un État qui regarde la caméra
2:32
et dit sans ciller, the West as a notion and as a principal is
2:36
obiously supérior. l'Occident comme idée et comme principe
2:40
d'organisation est évidemment supérieur la civilisation libre
2:44
contre la barbarie et lui en est le gardien.
2:48
Voilà la question que cet épisode pose.
2:50
George Orwell a imaginé Big Brother comme un dictateur qui
2:54
se sait dictateur, il n'a pas imaginé Big Brother, persuadé
2:57
d'être Winston Smith. Chapitre 2, ce que le congrès
3:02
avait refusé, Palantir ne naît pas malgré la démocratie, elle
3:07
naît à la place de la démocratie.
3:10
Dans l'espace exact que celle-ci a décidé de laisser vide.
3:13
Pour comprendre ce qui est palantir structurellement, il
3:16
faut comprendre ce qu'elle remplace.
3:17
En 2002, John Paul Dexter présente son programme de
3:20
surveillance totale, avec un logo qui représente un œil qui
3:23
rayonne sur le globe terrestre, un œil providentiel.
3:25
La ressemblance avec l'œil de sauron dans les adaptations
3:28
cinématographiques de Tolkien est tellement frappante que des
3:31
journalistes s'en amusent. À l'époque, le Congrès dit non,
3:33
mais le besoin, lui, n'a pas disparu.
3:35
Les agences de renseignement américaines nagent dans des
3:37
données hétérogènes, rapport terrain, fichier.
3:40
Douanes, relevés téléphoniques, bases de données étrangères, et
3:43
elles n'ont pas les outils pour les croiser efficacement.
3:45
C'est précisément ce vide que palantir vient occuper.
3:47
Ce que palantir fait n'est pas de la surveillance au sens d'une
3:50
caméra dans une rue, c'est de la synthèse.
3:52
Le produit qui s'appelle Gotham, encore un nom, tolkienien.
3:55
La Cité des hommes est conçu pour ingérer des données
3:57
hétérogènes, les réconcilier, trouver des connexions que
4:00
personne n'aurait vu à la main. Imaginez une araignée au centre
4:03
d'une toile. Chaque fil est une base de
4:04
données différentes, relevé de téléphone, historique, bancaire,
4:07
photo de surveillance, registre d'entrée au.
4:10
Frontières et Gotham est l'araignée qui sent la vibration
4:12
de chacun d'eux simultanément. Ce n'est pas de la magie, c'est
4:15
de l'ingénierie de données très coûteuses, mais l'effet produit
4:18
ressemble à de la magie. À partir d'informations que
4:20
personne n'avait associées, Gotham peut reconstituer une
4:23
vie. Les documents fournis par Edward
4:24
Snowden as the intercept, publiés en 2017, le montrent
4:27
avec précision, palantir a aidé la NSA à construire et a
4:29
accélérer l'utilisation de XK score, l'un des outils de
4:32
surveillance de masse les plus étendus de l'arsenal américain,
4:35
pas seulement en vendant un produit off the Shell, en
4:37
intégrant les flux de. Donner NS à directement dans la
4:41
plateforme palantir pour permettre aux analystes de
4:44
travailler dessus avec des outils visuels.
4:45
Palantir fournit le cockpit depuis lequel on pilote la
4:49
surveillance globale. The intercept titre en février
4:50
2017 comment palantir de Péter Thiel à aider la NS à à
4:54
espionner le monde entier, qui capte la valeur dans ce schéma ?
4:56
Palantir, à la différence d'une agence gouvernementale, elle
4:58
n'est soumise à aucune des contraintes légales qui s'impose
5:01
à ses clients avec une agilité contractuelle que le secteur
5:04
public ne peut pas avoir. Et comme le savoir faire
5:07
technique, reste du côté du fournisseur.
5:10
Le gouvernement dépend d'elle, pas l'inverse.
5:12
C'est la logique d'infrastructure, celui qui
5:14
contrôle le tuyau contrôle ce qui passe dedans, même si
5:17
officiellement c'est le client qui décide.
5:19
Salon les rapports financiers officiels publiés par Palantir,
5:22
le chiffre d'affaires total de 2025 atteint 4,475 milliards de
5:24
dollars, croissance de 70% sur le dernier trimestre de l'année
5:27
au premier trimestre 2026, 85% de croissance hier en hier, à ce
5:30
rythme, la valorisation boursière flirte avec 200
5:32
milliards de dollars. Ce n'est plus une start-up de
5:34
niche pour agence. Le renseignement, c'est une
5:41
infrastructure mondiale et cette infrastructure a un biais de
5:44
conception, elle optimisé la surveillance, pas la liberté.
5:47
Chapitre 3, le score de confiance dans 1984, la pensée
5:50
police Traquait les intentions à Washington en 2000261 algorithme
5:53
attribué un score de 0 à 100 sur la probabilité que vous soyez
5:56
chez vous et si le score est suffisant.
5:59
Une voiture arrivé. Il existe un outil qui s'appelle
6:04
Elite et Nance leads Identification and Targeting for
6:08
Enforcement, le nom complet. Est déjà un programme.
6:11
Un agent Ice l'a décrit à des journalistes de State of
6:13
surveillance en avril 2026, avec cette formule qu'il voulait
6:17
probablement rassurante, Kind of Life Google Maps for finding
6:20
people un peu comme Google Maps pour trouver des gens, voilà ce
6:23
que fait Elite. Concrètement, il agrège des
6:25
données provenant des dossiers Medicaid du département de
6:28
santé. Des relevés fiscaux de l'i RS
6:30
des lecteurs de plaques minéralogiques installés dans
6:32
les villes à partir de ces flux. Combinés, ils constituent un
6:35
dossier individuel par personne ciblée et ils génèrent un score
6:37
de confiance pour chaque adresse associée à cette personne sur
6:40
100 points. Quelle est la probabilité que
6:42
l'individu habite réellement là si le score est élevé ?
6:44
L'adresse entre dans une liste d'exportations pour les équipes
6:47
de terrain, une carte de chaleur géospatiale signale les zones de
6:49
fortes densités de cibles potentielles.
6:50
Prenons le temps de traduire ce que ça signifie juridiquement,
6:51
un mandat d'arrêt en droit américain exige une liste de
6:53
fortune de fortune pour une carte pour une carte dans un
6:54
mortalité de pour une carte dans un mortalité dans une carte dans
6:56
la des équipe dans un mortalité dans une carte d'union de plus
6:57
de plus de plus de plus d'un an. Cause probable, probable cause
7:00
fondée sur des éléments de preuve.
7:02
Un score algorithmique de 67 sur 100 sur une adresse probable
7:05
n'est pas une cause probable. C'est une inférence statistique
7:08
produite à partir de données médicales et fiscales.
7:10
La American Civil Liberty Union l'a écrit noir sur blanc, en
7:14
janvier 2026, Palantir aide Ice à procédé à des arrestations qui
7:18
ne satisfont pas aux exigences constitutionnelles du 4e
7:20
amendement. Et pourtant, les arrestations
7:23
ont lieu. En avril 2025, Ice signe un
7:25
contrat de 30000000 de dollars avec.
7:28
Palantir, pour construire immigration OS, le système
7:31
d'exploitation de l'immigration, ce n'est pas un outil de gestion
7:34
de cas, c'est un outil de sélection et d'appréhension.
7:36
Pour reprendre la terminologie du contrat lui même, il croise
7:40
les données de passeport, les numéros de sécurité sociale, les
7:43
relevés IRS, les données de plaques d'immatriculation dans
7:45
un système unifié opérationnel. Maintenant, ouvrons la page 6 de
7:49
1984, la section sur la pensée police.
7:51
Orwell décrit un appareil qui surveille les expressions
7:53
faciales, les tics nerveux, les murmures dans le sommeil.
7:59
L'objectif n'est pas de punir un crime commis, c'est d'identifier
8:02
une pensée criminelle avant qu'elle ne devienne acte.
8:04
Le fodcrime n'est pas un délit d'intention, c'est un délit de
8:07
probabilité, et Orwell avait compris que la probabilité est
8:10
plus dangereuse que la preuve parce qu'elle est irréfutable.
8:13
Comment prouver que vous n'êtes pas un risque ?
8:15
Le score de confiance de élite opère exactement dans cette
8:18
logique. Ce n'est pas cette personne a
8:20
commis une infraction, c'est selon notre modèle.
8:22
Cette personne présente une probabilité suffisante d'être
8:24
ici pour justifier une opération.
8:27
La présomption d'innocence ne. Applique pas à un modèle
8:29
probabiliste et le modèle ne peut pas témoigner à la barre.
8:32
Mais élite n'est qu'un point d'entrée dans quelque chose de
8:35
beaucoup plus grand. Maven Smart system, le contrat
8:37
militaire de Palantir avec le Pentagone, utilise cloud eye
8:41
pour consolider le cycle complet du ciblage militaire, détection
8:44
satellite, identification de cible, priorisation, assignation
8:48
de frappe dans un seul tableau de bord.
8:50
Salon difense schoop ce système à réduit le personnel nécessaire
8:53
à ces opérations de 2000 analystes à 20 opérateurs, le
8:57
contrat est passé de 400. 80000000 de dollars en mai 2024
9:01
à un plafond de 1,3 milliards en mai 2025.
9:04
Louis Mosselet, directeur de Palantir pour le Royaume-Uni,
9:07
interrogé sur la responsabilité des frappes létales générées par
9:10
le système, répond, c'est la responsabilité des clients
9:13
militaires, pas la nôtre. George Orwell n'avait pas prévu
9:16
ça. Il avait prévu le bourreau, qui
9:17
sait qu'il est bourreau. Il n'avait pas prévu le
9:19
fournisseur de logiciel qui se déclare exonéré de toute
9:22
responsabilité par ses conditions générales
9:24
d'utilisation. Chapitre 4, les gardiens de
9:27
l'Occident, il y a une rhétorique.
9:28
Plus efficace que la peur pour faire accepter la surveillance,
9:31
c'est la vertu. En 2025, Alex Carp peut publier
9:35
1£, qui s'appelle The Technological Republic.
9:38
Il est philosophe de formation, titulaire d'un doctorat en
9:40
théorie sociale de l'université de Francfort, ville de l'école
9:43
critique qui a passé des décennies à analyser les
9:46
mécanismes par lesquels le pouvoir se légitime.
9:49
Et son livre argumente que les démocraties occidentales ont
9:52
besoin d'une élite technique courageuse pour survivre à leurs
9:55
ennemis. Il cite la décadence des
9:57
universités, l'infiltration de ce qu'il appelle une religion
10:01
païenne qui considère tout ce qui a fonctionné en Amérique
10:04
comme ipso facto mauvais. Time magazine, en 2025, le
10:07
décrit comme l'incarnation d'un nouveau type de milliardaire de
10:10
la Silicon Valley, un techno nationaliste assumé qui
10:13
évangélise la puissance occidentale.
10:17
Voilà le mécanisme rhétorique qu'Orwell décrit dans 1984 sous
10:20
le nom de double think, la double pensée, tenir
10:22
simultanément 2 croyances contradictoires et les accepter
10:25
toutes les 2. La surveillance est mauvaise
10:27
quand elle sert la tyrannie, la même surveillance est vertueuse
10:31
quand elle sert la liberté. Et comme c'est carpe qui définit
10:34
la liberté, la conclusion s'écrit elle même.
10:36
Mais regardons. Peter Thiel, le moins bavard des
10:39
2. En 2009, dans un texte publié
10:41
dans le Catho Unbound, thil écrit une phrase qui mériterait
10:44
d'être placard. Dans tous les cours de
10:48
philosophie politique, je ne crois plus que la liberté et la
10:51
démocratie soient compatibles. Thil pense que le suffrage
10:55
universel, notamment celui des femmes il le dit explicitement,
10:59
a rendu le capitalisme libertarien impossible à
11:02
défendre démocratiquement. Sa solution implicite est une
11:05
gouvernance technique par des élites compétentes soustraites
11:08
au vote populaire. 10 ans après avoir écrit ça, il tient dans
11:12
ses mains l'outil de surveillance que le vote
11:14
populaire américain avait précisément refusé de financer.
11:17
L'ironie n'est pas accidentelle. Pour un dirigeant d'entreprise
11:20
qui réfléchit à sa posture face à palantir, faut-il intégrer
11:24
foundry ou AIP dans son organisation ?
11:27
Voilà la question structurelle que carpettile pose
11:29
implicitement, qui contrôle la donnée qui vous concerne ?
11:33
En 2026, palantir déclarait publiquement des contrats actifs
11:36
avec plus de 30 gouvernements et des centaines d'entreprises
11:39
commerciales. Selon ses rapports trimestriels,
11:41
la croissance commerciale américaine atteint 121% au 3e
11:45
trimestre 2025. Les hôpitaux, les banques, les
11:46
fabricants, industriels, tous intègrent fendri et fandri par
11:49
construction donne à palantir une visibilité sur les
11:54
opérations de ses clients que les clients eux-mêmes n'ont peut
11:58
être pas envie qu'un tiers possède.
12:03
En, 201920035 employés de palantir signent une pétition
12:05
interne contre les contrats. Ice, très ancien salarié, publie
12:08
une lettre ouverte. Alex Scarp répond qu'il comprend
12:11
leur détresse et il continue, c'est précisément la logique de
12:15
ce que Orwell appelle le Black White, la capacité à croire
12:18
sincèrement au moment où on en a besoin, que noir signifie blanc
12:23
et blanc signifie noir. Karp ne ment pas.
12:25
Quand il dit défendre la liberté, il croit probablement
12:28
chaque mot. Ce qui ne change rien à ce que
12:33
le système fait réellement. Chapitre 5, la grille de
12:39
lecture. Le problème n'est pas palantir,
12:42
le problème c'est quoi détient la Pierre et ce que ça fait à
12:45
celui qui la regarde. Tolkien avait une intuition
12:48
précise sur les palantir que les analystes de son œuvre ont mis
12:51
du temps à formuler clairement, la Pierre ne corrompt pas parce
12:54
qu'elle est mauvaise, elle corrompt parce qu'elle montre
12:57
trop. Celui qui la regarde voit vrai,
12:59
mais il voit sans contexte, sans temps, sans la friction qui
13:03
structure la compréhension humaine.
13:05
Denetor, dans le retour du roi, regarde sa Pierre jusqu'à la
13:08
folie, pas parce que sauron lui envoie des mensonges, mais parce
13:11
que les vérités partielles qu'il reçoit lui donne une certitude
13:15
qu'aucun être humain ne devrait avoir.
13:17
Il sait donc il décide seul, donc il s'isole de tout conseil,
13:21
donc il se trompe catastrophiquement.
13:24
C'est le modèle exact de ce que produit naven quand il réduit
13:27
2000 analystes à 20 opérateurs. Ce n'est pas la même chose de
13:31
conclure après 1 h de délibération collective que de
13:34
valider une liste de cibles produites par un algorithme en 3
13:36
Min. La vitesse n'est pas neutre,
13:38
elle exclut le doute, la contre-expertise, la question
13:42
que personne n'a pensé à poser. Voici ce que cet épisode vous
13:46
laisse en main pour lire ce qui vient.
13:48
La donnée n'est pas une ressource naturelle passive.
13:51
Elle est active, orientée, structurée par celui qui la
13:54
collecte et la modélise. Quand une organisation intègre
13:58
fonderie ou AIP, elle gagne une capacité analytique réelle et
14:01
elle donne à palantir une vue sur son fonctionnement interne
14:03
qu'aucun audit externe n'aura jamais.
14:05
La question n'est pas, est ce que ce logiciel est efficace ?
14:09
La question est, qui contrôle ce que je sais sur moi ?
14:13
Même la règle de dépendance dans les infrastructures est simple,
14:16
celui qui a le moins d'alternative paie le prix fort.
14:20
Pas nécessairement en argent. En 2026, le Pentagone américain
14:23
a désigné Naven comme programme de record.
14:25
Il ne peut plus s'en passer. Ce lock in stratégique n'arrive
14:29
jamais brutalement. Il s'installe à chaque
14:31
intégration supplémentaire, chaque nouveau flux de données
14:34
connectés, jusqu'au moment où le coût de sortie est devenu
14:37
impossible à assumer. Et la question qu'Orwell aurait
14:40
posé en dernier, parce que c'est la plus difficile dans 1984, la
14:44
pensée police n'agit pas dans les espaces que les gens
14:47
surveillent. Elle agit dans ce qu'ils ont
14:50
abandonné parce qu'ils pensaient qu'il n'y avait rien à
14:52
surveiller. Là, les dossiers Medicaid ne
14:55
semblent pas sensibles à quelqu'un qui raisonne en terme
14:57
de j'ai rien à cacher. Ils deviennent une arme quand
15:01
quelqu'un décide que la catégorie de personne à laquelle
15:03
vous appartenez constitue un risque.
15:05
La vraie leçon de palantir n'est pas une leçon sur la
15:08
surveillance. C'est une leçon sur la
15:10
délégation à chaque fois qu'une société confie à un acteur privé
15:14
une capacité que ces institutions démocratiques
15:16
avaient jugée trop dangereuse d'exercer elle même.
15:19
Le risque ne disparaît pas, il se déplace moins visible, moins
15:23
auditable, moins contestable. George Orwell a écrit 1984 en
15:27
1948, tuberculeux sur une île écossaise, sans chauffage, dans
15:28
une maison qui tombait en ruine. Il est mort 6 mois après la
15:33
publication. Il n'a pas vu internet.
15:39
La CIA finançant une start-up dans une cave de Palo Alto avec
15:41
2000000 de dollars de seed money pour reconstruire le programme
15:44
que le Congrès venait de rejeter, ça, il ne pouvait pas
15:47
le voir. Encore moins qu'un algorithme
15:49
pourrait attribuer un score de probabilité sur votre adresse
15:52
pour décider si une voiture doit venir frapper à votre porte.
15:55
Mais il avait vu quelque chose de plus fondamental, il avait vu
15:59
comment une idée de justice peut devenir le langage le plus
16:02
efficace pour habiller une machine à contrôler.
16:06
Et il avait compris que le danger n'est pas dans la
16:08
brutalité, le danger est dans la sincérité de ceux qui tiennent
16:11
la Pierre. Vous écoutiez la Pierre de
16:16
Sauron dans votre smartphone. Merci d'avoir écouté jusqu'au
16:20
bout. Si cet épisode vous a parlé,
16:22
partagez le à quelqu'un qui pense que la surveillance, c'est
16:25
le problème des autres.