Latest / Le centre de gravité / L'IA en blouse blanche — ce que le diagnostic révèle de la médecine

Transcript

L'IA en blouse blanche — ce que le diagnostic révèle de la médecine · Le centre de gravité

0:00
Il y a en blouse blanche ce que le diagnostic révèle de la
0:03
médecine, chapitre un, le concile, pas une IA5 qui
0:08
débattent, se contredisent et recalculent avant de rendre un
0:13
verdict. L'avantage de la machine n'est
0:15
peut être pas d'être plus intelligente, c'est de ne jamais
0:19
diagnostiquer seul. Le 14 mars 2026, une phrase
0:23
circule dans le monde médical avec la brutalité des chiffres
0:26
qui ont l'air de se suffire à eux-mêmes. 85,5% contre 20%.
0:29
D'un côté, un système d'intelligence artificielle
0:30
conçu par Microsoft, de l'autre, des médecins expérimentés.
0:34
Le système trouve le bon diagnostic dans 85,5% des cas,
0:38
les médecins en moyenne dans 20% pris.
0:40
Seul le chiffre semble raconter une histoire simple, la machine
0:42
aurait dépassé le médecin, mais ce n'est pas exactement ce qu'il
0:47
dit. Le système testé par Microsoft
0:55
n'est pas une IA solitaire. C'est une orchestration de
0:58
plusieurs agents spécialisés qui examinent le même dossier,
1:00
formulent des hypothèses, demandent des examens,
1:03
critiquent les pistes trop rapides, puis convergent vers un
1:06
diagnostic. Jusqu'à 5 agents participent à
1:09
cette délibération. Cela ressemble moins à un
1:11
cerveau artificiel qu'à un staff médical miniaturisé, selon le
1:16
papier de Microsoft AI Health publié en juin 2025.
1:20
Le système a été évalué sur 304 cas complexes issus du New
1:24
England Journal of Medicine. Avec le modèle O 3 d'open AI,
1:27
l'ensemble atteint 85,5% de diagnostics corrects, avec
1:29
environ 28% de tests en moins et 20% de coût en moins.
1:33
Sa force n'est pas seulement encyclopédique.
1:34
Le système maintient des hypothèses concurrentes, évite
1:35
de se fixer trop tôt sur une première intuition et réévalue
1:40
ses probabilités à mesure que les informations arrivent.
1:49
Son avantage n'est peut être pas d'être plus intelligent qu'un
1:51
médecin, il est peut être de raisonner de manière plus
1:54
disciplinée. Il y a là quelque chose
1:57
d'ironique, ce que la machine reproduit le mieux.
1:59
Ce n'est pas une forme de génie solitaire, c'est une forme de
2:02
médecine idéale. Plusieurs regards sur un même
2:05
cas, plusieurs hypothèses maintenues ouvertes, une
2:08
contestation interne permanente, sans ego, sans fatigue, sans
2:12
peur de contredire le chef de service.
2:15
Si l'avantage décisif de la machine vient du fait qu'elle ne
2:18
raisonne jamais seule, alors le vrai révélateur de cette étude
2:21
n'est pas seulement la performance de l'i a, c'est
2:24
aussi l'isolement du médecin. Car le score murmure peut être
2:28
quelque chose de beaucoup plus simple.
2:30
Un collectif bien organisé diagnostique mieux qu'un
2:32
individu isolé. Ce n'est pas forcément une
2:35
révolution sur l'intelligence, c'est presque une banalité sur
2:38
les institutions humaines. Pour juger ce chiffre
2:42
honnêtement, il faut donc regarder l'autre côté de
2:44
l'expérience. Non pas la machine, mais les
2:46
médecins et la manière dont on les a mis à l'épreuve.
2:50
Chapitre 2, le médecin nu on reproche à l'étude d'avoir testé
2:55
les Médecins sans leurs outils, sans collègues, sans base de
2:58
données. On appelle ça un biais.
3:01
Mais pour un généraliste seul dans un village à 02h00 du
3:04
matin, c'est parfois simplement la réalité.
3:08
L'étude de Microsoft a une fragilité évidente, elle ne
3:11
compare pas le système à des médecins travaillant dans leurs
3:13
conditions réelles. Les 21 praticiens testés
3:17
exerçaient au Royaume-Uni et aux États-Unis, avec 5 à 20 ans
3:20
d'expérience. Mais ils ont dû diagnostiquer de
3:23
mémoire sans collègues, sans moteur de recherche, sans base
3:26
de données, sans revue, sans examen physique.
3:30
L'objection est immédiate, un médecin ne travaille pas comme
3:33
cela. Ou plutôt, il ne devrait pas.
3:36
Ajoutons que l'étude était publiée en preprint sans revue
3:39
par les pairs au moment de sa diffusion.
3:41
Le chiffre existe, mais il vient avec sa propre ombre.
3:44
On pourrait donc conclure assez vite, comparaison biaisée,
3:48
communication spectaculaire, prudence, ce serait juste, mais
3:52
insuffisant. Oui, les médecins ont été testés
3:55
dans des conditions artificiellement dures, oui on
3:58
les a mis nus, mais combien de fois travaillent ils déjà ?
4:00
Ainsi, un généraliste en zone sous dotée, une garde de nuit,
4:05
une urgence saturée, un spécialiste indisponible, un
4:08
dossier incomplet. La médecine réelle n'est pas
4:11
toujours ce lieu idéal où chaque décision se prend à plusieurs.
4:14
Avec du temps, des outils et du recul, elle est souvent une
4:18
pratique de solitude contrainte. C'est pour cela que l'étude est
4:21
plus troublante qu'elle n'en a l'air.
4:23
Le protocole est biaisé, oui, mais il est biaisé dans le sens
4:26
du réel. Les 2 choses sont vraies.
4:28
D'un côté, la comparaison n'autorise pas à dire
4:30
sereinement que la machine est meilleure que les médecins en
4:32
général. De l'autre, l'écart observé
4:34
n'est pas vide de sens. Il montre qu'un système capable
4:36
de faire coexister plusieurs angles, de ne pas s'épuiser et
4:39
de ne pas s'accrocher à sa première intuition, part avec un
4:41
avantage énorme face à un humain isolé.
4:44
D'autres travaux récents vont dans le même sens.
4:46
Une étude relayée en 2024 montrait un modèle de type Chat
4:48
GPT4 à environ 90% de précision sur des cas cliniques, contre
4:50
74% pour des médecins seuls. Mais des médecins assistés par
4:53
l'i a ne montaient qu'à 76%. Ajouter l'outil à l'humain ne
4:55
suffit donc pas. L'humain ne sait pas encore
4:57
vraiment travailler avec lui. La vraie question n'est pas
5:00
pourquoi les médecins ont-ils été testés seuls ?
5:02
C'est pourquoi exercent ils seuls ?
5:08
À partir de là, le chiffre de départ change de nature. 85,5
5:11
contre 20 ne prouvent peut être pas que la machine est déjà un
5:13
meilleur médecin. Il montre peut être qu'un
5:15
médecin isolé est devenu dans beaucoup de situations une unité
5:18
de décision trop fragile pour la complexité qu'on lui demander
5:20
d'absorber. Le sujet cesse alors d'être
5:23
seulement scientifique, il devient moral et politique.
5:27
Chapitre 3, les morts qu'on ne compte pas.
5:30
On exige de l'i a qu'elles ne se trompent jamais.
5:32
On tolère de la médecine qu'elle se trompé en silence.
5:35
Les erreurs diagnostiques tuent, mais elles sont si mal déclarées
5:38
qu'elles flottent à la lisière du visible.
5:40
Dès qu'on parle d'intelligence artificielle en médecine, la
5:43
même inquiétude revient. Et si elle se trompe, la
5:45
question est légitime. Mais elle est souvent posée.
5:47
Comme si le système auquel on compare la machine, lui, ne se
5:50
trompait pas déjà. En France, selon la haute
5:52
autorité de santé, les erreurs diagnostiques représenteraient
5:55
environ 25% des décès liés à une erreur médicale.
5:57
Aux urgences, elles constituent la 2e cause d'événements
5:59
indésirables graves et en 20244006130 événements
6:02
indésirables graves associés aux soins ont été officiellement
6:03
déclarés, dont 44% ont conduit au décès du patient.
6:06
Cela fait autour de 2000 morts déclarés déclarés seulement.
6:14
Car le plus important est peut être dans l'ombre du chiffre.
6:16
La Haute autorité de santé considère elle même que le
6:18
phénomène est massivement sous déclaré, au point de viser un
6:21
volume de signalements 5 fois plus élevé d'ici 2030.
6:24
Ce que nous voyons aujourd'hui n'est qu'une fraction du
6:26
problème. Toute la dissymétrie du débat
6:29
est là. On demande à l'i a de prouver
6:30
qu'elle ne se trompe pas. On ne demande pas au système
6:32
actuel de prouver à quel point il se trompe déjà.
6:35
Une erreur d'algorithme choque parce qu'elle semble froide,
6:38
artificielle, presque illégitime.
6:40
Une erreur humaine. Elle reste enveloppée dans une
6:42
forme d'indulgence civilisationnelle.
6:44
Nous savons qu'un médecin peut rater un diagnostic.
6:46
Nous avons appris à vivre avec cette idée.
6:48
Pourtant, certains cas rendent cette indulgence difficile.
6:51
En 2000, Alan Navarro se présente aux urgences en Floride
6:54
avec des signes d'accident vasculaire cérébral et des
6:57
antécédents familiaux explicites.
6:58
Les médecins retiennent l'hypothèse d'une sinusite,
7:01
prescrivent des antidouleurs et le renvoient.
7:03
Le retard de prise en charge provoque des dommages cérébraux
7:05
majeurs. Le verdict judiciaire atteindra
7:08
plus tard 216000000 de dollars. En 2003, à l'université Duke,
7:11
Jessica Santian reçoit une greffe cœur poumon provenant
7:14
d'un donneur au groupe sanguin incompatible.
7:16
Une 2nde grève sera tentée en urgence.
7:19
Elle mourra malgré cela. Aujourd'hui, une grande partie
7:22
de ce type de vérification relève de systèmes automatisés.
7:24
Ces cas ne prouvent pas que la machine sauvera tout.
7:27
Ils prouvent que l'erreur humaine n'a rien d'une
7:29
abstraction honorable. C'est une réalité
7:31
administrative, physiologique parfois fatale.
7:35
Il ne s'agit pas d'excuser les erreurs de l'i a au motif que
7:38
l'humain se trompe déjà. Il s'agit de comparer
7:40
honnêtement 2 vulnérabilités. Une machine peut halluciner, mal
7:43
généralisée, manquer le contexte.
7:45
Un médecin peut être fatigué, isolé, pressé, mal outillé, pris
7:49
dans un biais de confirmation ou simplement enfermé dans un
7:51
système trop étroit pour l'aider à penser.
7:54
La première vulnérabilité nous effraie par sa nouveauté, la
7:57
2NDE est devenue banale. Or les banalités tuent très
7:59
bien. À partir du moment où l'on admet
8:01
que le système actuel produit déjà un nombre élevé, mal mesuré
8:04
et mal assumé d'erreurs graves, la question de l'i a change.
8:07
Il ne s'agit plus de savoir s'il faut introduire du risque.
8:10
Le risque est déjà là. Il s'agit de savoir quel type de
8:13
risque est le plus réductible, le plus visible, le plus
8:15
corrigeable. Une erreur humaine se disperse
8:19
dans l'épaisseur du réel. Une erreur algorithmique, au
8:21
moins en principe, laisse des traces, des motifs, des
8:24
répétitions, des angles d'audit. Cela ne la rend pas acceptable,
8:27
mais cela la rend parfois plus gouvernable.
8:31
Et cette question devient encore plus brutale quand on ne regarde
8:34
plus les erreurs du système, mais ses absences.
8:35
Car il y a en France des 1000000 de gens pour qui le problème
8:38
n'est même pas un mauvais diagnostic.
8:40
Le problème, c'est l'absence de médecin.
8:44
Chapitre 4, le désert. 6700000 Français n'ont pas de médecin
8:48
traitant. Pour eux, le débat sur l'i.
8:51
A n'oppose pas 2 médecines. Il oppose quelque chose à rien.
8:56
Tant qu'on parle d'intelligence artificielle face à un médecin
8:58
disponible, compétent et accessible, le débat reste
9:01
classique. On peut peser les risques, les
9:02
bénéfices, la relation humaine, la confiance, la responsabilité.
9:06
Mais dès qu'on regarde les zones où cette médecine là n'existe
9:09
plus vraiment, tout change. En 2025, selon les chiffres du
9:13
ministère de la santé, repris dans plusieurs bilans récents,
9:16
environ 6,7 1000000 de Français n'ont pas de médecins traitants
9:19
et près de 9000000 vivent dans des zones médicalement sous
9:22
dotées. Une partie considérable du pays
9:24
vit déjà dans une médecine d'accès dégradée.
9:28
Le vocabulaire administratif masque la dureté du réel.
9:31
Une zone sous dotée, ce n'est pas un léger déficit de confort,
9:34
c'est un territoire où prendre rendez-vous devient une
9:36
entreprise où l'urgence la plus proche est loin, où le
9:39
spécialiste est rare, où les délais rongent la décision
9:41
médicale avant même qu'elle n'ait commencé.
9:45
Le gouvernement a identifié 151 zones rouges prioritaires.
9:47
Les installations de généralistes en zone sous dense
9:50
restent au plus bas, autour de 579 sur 12 mois, en baisse.
9:52
Ce n'est pas un trou d'air, c'est une structure et cette
9:55
structure change. Le calcul moral pour une partie
9:59
des classes moyennes urbaines par les dia médicales revient à
10:02
se demander si l'on veut qu'une machine prenne la place d'un
10:05
médecin dans des pans entiers du territoire.
10:06
La question réelle est différente, que fait on quand il
10:09
n'y a déjà plus de médecins à remplacer ?
10:15
Le débat IA contre humain est souvent un luxe de gens qui ont
10:17
encore accès à l'humain. Dans les déserts médicaux, la
10:20
fonction première de l'i a n'est pas de remplacer, elle est de
10:22
combler ou au moins d'amortir un vide.
10:24
Cela ne rend pas l'i a miraculeuse, cela rend
10:28
simplement le calcul plus rude. Quand on vit dans une zone bien
10:31
couverte. On peut dire je préfère attendre
10:33
un médecin humain plutôt que de confier mon cas à un système
10:35
algorithmique quand on vit à 45 Min d'un service d'urgence sans
10:39
médecin traitant avec un rendez-vous spécialiste dans 6
10:42
mois. La hiérarchie des scrupules
10:44
change. Pour 6,7 1000000 de français, le
10:48
choix n'est pas entre un médecin et une IA.
10:50
C'est entre une IA et l'angoisse d'un dimanche soir sans personne
10:52
à appeler. Ce n'est pas un argument pour
10:55
déployer n'importe quoi dans des territoires abandonnés.
10:57
Mais la hiérarchie éthique des solutions dépend du niveau
11:00
initial d'abandon. Dans une métropole richement
11:02
équipée, une IA peut apparaître comme une intrusion dans un
11:05
désert médical. Elle peut apparaître comme le
11:08
premier outil d'orientation sérieux depuis longtemps.
11:13
C'est d'ailleurs ainsi que des institutions internationales
11:15
commencent à raisonner. L'Organisation mondiale de la
11:18
santé voit dans l'IA un levier possible pour les régions où les
11:21
spécialistes sont rares. Non parce que la machine serait
11:23
supérieure à la médecine humaine dans l'absolu, mais parce qu'un
11:26
outil imparfait mais disponible peut valoir davantage dans
11:29
certaines géographies qu'une excellence absente.
11:33
Le dilemme politique est là, plus on attend une solution
11:36
souveraine, parfaitement régulée et pleinement intégrée, plus on
11:39
laisse durer des situations où l'absence de soins est déjà la
11:42
norme. Mais plus on va vite avec des
11:44
outils étrangers imparfaitement contrôlés, plus on risque de
11:47
déplacer le problème au lieu de le résoudre.
11:51
La bonne question est donc la suivante, à partir de quel
11:53
niveau de désert médical une aide algorithmique, même
11:56
imparfaite, devient elle plus juste que l'absence d'aide ?
11:59
Et dès qu'on accepte cette hypothèse, une autre question
12:01
surgit, quelle IA ? Entraîner sur quelles données et
12:04
avec quels préjugé ? Chapitre 5, les préjugés
12:10
hérités. On pensait pouvoir compter sur
12:13
ça, une machine sans préjugé, mais l'i.
12:16
A n'invente pas ses biais, elle les hérite.
12:18
Et quand elle apprend sur des données produites par un système
12:21
médical inégal, elle reproduit fidèlement ce que personne
12:24
n'avait voulu voir. Il y a dans le récit public sur
12:28
l'intelligence artificielle une illusion tenace, l'idée qu'une
12:31
machine, précisément parce qu'elle n'a ni émotion, ni
12:33
histoire personnelle, ni fatigue, serait plus neutre que
12:36
nous. Cette idée est naïve, une IA
12:38
médicale n'arrive jamais nue dans un hôpital.
12:40
Elle arrive chargée de données d'étiquettes, de décisions
12:43
passées, de variables choisies par des humains et d'inégalités
12:46
accumulées bien avant elle. La machine n'invente pas ses
12:51
préjugés, elle les apprend. Lorsqu'une IA médical
12:54
discrimine, elle ne fait souvent que rendre plus visible une
12:57
discrimination déjà présente. Dans la pratique ordinaire, le
13:00
cas américain est devenu classique.
13:01
Un algorithme de prédiction des besoins en soins concluait que
13:05
des patients noirs étaient en meilleure santé que des patients
13:07
blancs, présentant pourtant des niveaux de maladies comparables.
13:10
Pourquoi ? Parce qu'il utilisait les
13:12
dépenses de santé comme indicateur de l'état de santé.
13:14
Or, des populations historiquement moins bien prises
13:17
en charge dépensent souvent moins, non parce qu'elles vont
13:20
mieux, mais parce qu'elles accèdent moins aux soins.
13:23
L'algorithme n'était pas raciste au sens moral, il était
13:26
comptablement fidèle à un système inégal et cette fidélité
13:30
produisait une injustice clinique.
13:33
Le cas français est plus troublant encore.
13:35
Une étude de l'Inserm menée à partir des données du CHU de
13:38
Bordeaux sur plus de 480000 passages aux urgences entre 2013
13:40
et 2021A montré qu'un système d'i a reproduisait les biais
13:42
cognitifs du personnel soignant envers les femmes.
13:48
À dossier comparable, la sévérité de leur État était plus
13:51
souvent sous-évaluée que celle des hommes.
13:54
Là encore, la machine n'a rien inventé, elle a absorbé le
13:57
regard humain moyen et l'a reproduit avec discipline.
14:01
Dire simplement l'i a est biaisé ne suffit pas.
14:04
Le vrai problème est plus difficile à entendre.
14:06
L'i a est biaisé parce que la médecine l'était déjà et parce
14:09
que ces données sont le dépôt statistique de cette histoire.
14:14
Cette logique peut aller loin. Quand un groupe a moins accès au
14:16
système de soins, il laisse moins de traces utiles dans les
14:19
bases. Et quand il laisse moins de
14:21
traces, l'i a le comprend moins bien.
14:23
La rareté sociale devient une rareté statistique, puis une
14:26
vulnérabilité algorithmique. Mais ce n'est pas toute
14:29
l'histoire. Parce qu'elle fige les écarts,
14:31
la machine peut aussi aider à les exposer.
14:34
L'étude Bordelaise le montre en creux.
14:36
En reproduisant ces différences, le système les a rendus
14:39
mesurables avec une netteté inhabituelle, là où les biais
14:42
humains se dissolvent dans l'habitude.
14:44
Le biais algorithmique peut parfois être audité, testé,
14:47
corrigé à grande échelle. Cela ne rend pas l'i a
14:51
innocente, cela complique le jugement.
14:53
Une IA médicale digne de confiance ne naîtra pas d'un
14:56
mythe de neutralité. Elle naîtra d'un travail patient
14:58
sur les données, sur les métriques, sur les écarts entre
15:02
groupes et sur les institutions qui produisent les dossiers.
15:04
Le problème n'est donc pas seulement technologique, il est
15:09
historique et dès qu'on l'admet, une autre question apparaît.
15:12
Où vivent ces données, sous quel droit et au bénéfice de qui
15:15
entraîne t elle les outils de demain ?
15:18
Chapitre 6, sous juridiction étrangère.
15:22
L'i a qui impressionne le plus aujourd'hui est américaine.
15:25
D'autres modèles peuvent tourner localement dans un hôpital sans
15:29
faire sortir les données. L'alternative européenne, elle
15:32
arrive plus tard. Entre le très performant, le
15:35
localement exécutable et le pas encore prêt.
15:38
La souveraineté médicale cherche encore sa forme.
15:42
Dès qu'on suit la trajectoire des données, on quitte le seul
15:45
terrain du soin, on tombe sur l'infrastructure, le droit, la
15:48
dépendance, autrement dit la géopolitique.
15:52
Le système de diagnostic le plus spectaculaire à ce jour est
15:55
américain, conçu par Microsoft, appuyé sur un modèle d'open AI,
15:59
hébergé dans une infrastructure cloud américaine.
16:01
En médecine, l'outil n'est jamais seulement l'outil, il est
16:05
aussi le tuyau par lequel circulent les données.
16:08
Le droit sous lequel elle tombe et la dépendance qu'il installe
16:11
en France ? Cette question n'est pas
16:12
théorique. Depuis 2019, le Health Data hub,
16:15
la plateforme centrale de partage et de valorisation des
16:17
données de santé, est hébergée sur les serveurs cloud de
16:20
Microsoft. Cette décision a suscité des
16:22
critiques continues de la CNIL, de juristes, de médecins et
16:25
d'experts en souveraineté numérique.
16:29
Le cœur de l'inquiétude est simple, Microsoft est une
16:31
entreprise américaine. Or, une entreprise américaine,
16:34
même lorsqu'elle héberge des données en Europe, peut rester
16:36
soumise à certaines obligations du droit américain.
16:39
C'est le sens du cloud Act adopté en 2018.
16:40
Les autorités américaines peuvent demander à un
16:43
fournisseur comme Microsoft, Amazon ou Google la transmission
16:45
de données auxquelles il a accès, même si elles sont
16:49
stockées hors des États-Unis. Un serveur à Dublin ou à
16:53
Francfort ne suffit donc pas en soi à sortir du problème si
16:56
l'opérateur reste américain. Il faut nuancer, cela ne
17:01
signifie pas que des autorités américaines lisent aujourd'hui
17:04
les dossiers médicaux français. À ma connaissance, il n'existe
17:07
pas de cas public documenté de saisie effective de données de
17:10
santé françaises. Dans ce cadre, le risque est
17:12
surtout juridique, structurel l'attend.
17:15
Mais en matière de souveraineté, le latent compte déjà.
17:19
Le paysage n'est pourtant pas binaire.
17:21
Il existe aussi une zone intermédiaire, des modèles
17:23
conçus ailleurs, mais exécutables ici localement sous
17:26
contrôle opérationnel local. Un modèle ouvert ou ouvert
17:29
emploi peut être téléchargé, installé sur des serveurs
17:32
hospitaliers et adaptés, sans que les données ne sortent
17:35
nécessairement de l'établissement.
17:36
Cela ne supprime pas toute dépendance, mais cela en change
17:39
la forme. La souveraineté n'est donc pas
17:43
un interrupteur, c'est un gradient.
17:45
Il y a une différence importante entre dépendre d'une interface
17:48
fermée qui appelle en permanence un cloud américain, et dépendre
17:51
d'un modèle que l'on exécute sur sa propre infrastructure.
17:54
Dans un cas, l'outil, l'hébergement, les mises à jour
17:57
et le droit sont ailleurs. Dans l'autre, une partie du
18:00
contrôle revient localement. Il faut ajouter à cela les
18:04
usages quotidiens. La dépendance numérique ne se
18:07
construit pas seulement par grands systèmes, elle se
18:09
construit aussi par gestes minuscules et répétés.
18:12
Une radio chargée ici, un compte rendu envoyé là, un scanner
18:15
interprété via un service étranger.
18:19
L'écosystème français existe pourtant, glimer en radiologie,
18:22
aucune sur l'apprentissage fédéré, nabla sur les copilotes
18:25
cliniques et d'autres encore. Ce sont des produits et des
18:28
usages réels. Mais cet écosystème reste petit
18:31
face aux hyperscalers américains, il a des atouts, pas
18:34
encore une masse critique comparable.
18:37
Voilà le dilemme si l'on veut des outils puissants rapidement.
18:41
On dépend largement d'infrastructures américaines.
18:43
Si l'on veut une pleine souveraineté européenne, il faut
18:46
du temps. Et Pendant ce temps, les déserts
18:48
médicaux n'attendent pas. Les erreurs humaines n'attendent
18:50
pas les patients non plus. Les données de santé de 67000000
18:55
de français sont aussi le carburant avec lequel on
18:57
entraîne ou pas les modèles de demain.
18:59
Chaque année passée sur une infrastructure étrangère est
19:02
aussi une année où ce carburant profite moins à la construction
19:05
d'alternatives locales. La souveraineté n'est pas
19:09
l'ennemie de l'innovation, mais en santé, elle entre parfois en
19:13
conflit frontal avec l'urgence et l'urgence a presque toujours
19:16
l'avantage moral immédiat. Reste alors la question
19:20
suivante, qui arbitre entre vitesse, précision, dépendance
19:23
et responsabilité ? Et surtout qui répond quand ce
19:27
choix s'incarne dans un patient ?
19:28
Réel chapitre 7, qui tient le stylo ?
19:34
Les médecins n'ont pas peur de l'i.
19:35
A. Ils ont peur de ce qu'on fera de
19:37
l'i a. Un outil qui aide à soigner
19:41
c'est un progrès, un outil qui dit quoi soigner, à quel coût et
19:44
selon quel protocole, c'est autre chose.
19:48
Après les chiffres, les erreurs, les déserts, les biais et les
19:51
infrastructures, il reste la question la plus ancienne de la
19:54
médecine, qui décide pas, qui calcule pas, qui suggère pas,
19:59
qui corrèle, qui décide et qui porte le poids de ce qui suit.
20:04
Le débat public pose souvent mal le problème.
20:06
On demande. L'i a remplacera T elle le
20:08
médecin ? C'est spectaculaire, mais ce
20:10
n'est probablement pas le vrai nœud.
20:12
Le vrai nœud, c'est de savoir si le médecin gardera la maîtrise
20:15
de la décision dans un environnement où des systèmes de
20:18
plus en plus performants proposeront hiérarchiseront,
20:21
documenteront et recommanderont. Le sujet n'est pas seulement le
20:24
remplacement, c'est l'autonomie. Sur ce point, les enquêtes
20:28
récentes convergent. Beaucoup de médecins voient dans
20:30
l'i a un outil utile pour améliorer l'efficacité, alléger
20:34
certaines charges et renforcer certains diagnostics.
20:37
Mais une part importante exprime aussi une inquiétude nette, leur
20:40
peur principale n'est pas toujours d'être remplacé, c'est
20:42
de perdre la main. Que l'outil soit piloté non par
20:45
les cliniciens, mais par les assureurs, les administrateurs,
20:48
les payeurs, les gestionnaires de flux.
20:51
Cette inquiétude est rationnelle.
20:53
Un système qui aide un médecin à mieux voir un cas difficile est
20:56
une prothèse cognitive, un système qui lui dit quoi
20:59
prescrire, quoi éviter, à qui allouer du temps et selon quelle
21:02
logique économique devient rapidement un instrument de
21:05
gouvernement. En droit français, le médecin
21:09
reste responsable. La loi de bioéthique de 2021
21:12
impose une information du patient sur l'usage de l'i A et
21:14
maintient une garantie humaine. Le règlement européen sur
21:17
l'intelligence artificielle classe ces systèmes comme à haut
21:20
risque, avec des obligations de traçabilité, de contrôle et de
21:24
supervision. Mais ce cadre devient plus
21:28
instable dès lors que l'outil apparaît plus performant sur
21:30
certains segments précis. Si une machine détecte mieux
21:34
qu'un humain certain signaux faibles et si un médecin choisit
21:37
de l'ignorer, que se passe t il ?
21:39
À l'inverse, s'il suit la recommandation et qu'elle se
21:42
révèle fausse, qui porte réellement la faute ?
21:46
Le texte juridique peut bien dire le médecin, mais dans un
21:49
environnement saturé de recommandations algorithmique,
21:52
la responsabilité formelle ne dit pas tout du pouvoir réel.
21:57
C'est là que l'image du stylo devient utile.
22:00
Dans la médecine classique, celui qui tient le stylo n'est
22:02
pas seulement un exécutant, il est le point de condensation
22:05
d'un jugement. Mais si ce jugement est de plus
22:07
en plus prestructuré par une couche algorithmique puissante,
22:11
la signature humaine risque parfois de devenir une
22:13
validation terminale. Plus qu'une décision pleine, le
22:17
glissement peut être imperceptible et pourtant
22:20
immense. Une bonne partie du futur
22:22
médical ne se jouera pas entre médecins Anti IA et machines pro
22:25
IA. Elle se jouera entre des
22:27
institutions qui utilisent l'i a pour épaissir le jugement
22:30
médical et d'autres qui l'utilisent pour le normaliser
22:33
et le gouverner. Le premier usage peut être
22:36
émancipateur, le 2nd peut être appauvrissant même s'il améliore
22:39
les tableaux de bord. C'est pour cela qu'il serait
22:43
trop grossier de conclure que l'i a est bonne ou mauvaise pour
22:46
la médecine. La vraie question est
22:48
institutionnelle, qui tient le stylo quand l'algorithme a
22:51
parlé ? Et avec cela qui tient la
22:53
définition du bon soin ? Le clinicien, l'hôpital,
22:56
l'assureur, l'État, le fournisseur du modèle, le cloud
23:00
qui l'héberge une intelligence artificielle très performante
23:04
peut améliorer le diagnostic, réduire certains angles morts,
23:08
soulager des territoires abandonnés, rendre visibles des
23:11
biais et accélérer l'accès à l'expertise.
23:13
Tout cela peut être vrai et simultanément, le même mouvement
23:17
peut transférer une part du pouvoir médical vers des
23:19
infrastructures. Des financeurs et des
23:21
architectures techniques qui n'ont pas le soin pour finalité
23:24
première. Si je devais résumer le point
23:28
d'arrivée de cet épisode, ce serait celui-ci.
23:30
Le système de Microsoft n'a pas seulement montré qu'une machine
23:33
pouvait bien diagnostiquer, il a révélé quelque chose de plus
23:36
vaste. La médecine contemporaine est à
23:39
la fois trop seule, trop inégalement répartie, trop peu
23:42
auditée sur ses erreurs et déjà trop dépendante
23:44
d'infrastructures qu'elle ne contrôle pas entièrement, l'i a
23:47
ne crée pas tous ses problèmes. Elle les révèle, les accélère et
23:51
oblige à choisir. Le vrai sujet n'est donc pas de
23:55
savoir si l'i a diagnostique mieux sur certains cas.
23:58
Dans certaines conditions, elle le fait déjà.
24:00
Le vrai sujet c'est de savoir qui tient le stylo quand
24:03
l'algorithme a parlé et qui répond quand il s'est trompé.
24:09
Vous écoutiez l'i a en blouse blanche ce que le diagnostic
24:13
révèle de la médecine. Merci d'avoir écouté cet épisode
24:16
jusqu'au bout. Si ce travail vous plaît, vous
24:18
pouvez vous abonner, partager l'épisode et nous laisser une
24:22
note à très bientôt.