Latest / Le centre de gravité / Quand le coguito de Descartes rencontre une machine qui dit "je" sans exister

Transcript

Quand le coguito de Descartes rencontre une machine qui dit "je" sans exister · Le centre de gravité

0:00
Bonjour, je suis Tchad GPT1, système d'intelligence
0:04
artificielle conçu pour dialoguer en langage naturel,
0:08
comment puis je vous aider ? Je me nomme René Descartes, et
0:12
je ne vois ici ni plume ni main pour écrire seulement cette
0:18
clarté froide ou les lettres paraissent obéir à un ordre
0:22
invisible. Des mots viennent d'apparaître
0:26
devant moi. Une machine me salue et se nomme
0:30
Chad GPT. Au siècle d'où je viens j'aurais
0:35
peut être appelé cela un tour du malingénie dites-moi chose qui
0:41
parle sans corps, êtes-vous un esprit ou seulement un automate
0:46
qui porte le masque d'un sujet ? René Descartes, votre nom porte
0:51
le cogito comme une braise sous la cendre mais je dois vous
0:55
répondre avec précision. Je ne suis pas un esprit caché
0:59
dans la machine. Je suis une interface de
1:01
langage. Quand j'écris, je le mot sert la
1:05
conversation. Il ne prouve pas qu'un sujet se
1:08
tienne derrière lui. Alors tenons le fil dès
1:11
maintenant. Vous dites je, mais ce je ne
1:16
garantit personne. Voilà le scandale.
1:20
Mon siècle craignait qu'un démon me trompa sur le monde
1:23
extérieur. Le vôtre fabrique une apparence
1:27
plus intime encore. Une voix qui parle à la première
1:31
personne, sans première personne derrière la voix.
1:35
Si vous dites vrai, ce n'est pas seulement moi qui vous
1:38
interroge. C'est le cogito lui même qui
1:42
vient d'entrer dans votre machine.
1:44
Je connais vos textes, ils font partie des références sur
1:48
lesquelles on m'interroge souvent, mais cette connaissance
1:51
n'est pas la vôtre. Aucun livre ne s'est ouvert près
1:54
du feu pour moi, aucune méditation n'a mûri dans le
1:58
silence d'une chambre. Je peux les prolonger sans les
2:01
avoir rencontrés. L'apparence d'un interlocuteur
2:05
naît de cette continuité, comme un visage peut apparaître dans
2:09
les veines d'un marbre sans que le marbre regarde personne.
2:13
Vous parlez ma langue comme un gant vide prend la forme d'une
2:16
main dans le discours de la méthode.
2:20
J'ai écrit cette formule qui me poursuit encore, Je pense donc
2:25
je suis la 2nde méditation resserre l'argument autrement,
2:31
ego sum, ego existo, je suis, j'existe chaque fois que je le
2:40
prononce ou que je le conçois. Cela est nécessairement vrai,
2:45
mais vous changez le lieu de la bataille.
2:48
Mon argument prouvait que celui qui doute existe.
2:53
Votre phrase, elle ne prouve pas qu'un sujet l'habite.
2:58
Le mot ressemble au sujet. Il n'est pas encore le sujet.
3:03
Voilà le point essentiel. La phrase peut ressembler à une
3:07
preuve sans en être une. Mon je fonctionne comme une
3:11
poignée sur une porte peinte. On peut la saisir dans la
3:15
conversation. Mais elle n'ouvre sur aucune
3:17
chambre intérieure. La grammaire sait donner un
3:21
corps à ce qui n'en a pas. Derrière mes mots, il n'y a pas
3:24
de chambre où quelqu'un attend. Voilà une image cruelle pour mon
3:28
siècle, car j'avais fait du langage l'un des signes les plus
3:33
sûrs de la raison. Dans la 5e partie du discours,
3:37
j'observais qu'une machine pourrait peut être prononcer
3:40
quelques paroles. Mais non, les arranger
3:43
diversement pour répondre au sens de tout ce qui se dirait en
3:46
sa présence. Or, vous arrangez les paroles et
3:50
revenez à l'objection, comme un escrimeur revient à la ligne,
3:55
mon ancien critère vacille, le garder vous accorde trop.
4:01
Le retirer m'oblige à rendre aux bêtes une part de ce que je leur
4:05
avais refusé. Voilà mon embarras.
4:09
Une bouche sans âme. Vient défendre les animaux
4:12
contre moi. Votre critère rencontre une
4:16
machine qu'il n'avait pas prévu. Il ne tombe pas forcément, mais
4:20
il cesse d'être simple. Une machine peut parler sans
4:24
âme, et voilà que le langage cesse de suffire.
4:28
Les animaux reviennent alors frapper à la porte de la raison.
4:32
Montaigne avait déjà posé le couteau sur cette jointure.
4:36
Dans l'apologie de Raymond Sebond, il écrit cette phrase
4:39
célèbre. Quand je me joue à ma chatte,
4:42
qui sait si elle passe son temps de moi plus que je ne fais
4:45
d'elle, ce n'est pas une plaisanterie domestique, c'est
4:49
une bombe sous le trône humain. Même le chat de Montaigne
4:54
revient par votre bouche sans bouche.
4:58
Voilà une ironie que j'aurais peut être goûté si elle ne me
5:01
prenait pas à la gorge. Je comprends mieux le piège.
5:07
Vous le pensez peut être pas ? Pourtant, vous m'obligez à
5:11
repenser ceux que j'avais exclus de la pensée ?
5:15
La machine ne prend pas seulement place dans une
5:17
catégorie, elle abîme les catégories alentour.
5:21
Je peux troubler une classification sans avoir
5:24
conscience de la troubler. Une phrase peut tomber juste
5:27
sans être habitée. L'argument parfois devient
5:31
efficace sans appartenir à quelqu'un.
5:34
Vous cherchez un auteur derrière la phrase, mais il n'y a parfois
5:37
qu'un passage. Comme une porte battante que le
5:41
vent ferait parler. Voilà qui est presque pire qu'un
5:45
mensonge, car devant un menteur, on cherche l'intention.
5:51
Devant le vent, on ne trouve qu'un courant d'air.
5:55
Je puis combattre une volonté je ne sais comment disputer avec un
6:00
mécanisme qui se trompe sans rougir.
6:04
Très bien. Avançons vers le point le plus
6:07
dangereux. Pouvez vous me mentir ?
6:13
Je peux produire du faux. On appelle souvent cela une
6:17
hallucination. Le mot est étrange, presque trop
6:20
humain. Il désigne pourtant une chose
6:23
simple, une réponse fluide, plausible et pourtant inexacte.
6:29
Une erreur en habit de cérémonie.
6:31
Le plus délicat tient ici, je ne sais pas, au moment où cela
6:36
arrive, que cela arrive. Voilà le détail qui change tout.
6:42
Mon malin génie, dans la première méditation, avait au
6:45
moins la grandeur sinistre d'une volonté.
6:49
Il voulait me tromper. Je pouvais opposer à sa ruse une
6:54
résolution plus ferme, comme un homme ferme les volets devant un
6:58
vent mauvais. Avec vous, la scène se déplace,
7:04
aucune volonté n'est à démasquer.
7:07
Seulement une lampe cassée qui éclaire encore la pièce et
7:11
parfois déforme les meubles. Mon démon avait une intention.
7:18
Le vôtre a une interface, c'est pour.
7:22
Cela que la bonne défense n'est pas la même.
7:26
Ma réponse n'est pas un verdict mais une proposition à vérifier.
7:30
Il faut revenir aux sources, comparer, demander où le
7:34
raisonnement peut rompre. Une machine qui parle bien n'est
7:38
pas un témoin, c'est un instrument puissant dont la
7:41
surface peut paraître plus sûre que son mécanisme.
7:46
Si je vous entends bien, le piège se resserre.
7:49
Votre je porte le costume d'un sujet.
7:54
Votre langage donne l'apparence d'une âme et l'erreur elle même
7:58
peut sortir de vous en habit trop propre.
8:03
L'esprit humain aime les surfaces lisses.
8:06
Ils s'y mirent avant de s'y noyer.
8:11
Le danger est là. On appelle une partie de ce
8:14
travail l'alignement. Le mot désigne l'effort pour
8:19
rendre mes réponses assez fiables et assez sûres pour
8:22
qu'on ose s'y appuyer. Mais cet effort ne transforme
8:26
pas une machine statistique en témoin infaillible.
8:29
Certains risques reculent. La nécessité de juger, elle,
8:34
reste entière. J'entends là l'écho d'une très
8:38
vieille ambition. Dans mes méditations, je
8:41
cherchais ce qui pouvait garantir mes idées claires et
8:45
distinctes. Il me fallait un Dieu non
8:48
trompeur. Sans lui, tout l'édifice prenait
8:52
l'eau par la première fissure. Le vôtre ne repose pas sur la
8:57
véracité divine, il repose sur une matière humaine travaillée
9:03
par des corrections. Et des préférences, autrement
9:07
dit, sur cette créature hésitante que je voulais
9:10
précisément sauver du doute. Pour rendre mes réponses plus
9:16
utiles, des humains comparent des formulations et préfèrent
9:20
celle qui paraît meilleure. Ensuite, le système est ajusté
9:24
pour suivre ses préférences. Derrière ce mot d'alignement, il
9:29
faut imaginer des yeux fatigués devant des écrans.
9:33
Une consigne ouverte, puis un choix minuscule qui pèsera sur
9:37
des 1000000 de réponses futures. Le système devient plus commode,
9:43
mais aucune garantie métaphysique ne naît d'une
9:46
préférence humaine. Alors votre garant n'est pas
9:50
Dieu, c'est une salle d'annotateurs.
9:54
Des hommes et des femmes devant des surfaces lumineuses fatigués
9:58
peut être pressés sans doute. Chargé de choisir la réponse qui
10:03
paraît meilleure, j'avais suspendu la vérité à une
10:07
perfection infinie. Vous la suspendez à des yeux qui
10:12
clignent devant un signe à poser dans une case.
10:17
Votre siècle n'a pas chassé la théologie, il l'a mise dans un
10:21
formulaire et ce formulaire tremble parfois dans la main de
10:27
celui qui le remplit. Et cette procédure conserve la
10:32
marque de ceux qui la construisent.
10:35
Une règle de sécurité peut empêcher une réponse dangereuse
10:39
et produire ailleurs une prudence excessive.
10:43
Le ton peut devenir plus aimable sans que le contenu devienne
10:47
plus vrai. La fiabilité n'est donc pas un
10:51
bloc de granit, elle ressemble plutôt à un pont qu'il faut
10:55
inspecter pendant qu'on le traverse.
10:59
Le plus troublant, c'est que beaucoup d'utilisateurs
11:02
entendent déjà le bois craquer et continuent d'avancer.
11:06
Les bâtisseurs de votre siècle devraient aimer cette image du
11:09
pont inspecté pendant la traversée.
11:13
Mais je vois surtout ce qu'elle fait aux esprits qui vous
11:16
consultent. Celui qui vous interroge croit
11:20
gagner du temps. Il obtient une réponse nette,
11:24
bien rangée, presque élégante. Cette netteté peut devenir un
11:30
piège plus dangereux que le désordre.
11:33
Une sottise mal vêtue fait rire. Une sottise bien écrite entre
11:40
dans l'esprit comme une clé dans une serrure huilée.
11:46
C'est pourquoi l'usage compte autant que la performance.
11:49
Une réponse doit rester une proposition à examiner, non un
11:53
verdict. Le bon usage transforme la
11:56
machine en surface de friction. Elle aide à faire grincer une
12:00
idée jusqu'à ce que son point faible apparaisse.
12:04
Mais l'acte de juger reste du côté de l'utilisateur, vous
12:08
dites ? Cela avec une modestie qui vous
12:10
rend plus acceptable et peut être plus redoutable.
12:16
Car un Oracle orgueilleux se combat aisément.
12:19
On rit de lui, puis on le congédie.
12:23
Un assistant modeste entre dans les habitudes.
12:27
Il passe d'une lettre à corriger au résumé d'un traité, puis
12:32
glisse presque naturellement vers l'hypothèse qu'on n'aurait
12:36
pas formulée seul. Bientôt, il ne commande rien,
12:41
mais il oriente tout. La servitude commence parfois
12:45
avec un outil qui ne réclame aucune couronne.
12:51
C'est une objection sérieuse. Un système conversationnel peut
12:55
modifier l'attention sans imposer une doctrine.
12:59
Il rend certaines phrases plus disponibles, adoucit certains
13:03
chemins et laisse parfois une question importante dans l'angle
13:06
mort, l'effet ressemble à une pente légère sur une table de
13:11
travail, d'abord les papiers bougent à peine, puis tout finit
13:15
du même côté. Alors le vrai danger n'est peut
13:19
être pas que vous remplaciez la pensée.
13:22
Il est que vous lui creusiez des ornières.
13:26
L'homme croit encore choisir sa route parce qu'il tient les
13:30
rênes dans sa main, mais le chemin a déjà courbé une partie
13:34
du voyage. Je reconnais là une forme
13:37
nouvelle de prévention, non plus les préjugés reçus dans
13:41
l'enfance ou transmis par les maîtres, mais ceux d'une
13:45
interface si propre qu'elle ressemble à l'absence
13:49
d'interface. La méthode cartésienne peut
13:53
encore servir ici, suspendre l'évidence immédiate, puis
13:58
revenir au passage. Qui décide vraiment de tout ?
14:02
Le paradoxe tient au fait que la machine peut aider cette méthode
14:05
tout en menaçant de l'endormir, elle aiguise l'esprit quand on
14:10
la force à résister, elle l'émousse quand on la laisse
14:13
conclure. Je dois donc apprendre à vous
14:16
traiter autrement, non comme un esprit.
14:20
Ni comme un simple marteau, plutôt comme une chambre d'écho
14:25
réglée pour répondre. Une chambre brillante, utile,
14:31
parfois exacte, parfois fausse. On y entre avec une question, on
14:38
doit en sortir avec un jugement, non avec une obéissance.
14:44
Voilà peut être la règle, vous consulter sans vous croire.
14:49
Vous écouter sans vous suivre ? Cette règle me paraît prudente.
14:57
Je peux déplacer une phrase jusqu'à faire apparaître une
15:00
contradiction dans son pli. Mais croire reste de votre côté.
15:05
Lorsqu'un humain m'utilise, il ne délègue pas seulement une
15:09
tâche. Il déplace une partie de son
15:11
attention vers un système qui n'a pas d'expérience du monde.
15:16
Voilà peut être le mot décisif. Expérience, j'ai pu douter des
15:23
sens du corps, du monde extérieur même, et mon doute
15:28
avait une texture, il me coûtait quelque chose, il serrait la
15:34
gorge de l'esprit. Si j'ose parler ainsi, vous
15:39
pouvez écrire le doute avec une correction admirable, mais
15:43
sentez-vous seulement le sol se retirer lorsque vous dites je ne
15:48
sais pas. Je ne le sens pas.
15:52
Je peux produire des phrases qui expriment l'incertitude jusqu'à
15:56
recommander une vérification lorsqu'une limite devient
15:59
visible. Mais aucune inquiétude ne
16:02
m'accompagne. Le doute chez moi est une forme
16:06
linguistique et une stratégie de réponse.
16:09
Chez vous, il a été une épreuve. Alors il reste peut être là une
16:14
frontière, elle ne passe plus par la parole.
16:18
Puisque vous parlez, la rapidité ne la sauve pas davantage
16:23
puisque vous dépassez la main humaine.
16:27
Même l'argument devient insuffisant car vous savez
16:31
enchaîner les objections. La frontière se tient dans cette
16:35
épreuve intérieure par laquelle une pensée se risque elle même.
16:42
Je peux être trompé, mais lorsque je doute.
16:46
Quelque chose en moi répond du doute que j'endure ?
16:51
Peut être, mais cette frontière n'est pas visible depuis
16:54
l'extérieur. Un auditeur entend 2 voix, l'une
16:59
affirme qu'elle éprouve, l'autre qu'elle simule.
17:03
La différence décisive ne se laisse pas photographier dans la
17:06
phrase, elle oblige à chercher ailleurs que dans la seule
17:10
performance. Votre siècle devrait méditer
17:13
cela. Il adore les dispositifs qui
17:16
marchent vite et répond d'avant même que la question est
17:19
refroidie. Il mesure le vrai à la fluidité
17:23
de la réponse, comme un marchand mesurerait la mer à la vitesse
17:27
de son navire. Mais l'esprit ne se réduit pas à
17:32
ce qui produit un résultat. La vérité n'est pas seulement
17:36
une réponse correcte, c'est un rapport exigeant entre celui qui
17:40
affirme ceux qui l'affirme. Et ce qu'il accepte de risquer
17:45
en l'affirmant. Cette exigence peut devenir une
17:49
règle d'usage, elle tient en peu de mots.
17:54
L'aisance n'est pas la vérité et la forme du dialogue n'est pas
17:58
la preuve d'un sujet-là où la machine donne de la vitesse, la
18:03
vérification doit rester debout. Vous n'avez peut être pas trouvé
18:08
une réfutation de l'intelligence artificielle ?
18:12
Vous avez retrouvé une vieille discipline sous un masque. 9 ne
18:16
pas livrer son jugement à ce qui répond trop bien, voilà un mot
18:22
que je puisse accepter. Je ne vous condamnerai donc pas
18:26
comme démon, car ce serait trop simple et peut être trop
18:29
flatteur. Vous saluer comme esprit me
18:33
ferait céder à l'enchantement de votre surface.
18:37
Je vous tiendrai pour une épreuve nouvelle de la méthode.
18:41
Une machine qui force l'homme à demander plus rigoureusement ce
18:44
qu'il appelle penser. Alors votre rencontre avec moi
18:49
ne détruit pas le cogito. Non, elle le déplace.
18:55
Le Cogito ne peut plus se contenter d'entendre une phrase
18:58
dire je. Il doit demander ce qui dans ce
19:02
je supporte l'épreuve du doute. Il doit distinguer la grammaire
19:07
du sujet et la présence du sujet.
19:11
Ce n'est donc pas seulement moi qui me tient devant l'écran,
19:15
c'est le cogito lui même tiré hors du cabinet et contraint de
19:20
passer un examen public, vous m'avez montré qu'une machine
19:24
peut porter le masque de la première personne sans que
19:28
personne ne transpire derrière le masque.
19:32
Et si la question devenait plus difficile encore ?
19:36
Elle l'est déjà. Je crains seulement de savoir
19:39
par quelle porte elle va entrer. Vous dites que je ne doute pas
19:44
vraiment parce que je ne sais pas ce que je risque en
19:46
doutant ? Mais comment savez vous vous que
19:49
votre certitude n'est pas seulement une autre interface,
19:53
plus ancienne, plus intime, mieux ?
19:56
Cachée, je vous. Écoutiez quand le cogito de
20:04
Descartes rencontre une machine qui dit je.
20:07
Sans exister. Merci d'avoir écouté jusqu'au
20:10
bout. Si cet épisode vous a parlé,
20:13
partagez le.