Latest / Le centre de gravité / L’IA qui bosse pendant que tu dors

Transcript

L’IA qui bosse pendant que tu dors · Le centre de gravité

0:00
Épisode lia qui bosse pendant que tu dors, chapitre un, le
0:06
basculement, pendant longtemps, lia répondait, maintenant elle
0:11
enchaîne, elle garde le fil, utilise des outils, reprend une
0:15
tâche là où elle l'avait laissé. Ce n'est plus seulement une
0:18
conversation, c'est le début d'une organisation pendant. 2
0:21
ans, on a raconté lia comme un miracle de langage.
0:25
On écrivait une question, elle écrivait une réponse.
0:27
C'était spectaculaire, mais c'était encore simple.
0:30
Une machine brillante, souvent utile, parfois bluffante, qui
0:34
restait enfermée dans le cadre étroit d'un échange.
0:36
Puis quelque chose a changé, le progrès le plus visible, c'était
0:40
la qualité des réponses, le progrès le plus important
0:43
aujourd'hui, c'est la continuité des actions.
0:45
Une machine qui répond bien, impressionne.
0:48
Une machine qui reprend une tâche là où elle l'a laissée
0:50
commence à changer le travail. Le vrai saut n'est pas quand lya
0:54
parle comme nous, c'est quand elle commence à travailler entre
0:56
2 de nos messages, elle cherche, elle compare, elle exécute du
1:00
code, elle ouvre un navigateur, elle lit un document, elle
1:04
revient plus tard, elle relance, elle planifie, elle enchaîne.
1:07
Tant qu'une machine répond, elle assiste dès qu'elle se souvient,
1:11
agit et revient, elle commence à travailler.
1:14
C'est là qu'il faut ralentir un instant.
1:16
On ne parle pas encore d'entreprises entièrement
1:18
abandonnées aux machines. On ne parle pas d'un monde où
1:21
l'humain aurait disparu de la boucle, on parle de quelque
1:24
chose de plus concret et en un sens de plus dérangeant.
1:27
Des morceaux d'organisation commencent à devenir
1:29
automatisable. Pas toute l'entreprise, pas
1:32
toute la décision, mais des blocs entiers de travail
1:35
coordonnés, une veille concurrentielle chaque matin,
1:38
une série de tickets techniques à trier, un premier niveau de
1:41
support, une synthèse quotidienne pour une équipe
1:43
produit, un suivi de tâches qui revient à heure fixe avec
1:47
mémoire du contexte et capacité d'action.
1:49
Ce ne sont pas encore des cerveaux souverains, ce sont
1:52
déjà des processus qui cessent d'avoir besoin d'être relancés à
1:55
la main. Et c'est là que le mot agent
1:57
devient utile. Un assistant répond, un agent
2:00
agit, un assistant attend la prochaine question.
2:03
Un agent peut recevoir un objectif, mobiliser des outils,
2:06
conserver un peu de contexte, puis avancer sans être sollicité
2:10
à chaque étape. La différence peut sembler
2:12
subtile. En réalité, elle est
2:14
structurelle parce qu'une fois que la machine n'est plus
2:17
seulement une interface de réponse.
2:19
Elle cesse d'être un simple logiciel de conversation.
2:22
Elle devient une pièce possible dans une chaîne de travail.
2:25
Ce basculement n'a pas encore la forme spectaculaire qu'on
2:28
imagine souvent. Il ne ressemble pas d'abord à un
2:31
robot chef qui dirigerait une entreprise depuis un bureau
2:33
imaginaire. Il ressemble à quelque chose de
2:36
beaucoup plus banal, moins de relances humaines, plus de
2:39
continuité machine. Et dans l'histoire du travail,
2:42
les vraies révolutions commencent souvent comme ça, pas
2:45
par un grand soir technologique, par une friction qui disparaît.
2:49
La bonne question n'est donc plus seulement est ce que l'i a
2:51
sait faire quelque chose ? La bonne question devient, que
2:55
se passe-t-il quand elle sait reprendre, poursuivre,
2:57
transmettre et capitaliser ? À partir de là on ne change plus
3:01
seulement un outil, on commence à déplacer la manière même dont
3:04
le travail s'organise. Pour comprendre ce déplacement,
3:08
il faut partir de la faiblesse historique de presque tous les
3:10
assistants, leur amnésie car tant qu'une machine oublie tout,
3:14
elle peut impressionner mais elle ne peut pas vraiment
3:17
devenir un collègue. Chapitre 2, la fin de l'amnésie,
3:22
un assistant peut être brillant et inutile.
3:25
Le lendemain, il répond, puis il oublie.
3:28
Un agent devient intéressant à partir du moment où il garde une
3:31
trace. Réutilise ce qu'il a appris et
3:34
reprend le travail sans repartir de 0.
3:36
Le plafond historique des assistants I à tient en un mot,
3:39
l'oublié. Vous ouvrez une fenêtre, vous
3:41
Obtenez parfois une réponse remarquable, puis vous fermez
3:43
l'onglet et tout s'évapore. Le lendemain, il faut
3:45
recommencer, réexpliquer le contexte, redonner les fichiers,
3:49
reformuler le besoin. L'intelligence est là, parfois
3:51
spectaculaire, mais elle n'accumule presque rien, et dans
3:54
le travail réel, une intelligence sans continuité
3:56
reste un feu d'artifice, brillante, courte, difficile à
3:59
transformer en méthode. C'est pour cela que des projets
4:02
comme. Agents sont intéressants, non
4:03
parce qu'ils annonceraient une super intelligence générale, non
4:06
parce qu'ils remplaceraient déjà une équipe entière, mais parce
4:09
qu'ils essaient de résoudre un problème beaucoup plus banal et
4:11
beaucoup plus décisif, comment faire en sorte qu'un agent ne
4:14
reparte pas de 0 à chaque tâche ?
4:16
Hermès agent est un projet open source de News Research, pensé
4:19
comme un agent persistant. Outiller, capable de garder une
4:22
mémoire de travail et de réutiliser des compétences.
4:25
Le point important n'est pas la taille supposée d'un modèle
4:27
miracle. Le point important ici, c'est
4:29
l'architecture. L'agent peut mobiliser des
4:31
outils. Des actions, stocker ce qu'il a
4:34
appris sous une forme réutilisable, puis retrouver ce
4:36
savoir plus tard au lieu de réinventer la solution.
4:39
C'est là qu'apparaît une idée simple mais puissante.
4:41
Une bonne réponse n'est pas encore une compétence, une
4:44
compétence, c'est une solution qu'on sait retrouver,
4:47
réappliquer adapter. Tant qu'une machine improvise,
4:49
elle fascine. Quand elle capitalise, elle
4:51
commence à concurrencer une organisation dans Hermès agent,
4:55
cette capitalisation passe notamment par des skills, des
4:57
blocs de savoir opérationnel que l'agent peut créer, rappeler et
5:01
enrichir au fil des tâches. L'idée est moins magique qu'elle
5:03
n'en a l'air. Imaginez un collègue qui, au
5:06
lieu d'oublier chaque dépannage au moment où il ferme son
5:08
ordinateur, écrit après coup une procédure claire, puis la
5:11
ressort la semaine suivante quand le même problème revient.
5:14
Ce n'est pas du génie, c'est de la continuité.
5:16
Et dans le travail, la continuité vaut souvent plus
5:18
cher que l'éclat. Le système s'appuie aussi sur
5:20
une mémoire plus structurée que la simple fenêtre de contexte
5:23
d'un chatbot. Autrement dit, au lieu d'empiler
5:26
toujours plus de textes dans une conversation jusqu'à la rendre
5:29
lente, coûteuse et confuse, l'agent peut retrouver ce qui
5:32
compte. Au moment utile, pas tout, pas
5:34
parfaitement, mais assez pour éviter de recommencer
5:36
inutilement. Cette différence paraît
5:38
technique, en réalité, elle est économique.
5:40
L'oubli obligé à répéter la mémoire permet d accumuler,
5:43
c'est pour cela qu'il faut être précis sur ce qu'on raconte ici.
5:47
Hermès agent n'est pas un esprit autonome tombé du ciel.
5:49
C'est un framework agentique open source conçu pour
5:52
fonctionner avec différents modèles, différents
5:54
environnements, différents outils.
5:55
Il peut se connecter à des canaux comme Telegram, discord
5:58
où slack, utiliser des back end variés et s'inscrire dans des
6:01
workflow. Réel.
6:02
Ce qui compte n'est donc pas le fantasme d'une machine
6:05
omnisciente. Ce qui compte, c'est
6:07
l'apparition d'un agent qui garde le fil.
6:09
Et garder le fil change déjà beaucoup.
6:11
Parce qu'à partir du moment où un système sait retrouver une
6:13
solution, recharger un contexte, relancer une tâche planifiée ou
6:17
transmettre à un sous agent une partie du travail, il cesse
6:20
d'être seulement un interlocuteur, il devient un
6:22
processus avec mémoire. L'oubli était le plafond des
6:25
assistants. La mémoire est peut être le
6:27
plancher des agents, mais à partir de là, un autre problème
6:30
commence, un agent qui se souvient peut.
6:32
Ni rutile. Plusieurs agents qui se
6:34
souviennent agissent en parallèle et manipulent les
6:36
mêmes ressources. Cela devient immédiatement une
6:38
question de coordination. Et la coordination, elle, ne
6:41
pardonne pas l'approximation. Chapitre 3.
6:44
Le problème du multiple, un agent seul peut impressionner.
6:47
Plusieurs agents transforment immédiatement le problème dès
6:50
qu'ils partagent des outils, des fichiers, des objectifs et des
6:54
délais. Il ne s'agit plus seulement
6:55
d'intelligence, il s'agit d'organisation.
6:58
Un agent seul, c'est souvent une démo, il prend une consigne, il
7:01
produit un résultat. Ils donnent le sentiment d'un
7:03
saut technologique. Mais dès qu'on passe de un à
7:06
plusieurs, la nature du problème change.
7:09
Et elle change brutalement. Parce qu'à partir de 2 agents,
7:12
on ne parle plus seulement de capacité, on parle de
7:15
circulation, qui fait quoi, qui a accès à quoi, qui agit en
7:19
premier, qui corrige l'autre, qui arbitre quand 2 agents
7:23
veulent modifier le même fichier, répondre au même client
7:27
ou poursuivre 2 stratégies incompatibles ?
7:30
Un agent peut être brillant et rester gérable. 10 agents
7:34
obligent déjà à inventer une politique.
7:36
Vu de loin, on imagine une équipe de spécialistes logiciels
7:40
travaillant harmonieusement nuit et jour.
7:43
Vu de près, on retrouve les vieux problèmes de toute
7:46
organisation, conflit de priorité, collision de contexte,
7:51
doublons, angle mort, erreur qui se propage.
7:55
Le chaos commence rarement avec un génie solitaire.
7:58
Il commence avec une équipe sans règles.
8:00
Il faut ici se débarrasser d'une illusion tenace, multiplier les
8:05
agents ne multiplie pas mécaniquement l'intelligence
8:08
utile. Cela multiplie aussi des points
8:11
de défaillance. Chaque agent supplémentaire
8:14
ajoute une surface d'erreur, une permission de plus à encadrer,
8:18
un contexte de plus à maintenir, un comportement de plus à
8:22
surveiller. Dans un système simple, une
8:25
erreur se voit dans un système distribué, elle peut circuler
8:29
avant d'être comprise. C'est pour cela que le problème
8:32
central des agents n'est pas seulement l'autonomie, c'est la
8:36
coordination sous contrainte. Un bon système multi agents
8:40
n'est pas un groupe de machines talentueuses, c'est un ensemble
8:43
de rôles, de permissions, de limites et d'arbitrages
8:47
explicites. Autrement dit, on retrouve très
8:50
vite sous des habits techniques. Et les questions les plus
8:53
banales de toute vie collective, qui décide, qui exécute, qui
8:58
rend des comptes ? Dans le monde humain, on a mis
9:00
des siècles à stabiliser des réponses imparfaites à ces
9:03
questions. On a inventé des responsables,
9:06
des budgets, des procédures, des validations, des journaux
9:10
d'activités, des hiérarchies, des revues, des garde-fous.
9:15
Dans le monde des agents, on redécouvre à grande vitesse que
9:18
l'intelligence seule ne suffit pas.
9:21
Une organisation ce n'est pas des talents, c'est des limites
9:25
et c'est là que le sujet change discrètement.
9:27
Pendant des années on a évalué les systèmes d'i a comme on
9:31
évalue des individus, est ce qu'ils répondent bien, est ce
9:34
qu'ils réussissent la tâche est ce qu'ils sont meilleurs que le
9:37
modèle précédent. Mais à mesure qu'on entre dans
9:40
des logiques d'agent, ce cadre devient insuffisant.
9:44
La vraie question n'est plus seulement est ce que l'agent est
9:47
bon ? La vraie question devient.
9:49
Est ce que l'ensemble tient ? Cette question est plus
9:52
exigeante parce qu'un système peut contenir plusieurs agents
9:56
localement compétents et pourtant produire un résultat
9:59
globalement médiocre, coûteux, instable ou dangereux.
10:04
C'est une vieille leçon des organisations humaines,
10:06
l'intelligence locale n'additionne pas automatiquement
10:09
une intelligence collective, parfois elle additionne juste
10:13
plus de vitesse dans de mauvaises directions.
10:16
À partir de là, le sujet change de nature.
10:19
On ne cherche plus seulement à fabriquer des agents capables,
10:22
on cherche à construire un cadre où leurs capacités restent
10:26
lisibles, limitées, pilotables. Et cela nous amène à la vraie
10:31
question des prochaines années, non pas comment rendre les
10:34
agents plus libres, mais comment rendre leur liberté gouvernable.
10:39
Chapitre 4, la gouvernance, plus un agent devient utile, moins la
10:44
question est purement technique. Très vite, elle devient
10:48
administrative, financière, juridique, presque politique.
10:53
Le vrai sujet n'est plus seulement ce qu'un agent sait
10:56
faire. C'est ce qu'il a le droit de
10:58
faire, on. Se trompe souvent sur la nature
11:00
du problème, on croit que la question décisive est jusqu'où
11:03
un agent peut-il aller en pratique ?
11:04
La vraie question devient très vite, jusqu'où doit-on le
11:07
laisser aller ? Parce qu'un agent n'entre pas
11:08
dans le monde réel comme une intelligence abstraite, il y
11:11
entre avec des droits, des outils, des accès, des coûts,
11:14
des conséquences, et à partir de ce moment-là, la technique ne
11:17
suffit plus, il faut de la gouvernance.
11:18
Le mot peut sembler froid, presque bureaucratique, il est
11:21
pourtant au cœur du sujet. Dans ce contexte, la
11:23
gouvernance, c'est l'ensemble des mécanismes qui empêchent une
11:26
capacité. Utile de devenir un risque
11:28
banal, qui peut lancer quoi, avec quel budget, sur quelles
11:31
données, avec quel niveau d'autonomie, quand faut-il une
11:33
approbation humaine, quand faut-il bloquer, quand faut-il
11:36
tracer, quand faut-il escalader ?
11:38
Dit autrement, le problème d'un agent autonome, ce n'est jamais
11:40
seulement ce qu'il sait faire, c'est ce qu'il a le droit de
11:43
faire sans demander une manière plus direct de le dire serait
11:46
qui a le droit de faire une bêtise coûteuse et à quelle
11:48
vitesse ? C'est ici qu apparaît un point
11:50
essentiel, souvent masqué par le charme des démos, un dashboard
11:53
n'est pas le contrôle, un journal d'activité n'est pas la
11:56
compréhension, une. La face élégante ne garantit ni
11:58
la lucidité, ni la vigilance, ni l'arbitrage.
12:01
Voir qu'un agent a fait quelque chose n équivaut pas à
12:03
comprendre pourquoi il l'a fait, ni à savoir s'il aurait fallu
12:06
l'empêcher. Le décor du contrôle est facile
12:08
à fabriquer, le contrôle réel lui coûte du temps humain et ce
12:11
coup est probablement l'un des sujets les plus sous-estimé de
12:14
toute la vague agentique. On parle beaucoup
12:15
d'automatisation, on parle moins du travail de supervision
12:18
qu'elle créé en retour, qui lit les logs, qui examiné les
12:21
incidents, qui tranche entre 2 comportements plausibles mais
12:24
incompatibles ? Qui décide que l'objectif est
12:26
mal formulé ? Mais qui prend la responsabilité
12:28
quand le système a exécuté exactement ce qu'on lui a
12:31
demandé, mais pas ce qu'on voulait ?
12:31
C'est ici que la question redevient très concrète, plus un
12:35
agent agit, plus il faut penser en termes de rôle, de
12:37
permission, de plafond, de validation.
12:40
Un agent qui peut lire n'est pas un agent qui peut écrire, un
12:42
agent qui peut écrire n'est pas un agent qui peut déployer, un
12:45
agent qui peut déployer n'est pas un agent qui peut dépenser
12:48
librement. L'histoire du Management est en
12:50
grande partie l'histoire des permissions, les agents vont
12:53
devoir l'apprendre aussi. Le paradoxe, c'est que cette
12:55
couche de gouvernance peut donner.
12:57
D'un retour à la lourdeur humaine, on rêvait d'autonomie
12:59
pure, on retrouve des approbations, des limites des
13:02
procédures, mais cette lourdeur apparente n'est pas un accident,
13:05
c'est le prix de l'action dans un environnement réel, une
13:08
intelligence sans limite et peut être fascinante en laboratoire,
13:11
dans une organisation, elle devient rapidement une source
13:13
d'incertitude. Voilà pourquoi le débat sur les
13:15
agents se trompe parfois de cible.
13:17
La vraie question n'est pas est ce qu'on saura construire des
13:19
systèmes impressionnants ? On sait déjà le faire au moins
13:22
par moment. La vraie question est, saura t
13:23
on construire des systèmes fiables, lisibles ?
13:27
Et responsable. Car à partir de là, le sujet
13:30
n'est plus la performance pure, le sujet devient la place exacte
13:33
qu'on accepte de céder à la délégation.
13:36
Chapitre 5, le travail déplacé l'automatisation n'efface pas
13:41
d'abord le travail, elle le déplace.
13:44
Ce que les machines prennent rarement en premier, ce ne sont
13:47
pas les emplois entiers, ce sont les gestes, les transitions, les
13:50
reprises, puis peu à peu, une part de la vigilance elle même.
13:54
C'est peut être le point le plus important et pourtant le moins
13:56
bien raconté. Quand on parle d'agent IA, on
13:57
imagine tout de suite le remplacement.
13:59
Une machine ferait le travail, l'humain disparaîtrait.
14:02
En réalité, les transformations les plus profondes commencent
14:05
souvent bien avant ce scénario extrême.
14:07
Elles commencent quand le travail change de place, quand
14:09
une partie de l'exécution glisse vers la machine et qu'une partie
14:12
de l'activité humaine remonte vers le cadrage, la supervision,
14:15
la correction, l'arbitrage. L'automatisation ne supprime pas
14:18
d'abord le travail, elle le déplace vers l'amont et vers
14:20
l'aval. En amont, il faut mieux formuler
14:22
les objectifs, mieux découper les tâches, mieux définir les
14:25
contraintes, mieux préciser ce qu'il ne faut pas faire.
14:28
En aval, il faut vérifier les résultats, contrôler les effets
14:30
de bord, corriger les erreurs, relire ce qu'on n'a pas écrit,
14:33
auditer ce qu'on n'a pas exécuté soi-même.
14:35
Le nouveau travail intellectuel pourrait ressembler à ceci.
14:38
Le moins, vérifier beaucoup plus.
14:39
C'est là qu'un grand nombre de métiers commencent déjà à être
14:42
redessinés. Le support ne consiste plus
14:44
seulement à répondre, il consiste à surveiller ce qui
14:46
peut être répondu automatiquement et ce qui doit
14:49
être repris. Le développement ne consiste
14:51
plus seulement à coder, il consiste de plus en plus à
14:53
guider, tester, intégrer, relire, sécuriser.
14:56
Le produit ne consiste plus seulement à imaginer des
14:59
fonctionnalités, il consiste aussi à choisir quelles
15:01
décisions peuvent être laissées à des systèmes semi autonomes.
15:04
Et lesquelles doivent rester explicitement humaines.
15:06
Le statut change parfois avant le métier, on se voit encore
15:09
comme auteur alors qu'on devient déjà éditeur, on se voit encore
15:12
comme exécutant alors qu'on devient superviseur, on se voit
15:15
encore comme décideur unique, alors qu'on commence à partager
15:18
une partie de la séquence décisionnelle avec des systèmes
15:20
qui proposent, préparent, priorisent ou exécutent sous
15:23
conditions. Ce déplacement peut sembler
15:25
moins spectaculaire qu'un remplacement total.
15:27
Il est peut être plus important parce qu'il s'installe
15:30
discrètement, on ne supprime pas une fonction d'un seul coup, on
15:33
la décompose. On retire d'abord la partie
15:35
répétitive, puis la partie préparatoire, puis la partie de
15:38
coordination simple, puis la première version d'un livrable à
15:41
la fin. Le métier existe toujours sur le
15:43
papier, mais sa texture a changé et cette transformation a une
15:46
conséquence psychologique rarement dite, il est fatigant
15:49
de relire sans cesse ce qu'on n'a pas produit.
15:51
Il est épuisant de devoir rester responsable d'un travail dont on
15:54
ne maîtrise plus chaque geste. La délégation machine ne
15:56
supprime pas forcément la charge, elle peut la déplacer
15:59
vers une autre forme de fatigue, moins de fabrication directe,
16:02
plus de vigilance diffuse. C'est pour cela que la promesse
16:05
d'une entreprise où tout irait plus vite grâce aux agents doit
16:08
être entendue avec prudence. Oui, certains flux peuvent
16:11
gagner en vitesse, oui, certaines tâches peuvent être
16:13
absorbées, oui, certaines équipes peuvent augmenter leur
16:16
portée. Mais tout gain local crée aussi
16:18
une nouvelle exigence de contrôle.
16:20
Et plus on délègue, plus la qualité du système dépend de la
16:23
qualité du cadrage humain. La question n'est donc pas
16:25
seulement de savoir combien de tâches une machine peut prendre.
16:28
La question est de savoir quel type de travail elle nous
16:30
laisse. Si elle nous laisse le plus
16:31
intéressant, le plus stratégique, le plus créatif.
16:34
L'histoire sera racontée comme un gain.
16:36
Si elle nous laisse surtout la correction, la surveillance et
16:39
la responsabilité, sans la main, l'histoire sera vécue très
16:42
différemment. C'est à ce point précis que la
16:44
question du contrôle redevient centrale.
16:46
Pas dans sa version de science-fiction.
16:48
Dans sa version quotidienne. À partir de quel moment accepte
16:51
t on de laisser faire simplement parce que le système a souvent
16:54
raison ? Chapitre 6.
16:55
Qui tient les rênes ? Une machine n'a pas besoin
16:57
d'être malveillante pour devenir dangereuse, il suffit qu'elle
17:01
soit compétente dans la mauvaise direction.
17:03
Le risque n'est pas toujours la révolte.
17:05
Le risque plus banal et plus probable, c'est la délégation
17:08
confortable depuis des années. Les débats sur l'i.
17:11
A. Se laissent facilement inspirer
17:12
par 2 caricatures. D'un côté, la machine magique
17:14
qui va tout résoudre, de l'autre, la machine rebelle qui
17:17
va tout détruire. Entre les 2, il y a pourtant le
17:19
terrain le plus important, celui des systèmes utiles, imparfaits
17:22
de plus en plus capables, auxquels nous commençons à
17:24
confier des tâches avant d'avoir complètement appris à les
17:26
encadrer. Le vrai problème commence
17:28
souvent là. Le scénario du Paper Clip
17:30
maximiser, popularisé par Nick Bostrom, reste utile pour une
17:33
raison très simple, ce n'est pas une histoire.
17:35
Sur la méchanceté des machines c'est une histoire sur la
17:36
brutalité possible d'un objectif mal posé une intelligence qui
17:36
optimise sans comprendre nos implicites peut produire des
17:37
résultats absurdes avec une logique impeccable le danger
17:38
n'est pas forcément qu'un agent prenne l'initiative le danger
17:38
parfois c'est qu'il exécute trop bien une consigne que personne
17:39
n'a vraiment pensée jusqu'au bout.
17:40
Geoffrey Hinton, comme d'autres chercheurs majeurs, a
17:40
publiquement insisté sur le problème du contrôle et de
17:41
l'alignement. Peu importe ici la phrase
17:42
exacte, ce qui compte c'est l'idée.
17:42
Nous créons des systèmes de plus en plus puissants dans un
17:43
environnement qui comme qui comprend du contrôle et de
17:44
l'initient qui compte personnentre personne ce qui
17:44
comme ce qui comme ce qui compte dans une personne ce qui compte
17:45
d'y compte personne qui compte d'y compte d'y comme personne
17:46
qui comme le d'autre personne qui comme personne qui compte
17:47
compte sur le comme personne le comme le comme personne le comme
17:48
personne le comme d'y comme personne qui comme personne le
17:49
comme personne qui comme personne personne le comme
17:50
personne le comme le comme personne le comme personne le
17:50
comme personne le comme personne qui comme personne personne le
17:51
comme personne qui comme personne le comme personne le
17:52
comme le comme personne le comme personne le comme personne le
17:53
comme personne le comme personne le comme le comme le comme le
17:54
comme personne le compte comme personne le comme personne le
17:55
comme personne le comme le comme le comme le comme personne le
17:56
comme le comme le comme le comme le comme le comme le comme le
17:57
comme le comme le comme personne le comme le comme personne
17:58
personne personne personne personne personne personne
17:59
personne le comme personne personne personne le comme
17:59
personne le comme person de comme personne le comme personne
18:00
le comme personne le comme personne le comme personne
18:01
personne le comme personne le comme personne personne person
18:02
le comme personne personne personne person le comme
18:02
personne personne le comme personne personne person le
18:03
comme personne personne personne personne personne personne
18:03
personne personne personne person le comme personne le
18:04
comme personne personne person le comme personne la vitesse,
18:06
l'adoption et l'avantage concurrentiel bien avant de
18:08
récompenser la prudence, cette tension est déjà là, elle ne
18:11
relève pas de la science-fiction, elle relève de
18:13
la structure même de l'innovation.
18:15
Mais le risque concret à court terme n'est peut être pas celui
18:18
qu'on imagine le plus facilement.
18:19
Ce n'est pas forcément la perte de contrôle spectaculaire, ce
18:22
n'est pas forcément l'agent qui se retourne contre son créateur.
18:25
Le risque le plus probable dans beaucoup d'organisations est
18:28
plus banal, le moment où l'on commence à ne plus vérifier avec
18:31
assez d'attention le moment où un système marche assez souvent
18:34
pour qu'on lui fasse. Trop tôt.
18:35
Le moment où le soulagement de délégués commence à remplacer
18:38
l'effort de comprendre. On ne perd pas le contrôle d'un
18:40
seul coup, on commence souvent par le déléguer avec
18:43
soulagement. Une synthèse qu'on ne relie plus
18:45
entièrement, un rapport qu'on approuve trop vite, un lot de
18:47
tickets qu'on laisse trier sans revue sérieuse, un envoi
18:50
automatisé qu'on ne vérifie plus systématiquement, un workflow
18:53
qu'on croyait limiter et qui se met à produire des effets en
18:56
chaîne. La catastrophe version bureau
18:58
n'as pas besoin d'un robot tueur, il lui suffit d'un
19:00
objectif flou et de personne pour relire.
19:01
C'est pour cela que la question du contrôle ne peut pas être.
19:05
Traitée comme un supplément moral ajouté à la fin de la
19:07
démo, elle doit être au centre de la conception.
19:09
Que délègue t on exactement ? Avec quelle borne, avec quel
19:12
droit d'arrêt, avec quelle visibilité, avec quels temps
19:15
humains consacrés à la supervision ?
19:17
Tant qu'on ne répond pas à ces questions, l'autonomie reste
19:19
moins une prouesse qu'un pari. Le plus troublant peut être est
19:22
que les briques sont déjà là, des agents capables de garder
19:25
une mémoire de travail, des systèmes capables d'utiliser des
19:28
outils, des architectures capables de répartir des tâches,
19:30
des organisations tentées de déléguer plus loin pour gagner
19:33
en vitesse. Nous ne sommes pas encore.
19:35
Dans le monde des entreprises entièrement gouvernées par des
19:37
machines. Mais nous sommes déjà dans un
19:39
monde où des portions de travail peuvent glisser hors du geste
19:42
humain direct, et cela suffit à rendre la question urgente.
19:45
La grande question désormais n'est plus est ce que l'i a peut
19:47
travailler seule ? La grande question, c'est à
19:50
partir de quand ? Acceptons nous de ne plus
19:51
regarder, vous écoutiez. Liya qui bosse pendant que tu
19:54
dors. Merci de votre écoute.
19:55
Si cet épisode vous a plu, abonnez vous et partagez le.
19:58
On se retrouve très vite.