Latest / Content Machine - Le podcast / 🤫 Quand Internet entre dans l'ère du soupçon permanent
Transcript
- 0:00SPEAKER_00: Fin septembre, vous le savez,
- 0:01SPEAKER_00: Thédison Aurélien reçoit le prix du roman Fnac dans son livre C'était ça au mourir.
- 0:06SPEAKER_00: Il est également en liste pour le Goncourt.
- 0:08SPEAKER_00: Bref, pour un premier roman, on peut difficilement rélaigneux.
- 0:12SPEAKER_00: Sauf que le même jour, un compte anonyme sur X l'accuse d'avoir Aujourd'hui,
- 0:15SPEAKER_00: je ne vous propose pas du tout de commenter cette affaire
- 0:17SPEAKER_00: parce qu'elle aura déjà été bien discutée.
- 0:30SPEAKER_00: En fait, avec un peu de recul,
- 0:32SPEAKER_00: ce qui m'intéresse surtout dans cette foire d'empoigne,
- 0:34SPEAKER_00: c'est qu'on a d'un côté des professionnels de la littérature qui ont lu,
- 0:38SPEAKER_00: apprécié et puis même récompensé ce livre.
- 0:41SPEAKER_00: Et de l'autre, on a un logiciel censé identifier son origine et dont
- 0:44SPEAKER_00: les Les résultats ont alimenté une polémique majeure.
- 0:47SPEAKER_00: Évidemment, entre logiciel et ses pros de la littérature,
- 0:50SPEAKER_00: ce ne sont pas les mêmes choses qu'on évalue dans le texte.
- 0:53SPEAKER_00: Mais personnellement, ça m'a interpellé parce que ça fait surgir une autre question
- 0:57SPEAKER_00: à laquelle on est toutes et tous confrontés.
- 1:00SPEAKER_00: Pour mesurer l'ampleur du phénomène,
- 1:01SPEAKER_00: faut déjà savoir reconnaître les textes artificiels et ça c'est loin d'être réglé
- 1:04SPEAKER_00: parce qu'un détecteur
- 1:15SPEAKER_00: Analyse certaines régularités dans les formulations ou la structure d'un texte,
- 1:19SPEAKER_00: et il estime ensuite la probabilité que celui-ci provienne d'une IA.
- 1:22SPEAKER_00: Lui que dans le potage, c'est qu'il ne sait rien de la manière dont
- 1:25SPEAKER_00: le document a été réellement écrit.
- 1:27SPEAKER_00: Il n'a pas accès au brouillon, ni aux corrections successives de l'auteur,
- 1:30SPEAKER_00: donc le détecteur, il peut repérer des indices, parfois avec une grande efficacité,
- 1:34SPEAKER_00: c'est pas le souci, mais il peut aussi se gourer.
- 1:36SPEAKER_00: Alors oui, je sais, pangram, infaillible, tout ça, tout ça...
- 1:40SPEAKER_00: On va mettre un peu de côté le marketing si vous voulez bien,
- 1:42SPEAKER_00: on a quand même plusieurs travaux scientifiques qui ont justement montré
- 1:45SPEAKER_00: que ces détecteurs pouvaient produire des faux positifs
- 1:48SPEAKER_00: et que leurs résultats ne constituent donc pas à eux seuls une preuve
- 1:52SPEAKER_00: à 100% irréfutable.
- 1:54SPEAKER_00: Idem, je rentre pas dans le détail, d'autres que moi ont déjà largement abordé cette question.
- 1:58SPEAKER_00: Là, pour Télisson Aurélien, vous pourriez quand même rétorquer que son éditeur a
- 2:03SPEAKER_00: entre temps annoncé avoir fait examiner les différentes versions du manuscript
- 2:07SPEAKER_00: Par un expert indépendant et que cette expertise aurait révélé des traces
- 2:11SPEAKER_00: de balises d'intelligence artificielle.
- 2:14SPEAKER_00: Oui, c'est sûr, mais encore une fois c'est justement ce qui rend cette affaire intéressante.
- 2:18SPEAKER_00: Les soupçons initiaux ont conduit à rechercher des éléments matériels Clairement,
- 2:23SPEAKER_00: ces éléments matériels sont bien plus probants qu'un simple score de détection.
- 2:27SPEAKER_00: Je pense qu'on sera d'accord là dessus.
- 2:29SPEAKER_00: Légère aparté, on pourrait aussi examiner le rôle joué
- 2:32SPEAKER_00: par la maison d'édition d'Aurélien parce que lorsqu'on achète un roman publié
- 2:36SPEAKER_00: chez un éditeur reconnu, on part du principe qu'un certain nombre
- 2:39SPEAKER_00: de vérifications ont été faites.
- 2:40SPEAKER_00: On ne va pas réclamer les brouillons de l'écrivain avant de passer à la caisse.
- 2:43SPEAKER_00: C'est aussi ça, la confiance acceptée de s'appuyer sur le jugement
- 2:47SPEAKER_00: de quelqu'un d'autre sans avoir Sauf qu'ici, l'éditeur qui avait, pour rappel,
- 2:53SPEAKER_00: soutenu son auteur au début,
- 2:55SPEAKER_00: il finit par revenir sur sa position après avoir examiné des éléments auxquels
- 2:59SPEAKER_00: les lecteurs n'avaient pas accès.
- 3:01SPEAKER_00: Maintenant, si on est dans ce problème au contenu qu'on trouve sur Internet,
- 3:04SPEAKER_00: évidemment, personne va examiner Les métadonnées et l'historique de rédaction
- 3:08SPEAKER_00: de chaque poste ou de chaque article publié, c'est pas possible.
- 3:11SPEAKER_00: D'autant qu'on parle désormais de quantité de contenu assez vertigineuse.
- 3:15SPEAKER_00: En août 2026, le Pew Research Center publie une analyse
- 3:18SPEAKER_00: de 500 000 pages web anglophones collectées entre 2021 et juillet 2026.
- 3:23SPEAKER_00: En utilisant un détecteur, les chercheurs y constatent qu'environ 10% des pages
- 3:28SPEAKER_00: de leur échantillon présentent des signes importants de rédaction ou de modification
- 3:32SPEAKER_00: par IA. Mais ce chiffre, il mélange Autrement dit, je reformule,
- 3:36SPEAKER_00: parmi les pages récentes étudiées, plus d'une sur trois présente des sites
- 3:49SPEAKER_00: En gros, en avril 2026, on a 4 chercheurs
- 4:04SPEAKER_00: Ils publient une autre étude sur les textes générés ou assistés par IA
- 4:08SPEAKER_00: et ils observent une progression similaire parmi les nouveaux sites étudiés.
- 4:12SPEAKER_00: Mais eux, ils cherchent surtout à savoir si cette multiplication
- 4:14SPEAKER_00: des textes artificiels change quelque chose à la qualité de l'information.
- 4:18SPEAKER_00: Parce que c'est bien ça, en fait, l'inquiétude derrière toutes ces histoires.
- 4:21SPEAKER_00: Si n'importe qui peut produire 50 articles ou 50 bouquins en quelques minutes,
- 4:25SPEAKER_00: on peut imaginer que le web, notamment,
- 4:27SPEAKER_00: va progressivement se remplir de textes tout bidons et on ne va pas se mentir
- 4:31SPEAKER_00: à priori. On en a bien pris le chemin.
- 4:33SPEAKER_00: Sauf que les résultats de leur étude à ces chercheurs ne permettent pas
- 4:35SPEAKER_00: de conclure ça aussi simplement.
- 4:37SPEAKER_00: L'hypothèse de départ de ces chercheurs, c'est que s'il y a,
- 4:40SPEAKER_00: elle permet de produire des textes industriels,
- 4:43SPEAKER_00: alors le web risque potentiellement de devenir plus répétitif Donc,
- 4:47SPEAKER_00: quelque part plus uniforme et moins exact dans la véracité des faits.
- 4:50SPEAKER_00: Ils analysent donc plusieurs caractéristiques des contenus publiés
- 4:53SPEAKER_00: et sur certains points, ils observent bien des changements.
- 4:56SPEAKER_00: Les textes classés IA sont notamment associés à une diminution
- 5:00SPEAKER_00: de la diversité sémantique et à des formulations En revanche,
- 5:04SPEAKER_00: il ne trouve pas de lien statistiquement significatif avec une dégradation
- 5:08SPEAKER_00: de l'exactitude factuelle.
- 5:10SPEAKER_00: Donc en gros, cette étude ne confirme pas que la présence croissante
- 5:14SPEAKER_00: de l'IA rend automatiquement les informations exactes.
- 5:17SPEAKER_00: Idem, moi je trouve ça intéressant parce qu'on mélange souvent deux problèmes,
- 5:21SPEAKER_00: à savoir la qualité de ce qui est écrit et la confiance qu'on décide
- 5:25SPEAKER_00: de lui accorder. On peut parfaitement lire un texte généré par une IA qui contient
- 5:28SPEAKER_00: des informations exactes, tout comme on peut lire une magnifique
- 5:36SPEAKER_00: Donc comment on peut départager les deux ?
- 5:38SPEAKER_00: Même lorsqu'une information est correcte,
- 5:40SPEAKER_00: qu'est-ce qui fait que nous sommes disposés à lui accorder notre confiance ?
- 5:44SPEAKER_00: Là-dessus, on a une autre étude publiée C'est en juin 2026 qui nous apporte
- 5:48SPEAKER_00: un éclairage assez surprenant, ou pas d'ailleurs, ça se discute.
- 5:52SPEAKER_00: Cette fois, des chercheurs ont réalisé une expérience auprès
- 5:54SPEAKER_00: de quasi 4000 participants en étudiant notamment leur réaction
- 5:58SPEAKER_00: à un article d'actualité qui portait sur une politique publique.
- 6:01SPEAKER_00: Ce qui est intéressant dans cette expérience,
- 6:03SPEAKER_00: c'est qu'ils ont constaté que le fait
- 6:04SPEAKER_00: de signaler explicitement qu'un article avait été produit par IA,
- 6:09SPEAKER_00: ça réduisait sa précision perçue, donc on lui faisait moins confiance.
- 6:12SPEAKER_00: Ce qui fait que notre jugement sur une information ne dépend pas uniquement
- 6:15SPEAKER_00: de son contenu, il peut aussi être influent.
- 6:17SPEAKER_00: Et quand on y réfléchit, c'est pas mal important dans un domaine où
- 6:23SPEAKER_00: les textes sont justement censés influencer nos décisions.
- 6:27SPEAKER_00: La communication des entreprises.
- 6:29SPEAKER_00: Prenons un exemple, vous allez voir où je veux en venir.
- 6:32SPEAKER_00: Sur son site Slack publie une étude de cas consacrée à Jagermeister,
- 6:36SPEAKER_00: une entreprise allemande notamment connue pour ses liqueurs
- 6:39SPEAKER_00: et que je ne connaissais absolument pas avant de faire cette vidéo.
- 6:42SPEAKER_00: Le document explique notamment comment Jagermeister a utilisé Slack pour améliorer
- 6:47SPEAKER_00: la communication entre ses équipes, faciliter le travail à l'international, tout ça.
- 6:51SPEAKER_00: Top, très bien. On y trouve aussi le témoignage d'une responsable.
- 6:54SPEAKER_00: On a plusieurs exemples précis, notamment les traductions automatiques,
- 6:58SPEAKER_00: les rappels administratifs via un Slackbot. C'est super.
- 7:00SPEAKER_00: Surtout, on a un résultat chiffré.
- 7:03SPEAKER_00: Qu'adore le marketing.
- 7:04SPEAKER_00: Grâce à Slack, Jagger Master va économiser 15 000 heures de travail et prêter 100 000 balles.
- 7:09SPEAKER_00: Pour une entreprise qui envisage de claquer un abonnement Slack,
- 7:12SPEAKER_00: c'est un argument sérieux que tu sous-pèses.
- 7:14SPEAKER_00: Mais si tu actives tes neurones, déjà à la base, comment ils ont calculé ces économies ?
- 7:19SPEAKER_00: Parce qu'économiser 14 000 heures, ça ne se constate pas en regardant bosser les salariés.
- 7:23SPEAKER_00: Alors on poursuit la lecture.
- 7:24SPEAKER_00: Et tout en bas de la page, on trouve une note.
- 7:27SPEAKER_00: Slack précise que les chiffres proviennent de son propre calculateur de valeur
- 7:31SPEAKER_00: et que celui-ci utilise les données du mois précédent pour extrapoler les économies
- 7:36SPEAKER_00: sur une année. Donc bon, là, ça change un peu notre lecture.
- 7:39SPEAKER_00: Les 14 000 heures ne correspondent pas nécessairement
- 7:41SPEAKER_00: à une économie annuelle directement constatée.
- 7:45SPEAKER_00: C'est une estimation qui est calculée à partir de données d'utilisation.
- 7:48SPEAKER_00: Est-ce que ça, ça rend le témoignage mensonger ?
- 7:50SPEAKER_00: Ben non, quand même pas, je ne pense pas.
- 7:53SPEAKER_00: Est-ce que ça signifie que Slack n'a apporté aucun bénéfice ?
- 7:55SPEAKER_00: A priori non plus.
- 7:56SPEAKER_00: En revanche, si je dois décider d'équiper mon entreprise avec ce logiciel,
- 8:00SPEAKER_00: j'aimerais comprendre les hypothèses derrière cette estimation avant de la prendre
- 8:03SPEAKER_00: pour argent comptant. Là-dessus, Justement, Slack a le mérite d'indiquer sa méthode,
- 8:07SPEAKER_00: ce que ne fait pas tout le monde.
- 8:08SPEAKER_00: Seulement, cette précision, elle est pas aussi visible que le chiffre.
- 8:11SPEAKER_00: C'est un mécanisme qu'on retrouve en réalité dans énormément de contenus commerciaux.
- 8:15SPEAKER_00: La promesse, elle est immédiatement compréhensible, si on a de la chance,
- 8:19SPEAKER_00: mais les éléments qui permettent Et cette promesse demande davantage de travail
- 8:24SPEAKER_00: que des prospects. Je raccroche les wagons avec l'IA puisque désormais,
- 8:27SPEAKER_00: vous le constatez quotidiennement je pense,
- 8:29SPEAKER_00: l'intelligence artificielle permet de produire beaucoup plus facilement des textes
- 8:33SPEAKER_00: qui ont toutes les apparences d'un document On peut obtenir en quelques secondes
- 8:37SPEAKER_00: un article bien structuré avec un ton expert et des arguments qui tiennent la route
- 8:42SPEAKER_00: ou en tout cas qui semblent tenir la route.
- 8:44SPEAKER_00: Et lorsqu'on s'intéresse à la manière dont
- 8:46SPEAKER_00: les entreprises prennent leurs décisions d'achat,
- 8:48SPEAKER_00: cette distinction devient importante.
- 8:51SPEAKER_00: En mai 2026, Gartner publie une enquête menée auprès de 700 ou 600 acheteurs B2B
- 8:57SPEAKER_00: et 45% grosso modo déclaraient avoir utilisé une IA Générative
- 9:00SPEAKER_00: au cours d'un achat récent, notamment pour rechercher des infos sur des produits
- 9:03SPEAKER_00: et leurs fournisseurs.
- 9:04SPEAKER_00: Et 70% et quelques disent préférer une expérience d'achat sans commercial.
- 9:09SPEAKER_00: On pourrait donc imaginer que les vendeurs deviennent progressivement inutiles
- 9:12SPEAKER_00: et qu'ils vont être remplacés par des assistants.
- 9:16SPEAKER_00: Sauf qu'une autre réponse vient compliquer ce scénario parce que lorsqu'il s'est
- 9:19SPEAKER_00: En gros, ces
- 9:26SPEAKER_00: personnes ne veulent pas discuter
- 9:27SPEAKER_00: avec un vendeur pour découvrir
- 9:29SPEAKER_00: les fonctionnalités d'un logiciel,
- 9:30SPEAKER_00: mais quand il faut s'assurer que ce qu'elles ont compris de leur côté,
- 9:34SPEAKER_00: c'est Et si c'est applicable à leur situation,
- 9:36SPEAKER_00: le besoin de confirmation reste important.
- 9:38SPEAKER_00: Pourquoi diable ?
- 9:39SPEAKER_00: L'enquête suggère que l'accès à l'information et la confiance nécessaires
- 9:43SPEAKER_00: pour prendre une décision ne sont pas exactement la même chose.
- 9:46SPEAKER_00: Pareil, quelque part, c'est assez logique parce que si vous choisissez
- 9:49SPEAKER_00: un Un logiciel qui va équiper vos 50 salariés pendant 3 ans,
- 9:52SPEAKER_00: vous voulez surtout comprendre ce qui va vous coûter
- 9:54SPEAKER_00: et si les bénéfices annoncés sont réellement envisageables dans votre situation.
- 9:58SPEAKER_00: Un texte, ça peut répondre à une partie de ces questions, une étude de cas,
- 10:02SPEAKER_00: ça peut en éclairer d'autres, mais il restera Quoi qu'il arrive,
- 10:05SPEAKER_00: des incertitudes que ni une page web, ni Chajipiti ou Claude,
- 10:08SPEAKER_00: ni même un commercial très sûr de lui ne pourront résoudre sans apporter
- 10:12SPEAKER_00: des éléments supplémentaires.
- 10:13SPEAKER_00: Et c'est peut-être là que se joue une partie de l'évolution de la confiance sur Internet.
- 10:17SPEAKER_00: Revenons à notre ami Télisson.
- 10:18SPEAKER_00: Dans cette affaire, mine de rien,
- 10:19SPEAKER_00: il y a plusieurs questions qui ont fini par se superposer face à un lasagne.
- 10:22SPEAKER_00: Est-ce que le texte a été écrit avec une IA ? Oui. A priori.
- 10:26SPEAKER_00: Est-ce que son auteur a respecté les règles de la création littéraire ?
- 10:30SPEAKER_00: Là, c'est moins évident, c'est plus subjectif.
- 10:31SPEAKER_00: Et qu'est-ce que les accusations changent à la façon dont le livre est jugé ?
- 10:35SPEAKER_00: Eh ben là, ça devient terra incognita.
- 10:37SPEAKER_00: Ces questions, au fond, elles sont liées, mais elles ne sont pas tout à fait identifiées.
- 10:40SPEAKER_00: Et on trouve une distinction comparable avec les contenus qu'on lit chaque jour sur le web.
- 10:44SPEAKER_00: Il y a leur origine, qui c'est qui les a produits, avec quels outils.
- 10:47SPEAKER_00: Il y a leur exactitude, ce qu'elles racontent, est-ce que ça existe,
- 10:50SPEAKER_00: est-ce que ça résiste à une vérification.
- 10:52SPEAKER_00: Et il y a les raisons pour lesquelles nous décidons de leur faire confiance aussi.
- 10:55SPEAKER_00: Ça vient compliquer ces trois dimensions-là parce qu'elle rend beaucoup plus facile
- 10:59SPEAKER_00: la production de textes convaincants sans garantir pour autant
- 11:03SPEAKER_00: que leurs affirmations sont fondées.
- 11:05SPEAKER_00: Mais les études qu'on a examinées,
- 11:06SPEAKER_00: elles montrent aussi les limites d'une réponse qui consiste juste à traquer
- 11:10SPEAKER_00: En revanche, lorsqu'une entreprise affirme avoir fait économiser
- 11:14SPEAKER_00: des milliers d'heures à ses clients ou qu'un article prétend
- 11:28SPEAKER_00: A mesure que créer du contenu devient plus facile,
- 11:34SPEAKER_00: ces questions risquent de devenir beaucoup plus importantes.
- 11:37SPEAKER_00: Parce qu'au fond, ce qu'on cherche à savoir,
- 11:40SPEAKER_00: c'est pas seulement qui a écrit tel ou tel texte,
- 11:43SPEAKER_00: c'est si nous avons de bonnes raisons de croire ce qu'il nous raconte.
- 11:47SPEAKER_00: Sur ce, à plus sous l'autobus.