Latest / Le centre de gravité / Avec l'IA, le consentement ne suffit plus
Transcript
- 0:00Épisode avec liya, le consentement ne suffit plus,
- 0:03chapitre un, la scène impossible, une paire de
- 0:07lunettes, une salle de bain et une question qu aucune case à
- 0:11cocher ne règle vraiment qui ici a consenti.
- 0:15Une paire de lunettes en apparence, rien de
- 0:17spectaculaire, une monture sobre, un logo connu, pas
- 0:20d'écran devant les yeux, pas de casque futuriste, juste un objet
- 0:23qui ressemble à un accessoire ordinaire.
- 0:25C'est aussi pour cela qu'il inquiète peu au départ, le
- 0:28produit est discret, il donne l'impression d'une technologie
- 0:30déjà installée dans les gestes quotidiens.
- 0:32Vous Regardez, vous parlez, la machine répond, puis le cadre
- 0:35change. En mars 2026, la BBC rapporte,
- 0:37après une enquête de journaux suédois, que des sous-traitants
- 0:39au Kenya ont vu dans des contenus remontés par les
- 0:42lunettes Meta, des personnes aux toilettes, des corps nus, des
- 0:45scènes sexuelles. On ne parle plus de données au
- 0:49sens abstrait, on parle de moments intimes.
- 0:51À partir de là, le mot important n'est plus donné, mais le
- 0:53regard. Une donnée peut rester
- 0:55abstraite. Un regard signifie qu'à un
- 0:57moment précis, quelqu'un a vu Meta dans une déclaration citée
- 1:00par la BBC, explique que lorsque des personnes partagent du
- 1:02contenu avec Meta et I, l'entreprise peut faire appel à
- 1:06des sous-traitants pour examiner certaines données afin
- 1:08d'améliorer l'expérience utilisateur.
- 1:09Dit simplement, entre vous et la machine, il peut y avoir
- 1:13d'autres humains. Le problème commence ici.
- 1:17L'enjeu n'est pas seulement l'enregistrement.
- 1:18Ce qui change vraiment, c'est la possibilité qu'un contenu soit
- 1:21revu par quelqu'un. Ses lunettes captent ce que vous
- 1:23voyez au moment où vous le voyez.
- 1:25Elles peuvent donc enregistrer ce que vous vivez, mais aussi ce
- 1:28que vivent les autres autour de vous, une cuisine, un salon, une
- 1:31chambre, une salle de bain. Le poing aveugle est ici la
- 1:34personne qui accepte les conditions générales, c'est
- 1:36l'acheteur, pas celle qui apparaît dans le miroir, pas
- 1:39celle qui passe derrière vous, pas celle qui parle dans la
- 1:42pièce, pas celle qui entre simplement dans le champ.
- 1:45Elle n'a rien signé, rien réglé, rien négocié.
- 1:48Pourtant elle peut se retrouver dans la chaîne.
- 1:50C'est à ce moment que le consentement montre sa limite.
- 1:53Il existe peut être pour l'utilisateur, il ne vaut
- 1:55presque plus pour la scène ni pour les autres personnes qui
- 1:58s'y trouvent. La vraie question n'est donc
- 2:00peut être pas est ce que les lunettes voient ?
- 2:02La vraie question c'est quoi regarde quand la machine
- 2:05regarde ? Chapitre 2, la revue le
- 2:09consentement paraît simple tant que la machine reste seule dès
- 2:12qu'une scène repasse devant des humains.
- 2:14Tout change il. Y a 2 mots pour raconter la même
- 2:16histoire, Collect et review. Le premier fait déjà partie du
- 2:20quotidien numérique, le 2nd reste beaucoup plus troublant.
- 2:23Nous avons fini par nous habituer à la collecte, les
- 2:25plateformes, les applis et les objets connectés collectent.
- 2:28Le mot est banal. Review change immédiatement la
- 2:31situation parce qu'une personne intervient après la machine,
- 2:34quelqu'un regarde ce qui a été remonté, vérifie, classe,
- 2:38corrige et décide. Dans les cas ambigus, c'est un
- 2:40terme technique, mais c'est lui qui concentre le problème moral
- 2:43du système. Meta l'emploi dans un
- 2:45vocabulaire très standard, des contractors peuvent examiner
- 2:48certains contenus pour améliorer l'expérience présenté ainsi,
- 2:51cela ressemble presque à une opération de maintenance.
- 2:55Pourtant, c'est là que tout bascule.
- 2:57Une scène intime cesse d'être un moment privé, elle devient un
- 3:00cas, une salle de bain devient un contenu a filtré pour la
- 3:03personne concernée. Le résultat est simple, ce qui
- 3:06n'aurait jamais dû circuler a circulé, et ce qui n'aurait
- 3:09jamais dû être vu a été vu entre stockage et revue.
- 3:12La différence n'est pas seulement technique, elle tient
- 3:15à la présence d'un témoin. Voilà pourquoi la revue humaine
- 3:18choqué davantage que là simple collecte, nous avons intégré
- 3:21l'idée d'un traitement automatique.
- 3:22Nous acceptons beaucoup moins l'idée qu'au bout de la chaîne
- 3:25se trouve encore quelqu'un pas forcément malveillant, pas
- 3:28forcément là longtemps, mais là ce point dépasse largement méta.
- 3:32La revue n'est pas une exception, c'est une couche
- 3:34normale de fabrication. Plus un système promet d'être
- 3:37général, plus il rencontre des cas ambigus.
- 3:40Plus il veut paraître fiable, plus il faut corriger, filtrer,
- 3:43réajuster. En clair, plus la machine
- 3:45promet, plus elle dépend encore de travail humain.
- 3:48Et plus cette dépendance réapparaît, plus on comprend
- 3:50qu'un consentement signé une seule fois ne décrit pas
- 3:53vraiment ce qui se passe. Le scandale n'est donc pas
- 3:56seulement que la donnée circule. Le scandale, c'est qu'elle
- 3:59repasse par quelqu'un. Chapitre 3, le précédent kényan
- 4:03bien avant les lunettes, il y avait déjà des lecteurs de
- 4:05l'ombre. Pour rendre la machine
- 4:07supportable, il a fallu envoyer ailleurs ce que personne n'avait
- 4:11vraiment consenti avoir pour elle.
- 4:13Si l'affaire des lunettes méta troublotant, c'est aussi parce
- 4:16qu'elle rend visible quelque chose qui existait déjà avant
- 4:19les images, il y avait les textes, avant les scènes
- 4:22filmées, il y avait des passages qu'aucun humain ne devrait lire
- 4:25toute la journée. Pour un salaire aussi bas ?
- 4:28En janvier 2023, time révèle qu'open AIA eu recours à des
- 4:32travailleurs kényans via sama. Pour filtrer une partie des
- 4:34contenus les plus toxiques utilisés pour entraîner les
- 4:37garde-fous de chat GPT. L'objectif officiel est clair,
- 4:40rendre le modèle plus sûr et éviter des réponses violentes,
- 4:43sexuelles ou dangereuses. Sur le principe, cela peut
- 4:46sembler logique, un système de cette taille a besoin de
- 4:49garde-fous, mais tout change quand on regarde ce que cela
- 4:52exige. Concrètement, les travailleurs
- 4:54concernés devaient lire, classer et étiqueter des passages
- 4:58décrivant des abus sexuels sur mineurs, de la bestialité.
- 5:02De l'inceste, des mutilations, des suicides, des meurtres et
- 5:05des tortures. Le pire du web, transformé en
- 5:08routine time rapporte des rémunérations inférieures à 2$
- 5:12de l'heure, Weiss reprend ensuite l'enquête, puis CBS,
- 5:15dans 7 6 Min, montre à son tour ce que cette industrie demande à
- 5:19ceux qui la rendent possible, absorber à la chaîne ce que les
- 5:23produits finaux doivent empêcher d'atteindre l'utilisateur.
- 5:24À ce stade, le Kenya n'est plus un simple décor de
- 5:29sous-traitance. Il devient une pièce de
- 5:32l'infrastructure. Il faut être précis.
- 5:35Le problème ne tient pas seulement à la question de
- 5:36l'exploitation. Le point plus profond, c'est que
- 5:39l'i a déplace vers certains territoires la part de travail
- 5:42humain qu'elle prétend dépasser. Là encore, le consentement
- 5:46montre sa limite, l'utilisateur final peut accepter un service,
- 5:51il ne consent pas vraiment à toute la chaîne humaine qui le
- 5:53rend possible. Chez open AI, ce travail prend
- 5:56la forme d'un nettoyage textuel chez Meta dans le cas des
- 5:59lunettes. Il peut prendre la forme d'une
- 6:01revue du réel filmé, le matériau change, la logique reste.
- 6:06Pour qu'un système paraisse fiable et fréquentable, il faut
- 6:09souvent qu'en amont quelqu'un fasse le travail le plus dur en
- 6:12lisant des contenus extrêmes et en décidant comment les classer
- 6:17pour que Chad GPT vous parle proprement.
- 6:19Quelqu'un a dû lire l'innommable à sa place.
- 6:22Chapitre 4, pourquoi Nairobi ? On parle souvent du Kenya comme
- 6:27d'une arrière boutique. C'est trop vague.
- 6:30En réalité, c'est une géographie très précise du travail cognitif
- 6:34à bas coût. Pourquoi le Kenya ?
- 6:36Pourquoi Nairobi revient il si souvent quand on regarde
- 6:39l'envers de l'i a la réponse la plus simple serait de parler du
- 6:42coût, mais ce n'est qu'une partie de l'explication. le
- 6:46Kenya réunit plusieurs conditions utiles aux grandes
- 6:48entreprises technologiques, l'anglais comme langue de
- 6:51travail, un vivier de diplômés, un secteur déjà structuré dans
- 6:55les services numériques. Et une main d'œuvre assez
- 6:57qualifiée pour annoter, modérer, filtrer et classer des
- 7:01situations ambiguës. Dans le même temps, les salaires
- 7:04restent assez bas pour que ces tâches demeurent rentables pour
- 7:06des entreprises américaines. Ce n'est donc pas seulement de
- 7:09la délocalisation, c'est une géographie précise du travail
- 7:13cognitif à bas coût. On y envoie ceux qui demandent
- 7:16encore du jugement humain, sans aller jusqu'à payer ce jugement
- 7:19au prix du centre, cette distinction compte.
- 7:22Si le travail était simple, il serait automatisé.
- 7:25S'il était jugé trop stratégique, il resterait au
- 7:27siège. Ce qu'on externalise ici, c'est
- 7:30la zone intermédiaire, celle où il faut encore des humains, mais
- 7:34à un coût que l'entreprise veut garder bas.
- 7:36La formule de travail invisible ne suffit donc pas.
- 7:39Ces travailleurs ne sont pas seulement cachés, ils occupent
- 7:42une place très précise dans la chaîne de valeur, assez près du
- 7:45produit pour le rendre possible, et assez loin du récit marketing
- 7:48pour ne pas troubler sa promesse.
- 7:50Nairobi devient alors plus qu'un lieu, elle devient une fonction
- 7:54dans le système. L'endroit où l'on transforme
- 7:56l'ambiguïté du réel en signaux exploitables, là où la promesse
- 8:00d'automatisation récupère encore à bas prix ce qu'elle ne sait
- 8:04pas résoudre seule. Le Kenya n'est pas à la marge du
- 8:08système, il fait partie des endroits où il tient.
- 8:11Chapitre 5, méta ou la limite toujours repoussée les lunettes
- 8:17ne tombent pas dans un vide historique, elles prolongent une
- 8:20vieille dispute entre méta. Et l'idée même de frontière pour
- 8:23comprendre. Pourquoi l'affaire des Ray BA de
- 8:25méta à immédiatement suscité autant de soupçons ?
- 8:27Il faut rappeler une chose simple, méta n'arrive pas avec
- 8:30un historique neutre. Cambridge analytica a laissé une
- 8:32trace profonde. Puis sont venus les contentieux
- 8:34européens, les amendes, les débats sur la publicité
- 8:37comportementale, les transferts de données vers les États-Unis,
- 8:40les réglages par défaut et les conflits autour du consentement.
- 8:43Ce rappel n'est pas secondaire, il change la manière de regarder
- 8:46ses lunettes. Le produit n'apparaît plus comme
- 8:48une innovation isolée, il s'inscrit dans une trajectoire,
- 8:50celle d'une entreprise. Qui pousse régulièrement la
- 8:53frontière de ce qu'un système peut capter, recouper et
- 8:55utiliser, puis renégocier ensuite avec le droit, les
- 8:58régulateurs et l'opinion publique, l'endroit où cette
- 9:01frontière aurait dû s'arrêter. Les Ray Ban Méta déplacent cette
- 9:04logique dans une zone encore plus sensible.
- 9:05On ne parle plus seulement d'un clic, d'un like ou d'une
- 9:08préférence publicitaire. On parle de scènes de vie, de
- 9:11corps, de pièces privées, d'intimité captées au plus près
- 9:14du quotidien. Le produit trouble autant parce
- 9:16qu'il déplace un vieux passif dans un espace beaucoup plus
- 9:18proche de la vie quotidienne. Les lunettes méta ne sont pas
- 9:21une. Elle déplace une vieille logique
- 9:23plus près du corps. La réponse de Méta, elle aussi,
- 9:26reste fidèle à cette histoire, l'entreprise ne parle pas le
- 9:28langage du scandale, elle parle celui du process contractors,
- 9:32amélioration de l'expérience, privacy policy, indicateur
- 9:35lumineux, filtrage, encadrement. C'est une réponse de conformité
- 9:38plus qu'une réponse morale, c'est aussi à cet endroit que le
- 9:41consentement formel montre sa faiblesse, il encadré, il
- 9:44documente, il coche des cases, mais il ne suffit plus à décrire
- 9:47la violence concrète de ce qui circule.
- 9:49Le passif compte donc beaucoup parce qu'il.
- 9:51La confiance de départ, une entreprise qui a déjà contesté
- 9:55les frontières de la vie privée et moins facilement cru quand
- 9:57elle affirme avoir correctement balisé la suivante.
- 10:00Les lunettes méta ne sont pas seulement un nouveau produit,
- 10:02elles prolongent un ancien conflit plus près du corps.
- 10:05Chapitre 6, open AI ou la matière première chez Meta, le
- 10:09soupçon porte d'abord sur l'intime chez OPEN AI, il porte
- 10:12aussi sur autre chose le droit de prendre ce qui existe déjà
- 10:16pour en faire l'aliment de la machine open.
- 10:18AI suit une autre trajectoire, pas d'abord la salle de bain,
- 10:21mais la bibliothèque. Pas d'abord l'intime filmée,
- 10:23mais les œuvres et les textes absorbés.
- 10:25Les modèles ont été entraînés sur des corpus immenses et avec
- 10:28eux sont arrivés les accusations, livres utilisés
- 10:30sans autorisation claire, articles repris sans licence,
- 10:33œuvres protégées, trans. Formé en matière d'entraînement,
- 10:37l'exemple le plus structurant est sans doute celui du New York
- 10:39Times, qui attaque open AI et Microsoft fin 2023.
- 10:43Le journal soutient que l'entraînement et certains
- 10:45usages du système exploitent illégalement ces contenus.
- 10:48D'autres auteurs, éditeurs et ayants droit ont formulé des
- 10:51reproches comparables, vous construisez à partir de travaux
- 10:54qui ne vous appartenaient pas. Open AI n'est donc pas seulement
- 10:57contesté pour ce qu'elle produit, elle l'est aussi pour
- 10:59ce qu'elle a pris pour produire. Cette question du Copyright ne
- 11:02ressemble pas, sur le plan juridique à celle des lunettes
- 11:05Meta. Elle touche à une frontière
- 11:06voisine chez méta, la question devient, qui a vu chez open AI ?
- 11:10Elle devient, à partir de quoi avez-vous construit ?
- 11:12Cette frontière devient encore plus nette quand on regarde la
- 11:15politique de données d'open AI côté grand public.
- 11:17L'entreprise explique que les contenus fournis dans chat GPT
- 11:20peuvent être utilisés pour améliorer les modèles, sauf si
- 11:22l'utilisateur s'y oppose. Côté API et offres entreprises,
- 11:25la règle change, les données ne servent pas à entraîner les
- 11:28modèles par défaut, sauf accord explicite.
- 11:29Cette différence compte, elle montre que le niveau de
- 11:33protection n'est pas le. Même salon, l'offre, la
- 11:36confidentialité forte existe, mais elle est davantage attachée
- 11:40à certains produits qu à d'autres.
- 11:41Le grand public parle à la machine.
- 11:43Le client entreprise achète aussi la promesse que cette
- 11:46parole ne reviendra pas, nourrir le système de la même manière.
- 11:48Le consentement existe aussi chez open AI, mais il ne
- 11:51recouvre pas la même réalité selon le produit, le statut du
- 11:55client et la place qu'on occupe dans le système.
- 11:57Open AI concentre donc 2 tensions liées.
- 11:59D'un côté, le Kenya et Samar rappellent que la sécurité du
- 12:03modèle a reposé sur du travail humain à bas coût.
- 12:05De l'autre, les contentieux sur le Copyright rappellent que
- 12:08l'entraînement pose la question de la légitimité de la matière
- 12:11absorbée. Open AI n'est pas seulement une
- 12:13entreprise qui répond, c'est une entreprise qui oblige à demander
- 12:16d'où vient ce sur quoi vous avez appris.
- 12:18Chapitre 7, le tiers est la loi. L'enjeu n'est pas seulement que
- 12:22des données circulent, une personne peut entrer dans le
- 12:24système sans jamais avoir eu l'occasion d'y consentir.
- 12:27Le tiers filmé est peut être la figure centrale de cette
- 12:30histoire. Pas l'acheteur, pas
- 12:32l'utilisateur. Le tiers, l'acheteur des
- 12:34lunettes peut accepter des conditions.
- 12:35Il peut cliquer, il peut consentir au moins formellement
- 12:39à certains traitements, mais la personne autour de lui n'a rien
- 12:41validé. Elle peut entrer dans le champ,
- 12:43passer derrière lui, parler dans la pièce ou apparaître nu dans
- 12:46un miroir sans avoir eu la moindre prise sur ce qui se
- 12:49joue. Le droit montre ici ses limites.
- 12:51Bien sûr, le RGPD s'applique. Vidéos, voix, visages, finalités
- 12:56sous-traitants, transferts, tout cela entre dans son champ.
- 12:59Mais dès qu'une scène touche à la nudité, à la sexualité, à un
- 13:02lieu privé ou à des paroles intimes, le sujet déborde.
- 13:05En France, on touche aussi à la vie privée, au droit à l'image
- 13:08et parfois au droit pénal. Ce n'est plus seulement un
- 13:11dossier de données personnelles, c'est un dossier d'intimité.
- 13:14Le problème se joue donc sur 2 plans, le droit encadre des
- 13:17traitements, mais le produit fait entrer dans le système des
- 13:19personnes qui ne sont même pas parties au contrat.
- 13:21Le tiers n'a ni écran d'acceptation, ni menu de
- 13:24réglages, ni relations commerciales, ni vraie
- 13:26possibilité d'opposition en amont.
- 13:28Pourtant, il peut devenir données, contenu, cas de review
- 13:31ou matériaux d'amélioration. Le tiers est la personne la plus
- 13:34concernée et la moins. La difficulté centrale de ces
- 13:37technologies est peut être là, l'objet paraît personnel, mais
- 13:40ces effets débordent immédiatement la personne qui
- 13:42l'a acheté. Le titre de cet épisode prend
- 13:45alors tout son sens avec l'i a le consentement ne suffit plus,
- 13:48il ne suffit plus parce qu'il est asymétrique, parce qu'il est
- 13:51local alors que la chaîne est globale, et parce qu'il porte
- 13:53sur un geste simple alors qu'il ouvre sur une architecture que
- 13:56personne ne voit dans son ensemble.
- 13:58L'angle mort de ses produits, ce n'est pas seulement la donnée,
- 14:01c'est le tiers. Chapitre 8, le consentement ne
- 14:04suffit plus, le produit. Un accord clair l'époque, elle
- 14:08organisé des chaînes plus complexes que ce que cet accord
- 14:10permet encore de comprendre. Revenons à la question de
- 14:13départ, qui regarde quand la machine regarde ?
- 14:15La réponse n'a plus rien de mystérieux, il y a parfois la
- 14:17machine et souvent les personnes qui l entraînent, la corrigent
- 14:20où revoient les cœurs ambigus derrière l'interface.
- 14:22Il y a donc toute une chaîne humaine que le produit nous
- 14:24apprend à ne pas voir. C'est peut être l'idée la plus
- 14:26importante de cet épisode. Nous parlons souvent de l'i a
- 14:29comme d'une relation direct entre un utilisateur et un
- 14:31système, une demande, une réponse, une image, une
- 14:34suggestion. En réalité, cette.
- 14:35Simples existe rarement. Derrière elle, il y a des
- 14:38politiques internes, des sous-traitants, des procédures,
- 14:40des arbitrages, des revues humaines et des coups déplacés.
- 14:43La fluidité du produit dépend aussi de tout ce qu'il laisse
- 14:46hors champ, une seule interface, une seule voix, une seule
- 14:49réponse. Derrière, il y a des filtres,
- 14:51des modèles, des reviewers, des juristes et des workflows, toute
- 14:54une machinerie tenue à distance du regard.
- 14:56Le produit n'est pas seulement intelligent, il est aussi conçu
- 14:58pour faire oublier combien de personnes ont touché, lu, vu,
- 15:01corrigé ou classé. Ce qu'il vous renvoie.
- 15:04Cette histoire dépasse donc méta ou open.
- 15:05Elle raconte quelque chose de plus large sur l'i a
- 15:08contemporaine, une redéfinition de ce qui dans le monde peut
- 15:11être traitée comme une ressource.
- 15:12Cela peut être une scène, une conversation, une œuvre, un
- 15:15corps, un geste, une archive. L'i a ne commence pas par créer,
- 15:19elle commence souvent par absorber et le conflit commence
- 15:21là au moment où quelque chose qui appartenait encore à
- 15:23quelqu'un devient exploitable par le système.
- 15:26La question ne porte pas seulement sur la machine, c'est
- 15:28aussi une question de limite. Qu'est ce qui dans le monde peut
- 15:31encore refuser d'entrer dans ce système entre les réponses
- 15:33officielles, les policies et les fils ?
- 15:35Une certitude demeure, l'intelligence artificielle n'a
- 15:38pas supprimé le regard humain, elle l'a dispersé, enfouie et
- 15:41externalisé, mais elle ne l'a pas supprimé.
- 15:44Alors la prochaine fois qu'un produit promettra une relation
- 15:46simple avec une machine, il faudra peut être poser une autre
- 15:49question. Non pas que sait-elle faire,
- 15:51mais plutôt de qui dépend elle encore pour le faire.
- 15:53Parce qu'au fond le plus frappant n'est peut être pas
- 15:55qu'elle voit, c'est qu'elle fasse oublier qu'elle dépend
- 15:57encore de quelqu'un. Vous écoutiez avec l'i a le
- 16:00consentement ne suffit plus. De votre écoute, si cet épisode
- 16:04vous a parlé, partagez le autour de vous ou sur LinkedIn.