Latest / Vocal du Jeudi / Tapez 1 pour parler à un robot
Transcript
- Est-ce que tu te souviens du test de Turing ? Ce jeu qui consistait à faire discuter un humain avec une machine, à l'écrit, pour voir si l'humain arrivait à deviner qui était qui. Pendant 70 ans, la recherche en IA a couru après un seul objectif : réussir à se faire passer pour un humain. Et aujourd'hui, elle y arrive tellement bien qu'on n'arrive plus à faire le tri tout seul. Du coup, en 2026, la loi s'en mêle et t'impose carrément de te le dire. Cette loi, c'est l'AI Act, le grand règlement européen sur l'intelligence artificielle. Attention, c'est un texte énorme, avec plein de règles différentes, et aujourd'hui je vais te parler que d'un seul petit bout, un article en particulier, l'article 50, entré en application depuis le 2 août dernier. Cet article dit un truc assez simple : si un système d'IA te parle directement, à l'écrit ou à l'oral, il doit te le dire. Ça marche pour un chat en ligne, mais aussi pour un assistant vocal au téléphone. Par exemple, tu appelles un service client, et si c'est une IA qui décroche, on doit te préciser que c'est un robot, pas un humain, sauf si c'est tellement évident que le préciser serait absurde. Et là je repense à une scène culte du film Demolition Man, sorti en 1993. Y'a ce moment où le personnage appelle la police, et on lui répond : « Bonjour, paix et félicité. Bienvenue sur la ligne d'urgence du département de police de San Angeles. Si vous préférez obtenir une réponse automatisée, tapez 1 maintenant. » À l'époque, c'était de la satire, on se moquait d'un futur absurde où même la police serait automatisée sans qu'on te le dise vraiment. Aujourd'hui, la vraie règle, c'est presque ça, version sérieuse : la loi t'oblige à te dire clairement si c'est une machine en face. Ça, c'est le côté visible, celui qui te concerne direct dans une conversation. Mais le même article prévoit aussi autre chose, sur un autre plan : le marquage des contenus générés, texte, image, audio, vidéo. Là, le but, c'est plutôt de limiter les deepfakes et la désinformation en général, pas juste te protéger toi dans une conversation. Et c'est là qu'intervient le filigrane. Les grandes entreprises qui fabriquent les IA, comme Anthropic qui fait Claude, ont commencé à intégrer un filigrane invisible dans les textes générés. Une signature cachée dans le choix des mots, tellement discrète que toi, en lisant le texte, tu vois absolument rien. Anthropic a aussi annoncé un outil pour détecter ce filigrane, ouvert à des tiers comme des plateformes ou des institutions. Sauf que l'entreprise reste très discrète sur comment ça marche exactement, et sur qui peut vraiment y accéder aujourd'hui. Et pendant ce temps, des outils pour contourner le filigrane sont apparus quasiment tout de suite après son lancement. Il suffit souvent de reformuler un peu le texte pour effacer la marque. Et pour finir, chaque entreprise a sa propre méthode, sa propre clé, donc y'a même pas un vrai standard commun. ChatGPT par exemple, à ce jour, marque pas du tout ses textes. Moi ce qui me frappe là-dedans, c'est le décalage entre l'intention de la loi et ce qu'elle arrive vraiment à faire aujourd'hui. L'idée de départ est bonne, tu as le droit de savoir à qui, ou à quoi, tu parles. Mais un filigrane qu'on peut pas encore vérifier facilement, et qu'on peut déjà effacer facilement, ça reste une promesse plus qu'une vraie garantie. Pour l'instant. Depuis cet été, un chatbot doit te dire que c'est une IA en face. Ça, c'est du concret et ça change vraiment un truc. Le filigrane invisible sur les textes générés, lui, existe, mais il est encore jeune et fragile des deux côtés. Deux mesures, deux niveaux de maturité très différents. Moi c'est Stéphane, et j'essaie juste de t'aider à avancer dans l'IA sans perdre tes valeurs en route.