Latest / Des voix et des droits, le podcast de la LDH / Épisode 20 “Des voix et des droits”, le podcast de la LDH, avec Maryse Artiguelong, membre du groupe de travail « Liberté et technologies de l’information et de la communication »
Transcript
- Marie Zartiguelon est membre du groupe de travail « Liberté et technologie de l'information et de la communication ». Avec elle, nous avions évoqué les dangers de la collecte de nos données personnelles. Nous allons la retrouver aujourd'hui pour parler plus précisément intelligence artificielle et puis de la loi Jeux Olympiques 2024 ainsi que bien sûr des risques potentiels sur nos libertés individuelles. Marie Zartiguelon sur l'intelligence artificielle. L'intelligence artificielle va être utilisée pour aider les humains à surveiller ce qui se passe, donc les humains et les caméras de vidéosurveillance. Mais peut-être en gros quelques mots sur ce que c'est que l'intelligence artificielle. Ce sont donc ce qu'on appelle aussi des systèmes algorithmiques. Ce sont des systèmes informatiques qui permettent d'effectuer des tâches complexes qui sont accomplies habituellement par des êtres humains et qui exigent de la mémoire une capacité de raisonnement critique, des questions d'apprentissage et donc qui nécessitent du matériel très puissant et des bases de données, ce qu'on a appelées les big data à un moment donné, donc ce sont des bases de données très fournies. Que fait l'intelligence artificielle à l'heure actuelle dans nos vies ? Elle intervient beaucoup sur, par exemple, quelque chose qui est utilisé, sans forcément imaginer que c'est de l'intelligence artificielle, c'est la traduction en ligne. On utilise beaucoup maintenant les traducteurs automatiques et il faut dire que depuis le début ça s'est très nettement amélioré puisque les traductions sont de plus en plus, pas parfaites mais... Précises en tout cas. Précises, oui. C'est utilisé évidemment dans les voitures autonomes, dans les véhicules autonomes, pour assurer la sécurité et la conduite de ces véhicules. Mais c'est aussi utilisé pour les moteurs de recherche, je parlais des traductions, mais les moteurs de recherche utilisent de plus en plus l'intelligence artificielle pour donner des résultats pertinents. C'est utilisé dans la publicité en ligne, notamment pour nous inciter à acheter. Ça fait très longtemps qu'on se plaint d'avoir des conseils d'achat en ligne, mais là c'est de plus en plus percutant grâce à l'intelligence artificielle. C'est utilisé évidemment dans les téléphones portables, les smartphones, avec des assistants virtuels qui répondent à des questions, et donc ça c'est l'intelligence artificielle. C'est utilisé dans la cybersécurité, c'est utilisé dans la lutte contre les fausses informations, mais par ailleurs... Dans la création aussi. Voilà, c'est ça, le côté malfaisant de l'intelligence artificielle, c'est utilisé largement dans la création, notamment de faux profils pour la diffusion de fausses informations. C'est utilisé beaucoup dans la santé, et c'est peut-être un des domaines le plus intéressant, le plus positif, disons, parce que notamment l'utilisation d'énormément de données liées à la santé permet d'améliorer les diagnostics, notamment les études de photos de tumeurs. Après il y a la question de l'identification, de la réidentification des données, mais c'est utilisé aussi dans les transports pour éviter les bouchons, et puis c'est utilisé de plus en plus dans l'industrie, dans l'administration, et là on voit bien qu'il y a des décisions qui sont prises par des intelligences artificielles, notamment la caisse nationale d'allocations familiales, pour lesquelles il y a énormément de problèmes avec des personnes qui se voient arrêter leurs allocations, ou même à qui on réclame des sommes soi-disant indues parce que l'intelligence artificielle recherche les fraudeurs et prend ces personnes-là pour des fraudeurs. Un domaine dans lequel c'est beaucoup utilisé, c'est l'intelligence artificielle générative, celle qui crée des documents, des textes, des poèmes, et même des images maintenant, en pillant des bases de données qui n'ont pas forcément donné leur consentement. Il y a aussi les scénaristes, qui ont très peur qu'ils soient remplacés dans la création de scénarios par l'intelligence artificielle, et effectivement les artistes et beaucoup les doubleurs aussi, parce que la voix effectivement importe, mais aussi tous les doublages qui sont assez fastidieux pourraient être remplacés par des intelligences artificielles. Je considère que d'ici 2035, il y a à peu près 45 à 50% des emplois qui pourraient être réalisés par des intelligences artificielles. Au niveau social, ça pose quand même de grosses questions, et 2035, ce n'est pas très loin. Et c'est d'autant plus problématique, vous venez de dire vous-même, qu'il y a aussi des aspects positifs. Il faudrait pouvoir faire un choix, un tri. Absolument. Et donc l'intelligence artificielle, elle intervient aussi dans la sécurité ? Oui, absolument. Si on parle des Jeux Olympiques, peut-être qu'il faudra que je rappelle qu'on ne fait pas complètement n'importe quoi avec l'intelligence artificielle. L'Union Européenne vient de voter un texte, le règlement sur l'intelligence artificielle, qui a priori va réglementer l'utilisation de ces outils, avec des classifications d'intelligence artificielle dangereuses, et avec des notions de danger, il y a des catégorisations de danger différentes. Maintenant, après, ça va être très complexe de ne pas brider les industriels qui veulent développer des outils d'intelligence artificielle par rapport aux êtres humains qui veulent se protéger des outils. Si on fait un parallèle, on sait que pour mettre des gens sur écoute, il faut théoriquement certaines autorisations, et on sait aussi que certains savent comment détourner les autorisations de gestion. On peut imaginer que les interdictions qu'on va poser vont être faciles à détourner aussi ? Oui, absolument. Par exemple, la reconnaissance faciale dans l'espace public est interdite, mais on a bien vu, et on a fait des recours contre ça, des municipalités, des agents municipaux qui ont utilisé la reconnaissance faciale. On en voit tous les jours les exemples de personnes qui sont verbalisées sans avoir jamais rencontré un agent de police, qu'ils soient nationaux ou municipaux. Il y a forcément, à un moment donné, on les a reconnus, notamment dans une manifestation, et c'est forcément la reconnaissance faciale. La reconnaissance faciale est interdite, mais on a légalisé la vidéosurveillance algorithmique. Quelle est la différence ? Dans la vidéosurveillance algorithmique, si l'on en croit les rédacteurs de la loi Jeux Olympiques 2024 et tous les élus qui l'ont votée, on n'utilise absolument pas la reconnaissance faciale. Elle est destinée simplement à déclencher des alertes quand il y a des événements très déterminés susceptibles de présenter des risques pour la sécurité. Ce qui est intéressant, c'est qu'on reprend le terme de vidéosurveillance. On ne dit pas la vidéosurveillance algorithmique, alors que tout ce qui est vidéosurveillance dans l'espace public, on a beaucoup de mal à parler de vidéosurveillance, puisqu'on sait très bien que ça ne protège pas grand-chose. Dans le cas où ça devrait protéger, on reprend le terme vidéosurveillance. Je ne m'en plaindrai pas. Comme on a considéré que le nombre d'images qui vont être captées par toutes les caméras de vidéosurveillance qui vont être ajoutées pour les Jeux Olympiques, plus les images qui vont être captées par des drones qui seront utilisées lors des Jeux Olympiques, on sait que les humains ne pouvaient plus contrôler ce qui se passait sur le terrain. On a déterminé, dans un décret qui a été adopté après le vote de la loi, ce qui fait que les législateurs n'ont pas eu connaissance de ce qu'allaient faire ces algorithmes, une dizaine d'événements potentiellement dangereux pour la sécurité. Ces événements comprennent une foule trop importante, une personne ou un véhicule qui va à contre-sens du sens de la foule, une personne au sol après une chute, un départ de feu, le port d'armes. J'ai dû en oublier, ces événements-là peuvent déclencher une alerte et normalement, l'opérateur qui recevra cette alerte demandera à quelqu'un sur le terrain d'aller vérifier ce qui se passe. Normalement, la biométrie ne devrait pas être utilisée pour déterminer ces événements. Tous les experts qui se sont penchés sur les images de vidéosurveillance considèrent que, pour pouvoir déterminer une personne va à contre-sens, il faut bien analyser sa démarche, ses caractéristiques physiques, si elle porte un chapeau ou une casquette. Ces éléments-là font partie de la personne et sont considérés par le RGPD comme des éléments de biométrie. Il y a bien une utilisation de la biométrie dans la vidéosurveillance algorithmique. Cela pose aussi la question de voir comment sera traité une personne qui part à contre-sens de la foule parce qu'elle a perdu son téléphone ou ses papiers, ou elle a un enfant qui a lâché sa main et qui se retrouve à 3 mètres derrière. Il y a une certaine logique à ce qu'elle parte à contre-sens. Pourquoi ça déclenchera une alerte ? C'est quand même un peu gros. On pense que les opérateurs qui recevront ces alertes vont être enclins à ne pas vérifier ce qui se passe exactement sur les images, mais à tout de suite envoyer quelqu'un vérifier ce qui se passe C'est quand même une atteinte à la liberté d'aller vivre dans l'espace public. On nous a imposé tout ça autour d'un événement exceptionnel sur lequel on nous a fait entendre que des risques étaient potentiels. Mais la grosse inquiétude c'est de savoir si on rentre dans un processus irrémédiable, s'il n'y a pas de retour en arrière possible. Normalement, l'expérimentation doit s'arrêter en mars 2025. C'est-à-dire longtemps après la fin des Jeux Olympiques. C'est en vigueur depuis mai 2023. La loi ayant été votée le 12 avril 2023, elle a été mise en application pour certains événements, comme la Coupe du monde de rugby. Ce qui était prévu, on n'a pas trop vu ces systèmes-là utilisés. Du moins, on n'a pas pu les repérer. Mais ça a été utilisé pour le concert de Dépêche Mode à Bercy. Ça a été utilisé pour le concert de Taylor Swift et d'autres événements notamment sportifs. Il est bien évident que les investissements sont tels qu'on serait quand même très surpris qu'ils soient tous démantelés à la fin des Jeux Olympiques. Par ailleurs, il se pose la question de l'information du public. Normalement, quand des personnes rentrent dans des zones vidéosurveillées, elles doivent être informées. Même si on voit bien que les petits panneaux permettent de savoir qu'on rentre dans une zone vidéosurveillée dont on ne sait jamais à quel moment on en sort. Comme Nice, par exemple. Mais le problème, c'est que pendant les Jeux Olympiques, les gens ne vont pas vérifier s'ils rentrent dans une zone vidéosurveillée ou pas. Par ailleurs, quand il y aura l'utilisation de drones pour capter des images, les personnes ne seront pas du tout informées sauf si elles sont allées voir sur le site de la préfecture de police ou dans les autres lieux que Paris Il y avait un décret publié indiquant que les drones allaient sortir tel jour à telle heure. C'est vrai qu'on a quand même beaucoup bataillé contre cette loi. C'est la Ligue des droits de l'homme, la Quadrature du Net, le syndicat des avocats de France, le syndicat de la magistrature et d'autres contre cette surveillance algorithmique. C'est pour ça que le décret précise que les algorithmes pourront repérer la présence d'une personne au sol à la suite d'une chute. Ce qui avait été dénoncé, c'était le fait que dans les images qui allaient servir de base pour les algorithmes, on allait filmer des personnes au sol, c'est-à-dire des SDF par exemple, où ils peuvent se reposer. Donc là, il y a eu la précision qu'il faut que la personne tombe et qu'elle soit au sol pour qu'il y ait une alerte qui soit déclenchée. Mais par exemple, dans les demandes aux entreprises qui vont développer ces algorithmes, il y avait une demande sur la présence ou l'utilisation d'armes. On ne sait pas pourquoi, mais il n'y aura pas ce qui est quand même un peu problématique. Et contradictoire vis-à-vis de l'argument de départ. Oui, tout à fait, sur la sécurité. Ce qu'on craint aussi par ailleurs, c'est que, comme d'habitude, les personnes qui recevront les alertes seront forcément tentées de répondre positivement à ces alertes sans vérification. C'est-à-dire que les agents qui seront au sol chargés aussi de la sécurité soient moins attentifs parce qu'ils attendront de recevoir des alertes pour vérifier ce qui se passe. C'est un des dangers aussi. On a déjà été un peu long, mais je voudrais quasiment en forme de conclusion vous demander mais qui surveille ceux qui nous surveillent ? Quel contrôle on a sur ce qui va être fait et sur la durée ? Et qu'est-ce qu'on fait de ces images sur la durée ? On a bien vu que l'intelligence artificielle se nourrit de ses propres données. Est-ce que ça va servir demain, tout ça ? Absolument. Si la loi est en vigueur jusqu'en mars 2025, ça a été dit dans les amendements. Un sénateur ou un député a demandé le prolongement de l'application de cette loi pour enrichir les bases de données. On ne va pas les détruire à ce moment-là ? Quand la loi s'arrête, les bases de données restent ? Voilà. Ce sont des données anonymisées. Néanmoins, ce sont des données. Des données qui servent à l'intelligence artificielle. Le problème, c'est le fait que ces données vont être conservées et vont servir aux entreprises à présenter des outils de plus en plus puissants. C'est une discussion qui fait d'autant plus froid dans le dos qu'on l'a au lendemain des résultats des élections européennes. Tout à fait. Et pas seulement le résultat des élections européennes qui auraient pu être inquiétants mais pas catastrophiques. Je pense qu'il y a un acte de dissolution qui, à mon avis, est encore plus dangereux. C'est effectivement un problème qui se pose très sérieusement aujourd'hui. C'était Marie Zartiguelon, membre du groupe de travail Liberté et Technologie de l'Université d'Ottawa.