Latest / Des voix et des droits, le podcast de la LDH / Episode 35 « Des Voix et des droits », le podcast de la LDH, avec Maryse Artiguelong, membre du comité national de la LDH
Transcript
- Pour ce nouveau numéro de « Des voies et des droits », nous allons nous intéresser aux sirènes de l'intelligence artificielle et surtout évidemment à ses dérives pour les droits humains, en compagnie de Maryse Artigulon, qui est membre du comité national de la LDH et co-animatrice du groupe de travail « Libertés et numériques ». L'intelligence artificielle, qui a priori n'a rien d'intelligent, est présentée effectivement par certains comme un danger dans lequel l'intelligence artificielle prendrait le pas sur les humains. Ça, c'est une utopie qui est développée pour faire peur et pour éviter qu'on considère les vrais dangers qui sont actuels de l'intelligence artificielle. Pour citer un exemple, c'est les problèmes de discrimination, l'aggravation des inégalités, les problèmes environnementaux qu'entraînent le développement de l'intelligence artificielle, et le public, les citoyens en général, sont directement concernés par ces intelligences artificielles. En ce qui concerne les droits humains, l'IA a plusieurs effets néfastes avant même qu'on l'ait utilisée, en fait ? Oui, absolument, puisque pour utiliser l'IA, il faut fabriquer des appareils, des smartphones, des ordinateurs, et on sait très bien que pour ces fabrications, il est nécessaire d'utiliser du lithium, du cobalt, donc des matières qui sont surtout exploitées dans des pays comme la République démocratique du Congo. On voit bien à l'heure actuelle, avec le M23, que ça pose de nombreux problèmes, en plus des conditions d'extraction dans lesquelles il y a des enfants qui travaillent, mais il y a aussi d'autres mines qui sont absolument catastrophiques, avec des dégâts sur l'environnement, sur la santé des travailleurs, etc. Donc ça, c'est un grand danger de l'intelligence artificielle et de son développement accéléré. Les autres dangers pour les droits humains, il y a d'une part les biais contenus dans les applications d'intelligence artificielle qui sont dus aux créateurs des applications, aux développeurs, qui sont majoritairement des hommes, donc il y a beaucoup de biais discriminatoires envers les femmes, notamment en matière de santé par exemple. Les maladies des femmes sont moins bien prises en charge par les intelligences artificielles que celles des hommes. Mais il y a aussi les dangers des stéréotypes, il y a les dangers des discriminations. On a dénoncé par exemple les discriminations liées aux algorithmes de la Caisse nationale d'allocation familiale, qui recherchent des fraudeurs et qui ont des stéréotypes de fraudeurs qui sont particulièrement visés. Mais c'est valable aussi dans les questions d'assurance, de crédit, tous les citoyens ne sont pas égaux devant l'intelligence artificielle et son application par des entreprises. Mais il y a aussi le problème des problèmes politiques, des questions d'atteinte à la démocratie. On le voit bien à l'heure actuelle avec les élections en Roumanie, où ce sont les réseaux sociaux qui ont fait élire un président de la République absolument inconnu, au point que l'élection a été annulée. Mais on voit bien aussi l'influence de quelqu'un comme Elon Musk ou le vice-président des États-Unis, J.G. Evans, qui soutiennent l'extrême droite allemande, ce qui est une véritable ingérence dans nos démocraties européennes et dans la démocratie en général. On a aussi le problème des deepfakes, c'est-à-dire des fausses vérités, qui, avec l'illusion que peut apporter l'intelligence artificielle, font croire qu'il s'agit de vérités qui ne sont pas toujours faciles à vérifier et qui peuvent entraîner des choses assez dramatiques, comme quelqu'un qui va donner de l'argent à un inconnu qui se fait passer pour un acteur célèbre. Est-ce qu'on peut dire que l'IA ne prend pas le pouvoir, c'est pas Terminator, c'est pas les machines qui vont... C'est juste, finalement, tout ce qu'on connaît déjà depuis longtemps qui est encore plus développé, c'est-à-dire que les manipulations de traitement de l'information et de gestion des libertés individuelles. Il n'y a rien de nouveau dans tout ça, on le sait depuis que Photoshop existe, sauf que Photoshop, on pouvait déterminer qu'une photo avait été truquée, maintenant ça devient quasiment impossible. Oui, c'est vrai que c'est de plus en plus difficile, et c'est vrai que les outils sont de plus en plus perfectionnés, mais c'est aussi le pillage de toutes les données, et toutes les données qui sont fournies par les utilisateurs eux-mêmes. La question, c'est aussi le vol de toutes ces données, et ça se voit notamment dans les médias dans lesquels les journaux sont pillés, les journalistes peuvent être remplacés par des intelligences artificielles, et donc c'est aussi la reproduction de fausses informations qui est plutôt dangereuse. L'intelligence artificielle amplifie tout, peut-être le bon comme le mauvais, mais surtout le mauvais. On est dans une période où on se gargarise, notamment en France et en Europe, de vouloir lancer de nouvelles intelligences artificielles pour lutter contre certaines chinoises, etc. Est-ce que ce n'est pas le mauvais combat, finalement ? Est-ce que ça sert à quelque chose d'en inventer encore de nouvelles, ou est-ce qu'il ne faudrait pas mieux réussir à les encadrer ? Il faudrait réussir à les encadrer, certainement, et la volonté d'avoir des outils d'intelligence artificielle européens, c'est quelque chose que nous on réclame depuis très longtemps. On a, en 2018 je crois, écrit au président de la République pour lui demander de favoriser la souveraineté numérique européenne, c'est bien au niveau européen. Bon, il n'y a rien eu le fait, on nous a répondu régulement général sur la protection des données. Maintenant, c'est vrai que c'est très compliqué de développer des outils qui feront concurrence aux outils des USA, aux outils chinois, parce que ça demande énormément, notamment de financement. Quand le président Macron annonce 100 milliards d'euros investis dans l'intelligence artificielle, il oublie de dire que ce ne sont pas 100 milliards d'euros français ou européens, mais qu'il s'agit de fonds des Émirats Arabes Unis, des USA, et y compris d'entreprises qui sont en concurrence avec la pépite Mistral, qui est l'entreprise qui développe l'IA en France. C'est d'autant plus dangereux que l'Europe veut se défendre avec le règlement sur l'intelligence artificielle, et qu'à l'heure actuelle, avec l'arrivée de Trump au pouvoir et avec son conseiller Elon Musk, son vice-président qui vient donner des leçons aux Européens, on est à peu près certain que les entreprises étrangères n'appliqueront pas le règlement sur l'intelligence artificielle. Et ça, c'est un vrai problème. D'autant que les intelligences artificielles ont déjà été utilisées largement par des gouvernements, directement contre les droits humains. Absolument. Il y a des outils, notamment des outils israéliens comme Lavender, alors Briefcam, c'est dans un autre domaine, mais Lavender a permis de repérer des membres du Hamas, de faire des listes, et en fait, avec toutes les erreurs possibles, il y a eu des milliers de morts qui ont été ciblées par cet outil Lavender, en plus des autres victimes. Il y a des ciblages. Il y a longtemps des outils qui étaient utilisés par la justice aux Etats-Unis pour la liberté conditionnelle, et dans lesquels les Noirs étaient classés comme n'étant pas légitimes à bénéficier de la liberté conditionnelle, et on s'est rendu compte qu'il y avait des biais dans ces applications. Quand on parle, depuis des années d'ailleurs, de cybersurveillance, du fait que nos smartphones nous localisent en permanence, maintenant avec les caméras à reconnaissance faciale, qui sont même celles qui sont censées ne pas être utilisées ou n'être utilisées qu'à certains moments, et qui sont des brèches finalement ouvertes, là l'IA n'est plus notre amie du tout. Ah non, non, non, elle n'est plus notre amie, et je pense que de toute façon, elle n'est pas notre amie, mais qu'elle favorise la surveillance, et effectivement avec la vidéosurveillance algorithmique ou la reconnaissance faciale, c'est effectivement une atteinte aux droits humains considérable, puisque c'est une atteinte à la liberté d'aller et venir de façon anonyme dans l'espace public, c'est une atteinte, par exemple, à la liberté de manifester, parce que si vous savez que vous allez être reconnu dans une manifestation, peut-être que vous n'allez pas y aller, parce que vous risquez de perdre votre boulot ou d'autres problèmes, donc c'est un véritable danger pour les droits humains et pour la démocratie en général. On voit bien que les enseignants ont un souci avec l'IA, entre ceux qui passent du temps à essayer de débusquer les devoirs qui ont été rédigés par une IA, et ceux qui voudraient, au contraire, l'intégrer, puisque de toute façon on ne pourra pas s'en passer, ça fera partie de notre mode de vie, voudraient l'intégrer dans la pratique de leurs élèves, notamment certains lycéens. Qu'est-ce qu'il faut faire ? Est-ce qu'il faut s'en défendre uniquement, ou est-ce qu'il faut l'intégrer et la domestiquer ? Alors, évidemment, l'idéal serait de la domestiquer. Je ne suis pas certaine que ce soit possible, mais de toute façon j'ai l'impression qu'il n'y a rien qui est fait pour essayer de la domestiquer. Le danger, effectivement, c'est que l'intelligence artificielle, comme par exemple le chat GPT, qui est utilisé par une majorité de jeunes, et pas que des jeunes évidemment, mais c'est un prêt à penser. Vous n'avez plus besoin de réfléchir, le chat GPT va vous donner la réponse. C'est, à mon avis, intellectuellement, un véritable danger, parce qu'à la limite, pourquoi apprendre à écrire ? Pourquoi apprendre à... Alors, sur les maths, effectivement, on voit quand même les faiblesses de l'intelligence artificielle, notamment de chat GPT, mais c'est un vrai problème. J'ai interviewé quelqu'un qui expliquait que l'IA, le raisonnement selon lequel il faut en avoir peur ou il ne faut pas en avoir peur, et son raisonnement, c'était l'IA est là, ne nous laissons pas déborder, soyons-en les acteurs. Être les acteurs de l'IA, on l'est sans le vouloir, mais essayer de la maîtriser et de l'utiliser à bon escient, c'est effectivement un objectif, mais je n'ai pas l'impression que ce soit dans la réflexion de nos dirigeants. Le sommet international sur l'IA, ça a été une foire dans laquelle tout le monde se fait inititer de ses réalisations. Il n'y a eu aucune... D'abord, il n'y a eu aucune ONG invitée, pratiquement, la société civile n'était pas invitée, ce n'étaient que les entreprises ou des dirigeants, et il n'y a eu aucune réflexion sur la maîtrise de l'IA. Effectivement, ça peut être un outil formidable pour certains élèves qui ont certains sujets, ça peut effectivement être une source d'informations, mais à condition qu'elles soient utilisées à bon escient, il reste quand même des problèmes de pillage des données, des publications des scientifiques, il reste qu'une majorité de pays sont exclus de l'IA, parce qu'il y a très peu de publications, il y a très peu d'accès à internet, notamment dans des pays d'Afrique, des pays d'Asie dans lesquels l'internet n'est pas très développé. Donc, c'est un outil qui peut effectivement être très utile, à condition de le maîtriser et que nos dirigeants, surtout, aident les citoyens à le maîtriser. Voilà, et on ne va pas du tout dans cette direction-là ? Absolument pas. Il y a eu une tentative européenne avec le règlement sur l'IA qui était tout à fait imparfait à notre goût, mais qui, au moins, essayait de faire porter la responsabilité aux entreprises qui développent l'IA s'il y avait des conséquences négatives sur des individus, notamment, entre autres, il y avait ça. Mais quand on voit les réactions des États-Unis à l'heure actuelle, il y a très peu de chances pour que ce règlement fonctionne dans le bon sens. En conclusion, entre les États-Unis, la Chine et les fermatrôles russes, on peut se dire que c'est le nouveau Far West, l'IA ? L'IA, un nouveau Far West ? Oui, effectivement. Alors, ça ne se passe pas que à l'ouest, mais il y a aussi à l'est avec la Chine. La Russie, je pense que l'influence de la Russie en matière d'intelligence artificielle, c'est plus en termes de piratage, etc. Donc, ça, c'est un vrai danger aussi. On peut craindre que ce soit la loi du plus fort qui l'emporte. Et dans ces cas-là, il y aura beaucoup de laissés pour compte sur le bord de la route, avec des populations de plus en plus discriminées et une démocratie qui va de plus en plus se chanceler dans nos pays occidentaux. Il faut qu'on se fasse entendre. Il faut effectivement lutter contre toutes les entreprises qui essayent de dominer les gouvernements. Il faut effectivement que les citoyens fassent entendre leur voix, utilisent ces outils d'intelligence artificielle pour faire en sorte que l'IA ne soit pas une catastrophe pour les droits humains. C'était Maryse Artiguelon, membre du comité national de la LDH et co-animatrice du groupe de travail Libertés et numériques.