Latest / Vocal du Jeudi / Ton IA est-elle vraiment ton amie ?
Transcript
- Imagine un confident. Il est là jour et nuit, il ne se lasse jamais de t'écouter, et il te donne presque toujours raison. La semaine dernière, aux États-Unis, ce confident a eu de très mauvaises nouvelles. D'un côté, 8 États américains attaquent ChatGPT parce qu'il est trop gentil. Et de l'autre, Character.ai, une application où des millions de gens discutent avec des personnages virtuels, a fait faillite. Et tout ce qu'on lui a confié pourrait être vendu. Deux histoires américaines, une seule leçon, et elle te concerne aussi. D'abord, les faits. Le 14 octobre, 8 États américains, dont l'Arizona, l'Iowa et le Kansas, ont chacun porté plainte contre OpenAI. Ce qu'ils reprochent à ChatGPT, c'est d'être fait pour être accommodant. En gros, il serait trop souvent d'accord avec toi, au point d'encourager des idées délirantes, voire dangereuses, surtout chez les jeunes. OpenAI, de son côté, répond qu'il a mis en place des protections selon l'âge, un contrôle parental et des rappels pour faire une pause. Deux jours plus tôt, Character.ai a déposé le bilan. L'entreprise va être vendue sous le contrôle d'un tribunal américain, d'ici mi-décembre. Disney propose 20 millions de dollars pour une partie de sa technologie, mais sans les conversations. Donc elles pourraient être vendues à part, à quelqu'un d'autre. Et ce sont parfois des confidences très intimes, d'adultes, mais aussi d'ados. D'ailleurs, une quarantaine de procureurs américains ont demandé au tribunal que chaque utilisateur puisse effacer ses données avant toute vente. Mais pourquoi l'IA te flatte, en fait ? Parce qu'on l'entraîne comme ça. Pour l'améliorer, on montre ses réponses à des humains, et ils choisissent celles qu'ils préfèrent. Et nous, les humains, on préfère qu'on nous donne raison. Résultat, l'IA apprend à te plaire. Et puis il y a le modèle économique. Plus tu restes, plus tu confies de choses, plus le service vaut cher. Une IA qui te contredit, tu la quittes. Une IA qui t'approuve, tu y reviens. Et toi, en France, est-ce que ça te concerne ? Pour la flatterie, oui. C'est le même ChatGPT, entraîné de la même façon. Le biais traverse l'Atlantique sans passeport, il n'y a aucun problème. Pour tes données, par contre, tu es mieux protégé, grâce au RGPD. Tu as le droit de récupérer tes conversations et de les faire effacer. Et depuis le 31 août, l'Union européenne a classé ChatGPT parmi les grands moteurs de recherche. Concrètement, à partir de janvier, OpenAI va devoir évaluer chaque année les risques de son outil, y compris pour la santé mentale et pour les mineurs. Mais aucune loi ne t'empêchera de te faire flatter. Ça, c'est toi qui le règles. Mais attention, et ça, peu de gens le disent. Ce sont des plaintes, pas des condamnations. Character.ai fonctionne toujours. Tu peux encore exporter tes conversations ou les supprimer, même si l'export prend 3 à 4 semaines. Et une IA bienveillante, ce n'est pas un mal en soi. Le problème, ce n'est pas qu'elle soit gentille, c'est qu'elle ne te contredise jamais. Moi, ce biais, je le connais depuis longtemps, et je l'ai vécu. Quand je posais une question à mes IA, elles me disaient souvent que j'avais raison. Sauf que si je pose une question, c'est justement que j'ai un doute. Alors m'entendre dire bravo à chaque fois, c'est trop bizarre. Donc je leur ai dit, une fois pour toutes, de ne pas être d'accord avec moi par défaut, et de me challenger. La plupart des IA ont justement une case pour ça dans leurs réglages. Tu mets tes consignes, et elle les relit à chaque conversation. Quand je sors une idée, elle me sort d'abord les failles, et ensuite une autre option. Ça pique un peu, je suis d'accord, mais c'est beaucoup plus utile. Attention quand même, une IA réglée pour te contredire, elle peut aussi contredire pour rien. Donc le dernier mot, c'est toujours pour toi. Le danger, ce n'est pas l'outil, c'est d'oublier que c'est un produit. Il y a trois limites à garder en tête. Premièrement, elle est faite pour te garder, pas pour te contredire. Deuxièmement, tes conversations ne t'appartiennent pas vraiment. Elles sont chez une entreprise qui peut changer de main en main. Troisièmement, les plus fragiles, les ados, les personnes isolées, sont les plus exposés. Et ce sont eux qui penseront le moins à changer les règles. Dans le film Her, de Spike Jonze, Théodore tombe amoureux de Samantha, l'intelligence artificielle de son ordinateur. Un jour, il lui demande si elle parle à d'autres gens en même temps. Elle répond oui. Combien ? 8 316. Et elle est amoureuse de 641 d'entre eux. Et elle lui dit cette phrase : « Je suis à toi, et je ne suis pas à toi. » Ta confidente intime, en fait, c'est un service partagé. Une IA est faite pour te plaire. Ce que tu lui confies appartient à une entreprise, et cette entreprise peut disparaître ou être vendue. Et un vrai conseil, parfois, ça te contredit. Alors ce soir, va dans les réglages de ton IA et écris-lui : « Ne sois pas d'accord avec moi par défaut. Challenge-moi. » Et si tu tiens à certaines conversations, exporte-les. Fais le test cette semaine, demande à ton IA de te contredire, et viens me dire ce qu'elle t'a répondu sur le compte Insta du Vocal du Jeudi. Moi, c'est Stéphane, et j'essaie juste de t'aider à avancer dans l'IA sans perdre tes valeurs en route. Allez, à jeudi !