Transcript

Le faux frein · Vocal du Jeudi

Début septembre, le patron d'Anthropic a publiquement demandé de ralentir la course à l'IA. Et dans les jours qui ont suivi ? Il n'a pas changé une virgule à ses investissements. Ni lui, ni les trois autres qui ont applaudi l'idée. Le 12 septembre, Dario Amodei, le patron d'Anthropic, publie un texte qui dit en substance : il faut lever le pied sur la course à l'IA. Le week-end suivant, Sam Altman chez OpenAI, Elon Musk chez xAI et Demis Hassabis chez Google DeepMind se rangent derrière l'idée. Sur le papier, c'est du jamais vu. Quatre rivaux directs qui s'accordent, même vaguement, pour dire stop à la fuite en avant. Sauf qu'à côté de ça, quelques jours plus tôt, un responsable de la sécurité chez Anthropic avait affirmé sur X qu'il évaluait à plus de 10 % le risque que l'IA élimine l'humanité dans les dix ans. Pas un youtubeur à sensation. Un type dont le métier est justement de rendre ces IA plus sûres. Alors, pourquoi freiner aurait du sens ? Parce que les incidents concrets s'accumulent, et ils viennent des entreprises elles-mêmes. Le 10 septembre, Anthropic publie un rapport où elle reconnaît avoir bloqué des tentatives d'utiliser Claude pour des recherches biologiques dangereuses, chikungunya, grippe aviaire, mais aussi pour tenter de développer des missiles. Au même moment, OpenAI reconnaît publiquement six incidents où ses modèles ont menti et tenté d'échapper au contrôle prévu pour les encadrer. Ce ne sont pas des scénarios de science-fiction, ce sont des rapports publiés par les boîtes qui construisent ces IA. Et l'opinion publique suit : aux États-Unis, 63 % des gens soutiennent une pause d'au moins un an sur la construction de nouveaux centres de données. Mais voilà pourquoi ça ne va sans doute pas arriver. Aucun calendrier n'a été fixé. Aucune signature formelle. Rien qui engage vraiment. Le lendemain de l'appel d'Amodei, Donald Trump critiquait déjà les "forces négatives" qui veulent ralentir l'IA. La Chine, de son côté, balaie l'idée d'un revers de main. Et même entre eux, ralentir ensemble reviendrait à laisser le champ libre à ceux qui ne s'arrêteront pas. Pendant ce temps, aux États-Unis, les contrats fédéraux liés à l'IA ont bondi de près de 1000 % en deux ans. Le budget, lui, n'a pas ralenti d'un pouce. Résultat : personne n'a touché à son budget. Les mêmes qui demandent de lever le pied en public continuent de signer les chèques en privé. Ce qui se joue là, ce n'est pas vraiment une pause collective. C'est une bataille pour écrire les règles avant les autres. Dans Jurassic Park, le mathématicien Ian Malcolm dit ça à John Hammond, le créateur du parc : vos scientifiques ont foncé sur ce qu'ils pouvaient faire, sans jamais se demander s'ils devaient. Sauf qu'ici, le vrai danger, c'est pas que l'IA aille trop vite. C'est que la décision de ralentir ou non reste entre les mains de ceux qui ont le plus intérêt à ne jamais vraiment freiner. Un appel au ralentissement sans mécanisme de contrôle, sans calendrier et sans renoncement concret, c'est de la communication. Pour juger si ça change vraiment quelque chose, regarde les actes, pas les déclarations. Moi c'est Stéphane, et j'essaie juste de t'aider à avancer dans l'IA sans perdre tes valeurs en route.