Intelligence Artificielle : les vraies menaces

Émission enregistrée le 13 octobre 2026

Éditorial

Écoutez, c’est affreux. Apparemment, Skynet est pour demain. La Matrix est en préparation. Les IA agentiques s’échappent des bacs à sable, des chercheurs en sûreté de l’IA quittent les grands laboratoires ou s’y retrouvent en conflit ouvert, en expliquant qu’ils ne peuvent plus porter la responsabilité du rythme actuel de développement. Certains chercheurs du secteur parlent désormais, noir sur blanc, de probabilités de catastrophe ou d’extinction supérieures à 10 % dans la prochaine décennie.

On va tout mourir. C’est l’IApocalypse.

Veuillez noter le calme avec lequel je le dis, c’est mon côté stoïcien, et aussi parce que je relativise en non-croyant moniste physicaliste le fait que « on va tous mourir » est tout sauf un scoop. Calmons-nous. C’était déjà acté avant l’invention du powerpoint

Mais quand même, il se passe quelque chose —dans l’air flotte un goût de fin du monde qui rappelle le bug de « l’an deux mille » à ceux qui étaient là et se souvienne des médias qui diffusaient des messages alarmés, et des inquiétudes mises en scène, en partie pour l’audimat puisqu’il n’y avait pas d’autre panique morale ou d’odieuses violences lycéennes à se mettre sous la dent à ce moment-là.

Cette émission est dédiée à décrire les différentes menaces que représentent la technologie en pleine explosion de l’Intelligence Artificielle.

Environ 400 scientifiques, dont Geoffrey Hinton et Yoshua Bengio, appellent à créer un organe international chargé de fixer des normes de confinement pour les IA avancées capables d’opérations cyber, et de tenir un registre des incidents de sécurité significatifs. Leur demande est assez concrète : les modèles de frontière devraient, au moins dans un premier temps, être isolés des réseaux externes — “étanches” — et soumis à une supervision indépendante. Ils jugent que les engagements volontaires de l’industrie ne suffisent pas. Geoffrey Hinton et Yoshua Bengio, ce ne sont pas des militants anti-tech : ce sont deux des pères de l’apprentissage profond moderne, prix Turing 2018, c’est-à-dire à peu près le Nobel de l’informatique.

Sam Altman, le patron d’OpenAI, a lui-même déclaré devant le Conseil de sécurité de l’ONU qu’il ne fallait pas entraîner des modèles si l’on ne pouvait pas établir un dossier extrêmement solide montrant qu’ils resteraient sous contrôle humain. Il ajoutait qu’une probabilité de catastrophe de 10 %, 1 %, 12 %, ou même 0,1 % n’était pas acceptable du tout.

« Et pourtant, pour les IA de frontière, nous n’avons pas l’équivalent des dossiers de sûreté exigés dans des secteurs comme l’aviation ou le nucléaire : analyses détaillées des risques, scénarios d’accident, preuves vérifiables que les dangers ont été identifiés et maîtrisés.

Même les évaluations censées nous renseigner sur les risques posent problème : Reuters rapportait encore aujourd’hui que les entreprises d’IA négocient ce que les évaluateurs indépendants peuvent publier, avec des enjeux de secret industriel, de caviardage, d’accès partiel aux données et de contrôle des conclusions.

• https://www.reuters.com/world/behind-ai-industrys-call-independent-reviews-fight-over-what-gets-made-public-2026-10-13/

La perte de contrôle, elle se constate déjà : par exemple dans le choc provoqué dans le champ académique des mathématiques par la publication massive de manuscrits produits par IA. Hugo Duminil-Copin, médaille Fields 2022, a raconté avoir pleuré après la mise en ligne par OpenAI de centaines de manuscrits touchant directement son domaine, avant de dire : « il ont annihilé mon champ de recherche. Vingt-cinq médaillés Fields ont d’ailleurs signé une tribune estimant que les objectifs des entreprises d’IA et ceux de la communauté mathématique sont « sévèrement désalignés ».

La perte de contrôle, elle se profile aussi dans l’adoption massive de ses outils à tous les étages de la société, bien trop vite pour que se mettent en place des solutions de contrôle.

Quelques darons médiatiques de l’IA des années 2000 nous expliquent qu’il n‘y a aucune intelligence dans les LLM ou dans les IA agentiques et qu’au moindres pépin, il suffit qu’on débranche la prise pour « tenir skynet par les couilles » comme dirait John Connor.

Mais si des agents IA devenaient capables de se répliquer à travers des réseaux d’objets connectés, la question ne serait plus seulement de “débrancher la prise”. Anthropic avertit qu’un tel réplicateur serait difficile à arrêter parce qu’il n’aurait pas de point central à couper. Dans ce scénario, arrêter l’infection pourrait impliquer de couper, au moins temporairement, des pans entiers de nos systèmes de communication, de paiement, de logistique, et pire que tout : la connexion qui vous permet de regarder régulièrement La Tronche en Biais.

Et ça, c’est non, je me rebiffe. C’est totalement exclu.

Avons-nous encore, en tant que société, le pouvoir d’agir sur les évènements en cours ? Ou sommes-nous seulement destinés à être spectateur de Quoiqu’il-arrive, le pire comme le meilleur ? Je n’en sais rien, mais poser la question me donne le sentiment de n’être pas seulement en train de regarder, les mains dans les poches, comme un inutile. Après tout être commentateur sportif c’est aussi une forme de carrière dans le sport.

Ce soir je reçois deux invités qui travaillent et réfléchissent ces questions, et je recevrai d’autres experts et spécialistes dans les prochaines semaines et prochains mois parce que cette question que j’ai longtemps voulu éviter, elle s’impose à moi. Pas plus tard qu’hier, en pleine nuit, j’ai testé la formule vocale de ChatGPT, j‘ai discuté avec mon LLM, et j’ai même fait un débat que j’ai posté à deux heures du matin parce que je venais de passer 40 minutes à être bluffé. La thématique de l’IA est incontournable.

Pour le moment, je ne crois pas à l’IApocalypse, et je ne veux pas lui laisser prendre toute la place.

—soit c’est un danger absolu qui oblitère tout le reste, et qui impose tout simplement qu’on arrête tout, ou qu’on accepte notre finitude à brève échéance ce qui laisse peu de place aux vrais questionnements, aux discussions de fond, aux argumentaires…

— soit c’est une panique millénariste de plus, stérile parce qu’irréfutable, qui ne doit pas nous obnubiler pendant que de vraies problématiques attendent qu’on y réfléchisse.

Je voudrais ce soir qu’on regarde les menaces concrètes, puissantes, invasives qui nous guettent dans l’hypothèse ou la Machine ne se mettrait pas dans le transistor d’en finir avec nous.

Pour en parler :

• Shaïman Thürler est le fondateur et animateur du média « Le Futurologue », consacré aux enjeux de l’intelligence artificielle, avec une attention particulière aux risques et aux réponses collectives à construire. Le Futurologue
• Tom David est le fondateur du General-Purpose AI Policy Lab et travaille sur les enjeux de sécurité, d’évaluation, de gouvernance et de prospective stratégique liés aux IA à usage général.