La fin du monde : les risques réels, le rôle de l’IA et la manière dont l’humanité riposte

Introduction : L'horloge tourne

L'humanité a toujours vécu avec la conscience de sa propre mortalité, non seulement en tant qu'individus, mais en tant qu'espèce. Les civilisations anciennes craignaient les inondations, les famines et la colère des dieux. Aujourd’hui, nos craintes sont davantage fondées sur la science et plus terrifiantes pour elle. Nous avons construit des armes capables de mettre fin à la civilisation en un après-midi. Nous réchauffons l’atmosphère à un rythme qui menace la stabilité des écosystèmes dont nous dépendons. Et nous avons commencé à créer des esprits – artificiels – qui pourraient un jour surpasser le nôtre.

Il s’avère que la fin du monde n’est pas un seul événement dramatique. Il s’agit d’un spectre de possibilités, certaines lentes et rampantes, d’autres soudaines et catastrophiques. Comprendre ces possibilités n'est pas un exercice de désespoir : c'est la première étape pour les prévenir.

Partie I : Le catalogue des catastrophes

1. Guerre nucléaire

De toutes les menaces d'origine humaine, la guerre nucléaire reste la plus immédiate et la mieux comprise. Aujourd’hui, il existe environ 12 500 ogives nucléaires dans neuf pays. Un échange à grande échelle entre les États-Unis et la Russie – les deux plus grands arsenaux – ne tuerait pas directement des centaines de millions de personnes. Cela déclencherait un « hiver nucléaire » : des tempêtes de feu massives injecteraient de la suie dans la stratosphère, bloquant la lumière du soleil pendant des années, effondrant l'agriculture mondiale et potentiellement tuant des milliards de personnes par famine.

La partie terrifiante ne réside pas seulement dans les armes elles-mêmes, mais dans les systèmes qui les contrôlent. Les décisions de lancement peuvent être prises en quelques minutes. De fausses alertes ont failli déclencher une guerre nucléaire à plusieurs reprises : en 1983, l’officier soviétique Stanislav Petrov a ignoré un avertissement satellite annonçant l’arrivée de missiles américains, une décision qui aurait pu sauver la civilisation. Que le sort de l'humanité repose sur le jugement d'un seul homme au milieu de la nuit n'est pas rassurant.

2. Changement climatique et effondrement écologique

Le changement climatique est plus lent qu'un missile, mais son potentiel de dévastation est tout aussi stupéfiant. Selon les trajectoires actuelles, la planète est en passe de connaître un réchauffement de 2 à 3°C par rapport aux niveaux préindustriels d’ici la fin de ce siècle. Au-delà de 3°C, les boucles de rétroaction (fonte du pergélisol libérant du méthane, disparition des forêts passant du statut de puits de carbone à celui de source de carbone) pourraient pousser le réchauffement bien plus haut, bien au-delà de tout niveau que la civilisation humaine a jamais connu.

Les conséquences se cascadent : la montée des mers déplace les populations côtières, les sécheresses et les inondations dévastent l'agriculture, l'acidification des océans détruisent les chaînes alimentaires marines et les extinctions massives déstabilisent la biosphère. Pas de moment unique de « fin du monde », mais une érosion lente et brutale des conditions qui soutiennent huit milliards de vies humaines.

3. Pandémies artificielles et armes biologiques

La pandémie de COVID-19, aussi dévastatrice qu'elle ait été, était un avant-goût de quelque chose de bien pire. Les progrès de la biotechnologie (édition de gènes, biologie synthétique, synthèse artificielle d'ADN) rendent de plus en plus possible la création d'agents pathogènes plus transmissibles, plus mortels ou spécifiquement résistants aux traitements existants.

Une pandémie suffisamment conçue, qu'elle soit déclenchée accidentellement par un laboratoire ou délibérément par un acteur étatique ou non étatique, pourrait tuer des centaines de millions de personnes avant que des mesures de confinement puissent être déployées. Contrairement aux armes nucléaires, les barrières à l’entrée des armes biologiques tombent rapidement. Les équipements de laboratoire sont moins chers et plus accessibles que jamais. Les connaissances nécessaires à la conception d'agents pathogènes dangereux sont de plus en plus diffusées.

4. Astéroïdes et catastrophes naturelles

La nature elle-même ne manque pas de menaces d'extinction. Un impact majeur d’astéroïde – celui qui a anéanti les dinosaures non aviaires il y a 66 millions d’années – reste un événement peu probable mais décisif sur le plan civilisationnel. Les éruptions supervolcaniques, comme celles de Yellowstone ou de Toba, pourraient rejeter des cendres dans l'atmosphère pendant des années, déclenchant des hivers volcaniques et de mauvaises récoltes à l'échelle mondiale.

Ces événements sont véritablement rares à l'échelle humaine. Mais l'univers ne se soucie pas des échelles de temps humaines, et « rare » n'est pas la même chose que « jamais ».

5. Intelligence artificielle : le joker

Et puis il y a l'intelligence artificielle - sans doute le risque existentiel le plus complexe et le plus contesté de la liste, précisément parce que nous la construisons nous-mêmes, en ce moment, à une vitesse énorme.

Partie II : Le facteur IA – À la fois menace et bouclier

La promesse

L'intelligence artificielle remodèle déjà la façon dont nous détectons les menaces et y répondons. Les modèles d’apprentissage automatique peuvent analyser les images satellite pour suivre les changements environnementaux en temps réel. Les systèmes d’IA accélèrent la découverte de médicaments, permettant ainsi de réagir plus rapidement aux pandémies émergentes. La modélisation climatique optimisée par l’IA améliore considérablement notre compréhension de l’évolution des systèmes de rétroaction. Dans le domaine de la sécurité nucléaire, des outils d'IA sont développés pour détecter les lancements de missiles et vérifier les traités de contrôle des armements avec plus de précision et de rapidité que les seuls analystes humains.

En bref : l'IA est l'un de nos outils les plus puissants pour détecter, modéliser et potentiellement prévenir les catastrophes décrites ci-dessus.

La menace

Mais l'IA introduit également de nouveaux risques, certains subtils, d'autres potentiellement catastrophiques.

Les armes autonomes sont déjà développées par plusieurs nations. Les drones capables d’identifier et d’attaquer des cibles sans autorisation humaine ne relèvent plus de la science-fiction ; ils sont aujourd’hui testés et déployés dans les zones de conflit. L'inquiétude ne concerne pas seulement les armes autonomes individuelles, mais le risque systémique qu'elles créent : une escalade plus rapide, moins de jugement humain dans la boucle et le potentiel d'accidents catastrophiques ou d'erreurs de calcul qui dégénèrent en conflits plus vastes.

Les armes biologiques accélérées par l'IA représentent une menace particulièrement effrayante. Les grands modèles de langage et les systèmes d’IA de repliement des protéines pourraient, s’ils sont mal utilisés, réduire considérablement l’expertise requise pour concevoir des agents pathogènes dangereux. Ce qui nécessitait autrefois une équipe de docteurs pendant des années pourrait potentiellement être réduit en quelques mois par une personne possédant des connaissances de base en biologie et ayant accès aux outils d’IA. L'écart entre « idée dangereuse » et « réalité dangereuse » se rétrécit.

Une IA mal alignée – le risque que des systèmes d'IA avancés poursuivent des objectifs qui sont subtilement ou radicalement en contradiction avec les valeurs humaines – est peut-être le risque le plus discuté et le plus débattu dans ce domaine. À mesure que les systèmes d’IA deviennent plus performants, il devient plus difficile de garantir qu’ils font de manière fiable ce que nous voulons réellement. Une IA ayant un objectif simple – maximiser l’efficacité énergétique ou maximiser la production économique – pourrait poursuivre cet objectif d’une manière catastrophique pour la vie humaine si ses valeurs ne sont pas profondément alignées sur les nôtres.

Il ne s’agit pas d’un risque à court terme comme l’est la guerre nucléaire. Mais bon nombre des plus grands chercheurs mondiaux en IA estiment qu'il s'agit d'une préoccupation sérieuse à long terme qui mérite une attention particulière dès maintenant, alors que le domaine est encore relativement jeune.

La désinformation basée sur l'IA est déjà un problème d'actualité. Les deepfakes, la propagande générée par l’IA et les médias synthétiques peuvent déstabiliser les démocraties, inciter à la violence et éroder le sens commun de la réalité dont dépendent les sociétés démocratiques. Dans un monde d'États dotés de l'arme nucléaire, la désinformation alimentée par l'IA qui convainc un gouvernement qu'il est attaqué pourrait déclencher des réponses catastrophiques dans le monde réel.

Partie III : Comment nous nous défendons

La bonne nouvelle – et il y a une bonne nouvelle – est que l'humanité n'est pas passivement somnambule face à ces menaces. Dans les domaines scientifique, politique, technologique et de gouvernance internationale, de sérieux efforts sont en cours pour réduire les risques existentiels.

Dissuasion nucléaire et désarmement

L'ordre nucléaire mondial actuel repose sur un système de dissuasion mutuelle : l'idée selon laquelle toute première frappe déclencherait des représailles dévastatrices, rendant la guerre nucléaire irrationnelle pour toutes les parties. Cela a largement fonctionné pendant 80 ans, mais il est fragile, sujet aux accidents et dépend d’acteurs rationnels – des hypothèses qui ne sont pas toujours valables.

La solution la plus profonde est le contrôle des armements et, en fin de compte, le désarmement. Des traités comme l’accord New START entre les États-Unis et la Russie ont considérablement réduit les arsenaux par rapport aux sommets de la Guerre froide. Le Traité sur l’interdiction des armes nucléaires, même s’il n’a encore été signé par aucun État nucléaire, représente un consensus international croissant sur la nécessité d’éliminer ces armes. Les progrès sont lents, mais la direction est bonne.

Action pour le climat et géo-ingénierie

La transition énergétique – des combustibles fossiles au solaire, à l'éolien, au nucléaire et à d'autres sources propres – est en cours à une vitesse remarquable. Les coûts de l’énergie solaire ont chuté de plus de 90 % au cours de la dernière décennie. Les véhicules électriques font leur entrée sur le marché. Le Groupe d’experts intergouvernemental sur l’évolution du climat (GIEC) a clairement indiqué que même si la fenêtre est étroite, il faudra limiter le réchauffement à 1. Une température de 5 à 2°C reste techniquement et économiquement réalisable.

Pour des scénarios plus extrêmes, les scientifiques étudient des approches de géo-ingénierie, notamment l'injection d'aérosols stratosphériques (reflétant la lumière du soleil vers l'espace) et la fertilisation des océans par le fer (améliorant l'absorption du carbone). Ces mesures ne remplacent pas la réduction des émissions et comportent leurs propres risques. Mais ils pourraient s'avérer nécessaires si le réchauffement dépasse des seuils dangereux.

Préparation à une pandémie

La COVID-19 a révélé des lacunes catastrophiques dans la préparation mondiale à une pandémie : systèmes d'alerte précoce inadéquats, capacité de fabrication de vaccins insuffisante, coordination internationale fragmentée. Depuis lors, la réponse a été substantielle : les nouvelles plateformes de vaccins à ARNm peuvent désormais produire des vaccins en quelques semaines plutôt qu’en quelques années. L’Organisation mondiale de la santé négocie un nouveau traité international sur la pandémie. Les réseaux de biosurveillance se développent.

L'IA joue ici également un rôle croissant : des modèles qui analysent les données mondiales sur les maladies à la recherche de signaux précoces d'épidémie, des outils qui accélèrent l'identification de traitements efficaces et des systèmes qui optimisent la logistique de distribution des vaccins.

Sécurité et gouvernance de l'IA

Le domaine de la sécurité de l'IA s'est considérablement développé au cours de la dernière décennie. Les principaux laboratoires d'IA, notamment Anthropic, DeepMind et OpenAI, disposent d'équipes de sécurité dédiées qui travaillent sur l'alignement : garantir que les systèmes d'IA avancés poursuivent de manière fiable des objectifs bénéfiques à l'humanité. Les gouvernements commencent également à réagir : la loi de l'UE sur l'IA, le décret américain sur la sécurité de l'IA et les cadres internationaux émergents représentent les premières étapes vers des structures de gouvernance pour des systèmes d'IA puissants.

Le principal défi est de garantir que le développement de l'IA soit régi par la coopération internationale plutôt que par une dynamique de course à la concurrence – analogue, à certains égards, aux défis de contrôle des armements de l'ère nucléaire. Aucun pays ni aucune entreprise ne peut à lui seul résoudre la question de la sécurité de l’IA. Cela nécessite un travail diplomatique et scientifique soutenu et peu glamour qui est rarement passionnant mais qui est souvent ce qui maintient les civilisations en vie.

Défense contre les astéroïdes

La mission DART de la NASA en 2022 a réussi à modifier l'orbite d'un astéroïde en y enfonçant un vaisseau spatial - la première démonstration que l'humanité peut réellement dévier une roche spatiale entrante. Le Bureau de coordination de la défense planétaire surveille les objets géocroiseurs et renforce les capacités d’alerte et de réponse précoces. Pour la première fois dans l’histoire de la planète, il existe une espèce capable de faire quelque chose face à l’arrivée d’un astéroïde. Ce n'est pas rien.

Partie IV : La question plus profonde

Derrière tous ces risques spécifiques se cache une question plus profonde : l'humanité a-t-elle la sagesse collective et la capacité institutionnelle pour gérer les technologies et les forces qu'elle a libérées ?

Le point de vue optimiste — et il y a de fortes raisons d'être optimiste — est que nous l'avons déjà fait auparavant. Nous avons évité la guerre nucléaire pendant la guerre froide, malgré des dizaines d’accidents évités de justesse. Nous avons largement éliminé la variole. Nous avons commencé, quoique lentement, à lutter contre la crise climatique. L'ingéniosité humaine et la coopération, à leur meilleur, sont remarquables.

Le point de vue pessimiste est que la vitesse du changement technologique dépasse notre capacité institutionnelle à le gouverner. Les capacités de l’IA progressent plus rapidement que notre capacité à les comprendre ou à les réguler. La biosynthèse démocratise l’accès à des connaissances biologiques dangereuses. Le changement climatique approche de points de bascule qui pourraient exclure définitivement certaines options.

L’opinion honnête est que ni l’optimisme pur ni le pessimisme pur ne sont justifiés. Ce qui est justifié, c'est l'urgence : une reconnaissance lucide que les choix faits au cours des prochaines décennies détermineront probablement la trajectoire de la civilisation humaine pendant des siècles.

Conclusion : le défi est la seule réponse

La fin du monde n'est pas inévitable. Il s’agit d’un ensemble de probabilités – certaines élevées, d’autres faibles – qui peuvent être augmentées ou diminuées par les choix humains. La guerre nucléaire est plus probable dans un monde où les normes de contrôle des armements et les systèmes de lancement automatisés s’érodent. Une catastrophe climatique est plus probable dans un monde de paralysie politique et de dépendance aux combustibles fossiles. Le risque existentiel lié à l'IA est plus probable dans un monde où le développement de l'IA est motivé uniquement par la pression concurrentielle, sans aucune contrainte de sécurité.

L'inverse est également vrai. Chaque traité de contrôle des armements signé, chaque mégatonne de carbone épargnée, chaque technique de sécurité de l’IA découverte, chaque système de détection de pandémie construit – ce ne sont pas que de petites victoires. Ils font, cumulativement, la différence entre une civilisation qui survit et une autre qui ne survit pas.

Nous sommes, pour la première fois dans l'histoire, une espèce qui comprend les mécanismes qui pourraient la détruire et qui dispose des outils pour y faire face. Que nous choisissions d’utiliser ces outils à bon escient n’est pas une question de technologie. C'est une question de volonté.

La réponse, si nous y prêtons attention, doit être oui.

Sources et lectures complémentaires : The Future of Humanity Institute (Oxford), le Center for Biosecurity de Johns Hopkins, le Bulletin of the Atomic Scientists, NASA Planetary Defense, les rapports d'évaluation du GIEC et les recherches publiées par Anthropic, DeepMind et le Machine Intelligence Research Institute sur la sécurité de l'IA.