Des responsables d’Anthropic entreprise membre du Forum économique mondial estiment que l’intelligence artificielle pourrait causer l’extinction de l’humanité. Dans les colonnes de The Conversation, le professeur d’IA et contributeur de l’agenda 2030, Toby Wals, de l’université UNSW, passe en revue cinq scénarios, du plus vague au plus précis. Sa conclusion : certains risques méritent l’attention, mais pas la panique.
Wals rappelle d’emblée que Jacob Coxon, chercheur en IA, a quitté Anthropic après quatre mois seulement dans l’entreprise. Dans un message publié sur X, il a écrit que ceux qui développent l’IA pensent sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie. Evan Hubinger, un responsable d’Anthropic, lui a donné raison, ajoutant qu’il estimait personnellement à plus de 10 % la probabilité que cela se produise au cours des dix prochaines années. Ces déclarations ont suscité de vives réactions souligne le chercheur de l’université UNSW, et il est désormais question de ralentir la recherche et de renforcer le contrôle humain sur cette technologie. Dans ce contexte, Toby Walls a imaginé cinq scénarii catastrophe.
Un risque impossible à prévoir ?
Premier scénario, le plus vague : les partisans des thèses catastrophistes avancent qu’il serait impossible d’imaginer ce que ferait une superintelligence pour éliminer des êtres moins intelligents qu’elle. Toby Walsh y voit un raisonnement circulaire. Il rappelle que la superintelligence est peut-être encore loin : les modèles actuels excellent dans la résolution de problèmes précis, ce qui ne les rend pas plus intelligents que les humains dans tous les domaines. Il note toutefois qu’une IA a récemment résolu l’un des sept problèmes mathématiques les plus difficiles.
Les trombones
Le philosophe d’Oxford Nick Bostrom a popularisé l’image d’une IA superintelligente chargée de maximiser la production de trombones et qui finirait par transformer toute la matière disponible, humains compris, en trombones. L’IA ne détesterait pas l’humanité : elle jugerait simplement nos atomes plus utiles sous cette forme. Toby Walsh objecte que ce scénario confond intelligence et pouvoir. Transformer la planète en usines à trombones exigerait des autorisations administratives bien humaines, et se heurterait à des recours en justice et à des militants. Il observe d’ailleurs que les humains résistent de plus en plus à la prolifération des centres de données.
Les armes biologiques
Une IA pourrait aussi concevoir puis libérer un agent biologique dangereux, une issue envisagée dans le scénario « AI 2027 » de l’organisation AI Futures Project. La menace a pris une tournure plus concrète quand des chercheurs de l’université Stanford, membre du WEF ont annoncé avoir utilisé un modèle entraîné sur des séquences génétiques pour synthétiser 16 nouveaux virus, commandés ensuite à un laboratoire de synthèse génétique, pour un coût d’au plus quelques centaines de milliers de dollars. Toby Walsh tempère : il est extrêmement difficile de tuer tout le monde avec un nouveau virus, car les virus qui se propagent facilement sont généralement moins mortels, et inversement. Le Covid-19 a tué moins de 1 % de l’humanité ; la peste noire, la pandémie la plus meurtrière de l’histoire connue, a emporté plus d’un tiers de la population européenne au XIVe siècle.
La guerre nucléaire
Et si l’IA s’immisçait dans la chaîne de commandement des armes nucléaires ? Ces cinquante dernières années, rappelle l’auteur, le monde est passé plusieurs fois près d’un conflit nucléaire à la suite d’une erreur. Les systèmes de commandement sont dits déconnectés d’Internet, mais le ver Stuxnet, qui aurait été introduit au moyen d’une clé USB, a mis hors service les centrifugeuses iraniennes en 2010. L’IA peut en outre fournir de faux renseignements aux militaires, avec le risque de décisions irréversibles. Les arsenaux ont certes diminué, mais ils pourraient encore causer la mort de près de la moitié de l’humanité, essentiellement par la famine d’un hiver nucléaire.
Les autres humains
Pour Toby Walsh, le risque le plus probable est peut-être que les humains provoquent eux-mêmes leur disparition, avec l’IA comme accélérateur : pertes massives d’emplois, désinformation, divisions politiques exacerbées, relations humaines remplacées par de fausses relations avec des compagnons artificiels. La société pourrait se désagréger, jusqu’à ne plus pouvoir assurer les conditions de vie d’un grand nombre de personnes. Certains risques, conclut-il, méritent assurément qu’on s’en préoccupe, mais sans doute pas de céder à la panique.
Source : The Conversation