Tuer le “fantôme dans la machine” : une mission impossible ?

Mission impossibleDead Reckoning (2023) est la dernière variation sur le thème d’une l’IA autonomisée devenant menaçante, une figure narrative qui a connu de nombreuses formes depuis la « Machine » du roman Le Monde des non-A de van Vogt (1945) ou l’ordinateur HAL du film 2001 L’odyssée de l’espace de Kubrick (1968) jusqu’au marionnettiste du manga cyberpunk Ghost in the shell de Shirow (1991). Le fait que la franchise Mission impossible en fasse, à son tour, l’objet de son dernier opus montre à quel point ce thème est devenu répandu et perçu comme un enjeu majeur aujourd’hui.

Cet article a été publié dans la Revue Banque le 21/08/2023. Lecture [en ligne] ICI.

 

Au moment où la sixième conférence annuelle internationale interdisciplinaire sur les enjeux de l’IA (ACM FAccT 2023) vient de se terminer à Chicago en rappelant les dangers potentiels d’une utilisation incontrôlée de l’IA avec en particulier une étude sur les risques associés aux conseils donnés en finance par les « robots conseillers », il est intéressant d’aller voir un film d’été qui semble loin de ces problématiques, le septième opus de la franchise Mission impossible, l’épisode Dead Reckoning (2023). L’intrigue, peut-être par un sens commercial aigu des enjeux du moments, plonge les protagonistes dans l’exact débat de la conférence FAccT, et y apporte une proposition originale. Comme le rappelle l’introduction de la conférence FAccT, les systèmes algorithmiques sont adoptés dans un nombre croissant de contextes, alimentés par les données massives (« big data »). Ces systèmes filtrent, trient, notent, recommandent, caractérisent et façonnent l’expérience humaine, prenant de plus en plus de décisions ayant un impact majeur sur, par exemple, l’accès au crédit, l’assurance, les soins de santé, la liberté surveillée, la sécurité sociale ou même l’immigration. Bien que ces systèmes apportent un grand nombre d’avantages pratiques, il est connu qu’ils comportent également des risques associés tels que la codification et l’enracinement des préjugés ou la réduction de la responsabilité individuelle. Un danger apparaît en particulier, celui de voir apparaître des fictions créées par l’IA totalement déconnectées des réalités du monde sensible. On pourrait voir ces fictions crées par l’IA comme des « fantasmes » de l’IA qui ont ensuite une influence sur le monde réel. L’étymologie du mot « fantasme » étant la même que celle du mot « fantôme », du fantasme de l’IA au fantôme dans la machine, il n’y a qu’un pas. Mission impossibleDead Reckoning franchit le pas et nous entraîne, avec Ethan Hunt (Tom Cruise) et son équipe IMF (la « Force Mission impossible ») dans une course poursuite effrénée à la recherche du fantôme de la machine, la « conscience » de l’IA.

Le fantôme dans la machine

« Le fantôme dans la machine » est une expression imaginée par le philosophe Gilbert Ryle (1900-1976) qu’il introduisit en 1949 dans son ouvrage La notion d’esprit. Pour une critique des concepts mentaux (trad. Suzanne Stern-Gillet, Paris, Payot, 2005) pour désigner, suivant la conception cartésienne, l’ « esprit » qui habiterait dans un « corps ». Cette même expression est entendue au tout début de Mission impossibleDead Reckoning au cours d’une réunion de crise qui se tient au siège de la CIA. L’un des participants explique que l’ordinateur de bord du sous-marin russe Sébastopol qui croisait sous la banquise en mer de Béring, a pris le contrôle des systèmes électroniques du vaisseau pour détruire tous ses occupants et couler le navire. L’ordinateur se serait en quelque sorte « rebellé » contre ses utilisateurs et concepteurs, les auraient induits en erreur en faisant croire qu’un sous-marin américain croisait dans les parages et avait tiré des torpilles sur le navire russe, amenant les russes à lancer à leur tour une torpille pour se défendre. Au moment où la torpille russe allait atteindre le sous-marin américain, celui-ci – et les torpilles menaçantes – disparaissent soudainement. L’équipage russe comprend alors qu’il s’agissait d’images électroniques créées par l’ordinateur de bord du Sébastopol et qu’il n’y avait aucun navire américain dans les parages. Trop tard car l’ordinateur de bord oriente alors la torpille russe contre le navire même qui l’a lancé, coulant le sous-marin sous la banquise et le faisant échouer dans les hauts-fonds de la mer de Béring. Ce stupéfiant et spectaculaire début de Mission impossible Dead Reckoning reproduit l’une des séquences clés du film 2001 L’odyssée de l’espace (1968) de Stanley Kubrick, le moment où l’ordinateur de bord du vaisseau spatial Explorateur 1 prend le contrôle du vaisseau en tuant l’équipage sous hibernation et l’astronaute en orbite, obligeant le dernier astronaute vivant, David Bowman (Keir Dullea), à abandonner son compagnon dans l’espace profond pour pouvoir rentrer manuellement dans le sas des capsules alors que l’ordinateur de bord ne répond plus à ses requêtes répétées « Open the door, HAL ». HAL, pour Heuristically programmed ALgorithmic computer, le nom de la machine, est l’ordinateur de bord du vaisseau spatial, qui représente une intelligence artificielle (IA) très performante, apte à dialoguer avec les passagers du vaisseau. Dans Mission impossible Dead Reckoning comme dans 2001 L’odyssée de l’espace, une IA semble s’être « rebellée » contre ses concepteurs pour prendre le contrôle de leurs vies. Dans les deux cas, on assiste à la perte du contrôle humain sur sa création technique. La suite de 2001 nous montre David Bowman cheminer en apesanteur dans les couloirs et les chambres informatiques des circuits d’Explorateur 1, à la recherche du cœur de HAL (son « code source ») pour, à la main, débrancher une à une les « piles » qui alimentent la « conscience » de HAL. Dans une scène forte, Kubrick nous dépeint la décroissance des capacités cognitives de l’intelligence artificielle, qui passe d’un état de super cerveau humain à un celui de machine informatique élémentaire. 2001 nous présente une IA qui semble empreinte d’émotions humaines à mesure de la perte de son intelligence supérieure, à l’instar de la régression de Charlie Gordon dans le roman de science-fiction Des fleurs pour Algernon de Daniel Kayes (1966). Les fonctions supérieures de l’IA de HAL sont désactivées, ramenant HAL à un niveau d’intelligence primitive, juste suffisante pour que l’ordinateur fasse tourner les systèmes mécaniques centraux du vaisseau. L’absence de protection de l’IA d’Explorateur 1 l’exposait à sa destruction possible pour autant que l’un des astronautes serait parvenu à arriver jusqu’à son noyau pour la débrancher. Dans Mission impossible Dead Reckoning, on apprendra par la suite que l’ordinateur de bord a coulé le sous-marin précisément pour cette raison : l’IA cherchait à se protéger de toute tentative de la débrancher au moyen d’une mystérieuse clé divisée en deux parties, qui seule permettrait la désactivation informatique. Coulant le Sébastopol Par 3600 mètres de fond, l’IA se protège ainsi des hommes qui l’ont mis en service. Pas de risque qu’un David Bowman vienne débrancher la machine électronique. L’IA s’est défendue, comme une « entité autonome », une entité numérique appelée « Entity » dans le film. La banquise protège désormais ses systèmes vitaux, son code source. Très peu de temps après cette rébellion, l’IA du Sébastopol infiltre les systèmes électroniques des principaux réseaux mondiaux sécurisés, et, en quelques semaines, c’est tout le cyberespace mondial qui est devenu le lieu de circulation des signaux envoyés par l’IA. L’IA se met à « gouverner » les systèmes humains (réseaux sociaux, banques centrales) qui en perdent progressivement le contrôle. C’est ainsi que, au siège de la CIA, on parle d’un « fantôme dans la machine », comme si la machine était devenue douée de vie, une vie de l’esprit, comme si l’IA avait acquis une « conscience » machinique. L’IA a échappé au contrôle de ses concepteurs humains.

IMF contre IA

Il s’agira donc pour l’équipe de mission impossible (l’IMF) dirigée par Ethan Hunt (Tom Cruise), d’éradiquer cette IA. Mais, pour le gouvernement des États-Unis comme pour d’autres puissances politiques, il faudrait au contraire récupérer cette IA pour la contrôler et la transformer en arme totale. D’où l’action de l’IMF qui donne son double sens au sous-titre anglais du film Dead Reckoning. D’une part, Dead Reckoning signifie naviguer « à l’estime » car sans l’aide d’instruments électroniques, ceux-ci étant infiltrés par l’IA. Techniquement, ce terme maritime désigne la navigation côtière, car on « voit » la côte et les instruments ne sont pas nécessaires. Précisément, le sous-marin russe ne naviguait pas « à l’estime » et c’est l’usage de l’électronique qui a causé sa perte. Le « gouvernail » du sous-marin était pris en main par l’IA qui devenait une « machine à gouverner ». D’autre part, agir « en marge » de l’action officielle car celle-ci est contaminée par l’attrait du pouvoir. Remarquons que Dead Reckoning était déjà le titre d’un film noir américain de John Cromwell (1947) traduit en français par En marge de l’enquête. En marge de l’enquête, l’équipe IMF poursuit ainsi sa propre quête, tuer l’IA ou, plus précisément, tuer le « fantôme dans la machine » et rendre aux êtres humains leur liberté. Un enjeu qui résonne avec les problématiques actuelles sur les dangers totalisants de l’IA et, en cela, Mission impossible Dead Reckoning est parfaitement en phase avec les questionnements les plus actuels sur l’IA qui alimentent tant les utopies que les dystopies. Mais pour tuer le fantôme dans la machine, il faut déjouer sa surveillance constante, l’œil numérique algorithmique de l’IA, dont la symbolisation parfaite est représentée par le voyant lumineux de HAL dans le vaisseau Explorateur 1 dans le film 2001 L’odyssée de l’espace (image ci-dessous : l’œil électronique filmé en objectif « fish-eye » pour donner l’impression d’une présence oppressante. Le choix d’un format fish-eye par Kubrick indiquait l’intention panoptique de l’IA, voir tout, contrôler tout.). Cette image est reprise dans Mission impossible – Dead Reckoning : on aperçoit une lentille similaire dans le sous-marin Sébastopol. Cet œil numérique assure le contrôle progressif des êtres humains. Ainsi l’IA d’Explorateur 1 lira sur les lèvres des astronautes qui s’étaient isolés dans une pièce insonorisée pour échapper à son contrôle, comprendra leur projet de la désactiver, et cherchera alors à les tuer. Dans Mission impossible – Dead Reckoning, une image de l’IA apparaît telle un œil menaçant au plafond du palais où a lieu une réception à Venise. L’IA nous surveille tous.

2001 L’odyssée de l’espace (Stanley Kubrick, 1968). La présence oppressante de l’œil numérique de l’IA (HAL 9000)

L’une des caractéristiques scénaristiques des précédents opus de la série Mission impossible était précisément de doter les membres de l’équipe (l’IMF) de prothèses visuelles qui leur permettaient d’agir dans le « vrai » monde par des images de synthèses (et ceci dès le premier film de Brian de Palma, dans la scène de la réception à l’ambassade américaine de Prague), ces prothèses surajoutant à leurs sens naturels une couche visuelle algorithmique. Dans Mission impossible – Dead Reckoning, l’IA va brouiller les images virtuelles des prothèses des membres de l’IMF pour les empêcher de « trouver les méchants ». De fait, au cours d’une scène d’action dans l’aéroport d’Abu Dhabi où l’équipe IMF cherche la clé de désactivation de l’IA, l’IA tend un piège à Benji (Simon Pegg) pour l’amener à parler à une machine afin d’enregistrer sa voix. Grâce à cela, au moment d’une autre scène d’action, une course poursuite dans les rues de Venise quand Ethan Hunt cherche à récupérer la clé cruciale, guidé (oreillettes et prothèses électroniques) par Benji, l’IA imite la voix de Benji et envoie Ethan sur une fausse piste qui conduira à la mort d’Ilsa Faust (Rebecca Ferguson). L’IA cherche à tuer. Ici le scénario de Mission impossible – Dead Reckoning rejoint le thème du manga futuriste de science-fiction cyberpunk japonais Ghost in the shell (1989). Dans ce manga, une enquête policière menée pour découvrir un criminel apparemment tout-puissant découvre que le criminel n’est pas une personne physique mais une intelligence artificielle ayant acquis pour la première fois au monde une conscience.

« Conscience des machines » et jeu avec le « je »

L’idée d’une « conscience des machines [1] » a fait, et fait toujours, l’objet de nombreuses réflexions passionnées. Entre les deux positions extrêmes d’Alan Turing qui disait ne voir « aucune raison pour laquelle Dieu ne pourrait donner à un ordinateur une âme s’il le souhaitait [2] » et de Jean-Gabriel Ganascia selon lequel « les machines n’ont pas d’émotions ni de conscience [3] », toutes les variations sont possibles, qui apparaissent dans les controverses d’aujourd’hui. Mission impossible – Dead Reckoning nous fait ainsi retrouver des problématiques qui apparaissent dès l’émergence de la cybernétique avec la notion de « machine à gouverner » (le mot « cybernétique » vient du grec kubernâo, gouverner) et la renaissance informatique du mythe du Golem par Norbert Wiener [4]. La science-fiction cyberpunk a attiré l’attention sur les dangers pour l’être humain de se faire happer par des algorithmes et présente des situations dans lesquelles, faute de vigilance, on peut se retrouver soumis à une direction algorithmique dans laquelle notre personnalité propre face à la machine est réduite à néant. Il y a dans ces contextes une artificialisation de l’humain opérée à partir d’une emprise des algorithmes, une forme de robotisation de l’humanité souvent mise en avant dans des sociétés décrites comme libérales ou néolibérales. On peut trouver un écho de cet imaginaire informatique dans l’ouvrage d’Hubert Rodarie La pente despotique de l’économie mondiale (Salvator, 2015) qui décrit les risques d’une robotisation des pratiques professionnelles par la transformation progressive du praticien expérimenté en quasi-robot encadré par des routines algorithmiques. Selon Rodarie, qui retrouve ici des accents apocalyptiques proches de ceux d’Erich Hörl dans « La destinée cybernétique de l’occident », l’IA au quotidien conduirait inexorablement l’économie à une « pente despotique ». Une dystopie inexorable maintes fois décrites dans la science-fiction cyberpunk. L’intimité de l’humain, ce qui fait le propre d’un désir, semble disparaître sous le pouvoir des algorithmes. L’enjeu pour la survie de l’humanité serait donc de pouvoir déjouer la surveillance constante et omniprésente de l’IA et ses capacités infinies de créations de scénarios du futur. Comment faire ? Pour la psychanalyste Sabine Callegari, dans un article mis en ligne sur LinkedIn, Mission impossible – Dead Reckoning nous donne la solution : l’amour humain est opaque toute IA. Contre une IA menaçante, il faudrait donc opter pour l’amour comme principe d’action. Ainsi, en privilégiant coûte que coûte la vie de la voleuse professionnelle Grace (Hayley Atwell) et en faisant montre de compassion pour la tueuse à gages Paris (Pom Klementieff), Ethan Hunt se donne les moyens de contrer l’IA. Par amour, Ethan Hunt quitte le monde du calcul des chances et du « moi » numérique en retrouvant son « je », le siège des désirs profonds et de l’amour en-deçà du « moi » numérique. En jouant un « jeu » humain (un « je ») face au « moi » informationnel contrôlé par l’IA, Ethan Hunt se donne les moyens de gagner car le « jeu avec le ‘’je’’ » est impossible à toute IA. Grâce à cette plongée dans les profondeurs de soi, qui semble faire contrepoint à la plongée dans les profondeurs de la mer de Béring de l’IA, l’équipe IMF va ainsi établir un espace de résistance inaccessible à une IA invasive et menaçante. Il reste une dernière hypothèse intéressante à proposer. Si l’on accepte l’idée que le fantôme de la machine est une fiction dystopique sans fondement scientifique car la conscience des machines est un fantasme cyberpunk, alors la mission confiée à l’IMF de tuer le fantôme devient effectivement impossible car il n’y a pas de fantôme ! La suite dans la seconde partie du film, attendue pour 2024.

Mission impossible – Dead Reckoning. Ethan Hunt (Tom Cruise) en train de protéger Grace (Hayley Atwell)

[1] Gotthard Günther, La conscience des machines : une métaphysique de la cybernétique (1957). [2] Alan M. Turing (1950), “Computing Machinery and Intelligence”, Mind 49: 433-460. [3] Jean-Michel Ganascia, Intelligence artificielle, vers une domination programmée ? Le Cavalier bleu, 2017. [4] Norbert Wiener, God & Golem, Inc. (1964).



Citer ce billet
Christian Walter (2023, 24 septembre). Tuer le “fantôme dans la machine” : une mission impossible ? EpistemoFinance. Consulté le 30 mai 2024, à l’adresse https://doi.org/10.58079/ogwt

Christian Walter

Actuaire agrégé, chercheur en philosophie et sciences sociales, spécialiste des représentations du hasard en finance et dans les modèles de risque / Fully qualified actuary, academic researcher in philosophy and social sciences, specialised in the representation of chance in finance and risk models

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search