Imago hominis ?

L’IA inquiète et nous touche aujourd’hui à un niveau émotionnel et non rationnel. Pourtant il n’y a pas de « fantôme dans la machine » et il serait utile de dépassionner les débats sur l’intelligence justement dite « artificielle ». L’intelligence artificielle peut-elle avoir un effet sur l’intelligence humaine ? Le désir des machines pourrait-il prendre l’avantage sur le désir des humains appelés à devenir des cyborgs ? Il s’agit en fait de trouver quel mode de fonctionnement pourrait associer une IA dédiabolisée et un humain déniaisé dans la prise de décisions délicates en environnement incertain.

 

Cet article a été publié dans la Revue Banque 889, février 2024, p. 24-26, mis en ligne le 24/01/2024. Lecture [en ligne] ICI.

 

D’entrée de jeu, le ton est donné dans le titre de l’ouvrage de Jean-Philippe Desbiolles et Grégoire Colombet, « un monde où l’IA nous dépasse » et, dans ce monde dangereux où nous sommes dépassés par l’IA, la question est évidemment de savoir comment agir, comment décider et de nous demander (titre du livre) « Qui décidera le futur, humain ou IA ? ». La dramatisation de la question fait partie de l’intention narrative du projet éditorial, et le rend sympathique pour cette raison.

Mon compte-rendu de lecture a pour objectif limité celui de faire connaître cet intéressant ouvrage. Pour ne pas alourdir le texte, les recommandations de lecture qui peuvent venir compléter, éclairer (ou questionner voire contredire !) certains passages du livre, ont été systématiquement reportées en notes de bas de page. Dans l’ensemble, la lecture du livre est très aisée, et représente une introduction simple et concrète à la question de la présence de l’IA dans la vie professionnelle. L’appartenance des auteurs à IBM confère à ce livre une aura très sérieuse. Jean-Philippe Desbiolles a été l’un des créateur du centre de recherche d’excellence IBM Watson aux États-Unis, un groupe de recherche mythique dans lequel se trouvaient un grand nombre de scientifiques de légende comme Benoît Mandelbrot. Grégoire Colombet, quant à lui, dirige la société IBM AI Decision Coordination et est un expert reconnu dans le domaine des applications de l’IA [1].

Le style est léger et clair, et les auteurs n’hésitent pas à adopter une perspective narrative fluide pour rendre vivant leur propos. Par exemple, dans l’avant-propos, on lit qu’au cours d’une nuit d’angoisse (!) devant le futur incertain, l’un des auteurs (on ne sait pas lequel) nous avoue qu’il se demande « quel est le véritable impact de l’intelligence artificielle dans nos vies quotidiennes » (p. 9) et nous fait part de ses doutes et de son malaise devant cet objet bizarre appelé IA. Grâce à une rencontre de hasard qu’il interprète comme une synchronicité jungienne (p. 11), il voit poindre la « fin des illusions » (p. 12), telle La fin du rêve (1972) comme le roman de science-fiction de Philip Wylie, avertissement prémonitoire dont l’urgence apocalyptique l’amène à proposer sa compréhension de l’IA. S’ensuit l’interrogation désormais inévitable sur l’omniscience potentielle de l’être humain ou de l’IA et de l’intelligence « artificielle » au double sens du mot [2], que l’auteur applique à l’évolution des métiers à venir. L’image du pilote d’avion qui doit reprendre les commandes si l’IA défaille est utilisée [3]. Tout cela produit un style très vivant qui facilite la lecture. On a toujours envie d’en savoir plus. Le but de mes notes de bas de pages est juste de permettre au lecteur d’assouvir une faim de références bibliographiques s’il trouve que le livre n’en donne pas suffisamment.

Le plan de l’ouvrage détaille les questionnements annoncés. Le chapitre 1 présente les « mythes et réalités de l’intelligence artificielle ». Le chapitre 2 aborde la question de savoir « Qui décide ? Qui commande ? », le chapitre 3 nous explique que « L’IA [est] ce collègue qui dérange ». La conclusion présente trois règles éthiques d’usage de l’IA, qui doivent être suivies pour, selon l’A., nous éviter de « sombrer à l’image d’un Titanic » et d’ « affronter la réalité de cette nouvelle donne de l’IA » (p. 155).

Le premier chapitre a pour objectif de nous éclairer sur ce qu’est l’IA, à partir de considérations sur le fait de comprendre et la notion d’artificialité. Une référence à Daniel Kahneman est mobilisée pour montrer que l’IA touche à un niveau émotionnel et non rationnel, ce qui expliquerait les réactions toujours passionnées sur ce thème et certains biais cognitifs dans l’usage de l’IA [4]. Un retour sur l’histoire du développement de l’IA permet de saisir comment la machine a pris une place dans la vie professionnelle des financiers, avec l’exemple du traitement des chèques frauduleux. Une discussion sur la nature de l’IA, intelligence artificielle ou augmentée, introduit au débat sur « qui fait quoi, où et comment » entre l’humain et la machine. L’émergence des données massives (« Big Data » ou « mégadonnées ») est abordée dans le contexte de la nouvelle IA [5].

Dans la caverne à la recherche des fantômes de l’IA

Puis les auteurs décrivent l’expérience Cavern dont le but est de mesurer l’efficacité de la collaboration humain / algorithmes par rapport à des prises de décisions humaines seules ou algorithmiques seules, et dont le protocole et les résultats ont été publiés dans les actes de la 33e conférence internationale francophone sur l’interaction Humain-Machine de 2022 (AFIHM [6]). Il s’agit de déterminer un seuil de complexité au-delà (ou en-deçà) duquel il y a collaboration efficace humain-machine. Cette partie est en quelque sorte la clé du livre, ce qui en donne son origine. S’il ne s’agit ni de rejeter en bloc l’IA ni de déléguer à l’IA toutes nos décisions, alors il est absolument indispensable de pouvoir disposer d’un critère de seuil de partage. Et ce critère de seuil est l’objet de l’article présenté à l’AFIHM dont on recommande vivement la lecture [7] à ceux que la question intéresse.

Une fois compris qu’on doit être en mesure de décider d’un usage partiel de l’IA, la question suivante est naturellement l’objectivation du critère de décision. C’est l’objet du chapitre 2, objectiver l’IA, rédigé à partir de l’expérience fondatrice ObjectivAIze présentée à l’AFIHM. Ce chapitre très clair à base d’exemple est une discussion raisonnée sur les courbes ObjectivAIze qui introduit la notion de score de confiance. Je conseille au lecteur de se plonger dans les détails techniques du chapitre, car ils permettent de bien comprendre la question posée, en passant d’une généralité (l’IA est-elle bonne ou mauvaise ?) à la recherche concrète d’un critère de décision de l’usage de l’IA.

Comme toute expérience et tout modèle, il s’agit de bien mesurer les conditions de mise en œuvre de la procédure et de mobilisation des hypothèses statistiques. Le style clair des auteurs y contribue grandement et c’est l’un des apports de cet ouvrage que de rendre accessible au grand public le contenu d’un article scientifique présenté en congrès. Les auteurs concluent à l’intérêt de l’IA dans la prise de décision dans certaines situations, tout en rappelant l’importance de l’intelligence humaine et sa nécessité dans la prise de décision que les auteurs appellent « augmentée » [8]. Sans aller jusqu’à la confrontation entre l’intelligence humaine et le « fantôme dans la machine » [9] qui chercherait à prendre toutes les décisions sans (ou contre) l’humain, on comprend qu’il s’agit d’objectiver un partage des rôle entre l’être humain et son fantôme algorithmique. Mais l’on voit bien aussi que, même sans fantôme dans la machine, l’IA est « ce collègue qui dérange », gêne diffuse (angoissante ?) qui est l’objet de l’attention du chapitre 3.

Puisque l’IA inquiète et qu’il faudrait de méfier des fantômes hostiles qui habitent les machines pensantes, la question qui tombe naturellement est celle de l’éthique de l’IA et la recherche d’une « IA de confiance » [10] : gare aux fantômes ! Les auteurs rappellent les notions fondamentales de l’IA de confiance, qui trouvent leur source dans le rapport de la Commission européenne du 8 avril 2019 [11]. Une relation fondamentale apparaît, celle qui relie performance, incertitude et responsabilité, les comportements humains très variables pouvant devenir une source d’incertitude endogène.

Homme prudent, hasard sauvage et rôle de l’IA

C’est un nœud gordien. Si on laisse une grande place à l’IA, n’y a-t-il pas un risque de robotisation des comportements humains, faisant perdre à des professionnels expérimentés leur professionnalisme, c’est-à-dire leur intuition professionnelle du risque, pour remplacer la notion de risque par celle d’erreur de comportements par rapport à une norme définie par des machines ? Les auteurs insistent sur ce point : « il est possible d’imaginer que l’intelligence augmentée mette partiellement en péril notre autonomie humaine » (p. 128). Dans le champ financier, j’ai abordé cette question dans le cas de la gestion des portefeuilles. Si l’IA influence la décision humaine, a-t-on affaire au désir des gérant ou au désir des machines ? [12]. La performativité des modélisations mathématiques du risque financier logés dans les algorithmes de gestion des portefeuilles (les robots financiers) permet de donner une illustration de la « zone grise » (p. 131) de la collaboration humain / IA dont parlent les auteurs. Les gérants de portefeuille sont-ils autonomes ou enchâssés dans une IA dévorante tels des cyborgs financiers ?

Ici se pose l’une des questions centrales du livre, que les auteurs ne prétendent pas résoudre mais qu’ils veulent « mettre en exergue » (p. 135) pour mieux les soumettre à la réflexion de chacun. Apportant ma contribution à leur réflexion (une sorte de réponse à leur appel) à partir de mon expérience de la gestion de portefeuille (voir plus haut) je ferais deux propositions. D’une part, je dirais qu’il me semble important d’adapter l’attitude à adopter dans la prise en décision en présence d’incertitude en fonction de la notion de prudence et non de celle de précaution. Les réglementations adoptées ou les recommandations des commissions d’éthique sur les décisions en incertitude raisonnent en termes de précaution à prendre face aux dangers et non de prudence.

Or l’homme précautionneux n’est pas l’homme prudent [13]. L’homme de la précaution, en cherchant à éviter les risques, peut en réalité augmenter le danger. D’autre part, ma seconde proposition serait de réintroduire la notion de hasard sauvage imaginée par Mandelbrot pour rendre compte initialement des questions informatiques. Puisque Mandelbrot fut l’un des plus prestigieux IBM Fellows du Centre de recherche Thomas Watson et que Jean-Philippe Desbiolles a été à l’origine de Watson pour l’IA, il serait assez intéressant de retrouver ces intuitions qui naquirent dans le contexte des problèmes auxquels devait faire face IBM au début de l’ère informatique.

Concluons. Les auteurs terminent le chapitre 3 par cette profession de foi : « Le Salut viendra de l’intelligence humaine, seule ou bien accompagnée » (p. 149) avec un « S » majuscule au mot Salut qui renvoie à une notion théologique. C’est donc avec une perspective théologique que je vais conclure. Ce livre présente l’intelligence artificielle comme un défi à l’humain, un défi à relever correctement. Or, comme les auteurs l’ont rappelé, les machines ne font pas que simuler les apparences de décisions humaines, elles interrogent aussi la distinction fondamentale entre l’humain et le non humain. L’autre, non humain, qui est-il ? N’est-ce pas de cette question cruciale que naît l’angoisse dont parlent les auteurs en introduction ? L’autre de l’humain est-il une machine qui lui ressemble au point que l’on pourrait s’y méprendre ? Une machine qu’il a créé en programmant ses algorithmes ? Des films comme Her (2013) de Spike Jonze où la voix de Scarlett Johansson confère à la relation humain-machine une connotation amoureuse font apparaître le rôle que pourrait jouer l’amour dans la clarification de cette question qui renvoie au dualisme ou au monisme de l’IA [14]. Si l’être humain est imago Dei, alors sans amour l’IA ne peut être une imago hominis [15]. Ainsi, on ne saurait laisser l’IA décider du futur. D’où l’enjeu du critère d’objectivation du partage des rôles qui est le thème de ce petit livre tout à fait passionnant pour les enjeux qu’il soulève.

 

***

 

[1] Voir par exemple une interview récente ici : https://intelligence-artificielle.com/ai-expert-gregoire-colombet-ceo-ibm-ia-decision-coordination/

[2] Cette question fait l’objet d’une littérature extrêmement abondante. Pour un point récent, on pourra se reporter à la synthèse de Daniel Andler, Intelligence artificielle, intelligence humaine : la double énigme (Gallimard, 2023).

[3] On pourra utilement ici relire l’ouvrage de Gérard Dubey et Caroline Moricot, Dans la peau d’un pilote de chasse. Le spleen de l’homme machine (Puf, 2016) qui fait un point sur la question de l’hybridation des décisions humain – IA. Le film Sully (2016) de Clint Eastwood est également une réflexion sur ce thème à partir de l’histoire vraie de l’amerrissage forcé du vol US Airways 1549 (un Airbus A320) sur le fleuve Hudson, le commandant de bord ayant repris les commandes en mode manuel pour éviter un accident gravissime. Un thème que Clint Eastwood avait déjà abordé dans Space Cowboys (2000) qui fait apparaître l’importance de la reprise humaine des commandes d’un vaisseau spatial en difficulté en orbite.

[4] Si la référence à Kahneman est désormais incontournable, Il faut cependant noter que la remise en question de la théorie de l’homme rationnel ne se pose plus tout à fait aujourd’hui dans les termes dans lesquels elle se posait au moment de la théorie des perspectives de Kahneman et Tversky, même si cette théorie reste valable dans un grand nombre de situations. Pour une exploration des pistes actuelles, on pourra consulter les approches de la QTD (Quantum Decision Theory) qui expliquent certains paradoxes non résolus par la théorie des perspectives, par exemple dans l’ouvrage collectif dirigé par Peter Bruza, Donald Sofge, William Lawless, Keith van Rijsbergen et Matthias Klush, Quantum Interaction (Springer, 2009). Ce qui réintroduit la raison d’une manière différente que dans la théorie de l’homo œconomicus. Pas une raison « rationnelle » mais une raison « intriquée ».

[5] Sur le rôle des mégadonnées, une réflexion intéressante est celle de Jean Vioulac, Approche de la criticité (Puf, 2018), en particulier le chapitre « La communauté cybernétique ».

[6] Voir le site : https://ihm2022.afihm.org/fr/

[7] Il est en ligne sur HAL : https://hal.science/hal-03835662/

[8] Ici on pourra revoir à titre pédagogique l’étonnant Opus 7 de Mission Impossible, Dead Reckoning (2023) dont j’ai fait un commentaire en ligne dans Revue Banque, ici : https://www.revue-banque.fr/technologie/intelligence-artificielle/tuer-le-fantome-dans-la-machine-une-mission-impossible-HE16656212

[9] Le terme « fantôme dans la machine » a été forgé par le philosophe Gilbert Ryle en 1949 dans son ouvrage La notion d’esprit. Pour une critique des concepts mentaux (trad. Suzanne Stern-Gillet, Payot, 2005).

[10] Sur l’éthique de l’IA, des milliers d’études existent aujourd’hui. On pourra trouver une perspective récente dans l’ouvrage collectif dirigé par Marie-Hélène Parizeau et Soheil Kash, La société robotisée. Enjeux éthiques et politiques (Presses de l’université Laval, 2019).

[11] « Ethics guidelines for trustworthy AI », https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai

[12] Dans l’article « Modèle d’évaluation des actifs financiers, gestion indicielle et désir algorithmique – La comédie des erreurs », Revue Banque, en ligne https://www.revue-banque.fr/metiers/gestion-d-actifs/modele-d-evaluation-des-actifs-financiers-gestion-indicielle-et-desir-algorithmique-la-comedie-des-erreurs-MC11757597

[13] Au lieu d’incertitude, n’est-on pas aussi en présence d’ambiguïté numérique ? Voir par exemple « Ambiguïtés numériques », sous la direction de François Romijn, Socio-Anthropologie [en ligne], 46 | 2022. http://journals.openedition.org/socio-anthropologie/12568.

[14] Voir à nouveau mon commentaire de Mission impossible dans Revue Banque : https://www.revue-banque.fr/technologie/intelligence-artificielle/tuer-le-fantome-dans-la-machine-une-mission-impossible-HE16656212

[15] Sur cette question, on pourra lire le dernier numéro de Recherches de Science Religieuse (111/4 – Octobre-décembre 2023), « L’intelligence artificielle : un défi à l’humain, imago dei » ?

 



Citer ce billet
Christian Walter (2024, 3 février). Imago hominis ? EpistemoFinance. Consulté le 16 juin 2024, à l’adresse https://doi.org/10.58079/vqzt

Christian Walter

Actuaire agrégé, chercheur en philosophie et sciences sociales, spécialiste des représentations du hasard en finance et dans les modèles de risque / Fully qualified actuary, academic researcher in philosophy and social sciences, specialised in the representation of chance in finance and risk models

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search