Des algorithmes de l’addiction aux chemins de désir

Je poursuis la lecture du livre d’Inès Leonarduzzi Réparer le futur commencée dans un billet précédent (ICI). Cette fois j’aborde les chapitres relatifs à ce qu’elle nomme la « pollution numérique intellectuelle », qui constituent la seconde partie du livre, dont l’une des clés de compréhension est fournie par l’idée du chapitre 3 de cette seconde partie, « Les algorithmes de l’addiction ». Comme dans le billet précédent, je ferai dialoguer Inès Leonarduzzi avec d’autres auteurs ou acteurs qui abordent, comme elle, le thème des algorithmes de l’addiction.

Ce chapitre s’ouvre avec un commentaire de la peinture murale de l’artiste de rue Banksy, Mobile Lovers, que l’on reproduit ici:

Mobile Lovers, tag découvert à Clement Street à Bristol (UK) et reconnu par Banksy

Inès Leonarduzzi utilise cette peinture pour introduire son lecteur à l’importance de ce qu’elle appelle l’économie de l’attention et alerter sur les dangers de l’addiction aux écrans. Ceci lui permet de poursuivre avec une explication de cette addiction et l’intérêt commercial qu’il y a de la produire pour vendre des biens et des services : « l’attention d’une personne, c’est-à-dire sa disponibilité intellectuelle, est devenue le graal à atteindre » (p. 132). Ce qui lui permet ensuite d’introduire la notion de pollution numérique intellectuelle, tout ce qui parasite l’exercice de la pensée libre. En écho à l’alerte lancée par l’auteur, on peut également mentionner le commentaire de cette peinture fait par Jérôme Gazeau (CNAM) sur le carnet de L’atelier « La Lucarne » (ICI) de la manière suivante :

Ce nouveau coup de maître de l’homme invisible du Street Art alerte l’opinion sur la présence constante, voire encombrante, des technologies dans nos vies. Il porte un regard acide sur la société contemporaine et son hyper connectivité. Il dénonce à travers l’attitude des deux amants notre dépendance et notre fascination sans borne pour un objet numérique ultra-performant qui s’immisce ici subrepticement dans leur relation amoureuse pour mieux l’aliéner

Pour renforcer davantage l’argument d’Inès Leonarduzzi, il est intéressant de comparer cette peinture murale à l’une des scènes culte du film de Stanley Kubrick, Eyes wide shut (1999) reproduite sur l’affiche, le moment où, au début du film, le couple marié Bill (Tom Cruise) et Alice (Nicole Kidman), rentrant chez lui après une soirée à New York où l’un et l’autre ont été confrontés à des possibilités extra-conjugales, s’étreignent l’un l’autre devant un miroir. Mais, tandis que Bill regarde Alice, celle-ci se regarde (et regarde Bill) dans le miroir.

Dans cette scène de Eyes wide shut, l’accès à l’autre est intermédié par l’objet « miroir ». Le mot latin qui signifie miroir est le mot speculum. On « voit » que le reflet du visage de l’autre dans le miroir permet une spéculation sur l’autre et sur soi. Or, dans Mobile Lovers, l’écran du téléphone portable n’a pas cette fonction de miroir et ne permet pas cette spéculation. Chacun est aspiré par la machine dans une direction différente de l’autre. S’il y a un speculum de l’écran du téléphone, c’est une autre spéculation, une spéculation qui oriente sur autre chose que l’ « objet » de l’attention, une spéculation sur un autre monde auquel la machine donne accès. Cet autre monde a pour effet que chacun devient distrait (au sens propre) par la machine et ne prête plus attention à l’autre. Comme si le désir de la machine avait remplacé nos propres désirs. La « pollution numérique intellectuelle » mise en évidence par Inès Leonarduzzi prend la forme d’une pollution du désir.

Dans quel but ? Celui de nous faire consommer de la nourriture indigeste. Inès Leonarduzzi consacre une longue partie à décrire comment « ceux qui nous piègent depuis la Silicon Valley » (p. 134) agissent pour modifier nos préférences intimes. Elle décrit comment des programmes opèrent pour rendre notre cerveau malléable et disponible. Elle montre comment des techniques ont été conçues afin de truffer les écrans de petits objets invisibles (j’utilise le mot français « truffer » car il veut dire, justement : remplir quelque chose de choses disséminées) qui sont des interfaces actives. Le mot anglais qui désigne ces interfaces est dark patterns. Je traduis le mot dark, qui veut dire « noir » par « non vu », considérant le « noir » comme l’absence de visibilité, et les dark patterns sont donc (en français) les interfaces invisibles (ou à peine visibles) qui – justement – truffent les programmes.

Les interfaces invisibles mais actifs et d’autant plus actifs qu’ils sont invisibles « inciteront les utilisateurs à faire des choses qu’ils ne veulent pas vraiment faire » (p. 135). Les « pièges » algorithmiques sont nombreux et une liste indicative nous est donnée par l’auteur (p. 136) : fil d’actualité sans fin des réseaux sociaux, répétition sans fin des notifications, vidéos qui s’activent automatiquement et s’enchaînent sans fin. L’on devine que le piège réside dans le fait que les déroulements automatisés des algorithmes n’ont pas de fin : la machine ne s’arrête jamais (sauf si elle est cassée ou débranchée), contrairement à l’être humain.

La conception de ces mécanismes invisibles se fait dans des centres de recherche de pointe comme le Laboratoire des technologies de la persuasion de Stanford. Dans ce laboratoire, des chercheurs travaillent sur la mise au point de technologies conçues pour capter puis capturer l’attention de ceux qui s’y livrent, de ceux qui « entrent » dans la machine dans la matrice (du film Matrix). Ces technologies sont appelées technologies persuasives. On peut citer ici un commentaire de Tristan Harris, ingénieur informatique chez Google qu’il quitta après avoir été leur « philosophe produit » : « « persuasifs’’, ça semble bizarre comme mot dans ce contexte, mais ça veut dire : comment on conçoit un formulaire pour que les gens le finissent ? ».

Inès Leonarduzzi insiste alors : dans la mesure où ces technologies invisibles ont une immense influence sur le temps de la vie quotidienne de tout un chacun, il devient absolument nécessaire de mettre en place une éthique algorithmique. Par là (je reformule ce que dit Inès Leonarduzzi), on veut dire que l’éthique ne doit pas seulement se loger dans des intentions altruistes envers les autres (une éthique déontologique), mais aussi et surtout doit être logée au cœur même des machines par les concepteurs de programmes. Pour le dire autrement, il faut que les conceptions des algorithmes soient structurées par une « éthique ». Utilisons à nouveau les ressources linguistiques des langues. En anglais, les concepteurs des programmes sont des « designer » et leurs conceptions des « design« .  D’où le terme anglais « designer éthique ». On peut aller plus loin dans l’expression de cette idée en considérant le mot français « dessin » qui est une traduction possible de « design » et en disant qu’il s’agit de vérifier le dessein (autre traduction de « design ») du dessin. Le dessein du dessin fait intervenir l’éthique.

L’impact du design doit donc être examiné au moment même où on imagine le mettre en œuvre dans un programme, comme une réflexivité associée à la programmation elle-même. « En effet, un très petit nombre de personnes deviennent les « architectes en chef de ces sortes de villes invisibles qui connectent des milliards de gens entre eux, pas par des routes mais par le design d’un téléphone ». Un petit groupe de gens décide pour une masse de personnes, quelle éthique devraient-ils utiliser ? C’est-à-dire : quel est leur dessein, leur objectif ? Du point de vue de l’analyse éthique, le dessin du système technologique sera une indication du dessein de ceux qui le conçoivent. Une nouvelle profession qui apparaît, nous dit Inès Leonarduzzi. En effet, pour reprendre à nouveau les mots de Tristan Harris, « c’est un travail difficile déjà de faire marcher ces objets, donc si en plus on doit penser à l’impact sur les utilisateurs, ça fait beaucoup ». Par rapport à cela, je dirais plutôt qu’un algorithme contient une morale embarquée, et que l’éthique déontologique doit alors se transformer en éthique épistémique, liée aux choix des modèles utilisés dans la programmation.

Terminons avec la question posée par Inès Leonarduzzi : « à quel moment les comportements numériques (issus de la pollution numérique intellectuelle) deviennent-ils pathologiques ? » (p. 141). Je reformule cette question par la notion de chemin de désir : la pollution numérique intellectuelle affecte-t-elle nos désirs, en sorte que les chemins de désir artificiellement mis en place par les algorithmes nous feraient dévier de notre route personnelle ?

Nous aborderons cette question dans un prochain billet avec la lecture parallèle d’un livre de Claire Richard, Les chemins de désir, qui est une illustration techniquement parfaite de la question posée par Inès Leonarduzzi.

(à suivre)

 


Christian Walter

Actuaire agrégé, chercheur en philosophie et sciences sociales, spécialiste de la finance / Fully qualified actuary, my research activities relate to financial modelling, history of financial thought, epistemology of finance and ethics of finance.

Vous aimerez aussi...

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search