Les androïdes rêvent-ils de moutons électriques ?

Les androïdes rêvent-ils de moutons électriques ? (Do Androids Dream of Electric Sheep?) est le titre du superbe roman de science-fiction du prolixe et grand écrivain américain Philip K. Dick (1928-1982) publié en 1966 et qui a constitué la trame du splendide film de Ridley Scott, Blade Runner (1982). Je place ici ce roman en écho du remarquable ouvrage du sociologue Dominique Cardon, professeur à Sciences Po Medialab  À quoi rêvent les algorithmes ? (2015), sous-titré Nos vies à l’heure des big data (Seuil, La République des idées) dont on trouvera un compte-rendu de Thibault de Meyer sur le site de la revue Lectures (ICI).

Les rêves auxquels fait référence le titre du livre, À quoi rêvent les algorithmes, renvoient aux conséquences possibles des algorithmes sur nous et nos sociétés. Car les algorithmes – c’est-à-dire les instructions qui commandent le fonctionnement des programmes informatiques – ont des effets concrets sur nos actions et sur les formes de sociétés que nous construisons.

Je voudrais poursuivre la très intéressante analyse de Dominique Cardon de deux manières : par la science-fiction et dans le secteur financier. D’abord la science-fiction. Je dirais que la littérature de science-fiction, par la stylisation même des situations imaginées, représente un gisement fécond pour entrer dans beaucoup de problématiques récentes surgies dans notre société, comme précisément l’entrée de robots dans notre vie quotidienne.

 

 

 

 

 

 

 

 

 

 

 

 

 

L’excès de cette stylisation, et donc la puissance de la réflexion qu’elle permet, est illustré, selon moi, par l’une des scènes les plus fortes de Blade Runner, celle de la rencontre entre le policier Rick Deckard (Harrison Ford), chargé de traquer les derniers “réplicants” (des robots qui ressemblent parfaitement aux êtres humain) et le personnage de Rachel (Sean Young), une réplicante de sixième génération dotée d’une mémoire affective fictive : les concepteurs de ces robots ont inséré dans son système des algorithmes dont l’objectif est de reproduire les expressions affectives des humains.

C’est sur ce point précis que la création artistique peut dire quelque chose à la réflexion philosophique : le face à face qui oppose Rick Deckard et Rachel met en évidence l’ambiguïté extrême de la situation, Rick Deckard étant en train de devenir amoureux d’un personnage qu’il sait au fond de lui-même être un robot (affiche ci-dessous), une machine programmée à imiter les sentiments grâce à sa mémoire affective conduite par des algorithmes de dernière génération.

Si maintenant on regarde du côté du secteur financier, on voit qu’une technoscience envahit la finance et transforme progressivement mais inexorablement les métiers financiers dans un sens qui n’a pas encore fait l’objet d’une réflexion systématique. On est typiquement dans le cas de situations analysées par Dominique Cardon : les transformations contemporaines de l’espace public, si ce n’est qu’ici l’espace public est celui défini par les lieux des professions financières et leurs relais.

C’est la raison pour laquelle la chaire Éthique & Finance et le Centre des professions financières ont pris l’initiative d’organiser des rencontres régulières pour examiner ces transformations issues de la technique dans une nouvelle série de rencontres appelée “Regards croisés sur l’avenir de la finance“. Il s’agira d’aborder un thème relatif à ces transformations pour examiner si et comment la technique fait norme.

Comme il l’est précisé sur la page de ces rencontres, les algorithmes des machines financières ont des effets concrets sur nos prises de décision et sur les formes de finance que nous construisons. Par exemple, certaines mesures de performance ou de risque poussent les professionnels à agir dans un sens ou dans l’autre. Le rapport aux robots doit donc être analysé pour en détecter les visions morales implicites et ouvrir les algorithmes devient un nouvel enjeu éthique en finance. Quels rêves sociaux sont-ils inscrits dans les algorithmes des robots financiers ? C’est la raison pour laquelle la chaire Éthique & Finance considère que toute analyse éthique de la finance doit compléter l’éthique des comportements par l’éthique de la technique. La séance du 18/01/2017 a été consacrée aux “robo-advisers” (un compte-rendu sur le site du think tank France audacieuse : ici).

Pour revenir au compte-rendu de Thibault de Meyer, les algorithmes servent des rêves qui peuvent influencer nos sociétés dans de bonnes, mais aussi dans de moins bonnes directions. Finirons-nous par tomber amoureux de robots, comme le suggère la scène de Blade Runner ? Le livre À quoi rêvent les algorithmes voudrait “susciter une culture dans laquelle les citoyens qui, jusqu’à maintenant, se taisent très majoritairement pourraient remettre en question les algorithmes en étant sensibles” à leurs enjeux.

C’est tout l’intérêt d’aller puiser dans le gisement de la littérature de science-fiction. Ces projections stylisées peuvent aider à discerner, pour mieux l’éviter, comment les rêves des robots pourraient devenir nos cauchemars de demain.

 

 

---

---