Mon robot ne m’aimera jamais !
Dans l’ouvrage Le jour où mon robot m’aimera, Vers l’empathie artificielle, Serge Tisseron observe les conséquences du développement de l’intelligence artificielle sur nos relations et notre rapport au monde.
Les robots1 font bien partie de notre quotidien (robots industriels, agricoles, ménagers, sociaux…) et modifient déjà nos relations à notre environnement (travail, santé, éducation…), aux autres et à nous-mêmes. Le psychiatre Serge Tisseron2 expose les raisons pour lesquelles les hommes s’attachent aux objets ; et nous met en garde sur la relation que nous allons certainement développer avec les robots3. Enrichissant sa réflexion personnelle de recherches récentes, l’auteur expose les risques éthiques majeurs liés à ces avancées technologiques. Il s’intéresse principalement aux robots sociaux (Nao, Pepper, Paro…)4, 5, 6 appelés à investir de plus en plus notre quotidien. S. Tisseron insiste sur ce point : « il faut commencer à nous interroger dès aujourd’hui sur les raisons qui nous poussent à en désirer et sur les intentions de ceux qui en fabriquent. »7.
« Que cela va m’impressionner quand ce charmeur va me toucher, me regarder et me rappeler l’heure de mes médicaments ! »8
Le commentaire inattendu de cette dame âgée lors de l’installation par des ingénieurs d’un robot de compagnie laisse entrevoir nos futures relations avec ces jeunes générations d’humanoïdes : l’intérêt utilitaire sera certainement supplanté par l’attachement que nous pourrions développer pour ces technologies sophistiquées. Pour nous persuader de les adopter, l’intelligence des robots sera dès lors moins mise en avant que son (soi-disant) « cœur artificiel ». S. Tisseron s’appuie notamment sur trois « références » permettant de contextualiser cette relation : les relations de l’homme à ses semblables, à ses objets et à ses images. Le robot sera en quelque sorte tout cela « à la fois » : objet dit intelligent avec des traits humains et supports d’images multiples, pour lesquels nous manifesterons une « empathie9 artificielle. » L’être humain développe déjà des relations privilégiées avec ses objets (attribution d’intention, d’émotions) ; ainsi nous devrions accepter l’idée d’aimer et de désirer des objets et « des robjets ».
L’empathie artificielle, stratégie marketing ?
L’empathie artificielle correspond au fait d’éprouver ce sentiment pour une machine, tout en ayant l’impression de pouvoir interagir avec elle comme avec un de ses semblables. Ainsi, l’usager est incité à considérer son robot comme une créature vivante voire humaine. Pour que nous l’acceptions, le robot devra être capable de communiquer et de s’adapter à nous, à l’instar des robots dits émotionnels (Paro…) aptes à nous envoyer un feedback émotionnel. Ainsi, ils identifient les émotions d’un humain en se basant sur des indices physiques (mimiques, posture). Une fois les réactions identifiées, ces robots y répondent avec des expressions et gestuelles ; et entretiennent l’illusion de comprendre les états affectifs de l’homme et d’y être sensibles.
Comme le remarque la philosophe, Cynthia Fleury10 :
si l’empathie qu’a le robot pour l’homme est bien algorithmique et donc irréelle, sans substance, celle de l’homme pour le robot ne l’est pas.11
Ainsi, il faut que le robot me donne l’impression non seulement qu’il me comprend, mais aussi qu’il me rassure, m’estime, m’écoute… Bref, qu’il m’aime. S. Tisseron l’explique et le démontre : mon robot n’aura jamais la capacité de m’aimer comme je pourrais l’aimer. En revanche, j’aurai tendance à le penser. C’est le paradoxe de l’empathie artificielle, chère à certains fabricants de robots. Comme le souligne Rodolphe Gelin12, directeur de la recherche chez Aldebaran : « on peut simuler des émotions chez un robot, et il peut les reconnaître chez les gens. Mais ça reste de la simulation : la machine ne ressent vraiment rien. Ça ne signifie rien pour elle ». Ainsi, le robot est et restera une machine à simuler. Seulement, elle le fera de mieux en mieux et nous serons plusieurs à croire que cet amour est réel et bien réciproque.13
Un robot, trois risques éthiques majeurs
Tout comme nos objets du quotidien, le robot, en devenant de plus en perfectionné, pourra être notre serviteur, notre complice, notre témoin, notre partenaire ; et ces différentes fonctionnalités pourront cohabiter. Et pour « la première fois dans l’histoire de l’humanité, il va devenir possible de satisfaire en même temps trois formes d’attente : celle que nous attachons aux objets, aux objets dont nous nous entourons, et aux images que nous fabriquons. Nous interagirons en effet avec les robots comme avec des humains […]14 ». Cette situation hors-norme, source d’ambivalence, d’illusions et de leurres, entraînera trois risques éthiques.
Le premier est d’envisager le robot comme un objet comme les autres en oubliant qu’il est programmé et connecté. Cette interconnexion généralisée permet d’envoyer des données vers un serveur distant à la disposition de leurs fabricants, potentiellement prescripteurs de comportements et d’achats. S. Tisseron nous met en garde sur « la confusion entre l’homme et la machine, et qui risque de nous faire oublier qu’un robot « empathique » pourra être en même temps un espion invisible et permanent de tous les faits et gestes de son propriétaire.15 » Ce robot « qui aura du cœur » sera et restera sous le joug de ses concepteurs ; qui feront tout pour que ces robots deviennent nos interlocuteurs rêvés.
Le deuxième est de le considérer comme un « ersatz d’humains » capable lui-même d’émotions (émo-robots), de douleurs et d’états d’âmes. Quand le robot aura l’apparence d’un humain capable de se synchroniser avec les mimiques, les gestes et les attitudes de son usager, son pouvoir de manipulation sera énorme. S. Tisseron craint aussi que ces robots sociaux dits intelligents modifient notre relation avec nos semblables. Ce n’est pas le robot en lui-même qui est problématique, mais notre désir pour lui.
Enfin, le troisième risque est de projeter sur le robot une image souhaitable de l’humain, et d’assister à « l’infiltration progressive des relations humaines par un idéal de perfection qui n’a rien d’humain16 ». Le robot sera apprécié pour son efficacité et sa prédictibilité en tant que confident patient, courtois, aimable et surtout non contrariant. Ce qui pourrait à terme nous faire préférer notre robot prévisible à l’être humain imprévisible, devenu moins tolérable.
Une réflexion collective indispensable
S. Tisseron alerte sur la nécessité d’anticiper l’arrivée de ces compagnons d’un nouveau genre : « réfléchissons ensemble alors dès aujourd’hui à ce que nous pouvons faire tous ensemble avec des robots17 […] ». Sinon, nous risquons d’accueillir chez nous un ou des robot(s) correspondant exclusivement aux orientations technologiques et idéologiques des fabricants et des GAFA.18 Il faut aussi encourager l’open source ; enseigner aux enfants la programmation informatique afin d’acquérir le savoir nécessaire à la construction et déconstruction de ces technologies avancées ; et surtout les préparer à prendre du recul par rapport aux attitudes et réponses proposées par les robots. Ainsi, l’éducation (goût du débat et de la controverse, apprentissage de la programmation) et la législation (protection des données personnelles, droit à un système ouvert, modifiable et reprogrammable) auront un rôle décisif, qui se précise dès aujourd’hui. S. Tisseron le souligne : « il nous faut accepter que l’homme fabrique des machines pour trouver en elles un partenaire idéal qu’il puisse choyer et aimer sans ambivalence, parce que totalement sous son contrôle.19 »
S. Tisseron nous incite à réfléchir à la mise en place de « robots humanisant » plutôt que de robots humanoïdes. Un robot humanisant est programmé pour inciter les humains à établir des liens entre eux, les aider à entrer en contact les uns avec les autres, à créer des solidarités et à respecter les valeurs d’égalité entre tous les hommes. La protection de la vie privée, le droit de se déconnecter de ces « robjets » et la réflexion à l’égard des « robots que nous voulons » sont essentiels aujourd’hui pour anticiper nos vies futures avec les robots.
1 « Un robot est défini par quatre critères : il est une machine construite par l’homme ; il possède des senseurs pour appréhender son environnement ; il contient des programmes qui lui permettent de définir une réponse ; et il a les moyens de mettre celle-ci en œuvre. » Peter W. Singer as cited in Serge Tisseron, https://www.choisir.ch/societe/societe/item/2417-des-robots-et-des-hommes
2 Serge Tisseron est psychiatre, docteur en psychologie habilité à diriger des recherches, membre de l’Académie des technologies, chercheur associé à l’Université Paris VII Denis Diderot (CRPMS). http://www.sergetisseron.com/
3 Dans Le jour où mon robot m’aimera, Vers l’empathie artificielle, Serge Tisseron, éditions Albin Michel, Paris, 2016
4 https://www.ald.softbankrobotics.com/fr/robots/nao
5 https://www.ald.softbankrobotics.com/fr/robots/pepper
7 op. cit, p. 13
8 op. cit, p. 9
9 Ce livre comporte aussi une analyse de la notion d’empathie et de ses différentes formes, ses différents niveaux : empathie, émotionnelle, cognitive, ou altruiste.
10 https://www.franceculture.fr/personne-cynthia-fleury.html
11 Cynthia Fleury, L’empathie artificielle, http://www.humanite.fr/lempathie-artificielle-583621
12 https://www.ald.softbankrobotics.com/fr/a-propos/equipe
13 S. Tisseron fait référence au film Her.
14 ibid. , p. 180
15 ibid. , p. 161
16 ibid. , p. 176
17 ibid. , p. 185
18 L’acronyme GAFA (Google Apple Facebook et Amazon) désigne quatre des entreprises les plus puissantes d’internet.
19 ibid. , p. 164
Partager sur :