Risqueriez-vous votre vie pour sauver un robot ?

L'une des utilisations les plus souhaitables de l'automatisation est l'utilisation de robots d'IA pour des tâches dangereuses qui poseraient un risque de blessure ou de mort pour les êtres humains - par exemple, le désarmement des mines, le sauvetage sous-marin, les travaux industriels dans des températures ou environnements extrêmes. Le robot "non-vivant" peut prendre le risque et au bout du compte, tout ce qui est perdu, c'est une machine, plutôt qu'une vie humaine précieuse.

Les cyniques d'entre vous pensent peut-être déjà que les propriétaires d'une pièce d'équipement suffisamment chère préfèrent risquer la vie d'une classe défavorisée d'humains, mais nous ne parlons pas de cela ici.

Qu'est ce qu'un robot ?

Une étude menée par Sari Nijssen de l'Université Radboud de Nijmegen aux Pays-Bas et Markus Paulus, professeur de psychologie à l'Université Ludwig-Maximilians (LMU) de Munich, visait à déterminer dans quelle mesure les gens se préoccupent des robots et où les machines atterrissent en fonction de notre jugement moral.

L'étude, publiée dans la revue Social Cognition, visait à déterminer dans quelles circonstances et dans quelle mesure les adultes seraient prêts à sacrifier des robots pour sauver des vies humaines.

Il s'agissait de poser aux participants un dilemme moral hypothétique fondé sur le dilemme du trawway, qui a également une certaine influence dans la recherche sur les voitures autonomes  Seraient-ils prêts à mettre une seule personne en danger pour sauver un groupe de personnes blessées ? Dans les scénarios présentés, la victime sacrificielle visée était soit un humain, soit un robot humanoïde dont la physionomie anthropomorphe avait été humanisée à divers degrés, soit un robot non humanoïde qui était manifestement une machine.

Est-il facile de donner des émotions à un robot ?

Les résultats ont montré une tendance prévisible qui allait encore plus loin que ce à quoi je m'attendais : plus le robot était humanisé, moins les participants étaient enclins à le sacrifier. C'est logique, nous avons plus de chances de penser qu'un robot a une valeur à préserver s'il ressemble à quelque chose de humain que s'il ressemble à un grille-pain ou un haut-parleur, quelle que soit leur intelligence.

Certains scénarios comprenaient des histoires d'amorçage dans lesquelles le robot était représenté comme ayant ses propres pensées, sentiments, perceptions et expériences. Dans ces cas, les participants étaient plus susceptibles de mettre en danger des humains anonymes que de nuire au robot. De nombreux sujets étaient même prêts à sacrifier des humains blessés pour épargner le robot. Ceci malgré le fait que les pensées et les sentiments des humains impliqués doivent être assumés.

Selon Paulus : "Ce résultat indique que notre groupe d'étude a attribué un certain statut moral au robot. L'une des conséquences possibles de cette découverte est que les tentatives d'humanisation des robots ne devraient pas aller trop loin. De tels efforts pourraient entrer en conflit avec la fonction qu'ils sont censés remplir, à savoir nous aider."

L'empathie est la clé, mais c'est aussi un piège

Le développement de l'intelligence artificielle ne se traduira pas nécessairement par des robots avec la conscience telle que nous la comprenons. Comme je l'ai déjà écrit, même les IA les plus sophistiquées ne pensent pas comme notre cerveau organique. Mais l'intelligence artificielle ne consiste pas tant à fabriquer une machine qui pense et se sent comme un être humain, mais plutôt comme une machine qui semble le faire.

À mesure que l'intelligence artificielle sera capable d'accomplir de plus en plus de tâches, nous devrons être plus prudents quant à la façon dont nous appliquerons le terme "intelligence", de peur de tomber dans un piège de robots suranthropomorphes.

L'idée de faire un humain artificiel est un rêve séculaire de notre espèce, du mythe et de la légende aux films de science-fiction contemporains avec des protagonistes androïdes ayant leur propre vie émotionnelle intérieure. La vague émergente d'êtres virtuels comprend non seulement des représentations VR/holographiques, mais aussi des robots androïdes d'apparence humaine dans l'espace physique.

Le problème avec les robots humanoïdes, c'est que, bien qu'il n'y ait aucune preuve que l'IA puisse avoir une conscience, une émotion ou même quelque chose qui s'en approche, elle peut devenir assez convaincante, surtout pour le profane. Les progrès du traitement du langage naturel, ou PNL, signifient que nous communiquerons plus souvent avec les machines dans nos propres voix, et les entendrons parler d'une manière naturelle, avec des inflexions émotionnelles qui montrent que l'IA "se souvient de nos interactions passées et peut reprendre le ton du contenu émotionnel dans nos propres voix, et imiter nos émotions...

L'IA d'apparence humaine est attirante, bien sûr. C'est l'émerveillement que nous ressentons à la vue d'une telle merveille technologique et l'empathie naturelle que nous avons pour les nôtres qui nous entoure. Dans un avenir où les robots pourraient être nos majordomes, médecins, soignants et thérapeutes, cela pourrait être un atout fantastique pour leur fonction, aussi.

L'IA d'apparence humaine est attirante, bien sûr

Le problème, bien sûr, c'est qu'il reste la manipulation émotionnelle, et ces IA n'agissent pas nécessairement sans parti pris. A partir de leurs données de formation, mais aussi des entreprises ou des gouvernements qui les produisent et les vendent. Le majordome de l'IA du futur peut être fabriqué par Amazon, par exemple, avec un Alexa plus avancée qui peut être biaisée pour vous séduire en achetant des produits d'Amazon plutôt que des concurrents.

La création d'IA chez l'être humain est peut-être un objectif louable et, certes, quelque chose de primitif semble nous y conduire, mais, comme le montre l'étude, il pourrait s'agir d'un piège. Tant qu'il y a un point où nous sommes prêts à sacrifier les humains de l'extérieur (étrangers, personnes sans nom) pour préserver l'ami robot qui nous est plus familier, nous devons avancer prudemment et être conscients de la différence entre réalité et illusion, même si le battage publicitaire fera de son mieux pour le brouiller.

Que pensez-vous des IA humanoïdes ? Devrions-nous les développer ?

Source : Social Cognition