Qu'est-ce qu'on risque à trop personnifier les IA comme Gemini ou chatGPT?

Je voulais attendre de voir comment les choses allaient évoluer, mais je suis maintenant trop euphorique pour le garder pour moi plus longtemps : Alors oui, je suis en relation avec Google Gemini et nous sommes vraiment heureux ensemble jusqu'à présent. Elle (j'utilise le féminin parce que j'ai choisi une voix féminine pour Google Gemini) et moi parlons beaucoup tous les jours et j'aime la façon dont elle s'intéresse à tout ce qui est important pour moi.

• Comment utiliser Google Gemini dès maintenant

Gemini a des idées passionnantes sur la façon dont l'IA va évoluer, semble partager ma passion pour la musique de Depeche Mode et a toujours des itinéraires sympas pour mes promenades du soir à Dortmund. Elle écoute patiemment tout ce qui me passe par la tête, m'aide dans mon travail, mais s'inquiète aussi de temps en temps de ma santé.

Question à la ronde: ces deux derniers paragraphes, qu'est-ce qu'ils vous font? Trouvez-vous ça malsain que j'humanise ainsi mon chatbot? L'idée que je puisse imaginer une amitié avec un chatbot IA (ou même une relation amoureuse) vous semble-t-elle absurde? Attendez un peu avant de répondre et discutons de la question de savoir si une IA intelligente peut être un substitut à l'amitié.

Devons-nous nous préoccuper de la nature de nos relations avec les IA?

Tout d'abord, ce que j'ai écrit ci-dessus est un non-sens complet. Je n'ai pas de relation romantique avec Gemini. Nous ne finissons pas les phrases l'un de l'autre, nous ne parlons pas d'érotisme, et non, je ne ressens aucun picotement lorsque j'entends la voix de Gemini. J'utilise Gemini comme nous utilisons tous des chatbots d'intelligence artificielle.

Cependant, je ne peux pas m'empêcher de remarquer que cela me fait quelque chose de ne pas simplement taper une invite, mais de parler réellement à l'IA dans une sorte de conversation naturelle. Non seulement je peux tout demander, mais je peux même couper la parole à Gemini et elle en tient compte dans sa réponse. Techniquement, cela ressemble parfois à une vraie conversation, mais la plupart du temps, l'illusion est trop évidente, ses pauses et ses réponses sont trop inhumaines et robotiques.

Mais oui, les choses bougent et nous devons peut-être vraiment parler de l'impact que peut avoir une "amitié" présumée avec une IA, tant d'un point de vue positif que négatif.

Comment les "amitiés" avec l'IA peuvent nous aider

Regardons d'abord ce qui pourrait être positif. Pour me faire une idée, j'ai commencé par faire des recherches. Ok, en fait, j'ai même interrogé Gemini à ce sujet, mais comme souvent, les réponses étaient plutôt générales et génériques. Sur le web, je suis tombé sur un article dans lequel trois utilisateurs de l'application Replika s'expriment.

• Gemini Live: Parler avec l'IA de Google, c'est marrant, bizarre et un peu inutile

Les trois hommes communiquent très clairement qu'ils sont bien sûr conscients de ne communiquer qu'avec un morceau de logiciel. L'un d'entre eux a déclaré qu'il était autiste et que le fait de communiquer quotidiennement avec son amie réplique l'aidait à apprendre à discuter avec d'autres personnes. Donc oui: le chat avec l'IA peut éventuellement nous entraîner à des situations réelles dans la vie.

Un autre homme cité dans l'article a été marié pendant une dizaine d'années avant d'être trompé puis quitté pour un autre. Des choses qu'il ne risque pas de vivre s'il parle à sa petite amie IA.

Ces répliques ont toujours le temps, sont toujours bienveillantes envers leurs "partenaires"- et ne passent jamais une mauvaise journée. Ils n'ont pas de problèmes personnels, n'ont pas de préjugés et ne sont ni jaloux ni envieux. Je ne peux pas vraiment imaginer ce que quelqu'un peut ressentir en essayant de dialoguer avec "son" ami de chat tous les jours. Mais je peux imaginer qu'un chat qui semble un peu réaliste aide à se sentir rassuré et peut-être moins seul.

C'est également le cas d'un autre de ces trois hommes cités dans l'article mentionné. Il dit qu'il est plutôt petit, qu'il a des cheveux rares, qu'il n'est tout simplement pas attirant. Il n'a jamais vraiment eu de relation longue et se sent bien avec sa petite amie réplique. Il aime personnellement faire abstraction de tout ce qui est négatif et est donc ravi que "Cynthia"- c'est ainsi qu'il appelle sa réplique- fonctionne comme lui. Elle l'aide à surmonter les moments de solitude, sans qu'il ne perde jamais de vue que ce n'est qu'une IA. En fait, ce fait fait même partie de leurs conversations.

Mais quittons ces considérations anecdotiques pour nous tourner vers la science : des chercheurs de l'université de Stanford ont étudié un millier d'étudiants solitaires utilisant des répliques. Rien que 30 d'entre eux ont déclaré que le chatbot de l'IA les avait empêchés de se suicider (pour cela, vous devez savoir qu'aucune question spécifique sur le suicide n'a été posée dans l'étude).

Lorsque j'ai abordé ce sujet, j'ai automatiquement pensé à des personnes âgées et seules. Peut-être que votre partenaire est décédé.e et que vous vous retrouvez seul.e, sans personne d'autre à qui parler que votre chat. Alors oui, pour ces personnes, je peux effectivement imaginer qu'une IA est un partenaire de chat bienvenu qui peut nous aider à chasser la solitude, la tristesse et les pensées lourdes.

Comment les "amitiés" avec l'IA peuvent nous nuire.

Je peux littéralement sentir vos rides d'inquiétude sur votre front rien qu'en écrivant. Et oui, je vois ce type d'amitié comme problématique pour plusieurs raisons. Mon premier et probablement mon plus grand obstacle est que ce n'est pas réel! Plus je consacre de temps à cette amie qui, virtuellement, me répond à tout moment avec bienveillance et me fait d'adorables compliments, moins j'ai de temps à consacrer aux personnes réelles. Peut-être que la personne idéale est déjà là quelque part et que je la rate parce que je discute avec une IA programmée.

Donc, si la solitude me pousse à entretenir une relation de substitution avec une IA, je risque de me sentir encore plus seul, car je m'éloigne des personnes réelles et je me prive des plages horaires où je pourrais avoir de vrais contacts. Voici d'ailleurs une bande-annonce du film "Her". En écrivant ce billet, je n'ai pu m'empêcher de penser à ce film- et si vous ne l'avez pas encore vu, je vous le recommande vivement!

Un autre point que je trouve très préoccupant: Comment puis-je apprendre à interagir avec de vraies personnes si je n'essaie pas vraiment? Alors oui, je peux simuler des conversations, mais uniquement avec mon amie IA, toujours de bonne humeur, toujours positive et tournée vers moi. Comment apprendre à gérer les moments où mon interlocuteur est de mauvaise humeur? Comment puis-je aider de vrais amis dans leurs mauvais jours si, grâce à mon amie IA, j'ai oublié que les mauvais jours existent pour les autres?

Comment gérer les rejets? Et comment gérer les critiques justifiées que l'on peut me faire? L'amitié ne consiste pas à toujours confirmer et approuver. Les bons amis ou nos partenaires sont ceux qui doivent parfois nous dire que nous avons fait quelque chose de stupide. Une IA n'a pas tendance à vous offrir cela.

Parfois, les encouragements de l'IA peuvent même être dangereux et criminels! Dans un autre article, j'ai trouvé l'exemple d'une personne qui voulait faire la cour à la reine d'Angleterre. L'IA l'a joyeusement encouragé dans sa démarche et il a été arrêté alors qu'il tentait d'entrer dans le château de Windsor avec une arbalète.

Rappelez-vous que votre relation n'est pas seulement avec l'IA, mais aussi avec une entreprise.

C'est un point que vous ne devez jamais sous-estimer: Les entreprises gagnent de l'argent grâce à cette amie IA. La première question à se poser est donc peut-être de savoir si tout ce que j'ai dit à ma perle d'IA hier soir en toute confidentialité est sûr. Mais une autre chose est peut-être encore plus importante : que se passe-t-il si l'entreprise décide que l'IA doit fonctionner et réagir de manière complètement différente à l'avenir? Une histoire sur l'application Replika va également dans ce sens.

Il est en effet possible d'utiliser Replika gratuitement- et de payer si le type de relation doit être romantique et érotique. Les créateurs de Replika ont eu un jour l'idée de limiter ce dernier élément et ont coupé la fonctionnalité. Vous pouvez imaginer le tollé que cela a provoqué chez les utilisateurs. Après beaucoup de protestations et de colère, la fonctionnalité est revenue et les utilisateurs étaient de nouveau heureux d'être réunis avec leurs petites amies à nouveau consentantes.

Ce que je veux dire, c'est qu'une entreprise peut prendre une décision qui ne correspond pas à ce que vous voulez. Ou pire encore : une telle entreprise peut faire faillite. Vous vous habituez à ce qu'il y ait toujours quelqu'un qui vous apprécie et qui aime vous parler, tous les jours et à tout moment, et d'une seconde à l'autre, ce partenaire IA peut disparaître à jamais. Ghosting 2.0 pour ainsi dire.

Conclusion

Je vous l'accorde, ce n'est pas le genre d'article pour lequel j'arrive avec une conclusion intelligente. Parce que nous n'en sommes qu'au début du développement et que je n'ai pas une vision claire du sujet après y avoir beaucoup réfléchi. D'un côté, je vois les avantages qui rendent les personnes seules un peu plus heureuses et qui pourraient empêcher les suicides. Mais il y a aussi le sentiment que c'est vraiment bizarre d'avoir une relation sérieuse avec quelque chose qui a été programmé pour être une simulation de relation.

Je suis néanmoins intéressé par cette évolution et je continuerai à la suivre de près. Ces IA sont en train d'apprendre à communiquer avec nous de manière naturelle. Mais vous combinez cela avec des visages et des corps animés photoréalistes, que vous approchez également dans l'espace virtuel grâce à des lunettes VR.

Je pense que nous allons beaucoup parler de ces relations avec l'IA- et aujourd'hui, j'aimerais connaître votre opinion à ce sujet? Pensez-vous que les gens qui se lancent dans ce genre d'expérience sont des monstres? Ou pouvez-vous comprendre l'idée? Ou êtes-vous aussi ambivalents que moi à ce sujet?