Pourquoi l'industrie de la tech est en train de ruiner l'IA pour moi

Au cours des trois premiers jours du Mobile World Congress, j'ai parcouru environ 35 kilomètres, soit près de trois fois plus que la moyenne de mes déplacements pendant une journée de travail classique. En d'autres termes, j'ai beaucoup marché, j'ai vu beaucoup de choses et j'ai entendu beaucoup de gens.

Le premier jour du MWC pour les médias est le dimanche, lorsque les journalistes et les membres de l'industrie assistent à des événements exclusifs, y compris la sortie de nouveaux appareils. Mon premier événement était très terre à terre avec OnePlus et sa nouvelle OnePlus Watch 2 (test). C'est peut-être pour cette raison que mon deuxième événement de la journée, qui m'a semblé quelque peu intangible, m'a laissé un sentiment d'amertume.

Honor et son interface basée sur "l'intention"

Honor a présenté le Honor Magic 6 Pro (test). Malheureusement, il n'est pas arrivé en Europe avec sa caractéristique la plus intéressante: l'interface utilisateur basée sur l'intention. Lors de la keynote, George Zhao, PDG de Honor, a présenté toutes les fonctionnalités qui manquaient à mon Magic 6 Pro, et qui sont basées sur un modèle de langage développé par l'entreprise.

Le nom "Intent-based" (basé sur l'intention) suggère la nature de la technologie. Pour clarifier, le système utilise un modèle qui apprend de vos actions, en interprétant les entrées provenant de divers capteurs du smartphone, comme le suivi des yeux et le toucher de l'écran. Je ne suis pas une experte en intelligence artificielle, mais je considère qu'il s'agit de la technologie d'intelligence artificielle la plus avancée disponible pour un appareil mobile.

Je n'ai pas eu l'occasion d'utiliser ces fonctionnalités alimentées par l'IA en testant le téléphone avant sa sortie, mais j'ai assisté à une démonstration de la technologie sur le stand d'Honor. Le concept est intéressant car il vise à faire gagner du temps en répondant rapidement à nos besoins avec un minimum d'interaction.

Cependant, une couche d'intelligence artificielle est ajoutée à cette équation, et c'est pourquoi je n'ai pas pu la tester sur mon Magic 6 Pro. Cette technologie n'est pas encore réglementée en Europe, mais elle est disponible en Chine, le pays d'origine d'Honor.

Mais pourquoi cela pose-t-il problème? Au départ, je n'ai pas compris, ou plutôt, j'ai trop simplifié les choses en parlant de problèmes de confidentialité. Bien qu'elle ne soit pas fausse, cette perspective n'aborde pas complètement le problème principal. Ce que Honor présente n'est pas une simple programmation de machine; il s'agit d'une forme d'intelligence capable d'apprendre par elle-même, un modèle de langage.

• Consultez ce premier test des fonctions IA d'Honor pour en savoir plus

Bien sûr, il ne s'agit pas d'une super-intelligence capable de pirater votre smartphone et de se faire passer pour vous, du moins pas encore. Cependant, il s'agit d'une intelligence artificielle qui s'appuie sur nos comportements, qui imite nos processus de pensée et qui, en fait, nous imite.

Ainsi, lorsqu'une entreprise promeut une "interface utilisateur basée sur l'intention" qui anticipe nos besoins, considérez ceci : vous regardez une adresse dans un message de chat, et soudain, le système vous suggère de l'ouvrir dans une application de cartographie. Cette commodité reproduit le comportement humain et vise à nous faire gagner du temps et à nous épargner des efforts.

Pourtant, cela m'amène à réfléchir à l'importance de nos choix uniques. Si un système peut prédire et agir en fonction de mes préférences, voire me présenter des options que je n'avais pas envisagées, qu'en est-il de mon individualité? Sommes-nous en train de perdre une partie de nous-mêmes lorsque la technologie anticipe nos désirs?

Juste un autre argument markéting

Honor n'est pas la seule entreprise à exploiter ses implémentations de l'IA sur des exemples apparemment inoffensifs pour nous faire gagner du temps. Prenez, par exemple, la fonction "Circle to Search" introduite par Samsung avec le Galaxy AI, puis par Google.

Au MWC 2024, Google avait la plus grande présence que j'ai jamais vue au salon de Barcelone, avec la classique Android Island et deux grands stands fermés pour Android et Google Cloud. Quoi qu'il en soit, en traversant l'île Android, les visiteurs pouvaient immédiatement voir une énorme bannière présentant les "avantages" de Circle to Search pour acheter un sac à main vert.

Plusieurs tendances et pratiques émergentes dans l'industrie de l'IA, qui évolue rapidement, méritent un examen critique. En particulier, la marchandisation des technologies de l'IA, illustrée par la fonction "Circle to Search" de Google, met en évidence une évolution préoccupante vers le consumérisme.

En d'autres termes, hormis cet exemple, l'industrie est confrontée à des problèmes éthiques. Il arrive qu'elle ne se préoccupe pas suffisamment de la protection de la vie privée ou du traitement équitable de tous lors de la création et de l'utilisation de l'IA. De nombreuses entreprises n'expliquent pas non plus comment elles prennent leurs décisions ou ce qu'elles font des informations qu'elles recueillent.

Si l'on prend l'exemple de Google, ses règles stipulent que les utilisateurs ne doivent pas envoyer d'informations privées ou secrètes à ses services. Mais les choses se compliquent car l'IA est désormais présente sur nos appareils, que nous utilisons pour nos activités privées et professionnelles. Il ne devrait pas s'agir d'une situation de tout ou rien.

Et l'exagération des capacités de l'IA conduit souvent à des attentes irréalistes et peut éclipser les avantages réels de ces technologies.

Ma propre expérience dans le domaine de l'IA m'a permis de constater directement la tension entre l'innovation et l'éthique. La fonction "Circle to Search", par exemple, reflète une tendance plus large du secteur qui consiste à exploiter l'IA pour simplifier les tâches et prédire les besoins des utilisateurs.

Si ces avancées peuvent être pratiques, elles soulèvent également des questions cruciales sur la vie privée, l'autonomie et le rôle de l'IA dans nos vies. Mes observations au MWC 2024, en particulier l'utilisation massive de l'IA dans le comportement des consommateurs et les promesses futuristes de l'interface utilisateur basée sur Honor Intent, constituent un microcosme des défis plus vastes de l'industrie.

Il est clair que l'IA peut améliorer nos vies, mais elle doit être développée en accordant la priorité aux considérations éthiques, à la transparence et au bien-être de la société dans son ensemble.

Entités intelligentes: Une bénédiction ou une malédiction?

Sur le stand de Deutsche Telekom, j'ai essayé le téléphone IA, un concept futuriste qui remplace les applications par un assistant numérique IA. Créé avec Qualcomm et Brain.ai, cet assistant prend en charge des tâches telles que la planification de voyages et les achats par le biais de la voix ou du texte. Lors de la démonstration, l'accent a été mis sur le fait que je devais acheter quelque chose.

Ne vous méprenez pas, j'adore gagner du temps sur des tâches fastidieuses et utiliser ce temps libre pour investir dans mon bien-être, celui de mes amis et de ma famille. Je déteste réserver des vols, mais pas parce que c'est une tâche fastidieuse. Au contraire, j'adore voyager. Mon dédain vient du fait que le processus est chaotique. Chaque compagnie a son propre système, un langage ambigu et beaucoup trop d'offres de services.

Mon dilemme est le suivant: Je déléguerais bien la tâche de réserver un vol à un assistant numérique doté d'une intelligence artificielle, par exemple, mais je ne veux pas renoncer au plaisir d'organiser mon voyage spécial. Ce sont aussi des souvenirs que je créerai au cours de ce processus.

Je pense que l'IA devrait améliorer nos expériences sans nous priver de la possibilité de les créer. J'imagine une solution d'IA capable d'interagir avec moi et de m'aider à acheter mon billet d'avion, mais pas une solution qui apprend de mon comportement antérieur et l'applique pour imiter mes propres choix. Pouvez-vous faire la différence entre ces deux programmes?

Les entreprises ont l'habitude d'introduire des fonctions et des technologies que nous ne désirons peut-être pas au départ, mais elles les intègrent progressivement dans nos vies jusqu'à ce qu'elles deviennent la nouvelle norme. C'est un peu comme la grenouille proverbiale dans l'eau chauffée progressivement, qui ne se rend compte du changement que lorsqu'il est trop tard.

Qu'en est-il aujourd'hui?

Au Mobile World Congress, mon enthousiasme pour l'intelligence artificielle a été éclipsé par des inquiétudes quant à la manière dont elle est actuellement développée. En parcourant des kilomètres lors de l'événement, j'ai pu constater de visu que l'industrie mettait l'accent sur la commodité et le consumérisme, négligeant les aspects éthiques et personnels qui font de l'IA une véritable source d'inspiration.

L'utilisation de l'IA dans des produits tels que l'interface utilisateur basée sur l'intention de Honor et le "Circle to Search" de Google a mis en évidence une tendance à créer une technologie qui prédit nos besoins, mais au détriment de notre vie privée et de notre individualité. Cette approche risque de transformer l'IA en un outil de vente plutôt qu'en un moyen d'améliorer notre expérience humaine.

Pour améliorer l'orientation du développement de l'IA, nous avons besoin de transparence, de responsabilité et d'une concentration sur l'innovation qui respecte notre autonomie. Les entreprises devraient s'efforcer de créer une IA qui complète la créativité humaine, et non qui la remplace, n'est-ce pas?

En réfléchissant à l'avenir de l'IA, nous sommes confrontés à un choix: Laissons-nous l'IA poursuivre son chemin sur la voie de la consommation ou la guidons-nous vers l'enrichissement de nos vies et la résolution de problèmes significatifs?