Le rôle controversé des assistants vocaux

Lors de la dernière édition du Web2Day, nous avons assisté à une intervention de Guillaume Champeau, directeur de l’éthique et des relations publiques chez Qwant. L’objet de sa conférence portait sur les assistants personnels et le rôle – de plus en plus important – qu’ils joueront dans nos foyers lors des années à venir. Sont-ils nos amis ou devons-nous nous en inquiéter ?

L’évolution des assistants personnels

Pour rappel, un assistant personnel est un dispositif destiné à faire gagner du temps. Selon Guillaume Champeau, historiquement, l’assistant personnel était bien souvent une assistante, humaine et au service d’un patron. Jusqu’aux années 90-2000, les prises de décisions étaient ainsi faites par un être humain, même si l’arrivée de l’ordinateur a permis de faciliter certaines tâches (saisie de textes, envoi de courriers électroniques…). La machine a ensuite progressivement commencé à prendre des décisions (antispam, classification de mails importants…), ce qui a nécessité de la laisser collecter des informations et de la doter d’une intelligence artificielle. Son champ de compétences s’est alors élargi pour pouvoir :

• Trier les emails
• Filtrer les messages sur les réseaux
• Découvrir de la musique
• Dire quand partir de chez soi
• Donner les infos du jour
• Aider à rester en bonne santé
• Organiser un emploi du temps
• Gérer la domotique
• Trier des photos, conseiller des vidéos etc.

Pour réaliser toutes ces tâches, il a été nécessaire de récolter et d’exploiter une quantité de plus en plus grande de données personnelles. Selon Guillaume Champeau, nous utilisons des services en ligne centralisés sur des serveurs, qui vont identifier nos habitudes, nos envies, nos besoins… Une pratique qui d’après lui s’apparente à « clôner notre cerveau », afin de réaliser des assistants qui vont nous aider à automatiser toujours plus de tâches de notre quotidien.

La suppression des interfaces graphiques, une tendance nouvelle chez les assistants personnels

Guillaume Champeau met également l’accent sur une nouvelle tendance qui est apparue lors de l’arrivée de la dernière génération d’assistants (Alexa, HomePod, Google Home, Cortana, Siri…) : la suppression des interfaces graphiques. Les écrans ont disparu, nous n’avons plus d’informations visuelles, tout se passe dorénavant par la voix. Une tendance au préalable encouragée par le film Her de Spike Jonze, dans lequel le personnage principal parle à son assistante personnelle grâce à un dispositif similaire aux AirPods lancés par Apple (qui bénéficient aussi de cette fonctionnalité pour échanger avec Siri). Une question se pose alors : « quelle réponse fournit la machine ? On perd le réflexe d’aller vérifier nous même l’information reçue, qui est celle de la machine. Avec une interface graphique, on voit la multitude de résultats trouvés pour une même question, ce qui alimente les débats et permet de prendre du recul, de se faire une opinion etc… »

Les assistants vocaux, amis ou ennemis ?

Selon Guillaume Champeau l’arrivée des assistants vocaux pose de nouvelles questions éthiques. Premièrement, « en tant qu’utilisateur nous devons réfléchir aux impacts que ces actes peuvent avoir. Une enceinte connectée nous écoute 24/7, avec des enregistrements de notre voix qui sont envoyés et stockés sur les serveurs des compagnies lorsque l’on annonce un trigger (comme « ok Google » ou « dis Siri »). Parfois, des bugs peuvent arriver et garder des enregistrements de toute une journée en continu.»

Ensuite, « quelle transparence sur les partenariats ? Il est en effet fort possible que des entreprises ayant des partenariats avec les firmes qui commercialisent des assistants vocaux soient mises en avant, car elles sont partenaires de ces dispositifs (médias, marques etc). A noter que selon l’article 20 de la Loi n° 2004-575 du 21 juin 2004 pour la confiance dans l’économie numérique : « Toute publicité, sous quelque forme que ce soit, accessible par un service de communication au public en ligne, doit pouvoir être clairement identifiée comme telle. Elle doit rendre clairement identifiable la personne physique ou morale pour le compte de laquelle elle est réalisée ».

Dans les faits, qu’en sera-il de l’application de cette loi ? Quels contenus seront pushés ? Google s’est déjà fait remarquer l’an dernier à cause de son assistant, qui à la fin d’une interaction faisait la promotion d’un remake de la Belle et la Bête de Disney.

https://twitter.com/brysonmeunier/status/842358950536318976?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E842358950536318976&ref_url=https%3A%2F%2Fwww.zdnet.fr%2Factualites%2Fquand-google-home-diffuse-de-la-publicite-mais-qui-n-est-pas-de-la-pub-39849998.htm

Enfin, Guillaume Champeau pose la question de l’influence d’un tel dispositif. « Grâce à Google Duplex, Google appellera un coiffeur pour planifier un rendez-vous à votre place, en se faisant passer pour un humain avec les mêmes typologies : rythme, parole, temporalité laissée entre les phrases, expressions liées à la culture du pays… Si on se donne autant de mal pour faire en sorte qu’une IA ressemble à un humain, c’est pour la force de vente que ça peut générer, guidée par l’empathie. Sur le site de Salesforce, le premier conseil donné comme technique de vente est de pratiquer l’écoute active, à savoir « adopter une posture d’empathie réelle avec son interlocuteur. En effet, s’il se sent écouté le client se sent compris donc valorisé. L’écoute active est vécue comme un témoignage de respect qui favorise le développement d’une relation commerciale intime et féconde » ».

Cela devient très facile de nous vendre des choses si l’on oublie que la machine est une machine. En témoigne le programme informatique ELIZA (écrit par Joseph Weizenbaum dans les années 60), qui simule un psychothérapeute rogérien en reformulant la plupart des affirmations du « patient » en questions et en les lui posant, l’incitant ainsi à en dévoiler plus sur lui. « L’interface est toute bête mais on se surprend à rester dessus pour tester, oubliant progressivement qu’il s’agit d’une machine. Qu’en-sera-t-il pour les interfaces vocales qui nous parleront avec des mots qui nous touchent ? On obtiendra les mêmes situations que dans le film Her ».

Autre anecdote partagée par l’intervenant, le dépôt de brevets pour le moins inquiétants faits par Google en 2015 (aperçu imagé ci-dessus et dessous). La firme serait ainsi capable : d’identifier votre humeur, mais aussi de vous dire que votre enfant a trop joué aux jeux vidéos, que vous vous prenez trop souvent la tête avec votre femme, ou que vous n’avez pas assez mangé en famille, le tout en fonction de la composition de votre foyer et de vos habitudes (n’oubliez pas qu’ils vous écoutent, vous observent et ont vos données). L’assistant pourrait ainsi aisément s’immiscer dans votre vie privée, afin de vous donner des récompenses qui vous permettront ou non d’atteindre des objectifs spécifiques. Ce service serait optionnel, mais reste terrifiant par rapport aux possibilités que ces machines présagent pour la suite. Alors, amis ou ennemis ?