Facebook, Google, Apple... Pourquoi leurs assistants personnels font peur
Facebook va lancer M, un assistant personnel qui espère concurrencer Siri, le logiciel d'Apple, et Cortana, de Microsoft. Le développement de ces intelligences artificielles soulève de nombreuses questions.
Apple a son Siri, un "assistant personnel intelligent" à qui les utilisateurs d'iPhone peuvent donner des instructions, Microsoft a depuis peu Cortana, accessible via Windows 10. Et Facebook aura bientôt lui aussi son assistant personnel. M - c'est le nom du logiciel - est en phase de test dans la baie de San Francisco.
Sa principale innovation : il peut accomplir des tâches "qu'aucun autre assistant ne peut réaliser", prévient le vice-président des produits de messagerie de Facebook, David Marcus, dans un article publié par Wired. C'est à dire qu'il sera possible de non seulement trouver un restaurant italien à proximité, par exemple, mais aussi d'effectuer une réservation via le programme.
Les possibilités sont multiples : acheter un livre, réserver un hôtel ou même effectuer à votre place les fastidieux appels aux hotlines de services internet ou de câble - c'est d'ailleurs l'une des requêtes les plus populaires des premiers testeurs. Pour faire simple, l'humain va pouvoir déléguer des décisions à une intelligence artificielle, et cela réveille de vieilles craintes qui pourraient bientôt ne plus relever uniquement de la science-fiction. Pourquoi les assistants personnels font-ils peur ?
1. Parce qu'ils commencent à prendre des décisions à notre place
C'est la principale nouveauté de l'assistant de Facebook. Vous prévoyez un dîner en amoureux ? Le logiciel peut réserver tout seul le taxi et le restaurant. Mais M n'est pas totalement autonome et pour les décisions les plus complexes, il s'en remet à une équipe de Facebook. Qui pourrait, pour l'exemple cité, rajouter une livraison de roses à la fin de la soirée. Alors bien sûr, le logiciel ne prend pas toutes les décisions à la place des humains. Mais c'est la direction dans laquelle creusent les chercheurs, comme l'indique TDWI.
Et si un jour votre assistant personnel commettait une erreur d'interprétation ? Imaginez si, sous le coup de la colère, vous disiez à votre smartphone que vous ne voulez plus parler à votre père. Le logiciel pourrait décider de supprimer son contact sur votre téléphone... Mais pas d'emballement, TDWI précise tout de même que nous sommes encore loin d'un HAL, l'ordinateur maléfique de 2001 : l'odyssée de l'espace.
2. Parce qu'ils nous connaissent un peu trop bien
Pour fonctionner, ces assistants ont besoin de récolter des données sur vous. Historique internet et favoris, contacts, emploi du temps, localisation... autant d'éléments que peut analyser le logiciel. Et ce n'est pas tout : imaginez si Facebook se mettait à exploiter vos photos et historiques de conversation pour faire fonctionner M. Pour l'instant, ce n'est pas le cas : le programme vous connaît uniquement par le biais de la conversation que vous avez avec lui. Mais cela pourrait "changer à un moment, avec l'accord de l'utilisateur", lâche David Marcus, cité dans Wired.
L'autre danger, c'est que l'utilisateur fasse moins attention aux données personnelles qu'il divulgue. Puisque le logiciel est conçu pour créer une "conversation", vous n'aurez peut-être pas l'impression de divulguer des informations à Google, Apple ou Facebook. Pourtant, le logiciel collecte bien des données sur votre vie privée.
3. Parce qu'ils peuvent se faire pirater
Google, Facebook ou Apple utilisent déjà des données personnelles pour améliorer le ciblage publicitaire, mais ces entreprises ne révèlent pas ces informations à n'importe qui. Dans le cas d'un assistant tel que Siri, il est déjà possible de lui faire révéler des informations personnelles même si vous avez verrouillé sur votre téléphone. Essayez donc de lui demander l'adresse de votre meilleur ami. Si vous l'avez renseignée sur votre téléphone, Siri donne la réponse, même si ce n'est pas vous qui posez la question.
En plus de ce genre de faille, rassembler un "profilage" de votre personnalité dans une telle application pose la question du piratage. En cas de hacking, ce sont des informations bien plus personnelles qu'un numéro de carte bleue qui seraient à disposition des faussaires.
4. Parce que même les personnalités du numérique s'en inquiètent
Siri, Cortana et M de Facebook sont la définition même d'une intelligence artificielle, puisqu'ils simulent une vraie personnalité - notamment en faisant des blagues. Et justement, le physicien Stephen Hawking, le milliardaire Elon Musk ou encore l'ancien président de Microsoft Bill Gates se sont eux-mêmes inquiétés publiquement des développements de l'intelligence artificielle. Leurs craintes : que celle-ci devienne hors de contrôle.
Pour l'instant, peu de chance que cela arrive avec Siri ou Cortana, puisque leurs réponses sont programmées, pré-écrites. Mais la technologie la plus en vogue, le Deep Learning, cherche à s'affranchir de cette méthode. Les chercheurs veulent faire en sorte que la machine, par étapes successives, affine son raisonnement et soit capable de répondre seule, sans réponse "dictée" au préalable. L'un des champions de la discipline est Français et se nomme Yann LeCun et est comme par hasard directeur de l'intelligence artificielle chez Facebook. "Nous, ce qu'on voudrait, c'est un agent vraiment intelligent qui comprend ce qu'on raconte, qui peut poser des questions s'il y a besoin de clarifications, qui comprend la personne avec qui il dialogue", expliquait-il au Journal du Net en juillet dernier. En somme, un assistant complètement autonome. Une perspective qui peut fasciner, ou inquiéter comme l'ont exprimé ces personnalités du numérique.
