Transparence sur les bots

Problématique

L’intelligence artificielle prend de plus en plus d’importance dans la vie numérique. Celle-ci est en particulier utilisée pour la création de bots, programmes informatiques destinés à répondre à des questions d’utilisateurs sur Internet.

Ces bots sont souvent utilisés pour fournir de l’aide sur des sites marchands ou sur des sites de support client. Ils sont capable de fournir un premier niveau de service et sont fonctionnels 7j/7 24h/24.

Parfois, en heures ouvrables, ils peuvent basculer sur des opérateurs qui continuent la discussion chat avec l’utilisateur. Parfois, ils sont autonomes et ne peuvent fournir qu’une aide simpliste.

Souvent, les bots présentés sur les sites internet sont agrémentés d’un prénom usuel et parfois même d’une photo, quasi certainement sans aucun fondement réel.

Cela m’est personnellement arrivé sur un site marchand très sérieux de vouloir demander de l’aide via la chat proposée. Après quelques questions/réponses « bateau », je me suis posé la question de savoir si je discutais ou non avec une personne physique. J’avais conscience que ma question était trop complexe pour un bot et je ne pouvais obtenir de réponse que via une personne humaine. Il m’a fallu pas mal de questions pour déduire, sans absolue certitude néanmoins, qu’il ne s’agissait que d’un bot. Celui-ci était suffisamment bien fait pour qu’on ne puisse pas détecter qu’il était un ordinateur mais ses réponses toujours un peu vagues et sans consistance semblait néanmoins l’indiquer. Ce jour-là je me suis senti non respecté par le site marchand : celui-ci m’avait mené en bateau pendant la durée de cette chat.

Préconisation

Il est obligatoire d’avertir l’utilisateur lorsqu’il est en discussion avec un bot.

Il est interdit de laisser croire à un utilisateur qu’il est en contact avec un être humain alors qu’il n’est en contact qu’avec un bot automatique.