Transparence des chatbots : quand l’étiquetage est nécessaire

La règle est simple : lorsqu’un utilisateur interagit avec un chatbot fondé sur l’IA, il doit être informé qu’il s’agit d’une IA et non d’un humain. La seule exception s’applique lorsque cela « ressort clairement du contexte », par exemple dans un portail automatisé de service à la clientèle clairement identifié comme tel. La distinction essentielle oppose le chatbot qui imite une conversation humaine, pour lequel la transparence est obligatoire, au simple outil de remplissage de formulaire que personne ne pourrait prendre pour un être humain, pour lequel cette obligation peut ne pas s’appliquer.

Une astuce fréquente à l’examen consiste à présenter un chatbot simple et répétitif en affirmant que le contexte rend l’utilisation de l’IA évidente. Toutefois, si le robot utilise un langage naturel ou porte un nom humain, l’exception ne s’applique probablement pas. Autre indice : l’obligation porte sur l’interaction elle-même et non sur la tâche accomplie. Même un robot qui se contente de répondre à des questions fréquentes doit révéler sa nature d’IA s’il peut être pris pour un humain. Pour éliminer les réponses incorrectes, demandez-vous si l’utilisateur pourrait raisonnablement croire qu’il échange avec une personne ; si oui, il doit en être informé.

Pour vous tester, imaginez un chatbot nommé « Sarah » qui répond aux demandes d’assistance. Demandez-vous si un utilisateur supposerait que Sarah est humaine. Si oui, la règle de transparence s’applique, quelle que soit la simplicité du robot. Cette vérification mentale permet de dépasser l’exception fondée sur ce qui « ressort clairement du contexte » et de rester concentré sur la perception de l’utilisateur.