Transparência dos chatbots: quando a identificação é importante

A regra é simples: se um utilizador interagir com um chatbot de AI, deve ser informado de que se trata de AI e não de uma pessoa. A única exceção ocorre quando isso é «óbvio pelo contexto» — por exemplo, num portal automatizado de apoio ao cliente claramente identificado como tal. O contraste essencial estabelece-se entre um chatbot que imita uma conversa humana, caso em que a transparência é obrigatória, e um formulário básico que ninguém confundiria com uma pessoa, caso em que a obrigação pode ser dispensada.

Um ardil frequente nos exames consiste em apresentar um chatbot simples e repetitivo e afirmar que o contexto torna óbvio que se trata de AI — mas, se o bot utilizar linguagem natural ou um nome humano, é provável que a exceção não seja aplicável. Outra pista: a obrigação diz respeito à própria interação, e não à tarefa. Mesmo um bot que apenas responda a perguntas frequentes deve revelar a sua natureza de AI se puder ser confundido com uma pessoa. Para eliminar as opções erradas, verifique se o utilizador poderia razoavelmente acreditar que está a conversar com uma pessoa; em caso afirmativo, é necessário informá-lo.

Para se testar, imagine um chatbot chamado «Sarah» que responde a pedidos de apoio. Pergunte-se: um utilizador presumiria que Sarah é uma pessoa? Em caso afirmativo, a regra de transparência aplica-se, independentemente da simplicidade do bot. Esta verificação mental permite ultrapassar a exceção relativa ao caráter «óbvio pelo contexto» e manter o foco na perceção do utilizador.