Transparencia de los chatbots: cuándo importa el aviso

La regla es sencilla: si un usuario interactúa con un chatbot de IA, debe ser informado de que se trata de una IA, no de una persona. La única excepción se produce cuando resulta «evidente por el contexto», por ejemplo, en un portal automatizado de atención al cliente claramente identificado como tal. El contraste fundamental se da entre un chatbot que imita una conversación humana —en cuyo caso la transparencia es obligatoria— y una herramienta básica para cumplimentar formularios que nadie confundiría con una persona —en cuyo caso puede no exigirse—.

Un truco habitual en los exámenes consiste en presentar un chatbot sencillo y repetitivo y afirmar que el contexto deja claro que se trata de una IA; sin embargo, si el bot utiliza lenguaje natural o un nombre humano, es probable que la excepción no sea aplicable. Otra pista: la obligación se refiere a la propia interacción, no a la tarea. Incluso un bot que solo responda a preguntas frecuentes debe revelar su naturaleza de IA si pudiera confundirse con una persona. Para descartar opciones incorrectas, compruebe si el usuario podría creer razonablemente que está conversando con una persona; en caso afirmativo, es necesario informar de ello.

Para ponerse a prueba, imagine un chatbot llamado «Sarah» que responde a consultas de asistencia. Pregúntese: ¿supondría un usuario que Sarah es una persona? En caso afirmativo, se aplica la norma de transparencia, con independencia de lo sencillo que sea el bot. Esta comprobación mental permite superar la excepción de lo «evidente por el contexto» y mantener el foco en la percepción del usuario.