Trasparenza dei chatbot: quando l'indicazione è importante

La regola è semplice: se un utente interagisce con un chatbot basato sull'IA, deve essere informato che si tratta di un'IA e non di un essere umano. L'unica eccezione si applica quando ciò è «ovvio dal contesto», ad esempio nel caso di un portale automatizzato di assistenza clienti chiaramente identificato come tale. La contrapposizione fondamentale è tra un chatbot che imita una conversazione umana, per il quale la trasparenza è obbligatoria, e un semplice strumento per la compilazione di moduli che nessuno potrebbe scambiare per una persona, per il quale l'obbligo può non applicarsi.

Un espediente comune negli esami consiste nel presentare un chatbot semplice e ripetitivo e nell'affermare che il contesto rende evidente che si tratta di un'IA; tuttavia, se il bot usa il linguaggio naturale o un nome che sembra umano, è probabile che l'eccezione non si applichi. Un altro indizio: l'obbligo riguarda l'interazione stessa, non il compito. Anche un bot che si limita a rispondere alle domande frequenti deve dichiarare la propria natura di IA se potrebbe essere scambiato per un essere umano. Per eliminare le opzioni errate, verifica se l'utente potrebbe ragionevolmente credere di conversare con una persona; in tal caso, l'informativa è necessaria.

Per metterti alla prova, immagina un chatbot chiamato «Sarah» che risponde alle richieste di assistenza. Chiediti: un utente presumerebbe che Sarah sia una persona? Se sì, si applica la regola sulla trasparenza, indipendentemente da quanto sia semplice il bot. Questa verifica mentale consente di superare l'eccezione dell'«ovvietà dal contesto» e di mantenere l'attenzione sulla percezione dell'utente.