Przejrzystość chatbotów: kiedy oznaczenie ma znaczenie

Zasada jest prosta: jeżeli użytkownik wchodzi w interakcję z chatbotem opartym na AI, musi zostać poinformowany, że jest to AI, a nie człowiek. Jedyny wyjątek zachodzi, gdy jest to „oczywiste z kontekstu” — na przykład w przypadku wyraźnie oznaczonego zautomatyzowanego portalu obsługi klienta. Kluczowe rozróżnienie dotyczy chatbota naśladującego rozmowę z człowiekiem, w przypadku którego przejrzystość jest obowiązkowa, oraz prostego narzędzia do wypełniania formularzy, którego nikt nie pomyliłby z człowiekiem, a więc obowiązek ten może zostać uchylony.

Częstym podstępem egzaminacyjnym jest przedstawienie prostego, działającego w powtarzalny sposób chatbota i stwierdzenie, że jego charakter jako AI jest oczywisty z kontekstu. Jeżeli jednak bot posługuje się językiem naturalnym lub nosi imię kojarzone z człowiekiem, wyjątek ten prawdopodobnie nie ma zastosowania. Kolejna wskazówka: obowiązek dotyczy samej interakcji, a nie wykonywanego zadania. Nawet bot, który odpowiada wyłącznie na najczęściej zadawane pytania, musi ujawnić, że jest AI, jeżeli można go pomylić z człowiekiem. Aby wyeliminować błędne odpowiedzi, należy sprawdzić, czy użytkownik mógłby racjonalnie sądzić, że rozmawia z człowiekiem; jeżeli tak, wymagane jest ujawnienie tej informacji.

Aby sprawdzić swoją wiedzę, wyobraź sobie chatbota o imieniu „Sarah”, który odpowiada na zapytania kierowane do działu wsparcia. Zadaj sobie pytanie: czy użytkownik uznałby, że Sarah jest człowiekiem? Jeżeli tak, zasada przejrzystości ma zastosowanie niezależnie od tego, jak prosty jest bot. Taka kontrola myślowa pozwala trafnie ocenić wyjątek dotyczący sytuacji „oczywistych z kontekstu” i skupić się na sposobie postrzegania chatbota przez użytkownika.