O enviesamento pode surgir mesmo quando ninguém programou explicitamente uma discriminação.
O enviesamento da IA decorre de padrões, lacunas, rótulos e preconceitos sociais presentes nos dados e nas opções de conceção, não apenas de discriminação explícita.