Dati di addestramento: gli schemi dipendono dalla qualità, non dalla quantità

I dati di addestramento sono l'insieme degli esempi forniti a un modello affinché possa apprendere schemi, come quando si mostrano a un bambino immagini di gatti per insegnargli l'aspetto di un gatto. La differenza fondamentale è che una maggiore quantità di dati non è sempre migliore: se i dati sono distorti, per esempio contengono soltanto gatti bianchi, il modello non riuscirà a riconoscere i gatti neri. La qualità implica che i dati siano rappresentativi, accurati e acquisiti legalmente; in caso contrario, il modello apprende schemi errati.

Nell'esame, occorre prestare attenzione alle domande che lasciano intendere che un modello funzioni bene perché dispone di molti dati: si tratta di una trappola. Bisogna invece verificare se i dati coprono tutti i casi pertinenti (copertura), non presentano errori sistematici (distorsioni) e sono stati raccolti con il consenso necessario (liceità). Un rapido test mentale: se si fosse il modello, quei dati insegnerebbero la regola corretta? Per esempio, un modello di selezione del personale addestrato esclusivamente su CV maschili imparerà a preferire gli uomini, non perché sia sessista, ma perché nei dati mancano esempi femminili.

Per ricordarlo, si immagini una bilancia: su un piatto vi è la quantità dei dati, sull'altro la loro qualità. Nell'esame, la bilancia pende sempre dalla parte della qualità. Una rapida verifica consiste nel chiedersi: «Questi dati presentano punti ciechi o problemi di natura giuridica?». Se sì, l'output del modello non è affidabile, indipendentemente dalla quantità di dati disponibili.