L'IA generativa produce nuovi contenuti, non fatti verificati

L'IA generativa si distingue dagli strumenti di IA più tradizionali perché produce contenuti originali anziché limitarsi a classificare, ordinare o formulare previsioni sulla base di dati esistenti. Per esempio, un'IA tradizionale potrebbe classificare una fotografia come «gatto» o «cane», mentre l'IA generativa può creare un'immagine completamente nuova di un gatto con un cappello. La distinzione fondamentale è tra creazione e riconoscimento, ma la creazione non garantisce la correttezza e l'output può apparire plausibile pur essendo completamente errato.

In un esame, occorre prestare attenzione alle domande che associano «genera nuovi contenuti» a «sempre accurati»: si tratta di una trappola. Un accorgimento utile è ricordare che i modelli generativi vengono addestrati su schemi, non su fatti, e possono quindi inventare riferimenti o produrre materiale affetto da distorsioni. Per eliminare le opzioni errate, si cerchino verbi come «crea», «genera» o «produce» in contrapposizione a «analizza», «classifica» o «prevede». Se una domanda menziona «nuovi contenuti» ma afferma anche che l'output è «verificato» o «affidabile», ciò costituisce un segnale d'allarme.

Un modo sintetico per mettersi alla prova consiste nel chiedersi: «Questa IA crea qualcosa di nuovo o si limita a organizzare ciò che esiste già?». Se crea qualcosa di nuovo, è generativa, ma non si deve mai presumere che l'output sia vero. Si associ l'espressione «genera, non verifica» a ogni esempio di IA generativa che si incontra.