Bias dell’AI: cos’è e come accorgersi dei pregiudizi
Bias Un pregiudizio nascosto nelle risposte dell’AI, che arriva dai dati con cui è stata addestrata. Può favorire o penalizzare certe persone senza che nessuno l’abbia voluto.
Redazione SpaccioAI15 ottobre 20261 min di letturaLivello intermedio
Il bias è una tendenza sistematica a dare risultati spostati da una parte. Nell’AI nasce quasi sempre dai dati con cui il modello è stato addestrato. Se gli esempi riflettono vecchie abitudini o pregiudizi, il modello li impara e li ripete. Nessuno li ha messi di proposito. Può riguardare genere, età, provenienza, lingua, ma anche il modo in cui il modello scrive di certi mestieri o culture.
Un esempio
Un piccolo imprenditore chiede all’AI di aiutarlo a scegliere tra alcune candidature, partendo dai curriculum. Il modello potrebbe favorire profili simili a quelli che ha visto più spesso nei suoi dati e penalizzare gli altri senza dirlo. L’AI può aiutare a riassumere i curriculum, ma la scelta e il confronto con i criteri veri restano a chi decide.
Perché ti interessa
Per l’AI Act alcuni usi che incidono sulle persone, come la selezione del personale, sono considerati ad alto rischio. Un controllo semplice è cambiare nome, genere o età nella richiesta e vedere se la risposta cambia.