I nemici invisibili che IA può aiutarci a combattere
Hai mai visto qualcuno che seleziona i dati e sceglie solo le informazioni che gli danno ragione? Un caporeparto che promuove regolarmente le persone che condividono i suoi stessi hobby personali, trascurando quelli che non fanno parte del suo “gruppo”? Hai osservato o sperimentato che spesso una donna è pagata meno di un uomo con lo stesso livello di istruzione e di esperienza per lo stesso lavoro in azienda? Hai mai incrociato un imprenditore o un manager che preferisce promuovere dipendenti che lavorano fisicamente vicino a lui, anche se ci sono persone altamente competenti in altre sedi? O candidati che in fase di selezione sono che privilegiati perché di bell’aspetto? E accessi ad uffici con gradini e porte che rendono difficile l’accesso a una persona in carrozzina?
Si tratta di pregiudizi, bias, nemici invisibili di cui organizzazioni e decisori non sono consapevoli.
- Bias di Conferma: Le persone tendono a dare maggiore peso alle informazioni che confermano le loro opinioni preesistenti o i loro stereotipi, ignorando o minimizzando quelle che li contraddicono. Questo può portare a decisioni discriminatorie. L’Intelligenza Artificiale (IA) può essere programmata per esaminare una vasta gamma di dati e fonti per fornire informazioni basate su evidenze anziché confermare pregiudizi.
- Bias di Affinità: Le persone hanno una tendenza naturale a favorire coloro che sono simili a loro o fanno parte del loro “gruppo” rispetto a coloro che sono diversi. In altre parole, ci si piace fra simili. Questo può portare a favoritismi ingiusti. L’IA può aiutare a identificare e rimuovere i bias nel processo decisionale, favorendo decisioni basate su criteri oggettivi e non su preferenze personali.
- Bias di Conferma Sociale: Gli individui tendono a seguire le opinioni e i comportamenti della maggioranza o del gruppo dominante, anche se questi comportamenti sono discriminatori. È difficile sfidare i bias esistenti. In un’azienda, la maggioranza dei capireparto decide di continuare a utilizzare metodi di valutazione delle prestazioni che favoriscono un certo gruppo. Gli altri seguono questa prassi a causa della pressione sociale.
- Bias di Età: Vengono prese decisioni basate sull’età di una persona, spesso discriminando o i giovani o gli anziani nell’accesso al lavoro e alle opportunità di carriera. Un datore di lavoro presume che i candidati giovani siano più adatti ai ruoli tecnologici, ignorando candidati più anziani con competenze altrettanto valide. L’IA può aiutare a garantire che i processi di selezione e promozione siano basati su competenze e capacità, riducendo il bias basato sull’età.
- Bias di Genere: Le discriminazioni basate sul sesso riguardano differenze salariali, scelte di carriera limitate e mancanza di rappresentanza nei livelli decisionali. Le organizzazioni possono utilizzare algoritmi di IA per esaminare le differenze salariali (pay gap) basate sul genere e per promuovere l’uguaglianza di genere nell’accesso alle opportunità di carriera.
- Bias di Disabilità: Si verifica quando le persone con disabilità vengono trattate in modo discriminatorio o non vengono fornite le necessarie misure per consentire loro di partecipare appieno alla vita aziendale. L’IA può contribuire a identificare e rimuovere barriere per le persone con disabilità, fornendo soluzioni di accessibilità basate su tecnologie.
- Bias di Status: Può portare a discriminazione contro le persone provenienti da background socio-economici diversi. Un’azienda considera solo i candidati provenienti da università di élite come qualificati per le posizioni di leadership, escludendo chi proviene da istituti di istruzione meno rinomati. Si verifica quando le persone sono giudicate in base al loro status educativo o sociale, anziché alle loro capacità o competenze. L’IA può essere utilizzata per garantire che le decisioni aziendali siano basate sulle competenze e le prestazioni anziché sullo status professionale o sociale.
- Bias di Bellezza: Può portare a preferenze o discriminazioni basate sull’aspetto fisico delle persone, che può influenzare le decisioni di assunzione, promozione e trattamento sul luogo di lavoro. Durante un colloquio di lavoro, un candidato è scelto principalmente per la sua attrattiva fisica, mentre altri candidati più qualificati vengono trascurati. L’IA può aiutare a ridurre la discriminazione basata sull’aspetto fisico nelle decisioni di assunzione e promozione attraverso l’automazione dei processi di selezione basati su criteri oggettivi.
Per valorizzare le diversità in azienda è fondamentale riconoscere l’esistenza di questi bias e adottare misure concrete per affrontarli, rimuoverli, mitigarli. Significa promuovere culture aziendali inclusive con una formazione costante, il coinvolgimento attivo di persone diverse nelle decisioni e la creazione di politiche aziendali che siano trasparenti ed equamente applicate a tutti i dipendenti.
I sistemi di IA vanno ideati e addestrati in modo da essere etici, trasparenti e sensibili all’individuazione dei pregiudizi. Questo richiede una progettazione attenta, l’addestramento degli algoritmi su dati diversificati e la costante nostra supervisione, per garantire che l’IA stessa non introduca nuovi bias. L’IA va concepita e utilizzata come uno strumento per supportare le decisioni umane. Non per sostituirle.
La frase di oggi
“I pregiudizi sono ciò che gli sciocchi usano per ragionare.” Voltaire- filosofo
