Per secoli filosofi e sapienti si sono interrogati su quale fosse il miglior modello di governo possibile. Dalla repubblica alla monarchia ogni epoca ha sviluppato i modelli che più sembravano consoni alle esigenze del loro tempo. Oggi questo compito non è più solo una questione prettamente umanistica, ma informatica. Ultimamente è normale chiedersi, di fronte ai notiziari, se l’essere umano sia effettivamente in grado di darsi delle regole per la convivenza sul pianeta. Non credo sia un caso che solo negli ultimi anni l’IA sia entrata a far parte della nostra quotidianità, divenendo uno strumento non solo da utilizzare ma con cui intraprendere vere e proprie conversazioni. La coincidenza di crisi (umanitarie e geopolitiche) e lo sviluppo di questa nuova tecnologia è da spiegarsi attraverso una delle nostre più semplici emozioni: la paura. Di fronte all’instabilità pericolosa degli impulsi umani, l’IA rappresenta un nuovo agente sociale, la cui freddezza di calcolo diviene sinonimo di sicurezza e stabilità. L’intelligenza artificiale sta pian piano diventando un sostituto razionale al ragionamento imperfetto dell’essere umano, percepito come non in grado di affrontare le sfide future! Ecco, quindi, quello che oggi potrebbe essere visto come il miglior modello di governo per la nostra epoca.
Su questo aspetto dell’intelligenza artificiale è esplicativo il concetto di Algocrazia, sempre più presente nelle istituzioni e nel mondo del lavoro. L’Accademia della Crusca propone di questo concetto una definizione forse troppo dispotica: l’Algocrazia sarebbe una «Forma di società basata sul dominio degli algoritmi»1. Per quanto possa sembrare lontana questa realtà, essa appare già fattuale in diversi ambiti della società. In alcuni paesi, come negli Stati Uniti, gli algoritmi vengono sfruttati dai tribunali per valutare il rischio di recidiva e influenzare le decisioni sulla libertà vigilata. Paesi come Francia, Svezia e Danimarca utilizzano diversi algoritmi per la gestione del Welfare, per decidere chi ha diritto a sussidi o per individuare potenziali evasori fiscali.
Nel mondo del lavoro l’Algocrazia si traduce principalmente in selezione del personale e valutazione delle prestazioni, ma non solo. L’ingresso dell’IA nell’industria e nelle imprese ha segnato (e sta segnando) il passaggio da quello che è il datore di lavoro in carne e ossa a un sistema di management algoritmico. Nelle grandi industrie la presenza di IA che organizzano il lavoro dei dipendenti è una realtà già consolidata: il lavoratore (che non si affida più a una figura di riferimento ma a un account) riceve istruzioni da un’app e la sua performance è valutata in millisecondi. Negli stabilimenti più avanzati, i sensori IoT (Internet of Things) monitorano i movimenti degli operai, i parametri fisici e ambientali per ottimizzare la velocità e ridurre i tempi morti. Guardiamo ora al mondo della media impresa: l’Algocrazia in questi contesti entra spesso attraverso l’acquisto di sistemi esterni. Questi algoritmi offrono tre tipi di servizi. Il primo è un servizio di Recruiting e Selezione, in cui sistemi di ATS (Applicant Tracking System) scartano automaticamente i CV basandosi sulla presenza/assenza di parole chiave, prima ancora del controllo di un umano. Un secondo servizio che l’IA offre riguarda il People Analytics. Si tratta di software che analizzano il clima aziendale e la produttività dei dipendenti tramite l’analisi delle mail, i tempi di risposta nelle chat aziendali l’uso dei software gestionali. Infine, il terzo servizio riguarda la pianificazione della produzione, in cui specifici algoritmi decidono i carichi di lavoro settimanali in favore dell’efficienza pura.
Questi algoritmi rendono la vita aziendale vantaggiosa, soprattutto per quel che riguarda la riduzione degli sprechi o la gestione di crisi complesse, che porta a una finale efficienza della macchina aziendale nel suo complesso. Nonostante ciò, l’utilizzo sempre più massiccio degli algoritmi in determinati ambiti dell’azienda (riassumibili nell’organizzazione e nel controllo) non è esente da preoccupazioni. Le principali criticità sollevate riguardano l’effetto “scatola nera”, per cui l’azienda sa tutto del lavoratore ma quest’ultimo non è a conoscenza della valutazione che viene fatta della sua prestazione. Altro fenomeno è quello della deresponsabilizzazione dei datori di lavoro, che possono attribuire decisioni difficili (come un licenziamento) ai diversi software, eliminando la negoziazione. La principale criticità di questi nuovi modelli organizzativi è che il ruolo dell’IA diventi predominante sui ruoli umani, realizzando quella che sarebbe a tutti gli effetti una “Algocrazia Aziendale”. Per rispondere a questa grande problematica (il rischio che il computer controlli l’uomo e non più il contrario) la macchina legislativa si è messa in moto su più fronti.
Dal 2021 l’Unione Europea è la prima grande istituzione a lavorare a un testo di legge del tutto dedicato al tema. Nell’aprile di quell’anno «la Commissione europea ha proposto la prima legge UE sull’intelligenza artificiale, che istituisce un sistema di classificazione dell’IA basato sul rischio. I sistemi di IA che possono essere utilizzati in diverse applicazioni vengono analizzati e classificati in base al rischio che rappresentano per gli utenti»2. Più recentemente, il 1° agosto 2024, è entrato in vigore l’AI Act EU (Regolamento 2024/1689). L’Atto coinvolge profondamente le aziende, poiché regola i sistemi di reclutamento e di gestione del personale. Si cerca infatti di garantire trasparenza riguardo le decisioni prese dall’IA e la supervisione umana sulle risposte del computer. Viene inoltre vietato il riconoscimento delle emozioni sul luogo di lavoro e la categorizzazione biometrica basata sull’orientamento politico, sessuale e religioso. A seguito di questo Atto i lavoratori hanno il diritto di ricevere spiegazioni chiare sul ruolo che l’IA ha avuto sulle decisioni che li riguardano, oltre che a corsi di alfabetizzazione all’IA, affinché si comprendano a pieno le criticità e le potenzialità della tecnologia che sta segnando la nostra Storia.
1 Lucia Francalanci; Accademia della Crusca; 16/09/20; https://accademiadellacrusca.it/it/parole-nuove/algocrazia/18478; 17/02/26.
2 European Parliament; 20/02/25; https://www.europarl.europa.eu/topics/it/article/20230601STO93804/normativa-sull-ia-la-prima-regolamentazione-sull-intelligenza-artificiale; 17/02/26.
