I sistemi di Intelligenza Artificiale (IA) e Machine Learning (ML) si inseriscono in un contesto socio-tecnico caratterizzato da una crescente accelerazione che influenza le strutture temporali della società (tardo)moderna e si articola in tre dimensioni interconnesse: accelerazione tecnologica, dei mutamenti sociali e del ritmo di vita (Rosa, 2015).
La capacità di questi sistemi di analizzare ed elaborare grandi moli di dati si accompagna al rischio di riprodurre e amplificare bias preesistenti basati su stereotipi che perpetuano disuguaglianze sociali, come quelli legati al genere e all’etnia (Buolamwini, Gebru, 2018). In quanto “scorciatoie di pensiero”, infatti, i bias permettono di prendere decisioni istantanee, ma diminuiscono lo spazio e il tempo per una riflessione critica (Zuboff, 2019). Tale processo si riflette nel funzionamento delle tecnologie di IA, che si configurano come “agenti sociali” storicamente e socialmente situati (Airoldi, 2022), costruiti per giungere a risultati rapidi in modo automatizzato, tramite algoritmi che apprendono da dati del passato e modellano scenari futuri, in un contesto in cui le logiche di mercato e produttività limitano le opportunità di valutare le implicazioni etiche e sociali delle tecnologie computazionali (Crawford, 2021).
Sulla base di tali premesse, si colloca il progetto **** per indagare inclusività e accessibilità dei sistemi di ML/IA con l’intento di mitigarne i pregiudizi di genere ed etnici (Shrestha, Das, 2022).
In questo ambito, il presente contributo intende osservare i principali approcci ai bias dell’IA emersi da una scoping review condotta su Scopus e Web of Science, alla luce del paradigma della slow technology, finalizzato alla progettazione di tecnologie che privilegiano riflessione e consapevolezza piuttosto che efficienza e velocità, promuovendo un uso sostenibile e critico degli strumenti digitali (Hallnäs, Redström, 2001). In particolare, la revisione della letteratura, effettuata tramite il metodo PRISMA (Page et al., 2021), ha restituito 1.176 contributi, di cui sono stati individuate prospettive disciplinari, tematiche, metodi di ricerca ed esiti rilevanti. A tal proposito, nel riconoscere come le decisioni automatizzate prese dai sistemi di ML/IA possano avere un impatto significativo sulle vite degli individui, soprattutto in ambiti sensibili, quali, ad esempio, il recruiting e la giustizia (Eubanks, 2018), il corpus selezionato sottolinea come sia necessario osservare le discriminazioni algoritmiche da prospettive multidisciplinari, in grado di affrontare la complessità del mutual shaping tra società e tecnologia (Hall, Ellis, 2023). Una complessità che, inevitabilmente, si scontra con la superficialità dei processi euristici, evidenziando l’urgenza di adottare una visione che metta in discussione l’attuale paradigma dominante nell’ambito dei sistemi di ML/IA.
In questa direzione, l’integrazione della slow technology con gli approcci socio-tecnici proposti dalla letteratura (Wellner, Rothman, 2020) implicherebbe un ripensamento del processo di sviluppo e funzionamento degli algoritmi basato su una serie di principi fondamentali, tradotti in azioni specifiche:
-
Riflessività e spiegabilità: creare sistemi di IA che permettano agli utenti di comprendere le decisioni algoritmiche, implementando la Explainable AI.
-
Trasparenza: garantire che gli algoritmi mostrino la provenienza dei dati e il loro processo decisionale.
-
Diversità, inclusività ed equità: garantire la partecipazione di gruppi sottorappresentati nei team di sviluppo, elaborando modelli human-in-the-loop per correggere bias emergenti.
-
Responsabilità: comporre team multidisciplinari e formare gli sviluppatori attraverso corsi di etica e sociologia nei programmi di AI development.
-
Flessibilità: pianificare audit algoritmici continui per valutare gli effetti sociali degli algoritmi nel tempo.
Così, integrando il paradigma della slow technology e gli approcci socio-tecnici esistenti, il contributo evidenzia come l’adozione di una prospettiva riflessiva e interdisciplinare possa costituire un’alternativa alle logiche di accelerazione favorite dai sistemi algoritmici, offrendo spunti per la progettazione di sistemi di ML/IA in direzione di una maggiore equità, trasparenza e responsabilità.
