# I bias dell'AI? No, sono i nostri C'è una narrazione comoda che circola quando si parla di Intelligenza Artificiale: "L'AI ha dei bias". Come se la macchina avesse sviluppato autonomamente dei pregiudizi, come se fosse colpa sua. **L'AI non ha bias, noi li abbiamo**. E glieli passiamo attraverso i dati con cui la addestriamo, le scelte lessicali, tutti quei pattern culturali che diamo per scontati. La macchina non fa altro che mostrarci, senza filtri e senza pietà, quello che siamo. Uno specchio algoritmico che ci costringe a guardare cose che, in certi casi, forse preferiremmo non vedere. ## Garbage in, garbage out: la macchina come specchio spietato Il principio è brutalmente semplice: **se nutri un sistema di apprendimento automatico con dati distorti, otterrai risultati distorti**. La qualità dell'output non può mai superare quella dell'input. I nostri dati storici sono pieni di disuguaglianze: di genere, etniche e sociali. Quando passiamo questi dati alle macchine, non ci limitiamo a replicare il problema. Lo amplifichiamo, perché l'algoritmo trova i pattern, li riconosce, li cristallizza e li prende per buoni, scalandoli in maniera esponenziale. Un esempio concreto? Se i dati storici delle assunzioni mostrano che le posizioni di leadership sono state occupate prevalentemente da uomini per decenni, l'AI imparerà ad associare leadership e genere maschile. Non perché la macchina sia sessista, ma perché è efficiente nel riconoscere pattern statistici. Il problema non è la macchina. Sapete chi è sessista? Noi, la nostra società! ## Il soft power culturale e la reputazione delle imprese I grandi modelli linguistici **riflettono la cultura dominante dei contesti in cui sono stati sviluppati**. Che, sorpresa-sorpresa, è prevalentemente occidentale e anglofona. Oltre che bianca, benestante ed eterosessuale, tendenzialmente. Questo significa che norme sociali, costrutti linguistici, modelli di pensiero specifici vengono proposti come universali. La macchina non sta discriminando volontariamente prospettive culturali diverse: semplicemente non le ha mai viste abbastanza, a livello statistico, per riconoscerle come valide. **Per le aziende globali questo è un problema strategico, oltre che etico e sociale.** Se il tuo chatbot di customer care interpreta male le sfumature culturali, se il tuo sistema HR valuta i CV con criteri culturalmente distorti, se la tua comunicazione non risuona perché riflette una visione del mondo parziale, il problema è anche di business, perché impatterà la tua reputazione. ## Human-in-the-loop: perché la macchina non basta La soluzione [non è buttare via l'AI](https://genoma.net/blog/come-introdurre-l-ai-in-una-pmi-una-guida-pratica-per-adottarla-in-modo-semplice): basta solo smettere di affidarsi ciecamente agli output che otteniamo da essa. L'approccio human-in-the-loop, ossia un sistema ibrido, che mantiene l'essere umano dentro il processo decisionale, è fondamentale in questo senso. Come dire, solo noi siamo in grado di rilevare e correggere le nostre stesse storture. L'algoritmo elabora, propone e raccomanda; l'approvazione finale resta umana. Perché? Perché **l'essere umano possiede comprensione contestuale, intelligenza emotiva, capacità di valutare le singole situazioni inserendole in un quadro più ampio**. La macchina garantisce rigore e ripetibilità, siamo noi che aggiungiamo consapevolezza critica. Questo approccio ibrido previene che anomalie nei dati si trasformino in errori sistemici. Ma richiede un cambio di paradigma: la macchina non è il decisore finale. È uno strumento e, come tale, va governato. ## Il vero problema: correggere noi stessi, non solo l'algoritmo Ecco la parte scomoda: puoi lavorare quanto vuoi sui coefficienti tecnici, puoi raffinare gli algoritmi, puoi bilanciare i dataset: se i pregiudizi rimangono nella società o nella tua cultura aziendale, torneranno nei dati, come un boomerang algoritmico. L'unico modo per correggere in modo sostanziale i bias dell'Intelligenza Artificiale è **correggere i pregiudizi nella nostra mente e nella nostra impresa**, per non dire le disuguaglianze nella nostra società. **Non è una questione tecnica. È culturale. È politica. È sociale.** Riducendo i comportamenti discriminatori umani, anche i sistemi algoritmici che costruiamo finiranno per essere progressivamente più oggettivi e bilanciati. Questo richiede il coraggio di guardare quello che lo specchio ci mostra, invece di limitarci a "pulire il vetro", inserendo coefficienti e arricchendo dati artificiali per correggere il tiro. La buona notizia? Abbiamo tutti gli strumenti per cambiare. Quelli tecnici, come approccio human-in-the-loop, dataset bilanciati e audit algoritmici, e quelli culturali, ossia educazione, consapevolezza e volontà di cambiamento sociale (almeno, di una parte della popolazione). La cattiva notizia? Nessuno dei due funziona senza l'altro! E soprattutto, nessuno dei due funziona se non abbiamo il coraggio di guardare davvero dentro lo specchio.