Nel paese degli algoritmi

Che cosa sono gli algoritmi che governano la nostra vita quotidiana? Che cosa c’è dall’altra parte dell’iceberg matematico? Codici ed equazioni matematiche governano ormai profondamente la nostra vita. Il mondo digitale, cui dedichiamo larga parte del nostro tempo, opera sostanzialmente in base ad algoritmi: gli algoritmi dei siti di vendita, dei social network, quelli per la geolocalizzazione o per l’assegnazione dei posti all’università. Un semplice sguardo, poi, allo stato della ricerca tecnoscientifica contemporanea basta per rendersi conto che non vi è fenomeno fisico, economico o sociale che possa oggi sottrarsi a una modellazione numerica. L’autrice di questo libro, ad esempio, ha simulato coi suoi algoritmi la morfologia della gomma in scala nanoscopica, ha previsto l’elasticità di un tessuto cardiaco rigenerato in laboratorio, ha automatizzato la stesura di news finanziarie e simulato il funzionamento del trauma cranico. Si può perciò affermare che, se non è ancora pienamente diventata il paese degli algoritmi, la terra è destinata inevitabilmente a esserlo in un futuro molto vicino. Sappiamo, tuttavia, come vanno davvero le cose nel paese degli algoritmi? Sappiamo a quali procedure, speranze, rischi e pericoli vanno realmente incontro coloro che si avventurano in questo regno? Le pagine che seguono cercano di rispondere a queste domande, invitando i lettori a un viaggio al cuore delle equazioni matematiche e delle righe di codice. Un viaggio in cui le speranze che guidano le modellazioni numeriche traggono alimento da un antico sogno: l’idea di penetrare, attraverso la virtualizzazione dei fenomeni, i meccanismi stessi della vita. Aurélie Jean non si limita, tuttavia, a illustrare le magnifiche sorti della modellazione numerica della realtà, ne mostra anche i pericoli, anzi il sommo pericolo. Uno spettro si aggira, infatti, nel paese degli algoritmi: lo spettro dei cosiddetti «bias algoritmici», vale a dire dei pregiudizi cognitivi che caratterizzano la fragile conoscenza umana e che possono distorcere gli algoritmi sino al punto da generare discriminazioni inaccettabili. Com’è accaduto, ad esempio, ad Amazon che, nel 2018, per selezionare i curricula dei candidati più idonei a essere assunti in azienda, ha progettato un algoritmo addestrandolo sulle assunzioni degli ultimi dieci anni, in prevalenza maschili, con l’inevitabile conseguenza che l’algoritmo ha sviluppato un bias che lo ha indotto a sottostimare il valore di un profilo femminile. Eliminare alla radice i bias è, per Aurélie Jean, un compito impossibile. È, invece, possibile «comprendere il passaggio dai “nostri” bias ai bias algoritmici», aprendo la ricerca scientifica al pensiero critico e alla riflessione e capovolgendo l’antico pregiudizio che vuole i filosofi riflettere su un mondo che gli sfugge e gli scienziati costruire un mondo su cui non riflettono. «Specializzata nella modellizzazione numerica, indicata dal magazine Forbes tra “le 40 donne francesi più influenti del 2019”, Aurélie Jean sembra non aver paura di niente, eccetto dei bias cognitivi e algoritmici che descrive nel suo libro». Le Monde «Gli “algoritmi predittivi” sono la passione e la specialità di Aurélie Jean, che ha scritto un libro per spiegarne i benefici. Perché gli algoritmi possono salvare le nostre vite». Libération