.\ (Simone Mazzata)

 

     New York, 15 gennaio 2009: il provetto pilota Chesley Sullenberger (detto Sully) salva, con una manovra coraggiosa, i 155 passeggeri sul suo aereo, ammarando nelle acque gelide del fiume Hudson, a causa di un’avaria ai motori.

Un vero eroe – a cui Clint Eastwood dedica un bel film, con Tom Hanks come protagonista – che dovrà però rispondere alle critiche dell’ente di sicurezza di volo. Le prime simulazioni effettuate dopo la vicenda, dimostreranno che il pilota avrebbe potuto atterrare su una pista regolare. La simulazione, tuttavia, basata su algoritmi, ignora il fattore umano, ovvero i 35 secondi che Sully impiega per capire la situazione e prendere la sua audace decisione. Inserendo nel calcolatore quei 35 secondi, infatti, le successive simulazioni danno ragione a Sully. Incredibile, vero? E’ solo un esempio-limite della rilevanza che hanno raggiunto nella nostra vita gli algoritmi, ovvero la sequenza di istruzioni in base alle quali un calcolatore elabora un processo di calcolo. Ne abbiamo parlato con un esperto del settore, il matematico Paolo Zellini.

     Il “giudice” di Sully è stata una macchina, quindi… E’ esattamente così. L’obiettivo dell’algoritmo è quello di dare risposte  plausibili in condizioni di incertezza. Ma ormai la nostra vita quotidiana, anche quando non ne siamo consapevoli, è totalmente dipendente dagli algoritmi, a cui dedichiamo la buona riuscita di operazioni che da soli non saremmo in grado di eseguire.

     Sta pensando ai social media, alle auto senza guidatore, alle tecniche industriali o alla diagnostica medica…? Beh, lasci stare gli esempi più evidenti.  Aggiunga pure che gli algoritmi possono controllare assunzioni e licenziamenti nelle aziende, prevedere le zone in cui si compirà un crimine, decidere le operazioni di finanziamento, governare l’ordine pubblico, regolare gli accessi a scuola e università, quantificare i valori di un campione sportivo in base alle sue prestazioni….

     Ormai sono gli algoritmi a governarci, allora! Lo scenario descritto da Orwell in “1984”, effettivamente, fa sorridere e appare un po’ rétro. Non sono soltanto le telecamere a controllarci: grazie all’analisi di grandi volumi di dati (Big Data), calcoli di dimensioni enormi e tecniche progredite matematiche e informatiche, essi hanno guadagnato il credito di un oracolo divino che promette soluzioni ai problemi più disparati. Una volta i dati erano un’entità passiva in attesa di elaborazione, ora è il profluvio di dati a guidare le operazioni: non sono più i programmatori, bensì i dati stessi a dire quale dovrà essere la prossima iniziativa. Wiener, addirittura, scorgeva nel carattere categorico e perentorio dell’algoritmo una virtuale “presenza diabolica”…

     Parla di Norbert Wiener, il padre della cibernetica? Sì. Lui era preoccupato del fatto che, alla fine di un processo di calcolo non correttamente impostato, si potesse arrivare a una possibile perdita di senso del calcolo stesso, che continua ad apparire all’essere umano, peraltro, credibile e affidabile (vedi il caso di Sully). Oggettivo, diremmo. In ogni caso, per sua natura l’algoritmo sacrifica spesso l’equità per l’efficienza, l’attendibilità del giudizio per la funzionalità dell’apparato. In un contesto in cui, oltretutto, molte operazioni vengono svolte in modo “occulto”, senza che nemmeno il programmatore vi abbia accesso.

     Uno scenario inquietante, in cui l’algoritmo è la nuova forma del potere. Siamo totalemente impotenti? Degli algoritmi non possiamo più fare a meno, intendiamoci. Ma deve essere altrettanto chiaro che noi non possiamo delegare decisioni alla macchina, a maggior ragione quelle che attengono alla nostra coscienza e libertà. Chi si occupa di algoritmi dovrebbe dedicare un’analisi a priori molto serrata, con procedimenti che non devono ammettere la propagazione dell’errore e inserendo, ove possibile, una valutazione precisa dei criteri di equità e di efficienza, pur non sempre così chiari.

     La matematica e l’informatica sono discipline sempre più richieste dal mercato. Si sente di dare un consiglio a chi si affaccia a questi studi? In realtà ne ho in mente due. Primo: studiate molto bene gli algoritmi, sappiate che cosa sono e come si comportano. Non usateli semplicemente, ma cercate di conoscerli, acquisendo una cultura dei limiti del calcolo. Secondo: leggete e studiate altro. Romanzi, filosofia…. Queste cose insegnano indirettamente la modalità di valutazione e i criteri che rendono plausibile l’uso dell’algoritmo. Una persona appassionata di letteratura è più disponibile a dubitare di un algoritmo. E questa è la strada giusta per un finale meno surreale, più “umano”, della vicenda di Sully.


L’Era del “totalitarismo algoritmico”
Paolo Zellini, triestino, insegna Analisi numerica all’Università di Roma Tor Vergata. Ha scritto numerosi saggi sull’evoluzione del pensiero matematico attraverso il concetto di infinito, approfondendo la nozione di numero in una prospettiva che abbraccia tutta la storia del pensiero, occidentale e orientale, ispirandosi dichiaratamente a Elémire Zolla. La sua ultima fatica, La dittatura del calcolo (Adelphi, pp.186, €12) è un libro molto forte, volutamente asciutto e faticosamente distaccato, che mette in luce le ambiguità legate al “totalitarismo algoritmico” del mondo nel quale siamo immersi, che si è sbarazzato da tempo dei presupposti filosofici, etici e metafisici del calcolo.