Tutto insieme
Deep Patient non sa che essere colpiti alla testa può provocarci le vertigini o che i diabetici non dovrebbero ingozzarsi di Toblerone. Non sa neppure che l’osso del braccio è collegato a quello del polso. Tutto quello che sa è quanto i ricercatori del Mount Sinai Hospital di New York hanno inserito dentro di lui: le cartelle cliniche di settecentomila pazienti che contengono dati disordinati, privi di un qualsiasi schema di comprensione entro il quale ricondurli. Eppure, dopo aver analizzato le relazioni tra questi dati ciechi, Deep Patient non solo è stato in grado di diagnosticare la probabilità che determinati pazienti sviluppassero particolari malattie, ma in alcuni casi si è dimostrato perfino più accurato dei medici, riconoscendo alcune malattie che fino ad allora erano sfuggite a ogni previsione. Se chiedete al vostro medico perché Deep Patient ritiene che sia opportuno per voi assumere statine o sottoporvi a chirurgia preventiva, potrebbe non essere in grado di rispondervi, ma non perché non sia abbastanza bravo o competente. Deep Patient è un genere di intelligenza artificiale chiamata deep learning (a sua volta un tipo di machine learning), che individua relazioni tra i dati senza sapere nulla di che cosa essi rappresentino. In tal modo, assembla una rete di punti di informazione, ciascuno con una ponderazione che determina la probabilità con cui i punti ad esso collegati “si attiveranno”, il che a sua volta influenza gli altri punti a cui questi sono collegati, così come accadrebbe per l’attivazione di un neurone nel cervello.
Per capire perché Deep Patient reputi che vi sia, diciamo, il 72 per cento di probabilità che un dato paziente sviluppi la schizofrenia, un medico dovrebbe fare propri quei milioni di punti con ciascuna delle loro connessioni e ponderazioni. Ma sono davvero troppi e stanno tra loro in relazioni troppo complesse. Naturalmente come pazienti siamo liberi di rifiutare le conclusioni probabilistiche di Deep Patient, ma lo facciamo a nostro rischio e pericolo, dal momento che la ragione per cui utilizziamo sistemi diagnostici basati su una “scatola nera”, cioè incapaci di spiegare le loro previsioni, risiede nel fatto che, in taluni casi, queste previsioni sono molto più accurate di quelle dei medici.
Questo è il futuro, e non riguarda solamente la medicina. Il sistema di navigazione del telefono, l’autocompletamento nella digitazione, i software di traduzione, i consigli musicali e molto altro si basano già su sistemi di machine learning. Man mano che tale forma di calcolo progredisce, diventa anche più misteriosa. Ad esempio, se si sottrae il numero di mosse possibili negli scacchi dal numero delle mosse possibili nel gioco cinese Go, ciò che resta è ancora molte volte maggiore rispetto al numero di atomi nell’universo. Tuttavia, il programma AlphaGo di Google basato sull’intelligenza artificiale batte regolarmente i giocatori umani più bravi, anche se non sa nulla di Go al di là di ciò che ha appreso analizzando 60 milioni di mosse in 130.000 partite registrate. Se fossimo in grado di esaminare gli stati interni di AlphaGo, per provare a scoprire perché abbia fatto una determinata mossa, è probabile che non scorgeremmo nient’altro che un insieme incredibilmente complesso di relazioni ponderate tra i suoi dati. In sostanza, AlphaGo potrebbe non essere in grado di dirci, in termini che un essere umano possa comprendere, perché ha fatto quello che ha fatto.
Eppure, a proposito di una mossa di AlphaGo che ha lasciato alcuni commentatori letteralmente senza parole, uno dei migliori giocatori al mondo, Fan Hui, ha detto: «Non è una mossa umana. Non ho mai visto un essere umano giocare così». Poi, più piano: «Che bello. Straordinario, davvero straordinario».
Gli algoritmi di deep learning funzionano perché catturano, meglio di quanto possa fare qualsiasi essere umano, la complessità, la fluidità e persino la bellezza di un universo in cui tutto influenza tutto il resto, simultaneamente. Come vedremo, il machine learning è solo uno dei tanti processi che ci hanno posto di fronte all’insondabile complessità del nostro mondo quotidiano. Ma questo vantaggio ha un prezzo: dobbiamo rinunciare al nostro costante tentativo di comprendere il mondo e come le cose vi accadono.
Da tempo, noi esseri umani abbiamo l’impressione che se solo potessimo conoscere le leggi immutabili che governano l’accadere degli eventi, saremmo in grado di prevedere, pianificare e gestire perfettamente il futuro. Se sappiamo come cambia il tempo, i bollettini meteorologici possono dirci se portarci l’ombrello al lavoro. Se sappiamo cosa spinge una persona a cliccare una cosa piuttosto che un’altra nella news feed del suo profilo Facebook, possiamo progettare la campagna pubblicitaria perfetta. Se sappiamo come si propagano le epidemie, possiamo contrastarle. È diventato così affar nostro capire come le cose accadono, scoprendo le leggi e i modelli che governano il nostro mondo.
Dato che la nostra conoscenza è stata sempre imperfetta, questo assunto si è basato su un altro più profondo. Il nostro tacito accordo con l’universo è stato il seguente: se lavoriamo abbastanza duramente e pensiamo in termini sufficientemente chiari, l’universo ci rivelerà i suoi segreti, poiché esso è conoscibile e pertanto, almeno in parte, piegabile alla nostra volontà. Ma ora che i nostri nuovi strumenti, in particolare il machine learning e internet, ci stanno mostrando l’immensità dei dati e delle informazioni che ci circondano, stiamo iniziando ad accettare che la vera complessità del mondo supera di gran lunga le leggi e i modelli che elaboriamo per spiegarlo. Le nostre nuove, capaci macchine possono avvicinarsi più di noi alla sua comprensione, anche se, in quanto macchine, in realtà non capiscono nulla. Ciò sfida, a sua volta, un ulteriore assunto, che conserviamo a un livello più basilare: l’universo è conoscibile perché noi umani riteniamo di essere i soli in grado di comprendere come funziona.
Almeno dai tempi degli antichi ebrei, abbiamo pensato di essere le sole creature di Dio in grado di ricevere la sua rivelazione della verità. Dal tempo degli antichi greci, ci siamo definiti come gli animali razionali che sono capaci di percepire la logica e l’ordine sotto l’apparente caos del mondo. Le nostre strategie più elementari hanno fatto affidamento su questa relazione speciale tra noi e il mondo che ci circonda.
Rinunciare a questa tradizionale rappresentazione della nostra specie è straziante e doloroso. Sentirsi schiacciati dal sovraccarico di informazioni e attendere nervosamente il prossimo brusco stravolgimento economico, politico e culturale, è solo il disturbo localizzato di un malessere più profondo: il sentimento – talora espresso con battute sardoniche e amare sulla progressiva affermazione di robot sovrani – che non siamo così preparati al nostro universo come pensavamo. L’evoluzione ci ha dotato di menti calibrate per la sopravvivenza, non per la “verità”. Il richiamo a ciò che ci rende speciali – emozioni, intuizione, creatività – sta diventando troppo insistito e un po’ disperato.
Questa vera e propria disillusione è qualcosa che dobbiamo abbracciare, e non solo perché sta accadendo a dispetto del fatto di accettarla o meno. Ci troviamo all’inizio di un grande salto in avanti nella nostra capacità di comprendere e gestire il futuro: invece di lottare sempre per ridurre il mondo a una dimensione prevedibile, controllabile e confortevole, iniziamo a pianificare strategie che ne prendano in considerazione la complessità.
Stiamo facendo questo salto perché si tratta di strategie che ci consentono già oggi di essere più efficienti e proficui, in contatto con più persone e idee, più creativi e gioiosi. Tutto questo sta ricontestualizzando molte delle idee più basilari e delle pratiche più profondamente radicate nella nostra vita professionale e personale, e si riverbera su ogni nuova conquista della nostra cultura.
I segnali di questo cambiamento sono ovunque, ma spesso sono nascosti dietro consolidate abitudini. Ad esempio, ancor prima che il machine learning diventasse importante, internet stava già lavorando in tal senso…
da Caos Quotidiano – Un mondo di nuove possibilità –
di David Weinberger
Codice Edizioni, 2020
