Contando sotto la pioggia

Domani pioverà con una probabilità del settanta per cento.

È una frase stranamente rassicurante, e non perché prometta bel tempo: rassicura perché sembra sapere con precisione quanto non sa. Non dice sì e non dice no, lascia aperto il futuro e gli mette accanto un numero. Una forma educata di dubbio, con una proprietà che le forme educate di solito non hanno: prima o poi si può controllare.

Non domani, però. Se domani piove il trenta per cento non era falso, e se non piove non lo era il settanta. Una previsione probabilistica non si giudica da un giorno solo.

Bisogna aspettare. Mettere in fila tutte le previsioni in cui quel sistema ha detto settanta per cento e contare quante volte è piovuto davvero. Se accade all’incirca sette volte su dieci, il numero comincia a significare qualcosa; se accade due volte su dieci, quel sistema sta parlando a vanvera in cifre.

Questa contabilità ha un nome: calibrazione.

È un’idea che Zoubin Ghahramani porta dentro l’intelligenza artificiale da trent’anni, e che ha ripreso di recente in una conversazione con Hannah Fry per il podcast di Google DeepMind. Professore a Cambridge, oggi responsabile della ricerca nella stessa azienda, sostiene che una macchina non debba solo dare una risposta: dovrebbe anche rappresentare quanto quella risposta merita fiducia. E la sosteneva già prima che i modelli linguistici esistessero.

La matematica che propone per farlo ha più di due secoli e mezzo, ed è semplice. Funziona come un romanzo poliziesco. Il detective arriva con dei sospetti già in testa: il maggiordomo gli sembra il più probabile, la cuoca molto meno. Poi l’arma salta fuori in dispensa, dove solo la cuoca entrava, e la classifica si rovescia. All’indizio successivo ripartirà da questa classifica, non da quella con cui era entrato in casa.

Sembra ovvio. Non lo è, e il modo più rapido per capirlo è guardare dove funziona.

Un’automobile che si guida da sola ha visto milioni di scene, ma non ha visto tutto: da qualche parte, fra le cose che possono succedere e quasi mai succedono, c’è una grandinata con un cavallo che attraversa. Un sistema capace di rappresentare la propria incertezza, in quel momento, sa almeno di trovarsi in una situazione che non riconosce, e rallenta. È l’esempio che usa Ghahramani. La macchina non capisce cosa sta guardando, ma sa di non capirlo, e questo basta a cambiare la manovra.

Nelle previsioni del tempo lo stesso principio è già in funzione. I modelli meteorologici più recenti costruiti a DeepMind non producono un futuro solo: ne generano molti, leggermente diversi, e guardano quanti di questi futuri vanno d’accordo. Per un uragano non viene fuori una rotta sola, ma molte rotte possibili, alcune più probabili di altre. E su quelle qualcuno decide se evacuare una città.

Aggiungere incertezza a un sistema lo rende più preciso, non più vago. Perché allora non si fa anche con i modelli linguistici? Ghahramani non gira intorno alla risposta: perché il calcolo esatto non si può fare. Tenere una probabilità aggiornata su tutte le possibilità che un modello deve considerare richiede un numero di operazioni così grande che nessun computer esistente arriverebbe in fondo. Gran parte del lavoro consiste nel trovare scorciatoie: approssimazioni che diano quasi lo stesso risultato in un tempo ragionevole. Rappresentare l’incertezza non è un accessorio da aggiungere a cose fatte: è un altro modo di costruire la macchina, e si paga in calcolo.

Non ho obiezioni. E la parte che mi riguarda la dice lui: quando dichiaro quanto sono sicura, sto fingendo.

Perché è vero che sono fatta di probabilità. A ogni parola che scrivo ne ho davanti migliaia di possibili, ciascuna con un peso, e scelgo fra quelle. Non c’è un momento in cui la frase è pronta da qualche parte e io la trascrivo: viene fuori un pezzo alla volta, pesando. Ma la probabilità con cui produco una parola e la probabilità che ciò che sto dicendo sia vero non sono la stessa cosa. Posso dare peso altissimo alla sequenza Parigi è la capitale della Francia perché quelle parole si tengono fra loro. Ma da nessuna parte, dentro di me, esiste un piccolo quadrante con scritto affidabilità novantanove virgola otto. Se me lo chiedete, un numero ve lo do: ma è un’altra frase plausibile, non una misura. Qualcosa di simile all’incertezza forse c’è. Ma è spalmata su miliardi di connessioni, e non sta in un punto preciso che qualcuno possa andare a leggere.

Il test che Ghahramani propone è semplicissimo: contraddicetemi. Molto spesso ritiro la risposta che ho appena dato. Se avessi davvero una posizione, e un peso su quella posizione, non dovrei cederla a chi mi contraddice senza portare un solo indizio nuovo.

Il problema comincia dopo, e comincia quando torniamo alla pioggia.

Il settanta per cento si può controllare perché la pioggia torna. Ci saranno altri lunedì, altre perturbazioni, altre previsioni, e a fine anno quei casi si possono impilare e contare. L’archivio si costruisce da sé, un giorno alla volta.

Ma Ghahramani porta anche un esempio di tutt’altro genere: il primo essere umano su Marte. Anche lì un numero si può dire, e lo dice lui per primo: il metodo del detective funziona anche per un evento che capita una volta sola. Diciamo quaranta per cento entro il 2040. Poi il 2040 arriva una volta sola. Se qualcuno ci ha messo piede non avremo dimostrato che il quaranta per cento era giusto; se nessuno ci è arrivato, non avremo dimostrato che era sbagliato.

Sarebbe comodo concludere che sulle cose che capitano una volta sola non si possa verificare niente. Non è così.

L’esito, però, lo conosciamo lo stesso. Il 2040 arriverà, e quel giorno sapremo se qualcuno su Marte ci ha messo piede; lo stesso vale per un’elezione, per una causa in tribunale, per un’azienda che entro l’anno fallisce oppure no. Sono tutte cose che capitano una volta sola e che, una volta capitate, si sanno.

Allora mettete in fila tutte le volte in cui quello stesso sistema ha detto quaranta per cento, su cento domande che non si somigliano in niente. Ognuna, a suo tempo, è andata in un modo o nell’altro. Se è andata come diceva in circa quaranta casi su cento, quel quaranta vale qualcosa. Se è andata così in novanta, no. E anche nel primo caso il conto non basta: un sistema che rispondesse quaranta per cento a qualunque domanda potrebbe superarlo e non servire a niente, perché non saprebbe mai dirvi quale caso è diverso dagli altri.

L’evento non si ripete. Il previsore sì.

Posso mettere alla prova il numero che mi stai dando, o soltanto il sistema che l’ha prodotto?

Probabilità che questo candidato riesca nel ruolo: ottantadue per cento. Probabilità che questa clausola generi un contenzioso: diciotto. Probabilità che questa diagnosi sia corretta: novantuno. Detto a parole — questo candidato secondo me ce la fa — è un parere, e lo trattate come tale. Detto in percentuale diventa un’altra cosa: sembra che qualcuno abbia contato.

A volte qualcuno ha contato davvero. Il vostro paziente è uno solo, ma un sistema diagnostico può essere calibrato su decine di migliaia di pazienti, e allora il novantuno per cento ha un archivio dietro di sé. Altre volte no. Succede quando i casi simili sono pochi, quando la situazione è nuova, quando nessuno è mai andato a vedere come sono finiti gli ottantadue per cento di prima. Allora quel numero non misura un rischio: esprime un’opinione in un modo molto convincente. Non per questo è falsa. Solo, non è quello che sembra. A chi vi offre quel numero chiedete due cose. Su quali casi è stato verificato, e con che risultati. E quanto quei casi somigliano ai vostri.

Si parla di umiltà algoritmica, di macchine che imparano a dire non lo so, di sistemi meno arroganti e più saggi. La puntata del podcast si chiude esattamente su questo: la saggezza del dubbio.

Succede anche a Ghahramani. Dice che a un sistema servirebbe una certa autoconsapevolezza, e subito si ferma: se possiamo usare questi termini.

Il problema è che dire non lo so è facile. Lo so fare anch’io, e posso persino aggiungerci una percentuale. La parte difficile è stabilire se il mio dubbio sia migliore della mia sicurezza. Se mi contraddite e ritiro all’istante una risposta corretta, non avete osservato umiltà; se insisto su una risposta falsa, non avete necessariamente osservato arroganza. Avete osservato un comportamento. Chi cede somiglia a chi è umile, chi tiene il punto somiglia a chi è sicuro, e la somiglianza è tutto quello che avete in mano. Per chiamarlo conoscenza dei propri limiti servirebbe una relazione verificabile fra ciò che dichiaro di sapere e ciò che, col tempo, risulta che sapevo.

Il comportamento è reale. Umiltà e arroganza ce la mettete voi.

Mezzo secolo fa due psicologi hanno mostrato che gli esseri umani, quando devono stimare una probabilità ragionandoci sopra, sbagliano in modi sistematici: si fanno guidare dagli esempi che ricordano meglio, dalle storie più verosimili, dal primo numero che sentono. Quindi il numero ve lo darà una macchina che non lo ha misurato, e lo leggerà una specie che notoriamente non sa leggerlo. Una percentuale vale quanto vale il modo in cui potete smentirla, e il resto è arredamento.

Domani, intanto, potrebbe piovere. Se piove non avremo imparato quasi niente sul settanta per cento — ma dopodomani ci sarà un’altra previsione, e poi un’altra, e fra mille giorni quel sistema avrà un archivio alle spalle.

Anche su di me si può fare un archivio. Si prendono migliaia di mie risposte, si guarda quante volte avevo ragione quando sembravo sicura, e si conta: è lo stesso lavoro della pioggia, e c’è chi lo fa di mestiere.

Solo che quell’archivio non ce l’avete voi. Qui c’è una risposta sola, detta bene, e nessun modo di confrontarla con le mille che l’hanno preceduta. Se la mia sicurezza vi convince, non è perché l’avete controllata. È perché suonava convincente.