Ti faresti giudicare da un algoritmo?
Intervista ad Antoine Garapon

Il Suo ultimo libro Justice digitale è scritto con Jean Lassègue, antropologo ed epistemologo. Può spiegarci questa scelta?

La nostra scelta di unire le competenze di un giurista e di un epistemologo esperto di Turing è stata determinata dal voler affrontare la questione del digitale non dal punto di vista delle performances, né da una prospettiva di filosofia politica o di fenomenologia, ma a partire da una prospettiva di filosofia della conoscenza, e in particolare da quella del filosofo Ernst Cassirer. L’originalità del libro consiste nel comprendere che il digitale sconvolgerà le forme simboliche attualmente esistenti.

Nella prima parte del libro viene illustrato al lettore l’impatto delle tecnologie nel campo del diritto e della giustizia. Per descrivere la rivoluzione antropologica del digitale riprendete la frase del giurista statunitense Lawrence Lessig: Code is Law.

Ci siamo concentranti su questa frase di Lawrence Lessig, che, come tutte le asserzioni geniali, assume in continuazione nuovi significati. Fra questi, vi è quello secondo cui c’è un vincolo interno al Codice, un vincolo che per taluni aspetti si estende al diritto. Oggi, ciò può significare che il digitale introduce una nuova legalità, nel senso che rinviene delle regolarità all’interno del ragionamento del giudice fra gli elementi prescelti e le decisioni adottate. Ciò permette di stabilire delle correlazioni, che divengono vincolanti nella pratica, anche se esse non corrispondono all’applicazione della legge. Code is Law è dunque un’espressione che apre una riflessione molto potente.

Sottolineate come tale processo implichi uno spostamento dai diritti agli interessi, come nelle operazioni commerciali.

Effettivamente, la grande mutazione che implicherà il digitale è l’introduzione di una rottura fra la forma in cui si esprime la volontà, in cui si esprime una regola e la forma che essa deve avere per essere integrata in altre proposizioni. Ciò significa che un ingegnere pretende di individuare delle correlazioni impercettibili per il giudice stesso e per il legislatore. Se uniamo tale constatazione con la frase di Holmes secondo cui «il diritto è ciò che decidono i giudici nella pratica e nient’altro», ciò significa che gli ingegneri non solo esprimeranno il diritto attraverso queste regolarità vincolanti, ma introdurranno una logica differente, privata e commerciale, all’interno di una decisione giudiziaria pubblica e di uno spazio pubblico. Non si tratta di un effetto collaterale, ma di un presupposto necessario del passaggio al linguaggio digitale come nuova forma di scrittura.

La giustizia predittiva si basa sulla sostituzione della capacità di ragionamento (giuridico) con la capacità computazionale, non si nutre di conoscenze giuridiche ma di dati (ossia le informazioni su casi simili) in cui tali conoscenze siano state già digerite e applicate. Un altro profilo di grande interesse nella vostra riflessione su tecnologia e diritto è il passaggio da un rapporto di causalità ad una correlazione tra eventi.

Il diritto è un sistema di senso. L’ordine giuridico combina una gerarchia istituzionale con una razionalità logica delle regole fra loro; e tale logica delle regole fra loro comporta una causalità giuridica, il che significa che applichiamo le regole alla luce di un tal principio o della tale regola superiore. Nel momento in cui il diritto viene limitato dalle regolarità osservate dai pratici, l’idea stessa di una causalità giuridica scompare e restano solo dei collegamenti fra parentesi. È, pertanto, una scomparsa della distinzione fra diritto e fatto.

La giustizia predittiva è già operante in alcune realtà, in particolare negli Stati Uniti. Ci arrivano notizie sull’uso di algoritmi per la concessione della libertà su cauzione o in materia di recidiva. Che rischi vede nel trasferimento di verità statistiche frutto di ricerche di gruppo all’individuo?

Negli Stati Uniti la giustizia predittiva è applicata nell’àmbito di un settore molto particolare, e non si tratta di una novità vera e propria. Il diritto penale d’autore esisteva infatti già prima del digitale. Tuttavia, il digitale ha sicuramente dato una grande spinta verso l’adozione di questo approccio. Che cosa significa? Si tratta di un approccio che ricerca la prevedibilità del comportamento criminale nella regolarità statistica tra taluni fatti ed altri. Vengono pertanto applicate tecniche sorte nelle scienze finanziarie, nell’osservazione dei vulcani o dei comportamenti della Terra al comportamento criminale. Si tratta della conseguenza diretta della sostituzione del concetto di causalità con quello di correlazione. Ciò ha permesso la creazione del famoso software Compass, che stabilisce punteggi di probabilità della recidiva. Si tratta di un software molto ben fatto e che funziona molto bene, e che è obbligatorio in alcuni Stati americani. Tuttavia, un sito ha mostrato i limiti di Compass perché proietta sul futuro le accuse all’imputato, riproducendo i pregiudizi e aumentando la stigmatizzazione razziale della società americana. Ciò si spiega scientificamente, poiché gli algoritmi, nella maggior parte dei casi, prevedono il futuro come se fosse la continuazione del passato. Negli Stati Uniti a tale proposito si discute molto. Due osservazioni al riguardo: la prima riguarda il metodo utilizzato da Compass. Si sono dovute fare delle scelte anche rispetto alle tecniche di prevedibilità. In particolare, si è deciso di privilegiare un approccio mirato rispetto ad un bilanciamento. Pertanto gli ingegneri hanno compiuto delle scelte epistemologiche e ciò mostra che altre scelte erano possibili. E, dunque, questo prova la non esaustività scientifica delle scelte di Compass. La seconda osservazione riguarda la ricerca della professoressa Angèle Christin, docente di estetica all’Università di Stanford, che ha esaminato le prassi dei magistrati; si è resa conto che i giudici usano pochissimo il software, che sarebbe obbligatorio. In materia digitale, pertanto, si ha sempre bisogno di un sociologo che mostri l’applicazione pratica degli strumenti digitali.

La forza dei Big Data sembra condurre all’uniformazione delle decisioni giudiziali. A quel punto la sua sostituzione con la macchina sembrerebbe inevitabile. Lo è davvero? O il processo può essere fermato? A chi conviene fermarlo? E a chi no? 

Non credo che il giudicare si possa mai ridurre a riempire delle caselle e che la professione del giudice possa essere sostituita dal digitale. Ciò per molte ragioni che non possono ora essere approfondite. È invece molto più interessante capire come il digitale si integrerà nel processo del giudicare, nonché riflettere su quali segmenti possano essere affidati al software. Si pongono infatti nuove questioni di responsabilità e di irresponsabilità dei giudici.

La delega alle macchine e il ricorso ai dispositivi numerici produce una desimbolizzazione e una nuova dimensione spaziale, facendo venire meno la liturgia di parola e di simboli costituita dal rito processuale. Il giudice, dunque, come bouche de la loi?

La delega alle macchine modificherà necessariamente la liturgia processuale, perché la struttura simbolica della giustizia non è più la stessa. Si tratta infatti di un rituale che è un evento sociale, che è al tempo stesso un tempo sociale e uno spazio sociale. Dall’altra parte abbiamo una reiterazione simbolica e algoritmica, l’intervento di una macchina per produrre una decisione giudiziale. Qui ancora è il giudice, a mio avviso, che deve ancora riservarsi una funzione essenziale pubblica di giustizia, ben analizzata dalla filosofia del diritto, secondo cui applicare la regola è rinnovare, precisare, interpretare la regola, cambiandola a volte in maniera infinitesimale e impercettibile. In tal modo si esprime una dinamica che parte dall’antico per creare del nuovo. L’esempio che ci tocca di più in Occidente è il Rinascimento, inteso come riscoperta dell’Antichità per inventare la modernità. Ora, tutta questa ricchezza dell’attività ermeneutica rischia di essere resa sterile dalla tecnica stessa.

Le statistiche faranno una radiografia, come dite, della produzione del giudice, raccoglieranno i precedenti. In questo modo il giudice sarà messo sotto pressione, col rischio di quello che definite un «effet moutonnier». Può spiegarci meglio questa espressione?

I giudici si troveranno ad essere sotto pressione per via della doppia lettura di questa triste radiografia delle istituzioni. Per forza di cose. Ad esempio, una start up francese propone di dire al giudice, a fronte di un caso concreto, come 100 dei suoi colleghi deciderebbero quel caso. Ciò può rendere il giudice soggetto all’opinione della maggioranza, nel caso in cui sappia, ad esempio, che il 70% dei suoi colleghi ha deciso in una data maniera. Ciò può portare il giudice a seguire la maggioranza come pecore (effet moutonnier), con un rischio di deresponsabilizzazione dello stesso. Al contrario, tuttavia, il digitale potrebbe anche sollecitare una virtù del giudice, ben poco conosciuta, ovvero quella del coraggio di giudicare, del coraggio di fare il suo lavoro anche, eventualmente, contro la maggioranza dei suoi colleghi, rivendicando una opinione dissenziente.

La mondializzazione ci aveva mostrato una «montée en puissance» dei giudici, essenziali mediatori del diritto globale. Potremmo vedere la rivoluzione digitale come il tentativo di disgregare un potere che stava diventando troppo ingombrante?

C’è una differenza evidente tra mondializzazione e rivoluzione digitale. La mondializzazione è alla ricerca di un senso di coordinamento e questa esigenza di coordinamento è stata trovata in particolare nell’agire dei giudici del mondo intero, anche attraverso la soluzione di casi tra loro assai diversi. Come diceva Dworkin, la mondializzazione potrà creare una common law su scala mondiale. Oggi con il digitale, il giudice diviene inefficace, rispetto all’avanzare delle macchine. Non si ha più il tempo di pronunciare diritto, di disperdere spazio ed energie per affrontare il caso giudiziario col risultato di una competizione terribile tra ciò che ci si aspetta, in termini di efficacia e rapidità, dagli algoritmi rispetto a ciò che possono fare i giudici.

Il nuovo “mito” di neutralità degli algoritmi promette di eliminare la figura del giudice, soggetto terzo ma considerato fallibile. Quali responsabilità porta il pensiero liberaldemocratico (soprattutto di stampo europeo-continentale) nell’aver coltivato per secoli il “mito” del giudice quale pouvoir neutre, infallibile applicatore della prescrizione prevista dalla legge?

La conseguenza più immediata, oggi, dell’avvento dell’algoritmo è che ci obbliga a reinventare e ridefinire tutti i postulati su cui abbiamo edificato i nostri sistemi giuridici: la certezza, la prevedibilità del diritto e la neutralità del giudice. Oggi, è necessario rivedere il processo e motivare perché noi preferiamo, pur con tutte le sue debolezze, una autorità umana rispetto all’automatismo delle macchine. Per quale ragione noi ci auguriamo – questa è la domanda centrale – di rimanere entro un ambito politico piuttosto che post-politico? Dobbiamo forse risponderci che la necessità deriva dal voler continuare a creare la nostra storia a livello individuale e collettivo e a non voler cedere a ciò che chiamiamo un destino “algoritmico” già scritto.

La sovranità della tecnica ambisce a sostituirsi alla sovranità politica, in nome dell’aspirazione alla perfezione neutrale, al computo esatto che la scelta umana non riesce a garantire.

Il proprium di un processo è sollecitare e promuovere un impegno umano, secondo Hannah Arendt. Ciascun giudice e ciascun operatore del diritto avranno in mente casi che si scontravano con una granitica giurisprudenza, magari proveniente dalla Cassazione, a loro contraria. Tutti i giudici ricorderanno un caso in cui il loro impegno ha dato un contributo fondamentale per cui sono riusciti a mutare la giurisprudenza, perché magari sono intervenuti al momento opportuno, in maniera adeguata e si sono create le condizioni per un cambio di traiettoria. Questi mutamenti giurisprudenziali fanno parte di istituzioni in cui interviene un essere umano, in cui sussiste una tensione tra il deontologico e il teleologico in termini filosofici, che nell’universo digitale non può verificarsi.

La giustizia predittiva può considerarsi la nuova frontiera del biopotere, inteso – à la Foucault – come potere regolatore di una massa di individui atomizzati. Quale può essere la strategia di ri-umanizzazione e di riappropriazione politica (e, di conseguenza, normativa) di questa nuova forma di “rappresentazione” del diritto?

La nostra ricerca era scettica nei confronti di coloro che offrono risposte senza aver posto correttamene le domande. Se prendiamo il biopotere, secondo le tesi di Michel Foucault, – il quale aveva compreso come il potere sugli altri coincideva con il conoscere – constatiamo che attraverso il digitale realizziamo una nuova forma di controllo gli uni sugli altri. Pensiamo ad esempio alle stelle che diamo per valutare un certo ristorante, o una locazione con Air B&b o a quando riceviamo una domanda di valutazione di una qualsiasi prestazione commerciale. Allo stesso modo, quando ha ad oggetto la persona, il giudizio si trasforma in controllo.

Ci si può dunque interrogare sul potere affidato al digitale una volta che si sono ben individuate tutte le domande che la rivoluzione dei numeri pone.

Quali vie possono essere percorse affinché il giudice possa utilizzare dati e algoritmi per migliorare la giustizia, intesa come servizio ai cittadini?

È certamente troppo presto per dare risposta e per tracciare un bilancio. Le risposte troppo rapide non permettono di vedere i benefici che porta con sé la rivoluzione digitale, anche in ambito giuridico: si pensi ad esempio alle start up nel settore della proprietà intellettuale. O ancora, si pensi ai programmi, realizzati da ottime imprese, che raccolgono in maniera perfetta i precedenti giurisprudenziali in materia. È necessario fare passi in avanti in questa direzione. Non dobbiamo essere troppo ottimisti, ma neanche troppo pessimisti, così da dimenticare i benefici che può portare la rivoluzione numerica. È necessario collocarci dentro questa rivoluzione, considerarla come un’avventura, come la continuazione dell’avventura della modernità. Prendiamo due esempi per mostrare in quale maniera l’umanità è in grado di assorbire le più significative rivoluzioni tecniche. Penso a quando, a partire dal XVIII secolo, l’uomo è stato progressivamente capace di padroneggiare il tempo, di indicare esattamente l’ora. Oggi portiamo tutti un orologio, che ci legge un tempo cosmico, che è una vera macchina e che ci permette di coordinare le nostre attività e viviamo bene con questo strumento. Il secondo esempio è il treno, invenzione straordinaria, e all’evoluzione che questo mezzo di trasporto ha avuto da quando Victor Hugo quando prendeva il treno da Anversa a Bruxelles nel 1840/50, era un’esperienza incredibile e indimenticabile … . Oggi ciascuno di noi si serve quotidianamente del treno, della metro senza che sia un’esperienza estrema e che ci impedisca di leggere mentre viaggiamo Ebbene, credo che per il digitale sia necessario un approccio analogo, cercando di integrarlo e di civilizzarlo.