Magistratura democratica

Introduzione.
Una giustizia (im)prevedibile?

di Andrea Natale

ordinamento (s.m.) «– 1. L’atto di ordinare; operazione, o complesso di operazioni, di attività, di interventi, mediante cui si dà ordine, cioè regolare disposizione, assetto, funzionamento a qualche cosa (…). 2. L’effetto dell’ordinare; il modo con cui un ente o un complesso di enti o di elementi è ordinato, cioè collocato, disposto, oppure organizzato e regolato nel suo funzionamento (…). 3. Complesso di norme che ordinano e disciplinano una determinata istituzione o attività: ordinamento giuridico (…). 4. Istituzione, in quanto ha una sua organizzazione stabile e ben definita; anche in questa accezione, soprattutto nell’espressione ordine giuridico, che comprende in sé ogni forma di organizzazione sociale (…)»[1].

 

1. Il sistema delle fonti è esploso, la qualità delle leggi pessima, le decisioni giudiziarie imprevedibili, il diritto incalcolabile. I consociati, gli attori economici sono costantemente spiazzati e non in grado di orientare i propri comportamenti. I giudici, viceversa, governano individui, società ed economia con le loro decisioni incontrollabili, senza averne la legittimazione e in violazione del principio di separazione dei poteri.

Sempre più esplicitamente, si mette in discussione la capacità ordinante del diritto e il fatto che esso possa essere uno strumento che – formalizzando regole di condotta – sia capace di indicare ai consociati il perimetro dei loro diritti e quello dei loro doveri.

In questo contesto, ci è parso necessario riflettere su uno dei temi di questi tempi: la prevedibilità del diritto. I contributi che compongono l’obiettivo che pubblichiamo in questo fascicolo si saldano idealmente con altre riflessioni da tempo già avviate da questa rivista; si allude – tra le altre – al numero monografico che Questione giustizia ha dedicato a Il giudice e la legge[2] e all’obiettivo in cui ci si è interrogati su un tema: a cosa serve la Corte di cassazione?[3].

La complessità delle questioni consente di tracciare in questa introduzione poco più che una mappa dei contenuti che il lettore troverà nei contributi qui pubblicati.

 

2. Il fascicolo è inaugurato dalla preziosa riflessione di Paolo Grossi che – in una prospettiva storica – offre una chiave di lettura al declino della prevedibilità del diritto. Senza nostalgie da parte di Grossi, peraltro: ché il diritto prevedibile è figlio dell’illuminismo francese e dell’età della codificazione; «questo interessava assai all’imperante assolutismo giuridico, perché certezza e chiarezza rendevano inammissibile l’ignoranza e ineludibile l’obbedienza. Infatti, l’esercizio delle libertà economiche, vero perno portante di una civiltà borghese (…) esigeva la protezione efficace di uno Stato tanto forte da poter garantire la impietosa disuguaglianza fra ricchi e poveri»[4]. Evidenziandone l’evoluzione attraverso alcuni passaggi storici, Paolo Grossi segue il progressivo declino dell’assolutismo giuridico (monismo giuridico) e individua – tra altri – un passaggio rivoluzionario nell’entrata in vigore della Costituzione repubblicana, che imprime nel tessuto costituzionale «una svolta pluralistica che mette definitivamente in crisi statalismo e legalismo, baluardi dell’assetto politico borghese», con una «coerente traduzione del pluralismo dal piano socio-politico a quello giuridico». Quello dei Costituenti – osserva però Grossi – non è un messaggio «anarcoide», né «anti-legalistico»; il fatto è che la Carta «si guarda bene dal ridurre il diritto a un insieme di leggi, essendo – al contrario – sommamente chiaro il nesso diritto/società con un’impostazione apertamente pluralistica»[5].

La crisi della fattispecie, il diritto imprevedibile sono, dunque, lo specchio della «incapacità dello Stato a tener dietro al movimento/mutamento di straordinarie rapidità e intensità», in un quadro in cui la complessità sociale si fa complessità (e ricchezza) giuridica.

La riflessione di Grossi si chiude – aprendo però la via agli altri contributi qui pubblicati – rilevando che «a fronte di questo logorarsi della dimensione legislativa, il salvataggio si incarna nella interpretazione, ed è naturale che l’esperienza affidi ad essa un adeguamento efficace dell’ordine giuridico (…). Al di là della politica giudici, notai, avvocati e scienziati attenti alla dinamica socio-economica, precisamente perché in approccio continuo coi fatti di vita e di essi percettori, assumono anche da noi quel ruolo protagonistico che hanno sempre avuto in assetti giuridici pluralistici».

 

3. La prima parte del contributo di Enrico Scoditti si salda idealmente alla riflessione di Grossi. Anche Scoditti individua un passaggio significativo nella comparsa sulla scena giuridica di una fonte del diritto – la Costituzione – non concepita come fattispecie: «con la comparsa della Costituzione formulata per principi ed operante quale fonte del diritto, non v’è più un limite legalistico alla giustiziabilità delle pretese soggettive (…). (… ) spetta quindi al giudice del caso concreto ricostruire la regola di giudizio, attingendo direttamente ai principi costituzionali e provvedendo al loro bilanciamento»[6]; ma è analogo – osserva Scoditti – il modo di procedere del giudice che debba decidere un caso ricorrendo a norme ordinarie formulate per clausole generali. Il contributo di Scoditti si sviluppa su due versanti; un primo versante di riflessione ha ad oggetto la stessa legittimità di simili approcci interpretativi; un secondo versante di riflessione, invece, si sofferma – nello scenario di crisi della fattispecie e di giurisdizione che argomenta muovendo da principi sulle tecniche attraverso le quali garantire la prevedibilità e la certezza del diritto (perseguendo, per usare un’immagine particolarmente efficace proposta da Scoditti, una «nomofilachia del concreto»).

L’esigenza di garantire la coerenza e la prevedibilità del diritto – anche nella sua dimensione applicativa – non può in alcun modo essere trascurata (nemmeno nella prospettiva di chi condivide il giudizio sulla crisi della fattispecie).

L’articolo di Pietro Curzio delinea le coordinate indispensabili ad affrontare in modo consapevole il tema della prevedibile applicazione del diritto (che vive nelle decisioni dei giudici e nella stratificazione dei precedenti). Qui possono essere trattati solo pochi aspetti di quella riflessione: Curzio affronta in modo particolarmente lucido le simmetriche ragioni del cambiamento e della stabilità; quanto alle prime, ricorda come il cambiamento sia talora necessitato dal mutamento di contesto normativo o culturale e sociale o anche dalla spinta che deriva dalle osservazioni critiche provenienti dalla comunità degli interpreti; quanto alle ragioni della stabilità, Curzio rimarca che, anch’esse, sono ancorate a principi di rilievo costituzionale: la tutela dell’affidamento del consociato; la possibilità per ciascuno di orientare i propri comportamenti anche in relazione alle conseguenze che potrebbero derivarne; la possibilità di prevedere l’esito di un giudizio, che costituisce componente del diritto di difesa costituzionalmente garantito; la prevedibilità e la stabilità della giurisprudenza come fattore di garanzia di un eguale trattamento dei cittadini davanti alla legge; la prevedibilità e la stabilità del diritto come precondizione di un giusto processo di durata ragionevole[7].

 

4. Quello descritto dagli autori appena citati è un delicato equilibrio; una giurisprudenza cristallizzata, stabile, indifferente all’interlocuzione con la comunità degli interpreti, impermeabile all’evoluzione della società, dell’economia, dei costumi e via seguitando non conoscerebbe la tutela aquiliana del credito, il danno biologico, la tutela aquiliana dell’interesse legittimo e molto altro ancora (basti pensare alle nuove tecnologie e ai temi di carattare bio-etico che esse sollevano in campo di diritti della persona). In altri termini: «l’ordinamento deve lasciare spazio all’evoluzione della giurisprudenza». Tuttavia, «le ragioni per il cambiamento devono essere forti, consapevoli e convincenti. Devono essere in grado di prevalere sulle ragioni della stabilità, che sono a loro volta importanti e hanno implicazioni di ordine costituzionale»[8].

 

5. Ma si pone a questo punto un interrogativo. L’affascinante riflessione di Grossi sul declino del ruolo della legge, l’attribuzione alla comunità degli interpreti e, soprattutto, al giudice di un ruolo non puramente passivo nell’interpretazione/invenzione del diritto è riscontrabile anche nell’ambito del diritto penale? e, se così è, è costituzionalmente tollerabile – e fino a che punto – l’accresciuto rilievo del momento interpretativo?

La Costituzione repubblicana – in chiave garantista – pretende che le fattispecie di reato siano previste dalla legge, determinate e irretroattive; in particolare, «la riserva di legge, nell’accezione recepita dall’articolo 25, secondo comma, Cost. (…) demanda il potere di normazione in materia penale – in quanto incidente sui diritti fondamentali dell’individuo, e segnatamente sulla libertà personale – all’istituzione che costituisce la massima espressione della rappresentanza politica: vale a dire al Parlamento, eletto a suffragio universale dall’intera collettività nazionale»[9]. Inoltre, l’articolo 27 della Costituzione pretende – al comma 1 – che la responsabilità penale sia sorretta da un coefficiente di colpevolezza ed esige – al comma 3 – che l’irrogazione di una sanzione penale sia giustificata dall’esigenza di rieducare il condannato.

Il logico corollario è che – per ritenere taluno colpevole,per ritenere necessaria la rieducazione e giustificata la pena è necessario che egli sia stato messo in grado di prevedere la conseguenza delle sue azioni. E in tal senso sono talune affermazioni della celebre sentenza della Consulta n. 364 del 1988, che evidenziano che, in un ordinamento che voglia dirsi democratico, la legittimazione del diritto penale a punire qualcuno riposa non solo sul rango primario della fonte, ma anche sulla sua prevedibile applicazione ad un certo caso: «l'ordinamento democratico (…) è tale in quanto sappia porre i privati in grado di comprenderlo, senza comprimere la loro sfera giuridica con divieti non riconoscibili ed interventi sanzionatori non prevedibili»[10].

Sennonché, sebbene con un livello di fluidità forse inferiore a quello riscontrabile in ambito civile, anche nel settore penale si registrano vari elementi di crisi del principio di legalità: il contributo di Donato Castronuovo si sofferma su questi temi, ragionando sulla «crisi della fattispecie», indagando sulle cause esogene, ma soprattutto sulle cause «endogene» di tale fenomeno; Castronuovo individua nella penetrazione di clausole generali (tanto di matrice legislativa quanto di matrice giurisprudenziale) nel perimetro della fattispecie penale un decisivo fattore di crisi della legalità penale (e, conseguentemente, un fattore di crisi per la certezza/prevedibilità del diritto). Castronuovo ripercorre alcuni esempi paradigmatici e registra – come un dato di fatto – un atteggiamento tollerante della Corte costituzionale, allorché si trova a giudicare della legittimità costituzionale di precetti in cui si ricorre a formule elastiche; il che – rileva Castronuovo – suscita perplessità, ove si consideri «la quasi assenza (…) di declaratorie di illegittimità riguardanti le condizioni di qualità della norma e la sua capacità di parlare ai destinatari»[11]. Anche il successivo contributo di Ombretta Di Giovine ripercorre svariati esempi in cui l’interprete sembra aver travalicato il testo della legge o artatamente ricostruito i fatti storici in funzione di un certo risultato interpretativo, talora giungendo a vere e proprie distorsioni interpretative (con conseguente deficit di prevedibilità/certezza del diritto); Ombretta Di Giovine rileva che si tratta di un fenomeno pressoché connaturale all’attività interpretativa (per la “natura” dell’attività interpretativa, per la “natura” del suo oggetto, per i meccanismi di funzionamento della mente umana e per l’ineliminabile presenza di fattori culturali che influenzano l’interprete). Sennonché – osserva Di Giovine, con una conclusione che spiazza il “lettore classico” del diritto penale, il quale istintivamente fatica a condividerla – «non è raro che un approccio (moderatamente) antiformalistico conduca a conclusioni più garantiste di chi argomenta a favore del cieco rispetto della littera legis, posto che la garanzia è negli occhi di chi legge il testo, piuttosto che nel testo in sé»[12].

Sempre sul terreno della prevedibilità del diritto penale – e sempre sul terreno di un rafforzamento delle garanzie per i consociati – occorre richiamare il contributo di Carlo Sotis che, dopo aver ripercorso alcuni arresti giurisprudenziali della Corte Edu in materia penale e alcuni tratti della cd. saga Taricco, si sofferma sull’innalzamento del livello di garanzie che può derivare dall’interazione tra diritto Ue, garanzie convenzionali (che hanno come fuoco di interesse la prevedibilità di conseguenze penali a fronte di un certo comportamento) e garanzie costituzionali (che impongono che il comportamento vietato sia tipizzato dal legislatore in modo determinato)[13].

La serie dei contributi “penalistici” si chiude con il saggio di Massimo Donini. Si tratta di una riflessione importante, che non può essere qui riassunta. In questa introduzione ci si può solo limitare ad evidenziare che l’autore offre al lettore una serie di strumenti metodologici utili a disvelare i casi in cui il ruolo dell’interprete rischia di farsi – o si è concretamente fatto – preponderante rispetto alla lettera della legge, con esiti che pongono in discussione la stessa tenuta del principio di legalità. Non ogni lettore concorderà con tutti gli esempi e con tutte le riflessioni proposte da Donini, ma, certo, con esse dovrà confrontarsi.

Ma – al di là dei singoli esempi proposti nel contributo – ciò che è qui opportuno rimarcare è un altro aspetto sul quale si sofferma Donini: l’ermeneutica penale può essere considerata un’operazione legittima se l’interprete si muove nel rispetto di un preciso quadro di garanzie dovute ai consociati (garanzie di conoscenza/conoscibilità della legge, del diritto e della qualificazione giuridica) che derivano dall’interazione tra la Carta costituzionale (articoli 25 e 27 Cost.) e alcune fonti sovranazionali (in particolare l’articolo 7 Conv. Edu)[14] e se l’interprete agisce nel rispetto di alcune regole deontologiche che necessariamente debbono guidare l’attività interpretativa[15].

 

6. Il rilievo che assumono nell’ordinamento le garanzie convenzionali (di cui i contributi di Sotis e Donini sono testimonianza) ha poi imposto una riflessione sulla “prevedibilità” delle decisioni della Corte Edu.

Il sistema di garanzie convenzionali si fonda – oltre che sul testo della Convenzione e dei suoi protocolli addizionali – sulla stratificazione di decisioni giurisprudenziali della Corte di Strasburgo. La giurisprudenza della Corte Edu – già a partire dal Caso Irlanda-Regno Unito (causa n. 5310/71), sentenza del 18 gennaio 1971, in un caso in cui il governo del Regno Unito lamentava il fatto che dalla decisione della Corte non sarebbero comunque discesi effetti concreti – aveva osservato che «le decisioni della Corte non servono solo a risolvere il caso per cui essa è interpellata, ma, più in generale, a chiarire, salvaguardare e sviluppare le norme della Convenzione e a contribuire alla sorte del rispetto –da parte degli Stati – degli obblighi che essi hanno assunto nella loro qualità di Alte Parti contraenti»[16].

Il che pone la questione della stabilità della giurisprudenza e della prevedibilità delle decisioni della Corte Edu. Quest’ultima si preoccupa di assicurare che, nel “costruire” la sua giurisprudenza, essa garantirà una certa stabilità giurisprudenziale; in altre parole: «la Corte non è vincolata dalle sue precedenti decisioni (…) Tuttavia, la Corte, di regola, osserva ed applica i propri precedenti, essendo ciò nell’interesse della certezza del diritto e dell’ordinato sviluppo della sua giurisprudenza (in the interests of legal certainty and the orderly development of the Convention case-law). Nondimeno, ciò non impedisce alla Corte di discostarsi da proprie precedenti decisioni se la Corte ritiene che vi siano “cogenti ragioni” per determinarsi a ciò. (…) ciò per garantire che l’interpretazione della Convenzione rifletta i cambiamenti sociali e resti in linea con le condizioni attuali»[17].

Il contributo di Maria Giuliana Civinini ragiona proprio sul “valore” che la Corte Edu attribuisce ai propri precedenti e sulle tecniche utilizzate per assicurare la certezza del diritto e per riconoscere la propria giurisprudenza consolidata (in chiave di prevedibilità delle proprie decisioni); al tempo stesso, il contributo di Civinini permette però di individuare quali siano – nel concreto formarsi della giurisprudenza di Strasburgo – i fattori di dinamismo e di evoluzione e le ricadute che quella giurisprudenza può avere negli ordinamenti statuali[18].

 

7. Una volta delineato il quadro di fondo, occorre a questo punto ragionare di come in concreto la legge positiva e l’interpretazione che ne danno gli interpreti assicurino il contemperamento – per parafrasare Curzio – delle «ragioni del cambiamento» con le «ragioni della stabilità». Il tutto in un contesto che – oramai è chiaro – attribuisce un rilievo sempre più decisivo al cd. formante giurisprudenziale: osserva Scoditti che «bisogna liberarsi dalla mistica della scoperta giurisdizionale del diritto. Quando il giudice bilancia i principi costituzionali in relazione alle circostanze del caso non rinviene un diritto preesistente, che si rispecchi nella sua decisione, ma costruisce la disciplina relativa alla singola controversia»[19]; e ciò vale non solo per il civilista: rileva provocatoriamente Donini che anche «il penalista sa bene oggi che solo i commentari dicono la verità»[20].

Ecco allora il rilievo degli altri contributi pubblicati in questo fascicolo. Martina Condorelli e Luca Pressacco definiscono il concetto di overruling, indagano sulle ricadute che esso può avere sulla posizione dei consociati, “sorpresi” da un repentino e imprevedibile mutamento di giurisprudenza e riflettono sui possibili rimedi che possono darsi nel settore civile, amministrativo e penale (tanto nella prospettiva sostanziale quanto in quella processuale) – per tutelare l’affidamento delle parti processuali (non escludendo dalla loro riflessione lo stimolante tema del prospective overruling).

Alberto Giusti e Giorgio Fidelbo indagano invece sui meccanismi che – in concreto – la Corte di cassazione ha a propria disposizione per assicurare «l’esatta osservanza e l’uniforme interpretazione della legge»[21]. Ambedue gli autori si soffermano sulle modifiche normative che hanno ad oggetto i rapporti tra sezioni semplici e sezioni unite della Corte di cassazione[22]; dai rispettivi punti di vista, Giusti e Fidelbo si interrogano sulle implicazioni che l’introduzione di un vincolo di coerenza tra sezioni semplici e sezioni unite riversa sul piano costituzionale (rispetto al dettato dell’articolo 101 Cost.) e sul piano del concreto funzionamento istituzionale (la percezione che ciascun giudice di legittimità ha del proprio ruolo)[23]; ambedue gli autori tendono ad escludere che i meccanismi previsti dall’articolo 374, comma 3, cpc e 618, comma 1 bis, cpp determinino una sovra-ordinazione gerarchica delle sezioni unite rispetto alle sezioni semplici, ridotte ad organi giudiziari di “bassa-cucina”; al contrario – ambedue gli autori – rilevano che l’attuale articolazione del rapporto tra sezioni unite e sezioni semplici razionalizza il sistema, riduce il disordine casistico, previene fenomeni di patologia giudiziaria; in altri termini: «l’obbligatorietà della rimessione [alle sezioni unite] non deve essere intesa come una limitazione all’interpretazione ovvero come un meccanismo burocratico, bensì come un momento di dialogo paritario tra sezioni della Corte di cassazione nella costruzione, condivisa, del precedente»[24]; si tratta di «una regola di metodo che conferisce ordine discorsivo al dinamismo nomofilattico»[25].

Ma la concreta prevedibilità del diritto – l’effettività della funzione nomofilattica – non può risultare circoscritta all’interno delle mura della Corte di cassazione: «la nomofilachia moderna non può essere che “orizzontale”, “circolare” e “cetuale”. Essa trova il naturale punto di sintesi nella Corte di cassazione, ma è promossa dai giudici di merito, i primi a confrontarsi con la fluidità sociale; e torna ai giudici di merito, che misurano gli effetti pratici della giurisprudenza di legittimità. Non le magistrature soltanto, bensì tutto il “ceto dei giuristi” fa nomofilachia. Fondamentale è il ruolo critico della dottrina, alla quale compete l’analisi delle soluzioni e l’elaborazione delle alternative»[26].

Ecco allora che si apprezza la preziosa funzione che rivestono l’attività dell’Ufficio del massimario della Corte di cassazione e del Centro di elaborazione dati della Corte di cassazione, sulla cui storia e sui cui meccanismi di funzionamento si sofferma il contributo di Enzo Vincenti[27]. Quest’ultimo – nel quadro di una riflessione ben più ampia di quella che è qui possibile restituire – evidenzia come la condivisione dei dati giurisprudenziali (anche di quelli che verranno riversati nel costituendo archivio della giurisprudenza di merito) consente (e sempre più consentirà) di rendere maggiormente prevedibile l’esito dell’attività ermeneutica (soprattutto considerando la crescente potenza degli strumenti informatici che, grazie alle raffinate architetture dei motori di ricerca, consentiranno di rendere il diritto – se non computabile – quantomeno un po’ meno incalcolabile, sino a non potersi escludere la realizzazione di una sorta di «sistema predittivo»).

 

8. Il contributo di Vincenti introduce l’ultimo tema al quale la Rivista ha inteso dedicare la propria attenzione. Si allude al tema dell’uso delle “macchine” per migliorare l’efficienza del sistema giudiziario e – ciò che qui interessa – la prevedibilità del diritto.

La rivoluzione digitale è in atto e sempre più settori della nostra esperienza quotidiana sono “controllati” – quando non dominati – da strumenti di intelligenza artificiale: algoritmi sempre più raffinati risolvono problemi, ci aiutano nelle incombenze quotidiane, ci suggerisconocosa desideriamo e, soprattutto, comunicano agli operatori economici quali potrebbero essere i nostri comportamenti futuri (prevedendo cosa desidereremo comprare, visitare, mangiare, e via seguitando).

L’efficienza di questi algoritmi predittivi si fonda sulla potenza di calcolo delle macchine, sulla loro capacità di far interagire tra loro una quantità smisurata di dati (i big data), ricavandone significati, sulla capacità di “scoprire” relazioni tra essi, individuando i dati che “caratterizzano” una persona e i successivi comportamenti che questa persona terrà. Si badi: l’algoritmo predittivo è uno strumento che ha – tra le altre – una funzione di semplificazione della realtà, sì da renderla “utilizzabile” in chiave predittiva; spesso l’algoritmo funziona anche su schemi di tipo probabilistico, sicché esso non sempre è in grado di offrire “la risposta” certa alla domanda “quale sarà il futuro comportamento di Tizio” e lo sviluppo di un certo scenario; né sarà in grado di individuare e descrivere meccanismi di condizionamento causale tra certi antecedenti e la conseguenza che l’algoritmo prevede possa verificarsi (essendo solo possibile stabilire che vi è una certa ricorrenza probabilistica della relazione tra un certo antecedente e una certa conseguenza, sì da poterne ricavare comunque una previsione)[28]. Inoltre, molti algoritmi funzionano sulla base di programmi che consentono all’elaboratore di “migliorare” progressivamente la propria efficienza (“apprendendo” dalle precedenti applicazioni l’esistenza di certe relazioni, sì da perfezionare l’efficacia delle successive elaborazioni; si tratta del cd. machine learning)[29].

È di tutta evidenza che una simile potenza di calcolo può trovare applicazione anche in campo giudiziario.

Per essere più espliciti: gli algoritmi possono avere una funzione di supporto nella valutazione del compendio probatorio (cd. algoritmi decisori) che, dunque, “guardano al passato”, applicando funzioni di calcolo (anche probabilistico) agli elementi di prova raccolti nel corso di un giudizio, sì da stabilire se una determinata ipotesi sia corroborata da elementi di prova che ne attestano la conferma «al di là di ogni ragionevole dubbio» (cd. regola B.A.R.D); gli algoritmi possono poi avere una funzione che “guarda al futuro” che, cioè, formula valutazioni prognostiche (cd. algoritmi predittivi).

Nel loro contributo, Claudio Castelli e Daniela Piana[30] ragionano sul potenziale aiuto che la rivoluzione digitale e gli strumenti di giustizia predittiva potranno garantire al sistema della giustizia. Castelli e Piana descrivono la giustizia predittiva come un insieme di«algoritmi che hanno come campo di applicazione contenuti decisionali, testi di sentenze, decreti, atti del giudice in genere, banche dati giurisprudenziali, appartenenti a sistemi anche molto diversi e distanti fra loro per sensibilità culturale. Tali algoritmi sono strutturati come funzioni i cui argomenti sono appunto tali ambiti e i cui risultati sono “probabilità” di costo, orientamento decisionale, range di penalità, range di indennizzi, ecc.»[31].

I sistemi di giustizia predittiva possono avere una pluralità di concrete applicazioni: può indirizzare gli operatori, rendendo loro noto quale potrebbe essere l’esito di una controversia (sì da indurli a rinunciare ad un contenzioso che li vedrebbe probabilmente soccombenti, con conseguente effetto deflattivo); può essere valorizzata nei sistemi di risoluzione alternativa delle controversie; può essere messa a disposizione degli operatori giudiziari, sì da consentire loro una autentica consapevolezza dei trend giurisprudenziali e favorendo la possibilità di ridurre l’errore in sede di decisione. L’applicazione di algoritmi alla pratica giudiziaria può – in definitiva – rendere più veloce la giustizia, ridurre il numero di bias in cui fatalmente rischiano di incappare i “giudici umani” e al quale sarebbero sottratti i «robogiudici»[32].

Non è uno scenario futuribile. Castelli e Piana danno conto di alcune esperienze già in atto, con aziende cd. legaltech che già mettono a disposizione dei loro clienti strumenti di giustizia predittiva, uno dei quali (il sistema Predictice)è stato anche messo a disposizione, in via sperimentale, dai giudici di due corti di appello francesi (le Corti di appello di Rennes e di Douai)[33].

La capacità di tali sistemi di offrire risultati efficaci – in termini di capacità predittiva – può, in prospettiva, condurci a spazzare via, in modo più o meno brutale e con una serie più o meno limitata di operazioni logico-matematiche, tutte le raffinate considerazioni che caratterizzano i contributi pubblicati in questo obiettivo, per poi portarci direttamente nel futuro.

Ma l’uso degli algoritmi – siano essi decisori o predittivi – da parte degli operatori giudiziari è uno scenario che, forse irreversibile (data la marcia apparentemente inarrestabile dell’evoluzione tecnologica), deve comunque essere maneggiato con grande consapevolezza e cautela.

Nella prima parte del suo contributo, Claudio Costanzi ragiona sui modelli matematici applicati alla valutazione delle prove (che, sulla base di determinate funzioni di calcolo, ben potrebbero essere governati da algoritmi) e sicuramente riconosce loro una capacità di razionalizzazione del momento del giudizio; tuttavia – avverte Costanzi – la affidabilità di tali modelli (che propongono un approccio quantitativo alla valutazione probatoria) è fortemente condizionata dalla difficoltà di tradurre in dati misurabili matematicamente gli input che dovrebbero costituire la base di calcolo dell’algoritmo decisorio: come quantificare l’evidenza probatoria P1? come misurare il valore “statistico” – e dunque il valore euristico – di una certa massima di esperienza? E – anche ammettendo di riuscire ad ottenere un risultato probabilistico di conferma di un’ipotesi d’accusa – a quale soglia statistica collocare il “ragionevole dubbio”?[34].

Tali difficoltà – in uno con l’esigenza garantista di scongiurare il rischio di costringere l’imputato «a doversi difendere da un dato statistico apparentemente invincibile e sottratto, in relazione all’accertamento del nesso causale, al rigore del ragionamento controfattuale» – inducono Costanzi a constatare il «fallimento degli approcci (esclusivamente) quantitativi» e ad auspicare la valorizzazione di quei modelli matematici unicamente come modelli euristici ai quali attribuire – al più – la valenza di dati di conferma rispetto al risultato probatorio ottenuto dal decisore tramite un metodo valutativo condotto sulla scorta della concezione qualitativa[35].

La seconda parte della riflessione di Costanzi ruota attorno agli algoritmi predittivi applicati alle decisioni giudiziarie, dando conto di alcune esperienze straniere in cui essi sono stati già concretamente sperimentati[36]: Costanzi ritorna sull’algoritmo già sviluppato in Francia (Predictice, oggetto di considerazione anche da parte di Castelli e Piana e sul quale poi si soffermano anche Barbaro e Gaboriau), l’algoritmo elaborato dall’University College of London per prevedere l’esito di decisioni che la Corte Edu avrebbe adottato in caso di lamentate violazioni degli articoli 3, 6 e 8 della Convenzione (algoritmo che ha avuto una capacità predittiva esatta nel 79% dei casi poi esaminati dalla Corte) e, soprattutto, l’algoritmo già concretamente usato da alcune corti statunitensi denominato Compas (Correctional offender management profiling for alternative sanctions)[37].

Quest’ultimo caso merita una riflessione lievemente più approfondita già in questa introduzione[38]: si tratta di un algoritmo elaborato per la previsione su base statistica della probabilità di recidiva relativa ad una persona (principalmente nella prospettiva di adottare decisioni che lo riguardano nella fase del trattamento penitenziario e dell’accesso a misure alternative alla detenzione). L’applicazione dell’algoritmo Compas ha comportato il diniego ad un cittadino (Loomis) della misura della libertà vigilata; nel contenzioso che ne è scaturito, la Corte suprema del Wisconsin ha escluso che fosse possibile per la difesa di Loomis prendere in visione la struttura dell’algoritmo (trattandosi di prodotto protetto da diritti di proprietà intellettuale) e ne ha ammesso anche l’uso in via giudiziaria, avvertendo però che l’esito dell’algoritmo predittivo – avendo un rilievo statistico – non può costituire l’unico criterio decisorio, essendo diritto dell’imputato quello di avere una decisione individualizzata[39].

Il caso Loomis è un caso che, in modo paradigmatico, squaderna molti dei problemi che l’applicazione di algoritmi predittivi in sede giudiziaria può sollevare. Ci limitiamo ad enumerare alcuni dei problemi che la loro applicazione può sollevare (e che sono oggetto di attenta considerazione nei contributi di Clementina Barbaro[40], Antoine Garapon[41] e Simone Gaboriau[42] che pubblichiamo in questo fascicolo):

(a)    il risultato fornito dagli algoritmi predittivi è necessariamente influenzato dalla qualità dei dati che vengono posti come input; ne discende che è indispensabile prevedere meccanismi che assicurino: (a.1) la qualità del dato; (a.2) l’indipendenza della fonte da cui provengono i dati; (a.3) l’indipendenza dell’autorità che raccoglie i dati; (a.4) l’accessibilità a tutti dei dati posti come input dell’algoritmo[43];

(b)    è necessario scongiurare il rischio che l’algoritmo possa avere un esito discriminatorio fondato su dati personali sensibili, tra cui la razza e l’estrazione sociale (come è stato evidenziato in alcuni studi americani proprio con riferimento a Compas e a strumenti simili)[44]; si è osservato che «i sistemi automatizzati affermano di valutare tutti gli individui allo stesso modo, evitando così le discriminazioni. Possono garantire che alcuni datori di lavoro non basino più le assunzioni e i licenziamenti sui sospetti o pregiudizi. Ma sono gli ingegneri del software a costruire insiemi di dati estratti dai sistemi di punteggio; a definire i parametri delle analisi di data mining; a creare i cluster, i collegamenti, gli alberi decisionali applicati; a generare i modelli predittivi applicati. I pregiudizi e i valori umani sono incorporati in ogni singola fase dello sviluppo. L’informatizzazione può semplicemente trasferire la discriminazione più a monte»[45]; analoghi rischi di discriminazione si potrebbero ovviamente determinare anche per gli algoritmi di giustizia predittiva[46];

(c)    la verificabilità o meno della struttura dell’algoritmo; un algoritmo ha una sua struttura che non è neutra; come appena detto, nel concepire l’architettura di un algoritmo, il programmatore fa delle scelte che, necessariamente, influenzano il risultato dell’operazione computazionale; il programmatore può fare degli errori di progettazione; un algoritmo la cui struttura sia protetta da diritti di proprietà intellettuale e non open source è sottratto alla possibilità di controllo, verifica e confutazione da parte della parte processuale e, più in generale, della comunità degli utenti[47]; ciò comporta non pochi problemi, tanto sotto il profilo della validazione dell’affidabilità scientifica del risultato che l’algoritmo restituisce, quanto sotto il profilo del diritto di difesa; si ritiene, pertanto, indispensabile che – laddove si voglia davvero fare un uso processuale di algoritmi predittivi da parte del sistema giudiziario (che è un sistema per sua natura pubblico) – nessun segreto possa essere posto sull’architettura degli algoritmi e dei dati che lo alimentano; si deve poi elaborare un meccanismo che assicuri anche l’indipendenza di chi ha elaborato l’algoritmo (che senso ha costituzionalizzare l’indipendenza del giudice e la sua soggezione solo alla legge se non si coltiva analoga pretesa a chi elabora uno strumento decisorio di simile portata?);

(d)   l’algoritmo – anche ove usato non come strumento decisorio esclusivo, ma come mero supporto alla decisione del giudice – richiede formazione; è dunque indispensabile formare il personale giudiziario che potrebbe doversene avvalere;

(e)    l’algoritmo predittivo – muovendo da una elaborazione della giurisprudenza e dei casi precedenti – può indicare non “il risultato” esatto di una certa controversia, ma il suo possibile esito, evidenziando quali siano le linee giurisprudenziali prevalenti e quali gli esiti concreti che si sono dati in casi simili; ciò, però, comporta più di un rischio: (e.1) l’algoritmo non è in grado di “riconoscere” che quello a lui sottoposto non è un caso simile; vi sono delle singolarità che un decisore umano, forse rileverebbe e che lo porterebbero ad operare un distinguishing; l’algoritmo non è progettato per prevedere questa evoluzione; (e.2) per la stessa ragione, l’algoritmo può favorire quello che Garapon – nell’intervista qui pubblicata – chiama come effetto moutonnier (effetto pecora nel gregge): è concreto, in altri termini, il rischio di indurre il giudice pigro ad adagiarsi sulla proposta dell’algoritmo senza assumere su di sé l’autentica responsabilità del giudizio che egli emette[48]; (e.3) per la stessa ragione, l’uso di algoritmi può favorire una cristallizzazione della giurisprudenza, rendendola meno sensibile ai cambiamenti sociali (e, di fatto, rendendoli meno probabili).

Le criticità ora segnalate non sono estranee alla riflessione pubblica, come del resto testimoniato dai contributi qui pubblicati e dalla recente adozione da parte del Cepej della prima Carta etica europea sull'uso dell'intelligenza artificiale (AI) nei sistemi giudiziari[49].

Ma, nonostante tutte le “resistenze” culturali che si possono coltivare al riguardo, «la questione non è di essere a favore o contro la giustizia predittiva: “lei” è lì, e non sparirà tanto presto dal nostro orizzonte, perché è integrata al mercato, attesa dai nostri contemporanei e, soprattutto, è il risultato di una convergenza tra scienza, tecnica e giustizia. (…) è per questo che è preferibile, non negare in blocco la sua rilevanza, ma recensire le molteplici difficoltà che essa pone e che possono essere di natura epistemologica, politica o giuridica»[50].

 

9. Il “fattore umano”, il giudizio di un uomo non è però totalmente surrogabile da una macchina, come confermato dal fatto che perfino sistemi di lavoro concepiti su base quasi esclusivamente algoritmica demandano il compimento di singole specifiche attività ad operatori umani (che risultano più efficienti delle macchine nel compimento di alcune operazioni intellettuali che richiedono una sensibilità valutativa tipicamente umana e che sono necessarie per il funzionamento dell’algoritmo); qui, il sistema, paradossalmente è capovolto: non è l’algoritmo al servizio dell’uomo, ma l’uomo al servizio dell’algoritmo[51]; ma – pur nella paradossalità dell’esempio – resta il fatto che le stesse macchine riconoscono che, dell’uomo, non si può fare a meno. E si prescinde volutamente da ogni considerazione etica (aspetto che, però, è imprescindibile, sebbene non possa essere qui trattato).

L’ineliminabilità della componente umana nel momento del giudizio rende ovviamente quest’ultimo fallibile e, talora, imprevedibile. Ecco allora che, in conclusione, è forse possibile seguire l’ideale parabola che sarà percorsa in questo obiettivo: pubblichiamo qui contributi che attraversano il tema della prevedibilità con riferimento al diritto civile, al diritto penale, alla Convenzione Edu, oltre che con riferimento ai meccanismi di funzionamento di chi – la Corte di cassazione – dovrebbe garantire la prevedibilità del diritto; e – come visto – si tenterà di ragionare su un’ulteriore fascinazione contemporanea: l’intelligenza artificiale applicata alla giustizia, gli algoritmi e la giustizia predittiva.

Il filo rosso che crediamo si debba scorgere tra i vari contributi che compongono questo fascicolo è il seguente: non si possono ignorare le «ragioni della stabilità»; lo esigono elementari esigenze di garanzia (che – pur in modo diverso – si danno sia nel settore civile, sia nel settore penale), la necessità di assicurare l’uguaglianza dei cittadini di fronte alla legge, la necessità di consentire a ciascuno di orientare i propri comportamenti anche in relazione alle conseguenze che ne possono derivare. E in questa prospettiva è doveroso che la giurisdizione si interroghi sul come assicurare la prevedibilità del diritto (di qui il rilievo dei ragionamenti sui concreti meccanismi di funzionamento della nomofilachia e sugli strumenti – anche tecnici – che possono aiutare la giurisdizione ad essere più prevedibile).

Ma, per contro, non si possono ignorare nemmeno le «ragioni del cambiamento»: è necessario evitare – come avverte Grossi (con riferimento alla codificazione francese post-rivoluzionaria, ma con riflessioni che valgono anche per l’oggi) – che la prevedibilità del diritto sia solo lo strumento che viene utilizzato per «poter garantire la impietosa disuguaglianza fra ricchi e poveri», in una visione fortemente riduttiva di una realtà sociale e giuridica di straordinaria ricchezza e complessità.

E, dunque, quando è la complessità della realtà ad imporlo, i giudici – che, come ricorda Grossi, sono (con avvocati e notai) «in approccio continuo coi fatti di vita e di essi percettori» – hanno il dovere di garantire il rispetto delle promesse costituzionali; ricordando che la Costituzione è una polemica non solo contro il tragico passato pre-repubblicano, ma – come insegna l’articolo 3 – anche una «polemica contro il presente, contro la società presente. (…) Dà un giudizio, la Costituzione – un giudizio polemico – contro l’ordinamento sociale attuale, che bisogna modificare attraverso questo strumento di legalità, di trasformazione graduale, che la Costituzione ha messo in mano ai cittadini italiani. Ma non è una Costituzione immobile, che abbia fissato un punto fermo, è una Costituzione che apre le vie verso l’avvenire. (…) è una Costituzione rinnovatrice, progressiva, che mira alla trasformazione di questa società»[52].

E per portare avanti una simile sfida – quella di contemperare le ragioni del cambiamento con quelle della stabilità – servono sguardo attento sulla realtà, rigore tecnico, intelligenza interpretativa, indipendenza, onestà intellettuale e, talora, anche coraggio civile. Una macchina, forse, non basta; anche se intelligente, prevedibile e veloce.

[1] Ordinamento, Treccani, Vocabolario on line.

[2] Questione giustizia trimestrale, n. 4/2016, www.questionegiustizia.it/rivista/2016-4.php.

[3] A cosa serve la Corte di cassazione? Questione giustizia trimestrale, n. 3/2017, www.questionegiustizia.it/rivista/2017-3.php.

[4] In questo fascicolo, cfr. P. Grossi, Storicità versus prevedibilità: sui caratteri di un diritto pos-moderno, § 3.

[5] Id., Storicità versus prevedibilità, cit., § 7.

[6] In questo fascicolo, cfr. E. Scoditti, Giurisdizione per principi e certezza del diritto, § 1.

[7] In questo fascicolo, cfr. P. Curzio, Il giudice e il precedente, §§ 6-8.

[8] Id., Il giudice e il precedente, cit. § 6.

[9] Cfr. Corte costituzionale, sentenza n. 230 del 2012, considerato in diritto, punto n. 7. Per una particolare attenzione alla qualità della fonte delle norme penali, v. G. Leo, Le trasformazioni della legalità penale nel sistema multilivello delle fonti, Questione giustizia trimestrale, 4/2016, pp. 161 ss., www.questionegiustizia.it/rivista/pdf/QG_2016-4_13.pdf.

[10] Corte costituzionale, sentenza n. 364 del 1988, considerato in diritto, punto n. 21.

[11] In questo fascicolo, cfr. D. Castronuovo, Clausole generali e prevedibilità delle norme penali §§ 2-4.

[12] In questo fascicolo, cfr. O. Di Giovine, Salti mentali. Analogia e interpretazione nel diritto penale, § 10. Al riguardo ci si permette di evidenziare che una simile affermazione – che implica un allentamento del principio di legalità – possa essere condivisa sul piano dei principi costituzionali solo ove l’approccio (moderatamente antiformalistico) si rivolga in favor rei.

[13] In questo fascicolo, cfr. C. Sotis, Ragionevoli prevedibilità e giurisprudenza della Corte Edu, § 4.2.

[14] In questo fascicolo , cfr. M. Donini, Fattispecie o case law? La “prevedibilità del diritto” e i limiti alla dissoluzione della legge penale nella giurisprudenza, § 17.

[15] Cfr. M. Donini, Fattispecie o case law?, cit., § 18.

[16] Cfr. Corte Edu, Caso Irlanda-Regno Unito (causa n. 5310/71), sentenza del 18 gennaio 1971, punto 154 della decisione; traduzione di chi scrive.

[17] In tal senso, Corte Edu, caso Cossey c. Regno Unito, ric. 10843/84, sentenza del 27 settembre 1990, paragrafo 35 (traduzione di chi scrive).

[18] In questo fascicolo, cfr. M.G. Civinini, Il valore del precedente nella giurisprudenza della Corte europea dei diritti dell’uomo.

[19] Cfr. E. Scoditti, Giurisdizione per principi e certezza del diritto, § 3.

[20] Cfr. M. Donini, Fattispecie o case law?, cit., § 15.

[21] Articolo 65 Rd n. 12 del 1941, ordinamento giudiziario. P. Curzio, Il giudice e il precedente, cit., § 7, esattamente osserva che la formula legislativa – menzionando «l’esatta osservanza» in modo distinto dalla «uniforme interpretazione» – dà per presupposto che, da una certa disposizione, possano essere ragionevolmente tratte più interpretazioni (tutte plausibili e “non necessariamente inesatte”).

[22] Si allude alla previsione dell’articolo 374 cpc, come modificato con d.lgs n. 40 del 2006 e a quella dell’articolo 618, comma 1 bis, cpp, come novellato dalla legge n. 103 del 2017.

[23] In questo fascicolo, cfr. A. Giusti, Il precedente nel rapporto tra sezioni unite e sezioni semplici: l’esperienza della Cassazione civile; G. Fidelbo, Il precedente nel rapporto tra sezioni unite e sezioni semplici: l’esperienza della Cassazione penale.

[24] Cfr. G. Fidelbo, Il precedente, cit., § 3.5.

[25] Così – citato da A. Giusti, Il precedente, cit., § 2 – si esprime G. Canzio, Nomofilachia e diritto giurisprudenziale, in www.penalecontemporaneo.it/upload/CANZIO_2017a.pdf , p. 6.

[26] Così G. Canzio, Nomofilachia e diritto giurisprudenziale, in Contratto e impresa, n. 2, 2017, p. 368, citato da P. Curzio, Il giudice e il precedente, cit., § 8.

[27] In questo fascicolo, cfr. E. Vincenti, Massimazione e conoscenza della giurisprudenza nell’era digitale. V. anche, C. Di Iasi, La fata ignorante (a proposito di Ufficio del Massimario e funzione di nomofilachia), Questione giustizia trimestrale n. 3/2017, pp. 82 e ss., www.questionegiustizia.it/rivista/pdf/QG_2017-3_13.pdf e V. Di Cerbo, Banche dati di giurisprudenza, nomofilachia e trasparenza dell’attività giurisdizionale. L’esperienza del Ced della Corte di cassazione, Questione giustizia trimestrale n. 3/2017, pp. 93 e ss, www.questionegiustizia.it/rivista/pdf/QG_2017-3_14.pdf.

[28] Sottolineano questo aspetto, A. Garapon-J. Lassègue, Justice digitale, Puf, Paris, 2018, pp. 224 ss.

[29] Per alcune riflessioni sul cd. apprendimento automatico, cfr. E. Finn, Che cosa vogliono gli algoritmi. L’immaginazione nell’era dei computer, Einaudi, Torino, 2017, pp. 194 ss.; M. Tegmark, Vita 3.0. Essere umani nell’era dell’intelligenza artificiale, Cortina, Milano, 2018, pp. 101 ss.

[30] Cfr. in questo fascicolo, C. Castelli - D. Piana, Giustizia predittiva. La qualità della giustizia in due tempi, già pubblicato su Questione giustizia on line, 15 maggio 2018, www. questionegiustizia.it/articolo/giustizia-predittiva-la-qualita-della-giustizia-in-due-tempi_15-05-2018.php.

[31] I due autori aggiungono che tali algoritmi funzionano applicando «sofisticate tecnologie sia con finalità di carattere analitico/induttivo (si scoprono pattern decisionali o pattern comportamentali analizzando e processando dati che riguardano casi e decisioni già avvenuti) sia con finalità prospettico predittivo (si individuano propensioni e su questa base vengono valutate le probabilità con le quali si può prevedere che la decisione del giudice – in caso di soluzione giudiziale delle controversie – o del mediatore – in caso di attivazione di meccanismi di ADR – converga su un punto che possiamo definire focale)»; C. Castelli - D. Piana, Giustizia predittiva, cit. § 1.

[32] M. Tegmark, Vita 3.0, cit., pp. 143 ss. Sui bias in cui rischia di incappare il “giudice umano” è fondamentale la lettura di A. Forza, R. Rumiati, G. Menegon, Il giudice emotivo, Il Mulino, Bologna, 2017.

[33] Sperimentazione i cui esiti sono considerati in questo fascicolo da S. Gaboriau, Libertà e umanità del giudice: due valori cardinali della giustizia. La giustizia digitale permetterà la fedeltà a questi valori? Qualche riflessione a partire dall’esperienza francese.

[34] Cfr. in questo fascicolo, C. Costanzi, La matematica del processo: oltre le colonne d’Ercole della giustizia penale, §§ 1-6.

[35] Id., La matematica, cit. § 6.

[36] Id., La matematica, cit. §§ 7 ss.

[37] Id., La matematica, cit. § 7.

[38] Rimandando per approfondimenti al contributo di Costanzi e ai riferimenti bibliografici da lui proposti.

[39] State v. Loomis, Wisconsin Supreme Court, 2016. Per ulteriori riflessioni e per approfondimenti e riferimenti bibliografici, si rimanda al contributo di Costanzi.

[40] Cfr. in questo fascicolo, C. Barbaro, Uso dell’intelligenza artificiale nei sistemi giudiziari: verso la definizione di principi etici condivisi a livello europeo?

[41] Cfr. in questo fascicolo, A. Garapon, Ti faresti giudicare da un algoritmo (intervista, a cura di E. Fronza-C. Caruso).

[42] Cfr. in questo fascicolo, S. Gaboriau, Libertà e umanità del giudice, cit.

[43] Non è ovviamente qui possibile trattare tutte le implicazioni che si danno in tema di tutela della privacy e di “trattamento” di una simile mole di dati da parte di un’autorità pubblica.

[44] Cfr. S. B. Starr, Evidence-Based Sentencing and the scientific rationalization of discrimination, in Standford Law Review, 2014, pp. 803 ss. (citato da Costanzi) e la relazione di Pro Publica sul pregiudizio razziale nel software di predizione del recidivismo: www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing , citata da M. Tegmark, Vita 3.0, cit., p. 144.

[45] F. Pasquale, The black box society: the secret algorithms that control money and information, Harvard University Presso, Cambridge (Mass), 2015, citato in E. Finn, Che cosa vogliono gli algoritmi, cit., p. 9.

[46] Anche se – osserva ironicamente Garapon – il diritto penale d’autore era già stato “scoperto” prima dell’avvento della giustizia digitale…

[47] K. Freeman, Algorithmic injustice: how the Wisconsin Supreme Court Failed to protect due process rights in State v. Loomis, in North Carolina Journal of Law & Technology, XVIII, 2016, pp. 75 ss., propone «di trasformare Compas da property algorithm a open-source algorithm che i difensori possano analizzare e utilizzare autonomamente» e di introdurre «un processo di verifica in cui un supervisore esterno alla società effettui costanti controlli sul sistema per garantirne precisione e funzionamento appropriato» [citato da Costanzi, La matematica, cit., nt. 127].

[48] V. anche A. Garapon-J. Lassègue, Justice digitale, Puf, Paris, 2018, pp. 279 ss.

[49] Per cui si rimanda al contributo di C. Barbaro pubblicato in questo fascicolo, nonché a C. Barbaro, Cepej, adottata la prima Carta etica europea sull'uso dell'intelligenza artificiale (AI) nei sistemi giudiziari, Questione giustizia on line, 7 dicembre 2018, reperibile all’indirizzo www.questionegiustizia.it/articolo/cepej-adottata-la-prima-carta-etica-europea-sull-uso-dell-intelligenza-artificiale-ai-nei-sistemi-giudiziari_07-12-2018.php.

[50] A. Garapon-J. Lassègue, Justice digitale, cit., p. 220 (traduzione di chi scrive).

[51] cfr. E. Finn, Che cosa vogliono gli algoritmi, cit., pp. 146 ss.

[52] Così P. Calamandrei, Discorso sulla Costituzione agli studenti milanesi, 26 gennaio 1955.