Intelligenza artificiale e processo penale tra norme, prassi e prospettive *

«We need AI to deal with increasing levels of complexity and difficulty. With an analogy, we need to remember that the best chess player is neither a human nor a computer, but a human using a computer»

L. Floridi, Robots, Jobs, Taxes, and Responsibilities, Philosophy and Technology 30 (3) 14 March 2017, 2

*** 

1. Premessa. Lo stato dell’arte dell’uso dell’Intelligenza artificiale nei sistemi penali

Si stima che il mercato dell’intelligenza artificiale debba raggiungere entro il 2025 il valore di 190,61 miliardi di dollari con un tasso annuo costante di crescita del 36, 62% [1].

E se lo stesso è agli albori in Italia, con una spesa per lo sviluppo di algoritmi di intelligenza artificiale di appena 85 milioni di euro nel 2018 [2], la Cina si sta preparando a diventare entro il 2030 il leader mondiale, predisponendo a questo fine un programma di investimenti interni per 150 miliardi di dollari [3].

Basterebbero tali dati per documentare l’irresistibile ascesa del mercato dei sistemi di Intelligenza artificiale e per ricavarne facili previsioni sullo sviluppo delle possibilità ad essa connesse e delle implicazioni di ordine economico, etico e socio-antropologico che ne potranno derivare, non ultimo nel settore della giustizia penale.

Ma cos’è l’intelligenza artificiale?

Il sito web del Consiglio d'Europa [4] ne fornisce la seguente definizione: «Un insieme di scienze, teorie e tecniche il cui scopo è quello di riprodurre, attraverso la macchina, le capacità cognitive di un essere umano. Gli sviluppi attuali mirano, ad esempio, ad affidare a una macchina compiti complessi precedentemente delegati a un essere umano».

Sulla stessa falsariga la definizione offerta dall’Università di Stanford [5] che la identifica come «una scienza e un insieme di tecniche computazionali che vengono ispirate – pur operando tipicamente in maniera diversa – dal modo in cui gli esseri umani utilizzano il proprio sistema nervoso e il proprio corpo per sentire, imparare, ragionare e agire».

Nel complesso, dunque, le applicazioni fondate su sistemi di Intelligenza artificiale tendono, attraverso meccanismi di autoapprendimento, all’imitazione delle attività umane, sostituendole o ad esse affiancandosi, in ciò sfruttando le potenzialità operative infinitamente superiori.

Peraltro, la nozione di Intelligenza artificiale non è affatto unitaria, dal momento che si suole distinguere le diverse applicazioni distinguendo tra le Intelligenze artificiali deboli (weak) - in grado di estrarre schemi complessi e apprendere da grandi volumi di dati in modo efficiente e spesso con elevati livelli di precisione predittiva - da quelle forti (strong) che si differenziano per aver come obiettivo ultimo (ancora del tutto teorico) una macchina di autoapprendimento in grado di comprendere automaticamente il mondo in tutta la sua complessità.

Dunque, nel fare riferimento a sistemi di intelligenza artificiale, si deve escludere allo stato qualsiasi potenziale riferimento a macchine in grado di sostituire l’attività umana nella sua proteiforme varietà.

Nonostante il crescente interesse per l'impiego dei sistemi di Intelligenza artificiale nel settore della giustizia, non si dispone ancora di un quadro analitico ed aggiornato delle esperienze in materia e delle possibili direttrici di sviluppo.

Il principale strumento informativo per esaustività e autorevolezza è costituito dalla Carta Etica sull’uso dell’Intelligenza Artificiale nei Sistemi giudiziari europei e nei relativi ambienti (di cui si dirà in seguito) elaborata dalla Commissione Europea per l’Efficienza della Giustizia (CEPEJ) e adottata il 4 e 5 dicembre 2018 che, oltre ad enunciare cinque principi generali, è corredato da quattro Appendici, una delle quali, la I, contiene uno studio approfondito delle modalità di impiego dell’Intelligenza artificiale nei sistemi giudiziari europei.

Prescindendo dall’aspetto deontico rappresentato da una gradazione (da incoraggiare, da utilizzare con alcune precauzioni, da rimandare a seguito di approfondimenti scientifici, da valutare con estrema cautela) riferita allo stadio di compatibilità con i cinque principi fissati, l’elencazione appare tuttavia di particolare interesse per coglierne le concreto potenzialità applicative, ovviamente con riferimento al settore penale, e le relative controindicazioni.

a) utilizzo da incoraggiare

- Miglioramento nel reperimento della giurisprudenza attraverso tecniche di apprendimento automatico migliorativo delle banche dati esistenti;

- Creazione di nuovi strumenti strategici per migliorare la performance del singolo ufficio giudiziario (ad esempio, stabilire i tempi di definizione dei procedimenti, assicurare l’ottimale utilizzo delle risorse, elaborare proiezioni).

b) utilizzo possibile, con precauzioni di metodo

- utilizzo di algoritmi a fini di prevenzione della consumazione di reati (polizia predittiva) o, in caso di indagini già avviate, per l’identificazione dei responsabili. In questi casi i sistemi di apprendimento automatico possono essere impiegati sia dalla polizia giudiziaria che dal pubblico ministero ad esempio per l’analisi di dati relativi a flussi finanziari in indagini in materia di riciclaggio; i profili di rischio sono legati a possibili effetti discriminatori;

- tools in materia di giustizia predittiva (in campo civile) finalizzati a valutare le possibilità di successo di una controversia e orientare la parte in causa verso un altro metodo di risoluzione delle controversie;

- piattaforme di risoluzione online di controversie seriali e di contenuto valore (small claims), definite in modo completamente automatizzato, a condizione che entrambe le parti siano informate e che a ciascuna sia riservata la possibilità di adire un giudice.

c) utilizzo da rivedere a seguito di ulteriori studi ed approfondimenti

- sistemi di giustizia predittiva: si tratta dell’utilizzo di machine learning [differenti da quelli indicati sub b) perché, a differenza di questi, di natura commerciale, costituiscono strumenti di tendenzialmente conformativi dell’attività del giudice o di ausilio a questi] per prevedere l’esito di una controversia sulla base dell’analisi dei dati ricavati dai precedenti o fornire comunque dati di conoscenza sul contenuto della possibile decisione. Tali sistemi si fondano in genere sull’acquisizione e sul trattamento di una notevole mole di dati raccolti dalle sentenze, dalla dottrina o dalla prassi (metadati), sulla ricerca di correlazioni tra i lemmi per attribuire un senso compiuto alle parole ed infine sulla elaborazione delle variabili del caso e la scelta finale. Qui il trattamento statistico dei soli gruppi lessicali rivela la frequenza dell'uso di determinati gruppi di parole ma non identifica i motivi reali di una decisione, né si sostituisce al complesso ragionamento giuridico [6]; non va, inoltre, sottaciuto che i sistemi fondati sulla costruzione di modelli matematici che dovrebbero rappresentare la vasta gamma in cui si può manifestare il ragionamento giuridico non si sono rivelati pienamente efficienti perché ancora limitati dalla possibilità di distorsione nel campione di dati elaborati [7];

- Judge profiling, vale a dire l’analisi della produzione giudiziale o per esaminare o prevedere i comportamenti e gli atteggiamenti personali e quindi ricavare elementi di predizione per la definizione delle controversie future;

d) utilizzo da valutare con estrema cautela

- algoritmi predittivi del rischio di ricaduta nel reato.

2. Intelligenza artificiale e giudizio. Il quadro normativo

2.1. La Carta Etica Europea

2.1.1. Fissate queste prime sommarie coordinate applicative, si deve rilevare che l’ingresso dell’Intelligenza artificiale nel sistema giudiziario italiano non costituisce materia esclusivamente affidata al futuribile ma ha già trovato un primo quadro di riferimento normativo.

Si tratta per la verità di disposizioni senza dubbio eterogenee, nelle quali si rinvengono norme di diritto positivo, forme di soft law e mere raccomandazioni di esperti, ma che tuttavia costituiscono un primo corpus con funzioni di orientamento e regolazione sia delle policies pubbliche che dell’attività degli stakeholders coinvolti e si agglutinano attorno ad un nucleo di principi già sufficientemente delineati nella prospettiva di tutela dei diritti fondamentali, per quanto le soluzioni proposte non sempre siano in grado di sciogliere tutti i nodi complessi di una realtà dall’impatto oggettivamente non ancora del tutto prevedibile.

Il riconoscimento della crescente importanza dei sistemi di Intelligenza artificiale e la necessità di fornire un quadro di regole che ne governino un proficuo e consapevole utilizzo nei sistemi giudiziari è all’origine dell’adozione, il 4 e il 5 dicembre 2018, da parte della Commissione Europea per l’efficienza della giustizia (CEPEJ) della Carta Etica europea per l’uso dell’intelligenza artificiale nei sistemi giudiziari e nei loro ambienti [8].

La Carta fornisce un quadro di principi che debbono guidare i responsabili politici, i legislatori e i professionisti della giustizia quando si trovano ad affrontare il rapido sviluppo dell'Intelligenza Artificiale nei processi giudiziari nazionali e costituisce l’espressione di un primo indirizzo regolatore che va letto e inquadrato nell’ambito più vasto del sistema di garanzie costituito dalla CEDU e dalla normativa generale sul trattamento dei dati personali (GDPR).

Dunque un intervento di soft law [9] che si caratterizza tuttavia per il fatto di rivolgersi a tutti gli stakeholders (dai produttori, agli sviluppatori dei programmi, ai responsabili delle public policies e, non ultimo a coloro che sono coinvolti nei procedimenti giudiziari) nella prospettiva di promuovere un approccio comune e multidisciplinare che trascenda la mera regolazione della domanda ed offerta di mercato dei sistemi intelligenti applicati alla giustizia.

La Carta si compone di 5 principi ed è corredata da quattro importanti Appendici (la I, contenente uno studio approfondito dello stato dell’arte e delle problematiche aperte sull'uso dell’ Intelligenza artificiale nei sistemi giudiziari, la II contenente una griglia sui possibili utilizzi dell’IA nei sistemi giudiziari, la III che reca un glossario, la IV una checklist di autovalutazione della compatibilità dei modelli di utilizzo con i principi recati dalla Carta), che rappresentano la summa ragionata dello stato dell’arte dell’Intelligenza artificiale nei sistemi giudiziari europei.

2.2.1. Il primo principio enunciato (art. 1) è quello del rispetto dei diritti fondamentali, secondo il quale il trattamento di decisioni e dati giudiziari deve avere scopi chiari, nel pieno rispetto dei diritti fondamentali garantiti dalla Convezione Europea sui Diritti dell’Uomo (in particolare il § 6 e il § 8) e dalla Convenzione sulla protezione dei dati personali [10].

L’obiettivo viene assicurato allorquando l’utilizzo di strumenti di Intelligenza artificiale sia per risolvere una controversia sia come strumento di assistenza nel processo decisionale giudiziario non compromette le garanzie del diritto di accesso al giudice e il diritto al fair trial, declinato nel principio di uguaglianza delle armi e del rispetto del contraddittorio.

Inoltre, il principio implica che il loro utilizzo debba aver luogo nel rispetto dei principi dello Stato di diritto e dell'indipendenza ed autonomia del giudice.

Di particolare rilievo la previsione che estende la portata del principio del rispetto dei diritti umani sin dal momento della progettazione dell’algoritmo applicativo (human right by design) che deve quindi conformarsi di default al rispetto di tali principi ( e di quello di non discriminazione, di cui si tratterà poco oltre) [11].

Nella stessa direzione si muovono le Linee Guida intergovernative sulle politiche relative all'Intelligenza artificiale, siglate a Parigi il 22 maggio 2019 dal Consiglio dell’OCSE che raccomandano il rispetto dello stato di diritto, dei diritti umani e dei valori democratici in tutto il ciclo di vita del sistema di Intelligenza artificiale e che includono libertà, dignità e autonomia, protezione dei dati, non discriminazione uguaglianza, diversità, equità, giustizia sociale e lavoro.

2.2.2. Il secondo principio è quello di non discriminazione.

Gli studi sull’esperienza, maturata nei sistemi di Common law e principalmente negli Stati Uniti, del ricorso a sistemi di valutazione automatizzata di predizione del rischio di recidiva (risk assessment tools) hanno, come noto, rilevato la possibilità che il loro impiego non adeguatamente controllato inneschi l’introduzione di pregiudizi di ordine razziale o comunque relativi all’appartenenza a determinati contesti.

È il caso, ormai assurto a paradigma, Loomis nel quale l’utilizzo di uno specifico tool, il COMPAS aveva sollevato forti critiche in merito alla possibilità che le valutazioni di rischio finali (vale a dire le probabilità di incorrere in futuri reati, strettamente collegate alla determinazione della pena da scontare o alla possibilità di fruire di benefici penitenziari) risultassero condizionate in senso discriminatorio [12].

Il rischio del possibile impiego di algoritmi incidenti sul principio di non discriminazione è del resto fatto palese dall’analisi dello studio dei sistemi di giustizia predittiva contenuto nella I Appendice (punto 133), laddove si richiama la costante attenzione per l’impatto che tali tools sono in grado di dispiegare sui diritti di libertà individuale nell’ambito della giurisdizione penale.

Così fissate le coordinate di riferimento il principio di non discriminazione finisce per costituire espressa specificazione del principio di tutela dei diritti fondamentali, e sollecita uno sforzo comune per la corretta implementazione dei big data disponibili (input), in modo da evitare che l’output sia condizionato in senso discriminatorio [13].

2.2.3. Il terzo principio (art. 3) è quello della qualità e sicurezza dei dati, ovviamente giudiziari o strumentali all’attività giudiziaria.

L’ambito di riferimento, in particolare è quello dell’impiego di open data in vista dell’impiego in sistemi di giustizia predittiva o di ausilio all’attività giudiziaria. Si è detto che i dati costituiscono il nuovo petrolio (Andrew Keen), sia per le enormi quantità disponibili, sia per il profitto che il loro possesso è suscettibile di generare. Di qui l’estrema attenzione riservata alle modalità della loro raccolta ed elaborazione.

L’Appendice I affronta in modo dettagliato il panorama dei rapporti tra open data e intelligenza artificiale, muovendo da precisazioni terminologiche che sottolineano la necessaria distinzione tra open data, big data e informazioni.

Gli Open data rimandano ad una realtà digitale disseminata di dati accessibili al pubblico e fruibili come tali [14], mentre i Big data esprimono la crescente capacità tecnologica di raccogliere, elaborare ed estrarre conoscenze nuove e predittive da grandi volumi, velocità e varietà di dati, anche all’insaputa dell’interessato.

Infine le informazioni, che sono dati inclusi in un determinato contesto [15].

Il principio impone in particolare una rimeditazione delle open data policies, in specie delle modalità di raccolta del documento informativo costituito dalle pronunce giurisdizionali in vista della loro elaborazione in dati [16].

Difatti, come è stato chiarito «i dati resi disponibili per via della digitalizzazione non sono di per sé alcuna cosa se non sono prima strutturati in architetture organizzate ed intelligenti, e, in seconda battuta, analizzati avendo in mente domande, correlazioni, punti focali»; ciò perché «gli algoritmi non analizzano atti, analizzano la trascrizione in codici dei contenuti digitali di questi atti» [17].

Da qui la necessità, avvertita dalla Carta, di promuovere forme di approccio multidisciplinare in grado di garantire l’apporto delle professionalità coinvolte e di aprire il dialogo tra operatori giudiziari e delle scienze sociali e gli sviluppatori di sistemi.

L’approccio metodologico coglie solo una parte della realtà, dal momento che vengono inevitabilmente in rilievo anche le modalità di raccolta del dato giudiziario.

Ciò è perfettamente colto dalla Carta Etica che non solo si sofferma a fornire indicazioni atte ad impedire il rischio di identificazione delle parti o a temperare il judge profiling (Appendice I punti 43 e ss.), ma soprattutto si interroga sulle ricadute sui modi di esercizio della giurisdizione nei paesi di Civil law.

Pur condividendo l’idea di fondo che la predittività delle decisioni giudiziarie affidata ad un sistema di Intelligenza artificiale possa costituire fattore di razionalizzazione dell’accesso alla giustizia, il documento considera ineludibili alcuni caveat: ad esempio i big data acquisiti saranno in grado di riflettere la distinzione tra giudizi di grado diverso o il precedente avrà rilievo soltanto in termini quantitativi? sarà dato un valore quantitativo (standard) di precedenti identici raggiunto il quale all'elaborazione della macchina potrà essere riconosciuto valore paranormativo? e quale sarà il rapporto tra norma e giurisdizione? muterà la grammatica della decisione giudiziaria in vista della sua elaborazione algoritmica ?

2.2.4. Il quarto principio è quello della trasparenza, imparzialità ed equità (fairness).

Qui la Carta affronta il core business del problema dell’impiego dell’Intelligenza artificiale nei sistemi giudiziari.

Sebbene meno avvertito di quanto accada negli Stati Uniti [18] – anche per l’assenza di mature esperienze applicative – il problema del rapporto tra la tutela dei diritti di proprietà intellettuale e brevettuali dello sviluppatore e del proprietario dell’algoritmo e quella del diritto alla sua intelligibilità da parte di colui che è interessato alla sua applicazione assume, anche in Europa, attenzione sempre maggiore, specialmente - come di avrà modo di constatare - sul terreno della prova.

La Carta suggerisce un approccio cauto fondato sul bilanciamento dei due interessi potenzialmente confliggenti, fatto salvo il riconoscimento del primato degli interessi di giustizia quando vengono utilizzati strumenti che potrebbero influenzare in modo significativo la vita delle persone, come accade appunto in materia penale.

Di qui l’auspicio della completa trasparenza dei codici sorgente e della documentazione sulla quale si fondano, la chiara e completa descrizione del loro funzionamento e soprattutto, sul piano del metodo, la creazione di Autorità indipendenti incaricate di verificare e certificare i metodi di elaborazione nella misura in cui assicurino effettivamente il rispetto di tali principi [19].

Sulla stessa falsariga le Linee Guida OCSE, che raccomandano trasparenza e leggibilità (explanability) nel prevedere da parte di tutti gli attori l’obbligo di fornire informazioni significative, adeguate al contesto e coerenti con lo stato dell'arte; di favorire una comprensione generale dei sistemi di Intelligenza artificiale, di consentire agli interessati di comprendere il risultato dei sistemi di Intelligenza artificiale e di contestarne i risultati in modo chiaro sulla base di informazioni di facile comprensione sui fattori e sulla logica che governa la decisione.

2.2.5. Il quinto e ultimo principio è quello del controllo da parte dell’utente (under user control).

Si tratta di un principio dalle molteplici implicazioni in relazione alla categoria di utente alla quale si rivolge (giudice, professionista, destinatario della decisione).

Nella sua accezione più ampia il principio mira ad assicurare una generale alfabetizzazione informatica del pubblico in merito alle decisioni fondate sull’intelligenza artificiale, agendo così come criterio informatore dell’azione dei consociati nel senso di una maggiore autonomia e consapevolezza delle opportunità e dei rischi legati all’utilizzo dell’Intelligenza artificiale.

Nello specifico il controllo dell’utente (qui intendendosi verosimilmente il potenziale destinatario di una decisione fondata su sistemi di intelligenza artificiale) si arricchisce del diritto di essere informato sulla vincolatività o meno delle soluzioni offerte dagli strumenti di Intelligenza artificiale, dell’eventuale esistenza di precedenti su di essi fondati e di contestare tale possibilità, chiedendo di essere ascoltato da un giudice, ciò che avvicina la possibilità di un giudizio mediante tools diIntelligenza artificiale ad un giudizio su base prettamente volontaria (ed informata).

Infine, quanto ai professionisti del sistema giudiziario, la raccomandazione, facendosi probabilmente carico dei rischi di una temuta dittatura del precedente, investe la definizione dei limiti di vincolatività del precedente automatizzato, nel senso di garantire la libertà di rivedere una precedente decisione automatizzata [20].

3.1. La disciplina normativa del processo decisionale automatizzato. L’art. 22 del GDPR

3.1.1. Il secondo livello di disposizioni normative, questa volta di diritto positivo è costituito in particolare dall’art. 22 del Regolamento UE 2016-679 del Parlamento europeo e del Consiglio del 27 aprile 2016, relativo alla protezione delle persone fisiche (GDPR) con riguardo al trattamento dei dati personali, nonché' alla libera circolazione di tali dati [21].

Il dato normativo, per gli effetti che interessano strettamente in questa sede, è completato dalle Linee guida WP 251 del 3 ottobre 2017 (emendata il 6 febbraio 2018) sul processo decisionale automatizzato relativo alle persone fisiche e sulla profilazione elaborate dal Comitato Europeo per la protezione dei dati personali (Working Party art. 29) [22].

Nell’ambito della predisposizione di una tutela rafforzata della protezione dei dati personali, in conseguenza del riconoscimento della stessa come diritto fondamentale della persona [23], muovendo dal più ampio contesto di riferimento costituito dalla diffusione progressiva del ricorso a procedure automatizzate implicanti l’utilizzo di dati personali nei più diversi settori (dall’accesso al credito, ai servizi, alla pubblicità), il legislatore ha inteso disciplinare le condizioni alle quali è consentita l’assunzione di una decisione fondata unicamente sul trattamento automatizzato di dati e informazioni.

La disposizione [24] esordisce stabilendo (c. 1) in via generale il diritto dell’interessato a non essere sottoposto a una decisione basata unicamente sul trattamento automatizzato, compresa la profilazione, che produca effetti giuridici che lo riguardano o che incida in modo analogo significativamente sulla sua persona [25].

Dunque, nel momento stesso in cui stabilisce il divieto, il legislatore europeo fissa anche le condizioni al cui ricorrere è consentita la decisione interamente automatizzata, aprendo di fatto la via a forme di giustizia dai contorni ancora da definire.

L’oggetto materiale della disposizione normativa è la decisione automatizzata – nozione da intendersi in senso lato e dunque comprensiva delle statuizioni giurisdizionali – fondata su elaborazioni algoritmiche di dati, anche mediante profilazione [26] produttiva di effetti giuridici, che non sia accompagnata dall’effettivo intervento umano nel processo istruttorio e valutativo, ancorché la decisione possa essere adottata formalmente dall’uomo [27].

Le Linee Guida, sul punto, approdano opportunamente ad un approccio rigoroso, prevenendo possibili aggiramenti dei divieti in presenza di interventi umani meramente simbolici e non sostanziali. Di conseguenza, un procedimento nel quale l’intervento umano, pur presente nel processo decisionale, fosse puramente apparente, non potrebbe sfuggire al divieto condizionato di adozione di una decisione automatizzata.

Il testo del Regolamento non chiarisce espressamente né la nozione di effetti giuridici, in ogni caso piuttosto familiare all’interprete né, soprattutto quella di effetto analogo a quello giudico, incidente in modo significativo sulla persona.

Sul punto intervengono le Linee Guida che identificano l’effetto analogo in ogni conseguenza indiretta e di riflesso rispetto all’oggetto principale della decisione [28].

Il divieto non opera al ricorrere delle seguenti tre eccezioni, vale a dire quando la decisione integralmente automatizzata a) è necessaria per la conclusione o l’esecuzione di un contratto; b) è autorizzata dal diritto dell’Unione o dello Stato membro cui è soggetto il titolare del trattamento, che deve adottare altresì misure adeguate a tutela dei diritti, delle libertà e dei legittimi interessi dell’interessato [29]; c) si basa sul consenso esplicito dell’interessato.

Si tratta di ipotesi del tutto distinte e che si fondano su presupposti applicativi del tutto differenti e disomogenei: mentre quelle sub a) e c) costituiscono due differenti declinazioni del principio di disponibilità della sottoposizione a decisione automatizzata, quello sub b) prescinde dal consenso dell’interessato e si basa su una determinazione pubblica, oggetto di riserva di legge.

In ogni caso, la concreta praticabilità delle ipotesi che fanno eccezione al divieto di adozione di una decisione interamente automatizzata è subordinata all’adozione, da parte del titolare del trattamento [o nel caso sub b), dello stesso ordinamento statale] di misure appropriate volte alla tutela dei diritti, libertà ed interessi della persona coinvolta: in particolare, la norma prevede un livello minimo di tutela consistente («almeno») nel diritto di ottenere l’intervento umano del titolare del trattamento, di esprimere la propria opinione e di contestare la decisione.

Infine, l’art. 22 c. 4 vieta il processo decisionale automatizzato che utilizzi dati personali sensibili enunciati nell’art. 9 par. 1, eccettuata l’ipotesi in cui l’interessato abbia manifestato il proprio consenso [art. 9 par. 2 lett. a)], ovvero in cui il trattamento sia necessario per motivi di interesse pubblico rilevante sulla base del diritto dell'Unione o degli Stati membri, e proporzionato alla finalità perseguita, rispetti l'essenza del diritto alla protezione dei dati e preveda misure appropriate e specifiche per tutelare i diritti fondamentali e gli interessi dell'interessato.

Tra i diritti riconosciuti all’interessato a fronte di una decisione interamente automatizzata adottata nelle ipotesi previste in deroga non è espressamente compreso il diritto all’informazione sul funzionamento del procedimento decisionale ed in particolare sull’algoritmo utilizzato nella specie.

Soltanto il Considerando 71 affronta in modo tangenziale l’argomento, richiamando il diritto dell’interessato ad una «specifica informazione».

Si tratta di un punto cruciale, soprattutto - come si vedrà - per il settore penale.

Difatti, in un sistema globalmente caratterizzato dalla presenza sempre più pervasiva di grandi piattaforme che controllano in modo opaco e apparentemente inaccessibile enormi flussi di dati – la c.d. black box society [30] – il mancato riconoscimento del diritto alla leggibilità dei processi decisionali degli algoritmi che presiedono all’adozione della decisione interamente automatizzata rischia di rendere del tutto apparente l’effettività del sistema di diritti, ivi compreso quello di contestare la decisione.

Difatti, una decisione di cui non è conoscibile il processo formativo, difficilmente può essere utilmente contestata da parte di chi la subisce.

Il fatto è, però, che la configurabilità nel sistema del GDPR di un diritto alla spiegazione del funzionamento dei processi algoritmici che presiedono alle decisioni automatizzate non è affatto incontroversa [31], sia per l’assenza di una specifica indicazione positiva (essendo noto che ai Considerando non viene attribuito valore interpretativo vincolante), sia per la concorrente esigenza di riconoscere protezione e tutela ad interessi di altra natura quali la proprietà intellettuale o, più in generale, ai diritti di sfruttamento economico [32].

Non va, poi, trascurato, che la disciplina delle decisioni automatizzate è integrata dal successivo art. 23 che introduce la possibilità per gli stati membri di limitare la portata dei diritti, se tale misura sia proporzionata e necessaria per salvaguardare, ad esempio «un rilevante interesse economico o finanziario dell'Unione o di uno Stato membro» [c. 1, lett. e)].

Secondo un’altra prospettiva, tuttavia, il tema si presenta più articolato perché dovrebbe imporre una necessaria distinzione tra diritto alla leggibilità ex ante dell’algoritmo – vale a dire su come è impostato l’algoritmo - e diritto alla spiegazione ex post, ossia sul modo in cui l’algoritmo ha prodotto la decisione [33].

Si è messo in evidenza che il sistema normativo previsto dal GDPR contiene una serie di dati sistemici [artt. 13 c. 2 lett. f), 14 c. 2 lett. g), 15 c. 1 lett. h)] che sembrano assicurare il diritto del destinatario della decisione a disporre di “informazioni significative sulla logica utilizzata” nel procedimento decisionale automatizzato, quindi di avere accesso all’architettura dell’algoritmo, mentre ciò che potrebbe formare oggetto di limitazione per effetto del bilanciamento della tutela degli interessi commerciali sarebbe il diritto a risalire alla singola decisione [34].

È quasi superfluo rilevare che dal prevalere dell’una o dell’altra opzione interpretativa dipenderà in misura non irrilevante l’evoluzione applicativa delle decisioni automatizzate e il loro impatto sui diritti fondamentali.

Vale la pena rilevare che il tema dell’accesso alle modalità di funzionamento dell’algoritmo che sviluppa le decisioni automatizzate è più attuale di quanto sembri, essendosi già affacciato nella giurisprudenza amministrativa.

Si è trattato, in particolare, dell’impugnazione di un provvedimento di assunzione di docenti di scuola superiore di secondo grado adottato al termine di una procedura interamente gestita da un sistema informatico per mezzo di un algoritmo (il cui funzionamento sarebbe rimasto sconosciuto) sfociata in provvedimenti ritenuti privi di alcuna motivazione, e quindi oggetto di impugnativa.

Il Consiglio di Stato – con sentenza 8 aprile 2019 n. 2270 [35] – ha accolto l’appello annullando il provvedimento.

Pur senza richiamare, quantomeno espressamente, la disciplina dell’art. 22 del GDPR ed i limiti in esso previsti, l’organo di giustizia amministrativa muove dall’indiscutibile rilievo dell’utilità di modalità operative automatizzate «con riferimento a procedure seriali o standardizzate, implicanti l’elaborazione di ingenti quantità di istanze e caratterizzate dall’acquisizione di dati certi ed oggettivamente comprovabili e dall’assenza di ogni apprezzamento discrezionale», del tutto coerenti con i principi di economicità ed efficienza dell’azione amministrativa.

Fissa tuttavia alcuni principi che rendono legittimo il provvedimento integralmente automatizzato tra i quali quello della «conoscibilità» del meccanismo che presiede alla decisione automatizzata, «secondo una declinazione rafforzata del principio di trasparenza, che implica anche quello della piena conoscibilità di una regola espressa in un linguaggio differente da quello giuridico» e che si estende agli autori, al procedimento usato per la sua elaborazione, al meccanismo di decisione, comprensivo delle priorità assegnate nella procedura valutativa e decisionale e dei dati selezionati come rilevanti, e quello dell’assoggettamento alla piena cognizione del giudice amministrativo, che deve essere messo in grado di poter sindacare la logicità e la ragionevolezza della regola che governa l’algoritmo.

Pur senza affrontare ex professo i temi relativi alla declinazione del right to explanation la decisione assume particolare rilievo per lo sforzo interpretativo di ricondurre la decisione automatizzata all’interno delle categorie normative di riferimento, nel caso di specie il provvedimento amministrativo, stabilendo il principio per cui essa non può forzare i limiti strutturali e di contenuto dell’atto e il corollario che non tollera l’esistenza di ambiti (quali che siano le modalità di adozione della decisione) sottratti alla piena conoscenza delle parti e del giudice.

3.2. L’art. 8 del Decreto Legislativo 51/2018

3.2.1. La disciplina europea della decisione automatizzata si completa con la Direttiva 680-2016, adottata il 27 aprile 2016 [36], relativa alla protezione delle persone fisiche con riguardo al trattamento dei dati personali da parte delle autorità competenti a fini di prevenzione, indagine, accertamento e perseguimento di reati o esecuzione di sanzioni penali.

La Direttiva è stata recepita con il Decreto Legislativo 21.5.2018 n. 51 che costituisce un vero e proprio corpus normativo unitario in materia penale, destinato a superare l’attuale disciplina del 2003.

Il decreto regola il trattamento, interamente o parzialmente automatizzato dei dati personali per finalità di prevenzione e repressione dei reati, esecuzione di sanzioni penali, salvaguardia e prevenzione di minacce alla sicurezza pubblica (art. 1 c. 2), prevedendo un articolato sistema di garanzie (artt. 9-12) e di responsabilità in capo alle figure chiave del titolare del trattamento (artt. 15, 16, 20), del responsabile del trattamento (art. 18) del responsabile della protezione dei dati (artt. 28,30) e, infine, un articolato apparato sanzionatorio (artt. 37-46).

3.2.2. Il testo contiene una disposizione, l’art. 8, che riproduce, pur senza sovrapporsi ad esso, l’art. 22 del GDPR relativo alle decisioni automatizzate.

Poiché il rapporto tra GDPR e Decreto 51/2018 è di integrazione, dal momento che il Regolamento UE 679 esclude espressamente dal proprio ambito di applicabilità il trattamento di dati ai fini di prevenzione, indagine, accertamento o perseguimento di reati o esecuzione di sanzioni penali [art. 2 c. 1 lett. d)], la riproduzione nel decreto legislativo di una previsione analoga a quella dell’art. 22 sancisce inevitabilmente l’ingresso nel settore penale delle decisioni automatizzate.

La delicatezza della sedes materiae, nella quale entrano in gioco i fondamentali diritti di libertà, rende tutt’altro che speculativa l’indagine sulla portata precettiva della norma e cioè se essa introduca un divieto alle decisioni automatizzate, con alcune eccezioni, oppure se la decisione automatizzata sia lecita di default, salvo il potere dell’interessato di opporvisi. La scelta dell’una o dell’altra concezione interpretativa non sarà irrilevante ai fini della tutela, che nel secondo caso dipenderà dall’assetto conformativo dei diritti oppositivi, mentre nel primo dovrà essere considerata implicita nel sistema, salvo le deroghe previste [37].

Come anticipato, la disposizione non riproduce integralmente l’art. 22. La peculiarità del contesto giustifica infatti la diversa formulazione del comma 1 che vieta tout court «le decisioni basate unicamente su un trattamento automatizzato, compresa la profilazione, che producono effetti negativi nei confronti dell'interessato», e prevede una sola eccezione, vale a dire che le stesse siano autorizzate dal diritto dell'Unione europea o da specifiche disposizioni di legge. In questo caso, esse devono prevedere garanzie adeguate per i diritti e le libertà dell'interessato e assicurare comunque il diritto di ottenere l'intervento umano da parte del titolare del trattamento (c. 2). Dunque, una prima approssimativa conclusione che parrebbe potersi ricavare è che, in campo penale, alla luce del quadro normativo vigente, le decisioni completamente automatizzate siano legittime a condizione che a) producano effetti unicamente favorevoli per l’interessato; b) in caso opposto siano previste dalla legge [38]; c) la stessa preveda comunque il diritto dell’interessato di richiedere l’intervento umano da parte del titolare del trattamento. Anche in questo caso non è espressamente previsto alcun diritto inteso alla leggibilità del procedimento algoritmico [39]: tuttavia, in considerazione dell’ampliamento delle garanzie declinato nella facoltà di esigere l’intervento umano, tale omissione potrebbe considerarsi ininfluente, una volta esercitato il diritto dell’interessato di ottenere un intervento del giudice. Peraltro, si è osservato [40] che nemmeno tale disposizione potrebbe apparire pienamente soddisfacente, poiché la norma non specifica il rapporto tra intervento umano e procedimento algoritmico, ed in particolare non chiarisce se il primo avrà carattere integralmente sostitutivo, integrativo o correttivo del secondo.

3.2.3. Ovviamente è del tutto prematura ogni previsione sia sull’an che sul quomodo dell’impiego di decisioni automatizzate nel settore penale, in considerazione del rapporto tra rilevanza degli interessi in gioco (primi fra tutti il diritto alla libertà personale e alla difesa) e il presumibile apporto delle decisioni automatizzate sulla funzionalità e sui tempi del sistema giudiziario.

Pur con le cautele del caso, si potrebbe preconizzarne un impiego nei procedimenti esecutivi promossi su istanza dell’interessato, e quindi destinati a produrre effetti favorevoli [ ad esempio i procedimenti in sede esecutiva per abolitio criminis (art. 673 cpp), applicazione dell’indulto (art. 672 cpp) o estinzione del reato] oppure in alcune small claims come ad esempio i procedimenti che già ora trovano definizione semplificata con il procedimento per decreto: a ben riflettere, ad esempio, potrebbero rientrarvi quelli per i reati di cui all’art. 186 del Codice della Strada caratterizzati in sostanza dall’automaticità dell’accertamento e da sostanziali automatismi sanzionatori ormai ampiamente diffusi nella prassi, ovvero ancora per procedimenti per reati tributari di tipo puramente omissivo (ad es. mancata presentazione della dichiarazione o mancato versamento dell’imposta).

In ogni caso, qualsiasi intervento legislativo non potrà prescindere sia dall’esigenza di definire il rapporto tra profilo automatizzato ed intervento umano sia dall’individuare il punto di equilibrio tra rights of explanation e la garanzia degli interessi di natura economica e brevettuale sottostanti [41].

4. Presente e futuro dell’Intelligenza artificiale

Le prospettive di impiego dell’Intelligenza Artificiale nel settore penale (ma non solo) richiedono alcune precisazioni dirette ad inquadrare una realtà estremamente variegata e composita, sia sul piano nomenclativo che operativo.

Riprendendo la classificazione riportata nel par. 1, va ancora una volta ribadito che - come chiarito dalla Carta Etica (Appendice I) - l’Intelligenza Artificiale (c.d. debole) non è una realtà omogenea, ma un insieme di scienze e tecniche (matematica, statistica e informatica) in grado di elaborare dati per progettare compiti di elaborazione informatica complessi.

I software non producono intelligenza in sé, ma procedono utilizzando un approccio induttivo: l'idea è di associare in modo quasi automatizzato una serie di osservazioni (input) a una serie di possibili risultati (output) utilizzando varie proprietà preconfigurate. Come già detto, per la giustizia predittiva il motore crea collegamenti tra i diversi gruppi lessicali che compongono le decisioni giudiziarie.

Questi gruppi sono correlati tra quelli identificati nella fase di input (fatti e ragionamento) e quelli nella fase di output (il dispositivo della decisione) quindi classificati. 

Infine - ed è questo il punto chiave – l'affidabilità del modello (o della funzione) costruito dipende fortemente dalla qualità dei dati utilizzati e dalla scelta della tecnica di apprendimento automatico.
Sul diverso versante operativo vanno distinte le realtà già sperimentate da quelle meramente virtuali: per le prime non può che essere proposto un approccio descrittivo, per le seconde, si impone invece la verifica della compatibilità con il quadro delle garanzie processuali nazionali e sovranazionali.

Ciò potrebbe corrispondere, in linea di massima, alla distinzione tra sistemi di polizia predittiva – destinati ad operare nell’area della prevenzione del crimine – da un lato, tools di valutazione del rischio di pericolosità e digital evidence in senso lato dall’altro.

Non sembra invece potersi parlare, almeno nel settore penale, di giustizia predittiva negli stessi termini con i quali il tema viene dibattuto in sede civile, dove la prevedibilità delle decisioni giudiziarie costituisce in sé un valore che a determinate condizioni può effettivamente rispondere ad esigenze di conformazione dei comportamenti e di valutazione dell’opportunità – in termini di costi e tempi – di adire il sistema, con ricadute positive sulla sua funzionalità. E non a caso è il settore civile a segnare le esperienze più avanzate in argomento [42].

In campo penale, tools di giustizia predittiva potrebbero essere impiegati come ausilio per il difensore nell’adozione delle strategie processuali: ad esempio, conoscere l’orientamento della giurisprudenza di un certo tribunale sull’applicazione dell’art. 73 c. 5 DPR 309/90 o sul trattamento sanzionatorio mediamente applicato per i reati predatori potrebbe orientare verso la scelta di riti alternativi; tuttavia, è bene osservare, non si tratterebbe di sistemi di Intelligenza artificiale in senso proprio, ma dello sviluppo ragionato di banche dati di giurisprudenza.

4.1. Tools di polizia predittiva

L’esperienza italiana sperimenta invece da qualche anno l’adozione di sistemi di Intelligenza artificiale nell’attività di prevenzione dei reati attraverso l’utilizzo di programmi diretti a prevedere la possibilità di consumazione di reati e, quindi, a prevenirli con adeguata azione di patrolling.

Si tratta, in particolare, dei software Key Crime e XLaw sviluppati da privati ed in uso presso alcune Questure [43].

Il primo si fonda sull’analisi dei dati di indagine acquisiti in relazione a precedenti reati (input) per fornire un’indicazione probabilistica di future serie criminali (output): in particolare, il primo attraverso l’esame delle variabili di una moltitudine di episodi accaduti in precedenza perviene a segnalare le serie criminali effettuate dagli stessi soggetti e prevedere dove potranno consumarsi le prossime azioni criminali, mentre il secondo si fonda con un algoritmo di tipo euristico, che interfaccia i dati acquisiti con la mappatura dell’ambiente dove vengono evidenziate le zone e gli orari della giornata ritenuti a più elevato rischio (hotspot).

Nel diverso settore della normativa antiriciclaggio opera Gianos (Generatore Indici di Anomalia per operazioni sospette) un applicativo di ausilio al sistema bancario per la rilevazione di operazioni finanziarie potenzialmente rivelatrici di money laundering.

Destinati dunque alla prevenzione dei crimini seriali (prevalentemente di tipo predatorio o sessuale), i tools di polizia predittiva attingono aree che fuoriescono dall’ambito proprio delle garanzie processuali dal momento che, al più, il loro utilizzo appare funzionale alla prevenzione del reato ovvero può consentire l’eventuale arresto in flagranza di colui che sia colto nell’atto di commettere un reato proprio in virtù dell’applicazione del software.

Ciò tuttavia non elimina, in ogni caso, il rischio di effetti distorsivi, come quello della possibile violazione della privacy scaturente da sistemi di sorveglianza generalizzata, ovvero della garanzia della protezione dei soggetti i cui dati vengano in qualche modo interessati o infine delle possibili ricadute discriminatorie implicite nella localizzazione dei fenomeni criminosi oggetto di predizione (hotspot crimes) [44].

Questo è uno dei terreni sui quali sarà chiamato a misurarsi il Decreto Legislativo 51/2018.

In tema, appare centrale la previsione dell’art. 16 che richiama la responsabilità del titolare del trattamento a mettere in atto misure tecniche e organizzative adeguate, per impostazione predefinita (privacy by default), sia alla protezione dei diritti degli interessati, anche attraverso la pseudonimizzazione [45], sia al controllo dell’accessibilità dei dati di un numero indefinito di persone (ed è proprio questo l’aspetto che più interessa in questa sede).

Meno agevole è, invece, la soluzione al quesito, che parimenti è stato sollevato, relativo alla possibilità di utilizzare gli output prodotti dai sistemi di Intelligenza artificiale per l’attività di accertamento investigativo, ad esempio per attribuire ad un soggetto altri reati consumati in precedenza.

In questo caso occorre considerare separatamente le modalità di raccolta dei dati che costituiscono l’input (i big data ricavati dalle informazioni acquisite da precedenti casi analoghi documentati) e i risultati delle correlazioni elaborate dall’algoritmo (crime-linking) [46].

Nel primo caso i temi che vengono in rilievo sono costituiti dalle modalità di raccolta dei dati che, normalmente, risulteranno ex se conformi al paradigma normativo (si tratta, infatti, di dati afferenti ad attività di investigazioni pregresse) e di conseguenza coerenti con il principio di trasparenza del dato; nel secondo caso l’indagine dovrà necessariamente spostarsi sul funzionamento dell’algoritmo introducendo inevitabilmente il tema fondamentale della verificabilità ed attendibilità della prova algoritmica [47].

4.2. L’utilizzo in funzione predittiva della pericolosità sociale

Pur essendo il settore che ha goduto di maggiore sviluppo applicativo, di fatto limitatamente ai paesi di Common law, l’impiego dell’Intelligenza Artificiale per la valutazione, anche in termini ausiliari, della pericolosità sociale nelle varie forme nelle quali essa si declina, può formare oggetto esclusivamente di osservazioni de jure condendo.

L’ambito del potenziale impiego di risk assesment tools potrebbe teoricamente dispiegarsi – in materia cautelare, come fattore predittivo della probabilità di ricaduta nel reato [art. 274 lett. c) cpp];

- nel giudizio di pericolosità sociale finalizzato all’adozione di misure di sicurezza (art. 203 cp);

- nel procedimento di prevenzione (art. 6 d.lgs 159/2011), con particolare riferimento all’applicazione della sorveglianza speciale;

- nel giudizio di cognizione, per la concessione del beneficio della sospensione condizionale della pena (art. 163 cp).

Si assume generalmente che il loro ingresso nel sistema processuale italiano trovi baluardo nell’art. 220 c. 2 cpp che, come noto, vieta nel giudizio di cognizione il ricorso alla perizia in materia criminologica in una prospettiva ancorata al divieto di introduzione di fattori di pregiudizio ante sententiam [48].

Tuttavia, non è detto che gli algoritmi di valutazione del rischio di ricaduta nel reato siano ex se sovrapponibili alla perizia criminologica e ricadano, quindi, nel medesimo divieto [49] anche se, non vertendo il loro utilizzo sull’accertamento della responsabilità, difetterebbe comunque allo stato una della condizioni per l’ingresso della prova atipica (art. 189 cpp).

Ma anche a voler ammettere che la irresistibile forza propulsiva dell’intelligenza artificiale varchi il territorio del processo penale, costituendo una forma di ausilio all’attività del giudice, resterebbero sul tavolo alcuni nodi di fondo di carattere processuale ma non solo, vale a dire:

- la verifica della qualità e natura dei dati la cui elaborazione si vuole affidare all’algoritmo;

- l’individuazione dei soggetti sotto il cui controllo dovrebbe avere luogo l’inserimento (il Ministero della Giustizia, un’Authority, un organismo misto composto da esperti indipendenti?);

- il diritto alla trasparenza, accessibilità e leggibilità dei codici sorgente, in un quadro di garanzie refrattario alla presenza di black boxes;

- la definizione del grado di vincolatività del risultato algoritmico per il giudice: si tratterebbe di un semplice ausilio di cui il giudice potrebbe anche non tenerne conto o discostarsene motivando sarebbe invece obbligatorio? e quale potrebbe essere il grado di invalidità di una statuizione che si fondi sul prodotto dell’algoritmo oppure si discosti da esso? il loro impiego potrebbe avvenire soltanto su base volontaria?

Si tratta di temi che vanno governati con una certa visione profetica che oggi sembra mancare, prima che la irresistibile forza del progresso tecnologico se ne impadronisca unilateralmente.

4.3. Acquisizione e valutazione delle prove

Non meno denso di incognite il tema dei rapporti tra prova penale - tanto nella sua dimensione rappresentativa che in quella valutativa - e Intelligenza artificiale.

Anche in questo caso si intrecciano aspetti connessi all’esistente e scenari che rimandano ad un futuro che potrebbe apparire non troppo lontano.

Non si tratta soltanto del campo della digital evidence in senso stretto, ossia della prova informatica creata, raccolta ed esaminata nell’ambito e in vista del procedimento penale, ma di tutte le informazioni, elaborate per finalità del tutto diverse, che in esso possono fare il loro ingresso.

La progressiva automazione delle funzioni più elementari introduce infatti nell’organizzazione sociale moltitudini di dati facilmente acquisibili, che sono governati ed elaborati da strumenti intelligenti.

Gli esempi possono essere i più vari: ad esempio, si pensi alla domotica e ad un elettrodomestico che si attivi soltanto al raggiungimento di una determinata temperatura interna: in quel caso il software che lo governa fornirà informazioni sulla presenza di determinate persone nell’ambiente in cui si sia consumato un delitto [50]; o ancora alle scatole nere che sono sempre più frequentemente installate sulle automobili per finalità assicurative e ai dati informativi da esse acquisibili per verificare in quanto tempo possa essere stato percorso un determinato tratto di strada (ad esempio per accertare la compatibilità con un determinato orario della presenza del sospettato sul luogo del delitto).

Un altro versante aperto alle sollecitazioni dell’Intelligenza artificiale è poi quello della valutazione della prova orale o documentale.

Un primo ambito di interesse potrebbe essere costituito dalla possibilità di valutare se il dichiarante fosse nelle migliori condizioni soggettive e oggettive (spazio-temporali, di luce, psicofisiche) per percepire l’accaduto o per percepirlo o descriverlo nei termini da lui indicati; la realtà anglosassone conosce del resto un applicativo elaborato dall’Università di Edimburgo, denominato ADVOKATE, un assessment of eyewitness evidence, che combina variamente tali dati [51].

È stato inoltre osservato che ulteriori criteri diagnostici per la valutazione di una prova orale – la coerenza della dichiarazione, vale a dire l'assenza di contraddizioni; la contestualizzazione, ossia la capacità della persona interrogata di recuperare la descrizione dello scena in cui si sono verificati gli eventi; l'esistenza o meno di commenti opportunistici nella dichiarazione, cioè di dichiarazioni sui dettagli che nessuno ha chiesto e che cercano solo di rinforzare retoricamente la credibilità di una dichiarazione - potrebbero costituire gli output di un elaborazione algoritmica [52].

Nella stessa direzione, seppur con ambiti di applicabilità più circoscritti, si è predetto l’utilizzo di strumenti diagnostici del falso documentale [53].

Di fronte ad evidenze epistemologiche o a tools elaborati da algoritmi si è paventato il rischio che il loro ingresso nel processo penale si accompagni ad una autosufficienza euristica [54] discendente dal grado più o meno elevato di condivisione sociale dei risultati della tecnologia e dell’accettazione della sua ineludibile pervasività.

Si tratta, evidentemente, di un rischio inaccettabile nel sistema delle garanzie del giusto processo, che vuole tutte le parti, giudice compreso, nelle condizioni di poter aver pieno accesso alla fonte della prova e, nel caso, di specie, conoscenza del funzionamento dell’algoritmo o comunque del sistema [55] come condizione per la sua valutazione.

Si è, infatti, più volte visto – ed è questo il punto nevralgico – che soltanto attraverso l’accessibilità e la trasparenza dell’algoritmo è possibile valutare e se del caso contestare il risultato della sua elaborazione.

Si è anche visto che le indicazioni normative, richiamano, sia pure con varietà non trascurabile di accenti, la necessità di assicurare, tanto sul piano delle policies pubbliche che su quello dell’implementazione tecnologica, il rispetto dei diritti fondamentali e in particolare, per quanto qui riguarda, il diritto alla intelligibilità del sistema.

Trasferendo la questione sul più familiare terreno processuale, si tratta di identificare strumenti idonei ad assicurare l’affermazione dei principi del giusto processo al cospetto di prove che costituiscono il frutto dell’Intelligenza artificiale.

In via del tutto teorica sarebbe possibile che il tool – specialmente se predisposto in funzione di ausilio al giudice – sia accompagnato dal rilascio delle specifiche tecniche ne illustrino l’utilizzo e mettano in condizione le parti di acquisire le relative informazioni [56]. Al di là di tale ipotesi, tuttavia, gli attori del processo si troveranno più probabilmente di fronte a sistemi la cui architettura sia ispirata a criteri differenti, non trasparenti: ed allora la valutazione dell’attendibilità della prova algoritmica non potrà aver luogo che attraverso lo strumento peritale [57], che costituisce la sola soluzione attualmente compatibile con il quadro dei principi processuali e delle garanzie del fair trial.

Soltanto attraverso il ricorso al mezzo che introduce nel processo il contributo tecnico-scientifico potrebbe divenire possibile al giudice comprendere il processo che governa l’output generato da un algoritmo che costituisca esso stesso elemento di prova e alle parti, specialmente alla difesa, contestarne l’attendibilità.

Si tratta di una soluzione che, in ogni caso, lascia sul campo diversi interrogativi la cui soluzione è inevitabilmente destinata ad essere affidata alla prassi che andrà eventualmente a formarsi.

Senza pretesa di esaustività, vengono in evidenza i criteri ai quali dovrà conformarsi il giudice per la verifica dell’attendibilità del dato probatorio generato dall’algoritmo [58], le conseguenze sul piano della utilizzabilità dell’accertata impossibilità di accesso alla sorgente [59], il rapporto tra segreto brevettuale e divulgabilità ad opera dei consulenti di parte (non soggetti, a differenza del perito, all’obbligo del segreto) [60].

Proprio le ultime considerazioni rimandano a quello che in ultima analisi, come in più occasioni già rilevato, si appresta a divenire il terreno sul quale sembrano doversi giocare le sorti dell’applicazione dell’Intelligenza artificiale nel settore penale, vale a dire il rapporto per natura conflittuale tra i diritti di sfruttamento economico dell’algoritmo (che lo vuole sottratto alla possibilità di accesso) e il diritto alla trasparenza dell’output che ne costituisce il risultato.

Ma, come è stato rilevato nel campo della più avveduta scienza informatica, «senza una tecnologia abilitante in grado di spiegare la logica delle scatole nere, questo diritto o rimarrà lettera morta, o semplicemente metterà fuori legge molti di questi sistemi».

La questione trascende le ricadute nel processo penale, che pure rilevano in questa sede, per divenire un tema di policy pubblica in quanto «richiedere che gli algoritmi di intelligenza artificiale siano comprensibili in termini umani non solo è strumentale per validarne la qualità e la correttezza, ma anche per allineare gli algoritmi con i valori e le aspettative umane, e per preservare l’autonomia dell’essere umano nella capacità di decisione» [61].