Magistratura democratica
Osservatorio internazionale

Cepej, adottata la prima Carta etica europea sull'uso dell'intelligenza artificiale (AI) nei sistemi giudiziari

di Clementina Barbaro (a cura)
Head of Cepej Cooperation Unit/Secretary of Cepej-Gt-Qual<br> Division for independence and efficiency of justice<br> Dgi, Council of Europe
L'auspicio è che questi principi diventino un punto di riferimento per i professionisti del diritto, le istituzioni e gli attori politici che si trovano ad affrontare la sfida di integrare le nuove tecnologie basate sull' IA nelle politiche pubbliche o nel loro lavoro quotidiano

La “Carta etica europea sull'uso dell'intelligenza artificiale (IA) nei sistemi giudiziari e in ambiti connessi” è il primo strumento europeo e mondiale che stabilisce cinque principi sostanziali e metodologici che si applicano al trattamento automatizzato delle decisioni e dei dati giudiziari, sulla base di tecniche di IA. Sviluppato dalla Commissione europea per l'efficienza della giustizia (Cepej) del Consiglio d'Europa, si rivolge alle imprese private (start-up attive sul mercato delle nuove tecnologie applicate ai servizi legali-legaltechs) e ai soggetti pubblici incaricati della progettazione e dell'implementazione di strumenti e servizi di IA in questo campo. Si rivolge anche alle autorità pubbliche responsabili dell’elaborazione di strumenti legislativi o regolamentari, dello sviluppo, dell'audit o dell'uso di tali strumenti e servizi, nonché agli operatori del diritto.

La Cepej rileva fin dall'inizio che l'uso di strumenti e servizi di IA nei sistemi giudiziari è volto a migliorare l'efficienza e la qualità della giustizia e merita di essere incoraggiato. Tuttavia, ciò deve avvenire in modo responsabile, nel rispetto dei diritti fondamentali sanciti dalla Convenzione europea dei diritti dell'uomo (Cedu) e dalla Convenzione n. 108 del Consiglio d'Europa sulla protezione dei dati personali, nonché degli altri principi fondamentali enunciati nella Carta.

Tra questi principi, il rispetto dei diritti umani e la non discriminazione sono di fondamentale importanza. L'obiettivo è garantire, dalla fase di progettazione fino all'applicazione pratica, che le soluzioni garantiscano il rispetto dei diritti garantiti dalla Cedu e dalla Convenzione n. 108 del Consiglio d'Europa. Il principio di non discriminazione è espressamente sancito dalla capacità di taluni trattamenti − in particolare in materia penale − di rivelare le discriminazioni esistenti aggregando o classificando i dati relativi a persone o gruppi di persone. Gli attori pubblici e privati devono pertanto garantire che tali applicazioni non riproducano o aggravino tali discriminazioni e non portino ad analisi o pratiche deterministiche.

Si tiene conto anche di alcune sfide qualitative legate alla metodologia di analisi e al trattamento automatizzato delle decisioni giudiziarie. Un principio di qualità e sicurezza è chiaramente enunciato: i dati trattati tramite l'apprendimento automatico dovrebbero provenire da originali certificati e la loro integrità dovrebbe essere garantita in tutte le fasi del trattamento. Si raccomanda vivamente la creazione di gruppi multidisciplinari, composti da giudici, ricercatori in scienze sociali e informatici, sia nella fase di elaborazione sia di applicazione delle soluzioni proposte.

Di grande importanza è anche il principio della trasparenza delle metodologie e delle tecniche utilizzate nel trattamento delle decisioni giudiziarie. L'accento è posto sull'accessibilità e la necessità di comprensione delle tecniche di trattamento dei dati, nonché sulla possibilità per le autorità o gli esperti indipendenti di effettuare audit esterni. Viene inoltre incoraggiato un sistema di certificazione, da rinnovare regolarmente.

Inoltre, si sottolinea la centralità dell’utente, la cui libertà di scelta deve essere preservata. In particolare, il giudice dovrebbe poter controllare in qualsiasi momento le decisioni giudiziarie e i dati che sono stati utilizzati per produrre un risultato e continuare ad avere la possibilità di discostarsi dalle soluzioni proposte dall’IA, tenendo conto delle specificità del caso in questione. Ogni utente dovrebbe essere informato, in un linguaggio chiaro e comprensibile, della natura vincolante o non vincolante delle soluzioni proposte dagli strumenti di IA, delle diverse opzioni disponibili e del loro diritto all’assistenza di un avvocato e al ricorso a un tribunale.

La Cepej auspica che questi principi diventino un punto di riferimento concreto per i professionisti del diritto, le istituzioni e gli attori politici che si trovano ad affrontare la sfida di integrare le nuove tecnologie basate sull' IA nelle politiche pubbliche o nel loro lavoro quotidiano. Inoltre, nella pratica, questi principi costituiscono un'importante base di confronto per valutare le caratteristiche delle diverse applicazioni di IA, attualmente in fase di sperimentazione nel sistema giudiziario o nei tribunali.

La Cepej è a disposizione degli Stati membri, delle istituzioni giudiziarie e dei rappresentanti degli operatori del diritto per assisterli nell'attuazione dei principi della Carta.

07/12/2018
Altri articoli di Clementina Barbaro (a cura)
Se ti piace questo articolo e trovi interessante la nostra rivista, iscriviti alla newsletter per ricevere gli aggiornamenti sulle nuove pubblicazioni.
Intelligenza artificiale e pace. Messaggio di Papa Francesco per la 57esima Giornata Mondiale della Pace
a cura di Redazione

In occasione della Giornata mondiale della Pace, pubblichiamo un documento di grande valore, il messaggio di Papa Francesco dal titolo Intelligenza artificiale e pace, con l'augurio a tutti di un nuovo anno sereno. 

01/01/2024
Nuove tecnologie e giustizia

Mentre l’accordo tra il Parlamento Europeo e il Consiglio per l’adozione dell’Artificial Intelligence Act è ormai realtà, l’Autrice si muove all’intersezione tra giustizia e tecnologia, esplora sfide opportunità e rischi della digitalizzazione dei sistemi giudiziari, auspica che i giudici siano interpreti e guida della rivoluzione dell’intelligenza artificiale.

19/12/2023
Giustizia digitale e giudizio. La lunga strada dell’innovazione alla prova della Costituzione

Intervento conclusivo del convegno Intelligenza artificiale, giustizia e diritti umani organizzato il 20 settembre 2022 da Magistratura democratica in collaborazione con la Fondazione Forense di Padova, il Dipartimento di Diritto pubblico, internazionale e comunitario e il Dipartimento di diritto privato e critica del diritto dell’Università degli Studi di Padova

13/10/2022
Il leading role della giurisprudenza comparata in materia di discriminazioni algoritmiche subite dai lavoratori della gig economy

L’utilizzo di algoritmi decisionali nell’organizzazione del lavoro relativo alle piattaforme di intermediazione lavorativa presenta non pochi rischi di discriminazione ai danni dei lavoratori. In Europa, la giurisprudenza anticipa le prese di posizione dei Legislatori nazionali, in attesa di una regolamentazione da parte dell’Unione del ricorso all’Intelligenza Artificiale anche in questo campo.

11/11/2021
Lo studio di fattibilità di un nuovo quadro normativo sulla concezione, lo sviluppo e l’applicazione dei sistemi di Intelligenza Artificiale sulla base delle norme del Consiglio d’Europa. Il lavoro del Comitato ad hoc sull’intelligenza artificiale del CdE

Nel corso della sua terza riunione plenaria, il 15-17 Dicembre 2020, il Comitato Ad hoc sull’intelligenza artificiale del Consiglio d’Europa (CAHAI) ha adottato all’unanimità lo studio di fattibilità di un quadro normativo sulla concezione, lo sviluppo e l’applicazione dell’intelligenza artificiale (IA) fondato sulle norme del Consiglio d’Europa in materia di diritti dell’Uomo, democrazia e stato di diritto, così realizzando un compito primario del suo mandato. Lo studio di fattibilità espone le ragioni della necessità di un tale quadro normativo (I), iniziando al contempo una riflessione sui suoi elementi costitutivi (II), che il CAHAI si propone di affinare nel 2021, in vista della presentazione delle sue conclusioni al Comitato dei Ministri del Consiglio d’Europa. Tale istanza prenderà la decisione finale sullo strumento giuridico internazionale che sarà elaborato a partire dal 2022: tra le diverse opzioni possibili, quella di un trattato internazionale (III). 

28/04/2021
Lo smartphone non ci salverà la vita
La tecnologia è uno strumento formidabile. Ma il soluzionismo digitale rischia di essere un’illusione. Non può essere la tecnologia a orientare le nostre scelte; al contrario, debbono essere le nostre scelte consapevoli ad orientare la tecnologia
19/05/2020
Questione Giustizia ritorna sul tema dell’uso dell’intelligenza artificiale nei processi (a cui ha già dedicato un obbiettivo nel n.4/2018 della Rivista trimestrale) pubblicando il contributo che segue dedicato specificamente al processo penale
18/10/2019
Stupidità (non solo) artificiale, predittività e processo
Alcune considerazioni critiche a partire dallo studio di Jordi Nieva Fenoll su Intelligenza artificiale e processo
03/07/2019