Cepej, adottata la prima Carta etica europea sull'uso dell'intelligenza artificiale (AI) nei sistemi giudiziari

La “Carta etica europea sull'uso dell'intelligenza artificiale (IA) nei sistemi giudiziari e in ambiti connessi” è il primo strumento europeo e mondiale che stabilisce cinque principi sostanziali e metodologici che si applicano al trattamento automatizzato delle decisioni e dei dati giudiziari, sulla base di tecniche di IA. Sviluppato dalla Commissione europea per l'efficienza della giustizia (Cepej) del Consiglio d'Europa, si rivolge alle imprese private (start-up attive sul mercato delle nuove tecnologie applicate ai servizi legali-legaltechs) e ai soggetti pubblici incaricati della progettazione e dell'implementazione di strumenti e servizi di IA in questo campo. Si rivolge anche alle autorità pubbliche responsabili dell’elaborazione di strumenti legislativi o regolamentari, dello sviluppo, dell'audit o dell'uso di tali strumenti e servizi, nonché agli operatori del diritto.

La Cepej rileva fin dall'inizio che l'uso di strumenti e servizi di IA nei sistemi giudiziari è volto a migliorare l'efficienza e la qualità della giustizia e merita di essere incoraggiato. Tuttavia, ciò deve avvenire in modo responsabile, nel rispetto dei diritti fondamentali sanciti dalla Convenzione europea dei diritti dell'uomo (Cedu) e dalla Convenzione n. 108 del Consiglio d'Europa sulla protezione dei dati personali, nonché degli altri principi fondamentali enunciati nella Carta.

Tra questi principi, il rispetto dei diritti umani e la non discriminazione sono di fondamentale importanza. L'obiettivo è garantire, dalla fase di progettazione fino all'applicazione pratica, che le soluzioni garantiscano il rispetto dei diritti garantiti dalla Cedu e dalla Convenzione n. 108 del Consiglio d'Europa. Il principio di non discriminazione è espressamente sancito dalla capacità di taluni trattamenti − in particolare in materia penale − di rivelare le discriminazioni esistenti aggregando o classificando i dati relativi a persone o gruppi di persone. Gli attori pubblici e privati devono pertanto garantire che tali applicazioni non riproducano o aggravino tali discriminazioni e non portino ad analisi o pratiche deterministiche.

Si tiene conto anche di alcune sfide qualitative legate alla metodologia di analisi e al trattamento automatizzato delle decisioni giudiziarie. Un principio di qualità e sicurezza è chiaramente enunciato: i dati trattati tramite l'apprendimento automatico dovrebbero provenire da originali certificati e la loro integrità dovrebbe essere garantita in tutte le fasi del trattamento. Si raccomanda vivamente la creazione di gruppi multidisciplinari, composti da giudici, ricercatori in scienze sociali e informatici, sia nella fase di elaborazione sia di applicazione delle soluzioni proposte.

Di grande importanza è anche il principio della trasparenza delle metodologie e delle tecniche utilizzate nel trattamento delle decisioni giudiziarie. L'accento è posto sull'accessibilità e la necessità di comprensione delle tecniche di trattamento dei dati, nonché sulla possibilità per le autorità o gli esperti indipendenti di effettuare audit esterni. Viene inoltre incoraggiato un sistema di certificazione, da rinnovare regolarmente.

Inoltre, si sottolinea la centralità dell’utente, la cui libertà di scelta deve essere preservata. In particolare, il giudice dovrebbe poter controllare in qualsiasi momento le decisioni giudiziarie e i dati che sono stati utilizzati per produrre un risultato e continuare ad avere la possibilità di discostarsi dalle soluzioni proposte dall’IA, tenendo conto delle specificità del caso in questione. Ogni utente dovrebbe essere informato, in un linguaggio chiaro e comprensibile, della natura vincolante o non vincolante delle soluzioni proposte dagli strumenti di IA, delle diverse opzioni disponibili e del loro diritto all’assistenza di un avvocato e al ricorso a un tribunale.

La Cepej auspica che questi principi diventino un punto di riferimento concreto per i professionisti del diritto, le istituzioni e gli attori politici che si trovano ad affrontare la sfida di integrare le nuove tecnologie basate sull' IA nelle politiche pubbliche o nel loro lavoro quotidiano. Inoltre, nella pratica, questi principi costituiscono un'importante base di confronto per valutare le caratteristiche delle diverse applicazioni di IA, attualmente in fase di sperimentazione nel sistema giudiziario o nei tribunali.

La Cepej è a disposizione degli Stati membri, delle istituzioni giudiziarie e dei rappresentanti degli operatori del diritto per assisterli nell'attuazione dei principi della Carta.