1. L’algoritmo e le garanzie del procedimento e del provvedimento amministrativo
Qualsiasi decisione implica una scelta e qualsiasi scelta presuppone una selezione di valori e finalità. Non vi è neutralità. La dimensione assiologica pervade l’azione (in senso non meramente meccanicistico). Se ciò è vero per l’essere umano, un dubbio sorge per il robot, che, appunto, sembra decidere senza scegliere, bensì applicando algoritmi per la soluzione di problemi. Il dubbio, tuttavia, si fonda su una premessa tutt’altro che corretta. Neanche l’“azione” o la “decisione robotica” sono davvero neutrali. Ad operare prima e per il funzionamento della macchina vi è sempre l’uomo, che agisce in base ad opzioni di valore e/o di interesse.
Questo aspetto è di fondamentale importanza ai fini dell’esame del tema che da qualche tempo impegna giuristi, filosofi, scienziati, con particolare riferimento alla attività della pubblica amministrazione (e, in maniera analoga, mutatis mutandis, per quella decisoria del giudice)[1] e che può sintetizzarsi nella domanda se sia possibile e/o auspicabile che questa adotti provvedimenti interamente automatizzati.
A ben vedere, il fascino dell’algoritmo riposa sulla convinzione – anch’essa, come tra breve si dirà, non esatta – che il provvedimento perfetto sia quello privo di errori e che per non commettere errori non si possa essere umani; che la macchina non sia influenzata, turbata, inquinata da emozioni o questioni di coscienza e che non sia suscettibile di corruzione; che essa assicuri risultati efficienti, poiché riduce i tempi di risposta e così previene le pendenze; che offra esiti efficaci, poiché maggiormente idonei alla cura e alla soddisfazione degli interessi perseguiti; che garantisca soluzioni imparziali.
Tuttavia, i termini del discorso sono più complessi.
In primo luogo, la decisione qualitativamente ideale non è quella “perfetta”, bensì quella “giusta”, vale a dire quella che, al contempo, sia ossequiosa di regole predeterminate e adeguata alla situazione soggettiva oggetto di cura.
In secondo luogo, l’efficienza non è una prerogativa della macchina. Anche l’uomo sa e può essere efficiente quando la sua attività è organizzata e assistita da risorse sufficienti.
In terzo luogo, l’efficacia non è avulsa dalla giustizia della decisione e, infatti, rappresenta un canone della adeguatezza.
In quarto luogo, l’imparzialità del robot, se apparentemente attuata a valle della decisione adottata, può non esserlo a monte, in sede di individuazione dei criteri di elaborazione dell’algoritmo.
Il punto, allora, non è se il robot sia più efficiente, più efficace, più imparziale, più neutrale, più giusto dell’essere umano, ma se l’azione e la decisione robotica, applicata alla cura di interessi pubblici o all’attuazione di situazione soggettive sostanziali, presuppongano l’affermazione di valori diversi o di diverse modalità di perseguimento dei medesimi valori; in particolare, se la cd. rivoluzione 4.0 che attraversa la pubblica amministrazione[2] implichi un necessario adattamento o perfino un mutamento radicale dei moduli procedimentali e provvedimentali con i quali essa opera e il definitivo passaggio ad un technological due process[3].
L’esame dell’orientamento da ultimo espresso dalla giurisprudenza del Consiglio di Stato, consente, per un verso, di rimarcare le garanzie che, rivoluzione o no, restano indefettibili nello svolgimento del procedimento e nel provvedimento amministrativo; per un altro, di stigmatizzare uno dei principali pericoli connessi all’adozione di “decisioni amministrative algoritmiche”, vale a dire il cd. effetto performativo[4].
2. La “buona scuola” e l’algoritmo beffardo
Lo scorso 13 dicembre 2019 la sezione VI del Consiglio di Stato[5], nel confermare la sentenza del Tar Lazio, sez. III-bis, 11 luglio 2018, n. 9230, ha ribadito un indirizzo espresso poco tempo prima[6] con riferimento al contenzioso originato dagli esiti della procedura di assegnazione delle sedi al personale docente scolastico, effettuata sulla base dell’algoritmo appositamente introdotto dal Ministero dell’istruzione, dell’università e della ricerca (Miur).
Nella specie, alcuni docenti immessi in ruolo nella cd. fase C del piano straordinario assunzionale di cui alla l. n. 107/2015 su posti di potenziamento, di sostegno o su posto comune nella scuola secondaria di primo grado, avevano impugnato la procedura nazionale di mobilità attuata con ordinanza ministeriale n. 241/2016 in attuazione dell’art. 1, 108° comma, l. cit., facendo valere, tra gli altri motivi, l’assenza di attività amministrativa e l’affidamento dei trasferimenti e delle assegnazioni ad un algoritmo del tutto sconosciuto. Il meccanismo straordinario di mobilità si era rivelato pregiudizievole per i ricorrenti, in quanto trasferiti «in province più lontane da quella di propria residenza o quella comunque scelta con priorità in sede di partecipazione alla procedura, benché in tali province di elezione fossero disponibili svariati di posti».
Nel risolvere la controversia, il Consiglio di Stato ha adottato una soluzione mediana tra quella contraria al ricorso agli algoritmi e quella favorevole al loro più ampio utilizzo nell’espletamento dell’attività amministrativa
Infatti, in motivazione viene rimarcata l’importanza per la pubblica amministrazione di poter «sfruttare le rilevanti potenzialità della cd. rivoluzione digitale […] in termini di efficienza e neutralità» e di poter applicare gli algoritmi per «correggere le storture e le imperfezioni che caratterizzano tipicamente i processi cognitivi e le scelte compiute dagli esseri umani». Si fa rilevare che «non può essere messo in discussione che un più elevato livello di digitalizzazione dell’amministrazione pubblica sia fondamentale per migliorare la qualità dei servizi resi ai cittadini e agli utenti» (cfr. §§ 7, 7.1, 8.1). Del resto, «La piena ammissibilità di tali strumenti risponde ai canoni di efficienza ed economicità dell’azione amministrativa (art. 1 l. 241/90), i quali, secondo il principio costituzionale di buon andamento dell’azione amministrativa (art. 97 Cost.), impongono all’amministrazione il conseguimento dei propri fini con il minor dispendio di mezzi e risorse e attraverso lo snellimento e l’accelerazione dell’iter procedimentale» (cfr. § 9.1).
Allo stesso tempo, però, si sottolinea l’emersione di «una lettura critica del fenomeno, in quanto l’impiego di tali strumenti comporta in realtà una serie di scelte e di assunzioni tutt’altro che neutre: l’adozione di modelli predittivi e di criteri in base ai quali i dati sono raccolti, selezionati, sistematizzati, ordinati e messi insieme, la loro interpretazione e la conseguente formulazione di giudizi sono tutte operazioni frutto di precise scelte e di valori, consapevoli o inconsapevoli» (cfr. § 7.2).
Ciò premesso, in relazione al caso di specie, il Consiglio di Stato ha osservato che non si tratta «di sperimentare forme diverse di esternazione della volontà dell’amministrazione, come nel caso dell’atto amministrativo informatico, ovvero di individuare nuovi metodi di comunicazione tra amministrazione e privati, come nel caso della partecipazione dei cittadini alle decisioni amministrative attraverso social network o piattaforme digitali, ovvero di ragionare sulle modalità di scambio dei dati tra le pubbliche amministrazioni» (cfr. § 8.2). Si tratta, invece, di sperimentare la possibilità di affidare il procedimento di formazione della decisione amministrativa ad un software che, adeguatamente “istruito” attraverso l’immissione di dati, giunga alla decisione finale.
Come anticipato, tuttavia, il fuoco della questione sembra essere un altro. Ammessi gli indubbi vantaggi connessi all’utilizzo dell’algoritmo, occorre comprendere quali adeguamenti all’attività procedimentale e provvedimentale tale utilizzo comporti[7] e, soprattutto, stabilire come si atteggino nel nuovo scenario le garanzie (conoscibilità, trasparenza, partecipazione, sindacabilità)[8] ben note con riguardo alle modalità tradizionali.
3. Le garanzie irrinunciabili (anche nel “sistema algoritmico”)
Quanto alle prime due, la loro irrinunciabilità non è seriamente discutibile.
Anche e soprattutto in un “sistema amministrativo algoritmico” deve essere assicurata, per un verso, «la piena conoscibilità a monte del modulo utilizzato e dei criteri applicati»[9], per un altro, l’opportunità per il titolare del potere di verificare ex post la logicità e la legittimità del risultato scaturente dall’applicazione dell’algoritmo[10].
A questo fine, si deve poter accedere quanto meno ai seguenti elementi: a) creatori del software; b) criteri utilizzati per la sua elaborazione; c) modalità di svolgimento della fase istruttoria procedimentale; d) criteri utilizzati per l’adozione della decisione.
Dalla normativa sovranazionale emerge la rilevanza di tali garanzie[11], sotto forma di principi:
- Principio di conoscibilità, inteso sia come obbligo gravante in capo al titolare di fornire informazioni dell’eventuale esecuzione di un processo decisionale automatizzato, nonché della logica, dell’importanza e delle conseguenze per l’interessato (art. 13, 2° comma, lett. f e 14, 2° comma, lett. g, 2016/679/UE, integrativo della direttiva 95/46/CE)[12], sia come diritto di accesso alle informazioni relative alla esistenza di eventuali processi decisionali automatizzati (art. 15, 1° comma, lett. h, Reg. cit.)[13], a sua volta applicabile anche alla pubblica amministrazione (art. 41 della Carta dei diritti fondamentali dell’Unione Europea);
- Principio di non discriminazione, quale forma di completamento del principio di conoscibilità, da attuare attraverso l’adozione di strumenti volte ad evitare l’immissione di dati errati o inesatti o comunque determinanti effetti discriminatori in ragione della razza, dell’origine etnica, delle opinioni politiche, della religione o delle convinzioni personali, dell’appartenenza sindacale, dello status genetico, dello stato di salute o dell’orientamento sessuale, ovvero che comportano misure aventi tali effetti (considerando 71, secondo cpv., Reg. cit.);
- Principio di non esclusività, inteso a sancire il diritto dell’interessato di non essere sottoposto a una decisione, che possa includere una misura, che valuti aspetti personali che lo riguardano, che sia basata unicamente su un trattamento automatizzato (comprensivo della cd. «profilazione») e che produca effetti giuridici che lo riguardano o incida in modo analogo significativamente sulla sua persona (considerato 71, primo cpv., nonché art. 22 Reg. cit.).
Con riguardo alla terza e alla quarta garanzia, è appena il caso di sottolineare che il riconoscimento della conoscibilità del contenuto e della logica degli atti del procedimento amministrativo e del provvedimento che ne scaturisce non è fine a se stesso, ma è volto a consentire, per un verso, l’intervento attivo dell’interessato, per un altro, la possibilità di esercitare un “sindacato” sugli atti e sul provvedimento.
L’insegnamento tradizionale secondo cui il procedimento rappresenta la forma di esercizio della funzione amministrativa[14], ha oramai da tempo dovuto conformarsi alla primazia del momento partecipativo dell’interessato fin dalla fase procedimentale di formazione della decisione amministrativa (art. 7, 8, 9, 22 ss., l. 241/1990, e succ. modif.)[15]. Nulla è cambiato con l’avvento della telematica nei rapporti tra le pubbliche amministrazioni e i privati (cfr. l’art. 3 bis l. 241/1990, come modificato dalla l. 15/2005). Il diritto di accesso e quello di partecipazione hanno dovuto semplicemente rimodularsi alla luce delle nuove modalità procedimentali e decisionali e del principio digital first[16], che ormai governa le pubbliche amministrazioni (v. l’art. 41, d.lgs. 82/2005, e succ. modif., sul procedimento e sul fascicolo informatico; art. 1, l. delega 124/2015, sulla cd. Carta della cittadinanza digitale, e successivi decreti di attuazione: d.lgs 179/2016 e 217/2017)[17].
La necessaria leggibilità e comprensibilità del provvedimento amministrativo impone l’illustrazione sul piano tecnico della «coincidenza fra la legalità e le operazioni algoritmiche»[18] e perciò presuppone un complementare obbligo di motivazione (v. art. 3, 1° comma, l. 241/1990).
Ne consegue l’imprescindibile assoggettamento del provvedimento amministrativo informatico a una duplice sede di “sindacato”: la prima, affidata al titolare del potere, chiamato a verificare la non abnormità della “regola tecnica” rispetto alla “regola giuridica”[19]; la seconda, spettante al giudice, finalizzata al controllo di logicità e legittimità della scelta e degli esiti provvedimentali algoritmici[20].
4. Algoritmo e uomo
Da quanto innanzi sinteticamente osservato sembra potersi trarre la seguente – banale e allo stesso fondamentale – conclusione: se l’uomo non può fare a meno dell’algoritmo, questo non può fare a meno dell’uomo.
Ciò vale sia, ovviamente, a monte, nella fase di individuazione dei criteri e dei dati da immettere per l’elaborazione del software; sia a valle, nella fase di controllo; sia nel mezzo, nella fase dell’istruttoria procedimentale.
A ben vedere, si tratta di un’esigenza vitale per la tenuta del sistema, perché consente di individuare i soggetti (evidentemente diversi dal robot) cui imputare responsabilità. E soprattutto perché permette di evitare il prodursi del cd. effetto performativo[21], in virtù del quale la decisione coincide con l’algoritmo[22], che da mero presupposto tecnico assurge ad elemento fondante ed esclusivo[23].
[1] Sul punto, v. D. Dalfino, Creatività e creazionismo, prevedibilità e predittività, in Foro italiano, 2018, V, 385 ss.; Id., Stupidità (non solo) artificiale, predittività e processo, in Questionegiustizia.
[2] Cfr. D.U. Galetta - J.C. Corvalàn, Intelligenza artificiale per una pubblica amministrazione 4.0? Potenzialità, rischi e sfide della rivoluzione tecnologica in atto, in www.federalismi.it, 3, 2019, pp. 2 ss.
[3] Cfr. D. Keats Citron, Technological Due Process, 85 Wash. Un. L. Rev. 1249 (2008).
[4] Come accennato, il tema, per certi versi, è analogo a quello relativo alla “decisione giudiziale robotica” ed investe il più ampio profilo attinente alla possibilità di individuare un vero e proprio “statuto del giudice robot”. Su questo profilo, si rinvia ad un lavoro di prossima pubblicazione.
[5] Cons. Stato, sez. VI, 13 dicembre 2019, n. 8472.
[6] Cons. Stato, sez. VI, 8 aprile 2019, n. 2270, in Foro italiano, 2019, III, 606. Cfr. anche T.a.r Lazio, sez. III bis, 13 settembre 2019, n. 10964.
[7] Invero, si potrebbe sostenere l’applicabilità dell’algoritmo con riferimento alla sola attività amministrativa vincolata ed escluderla per quella discrezionale. Tuttavia, tale distinzione non convince. Infatti, in disparte la necessità di precisare se si debba o no escludere anche la cd. “discrezionalità tecnica”, in entrambi i casi, come osservato dallo stesso Consiglio di Stato (§ 11), ci si trova al cospetto di esercizio di attività finalizzata al perseguimento di interessi pubblici.
[8] Cfr. la pronuncia in motivazione al § 10: «Peraltro, l’utilizzo di procedure informatizzate non può essere motivo di elusione dei principi che conformano il nostro ordinamento e che regolano lo svolgersi dell’attività amministrativa».
[9] Cfr. I.A. Nicotra-V. Varone, L’algoritmo, intelligente ma non troppo, in Rivista AIC, n. 4/2019, del 22 novembre 2019, p. 10, che pone in evidenza l’importanza delle garanzie di conoscibilità e trasparenza ai fini di «una migliore e più efficace circolarità delle informazioni all’interno dell’organizzazione», nonché del «monitoraggio del rispetto dei termini procedimentali».
[10] Cfr. in motivazione il § 13.1: «In senso contrario non può assumere rilievo l’invocata riservatezza delle imprese produttrici dei meccanismi informatici utilizzati i quali, ponendo al servizio del potere autoritativo tali strumenti, all’evidenza ne accettano le relative conseguenze in termini di necessaria trasparenza».
[11] A livello nazionale, la trasparenza è intesa come «accessibilità totale delle informazioni concernenti l’organizzazione e l’attività delle pubbliche amministrazioni, allo scopo di favorire forme diffuse di controllo sul perseguimento delle funzioni istituzionali e sull’utilizzo delle risorse pubbliche». Essa «concorre ad attuare il principio democratico e i principi costituzionali di eguaglianza, di imparzialità, buon andamento, responsabilità, efficacia ed efficienza nell’utilizzo di risorse pubbliche, integrità e lealtà nel servizio alla nazione […] è condizione di garanzia delle libertà individuali e collettive, nonché dei diritti civili, politici e sociali, integra il diritto ad una buona amministrazione e concorre alla realizzazione di una amministrazione aperta, al servizio del cittadino» (cfr. l’art. 1 d.lgs 33/2013, emanato in attuazione della delega contenuta nell’art. 1, 35° e 36° comma, l. 6 novembre 2012, n. 190).
[12] Regolamento (Ue) 2016/679 del Parlamento europeo e del Consiglio del 27 aprile 2016, relativo alla protezione delle persone fisiche con riguardo al trattamento dei dati personali, nonché alla libera circolazione di tali dati e che abroga la direttiva 95/46/CE (regolamento generale sulla protezione dei dati).
[13] Cfr. F. Loré, L’Intelligenza Artificiale nell’utilizzo e nel rispetto dei dati personali, in Amministrativamente, 2019, 2, pp. 311 ss.
[14] F. Benvenuti, Funzione amministrativa, procedimento, processo, in Riv. trim. dir. pubbl., 1952, pp. 127 ss.
[15] Cfr. E. Dalfino-L. Paccione, Basi per il diritto soggettivo di partecipazione nel procedimento amministrativo, in Foro italiano, 1992, V, pp. 377 ss.
[16] Per il riconoscimento del diritto di accesso all’algoritmo del software di gestione di un procedimento amministrativo ogni volta in cui quest’ultimo possa configurarsi come atto amministrativo informatico in senso stretto, ai fini che interessano della sua piena ammissibilità in sede di accesso agli atti ai sensi dell’art. 22 l. n. 241 del 1990, v. T.a.r. Lazio, sez. III, 14 febbraio 2017, n. 3769, in Giornale dir. amm., 2018, 647, con nota di I. Forgione, Il caso dell’accesso al software Miur per l’assegnazione dei docenti.
[17] Sul processo di digitalizzazione della pubblica amministrazione, v. l’art. 19, dl 22 giugno 2012, n. 83, conv. con modif., in l. 7 agosto 2012, n. 134, che ha istituito l’Agenzia per l’Italia Digitale (Agid). V. anche il Libro Bianco sull’Intelligenza Artificiale al servizio del cittadino, del marzo 2018,a cura della Task force sull’Intelligenza Artificiale dell’Agid.
Per un approfondimento, v. L. Viola, L’intelligenza artificiale nel procedimento e nel processo amministrativo: lo stato dell’arte, in Foro amministrativo, II, 9, 2018, pp. 1598 ss. e in www.federalismi.it., 21, 2018; R. Santopietro, Il procedimento amministrativo informatico nelle pubbliche amministrazioni, in Azienditalia, 2017, 823; M. Deodati, Il nuovo procedimento amministrativo digitale, in Risorse umane nella p.a., 2017, fasc. 1, p. 28 e in Comuni d’Italia, 2017, fasc. 1, p. 11.
[18] Del resto, il principio di sindacabilità della cd. discrezionalità tecnica dell’amministrazione, oltre che per i profili estrinseci, anche in relazione all’attendibilità delle operazioni tecniche sotto il profilo della loro correttezza quanto a criterio tecnico ed a procedimento applicativo, è stato enunciato ormai già vent’anni or sono: v. Cons. Stato, sez. IV, 9 aprile 1999, n. 601, in Foro italiano, 2001, III, p. 9, con nota di A. Travi.
[19] Cfr. anche Cons. Stato 2270/2019, cit., § 8.3.
[20] V. anche I.A. Nicotra-V. Varone, L’algoritmo, intelligente ma non troppo, cit., 19, nonché F. Patroni Griffi, La decisione robotica e il giudice amministrativo, Intervento al Convegno “Decisione robotica”, organizzato nell’ambito dei Seminari ‘Leibniz’ per la teoria e la logica del diritto – Roma, Accademia dei Lincei, 5 luglio 2018.
[21] Cfr., con riferimento all’effetto performativo della giustizia predittiva, A. Fauchier Delavigne, A. Gajzler, A. Marin, The Challenges facing Justice in the Future: Judges confronted with the advent of Big Data Analytics, Team France: (Trainer: L. Vuitton), Semi-Final D, Budapest 3-6 luglio 2017, 14.
[22] Nel senso che gli atti endoprocedimentali di acquisizione dei dati necessari ai fini della relativa istruttoria nonché lo stesso atto finale del procedimento confluiscono e si esauriscono nel solo funzionamento dell’algoritmo che gestisce il software relativo ai trasferimenti interprovinciali del personale docente – ai sensi e per gli effetti del Ccni sulla mobilità 2016 di cui alla l. n. 107 del 2015 – con la conseguenza ulteriore che può e anzi si deve ritenere l’assimilabilità dell’algoritmo in questione all’atto amministrativo o meglio, il riconoscimento della diretta riconducibilità del software che gestisce l’algoritmo alla categoria del cd. atto amministrativo informatico, di cui alla lett. d) dell’art. 22, l. n. 241 del 1990; d’altronde, la scelta di procedere per mezzo dell’algoritmo ai fini della mobilità è stata assunta dal Miur proprio al fine di una più razionale e agevole gestione della procedura di che trattasi che, altrimenti, l’amministrazione avrebbe dovuto gestire in modo tradizionale; il ricorso e l’utilizzo di uno strumento innovativo, quale è quello del programma informatico, per soddisfare le predette esigenze proprie dell’amministrazione procedente, non può, pertanto, riverberarsi in senso limitante dell’ampiezza del potere di accesso degli interessati dalla procedura, v. T.a.r. Lazio, sez. III, 21 marzo 2017, n. 3742, in Foro amministrativo, 2017, p. 741.
[23] Sullo stesso piano, v. M.C. Cavallaro-G. Smorto, Decisione pubblica e responsabilità dell’amministrazione nella società dell’algoritmo, in www.federalismi.it, 4 settembre 2019, p. 16.