L’algoritmo in tribunale

È lecito sostituire l’attività umana con un algoritmo? 

E se è lecito, a quali condizioni?

Ma poi, alla fine, cos’è un algoritmo per il diritto?

Su queste domande da qualche tempo anche la giurisprudenza ha cominciato a pronunciarsi; in particolare nell’ultimo anno una serie di sentenze del Giudice Amministrativo ha affrontato l’argomento, proponendo interessanti suggestioni e spunti di riflessione.

Occasione di un ripetuto interesse del Giudice Amministrativo per l’argomento è stato il fatto che, nell’ambito del piano straordinario nazionale di cui alla legge n. 107/2015 (la cosiddetta “buona scuola”), finalizzato ad attuare un piano straordinario di assunzioni a tempo indeterminato di personale docente per le istituzioni scolastiche statali di ogni ordine e grado, la formulazione delle proposte di assunzione ai docenti, già inseriti nelle relative graduatorie ad esaurimento, è stata gestita da un sistema informatico per mezzo di un algoritmo.

Le numerose impugnazioni dei provvedimenti di assegnazione che ne sono scaturiti ha portato all’attenzione del Giudice il procedimento amministrativo e, con esso, l’algoritmo di valutazione e graduazione delle domande e di assegnazione finale delle sedi ai singoli docenti.

 

È legittimo l’utilizzo dell’algoritmo?

La giurisprudenza si è divisa già sulla prima questione, quella che in questa fase storica potremmo considerare come “la” domanda: è legittimo l’utilizzo di una procedura “informatica”, “robotizzata”, di un “meccanismo informatico o matematico”, di un “impersonale algoritmo” (espressioni tutte che si ritrovano nelle pronunce) nello svolgimento dell’attività amministrativa? E’ legittimo l’uso di un algoritmo che costituisca esso stesso l’attività amministrativa?

La risposta è negativa, secondo alcune pronunce del TAR Lazio Roma, sez. III bis (tra le molte, si possono citare 28.5.2019 n. 6688 e 19.4.2019 n. 5139): “alcuna complicatezza o ampiezza, in termini di numero di soggetti coinvolti ed ambiti territoriali interessati, di una procedura amministrativa, può legittimare la sua devoluzione ad un meccanismo informatico o matematico del tutto impersonale e orfano di capacità valutazionali delle singole fattispecie concrete, tipiche invece della tradizionale e garantistica istruttoria procedimentale che deve informare l’attività amministrativa, specie ove sfociante in atti provvedimentali incisivi di posizioni giuridiche soggettive di soggetti privati e di conseguenziali ovvie ricadute anche sugli apparati e gli assetti della pubblica amministrazione”. 

Secondo il TAR, “un algoritmo, quantunque, preimpostato in guisa da tener conto di posizioni personali, di titoli e punteggi, giammai può assicurare la salvaguardia delle guarentigie procedimentali che gli artt. 2, 6,7,8,9,10 della L. 7 agosto 1990, n. 241 hanno apprestato, tra l’altro in recepimento di un inveterato percorso giurisprudenziale e dottrinario”; “gli istituti di partecipazione, di trasparenza e di accesso, in sintesi, di relazione del privato con i pubblici poteri non possono essere legittimamente mortificati e compressi soppiantando l’attività umana con quella impersonale, che poi non è attività, ossia prodotto delle azioni dell’uomo, che può essere svolta in applicazione di regole o procedure informatiche o matematiche”. 

“A essere inoltre vulnerato non è solo il canone di trasparenza e di partecipazione procedimentale, ma anche l’obbligo di motivazione delle decisioni amministrative, con il risultato di una frustrazione anche delle correlate garanzie processuali che declinano sul versante del diritto di azione e difesa in giudizio di cui all’art. 24 Cost., diritto che risulta compromesso tutte le volte in cui l’assenza della motivazione non permette inizialmente all’interessato e successivamente, su impulso di questi, al Giudice, di percepire l’iter logico – giuridico seguito dall’amministrazione per giungere ad un determinato approdo provvedimentale”. 

L’assunto, “dirimente” secondo il Collegio, è che “è mancata nella fattispecie una vera e propria attività amministrativa, essendosi demandato ad un impersonale algoritmo lo svolgimento dell’intera procedura di assegnazione dei docenti alle sedi disponibili nell’organico dell’autonomia della scuola”. 

La conclusione del TAR Lazio è che, “con riguardo al ruolo che lo strumento informatico può legittimamente rivestire nell’ambito di procedimenti amministrativi, il Collegio è più in particolare del meditato avviso secondo cui non è conforme al vigente plesso normativo complessivo e ai dettami dell’art. 97 della Costituzione, ai principi ad esso sottesi, agli istituti di partecipazione procedimentale definiti agli artt. 7,8, 10 e 10 – bis della L. 7 agosto 1990, n. 241, all’obbligo di motivazione dei provvedimenti amministrativi sancito dall’art. 3, stessa legge, al principio ineludibile dell’interlocuzione personale intessuto nell’art. 6 della legge sul procedimento e a quello ad esso presupposto di istituzione della figura del responsabile del procedimento, affidare all’attivazione di meccanismi e sistemi informatici e al conseguente loro impersonale funzionamento, il dipanarsi di procedimenti amministrativi, sovente incidenti su interessi, se non diritti, di rilievo costituzionale, che invece postulano, onde approdare al corretto esito provvedimentale conclusivo, il disimpegno di attività istruttoria, acquisitiva di rappresentazioni di circostanze di fatto e situazioni personali degli interessati destinatari del provvedimento finale, attività, talora ponderativa e comparativa di interessi e conseguentemente necessariamente motivazionale, che solo l’opera e l’attività dianoetica dell’uomo può svolgere.”

“Invero Il Collegio è del parere che le procedure informatiche, finanche ove pervengano al loro maggior grado di precisione e addirittura alla perfezione, non possano mai soppiantare, sostituendola davvero appieno, l’attività cognitiva, acquisitiva e di giudizio che solo un’istruttoria affidata ad un funzionario persona fisica è in grado di svolgere e che pertanto, al fine di assicurare l’osservanza degli istituti di partecipazione, di interlocuzione procedimentale, di acquisizione degli apporti collaborativi del privato e degli interessi coinvolti nel procedimento, deve seguitare ad essere il dominus del procedimento stesso, all’uopo dominando le stesse procedure informatiche predisposte in funzione servente e alle quali va dunque riservato tutt’oggi un ruolo strumentale e meramente ausiliario in seno al procedimento amministrativo e giammai dominante o surrogatorio dell’attività dell’uomo; ostando alla deleteria prospettiva orwelliana di dismissione delle redini della funzione istruttoria e di abdicazione a quella provvedimentale, il presidio costituito dal baluardo dei valori costituzionali scolpiti negli artt. 3, 24, 97 della Costituzione oltre che all’art. 6 della Convezione europea dei diritti dell’uomo.”

Costituisce vizio insuperabile, secondo questa lettura, “l’assenza dell’esplicitazione delle ragioni di fatto e di diritto sottese all’assegnazione in esito al procedimento algoritmicamente impostato di mobilità, di un determinato punteggio ovvero di una determinata sede di servizio”; questo infatti “determina l’impossibilità di ricostruire, sia da parte del destinatario che del Giudice, il percorso logico – giuridico in virtù del quale la P.A. si è determinata in un senso che il destinatario del provvedimento inespresso ritiene ingiusto e meritevole di essere contestato.”

Inoltre, “difettando atti istruttori se non intere sub fasi procedimentali, sostituiti dalla procedura algebrica, il destinatario dell’esito provvedimentale implicito non è in grado di individuare quali siano gli atti interlocutori ed istruttori ad esso prodromici, dei quali richiedere l’ostensione e l’accesso. Con il che risulta vulnerato anche il diritto d’accesso, privazione costituente ulteriore e preliminare profilo dell’incisione del diritto di difesa già compromesso, come dianzi si è illustrato, dall’assenza di motivazione.”

Di avviso opposto, quanto alla legittimità del ricorso all’algoritmo, è la sentenza del Consiglio di Stato, sez. VI, 8.4.2019 n. 2270.

Il Collegio muove da una premessa, e cioè che “un più elevato livello di digitalizzazione dell’amministrazione pubblica sia fondamentale per migliorare la qualità dei servizi resi ai cittadini e agli utenti” e che “Il Codice dell’amministrazione digitale rappresenta un approdo decisivo in tale direzione”.

L’innovazione tecnologica, sembra voler ricordare il Consiglio di Stato, è irreversibile e l’ordinamento muove in questa direzione, anche e proprio nella disciplina dell’attività amministrativa.

Alla premessa generale segue una specifica “difesa” delle nuove tecnologie proprio in relazione all’oggetto di quel giudizio: “devono sottolinearsi gli indiscutibili vantaggi derivanti dalla automazione del processo decisionale dell’amministrazione mediante l’utilizzo di una procedura digitale ed attraverso un “algoritmo” – ovvero di una sequenza ordinata di operazioni di calcolo che in via informatica sia in grado di valutare e graduare una moltitudine di domande. L’utilità di tale modalità operativa di gestione dell’interesse pubblico è particolarmente evidente con riferimento a procedure seriali o standardizzate, implicanti l’elaborazione di ingenti quantità di istanze e caratterizzate dall’acquisizione di dati certi ed oggettivamente comprovabili e dall’assenza di ogni apprezzamento discrezionale”.

“Ciò è, invero, conforme ai canoni di efficienza ed economicità dell’azione amministrativa (art. 1 L. n. 241 del 1990), i quali, secondo il principio costituzionale di buon andamento dell’azione amministrativa (art. 97 Cost.), impongono all’amministrazione il conseguimento dei propri fini con il minor dispendio di mezzi e risorse e attraverso lo snellimento e l’accelerazione dell’iter procedimentale.

Per questa ragione, in tali casi – ivi compreso quello di specie, relativo ad una procedura di assegnazione di sedi in base a criteri oggettivi – l’utilizzo di una procedura informatica che conduca direttamente alla decisione finale non deve essere stigmatizzata, ma anzi, in linea di massima, incoraggiata: essa comporta infatti numerosi vantaggi quali, ad esempio, la notevole riduzione della tempistica procedimentale per operazioni meramente ripetitive e prive di discrezionalità, l’esclusione di interferenze dovute a negligenza (o peggio dolo) del funzionario (essere umano) e la conseguente maggior garanzia di imparzialità della decisione automatizzata.

In altre parole, l’assenza di intervento umano in un’attività di mera classificazione automatica di istanze numerose, secondo regole predeterminate (che sono, queste sì, elaborate dall’uomo), e l’affidamento di tale attività a un efficiente elaboratore elettronico appaiono come doverose declinazioni dell’art. 97 Cost. coerenti con l’attuale evoluzione tecnologica.”

Rispetto alle pronunce del TAR Lazio sopra richiamate, l’assenza di intervento umano è vista non già come un inammissibile vulnus, ma al contrario come una opportunità, anzi addirittura come una occasione di miglioramento, e questo non soltanto per ragioni tecniche legate alla riduzione dei tempi e al minor dispendio di risorse, ma anche perché rimuove quanto di negativo è compreso nell’attività umana. La “impersonalità” diventa qui un pregio, in quanto sinonimo di “imparzialità”.

Perché ciò accada, è però necessario essere in presenza di “dati certi ed oggettivamente comprovabili”, da gestire con “procedure seriali o standardizzate”, attraverso “operazioni meramente ripetitive”, in cui l’algoritmo è chiamato a svolgere la “elaborazione di ingenti quantità di istanze” ed una conseguente “mera classificazione automatica”, il tutto “in assenza di ogni apprezzamento discrezionale”.

Stando a questi presupposti, la distanza tra i due orientamenti giurisprudenziali è forse meno abissale di quanto possa sembrare ad una prima lettura.

Quello che sembra nettamente diverso è il modo di intendere l’attività dell’uomo, l’attività della macchina, ed il ruolo di entrambe.

Secondo il TAR Lazio, l’attività impersonale “non è attività, ossia prodotto delle azioni dell’uomo”.

Secondo il Consiglio di Stato l’attività “impersonale” dell’algoritmo e l’attività umana non sono invece due entità opposte di cui una esclude l’altra: piuttosto, c’è l’uomo “dietro” e “dentro” la macchina: ed è questo ciò che rende legittimo “l’utilizzo di procedure robotizzate”.

Però occorre assicurarsi che questo utilizzo avvenga senza la “elusione dei principi che conformano il nostro ordinamento e che regolano  lo svolgersi dell’attività amministrativa”.

“La regola tecnica che governa ciascun algoritmo resta pur sempre una regola amministrativa generale, costruita dall’uomo e non dalla macchina, per essere poi (solo) applicata da quest’ultima, anche se ciò avviene in via esclusiva. Questa regola algoritmica, quindi:

• possiede una piena valenza giuridica e amministrativa, anche se viene declinata in forma matematica, e come tale, come si è detto, deve soggiacere ai principi generali dell’attività amministrativa, quali quelli di pubblicità e trasparenza (art. 1 L. n. 241 del 1990), di ragionevolezza, di proporzionalità, etc.;

• non può lasciare spazi applicativi discrezionali (di cui l’elaboratore elettronico è privo), ma deve prevedere con ragionevolezza una soluzione definita per tutti i casi possibili, anche i più improbabili (e ciò la rende in parte diversa da molte regole amministrative generali); la discrezionalità amministrativa, se senz’altro non può essere demandata al software, è quindi da rintracciarsi al momento dell’elaborazione dello strumento digitale;

• vede sempre la necessità che sia l’amministrazione a compiere un ruolo ex ante di mediazione e composizione di interessi, anche per mezzo di costanti test, aggiornamenti e modalità di perfezionamento dell’algoritmo (soprattutto nel caso di apprendimento progressivo e di deep learning);

• deve contemplare la possibilità che – come è stato autorevolmente affermato – sia il giudice a “dover svolgere, per la prima volta sul piano ‘umano’, valutazioni e accertamenti fatti direttamente in via automatica”, con la conseguenza che la decisione robotizzata “impone al giudice di valutare la correttezza del processo automatizzato in tutte le sue componenti.

In definitiva, dunque, l’algoritmo, ossia il software, deve essere considerato a tutti gli effetti come un “atto amministrativo informatico”.

Secondo questa lettura, l’attenzione dunque non si deve soffermare, o almeno non esclusivamente, sulla fase dell’applicazione dell’algoritmo, e tanto meno sulla fase della produzione dei risultati dell’algoritmo; l’attenzione deve essere  anticipata ad una fase molto precedente.

Si deve guardare a quando, come e da chi l’algoritmo è stato scritto; prima ancora, si deve guardare a come sono stati scelti gli autori e come sono state stabilite le regole da dare all’algoritmo; e prima ancora, si deve guardare a quali dati sono stati raccolti, come sono stati raccolti, e come sono stati gestiti ai fini della elaborazione dell’algoritmo.

E tutto deve essere conoscibile, e giudicabile.

“Il meccanismo attraverso il quale si concretizza la decisione robotizzata (ovvero l’algoritmo) deve essere “conoscibile”, secondo una declinazione rafforzata del principio di trasparenza, che implica anche quello della piena conoscibilità di una regola espressa in un linguaggio differente da quello giuridico.

Tale conoscibilità dell’algoritmo deve essere garantita in tutti gli aspetti: dai suoi autori al procedimento usato per la sua elaborazione, al meccanismo di decisione, comprensivo delle priorità assegnate nella procedura valutativa e decisionale e dei dati selezionati come rilevanti. Ciò al fine di poter verificare che gli esiti del procedimento robotizzato siano conformi alle prescrizioni e alle finalità stabilite dalla legge o dalla stessa amministrazione a monte di tale procedimento e affinché siano chiare – e conseguentemente sindacabili – le modalità e le regole in base alle quali esso è stato impostato.

In altri termini, la “caratterizzazione multidisciplinare” dell’algoritmo (costruzione che certo non richiede solo competenze giuridiche, ma tecniche, informatiche, statistiche, amministrative) non esime dalla necessità che la “formula tecnica”, che di fatto rappresenta l’algoritmo, sia corredata da spiegazioni che la traducano nella “regola giuridica” ad essa sottesa e che la rendano leggibile e comprensibile, sia per i cittadini che per il giudice”.

L’orientamento giurisprudenziale più “conservatore” rifiuta la transizione. Esso individua il problema, ma esclude che vi sia soluzione e reagisce negando cittadinanza al nuovo strumento. Certo la negazione non è totale; però la limitazione delle nuove possibilità tecnologiche ad una funzione “servente” e “strumentale” per un verso appare di assai ardua perimetrazione, per un altro verso va contro la direzione dei processi tecnologici, ed infine appare intrinsecamente contraddittoria, posto che anche la funzione “servente” pone le medesime esigenze di conoscibilità e di accessibilità.

L’orientamento giurisprudenziale più “innovatore” mira invece a governare la transizione.

Lo fa naturalmente focalizzandosi sul momento giurisdizionale, trattandosi di sentenza; e in particolare lo fa soffermandosi sul tema sottoposto alla sua decisione, che è quello riguardante il procedimento amministrativo. Ma la riflessione può essere estesa all’attività umana nella sua totalità e complessità, intesa come attività soggetta a regole e principi che la definiscono, la guidano e la delimitano nel suo svolgersi.

Ciò che questa giurisprudenza ci dice è che l’irruzione dell’algoritmo in Tribunale (ma in realtà, prima di allora, all’interno del mondo delle regole che guidano l’attività umana) è inevitabile, e che di questa irruzione così “disruptive” occorre cogliere la dimensione che è al contempo rivoluzionaria e tradizionale.

In Tribunale, l’algoritmo si pone in una dimensione rivoluzionaria perché oggetto del giudizio diventa non un comportamento umano, ma una formula tecnica, una regola matematica; ma si pone anche in una dimensione tradizionale, perché cambia ciò che il Giudice va a scrutare, e come il Giudice lo va a scrutare,  ma non ciò che il Giudice va a cercare e ciò che il Giudice vuole trovare. 

Al di fuori del Tribunale (e cioè prima di arrivare in Tribunale), l’algoritmo è rivoluzione perché è l’algoritmo, utilizzato per svolgere/gestire una attività umana, che deve essere conforme alla regola che disciplina quella attività; ma è anche tradizione, perché la regola è sempre la medesima, e va applicata secondo gli stessi canoni con i quali è stata da sempre applicata ai comportamenti umani.

La sentenza chiarisce bene la necessità che il linguaggio della macchina sia/diventi linguaggio dell’uomo: perché è l’uomo il destinatario dell’attività della macchina (il cittadino; il lavoratore); perché è l’uomo a decidere – ancora, almeno per ora, e fino a che sarà così- l’oggetto e le finalità delle attività della macchina (la Pubblica Amministrazione; il datore di lavoro); perché è l’uomo a decidere della liceità e correttezza dell’attività della macchina e della sua rispondenza alla regola (il Giudice; ma anche con il Giudice e per il Giudice – sempre di più, e in maniera sempre più incisiva – il suo Consulente).

“La regola algoritmica deve essere non solo conoscibile in sé, ma anche soggetta alla piena cognizione, e al pieno sindacato, del giudice amministrativo”.

“La decisione amministrativa automatizzata impone al giudice di valutare in primo luogo la correttezza del processo informatico in tutte le sue componenti: dalla sua costruzione, all’inserimento dei dati, alla loro validità, alla loro gestione. Da qui, come si è detto, si conferma la necessità di assicurare che quel processo, a livello amministrativo, avvenga in maniera trasparente, attraverso la conoscibilità dei dati immessi e dell’algoritmo medesimo.

In secondo luogo, conseguente al primo, il giudice deve poter sindacare la stessa logicità e ragionevolezza della decisione amministrativa robotizzata, ovvero della “regola” che governa l’algoritmo”.

Ci sembra che questa sia, aldilà delle comunque rilevantissime tematiche afferenti l’atto amministrativo che esulano da queste note, la portata più significativa di questa giurisprudenza: l’algoritmo deve rispondere ai canoni dell’ordinamento, e deve essere possibile verificare che sia così.

Ai nostri fini, quel che appare interessante della qualificazione dell’algoritmo come “atto amministrativo informatico” è che il Consiglio di Stato vi perviene applicando al nuovo linguaggio (matematico) il corpo giuridico (i principi in particolare del diritto amministrativo) di riferimento.

Potrebbe sembrare una conclusione scontata: ma in realtà non lo è affatto, o comunque non lo è nella misura in cui costringe tutti a leggere l’innovazione, in qualunque campo, attraverso le lenti dell’ordinamento vigente applicabile a quel campo.

 

La ricostruzione dell’iter logico

In questo senso, è assai interessante un’altra pronuncia del TAR Lazio Roma, sez. III bis, 21.3.2017 n. 3742, che (sempre in materia di assegnazione di sedi ai docenti per via informatica) perviene a qualificare anch’essa l’algoritmo come atto amministrativo informatico.

E’ una sentenza interessante per diversi ordini di motivi; qui la annotiamo per due aspetti.

Da un lato la sentenza fa un riferimento, per quanto indiretto, alla questione del “diverso tenore della discrezionalità esercitata” attraverso l’algoritmo ed al tema della (diversa?) ammissibilità della elaborazione elettronica dell’atto amministrativo in ipotesi di attività vincolata o viceversa quando vi sia attività discrezionale.

Secondo il TAR, “si può agevolmente concordare in ordine alla circostanza che la predetta tipologia di atto informatico è giuridicamente ammissibile e legittimo quanto all’attività vincolata dell’amministrazione, atteso che l’attività vincolata è compatibile con la logica propria dell’elaboratore elettronico in quanto il software traduce gli elementi di fatto e i dati giuridici in linguaggio matematico dando vita a un ragionamento logico formalizzato che porta a una conclusione che, sulla base dei dati iniziali, è immutabile.”

Anche secondo questa sentenza, dunque, attività vincolata e algoritmo sono pienamente compatibili, indipendentemente dalla complessità, anzi tanto più quanto maggiore è la complessità: “…attività che si presenta, invero, particolarmente complessa esclusivamente in considerazione degli innumerevoli elementi che devono essere valutati ai predetti fini ma che prescindono, comunque, da una valutazione discrezionale degli stessi da parte dell’amministrazione, trattandosi di elementi di tipo oggettivo e di immediato riscontro, di talché l’amministrazione è tenuta, pertanto, soltanto a acquisirli tutti al procedimento e ad interrelazionarli correttamente tra di loro ai fini dell’adozione dell’atto finale, ossia appunto l’individuazione concreta della specifica sede di servizio di spettanza del singolo docente interessato dalla mobilità per l’anno in corso.”

E’ un punto a favore dell’algoritmo: non è possibile escluderne l’impiego a priori affermando che si tratterebbe di “attività non umana” o “non attività”.

 

Per l’attività discrezionale, il Tribunale non si pronuncia, poiché non era oggetto del caso sottoposto a decisione; però la sentenza contiene un passaggio significativo quando, dato atto che il problema nasce quando “l’amministrazione ha la possibilità di scelta dei mezzi da utilizzare ai fini della realizzazione dei fini determinati dalla legge” così scrive: “al riguardo potrebbe ritenersi che, in realtà, l’ammissibilità dell’elaborazione elettronica dell’atto amministrativo – ovvero, traduciamo noi, l’utilizzo di un algoritmo – non è legata alla natura discrezionale o vincolata dell’atto quanto invece essenzialmente alla possibilità, che tuttavia è scientifica e non invece giuridica, di ricostruzione dell’iter logico sulla base del quale l’atto stesso possa essere emanato per mezzo di procedure automatizzate quanto al relativo contenuto dispositivo.”

Interviene qui il secondo spunto interessante della sentenza ai nostri fini: viene analizzato il software nel suo profilo giuridico.

A monte di tutto, ricorda il TAR, vi è un problema da “risolvere e automatizzare”, e cioè l’esigenza che si vuole soddisfare: è da qui che nasce tutto, ed è per soddisfare questa esigenza che s procede alla “scrittura del codice”.

“Il software è, quindi, l’espressione di un insieme organizzato e strutturato di istruzioni contenute in qualsiasi forma o supporto capace direttamente o indirettamente di fare eseguire o fare ottenere una funzione, un compito o un risultato particolare per mezzo di un sistema di elaborazione elettronica dell’informazione e con linguaggio o codice sorgente si intende il testo di un algoritmo di un programma scritto in un linguaggio ed in fase di programmazione e compreso all’interno di un file sorgente.

Il codice sorgente scritto dovrà essere opportunamente elaborato per arrivare a un programma eseguibile dal processore ponendosi dunque come punto di partenza (“sorgente”) dell’intero processo che porta all’esecuzione del programma stesso da parte dell’hardware della macchina, e che può includere altre fasi come precompilazione, compilazione, interpretazione, caricamento e linking (a seconda del tipo di linguaggio di programmazione utilizzato) per concludersi con l’installazione.

La scrittura del codice sorgente presuppone la risoluzione (a monte o di pari passo) del problema iniziale da risolvere e automatizzare sotto forma di algoritmo risolutivo (eventualmente ricorrendo ad un diagramma di flusso o ad uno pseudolinguaggio), di cui la fase di scrittura del codice rappresenta la fase implementativa (programmazione) ad opera di un programmatore tramite un editor di testo (spesso compreso all’interno di un ambiente di sviluppo integrato) rispettando lessico e sintassi del particolare linguaggio di programmazione scelto/utilizzato.”

Se c’è una “scrittura”, c’è anche necessariamente un autore, cui è imputabile la scrittura del software.

Ed infatti, “il software ha natura prettamente informatica in quanto è compilato mediante linguaggi di programmazione che sono conosciuti esclusivamente dai programmatori informatici e che, di per sé, sono solitamente incomprensibili non solo al funzionario che ne fa uso ai fini dell’elaborazione della decisione finale del procedimento amministrativo ma anche al privato destinatario dell’atto stesso”; così come “il software non è solitamente imputabile all’amministrazione o a un funzionario pubblico in quanto il relativo programma informatico non è elaborato direttamente da parte dell’amministrazione pubblica ma da parte di un soggetto privato competente in materia anche se sulla base delle indicazioni puntuali sui criteri e le finalità di natura amministrativa”.

Si pone, dunque, la necessità della distinzione tra autore della scrittura e autore delle scelte che stanno alla base di quella scrittura.

“Le decisioni dell’attività dell’amministrazione vengono, in realtà, prese a monte dell’elaborazione elettronica sia per quanto concerne il ricorso alla predetta tipologia di elaborazione che per quanto concerne la definizione dell’architettura stessa del software, che si limita, pertanto, a rendere effettive le determinazioni al riguardo dell’amministrazione e, quindi, il software è in sostanza l’esecuzione di una decisione amministrativa già presa e perfezionatasi, che è di per sé già direttamente produttrice di effetti giuridici; il software svolge una mera funzione di ausilio all’attività del funzionario pubblico in quanto la volontà dell’atto informatico è la volontà dell’autorità amministrativa procedente e non invece un mero prodotto di macchina; il software concretizza una mera modalità di esecuzione di una volontà dell’amministrazione che, tuttavia, è già stata espressa.”

Nella prospettiva della differenziazione dei ruoli e delle responsabilità all’interno del percorso che dalla decisione di ricorrere all’algoritmo porta all’esercizio dell’attività (umana) da quello gestita, questa lucida ricostruzione del TAR appare quantomai efficace nel delineare cosa compete a chi decide, e cosa a chi “scrive”.

Dopodichè, la parte finale fissa un punto fondamentale evidenziando  la portata assolutamente innovativa del linguaggio digitale: “è il ricorso a strumenti innovativi da parte dell’amministrazione per la gestione della propria attività procedimentale e provvedimentale che impone all’interprete di fronteggiare, con un approccio più aperto e non legato indissolubilmente alle logiche preesistenti, le problematiche di tipo giuridico che ne conseguono e non può, peraltro, fondatamente ritenersi che la scelta discrezionale dell’amministrazione di ricorrere a un programma informatico al fine di gestire un procedimento che la stessa amministrazione ha costruito in un certo articolato e complesso modo, alla luce delle varianti che la medesima ha ritenuto di dovervi introdurre al fine di giungere alla definizione del contenuto del provvedimento finale sulla base della normativa in materia, si rifletta in senso limitativo all’accessibilità conoscitiva da parte del destinatario dell’atto il cui concreto contenuto dispositivo è stato, in definitiva, elaborato esclusivamente attraverso un programma informatico appositamente elaborato.”

Sarebbe sbagliato ritenere che “per il solo fatto che si tratti di attività vincolata e delineata puntualmente nei suoi presupposti, si tratti esclusivamente di una modalità di esecuzione”; in realtà “è il software che, in concreto, tiene conto dei singoli passaggi procedurali in cui si sarebbe dovuto concretizzare il procedimento ordinariamente svolto da parte di un funzionario pubblico-persona fisica.”

Per questo motivo, nella fattispecie specifica (che riguardava una richiesta di accesso al codice sorgente) il TAR esclude che sia sufficiente poter conoscere “le istruzioni espresse in lingua italiana e in forma di algoritmo in quanto descrittive della sequenza ordinata dei relativi passaggi logici”: ciò “permette evidentemente di assicurare la comprensibilità del funzionamento del software anche al cittadino comune”; ma occorre poter avere invece “piena contezza anche del programma informatico che può aversi solo con l’acquisizione del relativo linguaggio sorgente, indicato nel ricorso come codice sorgente, del software relativo all’algoritmo di cui trattasi. 

E’ evidente, infatti, che la mera descrizione dell’algoritmo e del suo funzionamento in lingua italiana non assolve alla medesima funzione conoscitiva data dall’acquisizione diretta del linguaggio informatico sorgente.”

La Accessibilità (dell’atto amministrativo) e la Conoscibilità dell’iter logico (per qualsiasi atto dell’uomo gestito da un algoritmo) portano con sé, secondo questa lettura, una intrinseca ed ineliminabile necessità di conoscere il linguaggio sorgente. 

L’algoritmo non può avere segreti?

 

Note finali

In un percorso interpretativo appena intrapreso, le sentenze citate (e altre di analogo tenore) cominciano a dare le prime indicazioni e individuare le prime questioni.

Un primo punto è il riconoscimento che l’algoritmo ha diritto di ingresso all’interno dell’ordinamento giuridico. La discussione è sulle condizioni, ma la porta è stata dichiarata aperta.

Un secondo punto è che tale ingresso non è incondizionato, ma anzi impone che siano salvaguardati i principi e le regole che disciplinano l’ambito, nel quale l’algoritmo trova ospitalità: e questo non vale solo per il diritto amministrativo. Se l’algoritmo viene utilizzato ai fini del rapporto di lavoro, deve rispettare i principi del diritto del lavoro; se viene impiegato ai fini della gestione di un rapporto assicurativo o bancario, deve osservarne le regole; e così per qualsiasi ambito.

Non ci riferiamo, si badi, ai principi trasversali applicabili a tutto l’ordinamento (uno per tutti: la tutela dei dati personali); ci riferiamo alle specifiche regole del settore in cui l’algoritmo aiuta/sostituisce l’azione dell’uomo. Ciò che l’essere umano deve/non deve fare in un certo contesto, lo deve/non deve fare anche l’algoritmo.

Terzo punto, l’algoritmo parla un linguaggio nuovo, diverso, per molti incomprensibile. Poiché il linguaggio è di pochi (o comunque, non è di tutti), solo chi padroneggia il linguaggio è in grado di percepire la correttezza di ciò che è scritto. Questa correttezza deve essere tecnico/formale, intesa come assenza di errori nel linguaggio; ma è anche correttezza sostanziale, intesa come rispondenza del linguaggio alle regole date da chi decide a chi scrive. Chi conosce il linguaggio è necessario per scrivere le regole secondo quel linguaggio, ma anche per verificarle ex post: a chi conosce il linguaggio deve rivolgersi il Giudice in Tribunale, ma anche il committente che commissiona la scrittura in un linguaggio che gli è sconosciuto. 

Quarto punto, il linguaggio è sì incomprensibile ai più, ma questa incomprensibilità non può significare una sottrazione dalla responsabilità delle scelte che quel linguaggio ignoto è chiamato ad esprimere. La scelta rimane dell’essere umano (almeno per ora…) e specificamente dell’essere umano cui essa compete secondo i canoni consueti. Quel che cambia è il momento in cui la scelta viene a concretizzarsi ed a manifestarsi, e il modo in cui ciò avviene; quel che cambia è il momento che va investigato per verificare quella scelta. Questo momento è quello in cui si concretizza il rapporto tra chi sceglie, e chi scrive; è il momento in cui si forniscono gli input, destinati a divenire output.

Per il momento, l’essere umano continua ad avere il ruolo centrale; cambia il numero dei soggetti interessati, la qualifica di questi soggetti, la loro funzione; ma sempre di esseri umani si discute. Non sembra ancora arrivato il momento della responsabilità della macchina. Almeno per ora.

 

1. Purtroppo, nella fattispecie specifica un sindacato giurisdizionale sull’algoritmo non c’è. La sentenza infatti non è arrivata fino a questo punto, fermandosi a dichiarare la illegittimità del procedimento e dei provvedimenti impugnati per la “impossibilità di comprendere le modalità con le quali, attraverso il citato algoritmo, siano stati assegnati i posti disponibili”. Dopodichè, la assegnazione ai ricorrenti di un diverso posto è stata decisa dal Ministero, su ordine del Giudice, “al di là di automatismi informatici”, individuando (ad opera di un essere umano) “sedi disponibili in loco più coerenti con il loro profilo lavorativo e le loro richieste”.