Riserva di umanità: è il principio costruito dal giudice amministrativo per impedire l’arretramento dello Stato di diritto rispetto all’IA

Mentre l’intelligenza artificiale entra sempre più velocemente nelle nostre vite, trasformando il modo in cui lavoriamo, comunichiamo e prendiamo decisioni, anche il diritto vive la sua trasformazione, non rincorrendo semplicemente l’innovazione ma cercando di governarla. È una sfida senza precedenti.

Da un lato c’è la promessa di amministrazioni più efficienti, procedure più rapide e decisioni supportate da strumenti sempre più sofisticati. Dall’altro, si pone con insistenza il tema di come “controllare” la decisione algoritmica e di come evitare che l’efficienza tecnologica finisca per comprimere diritti, garanzie e principi che costituiscono il patrimonio delle democrazie moderne.

La risposta che il legislatore e la giurisprudenza stanno progressivamente costruendo è chiara: l’innovazione non può rappresentare un arretramento dello Stato di diritto. Al contrario, deve diventare l’occasione per rafforzarne le tutele. Per questo stanno prendendo forma nuovi principi – dalla trasparenza algoritmica alla riserva di umanità, fino al diritto di comprendere il funzionamento delle decisioni automatizzate – destinati a convivere con le categorie tradizionali del diritto amministrativo.

Il punto, infatti,  non è fermare il progresso tecnologico. Nessuno oggi mette in discussione che piattaforme digitali, interoperabilità delle banche dati, algoritmi e sistemi di intelligenza artificiale possono rendere l’azione pubblica più veloce, efficiente e accurata. La vera sfida è un’altra: fare in modo che queste tecnologie rimangano strumenti nelle mani dell’uomo e non diventino esse stesse il luogo in cui si forma, in modo opaco e incontrollabile, la decisione amministrativa.

Ed è proprio nel diritto amministrativo che questa trasformazione appare più evidente in considerazione  della innovazione tecnologica che investe direttamente il rapporto tra cittadini e istituzioni, incidendo sul modo in cui vengono tutelati gli interessi pubblici e garantiti i diritti fondamentali.

La crescente disponibilità di dati, l’affinamento delle tecniche di elaborazione automatica delle informazioni e lo sviluppo di sistemi algoritmici sempre più sofisticati stanno progressivamente trasformando il rapporto tra tecnologia e potere amministrativo. Gli algoritmi vengono oggi impiegati nella formazione delle graduatorie concorsuali, nella verifica automatizzata dei requisiti, nell’erogazione di prestazioni economiche, nella gestione delle liste di attesa, nell’organizzazione dei servizi pubblici e, più in generale, in tutti quei procedimenti caratterizzati da elevati livelli di standardizzazione.

In tale contesto, l’algoritmo non si limita più a supportare l’attività dell’Amministrazione, ma partecipa direttamente alla formazione della decisione. Le regole giuridiche vengono tradotte in istruzioni informatiche e il software diviene così il luogo nel quale l’esercizio del potere amministrativo viene preventivamente organizzato e strutturato.

In questa prospettiva, la tecnologia non rimane esterna all’esercizio del potere, bensì ne diventa una delle modalità di manifestazione. Per questa ragione appare importante interrogarsi sul ruolo che è chiamato a svolgere il giudice amministrativo nel sindacare decisioni il cui iter logico è incorporato in un algoritmo piuttosto che espresso nella motivazione di un provvedimento.

La giurisprudenza amministrativa ha progressivamente fornito risposte riconoscendo prima la legittimità del ricorso agli algoritmi, purché il procedimento automatizzato rimanga conforme ai principi di legalità, trasparenza, conoscibilità e imputabilità della decisione. Più recentemente alcune decisioni dei giudici amministrativi sembrano aver compiuto un ulteriore passo in avanti, valorizzando il principio della “supervisione umana” non più soltanto come requisito del regolare funzionamento dei sistemi automatizzati, ma come criterio generale per il corretto  esercizio del potere amministrativo. La cosiddetta “riserva di umanità” sta progressivamente assumendo i caratteri di un principio generale dell’azione amministrativa digitalizzata, quale  garanzia funzionale ad assicurare che la trasformazione digitale non determini una deresponsabilizzazione dell’Amministrazione né un arretramento delle tutele riconosciute ai cittadini.

Proprio per dare evidenza di questa trasformazione è importante dare conto di alcune recenti decisioni del giudice amministrativo rese, in particolare, nell’ambito di procedure riguardanti i contratti pubblici.

La sentenza n. 1157 del Tar Catania esamina una questione molto importante riguardante la trasparenza e la tracciabilità delle attività realizzate in modo automatizzato. La vicenda ha riguardato una procedura di gara nella quale la stazione appaltante aveva affidato il calcolo dei punteggi tecnici a un software. Parte ricorrente aveva rilevato l’incompletezza della verbalizzazione delle plurime operazioni matematiche svolte dalla Commissione valutatrice. La stazione appaltante aveva chiarito, in sede di giudizio,  che non esistevano prospetti di calcolo cui accedere in quanto tutte le operazioni matematiche sarebbero state compiute dal software utilizzato per la gestione della procedura in maniera automatica. In sostanza inserite le valutazioni relative ai singoli sotto criteri dei Commissari, il programma avrebbe restituito il risultato finale, confluito nella graduatoria senza consentire alcuna verifica sui passaggi matematici  posti in essere per giungere alla determinazione conclusiva. Parte ricorrente tra le doglianze ha rappresentato, quindi,  l’illegittimità dell’azione amministrativa nella parte in cui c’era stato un affidamento eccessivo al programma informatico utilizzato che aveva portato a una inaccettabile abdicazione della funzione amministrativa che la legge affida al RUP e alla Commissione giudicatrice, senza che vi fosse trasparenza e tracciabilità delle attività svolte, non risultando garantita la riserva di umanità e cioè che le operazioni informatizzate siano sempre verificabili e se del caso emendabili.

In conclusione il problema emerso era particolarmente significativo: l’Amministrazione non era in grado di spiegare come il programma avesse elaborato i risultati, né disponeva dei calcoli intermedi effettuati dal sistema. Il ricorrente, invece, dimostrava che applicando le formule previste dal bando ai medesimi dati iniziali si otteneva un risultato differente.

In sostanza, la Pubblica Amministrazione si era limitata ad inserire i dati nel programma, confidando nella correttezza dell’elaborazione automatica senza poter verificare il procedimento seguito dall’algoritmo, non essendo a conoscenza dei calcoli intermedi effettuati dal programma utilizzato, ovvero delle regole matematiche di funzionamento del programma utilizzato.

Di fronte a questa situazione, il Collegio ha affermato un principio di particolare rilievo: quando l’automazione entra in conflitto con i principi fondamentali dell’azione amministrativa, deve essere l’automazione ad arretrare.

Le esigenze di velocità, innovazione e semplificazione non possono trasformarsi in una delega totale ai sistemi informatici né giustificare l’esistenza di decisioni non verificabili. La Pubblica Amministrazione deve sempre conservare la possibilità di comprendere, controllare e, se necessario, correggere il risultato prodotto dall’algoritmo.

In altre parole, l’intelligenza artificiale e gli strumenti digitali rappresentano un’opportunità straordinaria per migliorare l’efficienza amministrativa, ma non possono mai attenuare la responsabilità pubblica né comprimere le garanzie che costituiscono il fondamento dello Stato di diritto.

In linea con la precedente pronuncia anche il Tar Marche (sentenza n. 758/2026). La questione posta all’attenzione del giudice amministrativo  nasceva dall’esclusione di un’impresa da una gara bandita per  lavori di adeguamento sismico. L’operatore economico contestava il provvedimento sostenendo, tra l’altro, che la relazione del Responsabile unico del procedimento (RUP) fosse stata redatta con l’ausilio di strumenti di intelligenza artificiale, senza un reale controllo umano e con richiami giurisprudenziali inesatti. Secondo la ricorrente, l’utilizzo di un sistema di IA avrebbe prodotto una motivazione stereotipata, poco aderente al caso concreto e persino corredata di riferimenti giurisprudenziali inesatti, sintomo di un affidamento eccessivo sull’elaborazione automatica.

Il TAR ha preliminarmente chiarito che non ogni utilizzo dell’intelligenza artificiale integra una decisione automatizzata. Nel caso esaminato, infatti, la decisione finale non era stata presa da un algoritmo, bensì dal Direttore dell’Ufficio, che aveva adottato formalmente il provvedimento di esclusione assumendosene la responsabilità giuridica. Anche se il RUP avesse utilizzato strumenti di IA per predisporre parte della relazione, ciò non trasformava automaticamente il procedimento in una decisione algoritmica. Per quanto concerne gli errori contenuti nella relazione del RUP, la società ricorrente aveva evidenziato che alcune sentenze citate risultavano inesistenti oppure non pertinenti. Il TAR pur riconoscendo  che tali errori potevano derivare   da un uso poco accorto dell’intelligenza artificiale, ha precisato che questo elemento, da solo, non rende illegittimo il provvedimento, ritenendo equiparabili i detti errori a meri errori materiali. Ciò che conta, infatti,  è la correttezza del ragionamento giuridico e la fondatezza delle conclusioni. Se i principi richiamati trovano comunque riscontro nella giurisprudenza consolidata, il mero errore nella citazione numerica di una sentenza non incide sulla validità della decisione amministrativa.

Il valore della decisione va ben oltre il singolo appalto. Il messaggio è chiaro: l’intelligenza artificiale può diventare uno strumento prezioso per migliorare efficienza e qualità dell’azione amministrativa, ma non può trasformarsi in un sostituto del funzionario pubblico. La responsabilità della decisione resta sempre in capo all’amministrazione, che deve essere in grado di comprendere, verificare e motivare ogni scelta adottata.

La “riserva di umanità”, dunque, non rappresenta un freno all’innovazione tecnologica, ma la condizione necessaria affinché l’innovazione sia compatibile con i principi di legalità, trasparenza e buon andamento dell’azione amministrativa. Ed è su questo equilibrio che, con ogni probabilità, si giocherà il futuro dell’intelligenza artificiale nella Pubblica Amministrazione italiana, anche al fine di garantire che il progresso tecnologico continui a essere governato dal diritto e  che non accada non  il contrario.