La riserva di umanità nell'amministrazione algoritmica: osservazioni a margine della sentenza T.A.R. Marche n. 758/2026

1.L’intelligenza artificiale nel procedimento amministrativo: il quadro giurisprudenziale e normativo

La progressiva digitalizzazione delle funzioni essenziali dello Stato e il crescente impiego dei sistemi di intelligenza artificiale hanno comportato un radicale mutamento di paradigma nell’ordinamento giuridico contemporaneo¹, trasformando le modalità di esercizio del potere pubblico e la sua struttura². Come era prevedibile, nel nuovo ecosistema digitale, anche il procedimento amministrativo è stato interessato da un progressivo e pervasivo processo di integrazione delle tecnologie digitali³. Integrazione che ha trasformato in maniera strutturale e sistemica l’azione amministrativa, incidendo tanto sull’assetto dogmatico del procedimento quanto sulle garanzie poste a presidio dei diritti del cittadino⁴. In particolare, l’adozione dei sistemi di Intelligenza artificiale nell’agere amministrativo rende necessario un ripensamento del bilanciamento tra le esigenze di efficienza amministrativa e la tutela dei diritti e degli interessi legittimi. D’altronde, è stata proprio la giustizia amministrativa a cogliere un aspetto nodale delle problematiche poste dai sistemi di IA. Con la sentenza n. 7891 del 2021, il Consiglio di Stato ha operato una significativa distinzione tra l’algoritmo “tradizionale”⁵ e i sistemi di intelligenza artificiale, evidenziando come il tratto distintivo di questi ultimi risieda nella capacità di elaborare «costantemente nuovi criteri di inferenza, secondo un processo di apprendimento automatico»⁶. Pur adoperando una terminologia che potrebbe risultare vaga⁷, il supremo giudice amministrativo ha avvertito la necessità di chiarire che l’aspetto che distingue un sistema di IA è la sua autonomia, cioè, la capacità di apprendere autonomamente pattern di risposta grazie al machine learning⁸. In particolare, l’autonomia dei sistemi basati sul machine learning e sul deep learning consiste nella capacità di elaborare automaticamente una risposta tramite l’analisi di enormi quantità di dati, senza offrire i necessari requisiti di conoscibilità algoritmica. Da questa caratteristica deriva il black box problem, ossia la difficoltà di ricostruire e comprendere l’“iter logico” che la macchina ha seguito per raggiungere l’obiettivo perseguito⁹. Sotto il profilo giuridico, il fenomeno pone evidenti implicazioni rispetto al principio di trasparenza¹⁰ dell’attività amministrativa poiché l’opacità del processo decisionale algoritmico può rendere difficoltosa la comprensione delle ragioni sottese alla decisione adottata¹¹. Sebbene il fenomeno del black box non contraddistingua indiscriminatamente tutti i sistemi di IA, emerge la necessità di preservare l’intervento umano nell’ambito dei processi decisionali amministrativi¹² . È stato osservato, a riguardo, che il primo principio della «constitutional rule of technology»¹³, affacciatosi nella più recente giurisprudenza amministrativa¹⁴, è quello del «divieto di atti di amministrazione digitale esclusivamente algoritmica», perché una gestione integralmente automatizzata risulterebbe incompatibile con le garanzie poste a tutela della trasparenza e della responsabilità dell’azione amministrativa. In questo senso, costituisce un limite invalicabile il principio di non esclusività della decisione algoritmica, sancito dall’art. 22 del Regolamento (UE) 2016/679 e ricondotto ai «valori costituzionali espressi dagli artt. 3, 24 e 97 della Costituzione, nonché dall’art. 6 della Convenzione europea dei diritti dell’uomo». Tali principi trovano declinazione nel procedimento amministrativo e sono stati ulteriormente valorizzati dalla giurisprudenza italiana. In particolare, la giurisprudenza amministrativa ha avuto modo di chiarire che l’atto di un pubblico potere in cui vi sia sostituzione completa della decisione umana da parte di un algoritmo ovvero di altro sistema automatizzato risulterebbe non soltanto illegittimo, ma prima ancora incostituzionale, in quanto lesivo dei valori costituzionali posti a presidio della tutela dei diritti e del corretto esercizio della funzione amministrativa¹⁵.

2. La riserva di umanità e la sentenza del T.A.R. Marche n. 758/2026

Viene in rilievo, quindi, la garanzia dell’human-in-the-loop (HITL)¹⁶ che presuppone l’interazione tra la macchina e l’essere umano, ovvero tra l’intelligenza artificiale e l’intelligenza umana, cui spetta il compito di controllare, validare ovvero smentire la decisione automatica¹⁷. La garanzia umana, pertanto, assume un significato particolare soprattutto nell’ambito dell’esercizio del potere amministrativo discrezionale, nel quale l’amministrazione – come noto – è chiamata a considerare e ponderare i vari interessi in gioco rispetto all’oggetto della decisione¹⁸.

In questo contesto, si inserisce la recente sentenza del T.A.R. Marche n. 758 del 2026¹⁹ che rappresenta un’ulteriore occasione di riflessione sul tema dell’impiego dell’Intelligenza Artificiale nell’ambito dei procedimenti amministrativi. La vicenda traeva origine da un ricorso proposto avverso la determinazione con cui l’Agenzia del Demanio aveva disposto l’esclusione di un operatore economico da una procedura negoziata senza bando. La società aveva fatto ricorso al giudice amministrativo, deducendo, tra i vari motivi, che la relazione del R.U.P. fosse stata redatta con l'ausilio dell'IA, in violazione del principio della "riserva di umanità"²⁰ Preliminarmente, il Collegio ha chiarito che per «decisione amministrativa completamente automatizzata» deve intendersi un atto che non preveda alcun intervento umano nelle fasi di input dei dati, della loro elaborazione o dell'adozione della decisione finale²¹. Questi presupposti, tuttavia, non ricorrevano nel caso di specie. La relazione del R.U.P., difatti, non era qualificabile né come decisione finale né, tantomeno, come «decisione amministrativa completamente automatizzata».

Inoltre, ad avviso del Tribunale Amministrativo, il ricorso all’ Intelligenza Artificiale aveva riguardato esclusivamente profili accessori della motivazione, limitandosi alla ricerca e al richiamo dei principi generali elaborati dalla giurisprudenza²², senza tuttavia incidere sulla «parte volitiva» della decisione amministrativa. Nel caso sub judice, pertanto, l’IA era stata adoperata in funzione di mero ausilio, senza dispiegare conseguenze essenziali sulla motivazione²³, vera e propria «componente sostanziale che sorregge il provvedimento»²⁴. In questa prospettiva, i giudici amministrativi ribadivano che il recepimento della proposta del R.U.P. da parte del dirigente competente costituiva espressione di una «condivisione, esplicita o implicita, delle valutazioni» in essa contenute. Di conseguenza, il provvedimento finale doveva essere integralmente imputabile al dirigente, il quale è tenuto ad assumere la piena responsabilità della decisione adottata.

Tuttavia, ai fini della nostra indagine, la sentenza in commento assume particolare rilievo nella parte in cui, richiamando l'orientamento dottrinale prevalente, afferma che «l'intervento umano potrebbe esaurirsi nella decisione preliminare di utilizzare la procedura automatizzata». Ne consegue che, in coerenza con l'art. 86 dell'AI Act²⁵ e con l’art. 30 del D.lgs. n. 36/2023, l'unico obbligo gravante sul deployer pubblico²⁶ consisterebbe nel fornire all'interessato «spiegazioni chiare e significative sul ruolo del sistema di IA nella procedura decisionale e sui principali elementi della decisione adottata». In questa prospettiva, la pubblica amministrazione garantirebbe la c.d. riserva di umanità anche limitandosi ad assumere la sola decisione preliminare relativa all'impiego di una procedura basata sull'intelligenza artificiale.

3. La supervisione umana e le garanzie costituzionali

L’impostazione seguita dai giudici amministrativi non appare esente da profili critici. Essa, infatti, rischia di determinare uno svuotamento sostanziale della garanzia del human-in-the-loop, lasciando irrisolta la questione dell'effettiva supervisione sul contenuto della decisione algoritmica. Sotto questo profilo, l'imputabilità della decisione algoritmica al funzionario-persona fisica presuppone che quest'ultimo sia posto nelle condizioni di comprendere adeguatamente il funzionamento del sistema di IA e, conseguentemente, di valutare criticamente e, ove necessario, disattendere l'output prodotto o interromperne il funzionamento²⁷. Questa esigenza risulta ancor più avvertita ove si consideri che il sistema di IA elabora l’output eseguendo un’analisi quantitativa dei dati senza una reale «comprensione causale» della situazione che le viene posta²⁸. In quest’ottica, la motivazione che sorregge l’atto amministrativo non può tradursi in un mero richiamo all’output ma richiede una «valutazione del processo», cioè, una valutazione logica su un modo di procedere ordinato in relazione ad un determinato fine²⁹. Questi profili, pertanto, si intrecciano inevitabilmente con il tema della responsabilità del funzionario pubblico, che, saldamente ancorata all’ articolo 28 della Costituzione, non può prescindere dall'effettività dei poteri di controllo e di intervento. In una prospettiva costituzionalistica, i meccanismi di controllo umano non rappresentano mere questioni procedurali ma attengono ai fondamenti dello Stato costituzionale di diritto. Da questo punto di vista, la c.d. riserva di umanità costituisce un baluardo derivante dagli articoli 3, 24 e 97 della nostra Carta costituzionale. Pertanto, la ragionevolezza amministrativa, in grado di cogliere le diverse sfumature del caso concreto e di bilanciare i diversi interessi, non può cedere il passo agli automatismi, fondati su inferenze probabilistiche. Il processo di digitalizzazione, in grado di incrementare l’efficienza e la celerità dell’azione amministrativa, non può tradursi in una mera sostituzione dell’intervento umano a discapito delle garanzie partecipative e dei diritti fondamentali del cittadino. Le democrazie costituzionali sono sotto pressione per garantire la certezza del diritto e la prevedibilità dei processi decisionali automatizzati che possono, nel loro complesso, incidere sui valori democratici³⁰. All’interno di questo quadro problematico, emerge con rinnovato vigore la funzione del costituzionalismo e la necessità di un suo intervento che, attraverso l’elaborazione di principi e garanzie adeguate³¹, sia in grado di orientare lo sviluppo tecnologico sviluppare nuove forme di valorizzazione e di tutela dei diritti e libertà fondamentali³².

Data pubblicazione: 6 luglio 2026

Osservatorio Istituzionale Comunitario – Centro Studi d’Europa - ISSN 2785-2695