(*) Lo scritto costituisce la versione ampliata della relazione dal titolo: Trasparenza algoritmica e funzione decisoria del giudice nel processo civile, svolta in occasione del workshop Processo civile e intelligenza artificiale, tenutosi il 7-8 maggio 2026 nell’Università di Macerata nell’ambito del Progetto Jean Monnet AIcoIP.
[1] A. Carratta, Decisione robotica e valori del processo, in questa Rivista 2020, 491 ss., aveva già posto il quesito: «si può ipotizzare, proprio lavorando sulla calcolabilità giuridica e sul valore del precedente, che in un futuro più o meno lontano si abbia una decisione giudiziale interamente robotica, e cioè prodotta dalla sola applicazione di un sistema algoritmico?».
[2] Lo si è già evidenziato in M. Morgese, L’intelligenza artificiale nella giustizia civile tra esigenze di accelerazione e principio antropocentrico, in www.judicium.it 2025, 1 ss.
[3] Il regolamento prende invero le mosse dal risk-based approach rispetto ai diritti fondamentali e alle libertà riconosciute e tutelate a livello europeo. Sulla disciplina europea in materia di intelligenza artificiale si segnalano, tra gli altri, A. Punzi, AI Act: gli effetti settoriali – La decisione giudiziaria nell’AI Act, in Giur. it. 2025, 448 ss.; C. Pinelli, L’AI Act: gestione del rischio e tutela dei diritti, in Giur. it. 2025, 452 ss.; J. Ponce Solé, Il regolamento dell’unione europea sull’intelligenza artificiale, la discrezionalità amministrativa e la riserva di umanità, in Riv. trim. dir. pubbl. 2024, 825 ss.
[4] Cfr. l’art. 14 AI Act . La sorveglianza umana mira a garantire il bilanciamento tra l’automatismo del sistema e l’esigenza di tutela dei diritti coinvolti nel suo impiego ed opera riportando all’uomo il governo del primo. Come evidenziato dall’AI HLEG (High-Level Expert Group on AI Ethics Guidelines for trustworthy AI), organismo indipendente nominato dalla Commissione europea nel giugno 2018, la Human agency si sostanzia nella possibilità per l’utente di conoscere e comprendere il funzionamento del sistema di IA in modo adeguato. Il principio dell’autonomia dell’utente trova ulteriore espressione nel diritto a non essere sottoposti a decisioni basate esclusivamente su un trattamento automatizzato quando essa produca effetti giuridici o incida in modo significativo sui diritti degli interessati; la Human oversight contribuisce a far sì che un sistema di IA non comprometta l’autonomia umana. Essa può essere declinata attraverso diversi modelli di governance, quali l’approccio human-in-the-loop (HITL), human-on-the-loop (HOTL) o human-in-command (HIC). Cfr. il documento recante Ethics Guidelines for trustworthy AI, 15, § 1.1., pubblicato dall’AI HLEG in data 8 aprile 2019. I modelli di governance umana appena ricordati saranno richiamati più avanti. V. infra, § 5.
[5] Artt. 1 e 3 l. 23 settembre 2025, n. 132.
[6] Nella vasta letteratura, v., senza pretesa di esaustività, F. Auletta, Accertamento del fatto e intelligenza artificiale nel processo civile, in Dir. proc. civ. it. comp. 2024, IV, 922 ss.; L. Nazzicone, La motivazione della sentenza, Milano 2024, 210 ss.; A. Carratta, Decisione robotica e valori del processo, cit., 491 ss.; A. De La Oliva Santos, ‘Giustizia predittiva’, interpretazione matematica delle norme, sentenze robotiche e la vecchia storia del ‘Justizklavier’, in Riv. trim. dir. proc. civ. 2019, 883 ss.; A. Carleo (a cura di), Decisione robotica, Bologna 2019, passim.
[7] Cfr., ex multis, J. Nieva-Fenoll, Dove ci porta il ragionamento probatorio?, in Riv. trim. dir. proc. civ. 2026, 105 ss.; A. Bonafine, L’intelligenza artificiale applicata al ragionamento probatorio nel processo civile. È davvero possibile e/o auspicabile?, in Il diritto nell’era digitale. Persona, Mercato, Amministrazione, Giustizia, a cura di R. Giordano, A. Panzarola, A. Police, S. Preziosi e M. Proto, Milano 2022, 923 ss.; G. Mammone, M. Luciani, E. Vincenti, M.R. Covelli, L. De Renzis, in Decisione robotica, cit., a cura di A. Carleo, rispettivamente 23 ss., 63 ss., 111 ss., 125 ss., 139 ss.; E. Gabrielli, U. Ruffolo, Intelligenza Artificiale e diritto, in Giur. it. 2019, 1656 ss.
[8] L’opacità dell’algoritmo – tale da configurarlo quale black box – opera su tre livelli. Il primo è definito «intenzionale» (c.d. intentional opacity) e discende dalla scelta del titolare del sistema di non rendere accessibile il codice sorgente, i modelli o i dati di addestramento (copyright). Un secondo livello esprime l’analfabetismo tecnico o digitale del deployer (c.d. illiterate opacity), che non è in grado di comprendere il sistema a causa della mancanza delle competenze tecniche necessarie. L’ultimo livello può essere qualificato come epistemico o intrinseco (epistemic opacity) e indica la difficoltà di rendere intelligibili le correlazioni e le inferenze generate dall’algoritmo. È rispetto a tale forma di opacità che si manifesta con maggiore evidenza l’esigenza di garantire la trasparenza algoritmica. L’accessibilità del codice sorgente, infatti, non è sufficiente ai fini della intellegibilità del procedimento algoritmico: gli algoritmi sono comprensibili solo nella misura in cui l’essere umano sia in grado di comprendere la logica sottostante e di valutare l’incidenza degli input sul processo decisionale (Quantitative Input Influence – (QII). Per un’ampia disamina si rinvia a A. Mascolo, Gli algoritmi amministrativi: la sfida della comprensibilità, in Giorn. dir. amm. 2020, III, 366 ss.; A. Datta, S. Sen, Y. Zick, Algorithmic transparency via quantitative input influence, in T. Cerquitelli, D. Quercia, F. Pasquale (ed. by), Transparent Data Mining for Big and Small Data. Studies in Big Data, Berlino 2017, 71 ss.; M. Ananny, K. Crawford, Seeing without knowing: Limitations of transparency ideal and its application to algorithmic accountability, in New media and society 2016, XX, 1 ss.
[9] Tra le tante, Cass. 22 maggio 2002, n. 7549; Cass. 1° agosto 2001, n. 10486; Cass. 24 febbraio 2000, n. 2105, tutte conformi a Cass., sez. un., 15 ottobre 1999, n. 716.
[10] Il giudizio condotto mediante l’ausilio dell’equità integrativa (nel caso, ad es., degli artt. 1226 e 2056 c.c. e dell’art. 432 c.p.c.) resta pur sempre un giudizio secondo diritto caratterizzato dalla cosiddetta equità giudiziale correttiva od integrativa. In tal senso Cass. 20 ottobre 2025, n. 27291; Cass. 30 luglio 2020, n. 16344; Cass. 16 settembre 2013, n. 21103.
[11] Essa non lascia spazi applicativi discrezionali (di cui l’elaboratore elettronico è privo), ma deve prevedere con ragionevolezza una soluzione definita per tutti i casi possibili, anche i più improbabili. V. Cons. Stato 8 aprile 2019, n. 2270, in Giorn. dir. amm. 2019, VI, 781 ss., con nota di V. Canalini, L’algoritmo come ‘atto amministrativo informatico’ e il sindacato del giudice, quanto alla valenza della regola algoritmica impiegata dai sistemi automatizzati nell’ambito della p.a. quale regola amministrativa generale. V., altresì, J. Della Torre, Le decisioni algoritmiche all’esame del Consiglio di Stato, in questa Rivista 2021, II, 713 ss.
[12] Cass. 8 gennaio 2025, n. 341; Cass. 17 novembre 2020, n. 26051; Cass. 13 settembre 2018, n. 22272; Cass. 29 luglio 2005, n. 16094.
[13] Cass. 14 ottobre 2021, n. 28075.
[14] V., ad es., M. Tegmark, Being Human in the Age of Artificial Intelligence, New York 2017, 138 ss. Sui temi della prevedibilità e calcolabilità della decisione giudiziaria v. A. Carleo, Il vincolo giudiziale del passato. I precedenti, Bologna 2018, passim; Id., Calcolabilità giuridica, Bologna 2017, passim.
[15] Tali caratteristiche, d’altro canto, sono state da tempo apprezzate dalla giurisprudenza per l’utilità che consentono di ottenere dalla gestione di «procedure seriali o standardizzate, implicanti l’elaborazione di ingenti quantità di istanze e caratterizzate dall’acquisizione di dati certi ed oggettivamente comprovabili e dall’assenza di ogni apprezzamento discrezionale». V. Cons. Stato 8 aprile 2019, n. 2270, cit., a proposito dell’utilizzo dell’intelligenza artificiale da parte delle pubbliche amministrazioni.
[16] Come accade in materia di liquidazione giudiziale o per la determinazione dei contributi economici nella crisi della famiglia. Cfr. C. Briguglio, Giustizia predittiva e insolvenza: opportunità e rischi dell’IA nella gestione della crisi d’impresa, in Intelligenza artificiale e processo civile, a cura di G. Tota, Napoli 2026, 203 ss.; B. Limongi, La quantificazione ‘algoritmica’ dei contributi economici nelle controversie familiari, ivi; A.M. Pinelli, L’intelligenza artificiale nella crisi della famiglia. Alla ricerca di un diritto calcolabile giusto, in Riv. dir. civ. 2025, II, 286 ss.
[17] Cfr. Cons. Stato 25 novembre 2021, n. 7891, cit.
[18] A. Carratta, Decisione robotica, cit., 495, che, tra i limiti al meccanismo di una decisione robotica, aggiunge l’esistenza di un sistema di fonti «multi-livello» e «poli-centrico» e l’affermarsi di una visione «processo-centrica» dell’ordinamento, ove l’asse portante del sistema si è spostato dal legislatore al giudice.
[19] Sulla difficoltà di affidare il complesso processo decisionale del quale si compone il ragionamento giuridico al sistema di IA già M. Taruffo, Judicial Decision and Artificial Intelligence, in Artificial Intelligence and Law 1998, 311 ss., spec. 316.
[20] Nella vasta letteratura sulla formazione del convincimento del giudice cfr., senza pretesa di esaustività, A. Carratta, Prova scientifica e ragionamento presuntivo, in questa Rivista 2022, 24 ss.; R. Poli, Diritto alla prova scientifica, obbligo di motivazione e sindacato in sede di legittimità, in Giust. civ. 2018, II, 417 ss.; M. Taruffo, voce Giudizio (teoria generale), in Enc. giur., XV, Roma 1989, 5 ss.; A. Pagliaro, voce Causalità (rapporto di), in Enc. dir., Ann., I, Milano 2007, 170 ss.; V. Andrioli, voce Presunzione (diritto civile e diritto processuale civile), in Noviss. dig. it., XIII, Torino 1966, 767 ss.
[21] A. Carratta, Decisione robotica, cit., 496, annovera tale difficoltà tra i limiti alla calcolabilità e prevedibilità della decisione, che in casi del genere può porsi solo in termini tendenziali, ma non certi e matematici.
[22] A. Garapon, La justice prédictive risque de transformer la liberté en destin, in www.lepoint.fr 2017.
[23] In considerazione della necessità di garantire la qualità «a valle» dei sistemi di IA ad alto rischio, nel maggio 2023 la Commissione europea ha incaricato il Comitato Europeo di Normazione e il Comitato Europeo di Normazione Elettrotecnica di elaborare norme volte alla armonizzazione dei sistemi ad alto rischio (standardization request). Prima di immettere o di far entrare in servizio un sistema di IA ad alto rischio sul mercato unionale, i fornitori dovranno dimostrarne la conformità ai requisiti obbligatori per un’IA affidabile e antropocentrica (gestione dei rischi; qualità dei dati di addestramento, convalida e prova; documentazione tecnica; tracciabilità; trasparenza e fornitura di informazioni ai deployer; sorveglianza umana; accuratezza, cybersicurezza e robustezza, ex artt. 8-15 AI Act ). Le norme armonizzate europee svolgeranno un ruolo significativo nell’attuazione di tali requisiti. Per dimostrare il rispetto dei requisiti richiesti il fornitore avrà la possibilità di scegliere una delle due procedure di valutazione applicabili (il controllo interno o la valutazione da parte di un organismo notificato dalla competente Autorità di notifica nazionale). Tale assetto mira a generare una «presunzione di conformità» del sistema agli standards europei, circoscrivendo il novero dei sistemi di IA utilizzabili nell’attività giudiziaria (ovvero «nella ricerca e nell’interpretazione dei fatti e del diritto e nell’applicazione della legge a una serie concreta di fatti»: cfr. il considerando (61) AI Act e l’all. III, punto 8, lett. a) a quelli a marcatura CE, che avranno ottenuto una valutazione positiva di conformità e che siano stati iscritti nella relativa banca dati dell’Unione Europea. Nel luglio 2026 è stata pubblicata la norma EN 18286:2026 (Sistemi di Gestione della Qualità), che definisce i requisiti di governance e controllo lungo tutto il ciclo di vita dell’IA, nel rispetto dell’art. 17 AI Act. Il resto del pacchetto normativo richiesto dalla Commissione Europea è in fase avanzata di sviluppo, ma ancora non è stato emanato in via definitiva. Cfr. https://digital-strategy.ec.europa.eu/en/policies/ai-act-standardisation.
[24] «È fondamentale che l’IA non sostituisca mai il pensiero libero e critico del magistrato, né pregiudichi l’originale contributo personale alla riflessione in campo giuridico, ma lo supporti in modo trasparente e ricostruibile». Così il CSM nella delibera 8 ottobre 2025, recante «Raccomandazioni sull’uso dell’intelligenza artificiale nell’amministrazione della giustizia», 11, all’interno della quale si è esclusa la possibilità di fare uso dei chatbot tradizionali ad oggi accessibili online, giudicati inidonei a garantire il rispetto degli standards europei per i sistemi «ad alto rischio»: fino all’entrata in vigore delle nuove norme europee (v. retro la nota che precede), potranno essere utilizzati soltanto i sistemi autorizzati a livello ministeriale e per lo svolgimento di attività che si collocano in una posizione intermedia tra giudiziarie in senso stretto e meramente organizzative (pp. 7-8 della delibera).
[25] Trib. Siracusa 20 febbraio 2026, n. 338.
[26] V. infra, §6.
[27] E. Troisi, Decisione algoritmica, Black-Box e AI etica: il diritto di accesso come diritto a ottenere una spiegazione, in Jus civile 2022, IV, 953 ss.; S. Del Gatto, Potere algoritmico, digital welfare state e garanzie per gli amministrati. I nodi ancora da sciogliere, in Riv. it. dir. pubbl. comunitario 2020, VI, 829 ss., spec. 835.
[28] A questo riguardo appaiono efficaci le parole utilizzate dal CSM nella delibera 8 ottobre 2025, pocanzi richiamata. Si è invero osservato che l’intelligenza artificiale è «profondamente determinata dai dati su cui è stata addestrata: non è, quindi, mai neutrale e, al contrario, incorpora tutte le imprecisioni contenute nel database di addestramento, nonché gli eventuali pregiudizi di chi ha progettato il sistema e ne ha guidato l’addestramento (cd. bias), dovendosi in proposito considerare che i sistemi, utilizzando algoritmi di tipo statistico, generano output che si basano fondamentalmente sul riconoscimento delle correlazioni tra dataset».
[29] V. infra, § 5.
[30] Secondo la norma ISO 22989 l’IA «controllabile» è la «proprietà di un sistema di IA (3.1.4) [riguardo cui] un essere umano o un altro agente esterno (3.1.1) può intervenire nel funzionamento del sistema». Cfr. A. Holzinger, P. Kieseberg, F. Cabitza, A. Campagner, A. M. Tjoa, E. Weippl, Controllable AI-An Alternative to Trustworthiness in Complex AI Systems?, in International Cross-Domain Conference for Machine Learning and Knowledge Extraction, Cham, 2023, 1 ss.
[31] A. Simoncini, La dimensione costituzionale della giustizia predittiva. Riflessioni su intelligenza artificiale e processo, in questa Rivista 2024, 389 ss., spec. 396.
[32] Per una diffusa riflessione intorno all’utilizzo dell’intelligenza artificiale nell’attività probatoria si rinvia a A. Merone, Le prove digitali e l’uso dell’intelligenza artificiale per finalità istruttorie, in Il diritto nell’era digitale, cit., 905 ss., spec. 916 ss.
[33] La disposizione dell’art. 15, comma 1°, l. 23 settembre 2025, n. 132, come formulata, evoca, al contrario, l’idea di una «paventata introduzione degli strumenti di intelligenza artificiale nella fase decisoria del processo». In questo senso G. Ruffini, Satta, l’unità dell’ordinamento giuridico e la giustizia, in questa Rivista 2025, 1284 ss., spec. 1300.
[34] Cfr. l’art. 1, comma 2°, della legge in esame, il quale stabilisce espressamente che le disposizioni della legge stessa «si interpretano e si applicano conformemente al regolamento UE 2024/1689 del Parlamento europeo e del Consiglio, del 13 giugno 2024».
[35] Sulla base delle disposizioni emanate dal legislatore europeo, con particolare riferimento all’art. 6, comma 3°, AI Act (v. infra nel testo), il CSM ha ravvisato l’esistenza di una «zona grigia» tra attività giudiziarie e attività organizzative o accessorie, rispetto alle quali l’utilizzo dell’IA può essere considerato ammissibile, sempre che ciò avvenga in modalità tracciata, sicura e con revisione umana e nell’ambito degli applicativi forniti all’interno del dominio giustizia. Sono state così annoverate tra le attività nelle quali è consentito l’impiego dell’intelligenza artificiale, tra le altre, oltre a quelle sopra richiamate, la sintesi di provvedimenti ostensibili e contributi dottrinali tramite creazione di abstract; l’organizzazione del lavoro giudiziario; il controllo della documentazione prodotta; ricerche dottrinali. È raccomandata particolare attenzione per le ricerche giurisprudenziali, in quanto l’utilizzo dell’IA per tale finalità può presentare rischi elevati qualora l’output venga utilizzato come base esclusiva o prevalente nella formazione del convincimento del giudice. Dunque, laddove i sistemi siano progettati per selezionare la giurisprudenza «più rilevante» o per generare schemi motivazionali, l’utilizzo dell’IA deve essere considerato «ad alto rischio», il che rende necessario che il magistrato assuma un ruolo attivo e critico rispetto alla natura e all’architettura dei sistemi utilizzati, nonché con riguardo alla trasparenza degli algoritmi e dei risultati raggiunti. Cfr. la delibera del CSM, 8 ottobre 2025, 8-9.
[36] V. infra a proposito della paternità e dell’imputabilità del risultato generato dall’IA.
[37] Oggi, tuttavia, il quadro appare decisamente mutato. La giurisprudenza, infatti, con un rigore financo superiore a quello espresso dal CSM (v. retro nt. 35), esclude che l’attività di ricerca giurisprudenziale possa essere demandata a sistemi di IA, sul presupposto della loro «inattendibilità strutturale». Cfr. Trib. Ferrara 20 febbraio 2026; Trib. Firenze 14 marzo 2025, in Dir. ind. 2025, III, 258 ss., con nota di D. Masi, ChatGPT e allucinazioni di intelligenza artificiale: un caso di responsabilità ex art. 96 c.p.c.?
[38] Cfr. il «considerando» (61).
[39] In tal caso esso è sempre considerato «ad alto rischio», ex art. 6, comma 3°, sopra richiamato.
[40] Salvo che ciò sia necessario per la conclusione o l’esecuzione di un contratto tra l’interessato e il titolare del trattamento; che la decisione automatizzata sia autorizzata dal diritto dell’Unione o dello Stato membro cui è soggetto il titolare del trattamento (che precisa, altresì, le misure adeguate a tutela dei diritti, delle libertà e dei legittimi interessi dell’interessato) o che si basi sul consenso esplicito dell’interessato. In simili ipotesi il titolare del trattamento è comunque tenuto ad attuare «tutte le misure appropriate per tutelare i diritti, le libertà e i legittimi interessi dell’interessato, almeno il diritto di ottenere l’intervento umano da parte del titolare del trattamento, di esprimere la propria opinione e di contestare la decisione» (art. 22, comma 3°, reg. UE n. 2016/679). In relazione alle garanzie approntate dal GDPR a tutela degli interessati rispetto ai processi decisionali automatizzati, v., tra gli altri, A. Simoncini, Profili costituzionali della amministrazione algoritmica, in Riv. trim. dir. pubbl. 2019, 4 ss.; B. Casey, A. Farhangi, R. Vogl, Rethinking Explainable Machines: The GDPR’s ‘Right to Explanation’ Debate and the Rise of Algorithmic Audits in Enterprise, in Berkeley Technology Law J. 2019, 34, 145 ss.; S. Watcher, B. Mittelstadt, L. Floridi, Why a Right to explanation of Automated Decision-making Does Not Exist in the General Data Protection Regulation, in Int’l Data Privacy L. 2017, 76 ss.
[41] In senso analogo, se bene intendo, A. Punzi, op. cit., 450, che, con riferimento all’art. 14, reg. UE 2024/1689, osservava che «una decisione giudiziaria che si avvalga di sistemi di AI è, dunque, ammissibile a condizione che l’attività svolta dall’intelligenza artificiale venga costantemente supervisionata. Il principio già affermato nell’art. 22 del GDPR trova ora un’opportuna specificazione: non è solo vietata ‘una decisione basata unicamente sul trattamento automatizzato’, bensì prescritta un’efficace supervisione nel corso dell’attività svolta dal sistema di AI, dunque un controllo su tutti i passaggi rilevanti ai fini della decisione finale, che deve sempre essere assunta dall’uomo».
[42] Tar Lazio Roma 21 giugno 2022, n. 8313.
[43] In dottrina v. D. Martire, Human in the loop. L’essere umano come fattore condizionante della – o condizionato dalla – intelligenza artificiale, in Riv. it. inf. dir. 2024, II, 467 ss.; W. Didimo, L. Grilli, G. Liotta, Efficient and trustworthy decision making through human-in-the-loop visual analytics: A case study on tax risk assessment, in Riv. it. inf. dir. 2022, II, 15 ss.; B. Marchetti, La garanzia dello ‘human in the loop’ alla prova della decisione amministrativa algoritmica, in BioLaw J. 2021, II, 367 ss.
[44] Sul punto cfr., in particolare, Cons. Stato 13 dicembre 2019, n. 8472, su cui si avrà modo di tornare più avanti.
[45] Nel documento intitolato Communication from the Commission to the European Parliament, the Council, the European Economic and Social Committee and the Committee of the Regions, del 2019, la Commissione europea osservava come l’approccio HITL si riferisca all’intervento umano in ogni fase del processo decisionale del sistema, which in many cases is neither possible nor desirable; il modello HIC indica, invece, la capacità dell’uomo di supervisionare l’attività complessiva del sistema di IA e di decidere se, quando e come utilizzarlo. A tali modelli si aggiunge lo Human-on-the-loop (HOTL), che indica la possibilità di intervento umano durante la fase di progettazione e monitoraggio del sistema. Si tratta di soluzioni alternative attraverso le quali assicurare la human agency and oversight sul sistema di IA, al fine di contenere il rischio di compromissione dell’autonomia decisionale dell’uomo. Tali principi sono ribaditi anche nelle Linee guida adottate dall’AI HLEG, cit., 5.
[46] Sulla trasparenza algoritmica e sulla spiegabilità della decisione automatizzata come doveri etici v. E. Troisi, op. cit., 953 ss. Sull’«etica dell’intelligenza artificiale» v. K. Vukatana, E. Hoxha, A. Ferhataj, Ethical integration of AI in judicial systems: Advancing fairness, transparency, and judicial efficiency, in Riv. it. inf. dir. 2025, II, 421 ss.; I. Carnat, Ethics lost in translation: trustworthy AI from governance to regulation, in Opinio Juris in Comparatione 2023, 90 ss.; M. Ananny, Toward an ethics of algorithms: convening, observation, probability, and timeliness, in Science, Technology & Human Values 2016, 41, 93 ss.
[47] A. Simoncini, op. cit., 396.
[48] Cfr. la c.d. norma ISO/IEC 42001:2023, primo standard internazionale dedicato alla gestione dei sistemi di IA approvato il 18 dicembre 2023 dalla ISO (International Organization for Standardization) e dalla IEC (International Electrotechinacal Commission).
[49] Il reg. UE n. 2016/679 ha posto in capo al titolare del trattamento l’obbligo di fornire all’interessato le informazioni «necessarie per garantire un trattamento corretto e trasparente» (art. 13, comma 2°), riconoscendo al secondo il diritto di essere a conoscenza dell’eventuale «esistenza di un processo decisionale automatizzato», di «informazioni significative sulla logica utilizzata, nonché l’importanza e le conseguenze previste di tale trattamento per l’interessato» (art. 15, comma 1°, lett. h).
[50] Accanto a robustezza tecnica e sicurezza; vita privata e governance dei dati; diversità, non discriminazione ed equità; benessere sociale e ambientale; responsabilità. Cfr. il documento pubblicato dall’AI HLEG recante Ethics Guidelines for trustworthy AI, cit., 14 ss.
[51] Il principio di trasparenza algoritmica figura dal 2018 tra i cinque principi fondamentali cristallizzati dalla CEPEJ nella Carta etica europea sull’utilizzo dell’intelligenza artificiale nei sistemi giudiziari e negli ambiti connessi (trasparenza, non discriminazione; qualità e sicurezza; imparzialità ed equità; controllo da parte dell’utilizzatore), con l’obiettivo di migliorare l’efficienza e la qualità della giustizia e garantire che il suo esercizio avvenga in maniera rispettosa dei diritti garantiti dalla Convenzione europea sui diritti dell’uomo e dalla Convenzione per la protezione dei dati personali.
[52] Cfr. il considerando (27), reg. UE 2024/1689.
[53] Inoltre, i fornitori di sistemi di IA, compresi quelli per finalità generali, che generano contenuti audio, immagine, video o testuali sintetici, sono chiamati a garantire che i risultati prodotti siano marcati in un formato leggibile meccanicamente e rilevabili come generati o manipolati artificialmente (art. 50, comma 2°, reg. UE 2024/1689). Solleva, tuttavia, perplessità il rimando alle caratteristiche soggettive delle persone fisiche che interagiscono con il sistema di IA ai fini dell’applicazione della dispensa dall’obbligo di trasparenza di cui all’art. 50, comma 1° del regolamento (supra nel testo). In mancanza di ulteriori specificazioni, la portata della previsione appare destinata a variare a seconda del contesto socio-culturale di riferimento e ad essere definita attraverso valutazioni occasionali, secondo una logica suscettibile più di ampliare, che di restringere, l’ambito di applicazione della deroga in esame.
[54] L’Explainable AI (XAI) mira a garantire trasparenza e interpretabilità dei sistemi algoritmici. A differenza degli approcci tradizionali, incentrati sulla massimizzazione delle prestazioni predittive, l’IA «spiegabile» pone al centro l’esigenza di rendere intelligibile il processo decisionale, così da assicurarne la comprensibilità e la verificabilità da parte dell’essere umano. Cfr. K. Vukatana, E. Hoxha, A. Ferhataj, Ethical integration of AI in judicial systems: Advancing fairness, transparency, and judicial efficiency, in Riv. it. inf. dir. 2025, II, 421 ss.; B. Karlan, H. D. Kugelberg, No right to an explanation, in Phenom. Res. 2025, 137 ss.; E. Spiller, Il diritto di comprendere, il dovere di spiegare. ‘Explainability’ e intelligenza artificiale costituzionalmente orientata, in BioLaw J. 2021, II, 419 ss.
[55] V. retro, §2., a proposito della triplice concezione dell’opacità dell’algoritmo.
[56] Cfr. l’art. 13, comma 3°, lett. b), vi) e vii).
[57] Per consentire ai magistrati di acquisire maggiore «dimestichezza» con l’utilizzo di tali sistemi l’art. 15, comma 4°, l. 23 settembre 2025, n. 132, in pendant all’art. 26, comma 2°, reg. UE n. 2024/1689 (in base al quale i deployer affidano la sorveglianza umana dei sistemi ad alto rischio a persone fisiche che dispongono della competenza, della formazione e dell’autorità nonché del sostegno necessari) demanda al Ministero la promozione di attività didattiche sul tema dell’intelligenza artificiale e sugli impieghi dei relativi sistemi nell’attività giudiziaria, finalizzate alla formazione digitale di base e avanzata, all’acquisizione e alla condivisione di competenze digitali, nonché alla sensibilizzazione sui benefici e sui rischi, e la formazione del personale amministrativo.
[58] Cfr. retro, § 4.
[59] Cons. Stato 13 dicembre 2019, n. 8472, in Giur. it. 2020, V, 1190 ss., con nota di M. Timo, Algoritmo – Il procedimento di assunzione del personale scolastico al vaglio del Consiglio di Stato; in Nuova giur. civ. com. 2020, IV, 809 ss., con nota di R. Mattera, Processo – Decisioni algoritmiche. Il Consiglio di Stato fissa i limiti. Sulla decisione amministrativa automatizzata cfr. P. Forte, Elementi di intelligenza amministrativa artificiale (A-AI). Su taluni caratteri giuridici dell’automazione della pubblica amministrazione, in Dir. pub. 2025, II, 415 ss.; E. Chiti, B. Marchetti, N. Rangone, L’impiego di sistemi di intelligenza artificiale nelle pubbliche amministrazioni italiane: prove generali, in BioLaw J. 2022, II, 489 ss.
[60] Cons. Stato 8 aprile 2019, n. 2270; conf. Cons. Stato 4 giugno 2025, n. 4857; Cons. Stato 13 dicembre 2019, n. 8472, cit.
[61] V. retro, § 4.
[62] Supreme Court of Wisconsin, State of Wisconsin v. Eric Loomis, 13 luglio 2016, N. 2015AP157-CR, assai nota per aver confermato la decisione di appello di riforma della sentenza di primo grado con la quale Eric Loomis era stato condannato a sei anni di reclusione per fatti penalmente rilevanti risalenti a tre anni prima, sulla base delle risultanze dell’algoritmo Compas (Correctional offender management profiling for alternative sanctions), secondo cui l’imputato sarebbe stato soggetto a recidiva. Tuttavia, l’impiego di tale strumento ha suscitato ampie perplessità, specie alla luce di uno studio condotto da ProPublica fondato sull’analisi dei dati relativi a 18.610 soggetti nella Broward County (Florida). Gli esiti di tale indagine, resi noti nel 2016, hanno evidenziato significative criticità sotto il profilo della neutralità algoritmica, mettendo in luce una tendenza dell’algoritmo richiamato a sovrastimare il rischio di recidiva con riferimento agli individui afroamericani, con conseguenti implicazioni in termini di equità, trasparenza e non discriminazione.
[63] Sulla disciplina introdotta dal Codice dei contratti pubblici si rinvia a A. Corrado, La digitalizzazione dell’attività amministrativa e l’esperienza dei contratti pubblici, in Trattato di diritto amministrativo, a cura di F. Caringella, R. Chieppa e B.G. Mattarella, II, Milano 2025, 182 ss.; P. Clarizia, La digitalizzazione, in Giorn. dir. amm. 2023, III, 302 ss., che ne mette in luce la portata innovativa. Per la prima volta il legislatore impone alle amministrazioni il ricorso a procedure automatizzate, sistemi di IA e registri blockchain. In precedenza, il Consiglio di Stato (parere del 26 novembre 2020, n. 1940, Sez. Atti normativi), aveva escluso l’ammissibilità di moduli decisionali automatizzati, sul presupposto della carenza, nelle piattaforme telematiche, di un’autonomia decisionale ovvero di un effettivo spazio di discrezionalità tecnica. L’A., nondimeno, propone una lettura restrittiva della disciplina, circoscrivendone l’applicazione alle forme di intelligenza artificiale «debole», reputando problematico l’impiego di sistemi di intelligenza artificiale «forte», in ragione della loro potenziale incompatibilità con i presìdi sanciti dall’art. 30, d.lgs. 31 marzo 2023, n. 36 (conoscibilità e comprensibilità della decisione; non esclusività della decisione algoritmica). In senso parzialmente difforme G.R. Conforti, Digitalizzazione nel nuovo codice dei contratti pubblici, in Dir. internet 2023, II, 399 ss., valorizza la scelta del legislatore di ammettere l’impiego di procedure automatizzate anche nella fase valutativa delle offerte, attraverso l’introduzione di algoritmi dotati di capacità di apprendimento.
[64] Cons. Stato n. 8472/2019, cit., in linea con l’art. 22, comma 3°, reg. UE 2016/679 .
[65] Cons. Stato n. 8472/2019, cit.; Id. n. 2270/2019, cit.
[66] Un’esplicita posizione sul tema è rinvenibile nella decisione del Tribunal Supremo de Justicia spagnolo, Sez. III, nella sentenza 11 settembre 2025, n. 1119 (c.d. caso Bosco), in Giorn. dir. amm. 2026, 76 ss., con nota di B. Marchetti, J. Ponce, Algoritmi, diritto di accesso e buon andamento: quale equilibrio? Il caso Bosco. Con tale pronuncia il tribunale ispano ha ricondotto il principio di trasparenza algoritmica, riferito all’attività amministrativa automatizzata, ad una peculiare estensione del diritto di accesso, comprensiva degli atti e dei dati utilizzati, ma anche degli strumenti tecnologici che concorrono alla formazione della decisione. La vicenda presenta analogie con quella sottoposta all’attenzione del Consiglio di Stato (Cons. Stato 8 aprile 2019, n. 2270), relativa al sistema di mobilità dei docenti disciplinato dalla l. 13 luglio, 2015, n. 107, nella quale erano emerse criticità connesse all’opacità dell’algoritmo e ad errori nell’assegnazione delle sedi. Nel caso Bosco il contenzioso trae origine dall’azione promossa da una ONG nei confronti dell’omonimo sistema informatico utilizzato dalla pubblica amministrazione spagnola per l’adozione delle decisioni. L’amministrazione aveva negato l’accesso al codice sorgente, in nome delle esigenze di tutela del segreto industriale e dei diritti di proprietà intellettuale del software. In applicazione della normativa spagnola sulla trasparenza (Ley n. 19/2013, de 9 de diciembre, de transparencia, acceso a la información pública y buen gobierno – LTAIBG), il Tribunal Supremo ha riconosciuto il diritto di accesso al codice sorgente del sistema, valorizzando il principio di trasparenza algoritmica in quanto funzionale alla piena controllabilità dell’azione amministrativa. È stata invero riconosciuta valenza costituzionale al diritto di accesso alle informazioni pubbliche, con la conseguenza che, laddove la decisione amministrativa sia adottata mediante algoritmi, esso si estende agli strumenti informatici che ne costituiscono il fondamento (incluso il codice sorgente), con conseguente ridimensionamento dei limiti derivanti dal segreto industriale e dalla proprietà intellettuale eventualmente esistenti.
[67] Cons. Stato 8 aprile 2019, n. 2270, cit.
[68] Cons. Stato 13 dicembre 2019, n. 8472. Assumendosi la «comprensibilità» della decisione quale principio desumibile dall’art. 24 Cost., al fine di un suo possibile controllo giudiziario, si osserva che, rispetto alle decisioni prese da sistemi tecnologici, tale «comprensibilità» «e, quindi, la loro giustiziabilità potenziale, si pone come una questione di rilievo ‘costituzionale’ rispetto alle diverse forme di regolazione; ovverosia, rappresenta un valore gerarchicamente superiore rispetto alla stessa regolazione ordinaria». In questo senso A. Simoncini, op. cit., 397.
[69] L’impossibilità per l’interessato di comprendere le modalità di funzionamento dell’algoritmo, i criteri applicati e le istruzioni impartite, nonché di ricondurre la decisione finale all’autorità competente, costituisce vizio autonomo del procedimento, idoneo a determinarne l’illegittimità per difetto di trasparenza e di motivazione. Cfr. Tar Lazio 21 giugno 2022, n. 8313, cit.
[70] V. supra, § 4.
[71] Il riferimento è alla delibera del CSM, 8 ottobre 2025, più volte richiamata.
[72] Altrove si era già richiamato l’esempio della formulazione, in via di prima approssimazione, di una proposta transattiva o conciliativa, ai sensi dell’art. 185- bis c.p.c., a valle dell’input in merito alle caratteristiche inerenti «alla natura del giudizio, al valore della controversia e all’esistenza di questioni di facile e pronta soluzione di diritto» offerto dal deployer. Cfr. M. Morgese, L’intelligenza artificiale, cit., 16, e la dottrina ivi citata.
[73] Si richiama sul punto quanto detto retro, § 3, nt. 23, in ordine alle norme europee per l’armonizzazione dei sistemi ad alto rischio.
[74] Per tale via non si dovrebbe configurare il rischio che la solidità della decisione finisca per dipendere dalla corretta programmazione dell’algoritmo. Autorevole dottrina ha da tempo manifestato il timore che possa diversamente pervenirsi ad una sostanziale accettazione acritica della decisione proposta dall’intelligenza artificiale. V. M. Gradi, Burocrazia giudiziaria, in Riv. trim. dir. proc. civ. 2024, 751 ss., spec. 764; J. Nieva Fenoll, Inteligencia artificial y proceso judicial, Madrid 2018, passim (trad. it. a cura di P. Comoglio, Intelligenza artificiale e processo, Torino 2019, 107).
[75] L’idea della trasparenza algoritmica quale garanzia di indipendenza del giudice è condivisa da G. Gioia, Intelligenza artificiale e indipendenza della magistratura: un equilibrio tra trasparenza e controllo, in questa Rivista 2025, 1338 ss., spec. 1356.
[76] Per l’utilità della giurisprudenza del Consiglio di Stato relativa all’utilizzo degli algoritmi nell’esercizio della funzione amministrativa anche con riferimento alla funzione giurisdizionale cfr. A. Pajino, L’uso dell’intelligenza artificiale nel processo tra problemi nuovi e questioni antiche, in BioLaw Jour. 2022, 205 ss., spec. 219.
[77] Tale approccio appare coerente con l’idea di utilizzo dell’IA in chiave antropocentrica, «volto a coglierne le opportunità», ex art. 1, comma 1°, l. 23 settembre 2025, n. 132.
[78] Esso è concepito soprattutto nell’ottica di agevolare il lavoro nelle realtà aziendali e in materia di cybersecurity, dove l’elemento qualificante l’IA ibrida risiede nella cooperazione tra diverse forme di «intelligenza» (statistica, simbolica e umana), al fine di ottenere risultati più affidabili, trasparenti e controllabili rispetto a quelli conseguibili mediante sistemi puramente automatici. Si segnalano gli scritti di M. Palmirani, S. Sapienza, K. Ashley, A Hybrid Artificial Intelligence Methodology for Legal Analysis, in BioLaw J. 2024, III, 389 ss.; N. Lipari, Il diritto del nuovo millennio tra giurisdizionalizzazione ed algoritmo, in Accademia 2024, 9 ss.; M. Palmirani, A Smart Legal Order for the Digital Era: A Hybrid AI and Dialogic Model, in Ragion pratica 2022, 59, 633 ss.
[79] Si è già richiamato il Quantitative Input Influence (QII) (v. retro, §2, nt. 12). Tale parametro esprime in termini quantitativi l’incidenza di ciascun input sull’output di un modello algoritmico o di un sistema di intelligenza artificiale. Esso consente di stimare in quale misura una certa variabile contribuisca a determinare l’esito del processo decisionale. Le misure di QII permettono anche di quantificare l’influenza di un insieme di input sul risultato finale, nonché l’influenza marginale di ciascuno di essi all’interno di tali insiemi. Il concetto assume un ruolo centrale nell’ambito della Explainable AI, in quanto attenua, almeno in parte, l’opacità epistemica: non ci si limita ad individuare i fattori considerati dal sistema, ma si mira a ricostruirne il peso relativo e la direzione dell’incidenza (positiva o negativa, più o meno significativa) nel processo decisionale. Sulla correlazione tra QII e trasparenza si veda ampiamente A. Datta, S. Sen, Y. Zick, Algorithmic transparency via quantitative input influence, cit., 71 ss., ove anche criteri matematici di analisi e calcolo dei QII.
[80] Le prime pronunce in materia hanno escluso l’automatismo tra l’indicazione erronea di riferimenti giurisprudenziali negli scritti difensivi e la condanna ex art. 96 c.p.c., in mancanza della prova del dolo o della colpa grave e del danno. L’errore nella citazione non produce effetti sanzionatori se non ha influenzato in modo scorretto la decisione o alterato il contraddittorio (Trib. Firenze 14 marzo 2025, cit.). Le decisioni più recenti, invece, fanno derivare dall’utilizzo acritico di tali strumenti gli estremi della colpa grave, in quanto errori di tale natura «aggravano significativamente l’attività del giudice e delle controparti, costretti a verificare l’attendibilità di ogni singola citazione e a controdedurre su precedenti inesistenti» (Trib. Siracusa 20 febbraio 2026, n. 338, cit.; v., altresì, Trib. Mantova 24 marzo 2026; Trib. Verona 16 febbraio 2026, n. 315, ove la condanna ex art. 96 c.p.c. è stata pronunciata sulla base del ricorso acritico al sistema di IA nella redazione dell’atto introduttivo, come desumibile dalla trascrizione nello scritto difensivo di parte della chiusa interlocutoria del chatbot; in senso analogo Trib. Latina 24 settembre 2025, nn. 1034 e 1035, ha pronunciato la condanna ex art. 96 c.p.c., desumendo l’uso improprio di sistemi di IA dalla gestione del procedimento, «dalla scarsa qualità degli scritti difensivi e dalla totale mancanza di pertinenza o rilevanza degli argomenti utilizzati»; Trib. Torino 16 settembre 2025, n. 2120, ha applicato l’art. 96 c.p.c. per la natura illogica e inconferente dell’atto). La dottrina ha esaminato la questione sotto plurime angolazioni. V. I. Carnat, Le allucinazioni dell’intelligenza artificiale e le condanne ex art. 96 c.p.c.: quale danno, quale responsabilità?, in Danno e resp. 2026, II, 207 ss.; G. Franco, Responsabilità del professionista per uso improvvido dell’IA, in Lav. giur. 2026, III, 213 ss.; D. Delfino, Allucinazioni dell’intelligenza artificiale e concorrenza sleale, in Riv. dir. ind. 2025, III, 141 ss.; L. Viola, Avvocato usa ChatGPT e rischia responsabilità ex art. 96 c.p.c., in Dir. internet 2025, III, 493 ss.
[81] Nei casi nei quali è stata pronunciata la condanna ex art. 96 c.p.c. la decisione è stata sempre sorretta dal richiamo ad un utilizzo dell’intelligenza artificiale da parte del difensore senza adeguato controllo (Trib. Mantova 24 marzo 2026; Trib. Verona 16 febbraio 2026, n. 315) o senza previa verifica di esistenza e coerenza delle fonti primarie (Trib. Siracusa 20 febbraio 2026, n. 338; Trib. Firenze 14 marzo 2025, cit.) o come un insieme disorganico di citazioni normative e giurisprudenziali, privo di allegazioni pertinenti al caso concreto, in violazione del dovere di lealtà processuale (Trib. Torino 16 settembre 2025, n. 2120).
[82] V. retro, § 5.
[83] In tal senso il CSM nella richiamata delibera 8 ottobre 2025, cit., 11.
[84] In altri termini, ci si potrebbe domandare se gli algoritmi decisionali debbano essere sottoposti a standards di trasparenza più elevati rispetto agli esseri umani. M. Günther, A. Kasirzadeh, Algorithmic and human decision making: for a double standard of transparency, in AI and Society, 2022, 37, 375 ss.; U. Peters, Explainable AI lacks regulative reasons: why AI and human decision_making are not equally opaque, in AI and Ethics, 2023, III, 963 ss. Contra J. Zerilli, A. Knott, J. Maclaurin, C. Gavaghan, Transparency in Algorithmic and Human Decision-Making: Is There a Double Standard?, in Phil. tec. 2018, 32, 661 ss., evidenziano come i sistemi automatizzati siano spesso sottoposti a standards di trasparenza anche in ragione di una sopravvalutazione del livello di trasparenza raggiungibile nei processi decisionali umani, a loro volta caratterizzati da rilevanti profili di opacità. Gli strumenti decisionali algoritmici, quindi, non dovrebbero essere chiamati a soddisfare requisiti più stringenti rispetto a quelli richiesti agli umani. Tale prospettiva è ricondotta alla teoria dell’intentional stance, elaborata dal filosofo statunitense Daniel Dennett (D.C. Dennett, The Intentional Stance, Cambridge 1987, passim), secondo cui la comprensione e la giustificazione dell’agire si fondano, nei contesti umani, sull’attribuzione di stati intenzionali (credenze e desideri) funzionali alla spiegazione del comportamento. Se la mente umana può essere descritta come un sistema di elaborazione di informazioni che guida l’azione sulla base di tali stati, ne consegue che anche le decisioni algoritmiche, in quanto processi informazionali, potrebbero essere oggetto di forme di giustificazione analoghe, fondate su modelli esplicativi che richiamano, sul piano descrittivo, quelli impiegati dall’uomo.
#Adessonews seleziona nella rete articoli di particolare interesse.
Se vuoi leggere l’articolo completo clicca sul seguente link
