Intelligenza Artificiale e Diritto: supervisione umana e rischi nel sistema giudiziario

Premessa

L’avvento dell’intelligenza artificiale (I.A.) rappresenta la trasformazione tecnologica più radicale e di ampio respiro nel contesto sociale e giuridico contemporaneo.

L’I.A. – intesa come insieme di sistemi e metodologie idonei a simulare processi cognitivi umani quali apprendimento, ragionamento e adattamento – ha iniziato a permeare molteplici (leggasi innumerevoli) settori, incluso quello giudiziario.

Nel diritto, il fenomeno dell’I.A. stimola un’attenta riflessione sulla natura stessa della decisione giuridica, sollevando questioni fondamentali che riguardano la compatibilità delle tecnologie digitali coi principi cardine dell’ordinamento giuridico (e non solo giuridico) nonchè coi diritti fondamentali della persona.

In particolare, il dibattito giuridico attuale si concentra in primis sulla possibilità di utilizzare sistemi (artificialmente) intelligenti nel processo decisionale giudiziario, evidenziando rischi di discriminazioni algoritmiche, fenomeni di opacità nella valutazione normativa, oltre che problematiche di responsabilità legale.

Elemento centrale del quadro normativo è l’Artificial Intelligence Act dell’Unione Europea (cd A.I. Act), entrato in vigore il 1° agosto 2024 ed applicabile a partire dal 2 agosto 2025.

Il cd AI Act rappresenta la prima normativa al mondo a disciplinare in modo organico e armonizzato lo sviluppo, l’immissione sul mercato e l’uso dei sistemi di IA in Europa. Basandosi su un approccio regolamentare fondato sul rischio, l’AI Act stabilisce divieti assoluti per alcuni impieghi ritenuti “a rischio inaccettabile“, mentre per gli impieghi “ad alto rischio” (tra cui rientrano molti sistemi utilizzati in ambito giudiziario) impone rigorosi requisiti di trasparenza, gestione del rischio, supervisione umana e responsabilità degli operatori.

L’obiettivo dell’AI Act è duplice: da un lato, promuovere uno sviluppo tecnologico sicuro, affidabile e rispettoso dei diritti fondamentali; dall’altro, favorire un mercato unico digitale europeo competitivo e innovativo, garantendo una governance efficace e uniforme in tutti gli Stati membri.

L’approccio antropocentrico del Regolamento assicura che l’I.A. non possa sostituire la decisione umana nel processo giudiziario, ma debba costituire uno strumento complementare e sotto costante controllo umano.

In Italia, nel 2025, il Parlamento ha fatto un significativo passo avanti approvando un disegno di legge nazionale (“Disposizioni e deleghe al Governo in materia di intelligenza artificiale” A.S. 1146 / A.C. 2316-A) che integra ed armonizza il quadro europeo con specificità e misure rivolte al contesto italiano.

Il provvedimento, composto da 28 articoli, sottolinea la centralità dell’essere umano e il principio di vigilanza in relazione agli impatti economici, sociali e giuridici dell’IA.

Tra le disposizioni principali emergono:

• Promozione di un’I.A. “antropocentrica”, operante nel rispetto della trasparenza, responsabilità, equità e tutela dei diritti fondamentali;

• Istituzione di un sistema di governance diarchico, con due Autorità nazionali: l’Agenzia per l’Italia Digitale (AgID), che gestisce le notifiche e la promozione dell’I.A., e l’Agenzia per la Cybersicurezza Nazionale (ACN), che vigila sul mercato e esercita controlli ispettivi e sanzionatori;

• Obbligo di valutazioni d’impatto e autorizzazioni preventive per progetti di I.A. sperimentali, anche nei servizi pubblici e giudiziari;

• Previsione di un Comitato di coordinamento presso la Presidenza del Consiglio, per facilitare la collaborazione tra Agenzie e Governo;

• Misure di tutela specifiche per la protezione dei dati personali e degli interessi fondamentali, in armonia con il G.D.P.R.;

• Meccanismo di responsabilità che esclude la “responsabilità algoritmica autonoma” e assicura la supervisione umana nelle decisioni.

Il disegno di legge nazionale funge da supporto normativo e integrativo dell’AI Act europeo, adattando principi e regole di quest’ultimo al sistema giuridico italiano e alle sue peculiarità, ponendo solide basi per uno sviluppo sicuro e responsabile dell’intelligenza artificiale, a tutela della persona.

È quindi fondamentale approfondire il quadro normativo vigente, i profili di rischio legati all’adozione di sistemi I.A. in ambito giudiziario, oltre che le misure di garanzia e controllo stabilite al fine di assicurare trasparenza, responsabilità e tutela dei diritti fondamentali.

Questo articolo si propone di offrire una panoramica rigorosa e aggiornata sul tema, evidenziando i principali strumenti normativi, i rischi emergenti e le modalità di supervisione umana previste, al fine di fornire alla clientela una comprensione sia tecnica che pratica dei profili giuridici più salienti relativi all’intelligenza artificiale applicata al diritto.

Quadro normativo (in itinere) e principi chiave

Schema – Struttura normativa italiana ed europea sull’IA in ambito giudiziario

Il Disegno di Legge 2316-A: sintesi dei contenuti principali

Il disegno di legge nazionale approvato nel 2025 è un tassello fondamentale del quadro giuridico italiano sull’intelligenza artificiale, integrando e specificando il quadro europeo.

Gli articoli più rilevanti includono:

• Articoli 1 e 3: definizione degli obiettivi generali e principio di IA antropocentrica, responsabile e trasparente, con tutela specifica per minori di 14 anni e incentivi alle PMI.

• Articolo 7: regolamentazione dell’IA in ambito sanitario, con supporto al lavoro dei professionisti ed attenzione alla trasparenza verso le persone con disabilità.

• Articolo 11: istituzione di un Osservatorio ministeriale per monitorare rischi e opportunità dell’IA nel lavoro.

• Articolo 15: disciplina dell’uso dell’IA nei procedimenti giudiziari come strumento di supporto, con piena autonomia decisionale del magistrato, trasparenza e riservatezza garantite.

• Articoli 19 e 20: governance nazionale con Comitato di coordinamento e autorità AgID e ACN per promozione e controllo.

• Articolo 25: tutela del diritto d’autore sulle opere realizzate con IA.

• Articolo 26: disposizioni penali per uso illecito e aggravanti per reati connessi all’IA.

Domande e risposte

D: Qual è il ruolo della supervisione umana nell’ambito giudiziario in cui si utilizza l’I.A.?
R: La legge italiana ed europea riservano esclusivamente al Magistrato la decisione ultima su interpretazione della legge, valutazione dei fatti e adozione di provvedimenti; l’intelligenza artificiale agisce come supporto meramente tecnologico, senza poteri decisionali autonomi, garantendo trasparenza e possibilità di revisione umana.

D: Quali rischi presenta l’uso dell’I.A. in ambito giudiziario?
R: I rischi principali sono ravvisabili in episodi di opacità degli algoritmi (“black box“), potenziali pregiudizi o discriminazioni, violazioni della Privacy e responsabilità penalmente rilevanti, in caso di usi potenzialmente illeciti.

D: Come si garantisce il bilanciamento tra innovazione tecnologica e tutela del diritto?
R: Attraverso il rigoroso rispetto di stringenti obblighi di trasparenza – Attraverso la predisposizione di un sistema di autorizzazioni preventive – Mediante un’attività di costante monitoraggio da parte di Autorità nazionali – Mediante la formazione professionale – Mediante l’implementazione di uno specifico ed efficace sistema sanzionatorio, attoa prevenire abusi.

Esempi pratici di applicazione dell’I.A. nel diritto italiano (2025)

• L’AgID e l’ACN vigilano su soluzioni I.A. “ad alto rischio“, per assicurare conformità con norme e trasparenza, monitorando sperimentazioni in ambito giudiziario.

• Sistemi di giustizia predittiva assistono Giudici ed Avvocati con analisi dei dati, ma ogni output è verificato e sottoposto a (rigorosa) supervisione umana.

• L’I.A. automatizza la ricerca normativa e la redazione di documenti, con validazione umana finale, a garanzia di correttezza giuridica.

Questioni critiche oggetto di dibattito

• L’I.A. non sostituisce il giudizio umano né ha autonomia interpretativa.

• Trasparenza, revisionabilità e responsabilità umana sono essenziali.

• Formazione continua degli operatori indispensabile.

Conclusioni

Il sistema normativo italiano ed europeo crea (leggasi, persegue) un equilibrio tra innovazione tecnologica e principi costituzionali, ponendo la supervisione umana come requisito essenziale per garantire una giustizia efficace, trasparente e rispettosa dei diritti fondamentali nell’era digitale.