EDITORIALE – Continuo il ragionamento avviato nell’articolo precedente (clicca qui) con le ulteriori riflessioni
Algoritmo e decisione umana
La garanzia più importante prevista dal decreto è la revisione umana qualificata. Prima che il risultato di un’elaborazione automatizzata sia impiegato in un atto o in un provvedimento capace di incidere sui diritti della persona, esso deve essere sottoposto alla valutazione di un operatore competente. Tale controllo deve essere documentato e tracciabile.
In altre parole, non dovrebbe essere sufficiente che il sistema affermi: “questa immagine presenta una corrispondenza” oppure “questa persona rientra in una categoria di rischio”. Il funzionario deve verificare il risultato, confrontarlo con altri elementi, valutarne l’affidabilità e assumersi la responsabilità della decisione.
È una distinzione essenziale. L’algoritmo produce una probabilità, non una certezza giuridica.
Possiamo fare l’esempio di una telecamera collocata in una stazione ferroviaria. Il sistema può segnalare una possibile corrispondenza tra il volto ripreso e quello di una persona ricercata. Tuttavia, l’inquadratura può essere sfocata, l’illuminazione insufficiente, l’angolazione alterata, la banca dati non aggiornata oppure la persona semplicemente somigliante al soggetto ricercato.
Un falso positivo non può, da solo, giustificare una conseguenza negativa.
Il controllo umano, però, sarà effettivo soltanto se l’operatore potrà realmente comprendere i limiti della tecnologia. Per questo il decreto richiede formazione in materia di funzionamento dei sistemi, limiti, errori, bias, interpretazione critica degli output, protezione dei dati personali e cybersicurezza.
Ovviamente, la mera presenza di un essere umano davanti allo schermo non basta. Se l’operatore ratifica automaticamente ciò che la macchina suggerisce, la decisione resta di fatto algoritmica, anche se formalmente firmata da una persona.
Dati biometrici, privacy e falsi positivi
I dati biometrici, come il volto, l’impronta digitale, la voce o altri elementi fisici e comportamentali idonei a identificare una persona, hanno una natura particolarmente sensibile. Non sono semplici informazioni anagrafiche: consentono di collegare il corpo e l’identità di un individuo a luoghi, tempi, spostamenti e comportamenti.
Per questo il decreto pone limiti anche alle attività di etichettatura, filtraggio e categorizzazione dei dati biometrici. Tali operazioni possono essere svolte solo per finalità legittime di comparazione o ricerca e non possono servire a dedurre caratteristiche vietate o a produrre automaticamente decisioni con effetti giuridici sulla persona.
Restano, comunque, interrogativi importanti che dobbiamo continuare a porci sia come giuristi che come cittadini.
Il primo riguarda l’accuratezza dei sistemi. Un algoritmo può avere prestazioni diverse in relazione alla qualità delle immagini, al contesto di ripresa, all’età, al colore della pelle, ai tratti somatici o alla composizione del dataset con cui è stato addestrato. Quando l’errore colpisce una persona, esso non è mai puramente statistico: può tradursi in un controllo ingiustificato, in una segnalazione, in un sospetto, in un danno alla reputazione o in una limitazione concreta della libertà.
Il secondo interrogativo riguarda il rischio di discriminazione. Anche un sistema progettato con finalità di sicurezza può produrre effetti diseguali se è addestrato su dati incompleti, sbilanciati o non rappresentativi. Il principio di non discriminazione, richiamato dal decreto, non può quindi ridursi a una formula generale: deve diventare verifica tecnica, organizzativa e giuridica delle modalità concrete di impiego.
Il terzo riguarda la proporzionalità.
Non mi stancherò mai di ripeterlo anche a costo di attirarmi le ire di qualcuno: una tecnologia molto invasiva non diventa automaticamente legittima perché utile.
Occorre sempre chiedersi se, nel caso concreto, esista un mezzo meno intrusivo per raggiungere il medesimo scopo e se il vantaggio per la sicurezza giustifichi la compressione della riservatezza individuale.
Le garanzie previste
Il decreto prova a evitare che il riconoscimento biometrico diventi uno strumento di sorveglianza generalizzata. Oltre a quanto già sottolineato occorre ribadire che l’uso della tecnologia deve avere confini chiari nello spazio e nel tempo. L’autorizzazione ordinaria, ad esempio, non può superare quindici giorni.
Nei casi più delicati intervengono il pubblico ministero o il giudice.
In ogni caso, prima di attivare questi sistemi devono essere valutati i possibili effetti sui diritti fondamentali e sulla protezione dei dati personali. Ogni utilizzo deve inoltre lasciare una traccia verificabile: il decreto prevede registri automatici non modificabili, conservati per cinque anni, utili per ricostruire chi ha usato il sistema, quando e per quale scopo.
Se mancano i presupposti richiesti dalla legge o l’autorizzazione necessaria, l’uso della tecnologia deve cessare; dati, risultati e output ottenuti devono essere cancellati, salvo che siano stati acquisiti legittimamente su un’altra base giuridica.
Anche il riconoscimento facciale svolto su immagini già registrate, quindi non in tempo reale, incontra limiti precisi. Non può essere utilizzato per controlli biometrici generalizzati o indiscriminati e deve essere collegato a un reato o a un procedimento penale.
Per immagini raccolte in luoghi o durante eventi con particolari esigenze di ordine e sicurezza, i dati personali possono essere conservati soltanto per sette giorni, dopodiché devono essere cancellati automaticamente.
La domanda aperta
Il d.lgs. n. 160/2026 rappresenta un passaggio rilevante: porta l’uso dell’intelligenza artificiale nelle attività di polizia dentro un perimetro normativo fatto di limiti, autorizzazioni, tracciabilità e responsabilità.
Non basta, tuttavia, che tali garanzie siano scritte nella legge. Occorrerà verificarne l’applicazione concreta. Sarà necessario comprendere quali sistemi verranno utilizzati, con quali basi dati, quali protocolli di controllo saranno adottati, quale formazione riceveranno gli operatori, come saranno svolte le valutazioni d’impatto e quali rimedi avrà la persona che ritenga di essere stata identificata, classificata o controllata illegittimamente.
La tecnologia può certamente aiutare la ricerca di una persona scomparsa, la tutela di una vittima, la prevenzione di un pericolo grave o l’individuazione di un autore di reato.
Ma una democrazia non si misura solo dalla sua capacità di utilizzare strumenti efficaci: si misura, soprattutto, dalla capacità di porre limiti al potere quando quegli strumenti incidono sulla libertà e sulla dignità delle persone.
L’intelligenza artificiale, dunque, non deve trasformarsi in un’autorità invisibile: può assistere l’attività di polizia, ma la decisione, la responsabilità e il controllo devono rimanere esclusivamente umani.
