AI e sorveglianza: è un binomio definente dell’attualità. Ne ho scritto per il primo numero della rivista trimestrale “Digeat” di diritto applicato all’informatica, nata da un’idea del collega Andrea Lisi.
Ho analizzato uno dei case study più recenti e più vicini, quello di Marvel e Protector, i due progetti di polizia predittiva AI-powered sperimentati a Trento e sanzionati dal Garante per la protezione dei dati personali.
Il provvedimento dell’Authority permette di leggere in profondità passaggi essenziali. Spicca da un lato l’attrazione tecnologica dell’idea di smart city, dall’altro la superficialità nelle tutele. Sono cioè mancate le domande fondamentali e preliminari sulla liceità e sulla proporzionalità dei trattamenti. Eppure, la sede giuridica per farlo esisteva: si chiama valutazione d’impatto, o DPIA in inglese, ed è prescritta dall’art. 35 GDPR.
Non un caso isolato, ma l’emersione di un modello
Dobbiamo chiederci se il caso di Trento possa essere considerato come isolato. Mi pare, e cerco di argomentarlo nell’articolo, che costituisca piuttosto la manifestazione di un modello culturale diffuso, che ha da tempo superato, in maniera silenziosa, un tabù delle società democratiche occidentali, quello del controllo capillare dei cittadini.
Il paradigma di fondo mi pare quello di interpretare la sicurezza come sinonimo di sorveglianza tecnologica. E dunque la massima sicurezza come massima sorveglianza tecnologica.
A Trento si sono incrociati dati personali, si sono raccolti ampi volumi di informazioni da spazi pubblici e da spazi virtuali (piattaforme social e canali di condivisione video), sono stati analizzati con strumenti predittivi. L’ambizione era quella di riconoscere dinamiche comportamentali affidandosi all’intelligenza artificiale, di anticipare comportamenti futuri prima che accadano. Eppure, non si è stati in grado di scrivere un’informativa.
L’argomento è centrale oggi e sembra destinato a esserlo ancor più dell’immediato futuro, perché le soluzioni tecnologiche sono sempre più disponibili e meglio integrate. Tutto questo ci interessa? Sì, decisamente, perché tocca in profondità i nostri spazi residui di libertà.
Il ritorno al right to be let alone
La situazione presente ci riporta concettualmente addirittura alle origini del diritto alla riservatezza, al right to be let alone, ossia al diritto di essere lasciati in pace, che oggi vuol dire anche di essere lasciati fuori da sperimentazioni predittive.
La dimensione però si è fatta sfuggente e, allo stesso tempo, schiacciante. Il conflitto infatti non è più quello storico e concreto tra individuo e giornalismo scandalistico (yellow journalism), che limita pur sempre il confronto tra soggetti privati, in squilibrio ma almeno privati. Quello in atto è invece un rapporto tra insiemi sciolti di singoli, da tempo non più coesi cioè in comunità, e decisori pubblici che hanno disponibilità di tecnologie avanzate, disponibilità di denaro da investire, slogan di sicurezza da diffondere.
Qui l’asimmetria è totale, la narrazione persuasiva intensa, l’opacità informativa rende perfino difficile individuare i dispositivi di controllo o quantomeno la loro rete, non permette al cittadino medio di decifrarne le implicazioni, ancora meno permette di contrastarle.