L'algoritmo che permette alla polizia di "predire" che sarai un delinquente, in base ai dati dei social..
Articolo originale: https://reclaimthenet.org/lapd-used-data-from-tool-that-enables-secret-online-spying/
Su Archive.org: https://web.archive.org/web/20211121053128/https://reclaimthenet.org/lapd-used-data-from-tool-that-enables-secret-online-spying/
18 novembre 2021
autore Ken Macon
La polizia beccata a usare uno strumento di spionaggio online per pianificare “pre-crimini”
Sempre più comune.
La startup tecnologica Voyager Labs aiuta le forze dell’ordine a utilizzare ciò che pubblichi sui social media e con chi interagisci per prevedere se hai o “pianifichi di” commettere un crimine. È una di un numero crescente di aziende che sostengono di poter utilizzare l’analisi dei social media per aiutare a prevedere e risolvere i crimini e ha aperto molte domande sulla privacy.
L’organizzazione no-profit Brennan Center ha ottenuto documenti attraverso richieste di libertà di informazione che hanno rivelato le strategie che Voyager utilizza violano le protezioni del primo emendamento. Per esempio, il software utilizza post sull’Islam e nomi utente dei social media che indicano l’orgoglio arabo come segni di potenziale inclinazione verso l’estremismo. Ma possono anche essere usati per prendere di mira qualsiasi gruppo.
Inoltre, secondo i documenti, ottenuti da The Guardian, l’azienda utilizza processi discutibili per accedere ai dati sui social media, e permette anche agli agenti delle forze dell’ordine di infiltrarsi nei gruppi e negli account privati utilizzando personaggi falsi.
L’azienda ha iniziato nove anni fa e ha uffici in tutto il mondo, tra cui New York, Washington DC e Israele. L’azienda è una di un numero crescente di aziende tecnologiche che esplorano l’analisi dei social media per l’uso nelle forze dell’ordine. Altre includono Media Sonar, Palantir, PredPol e Geofeedia.
Le tecnologie fornite da queste aziende tecnologiche sono attraenti per le forze dell’ordine, perché promettono di automatizzare e accelerare il processo di prevenzione del crimine. I documenti ottenuti dal Brennan Center mostrano che la polizia di Los Angeles sta provando il software Voyager Labs dal 2019. Il dipartimento ha anche lavorato o considerato di lavorare con altre aziende di questo tipo.
Secondo gli esperti, questi tipi di software sono un incubo per la privacy del pubblico e potenzialmente illegali in quanto criminalizzano comportamenti altrimenti legali come l’associazione con certe persone.
I documenti hanno rivelato che Voyager utilizza un modello “colpevole per associazione”. La copertura della storia da parte del Guardian ha spiegato:
“Il software Voyager raccoglie tutte le informazioni pubbliche disponibili su una persona o un argomento – compresi i post, le connessioni e persino le emoji – le analizza e le indicizza e poi, in alcuni casi, le incrocia con informazioni non pubbliche.
“I documenti interni mostrano che la tecnologia crea una topografia dell’intera esistenza di una persona sui social media, in particolare guardando i post degli utenti così come le loro connessioni, e quanto sono forti queste relazioni.
“Il software visualizza come le connessioni dirette di una persona sono collegate tra loro, dove tutte queste connessioni funzionano, e qualsiasi “connessione indiretta” (persone con almeno quattro amici comuni). Voyager rileva anche eventuali connessioni indirette tra un soggetto e altre persone che il cliente ha precedentemente cercato”.
Il professore di giornalismo dei dati della New York University e autore di “Artificial Intelligence: How Computers Misunderstand the World” Meredith Broussard ha paragonato i sistemi di Voyager ai sistemi utilizzati per il targeting degli annunci online.
I sistemi di targeting degli annunci online raggruppano le persone in “gruppi di affinità” basati su interessi condivisi.
“Quindi, invece di raggruppare le persone in gruppi come ‘proprietari di animali’, quello che Voyager sembra fare è mettere le persone in ‘gruppi’ di probabili criminali”, ha spiegato Broussard.
Ha aggiunto: “È un sistema di ‘colpa per associazione'”.
Il software di Voyager integra i dati pubblicamente disponibili con informazioni che acquisisce attraverso mandati e citazioni in giudizio e ciò che chiama una “persona attiva”.
L’azienda ottiene dati come messaggi di testo privati e la posizione di un soggetto attraverso mandati e citazioni ottenute dalle forze dell’ordine.
John Hamasaki, un avvocato di difesa penale e membro della commissione di polizia di San Francisco, ha detto: “Il grado in cui le informazioni private vengono sequestrate, presumibilmente legittimamente in base a mandati di perquisizione, è semplicemente troppo ampio”.
Ha aggiunto che il fatto che la polizia può ora analizzare i dati attraverso la tecnologia AI fornita da aziende come Voyager solleva preoccupazioni per le libertà civili e la privacy.
I documenti non contengono molti dettagli sul cosiddetto servizio premium “active persona”. L’azienda afferma che i clienti possono utilizzare “avatar” allo scopo di raccogliere e analizzare “informazioni che sono altrimenti inaccessibili” su diverse reti.
Voyager sostiene che il servizio può essere utilizzato per accedere alle informazioni crittografate su Telegram, e una tabella di marcia del 2019 ha mostrato che stava progettando di lanciare la funzione “persona attiva” su WhatsApp e Instagram.