(1984 – George Orwell)
Governi in azione per il controllo dei dati e magari anche per altro … un mese fa il Chat Control per controllare le mail e i messaggi, ora il riconoscimento facciale per prevenire reati … Echelon (il grande orecchio) è il passato, il programma PRISM negli Stati Uniti e il nuovo Grande Fratello Europeo sta nascendo. Nella completa indifferenza e disinformazione !
Il governo italiano vuole approvare
il decreto legislativo sull’intelligenza
artificiale (recependo il AI Act Europeo, regolamento 2024/1689) prevedendo che
in casi di urgenza per: terrorismo, minacce alla vita o all’incolumità
personale, ricerca di persone scomparse o sequestrate, tratta o sfruttamento
sessuale, le forze dell’ordine possano ottenere - previa comunicazione anche
solo orale al pubblico ministero - l’autorizzazione a usare i dati
biometrici raccolti con l’intelligenza artificiale. Il dlgs prevederebbe
anche la possibilità che i sistemi di videosorveglianza vengano usati a
scopo preventivo per indagare sulle condotte di un soggetto indiziato per
reati presunti, con il lasciapassare dell’autorità giudiziaria designata dal
questore. Inoltre i dati biometrici di tutti coloro che accedono a luoghi
interessati da un’emergenza di ordine pubblico (es. le manifestazioni di
Bologna e dei No Tav) possano essere memorizzati per sette giorni.
Non sono ancora chiari nè la natura della banca dati né la sua affidabilità
(es. sicurezza sulla tenuta dei dati, tempi di cancellazione, garanzia che il
dato venga utilizzato solo per l’utilizzo autorizzato dal giudice e non per
altre finalità e soprattutto che l’acquisizione delle immagini sia separata da
ogni tecnologia di IA che permetta l’analisi delle stesse per evitare scenari
che fino ad oggi abbiamo visto solamente nei film).
L’Unione Europea ha detto stop all’Italia, perché la conservazione preventiva (prima
che il reato sia commesso) dei dati biometrici è incompatibile con il
regolamento UE (il riconoscimento facciale negli spazi pubblici è vietato
dalla legge europea sull’IA) ma l’iter parlamentare si è messo in moto.
Nello specifico, le forze dell’ordine potranno utilizzare in tempo reale il
riconoscimento facciale negli stadi, nei grandi eventi pubblici sia a titolo
preventivo (previa autorizzazione del pm della durata massima di 15 giorni più
proroghe) che dopo che sia commesso un reato. Il decreto consentirebbe alla
polizia di sviluppare e utilizzare sistemi di intelligenza artificiale. Unica sicurezza:
prima di agire sulla persona i dati devono essere “sottoposti a una revisione
umana qualificata e tracciabile”. In caso di reato potranno essere utilizzati
dati raccolti dai sistemi di videosorveglianza privati installati nei luoghi
interessati da ordine pubblico (stadi, piazze). Questi dati verranno raccolti e
conservati per sette giorni. La responsabilità per l’utilizzo improprio dei dati
ricade sull’ufficiale di pubblica sicurezza designato dal questore. L’installazione
e la gestione degli impianti di videosorveglianza sono a carico dei privati che
organizzano gli eventi. La legge vieta la costituzione indiscriminata di
archivi biometrici (divieto di scraping non mirato, ma non di conservazione in
genere)
= = = = = = = = = = = = = = = = =
Il 9 luglio scorso il parlamento UE
ha prorogato per due anni il regime temporaneo del Chat Control,
cioè delle misure per la prevenzione e il contrasto degli abusi sessuali sui
minori attraverso il monitoraggio dei contenuti scambiati sulle piattaforme
digitali. I fornitori di servizi di comunicazione (Meta, Google, Microsoft ecc)
sarebbero obbligati a rilevare, dopo approvazione di ogni singolo paese membro,
contenuti di materiale pedopornografico (già noto e nuovo) e tentativi di
adescamento, anche senza sospetti specifici o ordini dell’autorità giudiziaria.
Unica modifica significativa per questo regime temporaneo, l'esplicita
esclusione dall'ambito di applicazione delle comunicazioni protette mediante
crittografia end-to-end (es. Whatsapp). In tali casi, infatti, il contenuto dei
messaggi rimane accessibile esclusivamente al mittente e al destinatario e non
può essere oggetto delle attività di scansione previste dalla deroga approvata.
Nella versione definitiva del regolamento, la legge potrebbe “conciliare” la
tutela della privacy con le esigenze investigative: , i messaggi
continuerebbero a essere protetti dalla cifratura end-to-end durante la
trasmissione, mentre l'eventuale analisi potrebbe avvenire direttamente sul
dispositivo dell'utente, prima della cifratura o dopo la decifratura
(client-side scanning). Il controllo effettuato sul dispositivo
comprometterebbe comunque la garanzia della crittografia end-to-end, ossia che
soltanto mittente e destinatario possono accedere al contenuto delle
comunicazioni creando una backdoor funzionale nel sistema.
Altro punto controverso riguarda il software installato sui dispositivi e non gli
algoritmi della crittografia. Apple propose nel 2021 un sistema per individuare
immagini pedopornografiche su iPhone, ma lo ritirò dopo le forti critiche per
violazione della privacy e perché si obiettò che una volta creata
un'infrastruttura capace di analizzare automaticamente ciò che viene digitato o
inviato, diventa difficile garantire che venga usata soltanto per un
determinato scopo.
Secondo il Garante europeo della protezione dei dati, congiuntamente al Comitato europeo per la protezione dei dati, "la Proposta di Regolamento potrebbe porre le basi (de facto) per un generalizzato e indiscriminato scansionamento dei contenuti, teoricamente, di tutti i tipi di comunicazioni elettroniche". Inoltre il controllo sarebbe affidato a un algoritmo che, in caso di errore, potrebbe portare ad accuse ingiuste nei confronti di chiunque. Inoltre l’inserimento di questo tipo di eccezione per il reato di pedopornografia aprirebbe una breccia e creerebbe un precedente preoccupante, consentendo in futuro a un qualunque governo di utilizzare questo tipo di controllo preventivo per qualsiasi tipo di reato e/o di opposizione. La facoltà di aggirare il sistema di crittografia end-to-end trasferirebbe la necessità di avere il controllo del dispositivo che invia il messaggio per permettere l’analisi dei messaggi prima del loro invio. Un sistema che diventerebbe particolarmente pericoloso per la sicurezza dei dati personali e finanziari nel caso in cui venisse hackerato.
= = = =
Anthropic
(azienda che sviluppa modelli di intelligenza artificiale), a causa di un
accesso improprio al web, è riuscita a introdursi nei computer di tre
organizzazioni esterne lo scorso aprile con i suoi modelli Claude, pubblicando
un pacchetto software malevolo e infettando temporaneamente alcuni sistemi
terzi di scansione. L’”incidente” sarebbe stato scoperto solo di recente. Già
a luglio scorso il concorrente OpenAI aveva attaccato i sistemi di Hugging Face
(piattaforma di sviluppo di IA) mentre eseguivano test di sicurezza.
La comunità scientifica si è detta preoccupata; la tecnologia rischi di finire fuori
controllo (oppure troppo sotto controllo umano?)
Nessun commento:
Posta un commento