Intelligenza artificiale, Parigi: il “decathlon” dell’IA, il nuovo evento olimpico
I piani francesi di utilizzare l’intelligenza artificiale (AI) per ‘scannarizzare’ le migliaia di atleti, allenatori e spettatori in arrivo a Parigi per le Olimpiadi sono una forma di sorveglianza, affermano i gruppi di attivisti per i diritti umani.
Negli ultimi mesi, le autorità francesi hanno testato sistemi di sorveglianza con intelligenza artificiale presso stazioni ferroviarie, concerti e partite di calcio.
Quando i giochi inizieranno alla fine di luglio, questi sistemi scansioneranno le folle, controlleranno i pacchi abbandonati, rileveranno le armi e altro ancora.
I funzionari francesi affermano che questi strumenti non saranno pienamente operativi prima dei giochi, ma la polizia, i vigili del fuoco e i servizi di soccorso e alcuni agenti di sicurezza dei trasporti francesi li utilizzeranno fino al 31 marzo 2025.
“Gli attivisti temono che la sorveglianza AI possa diventare la nuova normalità.”
“Le Olimpiadi rappresentano un’enorme opportunità per testare questo tipo di sorveglianza con il pretesto di questioni di sicurezza e aprire la strada a sistemi ancora più intrusivi come il riconoscimento facciale”, ha dichiarato alla Thomson Reuters Foundation Katia Roux, responsabile di Amnesty International per l’advocacy in Francia.
Stazioni ferroviarie e Taylor Swift
Il governo francese ha arruolato quattro aziende in questo sforzo: Videtics, Orange Business, ChapsVision e Wintics.
Le piattaforme di sicurezza di queste aziende effettuano otto misurazioni chiave: traffico in controcorrente, presenza di persone in zone riservate, movimento della folla, pacchi abbandonati, presenza o uso di armi, sovraffollamento, corpi morti a terra e incendio.
I concerti dei Depeche Mode e dei Black-Eyed Peas, così come una partita di calcio tra Paris Saint-Germain e Lione, sono stati i luoghi di prova del software.
Ulteriori test sono stati effettuati sulla folla che viaggiava attraverso le stazioni della metropolitana di Nanterre Préfecture e La Defense Grande Arche per vedere Taylor Swift, nonché sui 40.000 partecipanti al Festival di Cannes.
Il sindaco di Cannes, David Lisnard, ha dichiarato che la città dispone già della “rete di protezione video più densa in Francia”, con 884 telecamere, una ogni 84 residenti.
In tutta la Francia ci sono circa 90.000 telecamere di videosorveglianza monitorate dalla polizia e dalla gendarmeria, secondo un rapporto del 2020.
“Una preoccupazione più generale è che, sebbene la maggior parte di questi casi d’uso possa sembrare non implicare la divulgazione dell’identità o la profilazione delle persone, essi richiedono comunque l’implementazione di un’infrastruttura di sorveglianza a cui manca solo un aggiornamento del software per essere in grado di effettuare i tipi più invasivi di sorveglianza di massa”, ha affermato Daniel Loifer, analista politico senior del gruppo per i diritti digitali AccessNow.
“Il pubblico avrà poca o nessuna supervisione su quali tipi di cose questi sistemi stanno tracciando, quali aggiornamenti vengono fatti, ecc. e quindi avremo l’inevitabile effetto agghiacciante che deriva da questo tipo di sorveglianza pubblica”, ha detto.
https://www.asterios.it/catalogo/il-capitale-sorvegliante
Le Olimpiadi stanno diventando il parco giochi dell’AI
I parlamentari francesi hanno cercato di calmare le critiche proponendo di vietare il riconoscimento facciale. Si tratta di una linea rossa che non dovrebbe essere superata, sostengono.
Mathias Houillet, co-fondatore di Wintics, ha detto che l’esperimento era “strettamente limitato” agli otto casi d’uso delineati nella legge. Ha anche sottolineato che funzioni come il rilevamento del movimento della folla non possono essere utilizzate per altri processi come il rilevamento dell’andatura, che consente di identificare l’andatura unica di una persona.
Ha detto che è “assolutamente impossibile” utilizzare il modello di Wintics per il riconoscimento del volto, a causa del suo design.
I rappresentanti di Videtics, Orange Business e ChapsVision non hanno risposto alle richieste di commento.
Gli esperti sono preoccupati che il modo in cui il Governo misura il successo di questi test e l’esatto funzionamento di questa tecnologia non siano stati resi pubblici.
“Non c’è neanche lontanamente la necessaria trasparenza su queste tecnologie. C’è una narrazione molto spiacevole secondo la quale non possiamo permettere la trasparenza su questi sistemi, soprattutto in un contesto di applicazione della legge o di sicurezza pubblica, ma è un’assurdità”, ha detto Loifer.
Ha aggiunto: “L’uso di tecnologie di sorveglianza come queste, in particolare nel contesto delle forze dell’ordine e della sicurezza pubblica, comporta forse il più grande potenziale di danno e quindi richiede il più alto livello di responsabilità pubblica”.
I sostenitori della privacy affermano che le esenzioni previste dalla legislazione consentiranno l’impiego del riconoscimento facciale da parte delle “autorità competenti” per scopi quali la sicurezza nazionale e l’immigrazione.
“Non si tratta di un divieto. Si tratta di un’autorizzazione per le forze dell’ordine. Le persone hanno l’illusione che, poiché la legge dice che stiamo vietando la tecnologia — tranne che per questo, questo e questo caso — sia tutto a posto, ma questi casi sono i più problematici”, ha detto Roux.
Anche l’uso della sorveglianza da parte della Francia ha sollevato preoccupazioni. Lo scorso novembre, l’ONG Disclose ha scoperto che le forze dell’ordine utilizzano segretamente il software di riconoscimento facciale dell’azienda israeliana Briefcam dal 2015.
I politici francesi ritengono che ci sia un divario tra la promessa della sorveglianza AI e il suo potenziale.
“La videosorveglianza basata sull’AI non sarà ottimale durante i Giochi Olimpici. Ma le Olimpiadi saranno un ottimo terreno di gioco per sperimentarla”, ha dichiarato la senatrice Agnes Canaye. “Saranno necessarie più forze di sicurezza interne o private per compensare le carenze della tecnologia”, ha aggiunto.
Il Ministero degli Interni, che supervisiona le autorità di polizia francesi, non ha risposto a una richiesta di commento.
In un elenco di proposte sul futuro della sorveglianza AI, la commissione legale del governo ha raccomandato di continuare la “base sperimentale” della tecnologia e di estendere il periodo di conservazione delle immagini registrate dai sistemi per “testare le apparecchiature in tutte le stagioni” e durante eventi minori.
“Ecco perché abbiamo deciso di fare una campagna di sensibilizzazione in questo momento sul riconoscimento facciale, anche se non verrà utilizzato durante le Olimpiadi”, ha detto Roux. “Se aspettiamo che venga utilizzato, sarà troppo tardi”.
Fonte: stampa estera
https://www.asterios.it/catalogo/fin-di-bene-il-nuovo-potere-della-ragione-artificiale