Arresto erroneo causato da un software di riconoscimento facciale

I sistemi di riconoscimento facciale suscitano crescenti preoccupazioni riguardo alla violazione della privacy e al potenziale utilizzo come strumento di sorveglianza di massa. Inoltre, i dati raccolti da tali sistemi potrebbero essere soggetti a violazioni e utilizzati impropriamente da cybercriminali per la creazione di video deepfake o per ricerche di mercato senza il consenso dei legittimi proprietari.

Il caso di Sara (nome fittizio per proteggere l’anonimato della vittima), riportato dalla BBC, evidenzia i rischi reali associati ai sistemi di riconoscimento facciale. Appena entrata in un negozio, Sara è stata accusata ingiustamente di furto da una commessa, sulla base di un errore del sistema biometrico Facewatch, che aveva erroneamente associato il suo volto a quello di una ladra. Nonostante l’errore fosse stato successivamente riconosciuto e la vittima avesse ricevuto scuse dall’azienda, questo episodio sottolinea l’importanza di essere consapevoli dei rischi legati all’uso di tali tecnologie.

Nonostante gli errori commessi dai sistemi biometrici, le forze dell’ordine stanno sempre più spesso adottando il riconoscimento facciale per identificare potenziali criminali. Nel Regno Unito, l’uso di questa tecnologia da parte della polizia è aumentato significativamente negli ultimi anni, sollevando questioni cruciali riguardo all’equilibrio tra libertà e sicurezza, come sottolineato dal sociologo e filosofo Zygmunt Bauman.

Facewatch, un sistema di riconoscimento facciale utilizzato in vari negozi del Regno Unito per individuare i taccheggiatori, ha catturato migliaia di volti attraverso le telecamere e li ha confrontati con le liste di controllo della polizia. Nonostante l’efficienza di questa tecnologia, esistono rischi per la privacy e la libertà civile: chiunque venga scansionato diventa parte del database digitale della polizia e potrebbe essere soggetto ad arresto o interrogatorio in caso di errore del sistema, come evidenziato da Silkie Carlo, direttore di Big Brother Watch, un’ONG che si occupa di libertà civili.