In una conversazione con mia figlia adolescente la scorsa settimana, ho fatto notare un notiziario che ha segnalato le preoccupazioni per l’uso di tecnologie di riconoscimento facciale in diverse mense scolastiche nel North Ayrshire, in Scozia. Nove scuole della zona hanno recentemente lanciato questa pratica come un mezzo per prendere il pagamento dei pranzi più rapidamente e ridurre al minimo il rischio COVID, anche se hanno da allora hanno messo in pausa il roll out della tecnologia.

Quando ho chiesto a mia figlia se avesse qualche preoccupazione riguardo all’uso della tecnologia di riconoscimento facciale nella mensa della sua scuola, ha risposto con disinvoltura: “Non proprio. Però renderebbe le cose molto più veloci alla cassa”.

Le sue parole confermano la preoccupazione che i bambini siano molto meno consapevoli dei loro diritti sui dati rispetto agli adulti. E anche se ci sono disposizioni speciali e salvaguardie per i bambini sotto una serie di legislazioni sulla protezione dei dati, l’uso della tecnologia di riconoscimento facciale sui bambini potrebbe comportare rischi unici per la privacy.

Tecnologie di riconoscimento facciale identificano e autenticano le identità delle persone rilevando, catturando e abbinando i volti alle immagini di un database. Le tecnologie sono alimentate dall’intelligenza artificiale (AI), in particolare la tecnologia nota come apprendimento automatico.

L’apprendimento automatico predice i risultati sulla base di dati storici, o algoritmi, che sono stati inseriti nel sistema. Così, per il riconoscimento facciale, l’apprendimento automatico predice l’identità associata a una rappresentazione digitale del volto di una persona, o “impronta facciale”, sulla base di un database di immagini facciali. Il software si adatta attraverso questa esperienza, nel tempo imparando a generare previsioni più facilmente.

La tecnologia di riconoscimento facciale è ora utilizzata in una varietà di modi, come ad esempio per verificare l’identità dei dipendenti, per sbloccare gli smartphone personali, per taggare le persone su piattaforme di social media come Facebook, e anche per scopi di sorveglianza in alcuni paesi.

La tecnologia di riconoscimento facciale di per sé non è il problema. Piuttosto, il problema è come viene usata e, in questo caso, il fatto che la tecnologia si è infiltrata nei corridoi delle scuole e ha preso di mira una fascia demografica vulnerabile: i bambini.

Quindi quali sono i problemi di privacy per i bambini?

L’impronta del tuo volto è un tuo dato, quindi per qualsiasi sistema di riconoscimento facciale è importante capire come vengono raccolti e conservati i database delle immagini. Anche se posso accettare a malincuore l’uso della tecnologia di riconoscimento facciale per entrare in un concerto, non sarei entusiasta se la mia impronta facciale fosse conservata per “altri scopi commerciali della società” (una frase che appare abbastanza comunemente nella stampa fine della vendita dei biglietti riguardo all’uso dei dati personali).

Se la tecnologia di riconoscimento facciale viene utilizzata in ambienti scolastici, avremo bisogno di informazioni chiare su se e come le immagini degli studenti saranno utilizzate al di là dello scopo della coda per il pranzo. Per esempio, saranno condivise con terze parti e per quale scopo? Potrebbero sorgere problemi, ad esempio, se le impronte dei volti sono collegate ad altri dati sul bambino, come le sue preferenze per il pranzo. Terze parti potrebbero teoricamente usare questi dati per scopi di marketing.

Avremmo anche bisogno di informazioni su come le immagini sarebbero protette. Se le impronte dei volti degli studenti non sono adeguatamente protette, o il sistema non è abbastanza robusto da respingere gli hacker, questo crea rischi per la sicurezza informatica. Potrebbe essere possibile per gli hacker collegare le impronte dei volti dei bambini ad altri dati su di loro, e rintracciarli.

L’elevato rischio per la privacy che circonda l’uso delle tecnologie di riconoscimento facciale nelle scuole riguarda anche il consenso informato. Anche se il Regno Unito legge sulla protezione dei dati specifica che i bambini dai 13 anni in su possono acconsentire al trattamento dei loro dati personali, questo non significa che capiscano pienamente le implicazioni. Per esempio, un sondaggio ha scoperto che i bambini tra gli otto e i 15 anni avevano difficoltà a capire i termini e le condizioni di Instagram.

Ai bambini, ai genitori e ai tutori dovrebbero essere fornite nientemeno che informazioni complete, espresse in un linguaggio che i bambini possono facilmente comprendere. Ogni soggetto interessato, compreso un bambino, ha il diritto di sapere esattamente come i suoi dati personali saranno trattati, condivisi e conservati, e può specificare le condizioni alle quali il suo consenso sarà applicato. Tutto meno che prudenza e trasparenza rischia di mettere in pericolo la privacy dei bambini.

Normalizzare la sorveglianza dei bambini?

Queste sono solo alcune delle domande che l’uso delle tecnologie di riconoscimento facciale nelle scuole solleva. La tecnologia di riconoscimento facciale comporta anche altri rischi, come gli errori, che potrebbero, per esempio, portare ad addebiti errati agli studenti. E come con qualsiasi sistema di IA, dovremmo preoccuparci di sapere se gli algoritmi e i set di dati sono liberi da pregiudizi, e avere dati di allenamento puliti, completi e rappresentativi.

È importante notare che l’impiego di tecnologie di riconoscimento facciale nelle scuole va anche in qualche modo a normalizzare la sorveglianza dei bambini. È possibile che la consapevolezza di essere tracciati in questo modo possa avere un impatto sul benessere di alcuni bambini.

Non è sorprendente che il cane da guardia dei dati del Regno Unito, l’Information Commissioner’s Office, abbia intervenuto per indagare sull’uso delle tecnologie di riconoscimento facciale nelle code per il pranzo a scuola. E alla luce dell’inchiesta, è piacevole vedere che il Consiglio del North Ayrshire ha messo in pausa l’introduzione la pratica.

Ma con l’avanzare dell’era digitale, è possibile che l’uso delle tecnologie di riconoscimento facciale tra i bambini delle scuole riprenda, e che venga addirittura adottato più ampiamente. Se questo deve accadere, l’uso del riconoscimento facciale deve dare sostanzialmente più benefici che rischi, tenendo conto delle circostanze speciali dell’uso della tecnologia sui bambini.

Pin Lean Lau, Docente di Bio-Law, Brunel Law School | Centre for Artificial Intelligence: Social & Innovazioni digitali, Università Brunel di Londra

Questo articolo è ripubblicato da La conversazione sotto una licenza Creative Commons. Leggi il articolo originale.

.

Source link