Facebook si sta scusando per un incidente in cui la sua IA ha etichettato erroneamente un video di uomini neri con un’etichetta “primati”, definendolo un “errore inaccettabile” che stava esaminando per evitare che accadesse di nuovo. Come riportato dal New York Times, gli utenti che hanno guardato un video del 27 giugno postato dal tabloid britannico Daily Mail ha ricevuto un auto-prompt che chiedeva se volevano “continuare a vedere video sui primati”.

Facebook ha disattivato l’intera funzione di raccomandazione degli argomenti non appena si è reso conto di ciò che stava accadendo, un portavoce ha detto in una e-mail a The Verge di sabato.

“Questo è stato chiaramente un errore inaccettabile”, ha detto il portavoce. L’azienda sta indagando sulla causa per evitare che il comportamento si ripeta, ha aggiunto il portavoce. “Come abbiamo detto, mentre abbiamo apportato miglioramenti alla nostra IA sappiamo che non è perfetta e abbiamo più progressi da fare. Ci scusiamo con chiunque possa aver visto queste raccomandazioni offensive”.

L’incidente è solo l’ultimo esempio di strumenti di intelligenza artificiale che mostrano pregiudizi di genere o razziali, con strumenti di riconoscimento facciale che hanno dimostrato di avere un particolare problema di identificazione errata delle persone di colore. Nel 2015, Google si è scusato dopo che la sua app Photos ha etichettato foto di persone di colore come “gorilla”. L’anno scorso, Facebook ha detto che stava studiando se i suoi algoritmi addestrati utilizzando AI – compresi quelli di Instagram, che Facebook possiede – erano razzialmente distorti.

Ad aprile, gli Stati Uniti Commissione federale del commercio ha avvertito che gli strumenti di IA che hanno dimostrato “preoccupanti” pregiudizi razziali e di genere possono essere in violazione delle leggi di protezione dei consumatori se vengono utilizzati nel processo decisionale per il credito, l’alloggio o l’occupazione. “Tenetevi responsabili, o siate pronti che la FTC lo faccia per voi”, ha scritto Elisa Jillson, avvocato della privacy della FTC, in un post sul sito web dell’agenzia.

Source link