Ciò suggerisce che l’idea di un’intelligenza artificiale distorta non è nuova o sorprendente, ma è preoccupante. Altre ricerche passate, come un’analisi in Nature Medicineha dimostrato che l’implementazione dell’IA può essere influenzata da fattori demografici, tra cui la razza. Il rapporto afferma che “c’è una crescente preoccupazione che questi sistemi di IA possano riflettere e amplificare i pregiudizi umani e ridurre la qualità delle loro prestazioni in popolazioni storicamente poco servite, come i pazienti di sesso femminile, i pazienti di colore o quelli di basso livello socioeconomico”. Questi pregiudizi spesso portano a fastidiose sottodiagnosi da parte degli algoritmi di IA.

Lo studio di The Lancet afferma che ci possono essere diversi fattori che portano a pregiudizi, come l’utilizzo di dati che non rappresentano l’intera popolazione di pazienti. Un altro fattore che può portare a distorsioni dell’IA è l’apprendimento da parte dell’intelligenza artificiale di tratti che potrebbero essere presenti nella popolazione, come certi fenotipi o caratteristiche, come la densità ossea.

Lo studio

Il team di ricerca voleva verificare se i modelli di intelligenza artificiale fossero in grado di determinare la razza solo dalle radiografie del torace. Hanno utilizzato tre grandi serie di dati che comprendevano una popolazione ampia e diversificata e ciò che hanno scoperto è stato sorprendente. L’IA è stata in grado di prevedere con precisione la razza di un paziente basandosi esclusivamente sulla radiografia, cosa che nemmeno gli esperti erano in grado di fare.

L’intelligenza artificiale era in grado di determinare la razza anche quando le immagini erano “altamente degradate o ritagliate a un nono delle dimensioni originali, o quando la risoluzione era modificata a tal punto che le immagini erano a malapena riconoscibili come radiografie”.

Fattori relativi

Per evitare pregiudizi razziali di tipo fenotipico, i ricercatori hanno utilizzato altri set di dati radiografici non del torace, tra cui mammografie, tomografie computerizzate (TC) del torace e radiografie della colonna vertebrale cervicale. L’intelligenza artificiale è stata comunque in grado di determinare la razza della persona.

Source link