Twitter è tenere una competizione nella speranza che hacker e ricercatori siano in grado di identificare i pregiudizi nel suo algoritmo di ritaglio delle immagini – e distribuirà premi in denaro ai team vincitori (attraverso Engadget). Twitter spera che dare ai team l’accesso al suo codice e al modello di ritaglio delle immagini consentirà loro di trovare modi in cui l’algoritmo potrebbe essere dannoso (ad esempio ritagliare in modo da stereotipare o cancellare il soggetto dell’immagine).

Quelli in competizione lo faranno devono presentare una descrizione dei loro risultatie un set di dati che può essere eseguito tramite l’algoritmo per dimostrare il problema. Twitter assegnerà quindi punti in base al tipo di danni riscontrati, a quanto potrebbe potenzialmente influenzare le persone e altro ancora.

La squadra vincitrice riceverà $ 3.500 e ci sono premi separati di $ 1.000 per i risultati più innovativi e più generalizzabili. Quell’importo ha fatto un po’ di scalpore su Twitter, con alcuni utenti che lo dicono dovrebbe avere uno zero in più. Per il contesto, Twitter’s normale programma bug bounty ti pagherebbe $ 2.940 se trovassi un bug che ti consente di eseguire azioni per qualcun altro (come ritwittare un tweet o un’immagine) utilizzando lo scripting cross-site. Trovare un problema OAuth che ti consente di rilevare l’account Twitter di qualcuno ti farebbe guadagnare $ 7.700.

Twitter ha già svolto le proprie ricerche sul suo algoritmo di ritaglio delle immagini: a maggio ha pubblicato un articolo che indagava su come l’algoritmo fosse distorto, dopo le accuse che le sue anteprime erano razziste. Da allora Twitter ha per lo più eliminato le anteprime di ritaglio algoritmico, ma è ancora utilizzato sul desktop e un buon algoritmo di ritaglio è una cosa utile per un’azienda come Twitter.

L’apertura di un concorso consente a Twitter di ottenere feedback da una gamma molto più ampia di prospettive. Ad esempio, il team di Twitter tenuto uno spazio per discutere della competizione durante la quale un membro del team ha menzionato di aver ricevuto domande sui pregiudizi basati sulla casta nell’algoritmo, qualcosa che potrebbe non essere evidente agli sviluppatori di software in California.

Non è nemmeno solo il pregiudizio algoritmico inconscio che Twitter sta cercando. La rubrica ha valori in punti per danni sia intenzionali che non intenzionali. Twitter definisce i danni non intenzionali come ritagli che potrebbero derivare da un utente “ben intenzionato” che pubblica un’immagine normale sulla piattaforma, mentre i danni intenzionali sono comportamenti di ritaglio problematici che potrebbero essere sfruttati da qualcuno che pubblica immagini malintenzionate.

Twitter afferma nel suo blog di annunci che la competizione è separata da il suo programma bug bounty — se invii a Twitter una segnalazione sui pregiudizi algoritmici al di fuori della concorrenza, la società afferma che la segnalazione verrà chiusa e contrassegnata come non applicabile. Se sei interessato a partecipare, puoi vai alla pagina HackerOne della concorrenza per vedere le regole, i criteri e altro ancora. Le iscrizioni sono aperte fino al 6 agosto alle 23:59 PT e i vincitori della sfida saranno annunciati al Def Con AI Village il 9 agosto.



Source link