venerdì 27 marzo 2020

Razzismo nel riconoscimento vocale

Sono emerse nuove prove del problema sulla discriminazione razziale nel riconoscimento vocale.

Le tecnologie di riconoscimento vocale sviluppate da Amazon, Google, Apple, Microsoft e IBM commettono quasi il doppio degli errori durante la trascrizione di voci afroamericane rispetto a voci americane bianche, secondo un nuovo studio dell’università di Stanford.
Tutti e cinque i sistemi hanno prodotto questi tassi di errore anche quando coloro che parlavano erano dello stesso sesso ed età e dicevano esattamente le stesse parole.

Non possiamo sapere con certezza se queste tecnologie siano utilizzate negli assistenti virtuali, come Siri e Alexa, in quanto nessuna delle società rivela queste informazioni. Se lo sono, i prodotti offriranno un servizio di gran lunga inferiore a un enorme gruppo di utenti, il che può avere un impatto notevole sulla loro vita quotidiana.

Il riconoscimento vocale è già utilizzato nelle

sentenze di immigrazione, nelle decisioni di assunzione di lavoro e nei rapporti giudiziari. È anche fondamentale per le persone che non possono usare le mani per accedere ai computer.

Con la tecnologia destinata a espandersi rapidamente nei prossimi anni, qualsiasi pregiudizio razziale potrebbe avere gravi conseguenze sulla carriera e sulla vita.
Sono necessari analisi indipendenti.

I ricercatori hanno testato la tecnologia di ogni azienda con oltre 2.000 campioni di discorsi tratti da interviste registrate con afroamericani e bianchi americani.

In media, i sistemi hanno frainteso il 35% delle parole pronunciate dagli afroamericani e il 19% di quelle pronunciate dagli americani bianchi.

Questi tassi di errore erano più alti per gli uomini afroamericani.

Questi errori sono probabilmente il risultato di un problema comune con l'IA: la tecnologia si basa sui dati forniti dai bianchi.

Sharad Goel, professore di ingegneria computazionale di Stanford che ha supervisionato la ricerca, ritiene che i risultati mostrino la necessità di osservazioni indipendenti per le nuove tecnologie.

"Non possiamo contare sulle aziende che si regolano da sole", ha affermato.

Leggi anche Storie e Notizie

Nessun commento:

Posta un commento