Sono emerse nuove prove del problema sulla discriminazione razziale nel riconoscimento vocale.
Le tecnologie di riconoscimento vocale sviluppate da Amazon, Google, Apple, Microsoft e IBM commettono quasi il doppio degli errori durante la trascrizione di voci afroamericane rispetto a voci americane bianche, secondo un nuovo studio dell’università di Stanford.
Tutti e cinque i sistemi hanno prodotto questi tassi di errore anche quando coloro che parlavano erano dello stesso sesso ed età e dicevano esattamente le stesse parole.
Non possiamo sapere con certezza se queste tecnologie siano utilizzate negli assistenti virtuali, come Siri e Alexa, in quanto nessuna delle società rivela queste informazioni. Se lo sono, i prodotti offriranno un servizio di gran lunga inferiore a un enorme gruppo di utenti, il che può avere un impatto notevole sulla loro vita quotidiana.
Il riconoscimento vocale è già utilizzato nelle
sentenze di immigrazione, nelle decisioni di assunzione di lavoro e nei rapporti giudiziari. È anche fondamentale per le persone che non possono usare le mani per accedere ai computer.
Con la tecnologia destinata a espandersi rapidamente nei prossimi anni, qualsiasi pregiudizio razziale potrebbe avere gravi conseguenze sulla carriera e sulla vita.
Sono necessari analisi indipendenti.
I ricercatori hanno testato la tecnologia di ogni azienda con oltre 2.000 campioni di discorsi tratti da interviste registrate con afroamericani e bianchi americani.
In media, i sistemi hanno frainteso il 35% delle parole pronunciate dagli afroamericani e il 19% di quelle pronunciate dagli americani bianchi.
Questi tassi di errore erano più alti per gli uomini afroamericani.
Questi errori sono probabilmente il risultato di un problema comune con l'IA: la tecnologia si basa sui dati forniti dai bianchi.
Sharad Goel, professore di ingegneria computazionale di Stanford che ha supervisionato la ricerca, ritiene che i risultati mostrino la necessità di osservazioni indipendenti per le nuove tecnologie.
"Non possiamo contare sulle aziende che si regolano da sole", ha affermato.
Leggi anche Storie e Notizie
Le tecnologie di riconoscimento vocale sviluppate da Amazon, Google, Apple, Microsoft e IBM commettono quasi il doppio degli errori durante la trascrizione di voci afroamericane rispetto a voci americane bianche, secondo un nuovo studio dell’università di Stanford.
Tutti e cinque i sistemi hanno prodotto questi tassi di errore anche quando coloro che parlavano erano dello stesso sesso ed età e dicevano esattamente le stesse parole.
Non possiamo sapere con certezza se queste tecnologie siano utilizzate negli assistenti virtuali, come Siri e Alexa, in quanto nessuna delle società rivela queste informazioni. Se lo sono, i prodotti offriranno un servizio di gran lunga inferiore a un enorme gruppo di utenti, il che può avere un impatto notevole sulla loro vita quotidiana.
Il riconoscimento vocale è già utilizzato nelle
sentenze di immigrazione, nelle decisioni di assunzione di lavoro e nei rapporti giudiziari. È anche fondamentale per le persone che non possono usare le mani per accedere ai computer.
Con la tecnologia destinata a espandersi rapidamente nei prossimi anni, qualsiasi pregiudizio razziale potrebbe avere gravi conseguenze sulla carriera e sulla vita.
Sono necessari analisi indipendenti.
I ricercatori hanno testato la tecnologia di ogni azienda con oltre 2.000 campioni di discorsi tratti da interviste registrate con afroamericani e bianchi americani.
In media, i sistemi hanno frainteso il 35% delle parole pronunciate dagli afroamericani e il 19% di quelle pronunciate dagli americani bianchi.
Questi tassi di errore erano più alti per gli uomini afroamericani.
Questi errori sono probabilmente il risultato di un problema comune con l'IA: la tecnologia si basa sui dati forniti dai bianchi.
Sharad Goel, professore di ingegneria computazionale di Stanford che ha supervisionato la ricerca, ritiene che i risultati mostrino la necessità di osservazioni indipendenti per le nuove tecnologie.
"Non possiamo contare sulle aziende che si regolano da sole", ha affermato.
Leggi anche Storie e Notizie
Commenti
Posta un commento