Razzismo algoritmico dei computer e dei social network

È importante sottolineare che i pregiudizi diffusi ormai in modo algoritmo probabilmente impongono impatti psicologici a lungo termine sugli adolescenti, molti dei quali trascorrono quasi ogni minuto di veglia online: uno studio del Pew Research Center del 2018 ha rilevato che il 95% degli adolescenti ha accesso a uno smartphone e il 45% si descrive online "Quasi costantemente", scrive Avriel Epps-Darling. Per esempio, negli USA gli adolescenti ispanici, in particolare, trascorrono più tempo online rispetto ai loro coetanei bianchi, secondo lo stesso studio. Data la dipendenza dell'America dall'apprendimento a distanza durante la pandemia (come nel resto del mondo N.d.T.), è probabile che gli adolescenti trascorrano ancora più tempo su Internet rispetto a prima. La ricerca suggerisce che essere oggetto di discriminazione è correlato a scarsi risultati di salute mentale in tutte le età. E quando i giovani di colore sperimentano la discriminazione, il loro sonno, il rendimento scolastico e l'autostima potrebbero risentirne. L'esperienza della discriminazione può persino alterare l'espressione genica nel corso della vita. Il razzismo algoritmico funziona spesso come un tipo di microaggressione tecnologica, quei comportamenti sottilmente velati e prevenuti che spesso si verificano senza che l'aggressore intenda ferire nessuno. Ma la varietà algoritmica differisce dalle microaggressioni umane in diversi modi. Per prima cosa, l'intento di una persona potrebbe essere difficile da definire, ma i modelli computazionali intrisi di pregiudizi algoritmici possono essere esponenzialmente più opachi. Diversi modelli comuni di apprendimento automatico, come le reti neurali, sono così complessi che persino gli ingegneri che li progettano fanno fatica a spiegare con precisione come funzionano. Inoltre, la frequenza con cui si verificano le microaggressioni tecnologiche è potenzialmente molto più alta che nella vita reale a causa del tempo che gli adolescenti trascorrono sui dispositivi, nonché della natura automatica e ripetitiva dei sistemi programmati. E tutti sanno che le opinioni umane sono soggettive, ma gli algoritmi operano sotto le spoglie dell'oggettività computazionale, che ne oscura l'esistenza e conferisce legittimità al loro utilizzo. Gli adolescenti di colore non sono gli unici a rischio di razzismo generato dal computer. Vivere in un mondo controllato da algoritmi discriminatori può separare ulteriormente i giovani bianchi dai loro coetanei di colore. L'algoritmo di filtraggio dei contenuti di TikTok, ad esempio, può guidare gli adolescenti verso camere di eco dove tutti sembrano uguali. Ciò rischia di diminuire la capacità di empatia degli adolescenti e di privarli delle opportunità di sviluppare le capacità e le esperienze necessarie per prosperare in un paese che sta crescendo solo più diversificato.

Compra il mio ultimo libro A morte i razzisti