Discriminare i dati: Correlazione, quartieri e la nuova politica del riconoscimento

Recensioni dei lettori

Attualmente non ci sono recensioni dei lettori. La valutazione si basa su 9 voti.

Titolo originale:

Discriminating Data: Correlation, Neighborhoods, and the New Politics of Recognition

Contenuto del libro:

Come i big data e l'apprendimento automatico codificano la discriminazione e creano gruppi agitati di rabbia confortante.

In Discriminating Data, Wendy Hui Kyong Chun rivela come la polarizzazione sia un obiettivo - non un errore - dei big data e del machine learning. Questi metodi, sostiene l'autrice, codificano la segregazione, l'eugenetica e la politica dell'identità attraverso i loro presupposti e condizioni predefinite. La correlazione, che fonda il potenziale predittivo dei big data, deriva dai tentativi eugenetici del XX secolo di “allevare” un futuro migliore. I sistemi di raccomandazione promuovono gruppi rabbiosi di somiglianza attraverso l'omofilia. Gli utenti vengono “addestrati” a diventare autenticamente prevedibili attraverso una politica e una tecnologia di riconoscimento. L'apprendimento automatico e l'analisi dei dati cercano quindi di sconvolgere il futuro rendendo impossibile la rottura.

Chun, che ha una formazione in ingegneria di progettazione di sistemi, studi sui media e teoria culturale, spiega che, sebbene gli algoritmi di apprendimento automatico non includano ufficialmente la razza come categoria, essi incorporano la bianchezza come default. La tecnologia di riconoscimento facciale, ad esempio, si basa sui volti delle celebrità di Hollywood e degli studenti universitari, gruppi non famosi per la loro diversità. L'omofilia è emersa come concetto per descrivere l'atteggiamento dei residenti bianchi degli Stati Uniti nel vivere in alloggi pubblici birazziali ma segregati. La tecnologia di polizia predittiva utilizza modelli addestrati su studi di quartieri prevalentemente non serviti. Addestrati su dati selezionati e spesso discriminatori o sporchi, questi algoritmi vengono convalidati solo se rispecchiano questi dati.

Come possiamo liberarci dalla morsa dei dati discriminatori? Chun chiede algoritmi alternativi, default e coalizioni interdisciplinari per desegregare le reti e promuovere un Big Data più democratico.