Analisi di equità causale: Un toolkit causale per l'apprendimento automatico equo

Titolo originale:

Causal Fairness Analysis: A Causal Toolkit for Fair Machine Learning

Contenuto del libro:

La recente ondata di interesse per i sistemi di IA ha sollevato preoccupazioni in ambito morale circa il loro uso etico e la possibilità di dimostrare processi decisionali equi.

I problemi di iniquità e discriminazione sono diffusi quando le decisioni sono prese da esseri umani e sono potenzialmente amplificati quando le decisioni sono prese da macchine con poca trasparenza, responsabilità ed equità. In questa monografia, gli autori introducono un quadro di analisi dell'equità causale per comprendere, modellare e possibilmente risolvere i problemi di equità nei contesti decisionali dell'IA.

Gli autori collegano la quantificazione delle disparità presenti nei dati osservati con l'insieme di meccanismi causali sottostanti, spesso non osservati, che generano la disparità in primo luogo, una sfida che chiamano il problema fondamentale dell'analisi di equità causale (FPCFA). Per risolvere il FPCFA, studiano la mappatura delle variazioni e delle misure empiriche di equità ai meccanismi strutturali e alle diverse unità della popolazione, culminando nella Mappa dell'equità. Questa monografia presenta il primo tentativo sistematico di organizzare e spiegare la relazione tra i vari criteri di equità e studia quali ipotesi causali sono necessarie per eseguire l'analisi di equità causale.

Il ricettario dell'equità che ne risulta permette a chiunque di valutare l'esistenza di un impatto disparato e di un trattamento disparato. Si tratta di un'introduzione importante e tempestiva allo sviluppo di futuri sistemi di IA che incorporino l'equità intrinseca e, come tale, sarà di grande interesse non solo per i progettisti di sistemi di IA, ma anche per tutti coloro che sono interessati al più ampio impatto che l'IA avrà sulla società.