Trasparenza e interpretabilità per le rappresentazioni apprese delle reti neurali artificiali

Titolo originale:

Transparency and Interpretability for Learned Representations of Artificial Neural Networks

Contenuto del libro:

L'intelligenza artificiale (IA) è un concetto il cui significato e la cui percezione sono cambiati notevolmente negli ultimi decenni. Iniziata con sforzi di ricerca individuali e puramente teorici negli anni Cinquanta, l'IA è cresciuta fino a diventare un campo di ricerca pienamente sviluppato dei tempi moderni e potrebbe emergere come uno dei più importanti progressi tecnologici dell'umanità.

Nonostante questi rapidi progressi tecnologici, alcune domande chiave che ruotano attorno alla questione della trasparenza, dell'interpretabilità e della spiegabilità del processo decisionale di un'IA rimangono senza risposta. Pertanto, un giovane campo di ricerca coniato con il termine generale di Explainable AI (XAI) è emerso da requisiti sempre più severi per l'utilizzo dell'IA in ambiti critici per la sicurezza o eticamente sensibili.

Un'importante branca di ricerca della XAI è lo sviluppo di metodi che aiutino a facilitare una comprensione più profonda della conoscenza appresa dai sistemi neurali artificiali. In questo libro viene presentata una serie di studi scientifici che fanno luce su come adottare un approccio empirico ispirato alle neuroscienze per indagare la rappresentazione appresa di una rete neurale nello stesso spirito degli studi neuroscientifici sul cervello.