Il collo di bottiglia dell'informazione: Teoria e applicazioni dell'apprendimento profondo

Titolo originale:

Information Bottleneck: Theory and Applications in Deep Learning

Contenuto del libro:

Il celebre principio del collo di bottiglia dell'informazione (IB) di Tishby et al. è stato recentemente oggetto di nuova attenzione grazie alla sua applicazione nell'ambito del deep learning.

Questa raccolta analizza il principio IB in questo nuovo contesto. I singoli capitoli di questa raccolta: - forniscono nuove intuizioni sulle proprietà funzionali dell'IB; - discutono il principio dell'IB (e i suoi derivati) come obiettivo per l'addestramento di strutture di apprendimento automatico multistrato come le reti neurali e gli alberi decisionali; e - offrono una nuova prospettiva sull'apprendimento delle reti neurali attraverso la lente del quadro IB.

La nostra raccolta contribuisce quindi a una migliore comprensione del principio IB in particolare per l'apprendimento profondo e, più in generale, delle funzioni di costo teoriche dell'informazione nell'apprendimento automatico. Questo apre la strada verso un'intelligenza artificiale spiegabile.