Introduzione alla compressione neurale dei dati

Titolo originale:

An Introduction to Neural Data Compression

Contenuto del libro:

L'obiettivo della compressione dei dati è ridurre il numero di bit necessari per rappresentare informazioni utili. La compressione neurale, o appresa, è l'applicazione delle reti neurali e delle relative tecniche di apprendimento automatico a questo compito.

Questa monografia vuole essere un punto di ingresso per i ricercatori di apprendimento automatico interessati alla compressione, passando in rassegna i prerequisiti e i metodi rappresentativi della compressione neurale. La compressione neurale è l'applicazione delle reti neurali e di altri metodi di apprendimento automatico alla compressione dei dati. I recenti progressi nell'apprendimento automatico statistico hanno aperto nuove possibilità per la compressione dei dati, consentendo di apprendere algoritmi di compressione end-to-end dai dati utilizzando potenti modelli generativi come flussi normalizzanti, autoencoder variazionali, modelli probabilistici di diffusione e reti generative avversarie.

Questa monografia introduce questo campo di ricerca a un pubblico più ampio di apprendimento automatico, passando in rassegna il background necessario nella teoria dell'informazione (ad esempio, la codifica dell'entropia, la teoria della distorsione del tasso) e nella visione computerizzata (ad esempio, la valutazione della qualità dell'immagine, le metriche percettive), e fornendo una guida curata attraverso le idee e i metodi essenziali presenti nella letteratura fino ad oggi. Invece di passare in rassegna la vasta letteratura, vengono trattati i concetti e i metodi essenziali della compressione neurale, pensando a un lettore esperto di apprendimento automatico ma non necessariamente di compressione dei dati.