L'interazione tra informazione e misure di stima

Titolo originale:

The Interplay Between Information and Estimation Measures

Contenuto del libro:

Se si pensa alla teoria dell'informazione e alla teoria della stima come a due linguaggi scientifici, i loro vocabolari chiave sono rispettivamente le misure di informazione e le misure di stima. Le misure di informazione fondamentali sono l'entropia, la mutua informazione e l'entropia relativa.

Tra le misure di stima più importanti vi sono l'errore quadratico medio (MSE) e l'informazione di Fisher. Queste misure, che rivestono un ruolo fondamentale nella teoria dell'informazione e nella teoria della stima, sono simili alla massa, alla forza e alla velocità nella meccanica classica, o all'energia, all'entropia e alla temperatura nella termodinamica. The Interplay Between Information and Estimation Measures (L'interazione tra le misure di informazione e di stima) è un manuale di formule note che si riferiscono direttamente alle misure di informazione e di stima.

Fornisce l'intuizione e traccia le connessioni tra queste formule, evidenzia alcune importanti applicazioni e motiva ulteriori esplorazioni. L'attenzione principale è rivolta a tali formule nel contesto del modello di rumore gaussiano additivo, con una trattazione minore di altri modelli, come quello del processo puntuale di Poisson.

Sono inoltre inclusi una serie di nuovi risultati che vengono pubblicati qui per la prima volta. Vengono fornite le prove di alcuni risultati fondamentali, mentre vengono omesse molte prove più tecniche già disponibili in letteratura. Nel 2004, gli autori di questa monografia hanno trovato una relazione differenziale generale comunemente chiamata formula I-MMSE.

In questo libro viene sviluppata una nuova prova completa per la formula I-MMSE, che include alcuni dettagli tecnici omessi negli articoli originali relativi a questa formula. The Interplay Between Information and Estimation Measures si conclude evidenziando l'impatto delle relazioni informazione-stima su una serie di problemi teorici dell'informazione di interesse attuale e fornendo ulteriori prospettive sulle loro applicazioni.