Orchestrazione dei dati negli acceleratori di apprendimento profondo

Recensioni dei lettori

Attualmente non ci sono recensioni dei lettori. La valutazione si basa su 3 voti.

Titolo originale:

Data Orchestration in Deep Learning Accelerators

Contenuto del libro:

Questa lezione di sintesi si concentra sulle tecniche per un'efficiente orchestrazione dei dati all'interno degli acceleratori DNN. La fine della Legge di Moore, unita alla crescente crescita del deep learning e di altre applicazioni di IA, ha portato alla nascita di acceleratori di reti neurali profonde (DNN) personalizzati per un'inferenza efficiente dal punto di vista energetico sui dispositivi edge.

Le moderne DNN hanno milioni di iperparametri e comportano miliardi di calcoli; ciò richiede un ampio movimento di dati dalla memoria ai motori di elaborazione su chip. È risaputo che il costo del movimento dei dati oggi supera il costo della computazione vera e propria; pertanto, gli acceleratori DNN richiedono un'attenta orchestrazione dei dati tra gli elementi di calcolo, rete e memoria on-chip per ridurre al minimo il numero di accessi alla DRAM esterna. Il libro tratta i flussi di dati DNN, il riutilizzo dei dati, le gerarchie di buffer, le reti su chip e l'esplorazione automatizzata dello spazio di progettazione.

Si conclude con le sfide dell'orchestrazione dei dati con le DNN compresse e rade e le tendenze future. Il pubblico di riferimento è costituito da studenti, ingegneri e ricercatori interessati a progettare acceleratori ad alte prestazioni e a basso consumo energetico per l'inferenza DNN.