Calcolo parallelo e ad alte prestazioni

Recensioni dei lettori

Le recensioni sottolineano che il libro è una risorsa completa e ben organizzata per la comprensione del calcolo ad alte prestazioni (HPC), con spiegazioni chiare di argomenti essenziali come il calcolo parallelo su CPU e GPU. Sebbene molti lettori lo trovino una guida preziosa, ci sono alcune critiche riguardanti la difficoltà di eseguire gli esempi forniti su cluster HPC tipici.

⬤ Copertura completa e ben organizzata degli argomenti di calcolo ad alte prestazioni.
⬤ Spiegazioni chiare e comprensibili, che la rendono un'utile guida didattica.
⬤ Dettagli e tecniche pratiche per ottimizzare il codice e migliorare il parallelismo.
⬤ Copre sia la parallelizzazione della CPU (OpenMP, MPI) che quella della GPU (OpenACC, OpenCL, CUDA).
⬤ Riferimento prezioso per i tecnologi che vogliono migliorare la loro comprensione del calcolo parallelo.

⬤ Difficoltà di esecuzione degli esempi su cluster HPC, in particolare per la mancanza di indicazioni sull'uso di Singularity al posto di Docker.
⬤ Alcuni lettori potrebbero trovare difficili i dettagli tecnici se non hanno familiarità con il C/C++ e l'architettura dei computer.

(basato su 7 recensioni dei lettori)

Titolo originale:

Parallel and High Performance Computing

Contenuto del libro:

Parallel and High Performance Computing offre tecniche che garantiscono l'efficacia del vostro codice.

Sintesi

Calcoli complessi, come l'addestramento di modelli di deep learning o l'esecuzione di simulazioni su larga scala, possono richiedere tempi estremamente lunghi. Una programmazione parallela efficiente può far risparmiare ore, o addirittura giorni, di tempo di calcolo. Parallel and High Performance Computing mostra come ottenere tempi di esecuzione più rapidi, una maggiore scalabilità e una maggiore efficienza energetica per i programmi padroneggiando le tecniche parallele per processori multicore e hardware GPU.

Informazioni sulla tecnologia

Scrivete programmi veloci, potenti ed efficienti dal punto di vista energetico, in grado di gestire enormi volumi di dati. Grazie alla programmazione in parallelo, il codice distribuisce le attività di elaborazione dei dati su più CPU per ottenere prestazioni radicalmente migliori. Con un po' di aiuto, è possibile creare software che massimizzano sia la velocità che l'efficienza.

Informazioni sul libro

Parallel and High Performance Computing offre tecniche che garantiscono l'efficacia del vostro codice. Imparerete a valutare le architetture hardware e a lavorare con strumenti standard del settore come OpenMP e MPI. Imparerete a conoscere le strutture dati e gli algoritmi più adatti al calcolo ad alte prestazioni e apprenderete le tecniche che consentono di risparmiare energia sui dispositivi portatili. Eseguirete anche una simulazione massiccia di tsunami su un banco di GPU.

Cosa c'è dentro

Pianificazione di un nuovo progetto parallelo.

Comprendere le differenze nell'architettura di CPU e GPU.

Affrontare i kernel e i loop con prestazioni insufficienti.

Gestire le applicazioni con la schedulazione batch.

Informazioni sul lettore

Per programmatori esperti che conoscono un linguaggio di calcolo ad alte prestazioni come C, C++ o Fortran.

Informazioni sull'autore

Robert Robey lavora al Los Alamos National Laboratory ed è attivo nel campo del calcolo parallelo da oltre 30 anni. Yuliana Zamora è attualmente dottoranda e borsista Siebel presso l'Università di Chicago e ha tenuto lezioni sulla programmazione dell'hardware moderno in numerose conferenze nazionali.

Indice dei contenuti

PARTE 1 INTRODUZIONE AL CALCOLO PARALLELO.

1 Perché il calcolo parallelo?

2 Pianificazione della parallelizzazione.

3 Limiti di prestazione e profiling.

4 Progettazione dei dati e modelli di prestazioni.

5 Algoritmi e modelli paralleli.

PARTE 2 CPU: IL CAVALLO DI BATTAGLIA PARALLELO.

6 Vettorizzazione: FLOP gratis.

7 OpenMP che funziona.

8 MPI: La spina dorsale parallela.

PARTE 3 GPU: COSTRUITE PER ACCELERARE.

9 Architetture e concetti delle GPU.

10 Modello di programmazione delle GPU.

11 Programmazione GPU basata su direttive.

12 Linguaggi per GPU: Le basi della programmazione.

13 Profilazione e strumenti per le GPU.

PARTE 4 ECOSISTEMI DI CALCOLO AD ALTE PRESTAZIONI.

14 Affinità: Tregua con il kernel.

15 Schedulatori batch: Portare ordine nel caos.

16 Operazioni sui file per un mondo parallelo.

17 Strumenti e risorse per un codice migliore.