Trasformatori per l'elaborazione del linguaggio naturale: Costruire architetture innovative di reti neurali profonde per l'NLP con Python, PyTorch, TensorFlow, BERT e RoBER

Recensioni dei lettori

Il libro è una guida completa ai trasformatori nell'elaborazione del linguaggio naturale (NLP), apprezzata per le spiegazioni dettagliate, gli esempi pratici e i contenuti aggiornati su vari modelli come BERT e GPT. Sebbene sia una risorsa eccellente per coloro che hanno una conoscenza di base del deep learning e dell'NLP, può risultare insufficiente per i principianti assoluti a causa delle conoscenze pregresse che presuppone.

⬤ Spiegazioni dettagliate dei trasformatori e di modelli come BERT e GPT.
⬤ Forte approccio pratico con esempi di codice ed esercitazioni pratiche.
⬤ Copertura completa delle applicazioni e dei compiti di NLP.
⬤ Ben strutturato per studenti intermedi e professionisti.
⬤ Contenuti aggiornati sui metodi NLP all'avanguardia.

⬤ Presuppone una notevole conoscenza preliminare della PNL, il che lo rende potenzialmente inaccessibile ai principianti.
⬤ Alcuni esempi di codice non funzionano o richiedono modifiche.
⬤ Manca una forte introduzione teorica ai trasformatori, il che può rendere poco chiari alcuni concetti.
⬤ Alcuni lettori l'hanno trovato una raccolta di materiali esistenti piuttosto che nuovi approfondimenti.
⬤ Diverse recensioni hanno segnalato errori nelle formule e bug nel codice.

(basato su 32 recensioni dei lettori)

Titolo originale:

Transformers for Natural Language Processing: Build innovative deep neural network architectures for NLP with Python, PyTorch, TensorFlow, BERT, RoBER

Contenuto del libro:

Diventa un esperto di comprensione linguistica dell'intelligenza artificiale padroneggiando il salto quantico dei modelli di rete neurale Transformer.

Caratteristiche principali

⬤ Costruisci e implementa modelli linguistici all'avanguardia, come l'originale Transformer, BERT, T5 e GPT-2, utilizzando concetti che superano i classici modelli di deep learning.

⬤ Eseguire applicazioni pratiche in Python utilizzando i Google Colaboratory Notebooks senza dover installare nulla su una macchina locale.

⬤  Imparare suggerimenti per l'addestramento e metodi alternativi di comprensione del linguaggio per illustrare importanti concetti chiave.

Descrizione del libro

L'architettura transformer si è dimostrata rivoluzionaria nel superare i classici modelli RNN e CNN oggi in uso. Con un approccio "apply-as-you-learn", Transformers for Natural Language Processing analizza in modo molto dettagliato il deep learning per le traduzioni automatiche, il speech-to-text, il text-to-speech, la modellazione del linguaggio, la risposta alle domande e molti altri domini NLP con i trasformatori.

Il libro vi conduce attraverso l'NLP con Python ed esamina vari modelli e set di dati eminenti all'interno dell'architettura dei trasformatori creata da pionieri come Google, Facebook, Microsoft, OpenAI e Hugging Face.

Il libro si articola in tre fasi. La prima fase introduce alle architetture dei trasformatori, a partire dal trasformatore originale, per poi passare ai modelli RoBERTa, BERT e DistilBERT. Scoprirete i metodi di addestramento per trasformatori più piccoli, che in alcuni casi possono superare il GPT-3. Nella seconda fase, applicherete i trasformatori per la comprensione del linguaggio naturale (NLU) e la generazione del linguaggio naturale (NLG). Infine, la terza fase vi aiuterà a comprendere tecniche avanzate di comprensione del linguaggio, come l'ottimizzazione dei dataset dei social network e l'identificazione delle fake news.

Alla fine di questo libro di PNL, comprenderete i trasformatori da una prospettiva di scienza cognitiva e sarete abili nell'applicare modelli trasformatori preaddestrati da giganti tecnologici a vari set di dati.

Cosa imparerete

⬤ Utilizzare i più recenti modelli di trasformatori pre-addestrati.

⬤ Capire il funzionamento del Transformer originale, del GPT-2, del BERT, del T5 e di altri modelli di trasformatori.

⬤ Creare programmi Python di comprensione del linguaggio utilizzando concetti che superano i classici modelli di deep learning.

⬤ Utilizzare una serie di piattaforme NLP, tra cui Hugging Face, Trax e AllenNLP.

⬤ Applicare programmi Python, TensorFlow e Keras all'analisi del sentimento, alla sintesi del testo, al riconoscimento vocale, alle traduzioni automatiche e altro ancora.

⬤ Misurare la produttività dei principali trasformatori per definirne la portata, il potenziale e i limiti, in produzione.

A chi è rivolto questo libro

Poiché il libro non insegna la programmazione di base, è necessario avere familiarità con le reti neurali, Python, PyTorch e TensorFlow per imparare la loro implementazione con i trasformatori.

I lettori che possono trarre il massimo beneficio da questo libro sono i professionisti del deep learning e dell'NLP, gli analisti di dati e i data scientist che desiderano un'introduzione alla comprensione del linguaggio dell'IA per elaborare le crescenti quantità di funzioni guidate dal linguaggio.