Elaborazione del linguaggio naturale con Transformers
Comprendi come i modelli transformer hanno rivoluzionato il NLP e impara a implementarli. Esplora meccanismi di attenzione, BERT, GPT, T5, fine-tuning, tokenizzazione e creazione di applicazioni NLP personalizzate.
I transformers sono diventati la base del NLP moderno. Impara come funzionano e come usarli.
Architettura Transformer
I modelli transformer sono costruiti sul meccanismo di attenzione. L'auto-attenzione consente al modello di apprendere relazioni tra diverse parole.
BERT e GPT
BERT offre codifica bidirezionale. GPT usa modellazione del linguaggio autoregressiva. Entrambi sono potenti per diverse attività NLP.
Fine-tuning e applicazione
Affina modelli pre-addestrati con la libreria Hugging Face. Usa il transfer learning per applicazioni NLP personalizzate.