Mais c'est quoi, un GPT ? Introduction visuelle aux Transformers | Deep learning, chapitre 5

Décortiquer le fonctionnement des grands modèles de langage, sous le capot Horodatage 0:00 - Prédire, échantillonner, répéter 3:03 - L'intérieur d'un transformateur 6:36 - Présentation du chapitre 7:20 - Les prémisses de l'apprentissage profond 12:27 - Intégrations de mots 18:25 - Les encastrements au-delà des mots 20:22 - Le désencastrement 22:22 - Softmax avec température 26:03 - Prochaine étape