Pero, ¿qué es un GPT? Introducción visual a los Transformers | Capítulo 5, Aprendizaje profundo

Descripción:

Desempaquetando cómo los grandes modelos del lenguaje funcionan detrás de las cámaras Visión anticipada del próximo capítulo para los patreons: Agradecimientos especiales a los que apoyan: Para contribuir con la edición de subtítulos, visita: Otros recursos recomendados sobre el tema. La introducción de Richard Turner es uno de los mejores puntos de partida: Codificar un GPT con Andrej Karpathy Introducción a la autoatención por John Hewitt Historia de los modelos del lenguaje por Brit Cruise: Artículo sobre ejemplos como el del "hombre-mujer" expuesto aquí: ------------------ Marcas de tiempo 0:00 - Predice, muestrea, repite 3:03 - Dentro de un transformer 6:36 - Estructura del capítulo 7:20 - La premisa del Aprendizaje Profundo 12:27 - Embeddings de palabras 18:25 - Embeddings más allá de las palabras 20:22 - Desembedding 22:22 - Softmax con temperatura 26:03 - ¿Qué viene ahora? ------------------ Estas animaciones se hicieron en su mayoría usando una librería de Python personalizada: manim. Puedes ver el FAQ y comentarios aquí: El código de vídeos específicos está disponible aquí: Música compuesta por Vincent Rubinetti. ------------------ 3blue1brown es un canal sobre matemática animada, en todos los sentidos de la palabra animada. Si estás leyendo el final de la descripción de un vídeo, supongo que estás más interesado que el espectador medio en las lecciones del canal. Significaría mucho para mí si decidieras estar al tanto de nuevas lecciones, ya sea suscribiéndote en Youtube o siguiéndome en cualquier plataforma de las de abajo que más visites. Lista de mails: Twitter: Instagram: Reddit: Facebook: Patreon: Website: