6 anos de progresso da IA: ModernBERT finalmente substitui BERT

Após seis anos, finalmente temos um substituto digno para o BERT! Conheça o ModernBERT, o modelo de última geração, somente com codificador, que supera seus antecessores com contexto mais amplo, desempenho downstream aprimorado e velocidades extremamente rápidas. Projetado como uma atualização imediata para modelos do tipo BERT, o ModernBERT é uma ótima opção para aplicações de recuperação, classificação e programação. 00:00 - Codificadores e Decodificadores 00:46 - RAG 02:35 - ModernBERT 03:13 - Dados de Treinamento 04:12 - Duração do Contexto 05:11 - Mecanismo de Atenção 06:43 - Exemplo de ModernBERT