Available inPortugueseEnglishFrenchGermanHindiRussianSpanish
Como funcionam os LLMs: grandes modelos de linguagem explicados
Entenda como funcionam os grandes modelos de linguagem, de tokens e treinamento a atenção, amostragem, alucinações, RAG e agentes de IA. Para devs e usuários de chatbots, em linguagem simples, sem matemática nem código.
O que é um grande modelo de linguagem (LLM)?
Modelo treinado com muito texto para prever o próximo token
Source
Dado um texto, o LLM dá uma pontuação a cada próximo token possível (um pedacinho de texto) e um deles é escolhido; um chatbot escreve a resposta inteira repetindo essa única previsão. O gráfico mostra isso para “A capital da França é”. Este curso trata dos modelos no estilo GPT por trás dos chatbots; outros modelos de linguagem, como o BERT, são treinados para preencher palavras retiradas do meio de uma frase.