LLMs e IA generativa: tokens, contexto, temperatura, RLHF, RAG × fine-tuning

A ideia que organiza o assunto

Um modelo de linguagem de grande escala não consulta nada. Ele recebe uma sequência de tokens, estima a probabilidade do token seguinte, sorteia um, acrescenta-o à sequência e repete. Não há banco de dados por trás, não há verificação, não há busca: há uma função, treinada uma vez, que devolve a continuação mais plausível do que já está escrito.

Quase tudo o que a banca cobra é consequência direta disso.

O conhecimento está congelado nos pesos. Ele entrou no treinamento e parou ali. Fato posterior ao treino, norma interna do órgão, processo de ontem: nada disso existe para o modelo, a menos que alguém coloque o texto dentro do prompt.

Plausível não é verdadeiro. O objetivo otimizado é a continuação provável, não a afirmação verificada. A alucinação, portanto, não é defeito de implementação que mais dados corrijam — é o comportamento esperado de quem otimiza plausibilidade. É por isso que a defesa contra ela é arquitetural (recuperar o texto e mandar o modelo se apoiar nele), não estatística.

Só há três lugares onde se pode intervir. Esta é a pergunta que resolve a maior parte dos itens de ferramenta:

intervenção	o que muda	quando vale
treinar ou ajustar (fine-tuning)	os pesos	mudar comportamento, estilo, formato, domínio
recuperar e injetar (RAG)	o prompt	trazer fato atual, norma, jurisprudência, com fonte
parametrizar a inferência (temperature, top-p)	nada permanente	regular o quanto a saída se afasta do mais provável

Diante de qualquer item que descreva uma técnica, pergunte o que ela muda. O RAG que exige retreinamento, o ajuste fino que promete rastreabilidade de fonte e a temperatura que melhora a veracidade são os três erros que essa pergunta mata de uma vez.

Um aviso sobre o recorte, porque ele muda como se estuda este tópico: o título do assunto promete tokens, contexto, temperatura, RLHF e RAG × fine-tuning, mas os 19 itens do corpus testam outra coisa. Doze deles perguntam o que é e o que faz a IA generativa. Os números estão na seção O que decide os itens.

Por que se usa (e o que custa)

Ganha-se uma coisa difícil de obter de outro jeito: um único modelo pré-treinado que serve a muitas tarefas sem conjunto rotulado para cada uma. O que antes exigia um classificador treinado por tarefa passa a caber em uma instrução escrita em português. E a interface é linguagem natural, o que dispensa o usuário de conhecer a ferramenta.

Paga-se em quatro moedas, e cada uma delas vira item.

Corte de conhecimento. O que o modelo sabe terminou na data em que o treinamento parou. Manter atualizado por retreino é caro e lento; é justamente esse custo que o RAG existe para evitar.

Ausência de verdade. Não há, dentro do modelo, distinção entre o que ele aprendeu e o que ele está inventando com a mesma fluência. Sem fonte recuperada, não há rastreabilidade: a resposta não sabe de onde veio.

Custo e latência por token. Tudo é contado em tokens — prompt e resposta. Um contexto longo é caro em toda chamada, porque o prompt é reenviado inteiro a cada vez.

Não determinismo. Com temperatura acima de zero, a mesma pergunta produz respostas diferentes. Isso é desejável em redação e indesejável em extração estruturada, e é exatamente o que o parâmetro serve para regular.

Entre os três remédios, a ordem de custo é estável e vale memorizar: prompt é barato e imediato, mas cabe na janela e se repete a cada chamada; RAG é intermediário, mantém o modelo intacto e acrescenta fonte, mas exige índice e depende da qualidade da recuperação; ajuste fino é o mais caro, muda o comportamento de forma durável e volta a envelhecer no dia seguinte.

Como funciona

Tokenização. O texto é quebrado em tokens antes de qualquer coisa. Os tokenizadores modernos são subword: BPE, WordPiece, SentencePiece. Eles aprendem estatisticamente, sobre o corpus, os pedaços que mais se repetem, de modo que uma palavra nunca vista continua representável pela combinação de fragmentos conhecidos — não existe o token desconhecido que trava o vocabulário de palavras inteiras. Duas consequências que a banca cobra: token não é palavra (uma palavra longa vira vários tokens, e um espaço ou sinal de pontuação pode ser um token), e o vocabulário não fica preso a um idioma, porque os fragmentos não vieram de um léxico.

Janela de contexto. É tudo o que o modelo enxerga em uma chamada: instrução, histórico, documentos recuperados e a resposta em construção. Fora dela, nada existe. Daí o fato que mais surpreende quem usa a ferramenta: o modelo não se lembra da conversa anterior — quem reenvia o histórico a cada chamada é a aplicação, e a memória aparente é isso.

Previsão e amostragem. A rede devolve uma pontuação para cada token do vocabulário; a normalização transforma essas pontuações em uma distribuição de probabilidade; e então um token é sorteado. Temperature reescala a distribuição antes do sorteio: baixa concentra a massa nos tokens mais prováveis e aproxima a saída do determinismo; alta achata a curva e amplia a chance de tokens improváveis. Top-k limita o sorteio aos k mais prováveis; top-p (amostragem por núcleo) ao menor conjunto cuja probabilidade acumulada atinge p. Todos são parâmetros de inferência: nenhum toca nos pesos.

Prompt. O conjunto de instruções, contexto e exemplos que condiciona a geração. Sem exemplo é zero-shot; com um, one-shot; com alguns, few-shot. A engenharia de prompt é o ajuste mais barato que existe, porque não persiste nada.

As três etapas do treinamento. Primeiro o pré-treinamento, que é auto-supervisionado sobre texto bruto e não anotado: o rótulo é o próprio token seguinte, o que dispensa anotação humana e é o que permite a escala. Depois o ajuste fino supervisionado, sobre exemplos curados de instrução e resposta. E por fim o alinhamento por feedback humano (RLHF), em que um modelo de recompensa treinado sobre preferências de avaliadores humanos guia o refinamento — é daí que vêm a recusa, o tom e a aderência à instrução. Guarde a ordem: o modelo-base é útil e não é educado; o alinhamento é o que o torna utilizável.

Alucinação. Afirmação fluente, coerente e falsa. Aparece porque o modelo completa a forma da resposta mesmo quando não tem o conteúdo: um número de artigo, um acórdão, uma referência bibliográfica têm formato previsível, e o formato basta para o modelo preenchê-lo.

RAG (retrieval-augmented generation). A pergunta vira consulta a uma base própria — tipicamente busca vetorial sobre trechos previamente indexados; os trechos recuperados são inseridos no prompt; o modelo gera condicionado a eles. As quatro consequências que decidem item: o conhecimento fica atualizável pela base, não pelos pesos; a resposta ganha rastreabilidade, porque o trecho de origem é conhecido; a alucinação factual diminui, porque há texto em que se apoiar; e nada é retreinado, o modelo-base permanece intacto.

Arquitetura. Os LLMs atuais são transformers, e o que importa para este tópico é a consequência de uso: o modelo relaciona posições distantes entre si diretamente, em vez de propagar a informação passo a passo como faz uma rede recorrente, e é isso que torna viável trabalhar com documentos longos. A mecânica da atenção pertence à nota de redes neurais.

Generativo × discriminativo. O discriminativo aprende a condicional p(y|x) — a fronteira que separa as classes — e só sabe classificar. O generativo aprende a conjunta p(x,y), isto é, modela como os próprios dados se distribuem, e por isso pode amostrar dessa distribuição e produzir exemplos novos. A pergunta que separa os dois em qualquer item: o modelo consegue produzir uma amostra nova?

Outras famílias generativas. Nem toda IA generativa é LLM. Para texto, o mecanismo é autorregressivo: um token de cada vez, condicionado aos anteriores. Para imagem, o mecanismo dominante é a difusão, e a direção é o que cai: o processo direto, usado no treinamento, adiciona ruído gaussiano passo a passo até destruir a imagem; a geração percorre o caminho inverso, partindo de ruído puro e removendo ruído até a imagem emergir. Também existem as redes adversárias generativas (gerador contra discriminador) e os autocodificadores variacionais. Todas são aprendizado profundo.

Modelo de base (foundation model). O pré-treinado genérico, em larga escala, feito para servir depois a muitas tarefas por prompt ou por ajuste fino. É a razão pela qual ninguém treina do zero para cada aplicação.

Vocabulário de API de assistentes. Aparece em prova com nomes muito próximos: o assistente é a entidade configurável (modelo, instruções, ferramentas); a thread é a sessão de conversa, que só acumula mensagens; a execução é o assistente aplicado a uma thread; a ferramenta é a função externa que o modelo pode acionar.

O que decide os itens

Antes das distinções, a composição medida do tópico. Ela é contraintuitiva e muda a prioridade de estudo. Sobre os 19 itens:

o que o item testa	itens
o que é e o que faz a IA generativa (definição, capacidade, modalidade)	12
RAG	2
tokenização subword	1
temperature	1
vocabulário de API de assistentes	1
ferramenta (Hugging Face, PyTorch × TensorFlow)	1
papéis da LGPD, sem conteúdo de LLM	1
janela de contexto	0
RLHF e alinhamento	0
definição de alucinação	0
qualquer número (limite, versão, faixa de parâmetro)	0

Três leituras práticas. Primeira: geração de imagem rende mais itens (3) do que tokens e temperatura somados (2) — difusão e texto-para-imagem não são periferia deste tópico, são o centro dele. Segunda: contexto e RLHF estão no título do assunto e não decidem item nenhum; a única ocorrência da palavra contexto no corpus é o item de LGPD, usando-a no sentido comum. Terceira: não há seção de números nesta nota porque nenhum item do tópico se decide por um.

Onde a mudança acontece — a tabela que resolve mais itens que qualquer outra:

técnica	muda os pesos?	conhecimento novo?	rastreia a fonte?
engenharia de prompt	não	só o que couber no prompt	não
RAG	não	sim, pela base indexada	sim
ajuste fino (fine-tuning)	sim	comportamento e formato, não fato atual	não
temperature, top-p, top-k	não	não	não

Parâmetros de inferência:

parâmetro	faz	não faz
temperature	reescala a distribuição antes do sorteio; baixa = determinística, alta = diversa	não muda conhecimento, pesos nem veracidade
top-k	restringe o sorteio aos k tokens mais prováveis	não é limite de tamanho da resposta
top-p	restringe ao menor conjunto que acumula probabilidade p	não é sinônimo de temperature
janela de contexto	limita o que o modelo enxerga na chamada	não é memória entre chamadas

Generativo × discriminativo:

	discriminativo	generativo
aprende	p(y | x), a fronteira entre classes	p(x,y), a distribuição conjunta
sabe	classificar, prever rótulo	classificar e amostrar
produz exemplo novo	não	sim
exemplos	regressão logística, SVM, classificadores	LLM, difusão, GAN, autocodificador variacional

Difusão — a direção é tudo:

	processo direto	processo reverso
quando ocorre	treinamento	geração
o que faz com o ruído	adiciona gaussiano, passo a passo	remove, passo a passo
ponto de partida	imagem real	ruído puro (nunca tela em branco)
ponto de chegada	ruído puro	imagem

Vocabulário de API de assistentes — a troca de nome é o erro típico:

objeto	é	não é
assistente	configurado por modelo, instruções e ferramentas	não guarda a conversa
thread	a sessão que acumula as mensagens	não é configurada por modelo nem por ferramentas
execução	o assistente aplicado a uma thread	não é o histórico
ferramenta	função externa que o modelo pode acionar	não é parte dos pesos

Papéis da LGPD — um item do corpus é decidido só por isto:

papel	verbo
controlador	decide sobre o tratamento, inclusive as finalidades
operador	executa o tratamento em nome do controlador
encarregado	comunica: canal entre controlador, titulares e ANPD

Paradigmas de PLN, que a banca empresta um ao outro: regra escrita à mão, léxico e corpus anotado manualmente são vocabulário do PLN simbólico; texto bruto não anotado, previsão do próximo token e pesos são vocabulário de LLM. Nenhum LLM é treinado sobre regras sintáticas explícitas.

Como a CEBRASPE derruba você aqui

Medido sobre os 19 itens do tópico, dos quais 14 são Certos e 5 são Errados. Cinco itens errados é base pequena: os padrões abaixo aparecem como contagem, não como porcentagem, e o primeiro deles vale mais que todos os outros somados.

A capacidade afirmada quase nunca é o erro. Este é o achado que mais muda o resultado na prova. Dez itens do tópico têm como núcleo um verbo de capacidade — regula, permite, é capaz de, pode, ajuda — e nove deles são Certos; o único Errado desse grupo não erra sobre a capacidade, erra sobre o nome do objeto. São Certos: “O parâmetro temperature em LLM regula a amplitude da diversidade e criatividade nas previsões”; “A inteligência artificial generativa é capaz de criar novos conteúdos e áudios”; “A geração de imagens por meio de descrição de textos, sem a necessidade de inserir outras figuras ou ilustrações, é um dos recursos da inteligência artificial generativa”; “O uso de tokenizadores subword permite que LLMs aprendam palavras fora do vocabulário de treinamento”. A defesa é contraintuitiva e é a principal deste tópico: uma frase que soa a folheto de propaganda não é, por isso, falsa. Não rejeite o item por entusiasmo; procure o erro em outro lugar, e se não houver outro lugar, marque Certo.

Negativa ou exclusividade: dois no corpus, os dois Errados. As únicas ocorrências de não e de exclusivamente em posição decisiva estão nos dois itens errados mais longos: “o aprendizado profundo não conseguiu melhorar o desempenho dos modelos generativos, por isso” — quando é justamente o aprendizado profundo que tornou tratáveis essas distribuições, e os transformadores apresentados como saída são aprendizado profundo; e “treinados exclusivamente com base em regras sintáticas explícitas extraídas de dados linguísticos anotados manualmente” — que descreve o PLN simbólico sob o nome do transformer. A defesa é localizar a palavra e testá-la antes de ler o resto: se o item nega o sucesso de uma técnica e propõe como saída algo que é instância dessa mesma técnica, ele já caiu.

Descrição certa, nome errado — dois dos cinco. “Uma thread representa uma entidade” configurável por modelo, instruções e ferramentas: isso é o assistente; a thread só acumula mensagens. “É atribuição do encarregado de dados tomar decisões referentes ao tratamento de dados pessoais”: quem decide é o controlador; o encarregado é canal de comunicação. Em ambos, a frase inteira está correta menos o substantivo. Leia o nome do objeto por último e confira se a descrição é dele.

A direção do processo. “Aplicação sequencial de ruído gaussiano em uma imagem inicial em branco, consoante o mesmo procedimento do treinamento”: em difusão, adicionar ruído é o treinamento; gerar é remover ruído, partindo de ruído puro. Um item só no corpus, mas a inversão de direção é a distorção mais reaproveitada da banca em todo o edital de TI, e aqui ela tem dois lugares naturais para morar: a difusão e o par RAG × ajuste fino.

O que o corpus não mostra. Nenhum item se decide por janela de contexto, por RLHF, pela definição de alucinação ou por qualquer número. A alucinação é citada uma vez, dentro de um item de RAG, e como premissa correta — não como conceito avaliado. E o par RAG × ajuste fino, que o título do assunto destaca, aparece só pelo lado certo: nos dois itens de RAG, a banca descreveu a técnica corretamente. Continue estudando a distinção — ela é a mais provável de ser cobrada na próxima prova, e não está medida aqui apenas porque ainda não caiu errada.

Erros clássicos

Achar que o modelo busca informação. Ele não abre a internet, não consulta banco e não lê o processo. Se o texto não entrou na janela de contexto, não existe. Toda capacidade de “saber o que aconteceu hoje” vem de uma camada externa que recuperou o texto e o colocou no prompt.

Achar que o RAG retreina o modelo. É o erro inverso do mais comum e vale igual: o RAG não altera um único peso. Ele muda o prompt. Atualizar conhecimento em um sistema RAG é reindexar documentos, não treinar.

Usar ajuste fino para atualizar fatos. O ajuste fino é bom para comportamento, estilo, formato de saída e vocabulário de domínio. Para fato atual, ele é caro, não dá rastreabilidade e envelhece de novo. O que se ajusta é como o modelo responde, não o que ele sabe hoje.

Tratar temperatura como controle de precisão. Temperatura zero deixa a saída determinística, não verdadeira: o modelo repete com firmeza a mesma alucinação. Determinismo e veracidade são eixos distintos.

Confundir token com palavra. O token é a unidade do vocabulário aprendido, e pode ser um fragmento, uma palavra inteira, um espaço ou um sinal. É por isso que o mesmo texto custa números de tokens diferentes em modelos diferentes.

Supor memória entre chamadas. A continuidade da conversa é a aplicação reenviando o histórico. Sem reenvio, cada chamada começa do zero.

Achar que alucinação é bug corrigível por mais dados. É consequência do objetivo — prever a continuação provável. Mais dados reduzem a frequência; o que muda a natureza do problema é ancorar a resposta em texto recuperado.

Dar capacidade de geração a um modelo discriminativo. Quem aprendeu só a fronteira entre classes não tem de onde amostrar. Geração exige a conjunta.

Inverter a difusão. Treinar adiciona ruído; gerar remove. E a geração começa em ruído, nunca em uma imagem em branco.

Tratar transformer como alternativa ao aprendizado profundo. Transformer, GAN, difusão e autocodificador variacional são todos aprendizado profundo. Item que oponha um ao outro construiu uma causalidade que não existe.