Específicos · Estatística e Econometria
Regressão simples e múltipla por MQO: coeficientes, R² × R² ajustado, teste t × teste F
O R² nunca cai quando se acrescenta um regressor — por isso existe o R² ajustado, que pode cair. O teste t julga um coeficiente; o F, uma restrição conjunta.
Alta18 itens no tópico
A ideia que organiza o assunto
O MQO não descobre nada sobre o mundo: ele resolve um problema de minimização. Dada uma nuvem de pontos, escolhe os coeficientes que tornam mínima a soma dos quadrados dos resíduos. Tudo o que a prova cobra neste tópico — o valor do coeficiente, o R², o teste t, o teste F — são leituras diferentes da mesma decomposição que essa minimização produz:
SQT = SQE + SQR — a variação total do Y observado se parte na variação explicada pela regressão e na variação que sobra nos resíduos.
Guardada essa identidade, o resto é derivável. O R² é a fração explicada, SQE/SQT. O teste F de significância global compara o tamanho da parte explicada com o da parte residual, corrigindo pelos graus de liberdade. O teste t faz a mesma pergunta para um coeficiente só. E o coeficiente é a resposta à pergunta “quanto muda Y quando este X muda em uma unidade, mantidos constantes os demais”.
Daí decorre o fato que mais decide item neste tópico. Acrescentar um regressor nunca aumenta a SQR: no pior caso o MQO atribui coeficiente zero à variável nova e reproduz o ajuste anterior. Logo o R² nunca cai quando se acrescenta um regressor, ainda que a variável seja irrelevante. Um indicador que só sobe não serve para escolher modelo — e é exatamente esse defeito que o R² ajustado existe para corrigir.
Duas fronteiras, porque este tópico fica entre três outros. O que é média, variância, correlação, distribuição t e nível de significância pertence ao básico de estatística; aqui interessa a variância do estimador e a inferência sobre a regressão. Por que o MQO merece confiança — as hipóteses de Gauss-Markov, o teorema BLUE, o viés de variável omitida e a endogeneidade — é o tópico seguinte. E o que acontece quando essas hipóteses falham — heterocedasticidade, autocorrelação, multicolinearidade — é o tópico depois dele. Este aqui responde apenas: o que o MQO faz e como se lê a sua saída.
Por que se usa (e o que custa)
Ganha-se três coisas. O MQO tem solução fechada: não há algoritmo iterativo, convergência ou ponto de partida a discutir. Sob as hipóteses clássicas é BLUE, isto é, o melhor da sua classe. E o coeficiente da regressão múltipla tem leitura ceteris paribus direta, o que a correlação simples não tem.
Paga-se em fragilidade. Como a função-objetivo eleva os desvios ao quadrado, uma única observação distante domina a estimativa. Exige-se linearidade nos parâmetros. E todo o aparato de inferência — erro-padrão, t, F, intervalo de confiança — vale sob hipóteses que os dados podem não satisfazer: a estimativa continua saindo, mas os testes deixam de significar o que parecem significar.
Como funciona
A reta simples. O coeficiente angular é a covariância entre X e Y dividida pela variância de X, e o intercepto é o que faz a reta passar pelo ponto das médias. Duas consequências que caem: os resíduos do MQO somam zero e são não correlacionados com cada regressor — não porque a natureza seja gentil, mas porque são exatamente essas as condições de primeira ordem da minimização.
A regressão múltipla não é uma soma de regressões simples. O coeficiente de X₁ na múltipla é o efeito de X₁ líquido da parte que X₁ compartilha com os demais regressores: estima-se removendo dos dois lados o que os outros X explicam. Por isso o coeficiente da múltipla difere do da simples sempre que os regressores forem correlacionados — e é essa diferença, exatamente, que o tópico seguinte transforma em viés de variável omitida.
Linear nos parâmetros, não nas variáveis. Log, quadrado, inverso e interação são todos estimáveis por MQO; o que o método não admite é parâmetro entrando de forma não linear. Nos modelos com log a leitura do coeficiente muda: em log-log ele é elasticidade; em log-nível, multiplicado por 100, é a variação percentual aproximada de Y por unidade de X.
R² e R² ajustado. O R² varia de 0 a 1 e mede ajuste, não causalidade nem correção de especificação. O R² ajustado penaliza cada regressor acrescentado pelos graus de liberdade que ele consome: sobe apenas se a variável nova contribuir mais do que o preço que cobra — o que, na prática, equivale a entrar com estatística t maior que 1 em valor absoluto. Por isso ele pode cair, e pode até ficar negativo, o que o R² nunca faz.
O teste t. Divide o coeficiente estimado pelo seu erro-padrão e compara com a distribuição t de Student com n − k − 1 graus de liberdade, em que k é o número de regressores fora o intercepto. A hipótese nula é a de que aquele coeficiente é zero, e nada mais: rejeitar significa que a variável é significativa, não que o modelo esteja correto nem que o efeito seja grande.
O teste F. Julga uma restrição conjunta. No caso mais cobrado, o da significância global, a nula é a de que todos os coeficientes de inclinação são simultaneamente nulos; no caso geral, compara a soma de quadrados dos resíduos do modelo restrito com a do irrestrito. Para uma única restrição, F é exatamente o quadrado do t correspondente — e é só nesse caso que os dois testes são obrigados a concordar.
Quando t e F discordam. Com dois ou mais regressores, é perfeitamente possível que o F rejeite a nula conjunta enquanto nenhum t individual rejeite a sua. Isso não é erro de cálculo: é a assinatura de multicolinearidade, em que o conjunto explica bem e nenhuma variável isolada consegue ser identificada como responsável. O diagnóstico e o tratamento pertencem ao tópico de multicolinearidade; aqui basta saber que a discordância é possível e o que ela significa.
O p-valor. É a probabilidade de observar uma estatística tão extrema quanto a obtida se a nula fosse verdadeira. Compara-se com o nível de significância, nunca com o valor do coeficiente: p-valor pequeno rejeita a nula, logo indica significância.
O que decide os itens
| par | o que decide |
|---|---|
| R² × R² ajustado | o R² nunca cai com um regressor a mais; o ajustado pode cair e pode ser negativo |
| teste t × teste F | t julga um coeficiente; F julga uma restrição conjunta de vários |
| F global × F de restrições | o global testa todos os inclinações = 0; o geral compara modelo restrito e irrestrito |
| t e F concordam × discordam | só são equivalentes com uma restrição (F = t²); com várias, podem divergir |
| coeficiente da simples × da múltipla | a múltipla dá o efeito líquido dos demais regressores |
| significância × magnitude | o t responde “é diferente de zero”; não responde “é grande” |
| p-valor × nível de significância | rejeita-se quando o p-valor é menor que o nível adotado |
| R² alto × modelo correto | ajuste não atesta especificação, causalidade nem validade dos testes |
| linear nos parâmetros × nas variáveis | log, quadrado e interação continuam sendo MQO |
| SQE × SQR | explicada × residual; o R² é SQE/SQT, e é 1 − SQR/SQT |
Leitura de saída de regressão. Item que exibe uma tabela com estimativas e coluna de p-valores quase sempre se resolve em três movimentos: confira o sinal do coeficiente, confira se cada p-valor está abaixo do nível usual, e confira se a interpretação proposta é ceteris paribus. O R² ajustado, quando aparece na tabela, lê-se como o percentual da variação de Y explicado conjuntamente pelos regressores, já descontado o número deles.
Números que caem
| quantidade | valor |
|---|---|
| graus de liberdade do teste t | n − k − 1 (k = regressores, fora o intercepto) |
| graus de liberdade do teste F | k no numerador, n − k − 1 no denominador |
| intervalo do R² | de 0 a 1 |
| intervalo do R² ajustado | pode ser negativo; nunca excede o R² |
| relação entre t e F | F = t² para uma única restrição |
| níveis de significância usuais | 0,10, 0,05 e 0,01 |
| t crítico aproximado, 5%, amostra grande | 1,96 (≈ 2) |
| entrada que aumenta o R² ajustado | regressor com |t| > 1 |
Como a CEBRASPE derruba você aqui
Esta seção ainda não foi medida: os itens deste tópico estão sendo explicados. Quando estiverem, as frequências reais aparecem aqui e o texto abaixo é reescrito contra elas.
Duas advertências sobre a contagem, antes do julgamento. A primeira é que o número de itens que chegam a este tópico é piso, não medida: a banca nomeia o assunto no comando do grupo, e um item curto carrega poucas palavras próprias para classificar. A segunda é específica desta disciplina: boa parte do que o acervo guarda sobre regressão não sobreviveu à extração, porque a notação matemática desses cadernos veio em fonte simbólica e chegou ilegível. O que se lê abaixo é julgamento sobre o formato da cobrança, não estatística.
O formato dominante é o item de propriedade: uma frase curta afirmando o que acontece com o R², com o estimador ou com a estatística de teste em determinada situação. Nesses itens não há retórica para inspecionar — não adianta procurar sempre, nunca ou apenas, porque a afirmação é sobre um teorema, e teorema é absoluto por natureza. O que a banca distorce é o conteúdo: uma direção, um sinal, o objeto a que a propriedade se aplica.
Daí as três manobras que se repetem. Inverter a direção de um efeito — dizer que o R² cai quando se acrescentam regressores é a mais limpa delas, e está errada pela razão mais simples possível: acrescentar variável nunca aumenta a soma de quadrados dos resíduos. Trocar o alcance do teste — atribuir ao t a pergunta conjunta ou ao F a pergunta individual. E transferir propriedade de um objeto para outro — dizer do R² ajustado o que só vale para o R², ou do estimador o que só vale para a estatística de teste.
Em item com tabela de saída, a armadilha muda de lugar: o cálculo está correto e a leitura é que foi torcida. Percentual do R² atribuído à variável errada, p-valor comparado com o coeficiente, efeito descrito sem a cláusula de manter os demais regressores constantes.
Erros clássicos
Achar que o R² pode cair quando se acrescenta uma variável. Não pode. Ele sobe ou, no limite, fica igual — mesmo que a variável nova seja pura irrelevância. Quem cai é o R² ajustado, e é por isso que ele existe.
Usar o R² para escolher entre modelos com números diferentes de regressores. O critério que compara modelos é o R² ajustado, ou um critério de informação; o R² sempre premia o modelo maior.
Ler R² alto como modelo bom. Ajuste não é correção: um modelo com variável omitida relevante, com regressores endógenos ou com resíduos autocorrelacionados pode exibir R² altíssimo. Em séries temporais, R² próximo de 1 é mais suspeita de regressão espúria do que sinal de qualidade.
Concluir que o efeito é grande porque é significativo. Significância é sobre ser diferente de zero. Com amostra suficientemente grande, efeitos economicamente irrelevantes ficam significativos.
Somar os t individuais para julgar o conjunto. A pergunta conjunta é do teste F, e ele não é média nem soma dos t. Vários coeficientes individualmente insignificantes podem ser conjuntamente significativos.
Concluir que o modelo não presta porque nenhum t rejeitou. Se o F rejeita e os t não, o modelo explica: o que falta é conseguir separar quem explica o quê. Isso é multicolinearidade, e não invalida a regressão.
Interpretar o coeficiente da múltipla sem a cláusula ceteris paribus. O coeficiente mede o efeito de um regressor mantidos os demais constantes, e a omissão dessa cláusula é justamente o que separa a leitura correta da incorreta em item de tabela.
Achar que MQO exige relação linear entre X e Y. Exige linearidade nos parâmetros. Modelos com log, potência e interação são estimados por MQO sem qualquer ressalva.
Comparar o p-valor com o coeficiente. O p-valor se compara com o nível de significância. Coeficiente pequeno com p-valor pequeno é efeito pequeno e significativo — as duas leituras são independentes.
Ler o intercepto como sempre interpretável. Ele é o valor esperado de Y quando todos os regressores valem zero, o que pode não ter sentido econômico algum; ainda assim, o seu teste t se lê como o de qualquer outro coeficiente.
LidoPraticado