← tópicos

Específicos · Estatística e Econometria

Regressão simples e múltipla por MQO: coeficientes, R² × R² ajustado, teste t × teste F

O R² nunca cai quando se acrescenta um regressor — por isso existe o R² ajustado, que pode cair. O teste t julga um coeficiente; o F, uma restrição conjunta.

Alta18 itens no tópico

A ideia que organiza o assunto

O MQO não descobre nada sobre o mundo: ele resolve um problema de minimização. Dada uma nuvem de pontos, escolhe os coeficientes que tornam mínima a soma dos quadrados dos resíduos. Tudo o que a prova cobra neste tópico — o valor do coeficiente, o R², o teste t, o teste F — são leituras diferentes da mesma decomposição que essa minimização produz:

SQT = SQE + SQR — a variação total do Y observado se parte na variação explicada pela regressão e na variação que sobra nos resíduos.

Guardada essa identidade, o resto é derivável. O R² é a fração explicada, SQE/SQT. O teste F de significância global compara o tamanho da parte explicada com o da parte residual, corrigindo pelos graus de liberdade. O teste t faz a mesma pergunta para um coeficiente só. E o coeficiente é a resposta à pergunta “quanto muda Y quando este X muda em uma unidade, mantidos constantes os demais”.

Daí decorre o fato que mais decide item neste tópico. Acrescentar um regressor nunca aumenta a SQR: no pior caso o MQO atribui coeficiente zero à variável nova e reproduz o ajuste anterior. Logo o R² nunca cai quando se acrescenta um regressor, ainda que a variável seja irrelevante. Um indicador que só sobe não serve para escolher modelo — e é exatamente esse defeito que o R² ajustado existe para corrigir.

Duas fronteiras, porque este tópico fica entre três outros. O que é média, variância, correlação, distribuição t e nível de significância pertence ao básico de estatística; aqui interessa a variância do estimador e a inferência sobre a regressão. Por que o MQO merece confiança — as hipóteses de Gauss-Markov, o teorema BLUE, o viés de variável omitida e a endogeneidade — é o tópico seguinte. E o que acontece quando essas hipóteses falham — heterocedasticidade, autocorrelação, multicolinearidade — é o tópico depois dele. Este aqui responde apenas: o que o MQO faz e como se lê a sua saída.

Por que se usa (e o que custa)

Ganha-se três coisas. O MQO tem solução fechada: não há algoritmo iterativo, convergência ou ponto de partida a discutir. Sob as hipóteses clássicas é BLUE, isto é, o melhor da sua classe. E o coeficiente da regressão múltipla tem leitura ceteris paribus direta, o que a correlação simples não tem.

Paga-se em fragilidade. Como a função-objetivo eleva os desvios ao quadrado, uma única observação distante domina a estimativa. Exige-se linearidade nos parâmetros. E todo o aparato de inferência — erro-padrão, t, F, intervalo de confiança — vale sob hipóteses que os dados podem não satisfazer: a estimativa continua saindo, mas os testes deixam de significar o que parecem significar.

Como funciona

A reta simples. O coeficiente angular é a covariância entre X e Y dividida pela variância de X, e o intercepto é o que faz a reta passar pelo ponto das médias. Duas consequências que caem: os resíduos do MQO somam zero e são não correlacionados com cada regressor — não porque a natureza seja gentil, mas porque são exatamente essas as condições de primeira ordem da minimização.

A regressão múltipla não é uma soma de regressões simples. O coeficiente de X₁ na múltipla é o efeito de X₁ líquido da parte que X₁ compartilha com os demais regressores: estima-se removendo dos dois lados o que os outros X explicam. Por isso o coeficiente da múltipla difere do da simples sempre que os regressores forem correlacionados — e é essa diferença, exatamente, que o tópico seguinte transforma em viés de variável omitida.

Linear nos parâmetros, não nas variáveis. Log, quadrado, inverso e interação são todos estimáveis por MQO; o que o método não admite é parâmetro entrando de forma não linear. Nos modelos com log a leitura do coeficiente muda: em log-log ele é elasticidade; em log-nível, multiplicado por 100, é a variação percentual aproximada de Y por unidade de X.

R² e R² ajustado. O R² varia de 0 a 1 e mede ajuste, não causalidade nem correção de especificação. O R² ajustado penaliza cada regressor acrescentado pelos graus de liberdade que ele consome: sobe apenas se a variável nova contribuir mais do que o preço que cobra — o que, na prática, equivale a entrar com estatística t maior que 1 em valor absoluto. Por isso ele pode cair, e pode até ficar negativo, o que o R² nunca faz.

O teste t. Divide o coeficiente estimado pelo seu erro-padrão e compara com a distribuição t de Student com n − k − 1 graus de liberdade, em que k é o número de regressores fora o intercepto. A hipótese nula é a de que aquele coeficiente é zero, e nada mais: rejeitar significa que a variável é significativa, não que o modelo esteja correto nem que o efeito seja grande.

O teste F. Julga uma restrição conjunta. No caso mais cobrado, o da significância global, a nula é a de que todos os coeficientes de inclinação são simultaneamente nulos; no caso geral, compara a soma de quadrados dos resíduos do modelo restrito com a do irrestrito. Para uma única restrição, F é exatamente o quadrado do t correspondente — e é só nesse caso que os dois testes são obrigados a concordar.

Quando t e F discordam. Com dois ou mais regressores, é perfeitamente possível que o F rejeite a nula conjunta enquanto nenhum t individual rejeite a sua. Isso não é erro de cálculo: é a assinatura de multicolinearidade, em que o conjunto explica bem e nenhuma variável isolada consegue ser identificada como responsável. O diagnóstico e o tratamento pertencem ao tópico de multicolinearidade; aqui basta saber que a discordância é possível e o que ela significa.

O p-valor. É a probabilidade de observar uma estatística tão extrema quanto a obtida se a nula fosse verdadeira. Compara-se com o nível de significância, nunca com o valor do coeficiente: p-valor pequeno rejeita a nula, logo indica significância.

O que decide os itens

paro que decide
R² × R² ajustadoo R² nunca cai com um regressor a mais; o ajustado pode cair e pode ser negativo
teste t × teste Ft julga um coeficiente; F julga uma restrição conjunta de vários
F global × F de restriçõeso global testa todos os inclinações = 0; o geral compara modelo restrito e irrestrito
t e F concordam × discordamsó são equivalentes com uma restrição (F = t²); com várias, podem divergir
coeficiente da simples × da múltiplaa múltipla dá o efeito líquido dos demais regressores
significância × magnitudeo t responde “é diferente de zero”; não responde “é grande”
p-valor × nível de significânciarejeita-se quando o p-valor é menor que o nível adotado
R² alto × modelo corretoajuste não atesta especificação, causalidade nem validade dos testes
linear nos parâmetros × nas variáveislog, quadrado e interação continuam sendo MQO
SQE × SQRexplicada × residual; o R² é SQE/SQT, e é 1 − SQR/SQT

Leitura de saída de regressão. Item que exibe uma tabela com estimativas e coluna de p-valores quase sempre se resolve em três movimentos: confira o sinal do coeficiente, confira se cada p-valor está abaixo do nível usual, e confira se a interpretação proposta é ceteris paribus. O R² ajustado, quando aparece na tabela, lê-se como o percentual da variação de Y explicado conjuntamente pelos regressores, já descontado o número deles.

Números que caem

quantidadevalor
graus de liberdade do teste tn − k − 1 (k = regressores, fora o intercepto)
graus de liberdade do teste Fk no numerador, n − k − 1 no denominador
intervalo do R²de 0 a 1
intervalo do R² ajustadopode ser negativo; nunca excede o R²
relação entre t e FF = t² para uma única restrição
níveis de significância usuais0,10, 0,05 e 0,01
t crítico aproximado, 5%, amostra grande1,96 (≈ 2)
entrada que aumenta o R² ajustadoregressor com |t| > 1

Como a CEBRASPE derruba você aqui

Esta seção ainda não foi medida: os itens deste tópico estão sendo explicados. Quando estiverem, as frequências reais aparecem aqui e o texto abaixo é reescrito contra elas.

Duas advertências sobre a contagem, antes do julgamento. A primeira é que o número de itens que chegam a este tópico é piso, não medida: a banca nomeia o assunto no comando do grupo, e um item curto carrega poucas palavras próprias para classificar. A segunda é específica desta disciplina: boa parte do que o acervo guarda sobre regressão não sobreviveu à extração, porque a notação matemática desses cadernos veio em fonte simbólica e chegou ilegível. O que se lê abaixo é julgamento sobre o formato da cobrança, não estatística.

O formato dominante é o item de propriedade: uma frase curta afirmando o que acontece com o R², com o estimador ou com a estatística de teste em determinada situação. Nesses itens não há retórica para inspecionar — não adianta procurar sempre, nunca ou apenas, porque a afirmação é sobre um teorema, e teorema é absoluto por natureza. O que a banca distorce é o conteúdo: uma direção, um sinal, o objeto a que a propriedade se aplica.

Daí as três manobras que se repetem. Inverter a direção de um efeito — dizer que o R² cai quando se acrescentam regressores é a mais limpa delas, e está errada pela razão mais simples possível: acrescentar variável nunca aumenta a soma de quadrados dos resíduos. Trocar o alcance do teste — atribuir ao t a pergunta conjunta ou ao F a pergunta individual. E transferir propriedade de um objeto para outro — dizer do R² ajustado o que só vale para o R², ou do estimador o que só vale para a estatística de teste.

Em item com tabela de saída, a armadilha muda de lugar: o cálculo está correto e a leitura é que foi torcida. Percentual do R² atribuído à variável errada, p-valor comparado com o coeficiente, efeito descrito sem a cláusula de manter os demais regressores constantes.

Erros clássicos

Achar que o R² pode cair quando se acrescenta uma variável. Não pode. Ele sobe ou, no limite, fica igual — mesmo que a variável nova seja pura irrelevância. Quem cai é o R² ajustado, e é por isso que ele existe.

Usar o R² para escolher entre modelos com números diferentes de regressores. O critério que compara modelos é o R² ajustado, ou um critério de informação; o R² sempre premia o modelo maior.

Ler R² alto como modelo bom. Ajuste não é correção: um modelo com variável omitida relevante, com regressores endógenos ou com resíduos autocorrelacionados pode exibir R² altíssimo. Em séries temporais, R² próximo de 1 é mais suspeita de regressão espúria do que sinal de qualidade.

Concluir que o efeito é grande porque é significativo. Significância é sobre ser diferente de zero. Com amostra suficientemente grande, efeitos economicamente irrelevantes ficam significativos.

Somar os t individuais para julgar o conjunto. A pergunta conjunta é do teste F, e ele não é média nem soma dos t. Vários coeficientes individualmente insignificantes podem ser conjuntamente significativos.

Concluir que o modelo não presta porque nenhum t rejeitou. Se o F rejeita e os t não, o modelo explica: o que falta é conseguir separar quem explica o quê. Isso é multicolinearidade, e não invalida a regressão.

Interpretar o coeficiente da múltipla sem a cláusula ceteris paribus. O coeficiente mede o efeito de um regressor mantidos os demais constantes, e a omissão dessa cláusula é justamente o que separa a leitura correta da incorreta em item de tabela.

Achar que MQO exige relação linear entre X e Y. Exige linearidade nos parâmetros. Modelos com log, potência e interação são estimados por MQO sem qualquer ressalva.

Comparar o p-valor com o coeficiente. O p-valor se compara com o nível de significância. Coeficiente pequeno com p-valor pequeno é efeito pequeno e significativo — as duas leituras são independentes.

Ler o intercepto como sempre interpretável. Ele é o valor esperado de Y quando todos os regressores valem zero, o que pode não ter sentido econômico algum; ainda assim, o seu teste t se lê como o de qualquer outro coeficiente.

Praticar16 itens