Distribuição conjunta e marginal; independência de variáveis; covariância × correlação

A ideia que organiza o assunto

O objeto deste tópico não é uma variável aleatória: é o par. Tudo o que se pode saber sobre X e Y juntos está na distribuição conjunta — f(x, y) no caso contínuo, P(X = x, Y = y) no discreto. As marginais são o que sobra quando se descarta uma das variáveis: somando (ou integrando) a conjunta sobre todos os valores de Y, obtém-se f_X(x), a distribuição de X sozinha.

A pergunta que organiza o assunto é quanto se perde nesse descarte, e a resposta é assimétrica:

• Da conjunta sempre se obtêm as marginais. É uma operação mecânica, sem hipótese nenhuma.
• Das marginais quase nunca se obtém a conjunta. Dois pares de variáveis podem ter exatamente as mesmas marginais e conjuntas completamente diferentes — uma com dependência forte, outra sem nenhuma. As marginais não guardam informação sobre como as duas variáveis se movem juntas.

E há exatamente um caso em que as marginais reconstroem a conjunta: quando f(x, y) = f_X(x) · f_Y(y) para todo par (x, y). Esse caso tem nome — independência — e essa é a definição, não uma consequência. Independência não é uma impressão de que as variáveis “não têm relação”: é a afirmação de que a conjunta fatora.

Entre a dependência total e a independência existe um contínuo, e é aqui que entra o segundo eixo do tópico. Covariância e correlação não medem dependência: medem a parte linear da dependência. Por isso a implicação vale num sentido só — se a conjunta fatora, a covariância é zero; mas covariância zero significa apenas que a fatia linear está vazia, e sobra espaço para toda a dependência não linear do mundo. Guarde o tópico inteiro nesta linha:

Independência ⇒ covariância zero. A recíproca é falsa — exceto sob normalidade conjunta.

A fronteira com o básico, porque ela é fina aqui. Lógica e Estatística, a disciplina comum às duas áreas, já cobre probabilidade condicional e independência de eventos (P(A ∩ B) = P(A) · P(B)), esperança e variância de uma variável, e as distribuições usuais. Um item sobre P(A|B), sobre eventos mutuamente excludentes ou sobre Var(aX + b) é daquele tópico. O que é seu começa quando o objeto passa a ser o par: densidade conjunta, marginal obtida por integração, densidade condicional f(y|x), independência de variáveis (não de eventos), covariância, correlação e a matriz de covariâncias. Na prova do BACEN a diferença é de nível, não de assunto: o básico pergunta o que é variância; aqui se pergunta o que a covariância faz com a variância de uma carteira.

Por que se usa (e o que custa)

Reduzir uma distribuição conjunta inteira a um número é uma perda enorme de informação, e vale a pena mesmo assim. O ganho é triplo: o número é estimável a partir de dados, entra diretamente em fórmulas que importam (Var(X + Y), risco de carteira, variância de estimadores) e — já padronizado — é comparável entre pares de variáveis diferentes.

O custo é o que a banca cobra:

• Só a parte linear é vista. Uma relação determinística perfeita, mas curva, pode ter correlação exatamente zero.
• Não identifica a conjunta. Saber que ρ = 0,6 não diz qual é a distribuição conjunta; infinitas conjuntas diferentes produzem esse mesmo valor.
• Não é causalidade. Correlação alta é compatível com causalidade em qualquer direção, com causa comum e com coincidência amostral.
• É frágil. Poucos pontos extremos deslocam a correlação de Pearson com facilidade, e ela não sobrevive a transformações não lineares das variáveis (uma correlação de postos, como a de Spearman, sobrevive).

Como funciona

Conjunta, marginal, condicional — as três formas da mesma informação.

• Conjunta: f(x, y) no contínuo; p(x, y) = P(X = x, Y = y) no discreto. Integra (ou soma) 1 sobre todo o domínio.
• Marginal: f_X(x) = ∫ f(x, y) dy. No caso discreto, é a soma de uma linha ou de uma coluna da tabela de dupla entrada — daí o nome: os totais ficavam na margem da tabela.
• Condicional: f(y|x) = f(x, y) / f_X(x), definida onde f_X(x) > 0. É uma distribuição legítima em y, com x fixado.

Daí sai a identidade que reconstrói tudo: f(x, y) = f_X(x) · f(y|x). Compare-a com a definição de independência e o assunto se fecha sozinho: as duas coincidem exatamente quando f(y|x) = f_Y(y), isto é, quando condicionar em x não muda nada.

Independência de variáveis aleatórias. Equivalências — qualquer uma serve como definição, e a banca usa todas:

• F(x, y) = F_X(x) · F_Y(y) para todo (x, y) (acumuladas);
• f(x, y) = f_X(x) · f_Y(y) para todo (x, y) (densidades);
• f(y|x) = f_Y(y) — a condicional não depende do condicionante;
• E[g(X) · h(Y)] = E[g(X)] · E[h(Y)] para todo par de funções g e h.

A última é a que revela a força da hipótese. Independência não exige que o produto das esperanças funcione para g(X) = X e h(Y) = Y: exige que funcione para todas as funções ao mesmo tempo. Covariância zero é apenas o caso particular g(X) = X, h(Y) = Y. Uma condição entre infinitas.

O truque do suporte, que resolve item sem conta nenhuma. Se X e Y são independentes, o suporte da conjunta é obrigatoriamente um retângulo — o produto dos suportes marginais. Logo, se a densidade for dada em uma região do tipo 0 < x < y < 1, ou num triângulo, ou num círculo, as variáveis não podem ser independentes, e não é preciso calcular marginal alguma para afirmá-lo. O limite de uma variável depende do valor da outra; isso já é dependência.

Covariância. Cov(X, Y) = E[(X − E X)(Y − E Y)] = E(XY) − E(X)·E(Y). O sinal é o que interessa: positivo quando desvios no mesmo sentido predominam, negativo quando predominam desvios em sentidos opostos. Propriedades que caem:

• Cov(X, X) = Var(X) — a variância é o caso particular da covariância;
• Cov(X, Y) = Cov(Y, X) — simétrica;
• Cov(aX + b, cY + d) = a·c·Cov(X, Y) — as constantes aditivas somem, as multiplicativas saem sem quadrado (o quadrado só aparece porque, em Var(aX), a sai duas vezes);
• Var(X ± Y) = Var(X) + Var(Y) ± 2Cov(X, Y).

E o defeito que motiva a correlação: a covariância tem unidade — reais vezes horas, litros vezes quilômetros — e portanto muda de valor quando se muda a escala de medida. Uma covariância de 300 não é “maior” que uma de 2; elas não são comparáveis.

Correlação. ρ = Cov(X, Y) / (σ_X · σ_Y). É a covariância dividida pelo produto dos desvios padrão, o que cancela as unidades e, pela desigualdade de Cauchy-Schwarz, confina o resultado a [−1, 1]. Duas leituras:

• ρ é adimensional e comparável. É por isso que só ele permite dizer que a associação de um par é mais forte que a de outro.
• ρ = ±1 se e somente se Y = a + bX com probabilidade 1 — relação linear exata, com b > 0 para +1 e b < 0 para −1. Qualquer valor intermediário mede o quanto os pontos se afastam de uma reta, não o quanto se afastam de uma relação.

Sob transformação linear, ρ é invariante em módulo e troca de sinal se os coeficientes angulares tiverem sinais opostos: ρ(aX + b, cY + d) = sinal(a·c) · ρ(X, Y). Mudar de reais para milhares de reais, ou de Celsius para Fahrenheit, não altera a correlação.

O ponto central do tópico: independência × correlação zero.

Num sentido a implicação é imediata. Se X e Y são independentes, então E(XY) = E(X)·E(Y), logo Cov(X, Y) = 0 e ρ = 0. Diz-se então que as variáveis são não correlacionadas.

No sentido contrário ela é falsa, e o contraexemplo é curto o bastante para ser memorizado. Seja X uniforme em [−1, 1] e Y = X². Y é função determinística de X — dependência total, não sobra incerteza alguma. Ainda assim:

Cov(X, Y) = E(X³) − E(X)·E(X²) = 0 − 0 · E(X²) = 0

porque a distribuição é simétrica em torno de zero e todos os momentos ímpares se anulam. Correlação zero, dependência perfeita. A razão é a do parágrafo de abertura: ρ mede associação linear, e a relação aqui é uma parábola.

A exceção que torna a proposição utilizável. Existe um caso, e é exatamente o caso que a econometria usa o tempo todo: se (X, Y) tem distribuição normal bivariada (conjuntamente normal), então covariância zero implica independência. Nesse caso, e só nesse, as duas noções coincidem. Diga a exceção sempre que disser a regra — é ela que permite escrever “não correlacionados, logo independentes” sem errar.

Duas cautelas sobre essa exceção, e ambas são material de item:

• Normal conjunta não é o mesmo que duas normais marginais. É possível construir um par em que X e Y são normais separadamente, têm correlação zero e não são independentes. A hipótese que salva é sobre a conjunta, não sobre as marginais.
• Fora da normal conjunta, a equivalência não vale, por mais bem-comportada que a distribuição pareça.

A escada das implicações, que vale a pena decorar na ordem, porque cada degrau é estritamente mais fraco que o anterior:

independência ⇒ E(Y|X) = E(Y) (média condicional constante) ⇒ Cov(X, Y) = 0

Nenhuma das recíprocas é verdadeira. O degrau do meio é o que a econometria chama de exogeneidade em média, e é a razão de E(u|X) = 0 ser hipótese mais forte do que Cov(X, u) = 0.

O que decide os itens

Conjunta × marginal × condicional:

objeto	fórmula	o que responde
conjunta	f(x, y)	tudo sobre o par
marginal	f_X(x) = ∫ f(x, y) dy	a variável sozinha, ignorando a outra
condicional	f(y|x) = f(x, y) / f_X(x)	Y quando X já é conhecido
reconstrução	f(x, y) = f_X(x) · f(y|x)	vale sempre
independência	f(x, y) = f_X(x) · f_Y(y)	vale só se independentes

Covariância × correlação — o par que a banca troca:

	covariância	correlação
fórmula	E(XY) − E(X)E(Y)	Cov / (σ_X σ_Y)
unidade	produto das unidades	adimensional
intervalo	qualquer real	[−1, 1]
muda com a escala?	sim	não (só o sinal, se a·c < 0)
compara pares diferentes?	não	sim
mede o quê	associação linear	associação linear, padronizada
valor extremo	não há	±1 ⟺ Y = a + bX exata

Independência × não correlacionadas:

afirmação	verdadeira?
independentes ⇒ Cov = 0	sim, sempre
Cov = 0 ⇒ independentes	não, em geral
Cov = 0 ⇒ independentes, sob normal conjunta	sim
Cov = 0 ⇒ independentes, com marginais normais	não
independentes ⇒ E(XY) = E(X)E(Y)	sim
E(XY) = E(X)E(Y) ⇒ independentes	não
independentes ⇒ Var(X ± Y) = Var(X) + Var(Y)	sim (a covariância some)
ρ = 0 ⇒ não há relação entre as variáveis	não
suporte não retangular ⇒ não independentes	sim

A direção e o endereço, que é o que decide na prática. Antes de julgar qualquer item deste tópico, responda a duas perguntas: para que lado vai a implicação (independência → correlação zero, nunca o contrário) e a que objeto a hipótese se refere (à conjunta ou às marginais; à covariância ou à correlação; ao par ou a uma variável só). Quase todo item errado deste assunto inverte uma seta ou troca um endereço.

Números que caem

quantidade	valor
intervalo da correlação	[−1, 1]
intervalo da covariância	qualquer real
ρ = +1 / ρ = −1	Y = a + bX exata, com b > 0 / b < 0
Cov(X, X)	Var(X)
Cov(aX + b, cY + d)	a·c·Cov(X, Y)
ρ(aX + b, cY + d)	ρ(X, Y), com sinal de a·c
Var(X + Y)	Var X + Var Y + 2Cov
Var(X − Y)	Var X + Var Y − 2Cov
Var(X ± Y) sob independência	Var X + Var Y (soma nos dois casos)
X ~ U[−1, 1], Y = X²	Cov = 0 com dependência perfeita

Como a CEBRASPE derruba você aqui

Esta seção ainda não foi medida: os itens deste tópico estão sendo explicados. Quando estiverem, as frequências reais aparecem aqui e o texto abaixo é reescrito contra elas.

A base medida é de um item, e o motivo de ser tão fina importa. Dos itens que chegaram a este tópico, apenas um pôde ser lido e explicado: a afirmação de que o grau de associação entre duas variáveis pode ser medido, de forma padronizada, pelo coeficiente de correlação — Certo, porque “padronizada” é precisamente o que distingue ρ da covariância. Os demais vieram de cadernos em que a notação matemática não sobreviveu à extração e chegaram ilegíveis. Note o que isso significa para a preparação: a banca cobra este assunto na forma de grupo com densidade conjunta explícita — f(x, y) dada, e depois itens pedindo marginal, covariância, independência e uma probabilidade. Este é um tópico de conta, não de definição, e a contagem acima é piso, não frequência.

O que segue é conhecimento do assunto e vem marcado como não medido neste corpus.

A recíproca falsa é o alvo mais provável. É a única proposição do tópico que soa verdadeira, é ensinada como se fosse e não é: “se a covariância entre duas variáveis é nula, então elas são independentes”. Na forma inversa — “variáveis independentes têm covariância nula” — a afirmação é Certa, e é a mesma frase com a seta virada. Leia a direção antes de ler o conteúdo.

A exceção normal usada como armadilha nas duas pontas. Um item pode omitir a hipótese de normalidade conjunta e afirmar a equivalência (Errado por exceção omitida), ou incluí-la e afirmar a equivalência (Certo, e o candidato que decorou “correlação zero nunca implica independência” marca Errado). Guarde a hipótese junto com a regra; sem ela, a regra fica pela metade dos dois lados.

A troca covariância ↔ correlação. O formato natural é atribuir a uma o que é da outra: dizer que a covariância varia entre −1 e 1, que é adimensional ou que permite comparar pares distintos; ou dizer que a correlação depende da unidade de medida. O sinal é a única propriedade que as duas compartilham — e compartilham sempre, porque o denominador da correlação é positivo.

Associação linear apresentada como associação. “Correlação igual a zero indica ausência de relação entre as variáveis” é o formato clássico, e o contraexemplo da parábola o derruba. O parente próximo é o item que conclui causalidade a partir de correlação.

Marginais tratadas como se determinassem a conjunta. Aparece disfarçado: somar as marginais para obter a conjunta, aplicar o produto sem que a independência tenha sido declarada ou verificada, ou afirmar que duas variáveis com as mesmas marginais têm a mesma distribuição conjunta.

Sobre a modalidade, um aviso. Na trilha de Economia e Finanças o velho critério de “palavra absoluta sinaliza Errado” não funciona, e aqui tende a funcionar ainda menos: este é um tópico feito de teoremas, e um teorema é absoluto por natureza. “Variáveis independentes têm sempre covariância nula” é Certo, e o “sempre” é do teorema. A pergunta útil não é se há um absoluto na frase, e sim de quem é o absoluto — do teorema ou de quem escreveu o item.

Erros clássicos

Ler “covariância zero” como “independentes”. É o erro que define o tópico. A implicação vale num sentido só, e a única exceção é a normal conjunta.

Achar que marginais normais bastam para a exceção valer. A hipótese é sobre a distribuição conjunta. Duas normais marginais não a garantem.

Confundir covariância com correlação nos limites. Quem tem intervalo [−1, 1] é a correlação. Uma “covariância de 1,4” não é impossível; uma correlação de 1,4 é.

Comparar covariâncias de pares diferentes. Elas estão em unidades diferentes. Padronize antes de comparar — é para isso que a correlação existe.

Concluir que ρ = 0 significa ausência de relação. Significa ausência de relação linear. Y = X² é o contraexemplo de bolso.

Ler correlação como causalidade. Nem direção, nem existência de causa: ρ é simétrico, e ρ(X, Y) = ρ(Y, X) sempre.

Multiplicar as marginais sem independência. f(x, y) = f_X(x)·f_Y(y) é a definição de independência, não uma propriedade geral. A identidade que vale sempre é f(x, y) = f_X(x)·f(y|x).

Ignorar o suporte. Se o domínio da conjunta não for um retângulo, as variáveis são dependentes — e isso se decide olhando, sem integrar.

Subtrair variâncias em Var(X − Y). Sob independência, Var(X − Y) é a soma das variâncias, igual a Var(X + Y).

Elevar a constante ao quadrado na covariância. Em Cov(aX, cY) sai a·c; o quadrado só aparece em Var(aX) = a²Var(X), que é o caso X = Y.