← tópicos

Específicos · Ciência de Dados

Tipos de aprendizado: supervisionado, não supervisionado, reforço, transferência

Uma pergunta decide quase tudo: o que chega junto com os dados de treinamento — rótulo, nada, ou recompensa? Em 10 dos 14 itens errados a banca dá o nome de uma família e a definição de outra.

Alta30 itens no tópico

A ideia que organiza o assunto

Os tipos de aprendizado não se distinguem pelo algoritmo, pela biblioteca nem pelo domínio de aplicação. Distinguem-se por uma única coisa: o que chega ao algoritmo junto com os dados de treinamento.

São três respostas possíveis, e delas saem as três famílias.

Guarde a pergunta nessa forma — o algoritmo recebe gabarito, nada, ou recompensa? — porque ela resolve sozinha a maioria dos itens. Ela também explica por que certas tarefas são fixas de uma família: classificação exige classes conhecidas de antemão, logo é supervisionada; agrupamento produz os grupos como resultado, logo é não supervisionado. Na classificação a classe é insumo; no agrupamento ela é saída. Inverter essa ordem é o erro mais repetido do tópico.

O que este tópico realmente cobra. Vale dizer com números, porque o título do assunto promete mais do que a prova entrega. Nos 30 itens medidos:

eixoitens
supervisionado × não supervisionado (presença de rótulo)14
vocabulário de mineração de dados (definição, associação, Apriori)10
aprendizado por reforço2
aprendizado por transferência1
aprendizado semissupervisionado0
dimensões de qualidade de dados do DMBOK2
Python e pandas1

Ou seja: quase metade do tópico é o eixo do rótulo, um terço é vocabulário de mineração de dados que chega aqui pela porta dos fundos, e semissupervisionado não foi medido em item nenhum. Reforço e transferência aparecem, mas valem um item cada dois ou três concursos. Estude na proporção.

Por que se usa (e o que custa)

A escolha da família raramente é livre: ela é imposta pelo que se consegue obter.

Supervisionar custa rótulo. Alguém precisa dizer, exemplo por exemplo, qual era a resposta certa — classificar manualmente o processo, marcar a transação como fraude, anotar o documento. Em troca, ganha-se a única coisa que o não supervisionado não tem: um alvo conhecido, e portanto uma medida objetiva de desempenho. É por isso que a matriz de confusão e as métricas que dela derivam só existem no lado supervisionado.

Não supervisionar é barato e ambíguo. Dispensa-se o rótulo e aproveitam-se as bases que já existem, mas não há gabarito contra o qual comparar o resultado: avaliar um agrupamento é decidir, por critérios internos e por julgamento de negócio, se os grupos encontrados significam alguma coisa.

Reforçar custa interação. O agente precisa agir e colher consequências, muitas vezes milhares de vezes, e a recompensa chega atrasada — o que se ganha é a capacidade de aprender comportamento em decisões sequenciais, coisa que nenhum conjunto de exemplos rotulados ensina.

A formulação honesta para a prova: supervisão compra avaliabilidade e paga em rotulagem. Item que prometa desempenho medido sem rótulo, ou aprendizado de classe sem classe, está cobrando o preço sem pagá-lo.

Como funciona

Supervisionado. O conjunto de treinamento é um conjunto de pares: atributos de entrada mais o atributo alvo. O algoritmo ajusta uma função de mapeamento das entradas para a saída e é julgado pela generalização, não pelo acerto no treino. Divide-se pela natureza da saída: classificação quando o alvo é categórico (a que classe pertence) e regressão quando o alvo é contínuo (que valor). Árvores de decisão, regressão logística, máquinas de vetores de suporte, k vizinhos mais próximos e redes neurais treinadas com rótulo estão todos aqui.

Não supervisionado. Três tarefas cobram-se aqui, e convém tratá-las separadamente.

Agrupamento. Mede-se similaridade (quase sempre distância) e separam-se grupos. O k-means é particional: escolhe-se k, calcula-se a distância de cada objeto aos k centroides, atribui-se cada objeto ao centroide mais próximo e recalcula-se cada centroide como a média dos objetos do seu grupo, repetindo até estabilizar. O centroide é, portanto, um ponto calculado, que em geral não coincide com nenhum objeto real da base. O k-medoids faz o mesmo ciclo elegendo como representante um objeto que existe na base, o medoide — o que o torna mais robusto a valores extremos. Há ainda o agrupamento hierárquico, que constrói o dendrograma por aglomeração ou divisão e não exige k fixado antes.

Regras de associação. Procuram co-ocorrência: conjuntos de itens que aparecem juntos com frequência acima de um limiar, expressos como se A então B. Medem-se por suporte (frequência do conjunto na base), confiança (probabilidade de B dado A) e lift (quanto a regra supera o acaso). O Apriori torna a busca viável por uma propriedade de direção fixa: como acrescentar itens a um conjunto só pode reduzir o suporte, todo subconjunto de um conjunto frequente é frequente e, na forma usada para podar, nenhum superconjunto de um conjunto infrequente pode ser frequente. Associação não prediz valor nem classe — ela descreve o que ocorre junto.

Redução de dimensionalidade. Dois caminhos que a banca troca um pelo outro. A seleção de atributos identifica os atributos irrelevantes ou redundantes e os descarta, preservando os originais que sobram. A extração ou compressão de atributos não descarta: transforma os atributos originais em novos atributos combinados. O PCA é o caso clássico de extração — projeta os dados em direções ortogonais entre si, as componentes principais, ordenadas pela variância que explicam; como são ortogonais, os novos atributos ficam linearmente descorrelacionados. Ele olha apenas a covariância das entradas e não consulta rótulo algum, o que o torna não supervisionado. Quem usa a classe para escolher as direções é a análise discriminante linear, não o PCA.

Por reforço. Agente, ambiente, estado, ação, recompensa. O agente escolhe uma ação, o ambiente devolve um novo estado e um sinal de recompensa que chega depois — na etapa de tempo seguinte ou mais adiante ainda. O objetivo é a política que maximiza a recompensa acumulada, e não a previsão de um atributo alvo. É o que se aplica a jogos, controle, roteamento e recomendação sequencial.

Semissupervisionado. Poucos exemplos rotulados e muitos não rotulados no mesmo treinamento: usa-se a estrutura da massa não rotulada para estender o pouco rótulo disponível. Nenhum item do corpus deste tópico o testou — conheça a definição em uma linha e não gaste mais tempo com ele.

Por transferência. Reaproveita-se o que um modelo aprendeu num domínio ou tarefa para outro. A taxonomia clássica separa os casos pelo que muda: indutivo quando o domínio é o mesmo e a tarefa muda; transdutivo quando a tarefa é a mesma e o domínio muda, com rótulos disponíveis apenas na origem; não supervisionado quando não há rótulo de nenhum dos lados.

Mineração de dados — o vizinho que ocupa um terço do tópico. É o processo de descobrir padrões e conhecimento útil, antes desconhecido, em grandes volumes de dados, apoiado em três alicerces: aprendizado de máquina, estatística e volume de dados. É indução — vai do caso particular para a regra geral, ao contrário da consulta, que vai da regra para o caso. Suas tarefas são as quatro já vistas, e cada uma responde a uma pergunta diferente: classificação (a que classe pertence), regressão (que valor), agrupamento (quem se parece com quem), associação (o que ocorre junto). Mineração não é sinônimo de aprendizado supervisionado: metade das suas tarefas dispensa rótulo.

O que decide os itens

As três famílias pelo que recebem — a tabela que resolve a maior parte do tópico:

famíliarecebe no treinamentotarefa típicavocabulário que a denuncia
supervisionadoentradas e atributo alvo (rótulo)classificação, regressãorotulado, classe conhecida, generalizar, atributo alvo
não supervisionadosomente as variáveis de entradaagrupamento, associação, redução de dimensionalidadesem rótulo, similaridade, padrão, cluster
por reforçorecompensa depois da açãopolítica de decisão sequencialagente, ambiente, recompensa, maximizar
semissupervisionadopoucos rótulos + muitos não rotuladosqualquer das duas primeirasnão medido no corpus

Classificação × agrupamento — o par mais cobrado, e sempre pela mesma aresta:

classificaçãoagrupamento
classes existem antes?sim, são insumonão, são resultado
o algoritmo vê o alvo?simnão, só as entradas
famíliasupervisionadanão supervisionada
perguntaa que classe este objeto pertencequais objetos se parecem entre si

Tarefa × saída — o que cada técnica pode e não pode produzir:

técnicaproduznão produz
classificaçãouma classevalor contínuo
regressãoum valor contínuoregra de co-ocorrência
agrupamentogrupos descobertosclasse predita para um alvo conhecido
regras de associaçãoregra se A então B com suporte e confiançavalor previsto, causa

Os pares de nomes que a banca troca:

énão é
k-means: centroide = média calculadak-medoids: representante = objeto real da base
seleção de atributos: descarta os irrelevantesextração/compressão: transforma em atributos novos
PCA: não supervisionado, maximiza variânciaLDA: supervisionado, usa a classe
associação: co-ocorrênciaregressão: valor contínuo
indução: do caso para a regra (mineração)dedução: da regra para o caso (consulta)
transferência indutiva: muda a tarefatransferência transdutiva: muda o domínio

Apriori, a direção que não se inverte. Acrescentar item a um conjunto só pode manter ou baixar o suporte. Logo: frequente ⇒ todos os seus subconjuntos são frequentes; infrequente ⇒ nenhum superconjunto seu é frequente. Qualquer enunciado que faça a frequência subir ao acrescentar item está invertido, e invertido o princípio não podaria nada.

Qualidade de dados do DMBOK — dois itens do corpus caem aqui, e ambos por nome de dimensão:

dimensãoé
acuráciagrau em que o dado representa corretamente a entidade do mundo real
consistênciaausência de contradição entre representações do mesmo dado
completudeausência de vazios onde se espera valor
atualidadeo dado disponível a tempo do uso
unicidadecada entidade registrada uma só vez

E a regra sobre profiling: ele identifica o problema, mas não identifica a causa nem determina o impacto nos processos de negócio — isso exige investigar o processo de origem e as regras de negócio afetadas, que não estão no dado perfilado.

Como a CEBRASPE derruba você aqui

Medido sobre os 30 itens do tópico: 16 Certo e 14 Errado, e uma única distorção domina — 10 dos 14 itens errados (71%) são troca de termo. Não é uma disputa sobre mecanismo: é um nome trocado numa frase que, fora isso, está correta.

Nome de uma família, definição de outra. Seis dos catorze itens errados, o maior bloco isolado do tópico. “Um sistema de aprendizado não supervisionado, dotado de um conjunto de dados de treinamento que foram classificados manualmente” — classificado manualmente é rotulado, logo supervisionado. “Os métodos de aprendizado supervisionado são capazes de identificar padrões sem a necessidade de receberem dados de treinamento rotulados — a descrição é a do não supervisionado. “a filiação dos objetos é obtida por meio de um processo não supervisionado de aprendizado, dito da classificação. “algoritmos de classificação podem ser treinados a partir de conjuntos de dados sem rótulos, chamados em seguida de supervisionados. “O aprendizado por reforço […] tem por objetivo prever o resultado de um atributo alvo — atributo alvo é vocabulário do supervisionado. “O aprendizado por transferência transdutiva ocorre quando os domínios de origem e alvo são os mesmos” — essa é a definição do indutivo. A defesa é sempre a mesma e é mecânica: leia o nome da família e o requisito de rótulo como um par único e verifique se combinam, antes de julgar qualquer outra parte da frase. Note que citar uma família não é sinal de nada — 14 itens nomeiam uma família e ficam 7 Certo, 7 Errado. O sinal é o desencontro entre o nome e a definição.

Nome de um algoritmo, comportamento de outro. Três itens, mesmo molde aplicado a técnicas em vez de famílias. “O algoritmo k-means seleciona objetos reais de uma base de dados como centroide do grupo — isso é o k-medoids; o centroide do k-means é a média calculada. A compressão de atributos é uma técnica de redução de dimensionalidade na qual atributos irrelevantes ou redundantes são identificados e desconsiderados” — descartar é seleção; comprimir é transformar. “Entre as dimensões da qualidade de dados, a consistência refere-se ao grau em que os dados representam corretamente as entidades do mundo real” — essa é a acurácia. Confira o nome por último e pergunte se a descrição que o acompanha é a dele ou a do vizinho de vocabulário.

Inverter a direção de um princípio. Um item, mas de um tipo que volta sempre. “se um itemset for frequente, então todos os seus superconjuntos também serão frequentes — a direção correta é a dos subconjuntos, e só ela permite podar. Onde houver uma relação de ordem — suporte que cai quando o conjunto cresce, classe que existe antes ou depois, recompensa que vem antes ou depois da ação — reconstrua a direção antes de decidir.

Esticar uma regra verdadeira para além do seu domínio. “Nas técnicas de classificação e clusterização de dados, as classes, ou categorias, devem existir previamente — vale para a classificação e é falso para a clusterização. Quando o item põe duas técnicas no mesmo sujeito e afirma uma propriedade das duas, teste a propriedade em cada uma separadamente: em geral ela vale só para uma.

Fechar a mineração no lado supervisionado. “As técnicas de data mining operam exclusivamente com dados rotulados, utilizando apenas algoritmos supervisionados. Aqui vale um sinal forte e medido: entre os 30 itens, as palavras apenas, somente, exclusivamente e invariavelmente aparecem em uma afirmação doutrinária três vezes, e as três em itens Errados — nenhuma num item Certo. Localize a palavra de exclusão e derrube-a com um contraexemplo; o agrupamento serve para quase todas.

E uma armadilha que não é de aprendizado. Um item do tópico é código Python: cliente [("Sexo", "Idade")] para selecionar duas colunas. No pandas, um par de colchetes seleciona uma coluna e dois pares selecionam um subconjunto de colunas — parênteses nessa posição formam uma tupla, que vira um rótulo de coluna inexistente e produz erro, não seleção. Em item de pandas, conte os colchetes antes de ler a saída prometida.

Erros clássicos

Achar que agrupamento e classificação são a mesma coisa com nomes diferentes. São opostos no ponto que importa: a classe é insumo de um e produto do outro. Cinco dos 30 itens do tópico se decidem por essa única diferença.

Ler “sem rótulo” e não conferir o nome da família na mesma frase. O rótulo é o que define a supervisão. Sempre que o enunciado disser sem rótulo, somente as variáveis de entrada ou sem feedback prévio, o nome que o acompanha tem de ser não supervisionado — e quando disser classificados manualmente, anotados ou com gabarito, tem de ser supervisionado.

Tratar mineração de dados como aprendizado supervisionado com outro nome. Agrupamento, regras de associação, detecção de anomalias e redução de dimensionalidade são mineração e não usam rótulo nenhum.

Confundir o centroide com um objeto da base. No k-means ele é a média do grupo, um ponto que em geral não existe entre os dados. Objeto real como representante é k-medoids — e é essa escolha que dá a robustez a valores extremos.

Pedir a uma regra de associação que preveja alguma coisa. Ela mede frequência conjunta, não causa e não valor. Suporte e confiança descrevem co-ocorrência; transformá-los em relação de causa, ou em previsão de atributo, muda a tarefa.

Descartar atributos e chamar isso de compressão. Se os atributos finais ainda têm o nome dos originais, houve seleção. Se viraram combinações novas, como as componentes principais, houve extração.

Supor que reforço é uma forma de supervisão com recompensa no lugar do rótulo. O que o agente recebe não diz qual era a ação certa: diz o quanto a ação tomada valeu, e diz depois. Por isso o objetivo é maximizar recompensa acumulada, nunca prever um atributo alvo.

Esperar itens de semissupervisionado. O título do assunto e os manuais o destacam; o corpus deste tópico não o mediu nenhuma vez. Saiba a definição e invista o tempo no eixo do rótulo e no vocabulário de mineração de dados, que juntos respondem por 24 dos 30 itens.

Praticar30 itens