Por análise de variância e de regressão linear são a mesma análise

Se a sua formação estatística de pós-graduação era qualquer coisa como meus, você aprendeu ANOVA em uma classe e Regressão Linear em outro. Meus professores costumava dizer coisas como "ANOVA é apenas um caso especial de Regressão", em seguida, fazer um monte de mão acenando quando pressionado para explicar.

Não foi até que eu comecei consulta que eu percebi o quão intimamente relacionado ANOVA e regressão são. Eles não só estão relacionados, eles são a mesma coisa. Não um quarto e um níquel -. Lados diferentes da mesma moeda

Então aqui está um exemplo muito simples que mostra por quê. Quando alguém me mostrou isso, uma lâmpada acendeu, apesar de eu já sabia tanto análise de variância e de regressão linear mulitple muito bem (e já tinha os meus mestres em estatísticas!). Eu acredito que a compreensão deste conceito pouco tem sido fundamental para a minha compreensão do modelo linear geral como um todo -. Suas aplicações são de longo alcance

Como um exemplo, eu uso um modelo com um único variable-- independente categórica categoria do emprego - com 3 categorias: gerencial, de escritório, e de custódia. A variável dependente é Experiência anterior em meses. (Este conjunto de dados é employment.sav, um dos conjuntos de dados que vem livre com SPSS).

Nós podemos correr esse tanto como uma ANOVA ou uma regressão. Na ANOVA, a variável categórica é efeito codificado, o que significa que média de cada categoria é comparada com a média geral. Na análise de regressão, a variável categórica é codificada ** manequim, o que significa que a intercepção de cada categoria é comparada com a de intercepção do grupo de referência. Desde a intercepção é definida como o valor médio quando todos os outros preditores = 0, e não existem outros preditores, os três interceptações são apenas meios.

Em ambas as análises, Categoria Job tem um F = 69,192, com ap < 0,001. Altamente significativa

Na ANOVA, encontramos as médias dos três grupos são:.

Clerical: 85,039

Carcerários: 298,111

Gerenciador: 77,619

Na regressão, encontramos esses coeficientes:

Intercept: 77,619

Clerical: 7,420

Carcerários: 220,492

A intercepção é simplesmente a média do grupo de referência, Gestores. Os coeficientes para os outros dois grupos são as diferenças na média entre o grupo de referência e os outros grupos.

Você vai notar, por exemplo, que o coeficiente de regressão para Clerical é a diferença entre a média para Clerical , 85,039, ea interceptação, ou significa para Manager (85,039-77,619 = 7,420). O mesmo funciona para privativas de liberdade.

Assim, uma ANOVA relata cada dizer e um valor-p que diz, pelo menos, dois são significativamente diferentes. A relatórios de regressão apenas um médios (como uma interceptação), e as diferenças entre aquele e todos os outros meios, mas os valores de p avaliar essas comparações específicas.

É tudo o mesmo modelo, a mesma informação, mas apresentados em formas diferentes. Entenda o que a modelo diz-lhe em cada caminho, e você está autorizado.

Eu sugiro que você experimente este pequeno exercício com qualquer conjunto de dados, em seguida, adicione em uma segunda variável categórica, primeiro sem e depois com uma interação. Vá através dos meios e dos coeficientes de regressão e ver como eles se somam

** A codificação manequim cria duas variáveis: 1/0. Clerical = 1 para a categoria clerical, 0 caso contrário; Carcerários = 1 para a categoria de custódia, 0 caso contrário. Observações na categoria Gerencial tem um valor 0 em ambas as variáveis, e isso é conhecido como grupo de referência Restaurant  .;