Função de variância

Em estatística, o desvio de função é uma função suave que mostra a variação de uma quantidade aleatória como uma função de sua média. O desvio de função desempenha um grande papel em muitas definições de modelagem estatística. É um ingrediente principal na lineares generalizados modelo de quadro e uma ferramenta usada em não-paramétricos de regressão, semiparametric regressão e funcional de análise de dados. Na modelagem paramétrica, desvio de funções de assumir uma forma paramétrica e de descrever explicitamente a relação entre a variância e a média de uma quantidade aleatória. Em um não-paramétrico de configuração, o desvio de função é considerado uma função suave.

Intuição

Em um modelo de regressão definição, o objetivo é determinar se existe uma relação entre uma variável resposta e um conjunto de variáveis preditoras. Além disso, se um relacionamento não existe, o objetivo, então, é ser capaz de descrever essa relação como a melhor possível. Uma hipótese principal em regressão linear é constante, a variância ou (homocedasticidade), o que significa que diferentes variáveis de resposta têm a mesma variância nos seus erros, em todos os prognósticos de nível. Esta suposição funciona bem quando a variável resposta e a variável de previsão são solidariamente Normal, consulte a distribuição Normal. Como veremos mais tarde, o desvio de função na configuração Normal, é constante, no entanto, temos de encontrar uma maneira de quantificar heteroscedasticity (não-variância constante) na ausência de Normalidade conjunta.

Quando é provável que a resposta segue uma distribuição que é um membro da família exponencial, um modelo linear generalizado , pode ser mais adequado usar, e além disso, quando quisermos, não para impor um modelo paramétrico para os nossos dados, uma não-paramétricos de regressão abordagem pode ser útil. A importância de ser capaz de modelar a variância como uma função da média reside na melhoria de inferência (paramétrico), e a estimativa da função de regressão, em geral, para qualquer definição.

Desvio de funções desempenham um papel muito importante na estimativa de parâmetros e de inferência. Em geral, a estimativa de máxima verossimilhança requer que a probabilidade de a função ser definida. Este requisito, em seguida, implica que primeiro deve-se especificar a distribuição das variáveis de resposta observada. No entanto, para definir um quase-verossimilhança, é necessário apenas especificar uma relação entre a média e a variância das observações, em seguida, ser capaz de usar o quasi-probabilidade de função para estimativa. Quasi-probabilidade estimativa é particularmente útil quando há overdispersion. Overdispersion ocorre quando há maior variabilidade nos dados, que deve ser de alguma forma esperado, de acordo com a suposta distribuição dos dados.

Em resumo, para garantir a eficiência de inferência dos parâmetros de regressão e a função de regressão, o heteroscedasticity deve ser considerado. Desvio de funções quantificar a relação entre a variância e a média dos dados observados e, portanto, desempenham um papel significativo na regressão estimação e inferência.

Tipos de desvio de funções

O desvio de função e suas aplicações em muitas áreas de análise estatística. Muito importante o uso desta função é, no quadro de modelos lineares generalizados e não-paramétricos de regressão.

Modelo linear generalizado

Quando um membro da família exponencial tiver sido especificado, o desvio de função pode ser facilmente derivada. A forma geral do desvio de função é apresentado sob a exponencial contexto familiar, bem como formas específicas de Normal, de Bernoulli, Poisson e Gama. Além disso, podemos descrever as aplicações e uso da variância de funções na estimativa de máxima verossimilhança e de quasi-probabilidade de estimativa.

Derivação

O modelo linear generalizado (GLM), é uma generalização do processo de análise de regressão que se estende a qualquer membro da família exponencial. É particularmente útil quando a variável resposta é categórica, binário ou sujeita a uma restrição (e.g. apenas respostas positivas fazem sentido). Um resumo rápido dos componentes de um GLM são resumidos nesta página, mas para mais detalhes e informações, veja a página em modelos lineares generalizados.

Um GLM é composto de três ingredientes principais:

1. Componente aleatório: uma distribuição de y a partir da família exponencial, ${\displaystyle }$

2. Preditor Linear: ${\displaystyle }$

3. Função de ligação: ${\displaystyle }$

Primeiro é importante encontrar um par chave propriedades da exponencial de família.

Qualquer variável aleatória ${\displaystyle }$ na família exponencial tem uma função de densidade de probabilidade da forma,

${\displaystyle }$

com loglikelihood,

${\displaystyle }$

Aqui, ${\displaystyle }$ é canônico parâmetro e o parâmetro de interesse, e ${\displaystyle }$ é um incômodo parâmetro que desempenha um papel na variância. Usamos as Identidades de Bartlett para derivar uma expressão geral para o desvio de função. O primeiro e o segundo Bartlett resultados garante que, sob condições adequadas ((ver Leibniz integral regra)), para uma função de densidade dependente ${\displaystyle }$,

${\displaystyle }$

${\displaystyle }$

Essas identidades levar a cálculos simples do valor esperado e a variância de qualquer variável aleatória ${\displaystyle }$ na família exponencial ${\displaystyle }$.

Valor esperado de Y: Tomando a primeira derivada com respeito ao ${\displaystyle }$ o log da densidade na família exponencial forma descrita acima, temos

${\displaystyle }$

Em seguida, tomando o valor esperado e a sua definição igual a zero leva a,

${\displaystyle }$

A variação de Y: Para calcular a variância usamos o segundo Bartlett identidade,

${\displaystyle }$

${\displaystyle }$

${\displaystyle }$

Temos agora uma relação entre ${\displaystyle }$ e ${\displaystyle }$, nomeadamente

${\displaystyle }$ e ${\displaystyle }$, o que permite uma relação entre ${\displaystyle }$ e a variância,

${\displaystyle }$

${\displaystyle }$

Observe que, porque ${\displaystyle }$e , em seguida, ${\displaystyle }$ é invertível. Obtemos o desvio de função para algumas distribuições comuns.

Exemplo – normal

A distribuição Normal é um caso especial onde o desvio de função é uma constante. Deixe ${\displaystyle }$ em seguida, colocamos a função densidade de y na forma de exponencial da família descrito acima:

${\displaystyle }$

onde

${\displaystyle }$

${\displaystyle }$

${\displaystyle }$

${\displaystyle }$

Para calcular o desvio de função ${\displaystyle }$, nós primeiro express ${\displaystyle }$ como uma função de ${\displaystyle }$. Em seguida, podemos transformar ${\displaystyle }$ em uma função de ${\displaystyle }$

${\displaystyle }$

${\displaystyle }$

${\displaystyle }$

Portanto, o desvio de função é constante.

Exemplo – Bernoulli

Deixe ${\displaystyle }$e , em seguida, gostaríamos de expressar a densidade da distribuição de Bernoulli em exponencial na formula,

${\displaystyle }$

${\displaystyle }$ logit(p), o que nos dá ${\displaystyle }$ expit${\displaystyle }$

${\displaystyle }$ e

${\displaystyle }$ expit${\displaystyle }$

${\displaystyle }$

Isto dá-nos

${\displaystyle }$

Exemplo – Poisson

Deixe ${\displaystyle }$e , em seguida, gostaríamos de expressar a densidade da distribuição de Poisson exponencial em forma da família,

${\displaystyle }$

${\displaystyle }$ o que nos dá ${\displaystyle }$

${\displaystyle }$ e

${\displaystyle }$

${\displaystyle }$

Isto dá-nos

${\displaystyle }$

Aqui vemos a central de propriedade de Poisson de dados, de que a variância é igual à média.

Exemplo – Gama

A distribuição Gama e função de densidade pode ser expressa sob diferentes parametrizações. Vamos usar a forma de gama com parâmetros ${\displaystyle }$

${\displaystyle }$

Em seguida, na forma da família exponencial temos

${\displaystyle }$

${\displaystyle }$

${\displaystyle }$

${\displaystyle }$

${\displaystyle }$

${\displaystyle }$

E nós temos ${\displaystyle }$

Aplicação – weighted least squares

Uma aplicação muito importante do desvio de função, é a sua utilização na estimativa de parâmetros e de inferência quando a variável de resposta é necessário exponencial forma da família, bem como, em alguns casos, quando não é (que vamos discutir em quasi-probabilidade). Weighted least squares (WLS) é um caso especial de generalized least squares. Cada termo do WLS critério inclui um peso que determina que a influência de cada observação tem no final estimativas de parâmetros. Como no regular de mínimos quadrados, o objetivo é estimar os parâmetros desconhecidos na função de regressão por encontrar valores para estimativas de parâmetros que minimizam a soma dos desvios quadrados entre o observado respostas e a parte funcional do modelo.

Enquanto WLS pressupõe a independência das observações não assume a igualdade de variância e, portanto, é uma solução para a estimativa de parâmetros na presença de heteroscedasticity. O Gauss–Markov teorema e Aitken demonstrar que o best linear unbiased estimator (AZUL), o estimador imparcial com mínima variância, tem cada peso igual ao recíproco do desvio da medição.

No GLM quadro, o nosso objetivo é estimar parâmetros ${\displaystyle }$, onde ${\displaystyle }$. Portanto, gostaríamos de minimizar ${\displaystyle }$ e se definirmos o peso matriz W como

${\displaystyle }$

onde ${\displaystyle }$ são definidos na seção anterior, permite iteratively reweighted least squares (IRLS) estimativa dos parâmetros. Consulte a seção sobre iteratively reweighted least squares para mais de derivação e de informação.

Além disso, é importante notar que, quando o peso da matriz é da forma aqui descrita, minimizando a expressão ${\displaystyle }$ também minimiza a distância de Pearson. Consulte a Distância de correlação para mais.

A matriz W cai para a direita fora da estimativa de equações para a estimativa da ${\displaystyle }$. Máxima verossimilhança estimativa para cada parâmetro ${\displaystyle }$, requer

${\displaystyle }$, onde ${\displaystyle }$ é a log-verossimilhança.

${\displaystyle }$

${\displaystyle }$

${\displaystyle }$

${\displaystyle }$

${\displaystyle }$e notando que

${\displaystyle }$ temos que

${\displaystyle }$

A matriz Hessiana é determinado de maneira semelhante e pode ser mostrado para ser,

${\displaystyle }$

Percebendo que o Pescador de Informações (FI),

${\displaystyle }$permite uma aproximação assintótica de ${\displaystyle }$

${\displaystyle }$e , portanto, a inferência pode ser realizada.

Aplicativo – quase-probabilidade

Porque a maioria das características dos GLMs depende apenas os dois primeiros momentos da distribuição, ao invés de incluir, em seguida, toda a distribuição, o quase-probabilidade pode ser desenvolvido apenas a especificação de uma função de ligação e um desvio de função. Isto é, precisamos especificar

– Função de ligação: ${\displaystyle }$

– Desvio de função: ${\displaystyle }$

Com um determinado desvio de função e função de ligação que podem se desenvolver, como alternativas para a log-probabilidade de função, a função de pontuação, e o Fisher informações, um quase-probabilidade, um quase-pontuação, e a quase-informações. Isso permite total de inferência de ${\displaystyle }$.

 (QL)

Embora chamado de quase-verossimilhança, isto é, na verdade, um quase-log-verossimilhança. O QL para uma observação é

${\displaystyle }$

E, portanto, o QL para todas as n observações é

${\displaystyle }$

A partir do QL temos o quase-pontuação

Quase-pontuação (QS)

Lembro a pontuação de função, U, para dados com o log-probabilidade ${\displaystyle }$ é

${\displaystyle }$

Obtém-se o quase-pontuação de modo idêntico,

${\displaystyle }$

Notar que, para uma observação, a pontuação é

${\displaystyle }$

Os dois primeiros Bartlett equações são satisfeitas para a quase-pontuação, nomeadamente

${\displaystyle }$

e

${\displaystyle }$

Além disso, o quase-pontuação é linear em y.

Em última análise, o objetivo é encontrar informações sobre os parâmetros de interesse ${\displaystyle }$. Tanto o QS e QL são, na verdade, funções do ${\displaystyle }$. Lembro, ${\displaystyle }$e ${\displaystyle }$portanto ,

${\displaystyle }$

(QI)

O QI, é semelhante ao de Fisher informações,

${\displaystyle }$

QL,QS,QI como funções de ${\displaystyle }$

O QL, QS e QI fornecem os blocos de construção para a inferência sobre os parâmetros de interesse e, portanto, é importante expressar o QL, QS e QI de tudo, como funções de ${\displaystyle }$.

Lembrando novamente que ${\displaystyle }$derivamos as expressões de QL,QS e QI parametrizadas em ${\displaystyle }$.

Quasi-probabilidade ${\displaystyle }$,

${\displaystyle }$

O QS como uma função de ${\displaystyle }$ é, portanto,

${\displaystyle }$

${\displaystyle }$

Onde,

${\displaystyle }$

O quase-matriz de informação em ${\displaystyle }$ é,

${\displaystyle }$

Obter a pontuação função e a informação de ${\displaystyle }$ permite a estimativa de parâmetros e de inferência em uma maneira similar como descrito na Aplicação ponderada dos quadrados mínimos.

Não-paramétrico de análise de regressão

Um scattor enredo de anos na major league contra o salário ($x 1000). A linha é a trend, em média. O enredo demonstra que a variância não é constante.

Não-paramétrico de estimação de desvio de função e a sua importância, tem sido amplamente discutidos na literatura Em não-paramétricos de regressão análise, o objetivo é expressar o valor esperado de sua variável de resposta(y) como uma função de seus preditores (X). De que é que estamos olhando para estimar uma média de função, ${\displaystyle }$ sem assumir uma forma paramétrica. Há muitas formas de não-paramétrico de suavização de métodos para ajudar a estimar a função ${\displaystyle }$. Uma abordagem interessante é, também, olhar para um não-paramétrico de desvio de função, ${\displaystyle }$. Um não-paramétrica de variância função permite procurar em média função de como ele se relaciona com o desvio de função e observar padrões nos dados.

${\displaystyle }$

Um exemplo é detalhado nas fotos para a esquerda. O objetivo do projeto foi a de determinar, entre outras coisas, se é ou não o bolão, o número de anos nas ligas principais (beisebol,) tinha um efeito sobre a resposta, salário, um jogador fez. Uma primeira gráfico de dispersão dos dados indica que há heteroscedasticity em dados como a variância não é constante em cada nível do bolão. Porque podemos visualmente detectar o não-variância constante, é útil agora a trama ${\displaystyle }$e olhar para ver se a forma é indicativo de qualquer conhecidos de distribuição. Pode-se estimar ${\displaystyle }$ e ${\displaystyle }$ usando geral de suavização método. O enredo do não-paramétrico de suavizadas desvio de função pode dar ao pesquisador uma idéia da relação entre a variância e a média. A imagem à direita indica uma relação quadrática entre a média e a variância. Como vimos acima, a Gama de desvio de função é quadrática em média.

Notas

Este artigo "Função de variância" é da wikipedia The list of its authors can be seen in its historical and/or the page Edithistory:Função de variância.

📰 Article(s) of the same category(ies)

• Entidade fechada de previdência complementar

---

 Facebook Page

 Follow us on Twitter !

Read or create/edit this page in another language

• Função de variância in English