Estimador extremo

En estadística, los estimadores extremos constituyen una amplia clase de estimadores para modelos paramétricos que se calculan mediante la maximización (o minimización) de una determinada función objetivo, que depende de la muestra. La teoría general de estimadores extremos fue desarrollada por Plantilla:Harvtxt.

Definición

Un estimador $\hat{\theta }$ se llama estimador extremo si existe una función objetivo ${\hat{Q}}_n$ tal que

$\hat{\theta }=\underset{\theta \in \mathrm{\Theta }}{\mathrm{a}\mathrm{r}\mathrm{g}\mathrm{m}\mathrm{a}\mathrm{x}}{\hat{Q}}_n(\theta ),$

donde $\mathrm{\Theta }$ es el espacio de parámetros. A veces se da una condición más débil:

${\hat{Q}}_n(\hat{\theta })\ge \underset{\theta \in \mathrm{\Theta }}{\max }{\hat{Q}}_n(\theta )-o_p(1),$

donde $o_p(1)$ es una variable que converge en probabilidad a cero. Con esta modificación, $\hat{\theta }$ no necesita ser el valor exacto que maximiza la función objetivo, sino simplemente estar lo suficientemente cerca de ese valor.

La teoría de los estimadores extremos no especifica cuál debe ser la función objetivo. Existen varios tipos de funciones objetivo adecuadas para diferentes modelos, por lo que el estudio de los estimadores extremos nos permite analizar simultáneamente las propiedades teóricas de una amplia clase de estimadores. La teoría sólo especifica las propiedades que la función objetivo debe tener, de forma que, cuando uno elige una función objetivo particular, sólo debe verificar que esas propiedades se cumplen.

Consistencia

Cuando el espacio de parámetros $\mathrm{\Theta }$ no es compacto ($\mathrm{\Theta }=ℝ$ en este ejemplo), aunque la función objetivo tenga un único máximo en ${\theta }_0$, este máximo puede no estar bien separado, en cuyo caso el estimador $\hat{\theta }$ no será consistente.

Si el espacio de parámetros $\mathrm{\Theta }$ es compacto y existe una función límite $Q_0(\theta )$ tal que:

1. ${\hat{Q}}_n(\theta )\to Q_0(\theta )$ en probabilidad uniformemente en $\mathrm{\Theta }$, y
2. la función $Q_0(\theta )$ es continua y tiene un único máximo en $\theta ={\theta }_0$,

entonces $\hat{\theta }$ es un estimador consistente de ${\theta }_0$.

La convergencia uniforme en probabilidad de ${\hat{Q}}_n(\theta )$ significa que

$\underset{\theta \in \mathrm{\Theta }}{\sup }|{\hat{Q}}_n(\theta )-Q_0(\theta )|\stackrel{p}{\to }0.$

La condición de que $\mathrm{\Theta }$ sea compacto puede relajarse: basta suponer que el máximo de $Q_0$ está bien separado, es decir, que para toda secuencia $\{{\theta }_i\}$ tal que $Q_0({\theta }_i)\to Q_0({\theta }_0)$ se verifica ${\theta }_i\to {\theta }_0$. Intuitivamente, esto significa que no existen puntos $\theta$ lejanos a ${\theta }_0$ tales que $Q_0(\theta )$ esté próximo a $Q_0({\theta }_0)$.

Normalidad asintótica

Suponiendo que son ciertas las hipótesis anteriores para la consistencia y que las derivadas de ${\hat{Q}}_n$ satisfacen ciertas condiciones, el estimador extremo es asintóticamente normal.

Ejemplos

• La estimación por máxima verosimilitud utiliza la función objetivo

${\hat{Q}}_n(\theta )=\log [\prod _{i=1}^{n}f(x_i|\theta )]=\sum _{i=1}^n\log f(x_i|\theta ),$

donde $f(\cdot |\theta )$ es la función de densidad de la distribución de la que fue extraída la muestra. Esta función objetivo se llama función de log-verosomilitud.

• El estimador del método de los momentos generalizado se define mediante la función objetivo

${\hat{Q}}_n(\theta )=-(\frac{1}{n}\sum _{i=1}^{n}g(x_i,\theta ){)}^{\prime }{\hat{W}}_n(\frac{1}{n}\sum _{i=1}^{n}g(x_i,\theta )).$

• Estimador de mínima distancia.