Inferencia estadística · Definición
Estimador
Antes de empezar necesitas conocer
Convierte los datos en una conjetura sobre una cantidad que no podemos observar directamente.
Definición
Un estimador \(\hat\theta\) es una regla \(T\), función de la muestra aleatoria \(X_i\), que produce un valor con el que se aproxima un parámetro desconocido \(\theta\) de la población.
Un estimador es un procedimiento, no un número: antes de observar, \(\hat\theta=T(X_1,\dots,X_n)\) es una variable aleatoria con su propia distribución. Al aplicarlo a los datos concretos se obtiene la estimación, que sí es un número. Así, \(\bar X\) es un estimador de \(\mu\) y \(\bar x=7.2\) es una estimación.
Para juzgar un estimador se pregunta por su sesgo, \(E[\hat\theta]-\theta\), y por su variabilidad, \(\operatorname{Var}(\hat\theta)\). Es insesgado si el sesgo es cero: en promedio acierta. Ambas ideas se resumen en el error cuadrático medio, \(\mathrm{ECM}=\operatorname{Var}(\hat\theta)+\text{sesgo}^2\), que a veces permite preferir un estimador ligeramente sesgado pero mucho más estable.
Ejemplo guía: \(\bar X\) es insesgado para \(\mu\) y la varianza muestral \(S^2=\tfrac{1}{n-1}\sum(X_i-\bar X)^2\) lo es para \(\sigma^2\); dividir entre \(n\) en lugar de \(n-1\) lo sesgaría hacia abajo. Un estimador es consistente si se acerca al parámetro cuando \(n\) crece, algo que la ley de los grandes números garantiza para \(\bar X\).
Un error típico es pensar que un estimador insesgado es siempre el mejor: puede tener una varianza enorme, como \(X_1\) frente a \(\bar X\). Otro es olvidar que la estimación cambia de muestra en muestra; cuantificar esa incertidumbre es justo el papel de los intervalos de confianza y de las pruebas de hipótesis.
Para pensar
¿Por qué \(S^2\) divide entre \(n-1\) y no entre \(n\)?
Porque las desviaciones se miden respecto de \(\bar X\), que está más cerca de los datos que \(\mu\); dividir entre \(n\) subestimaría \(\sigma^2\) en promedio, y con \(n-1\) el sesgo desaparece.
¿Es \(\bar x=7.2\) un estimador o una estimación?
Una estimación: es el valor numérico que toma el estimador \(\bar X\) en una muestra concreta.
Ejercicios 10
- Con la muestra \(4,\ 8,\ 6,\ 10\) se usa \(\bar X\) para estimar \(\mu\). ¿Qué estimación se obtiene?
- En \(50\) pacientes, \(18\) responden al tratamiento. Si la proporción muestral estima \(p\), ¿cuál es la estimación?
- Un estimador \(\hat\theta\) cumple \(E[\hat\theta]=\theta+2\). ¿Cuánto vale su sesgo?
- Para una muestra aleatoria con media \(\mu\), ¿cuál de estos es un estimador insesgado de \(\mu\)?
- Con los datos \(2,\ 4,\ 6,\ 8\), ¿cuánto vale la varianza muestral \(S^2\) (dividiendo entre \(n-1\))?
- Un estimador tiene varianza \(4\) y sesgo \(1\). ¿Cuál es su error cuadrático medio?
- Una población tiene \(\sigma^2=36\). Con \(n=9\), ¿cuál es la varianza de \(\bar X\)?
- Con \(n=25\), ¿qué estimador insesgado de \(\mu\) es preferible: \(\bar X\) o solo \(X_1\)?
- Si \(\mu=3\) y se usa \(\hat\mu=2\bar X\), ¿cuánto vale el sesgo?
- Una muestra de tamaño \(n=4\) viene de \(\mathrm{Unif}(0,\theta)\) con \(\theta=10\). Se sabe que \(E[\max X_i]=\tfrac{n}{n+1}\theta\). ¿Cuánto vale el sesgo de \(\max X_i\) como estimador de \(\theta\)?
Después de esto
Referencias
- George Casella, Roger L. Berger, Statistical Inference, 2nd edition, Duxbury / Cengage, 2002. §7.1 y §7.3
- Ronald E. Walpole, Raymond H. Myers, Sharon L. Myers, Keying Ye, Probabilidad y estadística para ingeniería y ciencias, 9.ª edición, Pearson, 2012. §9.3
- Larry Wasserman, All of Statistics, 1st edition, Springer, 2004. §6.3