8.1 8.1 Convergencia de sucesiones de variables aleatorias
8.1 Convergencia de sucesiones de variables aleatorias
Lanzamos una moneda equilibrada y anotamos la frecuencia relativa de caras tras \(n \) lanzamientos.
Si \(n = 10 \), la frecuencia puede ser \(0,7 \) o \(0,3 \);
si \(n = 10000 \), estará muy próxima a \(0,5 \)
La convergencia en probabilidad describe precisamente esta estabilización: \(P(|f_n - 0,5| \ge \varepsilon) \to 0 \) cuando \(n \to \infty \)
Motivación: el comportamiento a largo plazo
En esta sección formalizaremos la estabilización de los promedios:
si lanzamos una moneda \(10000 \) veces, la proporción de caras estará muy cerca de \(0,5 \) casi con total seguridad, y veremos que esto es la convergencia en probabilidad de la media muestral hacia la media poblacional.
Cuando repetimos un experimento aleatorio muchas veces, observamos una regularidad sorprendente: los promedios se estabilizan.
Si lanzamos una moneda equilibrada diez veces, la proporción de caras puede ser 0,7 o 0,3; pero si la lanzamos diez mil veces, la proporción estará muy cerca de 0,5 casi con total seguridad.
Esta estabilización no es casualidad: es una propiedad matemática de las sucesiones de variables aleatorias, y el concepto que la captura es la convergencia.
En esta sección formalizaremos qué significa que una sucesión \(X_1, X_2, \dots \) de variables aleatorias converja hacia una variable límite \(X \) cuando \(n \) tiende a infinito.
Convergencia en probabilidad
Si lanzamos una moneda equilibrada diez veces, la proporción de caras puede ser \(0,7 \) o \(0,3 \); pero con diez mil lanzamientos estará muy cerca de \(0,5 \) casi con total seguridad.
Los promedios se estabilizan al crecer el número de observaciones: esa regularidad es la convergencia.
El modo de convergencia más intuitivo es la convergencia en probabilidad.
Decimos que \(X_n \) converge en probabilidad hacia \(X \), y lo escribimos \(X_n \xrightarrow{p} X \), si para cualquier margen de error \(\delta > 0 \) la probabilidad de que \(X_n \) se aleje de \(X \) más que \(\delta \) tiende a cero cuando \(n \) crece.
En símbolos:
La interpretación es directa: por muy pequeño que sea el margen \(\delta \) que fijemos, si tomamos \(n \) suficientemente grande, la probabilidad de que \(X_n \) caiga fuera del intervalo \((X - \delta, X + \delta) \) es tan pequeña como queramos.
No se afirma que \(X_n \) termine quedándose dentro del intervalo para siempre, sino que la probabilidad de salirse de él se hace despreciable.
Convergencia en distribución
Sea \(\bar{X}_n \) la proporción de caras en \(n \) lanzamientos de una moneda equilibrada.
Decir que \(\bar{X}_n \xrightarrow{p} 0,5 \) significa que, fijado cualquier margen \(\delta > 0 \), \(P(|\bar{X}_n - 0,5| > \delta) \to 0 \) cuando \(n \) crece.
Un segundo modo de convergencia, más débil, es la convergencia en distribución.
Solo exige que las funciones de distribución se aproximen.
Si \(F_n(x) = P(X_n \leq x) \) es la función de distribución de \(X_n \) y \(F(x) \) la de \(X \), decimos que \(X_n \) converge en distribución hacia \(X \), escrito \(X_n \xrightarrow{d} X \), si
para todo punto \(x \) en el que \(F \) sea continua.
La idea geométrica es clara: los histogramas de \(X_n \) se van pareciendo cada vez más al histograma límite descrito por \(F \)
Este es el modo de convergencia que protagoniza el teorema central del límite en la sección 8.2: la distribución de la suma tipificada converge hacia la normal estándar.
Convergencia casi segura
La suma tipificada de \(n \) variables de Bernoulli converge en distribución hacia la \(N(0, 1) \): sus funciones de distribución se aproximan a \(\Phi \)
Solo se exige que las distribuciones se parezcan, no que los valores de las variables se acerquen entre sí: es un modo más débil que la convergencia en probabilidad.
Mencionamos brevemente un tercer modo, el más fuerte de los tres: la convergencia casi segura.
Se escribe \(X_n \xrightarrow{c.s.} X \) y significa que
Es decir, con probabilidad uno, la sucesión de valores observados \(X_1, X_2, \dots \) termina acercándose a \(X \) en el sentido del análisis ordinario.
Es más exigente que la convergencia en probabilidad, porque controla el comportamiento de toda la trayectoria y no solo la probabilidad de cada desviación aislada.
Relaciones entre los modos de convergencia
La ley fuerte de los grandes números afirma que \(\bar{X}_n \xrightarrow{c.s.} \mu \): con probabilidad uno, la sucesión de medias observadas tiende al valor \(\mu \)
Es el modo más fuerte: no solo la probabilidad de desviarse tiende a cero, sino que las trayectorias mismas convergen salvo en un conjunto de probabilidad nula.
Los tres modos están jerarquizados.
La convergencia casi segura implica la convergencia en probabilidad, y la convergencia en probabilidad implica la convergencia en distribución:
Las implicaciones recíprocas no son ciertas en general.
Hay una excepción importante: cuando el límite es una constante \(c \), la convergencia en distribución y la convergencia en probabilidad son equivalentes.
Este caso es el que aparece en la ley de los grandes números, donde la media muestral converge hacia la constante \(\mu \)
La desigualdad de Tchebychev
Los tres modos están jerarquizados: $$X_n \xrightarrow{c.s.} X \Rightarrow X_n \xrightarrow{p} X \Rightarrow X_n \xrightarrow{d} X $$
Las recíprocas no valen en general: que las distribuciones se aproximen no garantiza que los valores se acerquen.
Antes de enunciar la ley de los grandes números necesitamos una herramienta para acotar la probabilidad de que una variable se aleje mucho de su media.
Partimos de la desigualdad de Markov:
si \(X \) es no negativa y \(a > 0 \), entonces
La demostración de Markov es sencilla: como \(X \) es no negativa, \(X \geq a \cdot I_{\{X \geq a\}} \), y tomando esperanzas se obtiene \(E[X] \geq a \cdot P(X \geq a) \), de donde despejamos la desigualdad.
Aplicando Markov a la variable no negativa \(Y = (X - \mu)^2 \) con el umbral \(a = k^2 \), y observando que $$P((X - \mu)^2 \geq k^2) = P(|X - \mu| \geq k) $$, obtenemos la desigualdad de Tchebychev:
para toda variable \(X \) con media \(\mu \) y varianza \(\sigma^2 \) finitas, y para todo \(k > 0 \),
La desigualdad de Tchebychev es universal: no supone ninguna forma concreta para la distribución de \(X \), solo que existan la media y la varianza.
El precio de esa generalidad es que la cota suele ser poco ajustada, como veremos en los ejemplos.
La ley débil de los grandes números
Si \(X \) es no negativa con \(E[X] = 100 \), la desigualdad de Markov da \(P(X \geq 500) \leq \frac{100}{500} = 0,2 \)
Aplicada a \((X - \mu)^2 \) se obtiene la desigualdad de Tchebychev para acotar desviaciones respecto a la media.
Sea \(X_1, \dots, X_n \) una muestra aleatoria simple de una población con media \(\mu \) y varianza \(\sigma^2 \) finitas, y sea \(\bar{X}_n = \frac{1}{n}\sum_{i=1}^{n} X_i \) la media muestral.
La ley débil de los grandes números afirma que
La demostración es una aplicación directa de Tchebychev: como \(E[\bar{X}_n] = \mu \) y \(\text{Var}(\bar{X}_n) = \frac{\sigma^2}{n} \), la desigualdad de Tchebychev da
$$P(|\bar{X}_n - \mu| \geq \varepsilon) \leq \frac{\sigma^2}{n\varepsilon^2} $$,
y el segundo miembro tiende a cero cuando \(n \to \infty \)
Por tanto, la media muestral se concentra alrededor de la media poblacional: este es el fundamento teórico que justifica estimar \(\mu \) mediante \(\bar{X}_n \)
Un caso particular importante es el de las frecuencias relativas:
si \(X_i \) vale 1 con probabilidad \(p \) y 0 con probabilidad \(1 - p \), entonces \(\frac{S_n}{n} \xrightarrow{p} p \), es decir, la frecuencia relativa de éxitos converge en probabilidad hacia la probabilidad teórica.
Ejemplos resueltos
Si \(X_1, \dots, X_n \) es una muestra de una población con media \(\mu \) y varianza \(\sigma^2 \) finitas, la ley débil afirma que \(\bar{X}_n \xrightarrow{p} \mu \)
La demostración usa Tchebychev con \(\text{Var}(\bar{X}_n) = \frac{\sigma^2}{n} \), que tiende a cero.
Como anticipo del primer ejemplo resuelto: un economista quiere estimar el consumo medio con error menor que \(10 \) euros y probabilidad al menos \(0,95 \), sabiendo que \(\sigma = 400 \)
Tchebychev exige \(1 - \frac{160000}{100n} \geq 0,95 \), es decir, \(n \geq 32000 \): una cota válida pero muy exigente.
Tamaño muestral con la desigualdad de Tchebychev.
Un economista desea estimar el consumo medio por persona en una gran ciudad usando la media muestral para estimar \(\mu \)
Quiere que el error de la estimación sea menor que 10 euros con probabilidad al menos 0,95, conociendo que la desviación típica es de 400 euros.
¿Qué tamaño muestral exige la desigualdad de Tchebychev?
Impondremos la condición \(P(|\bar{X} - \mu| < 10) \geq 0,95 \). La acotaremos con la desigualdad de Tchebychev aplicada a la media muestral y despejaremos el tamaño \(n \) necesario.
Acotación con la desigualdad de Tchebychev y despeje del tamaño muestral.
Por la desigualdad de Tchebychev aplicada a \(\bar{X} \), cuya varianza es \(\sigma^2/n \), tenemos $$P(|\bar{X} - \mu| \geq 10) \leq \frac{\sigma^2}{n \cdot 10^2} = \frac{400^2}{100n} = \frac{1600}{n} $$
Para que esta probabilidad sea como máximo \(0,05 \) necesitamos \(\frac{1600}{n} \leq 0,05 \), es decir, \(n \geq \frac{1600}{0,05} = 32000 \)
Con la desigualdad de Tchebychev se necesitan al menos 32000 observaciones para garantizar un error menor que 10 euros con probabilidad 0,
9
5.
Es un tamaño enorme, consecuencia de que Tchebychev da una cota universal pero poco ajustada: con el teorema central del límite, que estudiaremos en la sección 8.2, bastan 6147 observaciones.
Se lanza 400 veces una moneda equilibrada.
Acota, mediante la desigualdad de Tchebychev, la probabilidad de que la frecuencia relativa de caras difiera de 0,5 en más de 0,
0
5.
Modelaremos cada lanzamiento como una variable de Bernoulli de parámetro 0,5 y aplicaremos la desigualdad de Tchebychev a la media muestral, que en este caso es la frecuencia relativa de caras.
Después compararemos la cota obtenida con el valor aproximado que da el teorema central del límite.
Modelo de Bernoulli de los lanzamientos.
Sea \(X_i \) el resultado del lanzamiento $$i ,\ \text{con}\ P(X_i = 1) = P(X_i = 0) = 0,5 $$
Entonces \(E[X_i] = 0,5 \) y \(\text{Var}(X_i) = 0,5 \cdot 0,5 = 0,25 \)
La frecuencia relativa de caras es \(\bar{X} = \frac{S_{400}}{400} \)
Aplicación de la desigualdad de Tchebychev.
Por la desigualdad de Tchebychev, $$P(|\bar{X} - 0,5| \geq 0,05) \leq \frac{0,25}{400 \cdot 0,05^2} = \frac{0,25}{1} = 0,25 $$
La cota garantiza que la probabilidad de una desviación mayor que 0,05 no supera 0,
2
5.
Interpretación con la ley débil y comparación con el teorema central del límite.
La ley débil de los grandes números nos dice además que esta probabilidad tiende a cero si seguimos aumentando el número de lanzamientos, pues la cota \(\frac{0,25}{n \cdot 0,05^2} \) se hace arbitrariamente pequeña.
A modo de comparación, el teorema central del límite da para esta probabilidad el valor aproximado \(P(|Z| \geq 2) \approx 0,0455 \), mucho menor que la cota 0,25: Tchebychev es seguro pero conservador, mientras que el teorema central del límite es preciso pero solo aproximado.
La probabilidad de que la frecuencia de caras en 400 lanzamientos se desvíe de 0,5 en más de 0,05 es como máximo 0,25 según Tchebychev, y la ley débil garantiza que esta probabilidad tiende a cero al aumentar el número de lanzamientos.
Sea \(X \sim P(2) \), de modo que \(E[X] = 2 \) y \(\text{Var}(X) = 2 \)
Acotamos con la desigualdad de Tchebychev la probabilidad \(P(|X - 2| \geq 4) \) y la comparamos con su valor exacto.
Para resolver este ejemplo empezaremos por aplicar la desigualdad de Tchebychev con la media y la varianza de la Poisson.
A continuación calcularemos la probabilidad exacta usando la función de probabilidad de la Poisson.
Para terminar compararemos la cota con el valor real y extraeremos la moraleja sobre la desigualdad.
Acotación con la desigualdad de Tchebychev.
Aplicando la desigualdad de Tchebychev con \(\mu = 2 \), \(\sigma^2 = 2 \) y \(k = 4 \):
Cálculo de la probabilidad exacta.
Como \(X \) solo toma valores no negativos, \(|X - 2| \geq 4 \) equivale a \(X \geq 6 \)
Con la función de probabilidad de la Poisson de parámetro \(2 \):
Comparación.
La cota de Tchebychev, \(0,125 \), es casi ocho veces mayor que el valor real, \(0,0166 \)
La desigualdad es universal, vale para cualquier distribución con media y varianza finitas, pero el precio de esa generalidad es una cota poco ajustada: cuando se conoce la distribución exacta, como aquí, debe usarse esta.
Tchebychev garantiza que \(P(|X - 2| \geq 4) \leq 0,125 \), mientras que el valor exacto es \(0,0166 \)
La desigualdad es una herramienta de seguridad, no de precisión.