Ejercicio 6, Práctico 3a

Repaso de LRT

Recurde que LRT = Likelihood Ratio Test, es el test que involucra el cálculo de la función $λ(x)$ (aqui $x$ podria ser un vector de parametros),

$$\lambda(x) = \dfrac{\sup_{\theta \in \Theta_0} L(\theta \vert x)}{\sup_{\theta \in \Theta} L(\theta \vert x)}$$ donde $L(\theta \vert x)$ es la funcion de maxima verosimilitud; el denominador de $λ(x)$ es el MLE (optimizacion sin restricciones).

El estadistico LRT para el test $H_0 : \theta \in \Theta_0$ vs. $H_1 : \theta \in \Theta_0^C$: es un test cuya region de rechazo es: $$R = \{ x : \lambda(x) \leq c \},$$ con $c$ en el intervalo $[0, 1]$.

Repaso de la función de potencia

Recordemos que la función de potencia asociada a un test de hipótesis con region de rechazo R es la función del parámetro θ:

$$β(θ) = P_θ (X ∈ R) = \begin{cases} \textrm{prob. error tipo I si } ϴ ∈ Θ_0 \\ 1-\textrm{prob. error tipo II si } ϴ ∈ Θ_0^C \\ \end{cases}$$

Queremos que para todos los $θ ∈ Θ_0$ (region del espacio de parámetros asociado a la hipótesis nula), la probabilidad de errar es decir de rechazar $H_0$ sea pequeña, ie. $β(\theta)$ pequeño (idealmente 0) cuando $θ ∈ Θ_0$. Ésta es la probabilidad de error tipo I.

Asimismo, para $θ ∈ Θ_0^C$ quiero que $P_θ (X ∈ R)$ sea grande (idealmente 1), que significa que el error tipo II es pequeño (recordar que el error tipo II corresponde a aceptar la hipótesis nula cuando en realidad deberia rechazarla). Ver la tabla que se presentar a continuación.

Tamaño $α$ y nivel $α$

Para analizar el error Tipo I se suele definir el concepto de tamaño y nivel de un test de hipótesis.

Def. (tamaño de un test). Para $0 ≤ α ≤ 1$, un test con función de potencia $β(θ)$ es un test de tamaño $α$ si $\sup_{θ ∈ Θ_0} β(θ) = α$.

Def. (nivel de un test). Para $0 ≤ α ≤ 1$, un test con función de potencia $β(θ)$ es un test de nivel $α$ si $\sup_{θ ∈ Θ_0} β(θ) ≤ α$.

Para un LRT dado, rechazamos $H_0$ si $\lambda(X) ≤ c$, pero $c$ no se especifica, es decir se define toda una familia de tests de hipotesis (para cada valor de $c$). La restriccion a un test de tamano $α$ me permite seleccionar un test dentro de esta familia.

UMP

Recurede que un test de hipótesis de nivel $α$ tiene una probabilidad de error tipo I de a lo sumo $α$ para todo $θ ∈ Θ_0$. Idealmente, un buen test también tendría una probabilidad de error tipo 2 pequeña, es decir $β(θ)$ grande para $θ ∈ Θ_0^C$.

Def. (UMP, uniformly most powerful) Sea $C$ una clase de tests $H_0 : θ ∈ Θ_0$ vs. $H_1 : \theta \in Θ_0^C$. Un test en la clase $C$ con función de potencia $β(\theta)$ se dice UMP si $β(θ) ≥ β'(θ)$ para todo $θ \in Θ_0^C$ y todo $β'(θ)$ que es una funcioon de potencia de un test en la clase $C$.

Enunciado del ejercicio

Sea $X_1, …, X_n$ una muestra aleatoria iid de una poblacion normal, $X_i ∼ \mathcal{N}(θ, σ^2)$. Consideramos el test de hipotesis $$H_0: θ ≤ θ_0 \text{ vs. } H_1: θ > θ_0.$$

En este ejercicio consideraremos un LRT de tamano $α$. Tambien demostraremos que dicho test es un test UMP.

Parte (a)

La funcion de verosimilitud es normal en $\theta$,

$$L(θ|x) = (2πσ^2)^{-n/2} \prod_{i=1}^n e^{-(x_i-θ)^2/2\sigma^2}.$$

El estadistico LRT es

$$\lambda(x) = \begin{cases} e^{-n(\bar{x} - \theta_0)^2/2\sigma^2},\qquad \bar{x} \ge \theta_0, \\ 1,\qquad \bar{x} < \theta_0. \end{cases}$$

Por lo tanto, rechazar $λ < c$ es equivalente a rechazar si $$(\bar{x} - \theta_0)/(\sigma/\sqrt{n}) > c'$$

Parte (b)

Es UMP por Karlin-Rubin.

Parte c)

Ver notas.