9.4 Likelihood Ratio

Likelihood Ratio (LLR) es un test que se utiliza para evaluar la significancia del modelo. Es decir, es un test estadítico que responde a la pregunta de si el modelo en su conjunto es capaz de predecir la variable respuesta mejor de lo esperado por azar, o lo que es equivalente, si al menos uno de los predictores que forman el modelo contribuye de forma significativa.

\[ \begin{aligned} &H_{0}: \beta_{1}=\ldots=\beta_{K}=0\\ &H_{1}: \text { al menos un } \beta_{k} \neq 0 \end{aligned} \] Para realizar este análisis se compara la probabilidad de obtener los valores observados (log likelihood) con el modelo ajustado (\(M1\)) frente a las probabilidades obtenidas con un modelo sin predictores (modelo nulo \(M0\)).


Se considera que el modelo ajustado es útil si es capaz de mostrar una mejora explicando las observaciones respecto al modelo nulo (sin predictores).


  • El test Likelihood ratio calcula la significancia de la diferencia de residuos, deviance, entre el modelo ajustado \(M1\) y el modelo nulo \(M0\).

\[ LLR = -2\log \left[ \dfrac{L(M_0)}{L(M_1)} \right ] = 2[\log {L}(M_1) - \log L(M_0)] \]

El estadístico sigue una distribución chi-cuadrado, \(\chi^2,\) con grados de libertad equivalentes a la diferencia de grados de libertad de los dos modelos. Como se compara respecto al modelo nulo, los grados de libertad equivalen al número de predictores.


Si el test resulta significativo, implica que el modelo es útil, pero no que sea el mejor. Podría ocurrir que alguna de las variables independientes no sea estadísticamente significativa.


- En el ejemplo:

\[\text{Likelihood ratio test: } \chi^2_{(2)} = 18.41 [0.0001],\] indica que el modelo ajustado - con todas las variables independientes- ajusta significativamente mejor que el modelo nulo.