Simulación: máximos locales en la verosimilitud de una mezcla de normales

Los rendimientos diarios (%) de un activo vienen de dos regímenes: el calmo, 70 % de los días, con media μ₁ y desviación 0.5, y el turbulento, 30 % de los días, con media μ₂ y desviación 2. La densidad es f(y) = π φ(y; μ₁, σ₁²) + (1 − π) φ(y; μ₂, σ₂²). Aquí se conocen π, σ₁ y σ₂ y se estiman las dos medias, para poder ver la superficie ℓ(μ₁, μ₂). Verás que la superficie tiene más de una cima: un algoritmo que sube por la pendiente puede detenerse en una cima que no es la más alta.

Los datos y la mezcla en la iteración actual

mezcla con (μ₁, μ₂) actuales mezcla en el máximo global

Superficie ℓ(μ₁, μ₂) vista desde arriba

máximo global máximo local camino del algoritmo punto de partida

Haz clic en el mapa para fijar el punto de partida. Cuanto más oscuro el azul, mayor ℓ; las curvas blancas rodean cada cima. Horizontal: μ₁ (media del régimen calmo). Vertical: μ₂ (media del turbulento).

1. Subir desde un punto de partida

Algoritmo: Partida:

Iteración

ℓ actual

–

ℓ del máximo global

–

‖∇ℓ‖ (el score)

–

Elige un punto de partida y sube paso a paso.

¿Por qué se queda ahí? Lo que dice el cálculo

Un máximo interior cumple la ecuación de score, ∇ℓ = 0, y la condición de segundo orden, Hessiano definido negativo. Las dos cimas de la figura cumplen ambas; la tabla de abajo lo muestra con los autovalores del Hessiano.
Esas condiciones son locales: solo comparan ℓ con los puntos vecinos. Nada en ellas dice si hay otra cima más alta lejos de ahí.
Un algoritmo de ascenso (gradiente, Newton, BFGS, EM) usa información local; termina en la cima de la colina donde empezó.
El estimador de máxima verosimilitud es, por definición, el máximo global. Un algoritmo local puede entregar otro valor y la salida no avisa del error.

2. Muchas partidas al azar

Cada punto del mapa es una partida; su color indica a dónde terminó el algoritmo elegido arriba.

Verde: máximo global. Coral: máximo local. Gris: se detuvo donde el gradiente es casi cero pero no es un máximo (meseta o silla). Con BFGS el primer paso usa el gradiente sin escalar y puede lanzar el punto muy lejos, a regiones planas; por eso aparecen más partidas grises. En la práctica se corre el algoritmo desde varias partidas y se conserva la de mayor ℓ.

3. Otra muestra

n = 100

Entre muestras cambia el número de cimas. Con más datos las cimas locales no desaparecen: la cima global se separa más de ellas, pero un algoritmo que arranca mal sigue terminando en la equivocada.

Interpretación de la cima local en este modelo

En la cima global, el régimen calmo (σ₁ = 0.5) se coloca sobre el grueso de los días y el turbulento absorbe las colas. La cima local reparte los papeles al revés: un régimen calmo estrecho se coloca sobre un grupo de días extremos de un lado y el turbulento cubre el resto. Cada reparto es un punto fijo de las ecuaciones de score; solo uno maximiza la verosimilitud.