Simulación: la superficie de verosimilitud y cómo se encuentra su máximo
Es la superficie de la Figura 4.7: la log-verosimilitud
ℓ(μ,σ²) de seis rendimientos diarios (%) de un activo, supuestos normales.
Primero evalúa la función en puntos al azar y comprueba que ninguno supera al estimador de máxima
verosimilitud; después mira cómo un algoritmo numérico sube, paso a paso, hasta la cima.
Los puntos se dibujan siempre encima de la superficie, aunque estén del lado oculto.
Vista desde arriba: curvas de nivel
Cada curva une puntos con la misma ℓ; la más interna está a 0.5 unidades de log-verosimilitud del máximo y las siguientes a 1.5, 3, 5, 8, 12, 18 y 26. La franja gris es la zona donde el Hessiano deja de ser definido negativo.
1. Evaluar al azar: ¿alguna supera al EMV?
Evaluaciones
0
Superaron al EMV
0 de 0
Mejor ℓ hallada al azar
–
Presiona un botón para evaluar la log-verosimilitud en puntos elegidos al azar dentro de la ventana de la figura.
Brecha ℓ(θ̂) − (mejor ℓ al azar), en escala logarítmica, contra el número de evaluaciones. Se acerca a cero, pero nunca la cruza, y baja lentamente: elegir puntos al azar es una forma muy ineficiente de buscar un máximo.
¿Por qué ninguna evaluación puede superar al EMV?
Con S = Σ(xi − x̄)² y n = 6,
ℓ(μ,σ²) = −(n/2) log 2π − (n/2) log σ² − [S + n(x̄ − μ)²]/(2σ²).
Para σ² fijo, el término n(x̄ − μ)²/(2σ²) es no negativo, así que ℓ(μ,σ²) ≤ ℓ(x̄,σ²).
Con σ̂² = S/n y t = σ̂²/σ², ℓ(x̄,σ²) − ℓ(x̄,σ̂²) = (n/2)[log t − (t − 1)] ≤ 0, porque log t ≤ t − 1.
Por tanto ℓ(θ) ≤ ℓ(θ̂) para todo θ, con igualdad solo en θ̂. En términos de razón de verosimilitudes, LR(θ̂, θ) ≥ 1: el EMV le gana a cualquier otro valor (Observación 4.9.5).
2. Subir a la cima, paso a paso
La partida difícil es (μ, σ²) = (−0.73, 0.23): desde ahí Newton puro falla y BFGS sobre (μ, σ²) se sale de la ventana. Prueba los cuatro algoritmos.
También puedes elegir el punto de partida con un clic en el mapa (activa «fijar punto de partida» debajo del mapa).
gradiente ∇ℓ (dirección; es perpendicular a la curva de nivel) paso completo propuesto (salto al máximo del modelo cuadrático) paso que se acepta
¿Qué hace cada algoritmo?
Newton-Raphson. Cerca de θk reemplaza ℓ por su aproximación cuadrática de Taylor (las elipses punteadas) y salta a su máximo: θk+1 = θk − H(θk)−1∇ℓ(θk). El gradiente ∇ℓ es el score; las ecuaciones de score son ∇ℓ = 0. Funciona cuando H es definido negativo, y aquí eso ocurre solo si σ² < 2σ̂² ≈ 0.94 (la franja gris del mapa no lo cumple). La versión con retroceso acorta el salto (t = 1, 1/2, 1/4, …) hasta que ℓ mejora, y si H no es definido negativo lo reemplaza por una versión con autovalores forzados a ser negativos.
Newton puro. El salto completo, sin salvaguardas. Desde una partida lejos de la cima el modelo cuadrático puede apuntar a σ² ≤ 0, que no existe: el algoritmo falla. Desde 50 de las 90 partidas de una cuadrícula sobre la ventana de la figura ocurre así.
BFGS. No calcula H: mantiene una matriz B que aproxima la inversa de −H y la va corrigiendo con la diferencia entre los gradientes de dos iteraciones. Arranca con B = I (círculos), así que el primer paso es un ascenso por gradiente, y poco a poco los círculos se deforman en elipses parecidas a las curvas de nivel. Es una réplica fiel del código de optim(method = "BFGS") en R: mismo retroceso (factor 0.2), misma condición de aceptación, mismo criterio de parada (cambio relativo en ℓ menor que 1.5e-8) y máximo de 100 iteraciones; sus iterados coinciden con los de optim.
Sobre (μ, log σ²). Optimizar sobre φ = log σ² evita que el paso caiga en σ² ≤ 0. Es legítimo porque, por la invarianza del EMV, el máximo en φ corresponde al máximo en σ².
Al final. En el máximo, −H(θ̂)−1 = diag(σ̂²/n, 2σ̂&sup4;/n): las varianzas asintóticas del EMV, o sea la inversa de la información de Fisher.
Elaborado por C. Vladimir Rodríguez-Caballero (Depto. Estadística, ITAM)