Résolution numérique

La méthode employée pour maximiser la vraisemblance est celle de Fletcher-Reeves. Nous en rappelons l'algorithme:

1. Etape O :
   Fixer $\theta^0$, calculer $g_0=\nabla \Gamma (\theta^0)$
   poser $m_0=g_0$, pour définir une direction de montée.
2. Etape k :
   $\theta^{k+1}=\theta^{k}+\lambda_k m_k$ où $\lambda_k$ maximise $\mathcal G (\lambda)=\Gamma (\theta^k+\lambda m_k)$
   
   Calculer $m_{k+1}=g_{k+1}+\beta_k m_k \; \mbox{avec} \; \left \{ \begin{array}{l} g_{... ...= \frac{\Vert g_{k+1} \Vert^2}{\Vert g_k \Vert^2}\\ \end{array} \right. \;$, pour déterminer
   
   une direction de montée conjuguée à la précédante.
   
   

Cet algorithme nécessite une procédure de maximisation 1-D afin de déterminer l'optimum de $\mathcal G$ à l'étape k. On supposera que $\mathcal G$ est unimodale afin d'appliquer une méthode dichotomique, en effet :

Propriété Si $\mathcal G$ est unimodale sur un intervalle [A,B], alors elle admet un maximum $\bar\lambda$ tel que $\forall \lambda_1,\lambda_2 \in [A,B] \; \mbox{avec} \; \lambda_1<\lambda_2$ on ait :

$$\mathcal G(\lambda_1)<\mathcal G(\lambda_2) \Rightarrow \lambda_2 > \bar \lambda$$

$$\mathcal G(\lambda_1)>\mathcal G(\lambda_2) \Rightarrow \lambda_1 < \bar \lambda$$

Algorithme:

1. Etape 0 :
   Partir d'un intervalle $[a_0,b_0]$.
   Calculer $c_0=\frac{a_0+b_0}{2},d_0=\frac{a_0+c_0}{2},e_0=\frac{c_0+b_0}{2}$.
2. Etape k :
   Par la propiété d'unimodalité, on élimine deux des quatres sous intervalles.