GC no lineal (NLCG)

Nonlinear Conjugate Gradient (NLCG). La base de un gradiente conjugado no lineal es aplicar el conjugado lineal y después reemplazar el residuo por el gradiente. Todo empieza con la necesidad de obtener el mínimo de una función no lineal, es el problema de optimización sin restricciones y sabemos que encontrar, de forma directa, el mínimo o máximo global de una función no lineal es un problema no resuelto.

Dada f: ℜn→ ℜ , es una función continua diferenciable y su gradiente g(x) es asequible. Debemos encontrar

 

min f (x),  x ∈ ℜn

x es el mínimo global de f sobre ℜn

 

El método genera una secuencia iterada {xk} por:

 

xk+1  = xk +  αkdk  ,   k = 0, 1, …,

 

donde xk es la iteración actual de, αk> 0 (es el tamaño del paso) y se calcula mediante la búsqueda lineal y dk es la dirección de búsqueda definida por:

 

 

donde  gk = g(xk)  y  βk es un escalar.

 

 

Uno de los métodos más utilizados es el de Fletcher y Reeves, este sustituye al cálculo de la matriz de Hess por búsquedas lineales (Strong Wolfe-Powell-SWP- o Weak Wolfe-Powell -WWP-) a lo largo de direcciones mutuamente conjugadas para minimizar la función objetivo. Es un método eficiente para funciones no cuadráticas, pero para las que lo son es más conveniente el método de Polak y Ribiere. De todas formas existe una gran cantidad de variaciones de los métodos iniciales que en ocasiones tienen un rendimiento excelente, pero que cambian en función de las condiciones iniciales, de tal forma que lo único que nos queda es realizar un comparativo. A continuación algunos de los métodos existentes, y lo dicho, si alguien se atreve a realizar el comparativo que nos lo envíe, gracias.

 

 

Año Acrónimo Autor Fórmula
1.952 HS M. R. Hestenes y E. Stiefel Magnus R. Hestenes y Eduard Stiefel
1.964 FR R. Fletcher y C. M. Reeves R. Fletcher y C. M. Reeves
1.969 PRP B. Polak y G. Ribière , Polyak            
1.991 LS Y. Liu y C. Storey
1.999 DY Y. H. Dai y Y. Yuan
2.001 DL Y. H. Dai y L. Z. Liao
2.005 HZ W. W. Hager y H. Zhang
2.006 VFR Z. Wei, G. Li y L. Qi
2.006 VPRP Z. Wei, S. Yao y L. Liu
2.006 WYL Z. X. Wei, S. W. Yao y  L. Y. Liu
2.007 YWH S. Yao, Z. Wei y H. Huang,
2.009 NPRP

L. Zhang

 
2.009 ZPRP Li Zhang
2.009 NLS Li Zhang
2.010 HPRP H. D. Huang, Y. J. Liu y Z. X. Wei
2.012 DPRP Z. Dai y F. Wen
2.012 JHJ X. Jiang, L. Han y J. Jian
2.014 MRM M. Hamoda, M. Rivaie, M. Mamat  y Z. Salleh
2.015 N J. Jian, L. Han y X. Jiang
2.015 BPRP G. Yuan, X. Duan, W. Liu,  X. Wang, Z. Cui y  Z. Sheng
2.016 ZA Z. Salleh y A. Alhawarat
2.017 EDL M. R. Arazm, S. Babaie–Kafaki y R. Ghanbari
2.017 HRM M. A. Hamoda, M. Rivaie y M. Mamat
2.017 NHC X. Han, J. Zhag y J. Chen
2.017 AZPRP A. Alhawarat, Z. Salleh, M. Mamat y M. Rivaie