Una red NARX (Nonlinear Autoregressive with eXogenous input), modelo auto regresivo no lineal con entrada exógena, es una red dinámica recurrente, con conexiones de retroalimentación que encierran varias capas de la red, fue propuesta en 1.990 por K. S. Narendra y K. Parthasarathy en “Identication and control of dynamical systems using neural networks”.
El modelo NARX se basa en el modelo ARX lineal, que se usa comúnmente en el modelado de series de tiempo. Acepta entradas dinámicas (discretas y continuas), representadas por conjuntos de series temporales, que es la principal ventaja sobre las redes de propagación hacia atrás con retroalimentación.
Podemos representarla como un MLP (Perceptron Multi Capa) que toma como entrada las entradas y salidas de una ventana del pasado y calcula la salida actual. A diferencia de otras redes recurrentes, esta red tienen una retroalimentación limitada que solo proviene de la neurona de salida en lugar de los estados ocultos.
Las NARX con un número finito de parámetros son computacionalmente tan fuertes como las redes recurrentes totalmente conectadas (FCRNN). Pueden simular a las FCRNN si se cumple la condición de utilizar una función de activación BOSS, pero tienen la desventaja de desaceleración lineal.
Como cualquier RNR puede ser entrenada usando algoritmos “Backpropagation” a través del tiempo o BPTT. En los últimos años se ha propuesto que el aprendizaje de gradiente descendiente puede ser más efectivo en estas redes que en otras arquitecturas recurrentes con estados ocultos.