El rol del algoritmo de entrenamiento en la selección de modelos de redes neuronales

Contenido principal del artículo

Autores

Paola Sánchez
Juan Velásquez

Resumen

La capacidad de ajuste de una red neuronal se ve a menudo afectada por la configuración usada, en especial, en relación al número de neuronas ocultas y de variables de entrada, toda vez que, a medida que el número de parámetros  del modelo aumenta, se favorece el aprendizaje de la red y, por tanto, el ajuste es mejor. Teóricamente, un proceso constructivo de adición de parámetros debería conducir a reducciones sistemáticas en el error, siempre y cuando, los modelos sean anidados en cada paso del proceso. En este trabajo, se valida la hipótesis que la adición de neuronas ocultas en modelos anidados debe conducir a reducciones en el error, sin importar el algoritmo de entrenamiento usado; para ejemplificar la discusión, se usaron la serie de pasajeros en líneas aéreas y de manchas solares de Box & Jenkins  y los métodos de entrenamiento de Regla Delta y RProp. La evidencia experimental demuestra que los métodos  de entrenamiento evaluados exhiben comportamientos diferentes a los teóricamente esperados, incumpliendo el supuesto de reducción del error.

Palabras clave:

Detalles del artículo

Licencia

 

Referencias

1. ADYA, M.; COLLOPY, F. 1998. How effective are neural networks at forecasting; prediction? A review; evaluation. J. Forecasting (UsA). 17:481-495.

2. ANAsTAsIADIs, A.D.; MAGOULAs, G.D.; vRAHATIs,
M.N. 2003. An Efficient Improvement of the Rprop Algorithm. Proceedings of the First International Workshop on Artificial Neural Networks in Pattern Recognition. University of Florence (ITALY). p.197- 201.

3. COTTRELL, M.; GIRARD, B.; GIRARD, Y.; MANGEAs, M.; MULLER, C. 1995. Neural modeling for time series: a statistical stepwise method for weight elimination. IEEE Transactions on Neural Networks (UsA). 6(6):1355-1364.

4. CRONE, s.; KOURENTzEs, N. 2009. Input-variable specification for Neural Networks - An Analysis of Forecasting low and high Time series Frequency. Proceedings of the International Joint Conference on Neural Networks, IJCNN’09 (UsA). p.619-626.

5. FAHLMAN, s. 1989. Faster-learning variations of back- propagation: An empirical study. En: Touretzky, D., Hinton, G.; sejnowski, T. (eds) Proceedings of the 1988 Connectionist Models summer school (UsA). p.38-51

6. FARAWAY, J.; CHATFIELD, C. 1998. Time series forecasting with neural networks: a comparative study using the airline data. Appl. statist. (UsA). 47:231- 250.

7. GHIAssI, M.; sAIDANE, H.; zIMBRA, D.K. 2005. A dynamic neural network model for forecasting time series events. International J. Forecasting (UsA). 21:341-362.

8. HAGAN, M.T.; DEMUTH, H.B.; BEALE, M.H. 1996. Neural Network Design. Ed. PWs Publishing,Boston: MA(UsA).

9. HAMILTON, J.D. 1994. Time series Analysis. Princeton, New Jersey: Princeton University Press (UsA). 820p.

10. HORNIK, K.; sTINCHICOMBE, M.; WHITE, H. 1989. Multilayer Feedforward Networks are Universal Approximators. Neural Networks (UsA). 2(5):359- 366.

11. MURATA, N.; YOsHIzAWA, s.; AMARI, s. 1994. Network information criterion-determining the number of hidden units for an artificial neural network model. IEEE Transactions on Neural Networks (UsA). 5:865- 872.

12. QI, M.; zHANG, P.G. 2001. An investigation of model selection criteria for neural network time series forecasting. European J. Operational Research (NORWAY). 132:666-680.

13. TANG, z.; KOEHLER, J.G. 1994. Deterministic global optimal FNN training algorithms. Neural Networks (UsA). 7:1405-1412.

14. vELÁsQUEz, J.D.; DYNER, I.; sOUzA, R.C. 2008. Modelado del precio de la electricidad en brasil usando una red neuronal autorregresiva. Ingeniare. Rev. Chilena Ingeniería. 16(3):394-403.

15. zHANG, P.G.; PATUWO, B.E.; HU, M.Y. 1998. Forecasting with artificial neural networks: the state of the art. International J. Forecasting (UsA). 14(1):35-62.

16. zHANG, G.P.; PATUWO, B.E.; HU, M.Y. 2001. A simulation study of artificial neural networks for non linear time-series forecasting. Computers & Operations Research (UsA). 28(4):381-396.

Descargas

La descarga de datos todavía no está disponible.