Entrenamiento de redes neuronales artificiales SLFN en aplicaciones de clasificación que involucren cantidades masivas de información

Abstract

En este documento se presenta el diseño y prueba de un modelo de entrenamiento para redes neuronales de propagación hacia adelante de una sola capa oculta. El nuevo modelo se denomina máquina de entrenamiento comprimido basada en ELM o MEC-ELM y, actúa comprimiendo la información proveniente de la capa oculta por medio de un subconjunto de nodos de la misma capa, esto permite disminuir considerablemente la complejidad computacional en comparación con la solución de ELM para grandes conjuntos de entrenamiento. Resultados experimentales para diferentes problemas de clasificación indican que el modelo propuesto, permite una reducción alrededor del 45.3 % en el tiempo de entrenamiento en comparación con ELM, alcanzando a la vez rendimientos similares en términos de generalización.

The design and testing of a new training model for Single hidden Layer Feedfordward Networks is presented, which is called Compressed Training Machine based on ELM o MEC-ELM. This model acts by compressing the information coming from the hidden layer through a subset of nodes from the same layer, which allows to reduce the computational complexity compare to ELM solution for large datasets. Experimental results for different classification problems indicate that the proposed model allows a reduction of around 45.3 % in training time compared to ELM, reaching at the same time similar performances in terms of generalization.