Meta heurística de optimización mono-objetivo continua de alta dimensionalidad para el entrenamiento de una máquina de aprendizaje extremo

Abstract

Una máquina de aprendizaje extremo (ELM) realiza el entrenamiento de una Red Neuronal de una sola Capa que se propaga hacia adelante (SLFN) en menor tiempo que el algoritmo de propagación hacia atrás. Una ELM define los pesos de entrada y sesgos de una SLFN con valores aleatorios, lo cual ocasiona que su desempeño disminuya. El presente trabajo de investigación centra sus esfuerzos en definir cuál de tres (3) de los mejores algoritmos meta-heurísticos mono-objetivo especializados en problemas de alta dimensionalidad de la competencia 2015 IEEE CEC (Congress on Evolutionary Computation), a saber: Coevolución cooperativa basada en evolución diferencial (DECC-G), Muestreo múltiple de descendientes (MOS) e Hibridación iterativa de evolución diferencial (DE) con búsqueda local con reinicio (IHDELS); consigue mejores resultados en exactitud o tiempo de una ELM. La evaluación de los algoritmos se realizó en conjuntos de datos de regresión y clasificación reconocidos por la comunidad académica, utilizando como modelos de validación el método de retención y validación cruzada.

Los resultados arrojan a IHDELS como la mejor meta-heurística de optimización para el problema de la ELM entre los algoritmos evaluados, con un ranking de 3.5526 al aplicar las pruebas no paramétricas de Friedman con el método de retención en problemas de clasificación. Superando los resultados obtenidos por el algoritmo del estado del arte Memético-ELM (M-ELM) el cual obtuvo un ranking de 6.3289. Generando así nuevo conocimiento en el área de la optimización del entrenamiento de redes neuronales que utilizan la ELM.