Algoritmo meta-heurístico mono objetivo para optimizar el proceso de entrenamiento de una máquina de aprendizaje extremo basado en jMetal y variaciones de la búsqueda armónica

Abstract

En este trabajo se adaptaron 10 algoritmos meta-heurísticos mono-objetivo para realizar la definición de los parámetros de una red neuronal con conexiones hacia adelante usando para el entrenamiento el algoritmo denominado Máquina de Aprendizaje Extremo (Extreme Learning Machine, ELM) sobre el Framework jMetal.

Estos algoritmos meta-heurísticos fueron diseñados para resolver problemas de alta complejidad y se inspiran en diferentes aspectos de la naturaleza, a saber: Búsqueda Armónica (Harmony Search, HS), Mejor Búsqueda Armónica Global (Global Best Harmony Search, GHS), Búsqueda Armónica Mejorada (Improved Harmony Search, IHS), Nueva Búsqueda Armónica Global (Novel Global Harmony Search, NGHS), Evolución Diferencial (Diferencial Evolution, DE), Optimización por Enjambre de Partículas (Particle swarm optimization, PSO), Adaptación de la Matriz de Covarianza (CMAES), Caminata Aleatoria (Random Walk) y un algoritmo memético basado en la combinación de evolución diferencial con recosido simulado denominado M-ELM.

Para comparar el desempeño de estos 10 algoritmos, se definieron 40 datasets que representa problema de clasificación y regresión con diferentes niveles de complejidad obtenidos del repositorio de la Universidad de California en Irvine (UCI). Los algoritmos fueron evaluados usando dos esquemas de representación de la solución y con dos métodos de validación del modelo donde se evidencia que HS logra obtener el mejor desempeño basado en los resultados de los test estadísticos no paramétricos de Friedman y Wilcoxon.