Dissertação
Avaliação de técnicas de aprendizagem de máquina como surrogate na otimização com muitos objetivos
Registro en:
OLIVEIRA, Joel Alves de. Avaliação de técnicas de aprendizagem de máquina como surrogate na otimização com muitos objetivos. 2020. 94 f. Dissertação (Mestrado em Ciência da Computação) - Universidade Federal de Sergipe, São Cristóvão, Sergipe, 2020.
Autorização para publicação no Repositório da Universidade Federal de Sergipe (RI-UFS), concedida pelo autor.
Autor
Oliveira, Joel Alves de
Institución
Resumen
In optimization problems there is a subset of problems that are defined as complex problems, which present high complexity models. For this class of problems there is an exhaustive number of possible combinations for the input variables of a system. Thus, evaluating these combinations is a humanly unfeasible process, so we use optimization mechanisms that aim to find the best solution, among which it is possible to quantify the degree of adequacy of the solutions to the needs in question. Generally, when dealing with problems with up to three objective functions, Evolutionary Algorithms are used to solve them. Another approach employed is the use of surrogates, which can be defined as mechanisms capable of learning the behavior of a given function. When using these mechanisms in complex problems, it is estimated that the high computational cost reduction to obtain the fitness values of the objective functions will be gained. Among the common surrogate mechanisms in the literature, the techniques of linear regression and machine learning stand out. The application of surrogates in problems with more than one objective function, multiobjective problems, requires the use of a learning model for each function, however, recent studies have been successful in employing a single surrogate for problems with more than one objective function. However, the use of surrogate in optimization problems with more than three objective functions is still a little explored area. Therefore, this work aims to propose and evaluate new approaches to surrogate training associated with Evolutionary Algorithms. Two frameworks were developed, one applied to the class of mono-objective problems and the other aimed at optimization problems with many objectives.The proposed frameworks are characterized by the use of different approaches to surrogate training and also different ways of using machine learning techniques. The frameworks were subjected to experiments using benchmark problems, where each configuration of the algorithms was executed for twenty times and stores the performance metrics. To confirm or refute the hypotheses, the Wilcoxon statistical test was applied. The results show that the machine learning techniques, Decision Tree and Random Forest when applied as a surrogate provide satisfactory results, in addition, the surrogate training methodologies proposed here, associated with the NSGA-II and SMPSO algorithms obtained better or equal results. than state-of-the-art algorithms (NSGA-II and MOEADD), in most of the experiments carried out. Em problemas de otimização existem um subconjunto de problemas que são definidos como problemas complexos, os quais apresentam modelagens de complexidade alta. Para essa classe de problemas existe um número exaustivo de possíveis combinações para as variáveis de entrada de um sistema. Assim, avaliar essas combinações é um processo humanamente inviável, então recorre-se a mecanismos de otimização que visam encontrar a melhor solução, dentre os quais é possível quantificar o grau de adequação das soluções às necessidades em causa. Geralmente, quando se tratam de problemas com até três funções objetivos são empregados Algoritmos Evolutivos para resolvê-los. Outra abordagem empregada é o uso de surrogates, os quais podem ser definidos como mecanismos capazes de aprender o comportamento de uma dada função. Ao usar esses mecanismos em problemas complexos estima-se obter como ganho a redução do alto custo computacional para computar os valores de fitness das funções objetivos. Dentre os mecanismos de surrogate comuns na literatura destacam-se as técnicas de regressão linear e aprendizagem de máquina. A aplicação de surrogates em problemas com mais de uma função objetivo, problemas multiobjetivo, requer o uso de um modelo de aprendizagem para cada função, entretanto, recentes estudos têm obtido êxito em empregar um único surrogate para problemas com mais de uma função objetivo. Porém o uso de surrogate em problemas de otimização com mais de três funções objetivos ainda é uma área pouco explorada. Diante disso, esse trabalho tem como objetivo propor e avaliar novas abordagens de treinamento de surrogate associados a Algoritmos Evolutivos. Foram desenvolvidos dois frameworks, um aplicado a classe de problemas mono-objetivo e outro voltado para problemas de otimização com muitos objetivos. Os frameworks propostos tem como característica o emprego de diferentes abordagens de treinamento de surrogate e também diferentes maneiras de uso de técnicas de aprendizagem de máquina. Os frameworks foram submetidos a experimentos usando problemas benchmark, onde cada configuração dos algoritmos foi execultada por vinte vezes e armazendas as métricas de desempenho. Para confirmar ou refutar as hipóteses, foi aplicado o teste estatístico de Wilcoxon. Os resultados evidenciam que as técnicas de aprendizagens de máquinas, Arvore de Decisão e Random Forest quando aplicadas como surrogate proporcionam resultados satisfatórios, além disso, as metologias de treinamento de surrogate aqui propostas, associadas aos algoritmos NSGA-II e SMPSO obtiveram resultados melhores ou iguais que os algoritmos do estado da arte (NSGA-II e MOEADD), na maioria dos experimentos realizados. São Cristóvão, SE