Novas abordagens para configurações automáticas dos parâmetros de controle em comitês de classificadores

Significant advances have emerged in research related to the topic of Classifier Committees. The models that receive the most attention in the literature are those of the static nature, also known as ensembles. The algorithms that are part of this class, we highlight the methods that using techniques of resampling of the training data: Bagging, Boosting and Multiboosting. The choice of the architecture and base components to be recruited is not a trivial task and has motivated new proposals in an attempt to build such models automatically, and many of them are based on optimization methods. Many of these contributions have not shown satisfactory results when applied to more complex problems with different nature. In contrast, the thesis presented here, proposes three new hybrid approaches for automatic construction for ensembles: Increment of Diversity, Adaptive-fitness Function and Meta-learning for the development of systems for automatic configuration of parameters for models of ensemble. In the first one approach, we propose a solution that combines different diversity techniques in a single conceptual framework, in attempt to achieve higher levels of diversity in ensembles, and with it, the better the performance of such systems. In the second one approach, using a genetic algorithm for automatic design of ensembles. The contribution is to combine the techniques of filter and wrapper adaptively to evolve a better distribution of the feature space to be presented for the components of ensemble. Finally, the last one approach, which proposes new techniques for recommendation of architecture and based components on ensemble, by techniques of traditional meta-learning and multi-label meta-learning. In general, the results are encouraging and corroborate with the thesis that hybrid tools are a powerful solution in building effective ensembles for pattern classification problems.

Significativos avanços vêm surgindo em pesquisas relacionadas ao tema de Comitês de Classificadores. Os modelos que mais recebem atenção na literatura são aqueles de natureza estática, ou também conhecidos por ensembles. Dos algoritmos que fazem parte dessa classe, destacam-se os métodos que utilizam reamostragem dos dados de treinamento: Bagging, Boosting e Multiboosting. A escolha do tipo de arquitetura e dos componentes a serem recrutados não é uma tarefa trivial, e tem motivado, ainda mais, o surgimento de novas propostas na tentativa de se construir tais modelos de forma automática e, muitas delas, são baseadas em métodos de otimização. Muitas dessas contribuições não têm apresentado resultados satisfatórios quando aplicadas a problemas mais complexos ou de natureza distinta. Em contrapartida, a tese aqui apresentada propõe três novas abordagens híbridas para construção automática em ensembles de classificadores: Incremento de Diversidade, Função de Avaliação Adaptativa e Meta-aprendizado para a elaboração de sistemas de configuração automática dos parâmetros de controle para os modelos de ensemble. Na primeira abordagem, é proposta uma solução que combina diferentes técnicas de diversidade em um único arcabouço conceitual, na tentativa de se alcançar níveis mais elevados de diversidade em ensemble, e com isso, melhor o desempenho de tais sistemas. Já na segunda abordagem, é utilizado um algoritmo genético para o design automático de ensembles. A contribuição consiste em combinar as técnicas de filtro e wrapper de forma adaptativa para evoluir uma melhor distribuição do espaço de atributos a serem apresentados aos componentes de um ensemble. E por fim, a última abordagem, que propõe uma nova técnica de recomendação de arquitetura e componentes base em ensemble, via técnicas de meta-aprendizado tradicional e multirrótulo. De forma geral os resultados são animadores, e corroboram com a tese de que ferramentas híbridas são uma poderosa solução na construção de ensembles eficazes em problemas de classificação de padrões