Please use this identifier to cite or link to this item:
http://hdl.handle.net/1843/46005| Type: | Dissertação |
| Title: | Ensemble pruning via an integer programming approach with diversity constraints |
| Other Titles: | Poda de Ensemble via uma abordagem de programação inteira com restrições de diversidade |
| Authors: | Marcelo Antônio Mendes Bastos |
| First Advisor: | Cristiano Arbex Valle |
| First Co-advisor: | Humberto César Brandão de Oliveira |
| First Referee: | Gisele Lobo Pappa |
| Second Referee: | Túlio Ângelo Machado Toffolo |
| Abstract: | Ensemble learning uses multiple classifiers in the hope of obtaining better predictive performance. Empirical studies have shown that ensemble pruning, that is, choosing an appropriate subset of the available classifiers, can lead to comparable or better predictions than using all classifiers. In this thesis, we consider a binary classification problem and propose an integer programming (IP) approach for selecting optimal classifier subsets. We propose a flexible objective function to adapt to desired criteria of different datasets. We also propose constraints to ensure minimum diversity levels in the ensemble. Despite the general case of IP being NP-Hard, state-of-the-art solvers are able to quickly obtain good solutions for datasets with up to 60000 data points. Our approach yields competitive results when compared to others pruning algorithms in literature. |
| Abstract: | Aprendizagem por ensemble utiliza múltiplos classificadores na expectativa de obter um melhor desempenho preditivo. Estudos empíricos vem mostrando que a poda de ensembles, isto é, a escolha de um subconjunto apropriado dos classificadores disponíveis, pode levar a previsões comparáveis ou melhores do que usar todos os classificadores. Nesta dissertação, consideramos um problema de classificação binária e propomos uma abordagem de programação inteira (PI) para selecionar subconjuntos de classificadores ótimos. Propomos uma função objetivo flexível para se adaptar aos critérios desejados de diferentes conjuntos de dados. Também propomos restrições para garantir níveis mínimos de diversidade no conjunto. Apesar do caso geral de PI ser NP-Difícil, os solvers de última geração são capazes de obter rapidamente boas soluções para conjuntos de dados com até 60.000 pontos de dados. Nossa abordagem produz resultados competitivos quando comparados a outros algoritmos de poda na literatura. |
| Subject: | Computação – Teses Aprendizagem por Ensemble – Teses Aprendizado do computador – Teses Programação Inteira – Teses |
| language: | eng |
| metadata.dc.publisher.country: | Brasil |
| Publisher: | Universidade Federal de Minas Gerais |
| Publisher Initials: | UFMG |
| metadata.dc.publisher.department: | ICX - DEPARTAMENTO DE CIÊNCIA DA COMPUTAÇÃO |
| metadata.dc.publisher.program: | Programa de Pós-Graduação em Ciência da Computação |
| Rights: | Acesso Restrito |
| URI: | http://hdl.handle.net/1843/46005 |
| Issue Date: | 29-Mar-2021 |
| metadata.dc.description.embargo: | 29-Mar-2023 |
| Appears in Collections: | Dissertações de Mestrado |
Files in This Item:
| File | Description | Size | Format | |
|---|---|---|---|---|
| Dissertacao_de_mestrado_final.pdf | 1.04 MB | Adobe PDF | View/Open |
Items in DSpace are protected by copyright, with all rights reserved, unless otherwise indicated.