Efficient stochastic optimization through variance reduction techniques and thorough assessment of high-dimensional spaces

Abstract

Otimização estocástica é uma área de pesquisa fértil e entusiástica. Seus métodos buscam soluções ótimas ou quase ótimas de problemas em que a incerteza não pode ser negligenciada. A otimização estocástica pode ser utilizada para modelar uma vasta gama de problemas, como sistemas de energia, manutenção, indústria química, suporte a tomada de decisão, geociências, saúde, cadeias de suprimentos, gestão de risco e gestão de filas. A despeito de sua abrangente aplicabilidade, a literatura atual indica uma demanda clara por t´ecnicas mais eficientes que possam lidar com problemas mais complexos e de larga escala. N´os abordamos (i) a questão da dependência dos modelos em escolhas de usuários sobre parâmetros de entrada, que podem levar a modelagens ruins; (ii) exploramos o potencial de técnicas de redução de variância para aumentar a eficiência da simulação de Monte Carlo embutida nos algoritmos; (iii) e investigamos problemas de otimização em grandes dimensões. Para posicionar esta pesquisa na literatura atual, oferecemos uma revisão abrangente sobre métodos de otimização estocástica. Em particular, introduzimos as principais características de cada método, suas técnicas mais utilizadas, seus benefícios e limitações, as tendências atuais de pesquisa, e discutimos algumas lacunas ainda a serem investigadas. Em seguida, oferecemos três contribuições inter-relacionadas. Primeiro, um novo modelo de Metamodeling baseado em control variates é apresentado. A principal contribuição ´e propor uma formulação de metamodelo que ´e, ao mesmo tempo, computacionalmente eficiente e flexível o suficiente para possibilitar aplicação a uma ampla classe de problemas, com diferentes formatos da função objetivo e de comportamentos de incerteza (variância). A formulação proposta ´e menos dependente de parâmetros de entrada que os atuais metamodelos disponíveis. Nossa segunda contribuição ´e propor um procedimento via control variates para melhorar a eficiência de um método de busca aleatória. A novidade deste nosso procedimento híbrido ´e usar as saídas de pontos já amostrados para guiar a redução de variância em pontos a serem amostrados. O procedimento proposto ´e genérico no sentido de que pode ser aplicado a um conjunto mais amplo de métodos de otimização estocástica. Finalmente, mergulhamos em espaços de grandes dimensões para possibilitar o desenvolvimento de métodos de otimização estocástica mais sofisticados que possam lidar eficientemente com o aumento dimensional que caracteriza aplicações reais.