Estudo de aplicação de técnicas de aprendizado por reforço no problema de otimização de portfólio
Carregando...
Data
Autor(es)
Título da Revista
ISSN da Revista
Título de Volume
Editor
Universidade Federal de Minas Gerais
Descrição
Tipo
Dissertação de mestrado
Título alternativo
Primeiro orientador
Membros da banca
Luiz Carlos Bambirra Torres
Lucas de Souza Batista
Lucas de Souza Batista
Resumo
O problema de gerenciamento de portfólio, foco deste trabalho, consiste em determinar uma alocação ótima para ativos dentro de uma carteira de ações, de forma a maximizar (ou minimizar) um ou mais objetivos. Estes geralmente relacionam-se a medidas de risco e retorno. Na literatura econômica financeira, este problema tem sido resolvido com o uso de modelos de otimização de portfólio, como Markowitz, CAPM e Black Litterman, que são executados a cada instante em que o rebalanceamento da carteira se faz necessário. Este processo de tomada de decisão, incremental e sob incerteza, pode ser visto como um processo de decisão Markoviano, o que torna atraente sua modelagem pelo paradigma de aprendizagem por reforço, sendo esta uma tendência recente discutida na literatura de aprendizagem de máquina. Este trabalho investiga o uso de técnicas de aprendizado por reforço no problema de otimização de portfólio. É realizada uma revisão da literatura existente, com seus principais aprendizados. Em um estudo de caso, um problema de controle de pesos de ativos em uma carteira é modelado como um processo de decisão Markoviano, e são aplicados algoritmos de aprendizado por reforço para atuar na otimização deste portfólio. As implementações são realizadas de maneira incremental, procurando demonstrar a lógica por trás da construção destes algoritmos. Ao final, o desempenho dos modelos é comparado com o de estratégias baseadas em Markowitz, e o resultado mostra que estas abordagens possuem boas performances, e seu uso é promissor para este tipo de problema.
Abstract
The portfolio management problem, focus of this work, consists of determining the
optimal asset allocation within a wallet, in order to maximize (or minimize) one
or more objectives. These objectives are usually related to risk and return metrics. In financial economics literature, this problem has been solved using portfolio
optimization models, such as Markowitz, CAPM and Black Litterman, which are
executed for each instant when portfolio rebalancing is necessary. This decision
process, incremental and under uncertainty, can be seen as a Markovian decision
process, which makes modeling under reinforcement learning paradigm attractive,
this being a recent trend discussed in machine learning literature. This work aims
to investigate the use of reinforcement learning technics in portfolio optimization
problem. A literature review is realized, with its main learnings. In a case study, a
portfolio asset weight control problem is modeled as a Markovian decision process,
and reinforcement learning algorithms are used to optimize it. The implementations are made in an incremental way, aiming to demonstrate the logic behind
these algorithms developments. Finally, the model’s behavior is compared with
Markowitz based strategies, and the result shows that these approaches hold good
performances, and have a promising use for this kind of problem.
Assunto
Engenharia elétrica, Aprendizado do computador, Otimização, Mercados financeiros futuros
Palavras-chave
Aprendizado de máquina, Aprendizado por reforço, Otimização de portfólio, Mercados financeiros