High-order fuzzy cognitive maps and randomized networks for time series and nonlinear dynamical systems

Carregando...
Imagem de Miniatura

Autor(es)

Título da Revista

ISSN da Revista

Título de Volume

Editor

Universidade Federal de Minas Gerais

Descrição

Tipo

Tese de doutorado

Título alternativo

Primeiro orientador

Membros da banca

Guilherme de Alencar Barreto
Tatiane Nogueira Rios
Hugo Valadares Siqueira
Rodrigo César Pedrosa Silva

Resumo

Fuzzy Cognitive Maps (FCMs) have emerged as interpretable Fuzzy Time Series (FTS) methods used in a variety of forecasting applications due to their interesting features. Constructing the structure of FCMs and extracting weighted connections among the concepts compose the crux contribution of the proposed FCM-based approaches in the literature. Despite the success of the proposed methodologies, there are still some gaps and limitations in this domain. To cover some of these challenges, this thesis introduces new forecasting techniques based on FCMs to predict univariate and multivariate time series focusing on both aspects including designing the new architecture and speeding up the training phase. Thus, the main contribution of this thesis is to introduce novel forecasting techniques by merging FTS and FCMs to generate randomized high-order FCM (R-HFCM) as reservoir computing models for the first time in the literature. R-HFCM is a kind of ESN where the reservoir layer consists of a group of sub-reservoirs such that the weights inside each sub-reservoir are randomly chosen according to the ESN weight initialization. The computational experiments demonstrate that R-HFCM outperforms in terms of both accuracy and training speed when compared to the traditional FCMs trained via evolutionary algorithms like genetic algorithm (GA). To fill the absence of Multiple-Input Multiple-Output(MIMO) models, extensions of the univariate R-HFCM method are presented to handle low-dimensional and high-dimensional time series forecasting. It is worth noting that in both MIMO methods, only the output layer is trainable using the time-effective least squares method. The proposed methods obtained promising and competitive results compared with a range variety of deep learning and machine learning methods in terms of accuracy and parsimony.

Abstract

Os mapas cognitivos nebulosos (FCM, do inglês Fuzzy Cognitive Maps) surgiram como métodos interpretáveis das Séries Temporais Nebulosas (FTS, do inglês Fuzzy Time Series) para uma variedade de aplicações no campo de previsão. A construção da estrutura dos FCMs e a extração das conexões ponderadas entre os conceitos compõem a contribuição central das abordagens baseadas em FCMs na literatura. Apesar do sucesso das metodologias propostas, ainda existem algumas lacunas e limitações nesse domínio. Para cobrir alguns desses desafios, esta tese apresenta novas técnicas de previsão baseadas em FCMs para prever séries temporais univariadas e multivariadas, focando no design da nova arquitetura e na aceleração da fase de treinamento. Assim, a principal contribuição desta tese é introduzir novas técnicas de previsão pela fusão de FTS e FCMs para gerar FCMs aleatórios de alta ordem (R-HFCM, do inglês Randomized High-Order FCM) como modelos de computação de reservatório pela primeira vez na literatura. O R-HFCM é um tipo de rede de estado de eco (ESN, do inglês Echo State Network ), onde a camada do reservatório consiste em um grupo de sub-reservatórios de tal forma que os pesos dentro de cada sub-reservatório são escolhidos aleatoriamente de acordo com a inicialização de pesos do ESN. Os experimentos computacionais demonstram que o R-HFCM supera em termos de precisão e velocidade de treinamento quando comparado aos FCMs tradicionais treinados por algoritmos evolutivos como o algoritmo genético (GA, do inglês Genethic Algorithm). Para preencher a ausência de modelos de Entrada Múltipla e Saída Múltipla (MIMO, do inglês Multiple-Input Multiple-Output), extensões do método R-HFCM univariado foram apresentadas para lidar com a previsão de séries temporais de baixa e alta dimensionalidade. Vale ressaltar que, em ambos os métodos MIMO, apenas a camada de saída é treinável utilizando o método dos mínimos quadrados por ser de baixo custo computacional. Os métodos propostos obtiveram resultados promissores e competitivos em comparação com uma variedade de métodos de aprendizado profundo e aprendizado de máquina em termos de precisão e parcimônia.

Assunto

Engenharia elétrica, Séries temporais, Mapas cognitivos (Psicologia), Algoritmos, Algoritmos genéticos, Redes neurais (Computação), Aprendizado do computador, Mínimos quadrados, Análise de componentes principais, Sistemas de comunicação sem fio, Kernel, Funções de

Palavras-chave

Time series forecasting, Randomized fuzzy cognitive maps, Reservoir computing, Echo state network, Multiple-input multiple-output

Citação

Endereço externo

Avaliação

Revisão

Suplementado Por

Referenciado Por

Licença Creative Commons

Exceto quando indicado de outra forma, a licença deste item é descrita como Acesso Aberto