Table Of ContentUNIVERSIDADE DE SÃO PAULO
FACULDADE DE ECONOMIA, ADMINISTRAÇÃO E CONTABILIDADE
DEPARTAMENTO DE ADMINISTRAÇÃO
APLICAÇÃO DE REDES NEURAIS ARTIFICIAIS NA ANÁLISE DE SÉRIES
TEMPORAIS ECONÔMICO-FINANCEIRAS
Mauri Aparecido de Oliveira
Orientador: Prof. Dr. Fernando Carvalho de Almeida
SÃO PAULO
2007
Prof a. Dr a. Suely Vilela
Reitora da Universidade de São Paulo
Prof. Dr. Carlos Roberto Azzoni
Diretor da Faculdade de Economia, Administração e Contabilidade
Prof. Dr. Isak Kruglianskas
Chefe do Departamento de Administração
Prof. Dr. Lindolfo Galvão de Albuquerque
Coordenador do Programa de Pós-Graduação em Administração
MAURI APARECIDO DE OLIVEIRA
APLICAÇÃO DE REDES NEURAIS ARTIFICIAIS NA ANÁLISE DE SÉRIES
TEMPORAIS ECONÔMICO-FINANCEIRAS
Tese apresentada ao Departamento de
Administração da Faculdade de Economia,
Administração e Contabilidade da
Universidade de São Paulo, para a obtenção
do título de Doutor em Administração
Orientador: Prof. Dr. Fernando Carvalho de Almeida
SÃO PAULO
2007
FICHA CATALOGRÁFICA
Elaborada pela Seção de Processamento Técnico do SBD/FEA/USP
Oliveira, Mauri Aparecido de
Aplicação de redes neurais artificiais na análise de
séries temporais econômico-financeiras / Mauri Aparecido
de Oliveira. – São Paulo, 2007.
317 p. .
Tese (Doutorado) – Universidade de São Paulo, 2007
Bibliografia
1. Econometria 2. Análise de séries temporais 3. Redes
neurais 4. Previsão (Análise de séries temporais) I. Universidade
de São Paulo. Faculdade de Economia, Administração e Contabilidade.
II. Título.
CDD – 330.015195
Para Mauro Aparecido de Oliveira
Agradecimentos
Ao Prof. Dr. Fernando Carvalho de Almeida, meu orientador, pelo apoio e dedicada
orientação durante o doutorado e durante a elaboração desse trabalho.
À Prof.a. Dra. Alessandra de Ávila Montini, as reuniões técnicas que tivemos foram muito
producentes e estimulantes.
À Profa. Dra. Solange Oliveira Rezende do ICMC-USP/São Carlos pelo incentivo desde o
curso de graduação e pela minha iniciação científica que tanto contribuiu para minha
formação acadêmica e profissional.
Ao Prof. Dr. Luiz Paulo Lopes Fávero, que desde o início do programa de pós-graduação
possibilitou discussões construtivas sobre a aplicação de métodos quantitativos em ciências
sociais aplicadas.
Aos meus pais, aos meus irmãos, e ao meu sobrinho Kepler Silveira pelo carinho e
incentivo.
A todos os professores da FEA-USP pelos seus ensinamentos.
Às pessoas que trabalham na FEA-USP (Biblioteca, Secretaria, UPD, etc.) e a tornam um
ambiente profícuo para os alunos de pós-graduação.
Aos colegas de pós-graduação, e em especial ao Daniel Reed Bergmann que é um excelente
econometrista e teve paciência de escutar muitas das minhas teorias.
À Kérya Sayuri Shiguemori Oliveira, por ser a filha maravilhosa que me aceitou em seu
mundo quando o meu não funcionava bem.
À Cristina Mayumi que durante estes anos cuidou de nossa família, sem o seu amor e
encorajamento eu não teria conseguido continuar meu trabalho.
À Senhora Fumiko Shiguemori pelo auxílio incondicional durante todas as etapas de
elaboração desse trabalho.
APLICAÇÃO DE REDES NEURAIS ARTIFICIAIS NA ANÁLISE DE SÉRIES
TEMPORAIS ECONÔMICO-FINANCEIRAS
Resumo
Diversas metodologias são empregadas para realizar a análise de séries temporais, dentre as
quais destaca-se o uso das redes neurais artificiais (RNA). Neste trabalho são utilizados
quatro métodos para realizar previsão de séries temporais univariadas: os modelos ARIMA-
GARCH, RNA feedforward, RNA treinada com filtro de Kalman estendido (EKF) e RNA
treinada com o filtro de Kalman unscented (UKF). Sendo que o uso de RNA-UKF é um
avanço recente na área de sistemas de inteligência computacional. O uso de redes neurais
treinadas com filtro de Kalman é uma metodologia que tem trazido bons resultados em uma
ampla variedade de aplicações nas áreas comercial, militar e científica. Em 2002
aproximadamente 250 bilhões de dólares eram gerenciados em fundos de investimentos
por modelos quantitativos (tais como lógica fuzzy, redes neurais, algoritmos genéticos,
fractais e modelos de Markov). Desde 2006 estima-se que três em cada dez destes fundos
utilizem estes modelos quantitativos. A capacidade das RNA em lidar com não linearidades
é uma vantagem normalmente destacada quando são realizadas previsões de séries
temporais. São apresentadas simulações de Monte Carlo que mostram a influência dos
parâmetros dos modelos ARIMA-GARCH na predição de redes neurais artificiais do tipo
feedforward, treinadas com o algoritmo de Levenberg-Marquardt. Pelos resultados obtidos
verificou-se que a RNA feedforward realizou melhores previsões a medida que o parâmetro
ligado a estacionariedade aumenta. Também é aplicada a teoria para construção de
intervalos de predição (IP) e de confiança (IC) para RNA feedforward. As séries temporais
analisadas são univariadas e compostas de dados reais do setor financeiro (Bradesco PN,
Bradespar PN, Itausa PN e Itaú PN), setor de alimentos (Perdigão PN, Sadia PN, Saca da
Soja de 60Kg e Saca de Açúcar de 50Kg), setor industrial (Marcopolo PN, Petrobrás PN,
Embraer ON, Ripasa PN, Souza Cruz ON e Gerdau PN) e setor de serviços (Pão de Açúcar
PN, Eletropaulo PNA, Eletrobras PNB, Brasil Telecom PN, Cesp PNA e Lojas Americanas
PNA). Os resultados obtidos mostram que a RNA-UKF apresentou-se superior quando
comparada com as técnicas concorrentes.
v
APLICAÇÃO DE REDES NEURAIS ARTIFICIAIS NA ANÁLISE DE SÉRIES
TEMPORAIS ECONÔMICO-FINANCEIRAS
Abstract
Many techologies has been applied to time series analysis, among these artifitial neural
networks (RNA). In this work, four methods are used to univariate time series forecasting:
ARIMA-GARCH, RNA feedforward, RNA trained using extended Kalman filter (EKF)
and RNA trained using unscented Kalman filter (UKF). RNA-UKF is a recent method in
computational intelligence field. The use of neural networks trained using Kalman filter is a
methodology that has brought good results in a wide variety of applications such as
commercial, military and scientific field. In 2002 approximately 250 billions of dollars
were managed in investiment funds by quantitative models (such as fuzzy logic, neural
networks, genetic algorithms, fractals and Markov models). Since 2006 it is estimated that
three in ten investiment funds use these quantitative models. The RNA power to deal with
non linearities is a highlited advantage when time series forecasting are performed. This
work presents Monte Carlo simulations showing the ARIMA-GARCH parameters
influence in the feedforward artifitial neural networks predictions, trained with Levenberg-
Marquardt algorithm. According to the results, RNA feedforward performed best forecasts
to the extent stacionarity parameter increase. Moreover, the theory for confidence (IC) e
prediction (IP) intervals are applied to RNA feedforward.
This work presents analysis to real data univariate time series from financial sector
(Bradesco PN, Bradespar PN, Itausa PN and Itaú PN), food sector (Perdigão PN, Sadia PN,
Soybean 60Kg and Sugar 50Kg), factory sector (Marcopolo PN, Petrobrás PN, Embraer
ON, Ripasa PN, Souza Cruz ON and Gerdau PN) and service sector (Pão de Açúcar PN,
Eletropaulo PNA, Eletrobras PNB, Brasil Telecom PN, Cesp PNA and Lojas Americanas
PNA). The results showed RNA-UKF upper hand when compared with the competitors
techniques.
vi
Abreviações e Símbolos
Abreviações
ADF Augmented Dickey Fuller - Dickey Fuller Aumentado
AIC Akaike Information Criteria – Critério de Informação de Akaike
AR Auto-regressivo
ARCH Autoregressive Conditional Heterocedasticity – Auto-regressivo com
heterocedasticidade condicional
ARIMA Auto-regressivo Integrado de Média Móvel
ARMA Auto-regressivo de Média Móvel
BIC Bayesian Information Criteria – Critério de Informação Bayesiano
SBC Schwartz Bayesian Criteria– Critério de Informação de Schwartz
BP Back Propagation - Retropropagação
BPTT Back Propagation Through Time - Retropropagação Através do Tempo
CORR Coeficiente de Correlação de Pearson
EKF Extended Kalman Filter - Filtro de Kalman Estendido
FAC Função de Auto-correlação
FACP Função de Auto-correlação Parcial
FIR Finite Impulse Response Filter – Filtro de Resposta a Impulso de
Duração Finita
FK Filtro de Kalman
FM Freqüência Modulada
GARCH Generalized Autoregressive Conditional Heterocedasticity – Auto-
regressivo com Heterocedasticidade Condicional Generalizada
IA Inteligência Artificial
IC Intervalo de Confiança
IP Intervalo de Predição
LM Levenberg- Marquardt
MA Moving Average - Média Móvel
MAE Mean Absolute Error - Erro Absoluto Médio
MAPE Mean Absolute Percentage Error - Erro Absoluto Médio Percentual
MLP Multi-Layer Perceptron - Perceptron de Camadas Múltiplas
MRNA Modelos de Redes Neurais Artificiais
MQO Mínimos Quadrados Ordinários
MSE Mean Squared Error - Erro Quadrático Médio
MSPE Mean Squared Prediction Error - Erro Quadrático Médio de Predição
NID Normal e Identicamente Distribuído
RB Ruído Branco
RMSE Root Mean Square Error – Raiz do Erro Quadrático Médio
RMSPE Root Mean Squared Prediction Error – Raiz do Erro Quadrático Médio
de Predição
RNA-EKF Rede Neural Artificial Treinada com Filtro de Kalman Estendido
RNA-UKF Rede Neural Artificial Treinada com Filtro de Kalman Unscented
vii
RSPE Root Squared Prediction Error – Raiz do Erro Quadrado de Predição
RTRL Real Time Recurrent Learning - Aprendizado Recorrente em Tempo
Real
SIC Schwarz Information Criteria – Critério de Informação de Schwarz
SPE Square prediction error – Erro Quadrado de Predição
SQR Soma de Quadrado dos Resíduos
SSE Sum of Squared Errors – Soma Quadrática dos Erros
TDNN Time Delay Neural Network – Rede Neural com Atraso de Tempo
TIC Coeficiente de Desigualdade de Theil
TLFN Time Lagged Feedforward Network – Rede Alimentada Adiante
Atrasada no Tempo
UKF Filtro de Kalman Unscented
USPTO United States Patent and Trademark Office
Símbolos Importantes - Em negrito significa que são vetores
r Ruído de Medida no Tempo t
t
R Matriz de Covariância do Ruído de Medida
t
q Processo-ruído
t
Q Matriz de Covariância do Processo Ruído
t
y Vetor de Medida
t
x Vetor de Estado
t
xˆ Estimativa de Estado a Posterior na Teoria de Kalman
tt
xˆ Estimativa de Estado a Priori
tt−1
P Matriz de Correlação Estado-erro a Posterior
tt
P Matriz de Correlação Estado-erro a Priori
tt−1
K Ganho de Kalman
t
H Matriz de Medida
t
F Matriz de Transição de Estado
t
h ( ) Função Vetor de Medida Não linear
•
t
f ( ) Função Vetor Estado Não linear
•
t
H Jacobiana – Matriz de Medida
n
F Jacobiana – Matriz Transição de Estado
t+1,t
I Matriz Identidade
t Profundidade de Truncamento
d
p Parâmetro que Inicializa P
p tt
p Parâmetro Taxa de Aprendizagem que Inicializa R
r t
t Número Total de Unidades na Rede
t
viii
Description:Dr. Luiz Paulo Lopes Fávero, que desde o início do programa de pós-graduação possibilitou Many techologies has been applied to time series analysis, among these artifitial neural networks The use of neural networks trained using Kalman filter is a Moreover, the theory for confidence (IC) e.