IMPRIMIR VOLTAR
A. Ciências Exatas e da Terra - 2. Ciência da Computação - 6. Inteligência Artificial e Redes Neurais

ALGORITMO ADAPTATIVO PARA REDES NEURAIS POLINÔMIOS POTÊNCIAS DE SIGMÓIDE (PPS)- WAVELET BASEADO NO MÉTODO LEVENBERG-MARQUARDT

Rafael Alves Bonfim de Queiroz 1
João Fernando Marar 1
(1. Departamento de Computação, Faculdade de Ciências, Campus Bauru-SP/ UNESP)
INTRODUÇÃO:

Redes neurais artificiais (RNAs), mais especificamente, as redes neurais multicamadas perceptron (MLPs) com funções de ativação sigmoidal correspondem a um tópico bastante estudado e utilizado com sucesso na aproximação de funções contínuas a partir de um conjunto de dados de entrada-saída. Provas matemáticas que as MLPs são aproximadores universais de funções é um argumento bastante forte para garantir a viabilidade de sua utilização. A resolução de problemas de aproximação de funções com RNAs baseia-se no aprendizado de um determinado mapeamento entre  um espaço  m dimensional de entrada (Eem) e outro p dimensional de saída (Esp). As RNAs aprendem a partir da experiência, isto é, elas são treinadas a partir de um algoritmo adaptativo; elas generalizam novos exemplos a partir de exemplos prévios e abstraem-se de características de entradas contendo dados irrelevantes. Atualmente, existem vários trabalhos que combinam redes neurais, funções wavelets e aproximadores universais de funções. Dentro deste contexto, o principal objetivo deste trabalho é apresentar resultados, em aproximação de funções, da aplicação do método Levenberg-Marquardt (LM) para desenvolvimento de um algoritmo adaptativo para treinamento de redes neurais com funções de ativação PPS-Wavelets. Destaca-se que foi feito um estudo de caso em aproximação de funções para validação do algoritmo produzido.

METODOLOGIA:

Este trabalho de pesquisa foi desenvolvido em duas fases. Na primeira fase, um estudo teórico dos aspectos matemáticos das funções PPS e do método LM foi realizado, resultando um algoritmo para treinar as arquiteturas neurais PPS-Wavelets em problemas de aproximação de funções. Na segunda fase, foram aplicadas as arquiteturas neurais PPS-Wavelet em aproximação de funções. Tais arquiteturas neurais com três camadas (entrada,escondida,saída) foram treinadas com o algoritmo proposto baseado no método LM. O processamento de treinamento consistiu na minimização de uma função custo baseada no método dos mínimos erros quadrados. Todos os algoritmos desenvolvidos foram implementados no ambiente de programação Matlab.

RESULTADOS:

Mostraremos dois experimentos realizados de aproximação de funções com as Redes Neurais PPS-Wavelet. Experimento 1 - utilizou-se uma arquitetura neural PPS-Wavelet com 6 neurônios na camada escondida que possuíam função de ativação PPS-Wavelet  w2(x)=2.Y3(x)-3.Y2(x)+Y(x) e a função a ser aproximada foi f(x)=sin(x)/x, onde: Y(x)=1/(1+e-x). A rede neural convergiu e o erro calculado foi 8,7*10-7. Experimento 2:  utilizou-se uma arquitetura neural PPS-Wavelet com 10 neurônios na camada escondida que possuíam função de ativação PPS-Wavelet w3(x)=-6.Y4(x)+12.Y3(x)-7.Y2(x)+Y(x) e a função a ser aproximada foi f(x)=(cos(x)-sin(x))/(1+e-x). A rede neural convergiu e o erro calculado foi 4,6*10-4.

CONCLUSÕES:

Nesta pesquisa, foi investigado o método Levenberg-Marquardt para o desenvolvimento de um algoritmo adaptativo que objetivasse treinar Redes Neurais Artificiais com funções de ativação PPS-Wavelet. Como aplicação desta nova técnica, realizamos testes em problemas de aproximação de funções relatados junto ao trabalho. Os resultados obtidos garantem a validação do algoritmo produzido.

Instituição de fomento: Universidade Estadual Paulista “Júlio de Mesquita Filho” - PIBIC
Trabalho de Iniciação Científica  
Palavras-chave: Redes Neurais Artificiais; método Levenberg-Marquardt; Polinômios Potências de Sigmóide (PPS)–Wavelet.
Anais da 58ª Reunião Anual da SBPC - Florianópolis, SC - Julho/2006