A. Ciências Exatas e da Terra - 2. Ciência da Computação - 6. Inteligência Artificial e Redes Neurais |
|
ALGORITMO ADAPTATIVO PARA REDES NEURAIS POLINÔMIOS POTÊNCIAS DE SIGMÓIDE (PPS)- WAVELET BASEADO NO MÉTODO LEVENBERG-MARQUARDT |
|
Rafael Alves Bonfim de Queiroz 1 |
João Fernando Marar 1 |
|
(1. Departamento de Computação, Faculdade de Ciências, Campus Bauru-SP/ UNESP) |
|
|
INTRODUÇÃO: |
Redes neurais artificiais (RNAs), mais especificamente, as redes neurais multicamadas perceptron (MLPs) com funções de ativação sigmoidal correspondem a um tópico bastante estudado e utilizado com sucesso na aproximação de funções contínuas a partir de um conjunto de dados de entrada-saída. Provas matemáticas que as MLPs são aproximadores universais de funções é um argumento bastante forte para garantir a viabilidade de sua utilização. A resolução de problemas de aproximação de funções com RNAs baseia-se no aprendizado de um determinado mapeamento entre um espaço m dimensional de entrada (Eem) e outro p dimensional de saída (Esp). As RNAs aprendem a partir da experiência, isto é, elas são treinadas a partir de um algoritmo adaptativo; elas generalizam novos exemplos a partir de exemplos prévios e abstraem-se de características de entradas contendo dados irrelevantes. Atualmente, existem vários trabalhos que combinam redes neurais, funções wavelets e aproximadores universais de funções. Dentro deste contexto, o principal objetivo deste trabalho é apresentar resultados, em aproximação de funções, da aplicação do método Levenberg-Marquardt (LM) para desenvolvimento de um algoritmo adaptativo para treinamento de redes neurais com funções de ativação PPS-Wavelets. Destaca-se que foi feito um estudo de caso em aproximação de funções para validação do algoritmo produzido. |
|
METODOLOGIA: |
Este trabalho de pesquisa foi desenvolvido em duas fases. Na primeira fase, um estudo teórico dos aspectos matemáticos das funções PPS e do método LM foi realizado, resultando um algoritmo para treinar as arquiteturas neurais PPS-Wavelets em problemas de aproximação de funções. Na segunda fase, foram aplicadas as arquiteturas neurais PPS-Wavelet em aproximação de funções. Tais arquiteturas neurais com três camadas (entrada,escondida,saída) foram treinadas com o algoritmo proposto baseado no método LM. O processamento de treinamento consistiu na minimização de uma função custo baseada no método dos mínimos erros quadrados. Todos os algoritmos desenvolvidos foram implementados no ambiente de programação Matlab. |
|
RESULTADOS: |
Mostraremos dois experimentos realizados de aproximação de funções com as Redes Neurais PPS-Wavelet. Experimento 1 - utilizou-se uma arquitetura neural PPS-Wavelet com 6 neurônios na camada escondida que possuíam função de ativação PPS-Wavelet w2(x)=2.Y3(x)-3.Y2(x)+Y(x) e a função a ser aproximada foi f(x)=sin(x)/x, onde: Y(x)=1/(1+e-x). A rede neural convergiu e o erro calculado foi 8,7*10-7. Experimento 2: utilizou-se uma arquitetura neural PPS-Wavelet com 10 neurônios na camada escondida que possuíam função de ativação PPS-Wavelet w3(x)=-6.Y4(x)+12.Y3(x)-7.Y2(x)+Y(x) e a função a ser aproximada foi f(x)=(cos(x)-sin(x))/(1+e-x). A rede neural convergiu e o erro calculado foi 4,6*10-4. |
|
CONCLUSÕES: |
Nesta pesquisa, foi investigado o método Levenberg-Marquardt para o desenvolvimento de um algoritmo adaptativo que objetivasse treinar Redes Neurais Artificiais com funções de ativação PPS-Wavelet. Como aplicação desta nova técnica, realizamos testes em problemas de aproximação de funções relatados junto ao trabalho. Os resultados obtidos garantem a validação do algoritmo produzido. |
|
Instituição de fomento: Universidade Estadual Paulista “Júlio de Mesquita Filho” - PIBIC
|
|
Trabalho de Iniciação Científica
|
|
Palavras-chave: Redes Neurais Artificiais; método Levenberg-Marquardt; Polinômios Potências de Sigmóide (PPS)–Wavelet. |
|
Anais da 58ª Reunião Anual da SBPC - Florianópolis, SC - Julho/2006 |