对几种多层前馈神经网络训练算法的研究对几种多层前馈神经网络训练算法的研究
张旭峰;杨磊;伊静;
摘要(Abstract):
多层前馈神经网络具有模式识别能力强、训练算法多样等优点,但是其训练过程的低效率始终是多层前馈神经网络应用和发展的瓶颈。为了解决这个问题,科学家们提出了很多加速训练的算法。本文首先介绍了几种主要的训练算法及其思想,然后通过实验数据对这几种算法的收敛速度进行了比较。在此基础上本文阐明了几种算法的适用范围及其优缺点。
关键词(KeyWords): 前馈神经网络;收敛速度;训练算法
基金项目(Foundation):
作者(Author): 张旭峰;杨磊;伊静;
Email:
DOI:
参考文献(References):
- [1]Michael Negnevitsky.人工智能:智能系统指南(英文版·第2版)[M].北京:机械工业出版社,2005.1.
- [2]Hagan,M.T.,and M.Menhaj.Training feedforward networks with the Marquardt algorithm.IEEE Transactions on Neural Networks,vol.5,no.6.1994.989-993.
- [3]Moller,M.F.A scaled conjugate gradient algorithm for fast supervised learning.Neural Networks,vol.6.1993.525-533.
- [4]Hagan,M.T.,H.B.Demuth,and M.H.Beale.Neural Network Design,Boston,MA:PWS Publishing.1996.
- [5]Blake CL,Merz CJ.UCI repository of machine learning databases.1998.http://www.ics.uci.edu/~mlearn/MLRepository.html.