目前学术界主流主要是SGD-minibatch和adadelta/adagrad
这篇博文介绍的不错了,作者居然九五年,大学还没毕业...感叹现在的年轻人啊
http://www.cnblogs.com/neopenx/p/4768388.html