批量学习与在线学习

在线学习省钱技巧，比如如何批量使用同一张券。 #生活技巧# #节省生活成本# #生活优化# #优惠券领取方法#

批量学习（batch learning）与在线学习（online learning）

批量学习（batch learning）

所谓的批量学习是指在训练模型时，一次性的把所有样本全部输入，可以理解为填鸭式。批量学习的代价函数是由平均误差定义的（要先算出特征x所有样本的总误差除以样本数）。由于批量学习一次性需要所有样本，因此批量学习有着存储要求（要存储这些训练样本）。

在线学习（online learning）

在线学习是每输入一个样本都会计算下误差，调整一下参数，是基于样本的。假设有m个样本，在线学习的过程是先输入样本 ，然后调整参数，接着再输入 ，再调整参数，这样持续到最后一个样本。这样也就导致了在线学习没有并行性，一般在使用在线学习时会随机打乱训练样本的顺序，这样可以 有效避免陷入局部最小值。在线学习的一个优点是能够追踪训练数据小的改变。在线学习一般用于实时产生数据的web网站等（流数据）。

在线学习有两个优点：

在线学习容易执行对大规模和困难模式分类问题能提供有效解

下面给出一个简洁的描述（图片来自 Hinton neural network for machine learning）

参考资料：

《神经网络与机器学习》（第三版）   增量学习

网址：批量学习与在线学习 https://www.yuejiaxmz.com/news/view/112798

相关内容

学习指导：中学生学习方法七步走 —中国教育在线
小学生居家生活与学习指南发布线上学习“一个都不少”
Linux学习进阶路线图
居家学习|指导孩子提高在线学习效率的建议
线上教学优秀案例（五）｜基于超星学习通平台的在线教学实践体会
黑客学习路线
线上教学质量=学生的10个“考题”+教师的10个“修炼” 这位特级教师“云端学习”有绝招
大学生学习压力与能量管理——“世界精神卫生日”主题线上讲座来啦!
开学第一课：引导学生从生活中学习与思考.docx
如何提升学习效率？: 学习策略与方法

随便看看