易百教程

39、小批量梯度下降的主要好处是什么?

小批量梯度下降的主要好处是:

  • 与随机梯度下降相比,它的计算效率更高。
  • 它通过找到平坦的最小值来提高泛化能力。
  • 它通过使用小批量来提高收敛性。可以近似整个训练集的梯度,这可能有助于避免局部最小值。