梯度下降法的参数自适应设置及全局寻优改进.pdf
文本预览下载声明
摘要
摘要
随着人工智能的发展，深度神经网络在各个行业领域得到了广泛应用。神经网
络的复杂程度逐渐增加，网络模型也随之增大，且需要更长的训练时间。神经网络
中的优化器是影响网络训练收敛速度的重要因素，因此提升神经网络中优化器的
性能尤为重要。近年来，研究者们对梯度下降法的改进主要有以下两个方向：一是
将自适应技术引入梯度下降法，提升算法的收敛速度和精确度；二是将梯度下降法
与其他算法结合，实现更好的全局寻优。然而，将这两种研究方向
显示全部