自适应信号处理讲述.ppt

* 在无噪声条件下， 和 收敛仅取决于标量收敛因子 为此代入 式 归纳为 可以准确知道 * 在无噪情况下的收敛条件为： 是一步收敛 是振荡收敛 实际自适应系统中具有噪声， 的优化在小于1/2，通常 作为多次迭代的收敛因子。 是平滑收敛 * 最陡下降法和牛顿方法不同，每一步的加权调节是在梯度方向上。最陡下降法迭代算法为： 而 则 平移向量 平移 C.2.3 最陡下降梯度搜索方法 所以 * 旋转座标到主轴方向，即 其中 故 归纳可得迭代公式 * 最陡下降法稳定和收敛的条件为： 由于对角矩阵之积恰等于相应对角元素乘积之矩阵，故 * 要满足收敛条件 ，须 其中 是 的最大特征值。 而 则 则 * * C.2.4 迭代的稳定性和收敛速率 若满足上述条件，各项公比 均满足 迭代收敛的条件为 * 当 ，称为过阻尼情况，稳定收敛。 ， 当 ，称为临界阻尼情况，一步收敛。 ， 当 ，称为欠阻尼情况，振荡收敛。 ， 当 或 称为不收敛或不稳定情况。 时， * 收敛速率随 r 的减小而增大。 * 自适应系统中，MSE收敛于其最小值的过程，作为其性能的一种测度，我们现称之为学习过程，而MSE值对应其迭代次数的曲线称之为学习曲线。 均方误差 利用移动座标 则 C.2.5 自适应搜索学习曲线 * 在牛顿迭代算法中： 则 为简单几何级数，几何比 为： * 牛顿法的学习曲线是有单一时间常数的纯指数函数  * 为了说明学习曲线的收敛过程，定义两种时间常数： 如果一个单位时间相应于一次迭代，可以记为 收敛特性时间常数 和权值公比的关系 ， ， ， 即 K次迭代 ， 一次迭代 而 则 权值收敛时间常数 * 学习曲线的时间常数定义为 学习曲线的几何比 则相应的时间常数 为 由此 * 在最陡下降搜索算法时： 其中 和 均为对角矩阵，可交换 * 则 故最陡下降搜索算法的学习曲线是一些递降几何级数之和，各个几何级数之公比为： 最陡下降法的学习曲线是具有几何比为 即学习曲线是多个加权的指数函数之和。 的递降几何级数之和。 * * 第 个加权值的收敛时间常数与第 个几何比的关系 而 则 时间常数 学习曲线时间常数 * 1) 在 和其它情况相同的条件下，牛顿算法看来 的信息，以便求出 的直接路径。 比较牛顿算法和最陡下降算法： 2) 牛顿方法需要利用相关距阵 比最陡下降方法 收敛得更快。 在性能表面上到达 * 自适应信号处理 Adaptive Signal Processing 薛永林 xueyl@tsinghua.edu.cn FIT 1-410 * 课程内容 C.1 自适应信号处理（Introduction） 自适应系统特点, 自适应处理原理 梯度和最小均方误差， 性能函数和性能曲面 C.2 自适应搜索算法 性能曲面梯度搜索 牛顿法，最陡下降法 学习曲线及比较 C.3 LMS算法 LMS算法导出，加权矢量的收敛性 学习曲线，梯度估计对自适应过程的影响 加权矢量解中的噪声，失调 C.4 最小二乘自适应滤波及快速算法 投影矩阵，滤波算子 格型滤波器，快速横向滤波器 C.5 自适应信号处理的应用 * 参考文献 (1) 张旭东、陆明泉，离散随机信号处理，清华大学 出版社，2005 (2) Bernard Widrow，Samuel D.Stearns， Adaptive Signal Processing， Prentice-Hall，1985 (3) Simon Haykin，自适应滤波器原理，第4版，电子工业出版社，2003 * C.1 自适应信号处理 C1.1 自适应处理概述 C1.1.1 自适应系统特点: 能自动适应(最佳)变化的(时变)环境条件和要求 可被训练以实现特定的过滤和判决 可趋于自学习、自修复、自更新和自设计 复杂性高，系统性能高（尤其是对时变信号） 主要是时变的非线性系统 * 自适应滤波器： 当环境条件发生变化时，能自动检测变化并调整参数 使输出性能达到最优的滤波器 自适应过程： 包括学习过程和跟踪过程 性能测量： 自适应的速度 接近最优的程度 * C1.1.2 自适应系统分类 开环系统 * 闭环系统 * C1.1.3 自适应系统指标 （1）收敛速率 滤波器从初始参数调节到输出充分接近最优所需 的迭代次数 （