非线性回归模型精要.ppt

第14章 非线性回归模型 14.1本质上的线性和非线性回归模型 模型可以线性于参数，也可以线性于变量。 一开始讨论线性回归模型的时候，我们陈述过本书所关心的基本上是线性于参数的模型。 如果一个模型非线性于参数，那么它就是非线性回归模型。 然而，这里必须小心，有些模型可能看起来非线性于参数，但是通过合适的变换它们可以变成线性于参数的回归模型。 如果此类模型不能线性化于参数，则它们就被称作为本质非线性回归模型。简单起见，我们把它称为 “NLRM”。 柯布-道格拉斯(C-D)生产函数是本质线性的。 (14.1.2) 问题：函数 是不是本质线性的？ 答案: 所以这个模型本质上是线性的。 问题：常替代弹性（CES）生产函数是不是本质线性的？ (14.1.5) Y - 产出 K -资本投入 L -劳动投入 A - 规模参数 - 分布函数 (0 1) - 替代参数 ( ) 答案：此模型本质上非线性 14.2线性和非线性回归模型的估计 考虑以下的模型： (14.2.2) 回归(14.2.2)被称为指数回归模型。 我们利用OLS方法得到正规方程： (14.2.4) (14.2.5) 应用于一个非线性回归模型的OLS方法被称为非线性最小二乘法（NLLS）。 然而，由上述正规方程不能得出未知量的显示解。因为方程的左侧和右侧都有未知量。 §14.3 估计非线性回归模型：试错法 为了做好准备，让我们来考虑一个具体例子。 数据：P567 表14.1和图14.1 根据图14.1，假定 则可以把（14.2.2）写成 (14.3.1) 因此， (14.3.2) 根据给定的数值，我们得到 : 如果我们选择其他数值 重复刚才拟定的程序，我们发现现在将得到： 这种方法被称为试错法。 可见，如果我们假定一组β值，相应地就可以得到一个 值。 如果你有无限的时间和耐心，最终一定可以得出使 最小的 和 的值。 §14.4 估计非线性回归模型的方法 1.直接搜索或试错法或不用求导的方法 这是在§14.3中提到过的方法。 缺陷： a. 如果回归元太多，计算会很复杂。 b. 可以得到局部最小值，但不一定是绝对最小值。 2. 直接最优化 通过直接运用OLS方法，可以得到正规方程(14.2.4) 和(14.2.5) ，然后运用最速下降法来解出参数值。 3.迭代线性化方法 首先，在参数初始值附近线性化一个非线性方程。 其次，用OLS方法估计线性化了的方程，并调整参数初始值。 第三，用经过高速的参数值重新线性化该模型，再次用OLS方法估计，得出新的参数估计值。 继续重复上述过程，直到两次估计结果无实质变化。 泰勒定理(Taylor’s theorem, or Taylor series expansion) ： R代表高阶无穷小。多项式的次数越高，近似值就越接近初始函数。 问：如何在x=0附近得到 的近似值？ 因此我们得到： 一阶近似： 答： 二阶近似： 三阶近似： 问：如何在x=a,z=b处展开Y=f(x,z)？ 答： §14 A.3 方程(14.2