有了《独立同分布的大样本OLS回归》的铺垫,现在进一步将OLS推广到平稳时间序列的情况。
思路还是一样:
- 进行点估计,再研究估计量的性质;
- 构造统计量,在大样本下推导其渐近分布,并进行假设检验。
这里的各种计算与上一篇非常像,需要注意的是大数定律和中心极限定理在这里的使用条件(遍历平稳、鞅差分过程等)与上一篇不同,因此也需要不同的假设。
1 记号与假设
记Q=E(xtxt′),V=Var(xtεt)。
- 假设1 遍历平稳性(Ergodic stationary):{xt′,yt}′,t=1,…,N是可观测的遍历平稳过程;
- 假设2 线性性:yt=xt′β+εt,可写作矩阵形式y=Xβ+ε;
- 假设3 模型正确设定:E(εt∣xt)=0且E(εt2)=σ2<∞;
- 假设4 非奇异性:K×K矩阵Q是对称、有限、非奇异的;
- 假设5 鞅差分:相对于{xsεs,s<t}
生成的σ-域,{xtεt}为一鞅差分序列,且K×K矩阵V是对称、有限、正定的;
- 假设6 条件同方差:E(εt2∣xt)=σ2。
假设1包含了上一篇中的独立同分布过程。由于不再是在独立同分布假设下,因此严格外生性E(εt∣X)=0不一定可以满足。假设3允许xt包含前定变量(predetermined variables)如滞后的因变量yt1等,另外,由于有假设3的保证,V=Var(xtεt)=E(xtxt′εt2)。
2 一些定理
定理1 遍历平稳随机样本的弱大数定律:假设{Zt}t=1n为遍历平稳过程,E(Zt)=μ且E(∣Zt∣)<∞,定义Zˉn=n−1∑t=1nZt,则当n→∞时,有Zˉnpμ。
定理2 遍历平稳鞅差分序列的中心极限定理:若{Zt}t=1n为遍历平稳鞅差分过程,Var(Zt)=V为有限、对称、正定的矩阵。定义Zˉn=n−1∑t=1nZt,则当n→∞时,有
nZˉndN(0,V)
3 β^的性质
这里的全部内容都与上一篇类似。
和之前一样,β^=(X′X)−1X′y,β^与β之差为β^−β=(X′X)−1X′ε。
使用遍历平稳过程的弱大数定律,有Q^pQ,且Q^−1pQ−1。
同样有N1∑t=1NxtεtpE(xtεt)=0(利用了假设3)。由此可得β^−βp0。说明在这里,β^依旧是一致的。
4 β^的渐近分布及假设检验
这里的全部内容都与上一篇类似。
4.1 β^的渐近分布
与上一篇类似,可以推出
N(β^−β)dN(0,Q−1VQ−1)
它的渐近分布的方差又称为渐近方差,记为Avar(Nβ^)=Q−1VQ−1。
若满足假设6,即在条件同方差下,V=σ2Q,渐近分布就变成了
N(β^−β)dN(0,σ2Q−1)
4.2 假设检验
检验零假设H0:Rβ=r,其中R为J×K矩阵。
4.2.1 条件异方差
若零假设成立,则R(β^−β)=Rβ^−r,而左边的渐近分布已经知道了,因此,可构造
N(Rβ^−r)′(RQ−1VQ−1R′)−1N(Rβ^−r)dχJ2
式中的Q和V我们还需要进行估计。与上一篇类似,我们有Q^pQ,对于V,我们同样可其用样本形式估计:
V^=N−1t=1∑Nxtxt′et2=NX′D(e)D(e)′X
其中D(e)=diag(e1,…,eN)。
可以证得,V^pV。
最后,用Q^和V^进行替换,得:
N(Rβ^−r)′(RQ^−1V^Q^−1R′)−1(Rβ^−r)dχJ2
当J=1时,χ12开根号就是标准正态分布,因此可直接构造t统计量:
RQ^−1V^Q^−1R′N(Rβ^−r)dN(0,1)
4.2.2 条件同方差
若满足假设6,则V=σ2Q,代入上一节,有
N(Rβ^−r)′(σ2RQ^−1R′)−1(Rβ^−r)dχJ2
同样用s2代替σ2,它满足s2pσ2。最后可得
N(Rβ^−r)′(s2RQ^−1R′)−1(Rβ^−r)dχJ2
当J=1时,可得
s2RQ^−1R′N(Rβ^−r)dN(0,1)