非线性时间序列.docx
《非线性时间序列.docx》由会员分享，可在线阅读，更多相关《非线性时间序列.docx（12页珍藏版）》请在冰点文库上搜索。
非线性时间序列
近代时间序列分析选讲:
一.非线性时间序列
二.GARCH模型
三.多元时间序列
四.协整模型
非线性时间序列
第一章.非线性时间序列浅释
1.从线性到非线性自回归模型
2.线性时间序列定义的多样性
第二章.非线性时间序列模型
1.概述
2.非线性自回归模型
3.带条件异方差的自回归模型
4.两种可逆性
5.时间序列与伪随机数
第三章.马尔可夫链与AR模型
1.马尔可夫链
2.AR模型所确定的马尔可夫链
3.若干例子
第四章.统计建模方法
1.概论
2.线性性检验
3.AR模型参数估计
4.AR模型阶数估计
第五章.实例和展望
1.实例
2.展望
第一章.非线性时间序列浅释
1.从线性到非线性自回归模型
时间序列{xt}是一串随机变量序列,
它有广泛的实际背景,特别是在经济与金融领域中尤其显著.关于它们的从线性与非线性概念,可从以下的例子入手作一浅释的说明.
考查一阶线性自回归模型---LAR
（1）:
xt=xt-1+et,t=1,2,…（1.1）
其中{et}为i.i.d.序列，且Eet=0,Eet=2<,而且et与{xt-1,xt-1,…}独立.反复使用（1.1）式的递推关系,就可得到
xt=xt-1+et
=et+xt-1
=et+{et-1+xt-2}
=et+et-1+2xt-2
=…
=et+et-1+2et-2
+…+n-1et-n+1+nxt-n.（1.2）
如果当n时,
nxt-n0,（1.3）
{et+et-1+2et-2+…+n-1et-n+1}
j=0jet-j.（1.4）
虽然保证以上的收敛是有条件的,而且要涉及到具体收敛的含义,但是,对以上的简单模型,不难相信,当||<1时,（1.3）（1.4）式成立.于是,当||<1时,模型LAR
（1）有平稳解,且可表达为
xt=j=0jet-j.（1.5）
通过上面叙述可见求LAR
（1）模型的解有简便之优点,此其一.还有第二点,容易推广到LAR（p）模型.为此考查如下的p阶线性自回归模型LAR（p）:
xt=1xt-1+2xt-2+...+pxt-p+et,
t=1,2,…（1.6）
其中{et}为i.i.d.序列，且Eet=0,Eet=2<,而且et与{xt-1,xt-1,…}独立.虽然反复使用（1.6）式的递推式,仍然可得到（1.2）式的类似结果,但是,用扩张后的一阶多元AR模型求解时,可显示出与LAR
（1）模型求解的神奇的相似.为此记
Xt=
U=
A=
（1.7）
于是（1.6）式可写成如下的等价形式:
Xt=AXt-1+etU.（1.8）
反复使用此式的递推关系,形式上仿照（1.2）式可得
Xt=AXt-1+etU
=etU+et-1AU+A2xt-2
=
=etU+et-1AU+et-2A2U+…
+et-n+1An-1U+Anxt-n.
如果矩阵A的谱半径（A的特征值的最大模）（A）,满足如下条件
（A）<1,（1.10）
由上式可猜想到（1.8）式有如下的解:
Xt=k=0AkUet-k.（1.11）
其中向量Xt的第一分量xt形成的序列{xt},就是模型（1.6）式的解.由此不难看出,它有以下表达方式
xt=k=0ket-k.（1.11）
其中系数k由（1.6）式中的1,2,...,p确定,细节从略.不过,（1.11）式给了我们重要启发,即考虑形如
xt=k=0ket-k,k=0k2,（1.12）
的时间序列类（其中系数k能保证（1.12）式中的xt有定义）.在文献中,这样的序列{xt}就被称为线性时间序列.
虽然以上给出了线性时间序列的定义,以下暂时不讨论什么是非线性时间序列,代之先讨论一阶非线性自回归模型---NLAR
（1）,以便与LAR
（1）模型进行比较分析.首先写出NLAR
（1）模型如下
xt=（xt-1）+et,t=1,2,…（1.13）
其中{et}为i.i.d.序列，且Eet=0,Eet=2<,而且et与{xt-1,xt-2,…}独立,这些假定与LAR
（1）模型相同,但是,（xt-1）不再是xt-1的线性函数,代之为非线性函数,比如
（xt-1）=xt-1/{a+bxt-12}.
此时虽然仍可反复使用（1.13）式进行迭代,但是所得结果是
xt=（xt-1）+et
=et+（xt-1）
=et+（et-1+（xt-2））
=et+（et-1+（et-2+（xt-3）））
=…
=et+（et-1+（et-2+…+（xt-n））…）.
（1.14）
根据此式,我们既不能轻易判断（xt-1）函数满足怎样的条件时,上式会有极限,也不能猜测其极限有怎样的形式.
对于p阶非线性自回归模型
xt=（xt-1,xt-2,…,xt-p）+et,
t=1,2,…（1.15）
仿照（1.6）至（1.9）式的扩张的方法,我们引入如下记号
（xt-1,xt-2,…,xt-p）
（1.16）
我们得到与（1.15）式等价的模型
Xt=（Xt-1）+etU,t=1,2,…（1.17）
但是,我们再也得不出（1.9）至（1.14）式的结果,
至此我们已将看出,从线性到非线性自回归模型有实质性差异,要说清楚它们,并不是很简单的事情.从数学角度而言,讨论线性自回归模型可借用泛函分析方法,然而,讨论非线性自回归模型,则要借用马尔可夫链的理论和方法.这也正是本讲座要介绍的主要内容.
2.线性时间序列定义的多样性
现在简单叙述一下非线性时间序列定义的复杂性,它与线性时间序列的定义有关.前一小节中（1.12）式所显示的线性时间序列,只是一种定义方式.如果改变对系数k的限制条件,就会给出不同的定义.更为重要的是,在近代研究中,将（1.12）式中的i.i.d.序列{et}放宽为平稳鞅差序列,这在预报理论中很有意义.
无论引用哪一种线性时间序列定义,都对相应的序列的性质有所研究,因为其研究成果可用于有关的线性时间序列模型解的特性研究.事实上,已经有丰富的成果被载入文献史册.
依上所述可知,由于线性时间序列定义的多样性,必然带来非线性时间序列定义的复杂性.这里需要强调指的是,对于非线性时间序列,几乎没有文章研究它们的一般性质,这与线性时间序列情况不同.于是人们要问,我们用哪些工具来研究非线性时间序列模型解的特性呢?
这正是本次演讲要回答的问题.确切地说,我们将介绍马尔可夫链,并借助于此来讨论非线性自回归模型解的问题.
第二章.非线性时间序列模型
1.概论
从（1.12）式可见，一个线性时间序列{xt},被{et}的分布和全部系数i所决定.在此有无穷多个自由参数，这对统计不方便，因此人们更关心只依赖有限个自由参数的线性时间序列，这就是线性时间序列的参数模型.其中最常用的如ARMA模型.对于非线性时间序列而言,使用参数模型方法几乎是唯一的选择.由于非线性函数的多样性,带来了非线性时间序列模型的多样性.但是,迄今为止被研究得较多,又有应用价值的非线性时序模型,为数极少,而且主要是针对非线性自回归模型.在介绍此类模型之前,我们先对非线性时序模型的分类作一概述.
通用假定:
{t}为i.i.d.序列，且Et=0,而且t与{xt-1,xt-2,…}独立.
可加噪声模型:
xt=（xt-1,xt-2,…）+t,
t=1,2,…（2.1）
其中（…）是自回归函数.当它仅依赖于有限个未知参数时,记此参数向量为,其相应的（2.1）模型常写成
xt=（xt-1,xt-2,…;）+t,
t=1,2,…（2.2）
否则,称（2.1）式称为非参数模型.
关于（2.1）（2.2）的模型的平稳性,要在下一章讨论,但是,它有类似于线性AR模型的几个简单性质,是重要的而且容易获得的,它们是:
E（xt|xt-1,xt-2,…）
=E{（xt-1,xt-2,…）+t|xt-1,xt-2,…}
=（xt-1,xt-2,…）+E（t|xt-1,xt-2,…）
=（xt-1,xt-2,…）（2.3）
var{xt|xt-1,xt-2,…}
E{[xt-（xt-1,…）]2|xt-1,xt-2,…}
=E{t2|xt-1,xt-2,…}
=Et2
=2.（2.4）
P{xt=P{（xt-1,…）+t=P{t=F（x-（xt-1,…））.（2.5）
其中F是t的分布函数.
带条件异方差的模型:
xt=（xt-1,xt-2,…）
+S（xt-1,xt-2,…）t,
t=1,2,…（2.6）
其中（…）和S（…）也有限参数与非参数型之分,这都是不言自明的.另外,（2.6）式显然不属于可加噪声模型.但是,它比下面的更一般的非可加噪声模型要简单得多.这可通过推广（2.3）（2.4）（2.5）式看出,即有,
E（xt|xt-1,xt-2,…）
=E{（xt-1,xt-2,…）
+S（xt-1,xt-2,…）t|xt-1,xt-2,…}
=（xt-1,xt-2,…）
+S（xt-1,xt-2,…）E{t|xt-1,xt-2,…}
=（xt-1,xt-2,…）.（2.3）’
var{xt|xt-1,xt-2,…}
E{[xt-（xt-1,…）]2|xt-1,xt-2,…}
=E{S2（xt-1,xt-2,…）t2|xt-1,xt-2,…}
=S2（xt-1,xt-2,…）E{t2|xt-1,xt-2,…}
=S2（xt-1,xt-2,…）2.（2.4）’
P{xt=P{（xt-1,…）
+S（xt-1,…）t=P{t<[x-（xt-1,…）]/S（xt-1,…）}
=F（[x-（xt-1,…）]/S（xt-1,…））.（2.5）’
一般非线性时序模型:
xt=（xt-1,xt-2,…;t,t-1,…）
t=1,2,…（2.7）
其中（…）也有参数与非参数型之区别,这也是不言自明的.显然,（2.7）式既不是可加噪声模型,也不属于（2.6）式的带条件异方差的模型.虽然,它可能具有条件异方差性质.相反,后两者都是（2.7）式的特殊类型.虽说（2.7）式是更广的模型形式,在文献中却很少被研究.只有双线性模型作为它的一种特殊情况,在文献中有些应用和研究结果出现.现写出其模型于后,可供理解其双线性模型的含义
xt=j=1pjxt-j+j=1qjt-j
+i=1Pj=1Qijt-ixt-j.
2.非线性自回归模型
在前一小节中的（2.1）和（2.2）式就是非线性自回归模型,而且属于可加噪声模型类.在这一小节里,我们将介绍几种（2.2）式的常见的模型.
函数后的线性自回归模型:
f（xt）=1f（xt-1）+2f（xt-2）+...+pf（xt-p）+t,
t=1,2,…（2.8）
其中f（.）是一元函数,它有已知和未知的不同情况,不过总考虑单调增函数的情况,=（1,2,…,p）是未知参数.在实际应用中,{xt}是可获得量测的序列.
当f（.）是已知函数时,{f（xt）}也是可获得量测的序列,于是只需考虑yt=f（xt）所满足的线性AR模型
yt=1yt-1+2yt-2+...+pyt-p+t,
t=1,2,…（2.9）
此时可不涉及非线性自回归模型概念.在宏观计量经济分析中,常常对原始数据先取对数后,再作线性自回归模型统计分析,就属于此种情况.这种先取对数的方法,不仅简单,而且有经济背景的合理解释,它反应了经济增长幅度的量化规律.虽然在统计学中还有更多的变换可使用,比如Box-Cox变换,但是,由于缺少经济背景的合理解释,很少被使用.由此看来,当f（.）有实际背景依据时,可以考虑使用（2.7）式的模型.
当f（.）是未知函数时,{f（xt）}不是可量测的序列,于是只能考虑（2.8）模型.注意f（.）是单调函数,可记它的逆变换函数为f-1（.）,于是由（2.8）模型可得
xt=f-1（1f（xt-1）+2f（xt-2）+...
+pf（xt-p）+t）,
t=1,2,…（2.9）’
此式属于（2.7）式的特殊情况,此类模型很少被使用.取而代之是考虑如下的模型
xt=1f（xt-1）+2f（xt-2）+...+pf（xt-p）+t,
t=1,2,…（2.10）
其中f（.）是一元函数,也有已知和未知之分,可不限于单调增函数.此式属于（2.1）式的特殊情况,有一定的使用价值.
当（2.10）式中的f（.）函数是已知时,此式还有更进一步的推广模型,
xt=1f1（xt-1,…,xt-s）+2f2（xt-1,…,xt-s）
+...+pfp（xt-1,…,xt-s）+t,
t=1,2,…（2.11）
其中fk（…）（k=1,2,…,p）是已知的s元函数.
例如,以后将要多次提到的如下的模型:
xt=1I（xt-1<0）xt-1+2I（xt-10）xt-1+t,
t=1,2,…（2.12）
其中I（.）是示性函数.此模型是分段线性的,是著名的TAR模型的特殊情况.为了有助于理解它,我们写出它的分段形式:
xt=
t=1,2,…
请注意,（2.8）（2.10）和（2.11）式具有一个共同的特征,就是未知参数都以线性形式出现在模型中.这一特点在统计建模时带来极大的方便.此类模型便于实际应用.但是,对于{xt}而言不具有线性特性,所以,讨论它们的平稳解的问题,讨论它们的建模理论依据问题,都需要借助于马尔可夫链的工具.
已知非线性自回归函数的模型:
xt=（xt-1,xt-2,…,xt-p;）+t,
t=1,2,…（2.13）
其中（…）是p元已知函数,但是其中含有未知参数=（1,2,…,p）.一般说来,在一定范围内取值.
例如,
xt=
t=1,2,…
其中=（1,2）是未知参数,它们的取值范围是:
-<<,0<.
这里需要指出,使用上式的模型,不仅要借助于马尔可夫链的工具,而且在统计建模时遇到两种麻烦,其一是参数估计的计算麻烦,二是确定（…）函数的麻烦.一般来说,只有根据应用背景能确定（…）函数时,才会考虑使用此类模型.
广义线性模型（神经网络模型）:
xt=（1xt-1+2xt-2+…+pxt-p）+t,
t=1,2,…（2.14）
其中（.）是一元已知或未知函数,参数=（1,2,…,p）总是未知的.为保证模型的唯一确定性,或者说是可识别性,要对作些约定,其一,||||=1,其二,=（1,2,…,p）中第一个非零分量为正的.不难理解,若不加这两条约定,模型（2.14）不能被唯一确定.
当（.）是一元已知函数时,与神经网络模型相通.
当（.）是一元未知函数时,与回归模型中的PP方法相通.
除了以上两类模型外,还有（2.1）式的非参数自回归模型,以及从统计学中引入的半参数自回归模型.对它们的统计建模更困难.本讲座主旨在于介绍如何用马尔可夫链的工具,描述非线性自回归模型的基本特性问题,对这类模型不再仔细讨论.
升级会员 