计量经济学2

Chapter2TheSimpleRegressionModel2.1DefinitionoftheSimpleRegressionModel2.2OrdinaryLeastSquares(OLS)2.3PropertiesofOLSonAnySampleofData2.4UnitsofMeasurementandFunctionalForm2.5ExpectedValuesandVariancesoftheOLSEstimators2.6RegressionthroughtheOrigin2.1DefinitionoftheSimpleRegressionModel01(2.1)yxu简单线性回归模型两变量/双变量线性回归模型当我们研究y是如何随x变化时，要考虑几个问题：除了x以外是否有其他影响y的因素？y和x的函数关系到底是怎样的？我们是否可以抓住在其他条件不变的情况下y和x之间的关系？变量间的关系（1）确定性关系或函数关系：研究的是确定现象非随机变量间的关系。（2）统计依赖或相关关系：研究的是非确定现象随机变量间的关系。对变量间统计依赖关系的考察主要是通过相关分析或回归分析来完成的：XY11正相关相关系数线性相关不相关负相关有因果关系回归分析统计依赖关系无因果关系相关分析正相关非线性相关不相关负相关▲注意：①不线性相关并不意味着不相关；②有相关关系并不意味着一定有因果关系；③相关分析研究一个变量对另一个（些）变量的统计依赖关系，但它们并不意味着一定有因果关系。④相关分析对称地对待任何（两个）变量，两个变量都被看作是随机的。回归分析对变量的处理方法存在不对称性，即区分因变量（被解释变量）和自变量（解释变量）：前者是随机变量，后者不是。回归分析的基本概念回归分析(regressionanalysis)是研究一个变量关于另一个（些）变量的具体依赖关系的计算方法和理论。其用意：在于通过后者的已知或设定值，去估计和（或）预测前者的（总体）均值。这里：前一个变量被称为被解释变量（ExplainedVariable）或因变量（DependentVariable），后一个（些）变量被称为解释变量（ExplanatoryVariable）或自变量（IndependentVariable）。01(2.1)yxu除了x之外影响y的其它因素2.1.1SomeTerminology因变量被解释变量响应变量被预测变量回归子自变量解释变量控制变量预测元回归元误差项扰动项如果我们假设其他因素保持不变，则的变化为0.即，那么，：斜率参数；：截距参数u01(2.1)yxu0uxy110主要关注次要关注随机误差项主要包括下列因素的影响：1）在解释变量中被忽略的因素的影响；2）变量观测值的观测误差的影响；3）模型关系的设定误差的影响；4）其它随机因素的影响。产生并设计随机误差项的主要原因：1）理论的含糊性；2）数据的欠缺；3）节省原则。Example1：ASimpleWageEquation01(2.2)wageeducu度量了在其他条件不变的情况下，每增加一年的教育所获得的小时工资的增长包括天生素质、工作经验、工作时间、工作道德、及其他无数因素2.1.2ASimpleAssumption1、关于u的假定（非限制性假定）Whyisnotarestrictiveassumption？()0(2.3)Eu假设则式（2.1）可以写作：()5Eu01(5)(5)yxu()(5)0EuEu则有：5uu习题2.1ASimpleAssumption2.零条件均值假定：()()0(2.4)EuxEu对于任何给定的x值，非观测因素的均值都是相等的——它们必须与整个总体中的u的均值相等。这意味着，u和x不相关。Questions：假定期末考试的分数(score)决定于出勤率(attend)和影响考试成绩的其他非观测因素：那么这个模型能满足零条件均值假定吗？01scoreattenduExample1（continue）01(2.5)wageeducu为了简单起见，假定u为个人的天生能力(9)(16)EabilEabil2.1.3populationregressionfunction（PRF）根据零条件均值假定，有：01()(2.6)Eyxx总体回归函数这是一个线性函数：x增加一单位，将使y的期望值改变之多1由于变量间关系的随机性，回归分析关心的是根据解释变量的已知或给定值，考察被解释变量的总体均值，即当解释变量取某个确定值时，与之统计相关的被解释变量所有可能出现的对应值的平均值。即如果知道了家庭的月收入，能否预测该社区家庭的平均月消费支出水平。为达到此目的，将该100户家庭划分为组内收入差不多的10组，以分析每一收入组的家庭消费支出。[例]一个假想的社区有100户家庭组成，要研究该社区每月家庭消费支出Y与每月家庭可支配收入X的关系。表2.1.1某社区家庭每月收入与消费支出统计表每月家庭可支配收入X（元）800110014001700200023002600290032003500561638869102312541408165019692090229959474891311001309145217381991213423216278149241144136415511749204621782530638847979115513971595180420682266262993510121210140816501848210123542860968104512431474167218812189248628711078125414961683192522332552112212981496171619692244258511551331156217492013229926401188136415731771203523101210140816061804210114301650187021121485171619472200每月家庭消费支出Y（元）2002共计242049501149516445193052387025025214502128515510▲分析：（1）由于不确定因素的影响，对同一收入水平X，不同家庭的消费支出不完全相同；（2）由于调查的完备性，给定收入水平X的消费支出Y的分布是确定的，即以X的给定值为条件的Y的条件分布（Conditionaldistribution）是已知的，如：P(Y=561|X=800）=1/4。因此，给定收入X的值Xi，可得消费支出Y的条件均值（conditionalmean）或条件期望（conditionalexpectation）：E(Y|X=Xi)该例中：E(Y|X=800)=60505001000150020002500300035005001000150020002500300035004000每月可支配收入X（元）每月消费支出Y（元）描出散点图发现：随着收入的增加，消费“平均地说”也在增加，且Y的条件均值均落在一根正斜率的直线上。这条直线称为总体回归线。▲概念：在给定解释变量Xi条件下被解释变量Yi的期望轨迹称为总体回归线(populationregressionline)，或更一般地称为总体回归曲线(populationregressioncurve)。称为（双变量）总体回归函数（populationregressionfunction,PRF）。相应的函数：()()iiEYXfX..x1x2E(y|x)=0+1xyf(y)E(y|x)asalinearfunctionofx,whereforanyxthedistributionofyiscenteredaboutE(y|x)2.1.4样本回归函数（SRF）问题：能从一次抽样中获得总体的近似的信息吗？如果可以，如何从抽样中获得总体的近似信息？总体的信息往往无法掌握，现实的情况只能是在一次观测中得到总体的一个样本。问：能否从该样本估计总体回归函数PRF？回答：能[例]在前例的总体中有如下一个样本，表2.1.3家庭消费支出与可支配收入的一个随机样本Y800110014001700200023002600290032003500X59463811221155140815951969207825852530该样本的散点图（scatterdiagram)：样本散点图近似于一条直线，画一条直线以尽好地拟合该散点图，由于样本取自总体，可以该线近似地代表总体回归线。该线称为样本回归线（sampleregressionlines）。记样本回归线的函数形式为：称为样本回归函数（sampleregressionfunction，SRF）。01ˆˆ()iiiYfXX这就要求：设计一“方法”构造SRF，以使SRF尽可能“接近”PRF，或者说使尽可能接近。▼回归分析的主要目的：根据样本回归函数SRF，估计总体回归函数PRF。(1,2)ii注意：这里PRF可能永远无法知道。ˆ(1,2)ii回归分析的主要目的是要通过样本回归函数（模型）SRF尽可能准确地估计总体回归函数（模型）PRF。估计方法有多种，其种最广泛使用的是普通最小二乘法(ordinaryleastsquares,OLS)。为保证参数估计量具有良好的性质，通常对模型提出若干基本假设。注：实际这些假设与所采用的估计方法紧密相关。2.2OrdinaryLeastSquares(OLS)2.2.1普通最小二乘法的推导线性回归模型的基本假设假设1：解释变量X是确定性变量，不是随机变量；或者，虽然X是随机变量，但与随机误差项是不相关的；假设2：随机误差项具有零均值、同方差和不序列相关性：E(i|x)=0i=1,2,…,nVar(i|x)=2i=1,2,…,nCov(i,j)=0i≠ji,j=1,2,…,n假设3、随机误差项与解释变量X之间不相关：Cov(Xi,i)=0i=1,2,…,n假设4、服从零均值、同方差、零协方差的正态分布i~N(0,2)i=1,2,…,n另外，在进行模型回归时，还有两个暗含的假设：以上假设也称为线性回归模型的经典假设或高斯（Gauss）假设，满足该假设的线性回归模型，也称为经典线性回归模型（ClassicalLinearRegressionModel,CLRM）。1、如果假设1、2满足，则假设3也满足;2、如果假设4满足，则假设2也满足。注意：假设5旨在排除数据出现持续上升或下降的变量作为解释变量，因为这类数据不仅使大样本统计推断变得无效，而且往往产生所谓的伪回归问题（spuriousregressionproblem）。假设6也被称为模型没有设定偏误（specificationerror）假设6：回归模型是正确设定的2()/iXXnQn，假设5：随着样本容量的无限增加，解释变量X的样本方差趋于一有限常数。即假定对于式2.1，我们得到参数和的估计值和，则定义时的拟合值为，第i次观测的残差：的实际值和它的拟合值之差，即010ˆ1ˆyˆiy01ˆˆˆ(2.8)iiyxixxiyˆˆ(2.9)iiiuyy参数的普通最小二乘估计(OLS)iˆ为了估计参数使用一个容量为n的随机样本：01(2.1)yxu01{(,):1,2,,}iixyin01(2.7)iiiyxu对于参数的估计值，我们希望它们尽可能的接近真实值。换言之，希望y的拟合值和它的实际值之间的差异尽可能的小，则：220111ˆˆˆminmin()(2.10)nniiiiiuyx为什么不直接最小化残差的和？这就是为什么叫作普通最小二乘法（OLS）一阶导数为0，二阶导数大于0.一阶条件：010111ˆ