外国政府贷款项目绩效评价指标设计和解读2一、设计绩效评价指标的意义顺应国内外公共管理绩效评价的发展趋势客观评价贷款项目绩效的需求加强外国政府贷款管理的需求控制国家主权外债风险和提高效能的需求引导国外优惠资金投向和优化结构的需求与外国政府进行对话、磋商、谈判的需求3二、外国政府贷款项目特点优惠性与赠与性(低利率、还贷周期长)援助国促进出口和帮助受援国发展的目标OECD限制性审批条款与采购(商业不可行性)项目申报和审批程序复杂(共性特点)项目贷款规模大小不一(数万-上亿美元不等)涉及的管理部门众多,协调成本较高涵盖领域众多及政策导向议题(管理方式变化)贷款项目的实施跨度时间长(1979-2007年)4三、指标设计单个项目绩效评价重点:项目建设、运行和管理的水平项目预期目标的实现程度、具体实施效果项目的可持续性和社会、经济效益及影响绩效指标设计的四项基本准则:1)客观、公正、科学及可操作的原则2)定量评价与定性评价相结合的原则3)国外经验借鉴与国情相结合的原则4)满足财政部门外债管理需求的原则评价指标的局限性:绩效评价是一项实践性很强的活动,指标体系很难同时满足设计原则的要求,即使在国外的评价实践中也是如此。评价指标体系应在指标的科学性和适用性之间、评估成本和实施的复杂程度之间取得适当的平衡,或达成“妥协”。53.1具体评价指标的设计要求1-目的性:评价指标是对评价对象的本质及其构成要素的客观描述,设计指标时首先应针对评价目的和任务的需求,为评价结果的判定提供依据。2-科学性:评价指标应能反映评价对象的具体特征,具有准确性、完备性、一致性、独立性。3-适用性:评价指标的设计应精炼简明、易于理解、易于评价、稳定一致,适应于评价的数据和资料基础,具有信息的可采集性。4-导向性:项目绩效评价属于公共管理领域的评价活动。指标设计应突出国家政策导向、面向管理决策的原则,反映出公共管理的特点、关注点和导向作用以及外国政府贷款的特点。6四、项目绩效指标的构成和分类1-定量与定性指标-项目的评价指标具有定量和定性两种特点。但“定性”指标通过评价人员的主观判断,可使“定性”指标转换成“定量”指标。2-事实与观点判断-绩效评价可依据项目的基础数据信息、客观事实、利益相关者的观点等内容进行判断。在一定条件下,“观点”指标从理论上可以转换成“事实”指标,但仍需依据评价人员的主观判断。3-五项评价准则-采用国际上(OECD国家、世界银行、亚洲开发银行等)通用的5项评价准则。4-一级评价指标-单个项目层次采用16个指标。5-二级评价指标-单个项目层次采用30个指标。74.1.1一级指标和二级指标1.相关性(10%)评价准则一级指标(3个)二级指标(4个)1.相关性(10%)1.1与国家发展政策的相关性1.1.1与国家五年发展规划的相关性(分值:3、0)1.1.2与西部大开发、振兴东北老工业基地、中部崛起政策等国家区域发展总体战略的相关性(分值:3、0;N/A)1.2与行业/部门发展政策的相关性1.2.1与行业/部门发展政策的相关性(分值:3、0)1.3与地方发展需求的相关性1.3.1项目在地方发展规划中的优先程度(分值:3、0;N/A)84.1.2一级指标和二级指标2.效率(20%)评价准则一级指标(3个)二级指标(8个)2.效率(20%)2.1项目审批效率(权重20%)2.1.1项目审批效率(分值:3、2、1、0)2.2项目建设效率(权重40%)2.2.1项目实际建设进度(分值:3、2、1、0)2.2.2设备采购(分值:3、2、1、0;N/A)2.2.3配套资金到位率(分值:3、2、1、0;N/A)2.2.4项目投资成本(分值:3、2、1、0)2.3项目运行效率(权重40%)2.3.1设备使用效率(分值:3、2、1、0;N/A)2.3.2项目运行时间(分值:3、2、1、0)2.3.3项目运行成本(分值:3、2、1、0)94.1.3一级指标和二级指标3.效果(40%)评价准则一级指标(4个)二级指标(9个)3.效果(40%)3.1项目目标总体实现程度(权重50%)3.1.1项目建设目标完成程度(分值:3、2、1、0;N/A)3.1.2项目运行或实施目标完成程度(分值:3、2、1、0)3.2经济效益(权重20%)3.2.1经济效益(分值:3、2、1、0;N/A)3.3社会效益(权重20%)3.3.1扶贫效果(分值:3、0)3.3.2就业效果(分值:3、0)3.3.3环境效果(分值:3、0)3.3.4其它社会效果(分值:3、0;N/A)3.4管理制度和机构能力建设(权重10%)3.4.1项目单位能力建设(分值:3、2、1、0)3.4.2制度建设(分值:3、2、1、0)104.1.4一级指标和二级指标4.可持续性(30%)评价准则一级指标(3个)二级指标(5个)4.可持续性(30%)4.1技术与管理的可持续性(权重40%)4.1.1设备运行的可持续性(分值:3、2、1、0;N/A)4.1.2供应商售后服务(分值:3、2、1、0;N/A)4.1.3项目单位技术和管理能力(分值:3、2、1、0)4.2财务可持续性(权重30%)4.2.1项目收支情况(分值:3、2、1、0)4.3外国政府贷款偿还(权重30%)4.3.1外国政府贷款拖欠比例(分值:3、2、1、0)114.1.5一级指标和二级指标5.影响(附加评价内容,最多增、减10%)评价准则一级指标(3个)二级指标(4个)5.影响(附加评价内容,最多增、减10%)5.1项目示范和扩散效应(权重50%)5.1.1项目的示范和扩散(分值:3、0)5.2项目的经济、社会、环境影响(权重50%)5.2.1项目的经济、社会、环境影响(分值:3、0、-3)5.3其他影响(权重100%)5.3.1审计问题(分值:0、-3;N/A)5.3.2财政检查问题(分值:0、-3;N/A)124.2.1关于五项评价准则的定义1-相关性(Relevance)-外国政府援华贷款计划/项目的目标与国家、部门和地方的发展政策、需求的一致性程度。2-效率(Efficiency)-投入(Input)和产出(Output)的关系,它表示能否以更低的成本或更快的速度取得预计产出,效率还包括管理效率等。3-效果(Effectiveness)-计划或项目的目标实现程度及成效,效果可以体现在目标群体的直接获益。4-可持续性(Sustainability)-计划或项目完成后,其独立运行的能力和产生效益的可持续性,包括技术可持续性和财务可持续性等。5-影响(Impact)-计划或项目预期的或未预期的、正面的或负面的长期作用效果(属于额外加减分评价事项)。134.2.2项目实施与绩效评价的逻辑关系图“设计执行评价”及“目标活动绩效”关系示意图绩效产出实施过程相关性(Relevance)可持续性/影响(Sustainability/Impact)效果(Effectiveness)效率(Efficiency)具体目标Objectives投入Inputs活动Activities产出Outputs影响Impacts设计执行评价成效Outcomes总体目标Goal14五、关于指标权重和评分标准的说明1-关于指标权重的设置-指标体系权重的设置实际上反映了人们对评价目的和评价对象的价值判断取向。例如,为什么这个指标的权重高于年哪个指标?为什么这些指标的组合使用就能够反映出被评价对象的绩效特征并能完成绩效评价的目的?只对5项评价准则和16个一级指标设置权重。例如,评价准则权重:单个项目层次:相关性(10%)、效率(20%)、效果(40%)和可持续性(30%)等4类评价准则的权重之和为100%;而影响评价准则属于额外加或减分评价事项,权重为(10%)。2-关于评分计算方法-借鉴世行、亚行等国际组织以及一些OECD国家对于项目绩效评价方式,并结合中国的情况,项目绩效评价结果最终得分计算方法为:项目绩效评级总分(Points)=∑各类评价准则分值×各类评价准则权重各类评价准则分值=∑一级指标分值×一级指标权重(相关性除外)一级指标分值为二级各项指标各项分值的算术平均值,得分取小数点后两位(注:一级和二级指标的评分区间为0-3分)。3-关于绩效评价等级-按项目绩效评价总得分,分为4个等级(满分为3.3分):A-优,分值区间P≥2.55;B-良,分值区间1.95≤P2.55;C-中,分值区间1.50≤P1.95;D-差,分值区间P1.50。155.1关于相关性权重、影响附加权重及不适用(N/A)指标1-相关性评价原则:由于“相关性”指标比较特殊,项目的一级指标和二级指标均不设权重,也不对二级指标进行平均计算,直接取二级指标评价结果的单项最高分值。因此,只要该项目与国家发展政策、行业/部门发展政策或地方发展需求中的任意一项相关,该项目被视为具有相关性。2-影响准则附加权重:作为项目绩效评价的附加权重,影响准则给予最多增、减10%的权重,但最高加、减分不能超过3分,即最多+/-0.3分。3-不适用指标(N/A):不同外国政府贷款项目的特点不同(如有些项目并不能产生直接的经济效益-环境规划及能力建设项目),因此,并不是所有的二级指标都适用于项目的绩效评价。因此,有的指标在设定分值时会增加一项“不适用”(N/A)指标。对于该项指标不适用的项目,则不进行评价,但其相关的一级指标权重会加大。16六、项目绩效指标难点解读(1)1-相关性(10%)1.1-与国家五年发展规划及政策的相关性(其中:西部大开发、振兴东北、中部崛起)1.2-与行业/部门发展政策的相关性1.3-与地方发展需求的相关性评分标准:3分、0分或不相关(N/A)。评分依据:项目档案、实地调研、政策分析。评分特点:相对比较宽泛。17六、项目绩效指标难点解读(2)2-效率(20%)2.1.1-项目审批效率(分值:3、2、1、0)项目审批周期:项目首次向发展改革部门(原计划部门)提出利用外国政府贷款申请起到项目签订转贷协议止之间的时间周期。评分标准:1、将项目实际审批时间周期与平均审批时间周期对比(目前,暂定平均审批周期参考值为3年,即36个月)。2、评分标准:3分:实际审批时间比平均周期少或等于平均周期;2分:实际审批时间比平均周期多1-6个月(含);1分:实际审批时间比平均周期多6-18个月(含);0分:实际审批时间比平均周期多18个月以上。18六、项目绩效指标难点解读(3)3-效果(40%)3.1-项目目标总体实现程度3.1.1-项目建设目标完成程度(分值:3、2、1、0;N/A-无土建或设备安装项目)评分依据:中方审批部门批复的项目建设目标与项目建设目标实际完成情况的对比(主观判断)3.1.2-项目运行或实施目标完成程度(分值:3、2、1、0)评分依据:项目设计的运行或实施目标与实际完成情况的对比(主观判断)评分标准:3分:完成85%(含)以上的目标;2分:完成70%(含)-85%的目标;1分:完成50%(含)-70%的目标;0分:完成50%以下的目标。19六、项目绩效指标难点解读(4)4-可持续性(30%)4.1技术与管理的可持续性4.1.3-项目单位技术和管理能力(分值:3、2、1、0)评分依据:项目单位的技术能力是否能满足项目运行的需要(主观判断)项目单位的管理水平是否能满足项目运行的需要(主观判断)评分标准:3分:项目单位的技术能力和管理能力完全能够满足项目运行的需要2分:项目单位的技术能力和管理能力基本能够满足项目运行的需要1分:项目单位的技术能力和管理能力只能部分满足项目运行的需要0分:项目单位的技术能力和管理能力不能满足项目运行的需要20六、项目绩效指标难点解读(5)5-影响(附加评价内容,权重10%)5.1-项目示范和扩散效应(加分-权重50%;3分或0分)5.2-项目的经济、社会、环境影响(加或减分-权重50%;3分、0分、-3分)5.3-其他影响(减分-权重-100%;0分、-3分)5.3.1-出现审计问题(分值:-3分、