《信息论基础论文》刘诚*目录一,摘要.....................................................................2二,正文.....................................................................2一,信息论概要.......................................................................2二,数学模型概要...................................................................3三,信息论与经济...................................................................3四,信息论在经济中的数学模型...........................................4三,参考文献.............................................................6*华东交通大学,信息与计算科学专业2信息论在经济中的数学模型一,摘要随着信息论和信息科学的发展,人们将会揭示出客观世界和人类主观世界更多的内在规律,从而使人们有可能创造出各种性能优异的信息获取系统、信息传输系统、信息控制系统及智能信息系统,使人类进一步从自然力的束缚下得到解放和自由。信息论是一门非常系统和理论性很强的学科,它涉及到随机过程,概率论与数理统计,线性代数等多门学科,信息论在经济中的数学模型更是相当的重要。二,正文一,信息论概要在没有学习信息论基础之前我对信息的认识仅仅局限于网络还有手机,我认为这些就是信息。那个时候信息对我来说是一个很抽象、很遥不可及的概念,我觉得那是一种特别难以理解的东西。但是在经过长达16周的信息论基础的学习后让我对我所学的专业从感性的认识上升到了理性的认识也更促进了我对通信传播与信息论的认识与学习让我有了探究的方向收获颇多。信息是自从人类出现以来就存在于这个世界上了,天地万物,飞禽走兽,以及人类的生存方式都离不开信息的产生和传播。人类每时每刻都在不停的接受信息,传播信息,以及利用信息。从原来的西汉时期的造纸,到近代西方的印刷术,以及现在的计算机,信息技术在人类历史的进程当中随着生产力的进步而发展。而信息理论的提出却远远落后于信息的出现,它是在近代才被提出来而形成一套完整的3理论体系。信息论的主要基本理论包括:信息的定义和度量;各类离散信源和连续信源的信息熵;有记忆、无记忆离散和连续信道的信道容量;无失真信源编码定理。科学技术的发展使人类跨入了高度发展的信息化时代。在政治、军事、经济等各个领域,信息的重要性不可言喻,有关信息理论的研究正越来越受到重视。人们在自然和社会活动中,获取信息并对其进行传输、交换、处理、检测、识别、存储、显示等操作。二,数学模型概要随着科学技术对所研究客观对象的日益精确化、定量化和数学化,以及电子计算机技术的广泛应用,“数学模型”已成为处理科技领域中各种实际问题的重要工具,并在自然科学、工程技术科学与社会科学的各个领域中得到了广泛的应用,诸如经济、管理、工农业,甚至社会学领域等。当今“数学模型”这一词汇越来越多地出现在成产、工作和生活中,通过建立数学模型来解决实际问题是社会各个领域的常用而有效的方法。作为城市规划者需要建立一个包括人口、经济、交通、环境等大系统的数学模型,为领导层对城市发展规划的决策提供科学依据;作为企业管理者如果能够根据产品的需求状况、生产条件和成本、贮存费用等信息,策划出一个合理安排生产和销售的数学模型,将有利于获得较大的经济效益;而作为学校领导若能对学校的学生人数、学校的软硬件设施,教师的人数和水平等建立数学模型,就能给学校的发展规划决策提出科学依据;政策制定者若能对效益的分配方案建立数学模型,就会获得合理的分配方案。由此可见,通过建立数学模型,来解决实际问题,已成为解决重大问题的重要手段和方法。同时对科学技术工作者和应用数学工作者来说,建立数学模型是沟通数学工具与实际问题之间的一座不可缺少的桥梁。所以,研究数学模型在实际生活中的应用是非常有必要的。三,信息论与经济信息化社会需要与之相称的统一的信息理论。统一的障碍最明显地表现在电子通信4领域和经济领域。在电子通信领域和经济领域各存在一些信息研究者,前者研究通信编码、检测、数据压缩等,我们且称他们研究的是电子信息理论;后者研究经济信息的作用和有关的决策问题,比如信息对证券市场的作用问题,不完全信息情况下的博弈问题,委托人和代理人信息不对称时的激励问题,我们且称他们研究的是经济信息理论。遗憾的是:两批人马鸡犬之声相闻,老死不相往来。关于经济与信息的关系,先看三个例子:一,市期货投资者张三,他每天一早起来打开电视观看国际国内新闻和天气预报,想了解中国对外贸易情况以及天气对农产品的影响;然后他买了当天的股票期货报纸,根据报纸信息对市场行情作出预测;然后打电话和朋友交流看法,根据预测调整自己的交易头寸;晚上他看完财经新闻又坐在电脑前通过INTERNET查阅有关上市公司资料和金属产品库存数据,然后又参加网上股市沙龙,在沙龙里痛斥某自称正确率达90%的股评家总是在关键的时候出错。二,一个生产家电产品的公司经理李四,他每天要了解市场需求和竞争对手近况;他还经常看一大堆报表数据,以便控制成本和调整产品结构;他经常要考虑如何打广告,是选择电视还是报纸,费用压缩在什么范围内;他还要考虑如何对付竞争对手,是恐吓不行再让步还是坚决斗争到底。三,一个经济学家王五,他研究信息在经济领域中的作用,研究广告的信息和信息价值问题,研究研究虚假信息对社会的危害及防范措施。以上三个例子表明经济与信息论有密切关系的。迄今为止,至少有四次诺贝尔经济学奖颁给了把信息和经济问题结合起来研究的学者。四,信息论在经济中的数学模型经济信息论虽然取得了辉煌的成就,可是信息和信息价值的度量这一基本问题却没有解决。由于缺少对经济信息(量)的数学定义,于是就导致了种种概念混乱。比如有效市场理论的信条“股票价格反映公司所有公开的信息”中的“信息”的用法就非常成问题,这里把公开的资料(文字数据)本身当作信息,而实际上,各人对资料理解不同,信息量就不同。5有人说,经济学的核心问题是资源优化问题。笔者的研究表明,投资比例优化和编码优化非常相似。这样,电子信息论的优化方法就可以推广到经济信息论。电子信息理论注重信息的传递,而经济信息理论注重信息的作用。前者中的数学工具较为成熟,而后者中的“信息”意义更广、更重要。结合两者研究将使两者互补。举例说明:通过投资组合的熵理论解决效用和信息价值问题用几何平均收益代替算术平均收益和均方误差作为投资组合的评价标准,笔者得到了一种新的广义熵——增值熵。设做N次确定价格矢量的投资实验,Ri发生的次数是Ni,则N次投资后的产出比和几何平均产出是WiNiiR1和WiNNiiR1/对后式取对数并令N→∞,得到增值熵WiNkikkiiWiiRqxPRxPH101log)(log)(其中qk是在第k种证券上的投资比例,Rik是第i种价格矢量发生时,第k种证券的升值倍数或产出比。设log以2为底,这时H表示每一轮投资后资金的翻番数。我们分别用Ra=(1+期望收益E)、Rg表示算术平均和几何平均产出比,用公式222garRRR定义风险测度Rr。和Markowitz理论不同之处主要是:1)熵理论可以提供客观最优的投资比例。2)用Rr度量风险,特别是放贷和期权等有深度亏损可能的投资风险更加合理。投资组合优化和信道编码优化非常相似。仿照信道和信道容量,我们可以定义投资渠道和投资容量。比如对于盈亏等概率、R0=1、盈亏幅度为+=E+d和-=E-d(可以推出d=Rr)的投资渠道,其容量为6)1log(21)/(11log21)*1log(21)*1log(21*222rREdEqqH它和高斯信道容量公式非常相似,E2相当于信源信号功率,Rr2相当于噪声功率。这决不是偶然的。我们可以用增值熵定义决策的效用,用信息导致的效用增量定义信息价值。设由先验概率预测Q(X)可以得到最优投资比例矢量q*;由预测yj提供后的概率预测Q(X|Aj)可以得到最优投资比例矢量q**;我们把广义Kullbak信息提供的信息价值定义为:*)(*)*(log)|())(;(qqiiiijRRzxPzyXV用上面的效用函数和信息价值函数作为经济预测和决策的评价准则在很多情况下将是合理的,也是实用的(容易证明用增值熵和用信息价值作为评价准则,两者是一致的)。有了上面工作,经济信息理论中的信息概念可以得到和常识相符的数学描述,从而变得更加严格也更加清晰;效用函数问题也可以得到较好解决。比如过去人们在讨论参与市场竞争的不完全信息博弈问题时用期望收益作为效用函数,风险大小就没有被考虑。现在用增值熵作为效用函数,在期望收益相同情况下,对于实力不同的厂家,结论可能不同。这将使博弈论更加实用。同样,我们可以用上面信息和信息价值的数学语言描述信息不对称问题,使的信息论在经济中建立数学模型。三,参考文献[1]石峰莫忠息信息理论基础,武汉大学出版社,2006