智能信息处理概述周亚同IntroductiononIntelligentInformationProcessing主要内容2智能信息处理主要研究内容4智能信息处理仿真平台(含演示)5智能信息处理应用实例(含演示)3相关研究学科(机器学习与模式识别)1智能信息处理基本概念1智能信息处理基本概念数据(Data):是客观事物属性、数量、位置及其相互关系等的抽象表示;实例:“1314”信息(Information):是数据所表示的内在涵义;知识(Knowledge):是以多种方式把一个或多个信息关联在一起的结构;智力(Wisdom):运用知识和经验判断和解决问题的能力;智能(Intelligence):知识集合与智力的综合称为智能。智能可分为生物智能(BI)和非生物智能两种,非生物智能包括人工智能(AI)和计算智能(CI)。BI(BiologicalIntelligence)亦称自然智能(NI)。由于BI是人类从自身的角度来阐述的,所以它表征人类智能活动的一些特征。有目的性、综合性和学习扩展性。AI是由非生物生命方法产生的智能,它总是和符号、逻辑、规则、推理联系起来。CI是由美国学者JamesBezdek于1992年首先提出来的,它是生物智能的计算模拟,即用计算机模拟和再现人类的某些智能行为。生物智能(BI)、人工智能(AI)、计算智能(CI)的区别智能ABC分层模式2智能信息处理主要研究内容什么是智能信息处理智能信息处理就是模拟人或其它生物处理信息的行为,建立处理复杂系统信息的理论、算法和系统的一些方法和技术。智能信息处理的最大特点是不需要建立问题的精确描述,非常适合于处理那些因为难以建立有效的形式化模型,而用传统方法难以解决、甚至无法解决的问题,特别是对不确定性系统和不确定性现象等问题的处理具有独特优势。智能信息处理是现代信息科学中发展最快且应用前景非常广阔的一门崭新的重要学科,是信息科学当前热门的研究焦点之一,在各个领域都取得了良好的应用效果;智能信息处理主要研究内容常见智能信息处理模型人工神经网络支持向量机、高斯过程模型混合模型、概率图模型、隐变量模型、显著度框架、成分分析模型等模糊数学与模糊智能智能信息处理主要研究内容(续)遗传算法与进化计算进化计算(EC)遗传算法GA进化规划EP进化策略ES群智能算法其他进化算法蚁群算法AntColonyOptimization(ACO)粒子群算法ParticleSwarmOptimization(PSO)鱼群算法FishSwarmOptimization(FSO)免疫算法(ImmuneAlgorithm);克隆选择算法(ClonalSelectionAlgorithm);人工内分沁系统(ArtificialEndocrineSystem);荷尔蒙算法(HormonalAlgorithm);细菌趋药性算法(Bacterialchemotaxisalgorithm);DNA计算(DNACalculation);膜计算(membranecomputing),等等。智能信息处理主要研究内容(续)混沌与分形粗糙集量子计算最早由IBM的科学家R.Landauer及C.Bennett于70年代提出,是对于一个或多个量子比特(qubit)或量子三元(qutrit)以上进行操作,以达到具有量子特性的演算功能。混沌是现象的深化,而分形则是结构的深化。这两项发现使人类对自然规律和社会现象的认识发生了革命性的变革,提高到一个新的阶段。是一种刻划不完整性和不确定性的数学工具,能有效地分析和处理不精确、不一致、不完整等各种不完备信息,并从中发现隐含的知识,揭示潜在的规律。主要包括属性约简和规则提取两个内容。3相关研究学科(机器学习与模式识别)13机器学习与模式识别直观地定义——让机器拥有类似人类的学习能力;机器学习是人工智能的重要分支;模式识别可以看作是机器学习的特例。人工智能机器学习模式识别如果在人工智能上有所突破,以至于机器能够学习,那么它将价值10个微软。——B.Gates,2004机器学习实例x例1:判断是“红心”还是“月亮”x例2:判断是数字“6”还是数字“9”xx机器学习实例(续)例3:判断人脸表情七类表情5010015020025050100150200250??机器学习实例(续)例4:判断音乐风格欢快音乐悲伤音乐音乐片段(风格未知)??机器学习在日常生活中的应用例1:手机的手写输入功能例2:笔记本电脑上的指纹识别器例3:语音识别系统大家下午好机器学习可以在更广阔的领域得到应用数据挖掘图象检索视频分析移动通信生物信息学石油勘探语音识别智能机器人目标跟踪汉字识别计算机视觉金融数据分析多通道用户界面机器学习的理论基础矩阵论概率论数理统计多元分析最优化机器学习机器学习的发展历史起源:上世纪50年代中叶70年代中叶——80年代中叶:探索各种学习方法;50年代中叶——60年代中叶:研究各种自适应系统;代表作:Samuel的下棋程序60年代中叶——70年代中叶:模拟人类的概念学习过程;代表作:Winston的结构学习系统机器学习的发展历史(续)90年代中叶——当前:分类器集成、海量样本学习、增强学习、学习复杂随机模型、核机器学习等;吸引了越来越多的学者进行机器学习研究;1980年,在卡内基-梅隆大学(CMU):召开了第一届机器学习国际研讨会,标志着机器学习研究在全世界兴起。80年代中叶——90年代中叶:主要研究人工神经网络;50年代中叶——80年代中叶:探究各种学习策略;80年代中叶——90年代中叶:人工神经网络独领风骚;90年代中叶——当前:诸多研究热点;机器学习的研究热点基于再生核的学习;基于贝叶斯推理的学习;海量样本学习;半监督学习;深度学习;集成学习;机器学习解决问题的流程样本采集预处理构建学习模型用学习模型判决或预测结果解释学习学以致用机器学习研究领域细分即人工神经网络(ANN)学习贝叶斯学习贝叶斯公式DP|ww|DPwP后验似然(样本信息)先验||PDPPDPD贝叶斯推理与贝叶斯学习有紧密联系的一些概念:贝叶斯决策贝叶斯估计贝叶斯学习:基于贝叶斯推理的学习贝叶斯学习的优点可以将先验知识融入学习过程;推理可以遵循事先定义的概率规则逐步实施;用概率表示不确定性,并允许学习方法输出置信度;可以得到与原学习方法对应的概率化版本。统计学习基于有限观测样本,寻求样本与其目标值(targets)间未知的依赖关系。通俗地说:从一些观测样本出发得出目前尚不能通过原理分析得到的规律,再利用这些规律去分析客观现象,对未来样本或无法观测的样本进行预测。ac2Hwb1Hw1L2LD学习模型1学习模型2举例:已知:学习样本及其相应的目标值12,,Nxxx12,,Nttt使期望风险最小,,,RLtfPtddtwxwxx三类最基本的学习问题:分类:,0,,,1tfifLtftfifxwxwxw回归:密度估计:2,,,Ltftfxwxw,ln,LPPxwxw待研究系统输入输出输出xt,fxw学习方法统计学习欲解决的问题4智能信息处理仿真平台(含演示)传统的智能信息处理仿真平台Windows+MATLAB+WORD(4)如果从网上下载的程序需要Linux平台才能运行怎么办?(3)很多智能信息处理程序是用Python,Java,Fortran编写的.面临的问题:(1)Matlab仅用于仿真,难于真正用于工程计算场合.(2)WORD排版虽然直观,但排版效果并不满意(如公式),且难于移植.(5)能否做到仿真写作一体化;能否方便地重现仿真过程?工欲善其事,必先利其器!Python语言学习资源语言是一种面向对象、解释型计算机程序设计语言。它常被昵称为胶水语言,能够把用其他语言制作的各种模块(尤其是C/C++)很轻松地联结在一起。常见的一种应用情形是,使用Python快速生成程序的原型(有时甚至是程序的最终界面),然后对其中有特别要求的部分,用更合适的语言改写。语言源自于“公式翻译”(英语:FormulaTranslation)的缩写,是一种编程语言。它是世界上最早出现的计算机高级程序设计语言,广泛应用于科学和工程计算领域。编译器gfortran查看命令:$whichgfortran检查是否安装了gfortran$gfortran–v查看gfortran的版本编译器gfortran编译命令:1、$gfortran-ohelloworld.o-chelloworld.for生成目标文件*.o$gfortran-chelloworld.for(等价于上一句)2、$gfortran-ohelloworldhelloworld.o生成可执行文件一种可以撰写跨平台应用程序的面向对象的程序设计语言。具有卓越的通用性、高效性、平台移植性和安全性,广泛应用于PC、数据中心、游戏控制台、科学超级计算机、移动电话和互联网,同时拥有全球最大的开发者专业社群。Java语言常用命令:Javacaaa.java编译java源程序aaaJavaaaa执行aaaAppletviewerbbb*.htm运行小运用程序Linux操作系统Linux公社:、Fedora(rpm体系,企业环境)Debian、Ubuntu(deb体系,桌面环境)(有关Linux教程、编程、软件等的论坛)Linux是一套免费使用和自由传播的类Unix操作系统,是一个基于POSIX和UNIX的多用户、多任务、支持多线程和多CPU的操作系统。它能运行主要UNIX工具软件、应用程序和网络协议。可安装在各种计算机硬件设备中,比如手机、平板电脑、路由器、视频游戏控制台、台式计算机、大型机和超级计算机。Scons编译工具Scons是一个Python写的自动化构建工具,非常适合跨平台的项目。从构建这个角度看,它跟GNUmake是同一类工具,其集成功能类似于autoconf/automake。Scons也可看作是一个更简便、更可靠、更高效的编译软件,它是用编程语言来实现编译。Windows下也可安装Scons,它提供了一个Windowsinstaller。Scons学习资源:1、Scons官网:、StevenKnight:常用命令:1、$scons直接执行编译命令2、$scons–c清除编译命令生成的文件3、$scons--tree=all或status编译时以树形结构展示Latex排版工具(1)MacTex(2)CTex(3)宏包下载:学习资源:是一种基于tex的排版系统,由美国计算机学家莱斯利·兰伯特(LeslieLamport)在20世纪80年代初期开发,能生成很多具有书籍质量的印刷品。对于生成复杂表格和数学公式,这一点表现得尤为突出。因此它非常适用于生成高印刷质量的科技和数学类文档。很多国外期刊只接受Latex排版的论文.Madagascar仿真软件软件网址一款用于多维数字信号处理(尤其适合多维地震信号处理)的开源软件.为使用者提供方便且强大的编程环境,能做到仿真写作一体化;能方便地重现仿真过程