虚拟现实技术及应用101

虚拟现实技术及应用第一讲：虚拟现实技术概论VR的概念和发展VR系统的硬件组成VR系统的体系结构VR的研究内容增强现实（AR）VR应用虚拟现实的发展趋势（一）VR的概念和发展（1）虚拟现实技术的提出1965年计算机图形学的奠基者IvanSutherland发表了“TheUltimateDisplay”论文，提出了一种全新的图形显示技术。他在论文中提出使观察者直接沉浸在计算机生成的三维世界中，而不是通过窗户（计算机屏幕）来观察。１）观察者自然地转动头部和身体，他看到的场景就实时地发生变化。２）观察者能够以自然的方式直接与虚拟世界中的对象进行交互操作，触摸它们，感觉它们，并能听到虚拟世界的三维空间声音。（2）虚拟现实的狭义解释虚拟现实对不同的人的有不同的含义。比较狭义的解释是：虚拟现实是由计算机生成的、可交互的仿真环境。该虚拟环境具有以下三个特点：1）该环境将向介入者（人）提供视觉、听觉、触觉等多种感官刺激。2）该环境应给人以一种身临其境的沉浸感。3）人能以自然的方式与该环境中的一些对象进行交互操作，既不使用键盘鼠标等常规输入设备，而强调使用手势（数据手套）、体势（数据衣服）和自然语言等自然方式的交互操作。（3）一个典型的虚拟现实系统（4）虚拟现实的广义解释虚拟现实是由计算机生成的给人以沉浸感的虚拟环境。（5）虚拟现实的概念模型感官刺激信号反应动作感知系统介入者反应系统虚拟世界（环境）（6）虚拟环境系统提供的各种感官刺激视觉听觉嗅觉味觉触觉（触觉，力觉）身体感觉（7）虚拟环境中用户的动作检测和设备用户反应动作检测设备头部运动头部跟踪装置肢体或躯体运动跟踪器，力反馈装置，空间球手指运动数据手套，按钮装置，操纵感眼球运动眼球跟踪器语言语音识别装置受力带力传感器的力反馈装置（8）虚拟现实的发展历程1965年IvanSutherland博士提出“TheUltimateDisplay”概念，1968年他研制成功头盔式显示器（HMD）70年代以来图形学技术的进步，特别是90年代，可以实时显示复杂场景军方飞行模拟器的研制和发展对VR的推动1984年美国NASA的AMES中心研制成功VIVD系统，以及1986年的VIEW项目1992年美国NSF召开VR研讨会其他国际会议（IEEEVR；ACMVRST等），VR专著以及各种研究成果（二）VR系统的典型设备和环境显示和观察设备沉浸式现实设备非沉浸式显示设备交互设备数据手套（输入手的各种姿势）三维鼠标游戏杆传感设备数据手套数据衣位置跟踪装置三维立体声系统三维数据获取设备（1）显示和观察设备产生沉浸感的方法和装置1.头盔式显示器2.快速响应的工作平台3.大屏幕投影洞穴状的投影屏幕（CAVE）圆柱型的投影屏幕由矩形块拼接构成的投影屏幕4.全景图5.可支持多用户协作的投影屏幕6.具有三维空间感的声音头盔式显示器的特点用户带着头盔。双眼看到不同的图象。跟踪器跟踪头的方向。具有看穿功能（see-through)的头盔显示器快速响应的工作平台洞穴状的投影屏幕（CAVE）安装在浙江大学的CAVECAVE示意图圆柱型的投影屏幕由矩形块拼接构成的投影屏幕全景图可支持多用户协作的投影屏幕可支持多用户协作的投影屏幕的改进（2）交互设备力反馈设备：数据手套(cyberglove)：三维鼠标（3）三维声音系统声音在VR中的作用：1）增强空间信息，尤其是当空间超出了视域范围。2）数据驱动的声音能传递对象的属性信息。3）声音是用户和虚拟环境的另一种交互方法。（4）三维数据获取设备静态数据的获取：三维扫描仪动态数据的获取：运动捕捉设备用多摄像机实时重构三维数据三维扫描仪(来自cyberware公司）有多个摄像头的三维实时重构（4）基于图片的三维重建基于图片的三维重建（三）VR系统的体系结构（1）非分布式VR系统体系结构会话管理应用进程设备服务器（2）分布式虚拟现实系统（DVR）的结构1）数据模型–集中式结构*结构简单*实现比较容易*对网络通信带宽有较高的要求*中心服务器往往会成为整个系统的瓶颈–复制式结构*所需网络带宽较小*交互式响应效果好*比集中式结构复杂*维护多个备份的信息或状态一致性比较困难2）基于分布仿真（DS）模型的VR系统软件结构计算几何模型展示用户交互智能代理图基于DS模型的VR系统软件结构3）DVR系统的通用参考结构模型分布式系统模块安全性服务模块用户接口模块服务请求可视化程序名字服务器匹配程序授权检查确认服务可听化程序时间服务资源查找世界服务器碰撞检测文本显示网关服务空间定位对象管理器核心VR模块模型构造输入对象计算服务器应用对象用户对象对象支撑模块非核心VR模块事件管理数据库支持连续媒体同步3D图形组播数据一致性其它支撑和服务模块图3DVE的参考结构模型（四）VR的研究内容虚拟环境建模可视化建模虚拟世界（视觉、听觉、触觉等）感知交互（抓取、移动、控制等）人（1）研究内容的多种分类技术/应用:层面*虚拟现实技术本身*虚拟现实应用技术软硬件层面*虚拟现实硬件技术*虚拟现实软件技术技术层面*建模（场景（基于：几何/图象），听觉，行为等）*绘制（图形，声音，力觉）*交互（人-机交互；人-人交互）（2）分布式虚拟现实–分布式虚拟现实(DistributedVirtualReality,DVR)在DVR系统中，位于不同物理位置的多个用户或多个虚拟环境通过网络相联结，进行信息共享和交互–DVR系统或工具的开发涉及多个领域*虚拟现实*分布式系统*实时图形绘制技术*异步系统设计*数据库*用户界面设计DVR的实例（3）实时绘制技术–场景简化–快速消隐–纹理化对象–限时绘制（五）增强现实增强现实允许用户看到真实世界，并且把虚拟对象叠加在真实世界之上。（1）增强现实系统的定义真实世界和虚拟世界融为一体的系统具有实时人-机交互功能真实世界和虚拟世界是在三维空间上整合的。（2）增强现实的关键技术聚焦和对比度系统的可移动性整合技术实时高精度传感器（六）虚拟现实的应用*应用（一）虚拟战场核爆炸、战略导弹的虚拟杀伤虚拟飞行/驾驶虚拟建筑漫游虚拟风洞实验虚拟设计、虚拟制造战场仿真虚拟驾驶模拟虚拟建筑漫游*应用（二）虚拟课堂虚拟手术和远程手术城市规划和建筑设计的虚拟演示虚拟商店、虚拟旅游、虚拟剧场虚拟体育仿真虚拟文化遗产保护（虚拟博物馆）虚拟手术虚拟故宫漫游虚拟博物馆虚拟体操训练系统（SheffieldHallamUniversity）虚拟滑雪训练系统（ReebokSportsClubinNewYorkCity）其他例子PCCLUSTER（七）虚拟现实的发展趋势（1）虚拟现实硬件的发展趋势1）正在大力发展基于PC的低价格的虚拟现实系统2）基于多个视频输入的系统受到重视。例如：由多个摄像头组成的跟踪器,由多个摄像头组成的三维重构系统等。（2）虚拟现实软件的发展发展特点：1）非常规的输入设备在主流的操作系统中不被支持。2）管理不同的输入的工具包正在出现。软件资源：VRJuggler1)开放源代码，其功能类似CAVElib。2)具有输入和显示功能。3)输入层不支持手势识别。4)设计者有雄心打算将其发展成一个操作系统。（3）虚拟现实应用的发展1）网络化==》网络VR2）单投影应用==》多投影应用3）智能化==》智能虚拟环境4）虚拟现实==》增强现实，混合现实5）应用向各个行业扩展：*与商业结合==》虚拟商城*与体育结合==》虚拟体育仿真。。。。最终形成网络化的虚拟社会。第二讲实时图形绘制技术图形绘制流水线网格简化快速消隐纹理映射IBR&IBM真实感图形生成的步骤场景造型取景变换、透视投影视域裁剪、消除隐藏面光亮度计算典型三维图形系统的绘制流水线OpenGL绘制流水线计算机成像过程与照相过程的类比影响图形绘制性能的因素几何复杂度光照模型复杂度纹理映射问题：如何提高绘制速度？针对不同的因素采取不同的方法。降低场景几何复杂度场景简化和网格多分辨表示快速消隐基于BSP树的绘制纹理映射技术基于图象的绘制网格简化技术场景简化层次细节模型:在大规模的虚拟环境中，很多对象很小，获距离视点很远。按透视规律，在屏幕上只占很小的图象区域。为了更好地利用这一特点，一个对象应该用多层次细节表示。在交互绘制过程中，使用简单的对象的表示可以提高帧速率•根据观察者的心理、生理特点和场景画面限时计算的要求，在视觉等价的前提下，对要绘制的复杂场景进行简化,生成可表达不同层次细节的场景模型。•在多层次细节建模和三角形网格简化方面，我们设计和实现了一系列新的算法，并提出了新的控制全局误差和局部误差的方法。LoD网格-1基于顶点删除的三角形网格模型简化Schroeder1992–基于距离准则的顶点删除，顶点移去留下的空洞由一个局部的三角面片机制重新生成新的三角面片。基于重新划分的多边形网格模型简化Turk1992–引入新的顶点来优化三角形网格，生成新的几何模型。新的顶点均匀地分布在原对象表面。原来的顶点被逐步移去，表面进行局部的三角化，以最好地满足对象表面的连续性。整体网格优化算法，全局能量优化方程Hoppe1993–基于表面重构的三角网格简化方法。它引入了一种新的能量公式来建模多边形简化以及与简化模型与原模型的相似度。用能量函数来衡量原网格模型与简化模型的变形程度。算法可以找到使变形最小的优化的顶点分布。LoD网格-2基于顶点聚类的网格简化算法Rossignac1993–不考虑输入模型和输出模型的拓扑结构。结果，算法对于退化的输入数据具有很好的鲁棒性，对任意类型的几何数据都可以得到很高的压缩比。缺点是，简化模型的人工痕迹严重，模型的局部特征保持不好。–不同的选择准则来选取那些聚类的顶点。Rssignac提出了一种简单有效的一致量化方法。Schaufler则采用了分层的聚类方法。边折叠与视点有关的累进网格Hoppe1997–基于边折叠操作，产生一个无损的，连续分辨率的三角网格。简化表示通过一系列重复的边折叠操作产生，很容易转换为递进的重构过程。LoD简化网格的一些评价参数网格简化算法的鲁棒性简化网格的生成和解析速度简化后的对象shape是否保持不变简化后的网格是否保持拓扑结构不变LoD几何模型传统的网格的表示数据量庞大，不易于存储﹑传输--实时性很多情况下，我们并不需要一个对物体的细节刻画得很详细的模型较远或物体在运动--较粗糙网格物体较近或物体静止--精细网格基于视点的网格简化快速消隐技术视见体裁减背面提出遮挡剔除(OcclusionCulling)遮挡剔除(OcclusionCulling)快速消隐的例子基于BSP树的场景绘制技术BSP树方式的场景组织BSP树的遍历纹理映射基本思想：实际纹理非常复杂，难以解析描述。采用图象来描述表面纹理细节。IBMR(Image-basedModelingandRendering)关键问题：如何在光照明模型中融入纹理的描述？如何将纹理绘制在景物表面上？光亮度计算1．依据：光照明模型•局部光照明模型：朗伯模型、Phong模型•整体光照明模型：Whitted模型，光能辐射度方程（隐式）追求目标：光照效果的真实感2．计算方法：绘制算法•扫描线方法•光线跟踪方法•光能辐射度方法追求目标：画面生成的实时性纹理映射的基本原理纹理生成过程实质上是将所定义的纹理映射为反映某种三维景物表面的属性，并参与后续的光照明计算。表面属性：与光照明模型及表面几何有关的各种参数，如表面法向、漫/镜面反射率等。纹理映射的实现：交互确定纹理属性参数不再是常数，逐点变化建立纹理空间与景物空间及景物空间与屏幕空间之间的映射关系：M:ObjectSpace→TextureSpaceT:ScreenSpace→ObjectSpaceIlocal=kaIa+kd(N•L)+ks(N•H)nI=Ilocal+sIs+tIt景物表面的纹理属性主要有以下几种：（1）表面颜色,即表面的漫反射率；（2）镜面反射分量,即表面的镜面反射率（3）透明度；（4）表面法向