虚拟现实技术课件第一章

虚拟现实技术主讲：吴慧欣课程的主要内容虚拟现实与系统仿真的基本概念和术语虚拟现实与系统仿真的基础方法

虚拟现实有关的人的因素，虚拟现实的接口设备和计算机设备虚拟现实的建模技术虚拟现实的应用相关知识背景虚拟现实技术学习的知识背景是什么样的？计算机原理、体系结构、操作系统、网络、软件工程、程序设计、数据结构、电子学、图形学与CAD、系统分析、人工智能虚拟现实概述虚拟现实的接口设备虚拟现实的计算机技术虚拟现实的建模和仿真技术虚拟现实的应用课程目录学习重点和难点虚拟现实的基本概念；人的视觉系统和虚拟现实的视觉显示技术；各类位姿跟踪系统的技术；力觉和触觉反馈技术；虚拟现实的计算机系统；虚拟现实的工具软件系统；分布式虚拟现实系统。第一章虚拟现实概述

课前索引

第一节虚拟现实的基本概念

第二节虚拟现实有关的人的因素

章节小结

课后习题课前索引两个问题1．什么是虚拟现实？2．虚拟现实与人有什么关系？点击观看VRML演示第一节虚拟现实的基本概念虚拟现实的概念有关的其它概念虚拟现实的特点虚拟现实的应用领域虚拟现实的技术1虚拟现实虚拟现实这个概念最早是由谁在什么时间提出的？1989年，美国VPLResearch公司创始人JaronLanier提出了“VirtualReality”（虚拟现实）的概念。如何理解“虚拟”这个词？“Virtual”说明，这个世界或环境是虚拟的，不是真实的。这个世界或环境是人工构造的，是存在于计算机内部的。用户应该能够“进入”这个虚拟的环境中。所谓“进入”这个虚拟的环境中，是指用户以自然的方式与这个环境交互如何理解“交互”这个词？包括感知环境并干预环境，从而产生置身于相应的真实环境中的虚幻感，沉浸感，身临其境的感觉。虚拟现实或虚拟环境系统包括哪些？包括人类操作者、人机接口和计算机问题请给出正确与错误的判别使用虚拟现实系统的标志就是使用头盔式立体显示器和数据手套。虚拟现实系统应用最多的专用设备是头盔式立体显示器和数据手套。于是，有人以使用这些专用设备为虚拟现实系统的标志。这种观点是不准确的。头盔式立体显示器和数据手套等设备，只是当前已经实现的一部分虚拟显示设备。它们还很不完善。例如，头盔的视场，分辨率，造成眩晕等问题还有待解决。听觉接口和力觉接口等设备还在研究，应用还不多。味觉，嗅觉，运动觉等技术，还缺乏研究。关于虚拟仿真虚拟现实系统中的虚拟环境，都是现实世界不存在的场景吗？不是，可能有下列几种情况：第一种情况是模仿真实世界中的环境。例如，建筑物，武器系统，或战场环境。这种真实环境，可能是已经存在的，也可能是已经设计好但还没有建成的。为了逼真地模仿真实世界中的环境，要求逼真地建立几何模型和物理模型。环境的动态应符合物理规律。这一类虚拟现实系统的功能，实际是系统仿真。点击观看居室环境的仿真和漫游例子2和虚拟现实有关的几个概念虚拟环境(VirtualEnvironment)系统或虚拟现实(VirtualReality)系统包括人类操作者、人机接口和计算机遥操作(Teleoperator)系统包括人类操作者、人机接口和遥机器人增强现实(AugmentedReality)系统组合了虚拟环境和真实环境合成环境(SyntheticEnvironment)系统是遥操作系统、虚拟环境系统、增强现实系统等的总称。关于虚拟现实系统对于虚拟现实系统，与用户交互的环境实际是人工构造的，存在于计算机内部的环境。这种虚拟的环境，可能有几种情况：一种情况是真实环境的仿真。例如，仿真真实建筑物的虚拟建筑物。这种真实建筑物可能是已经建成的，也可能是已经设计好但尚未建成的。一种情况是完全虚拟的人造环境。例如在虚拟风洞中，借助可视化技术构造的虚拟风洞环境。又如在三维动画中，人工构造的虚拟环境。关于遥操作系统为什么要针对虚拟现实系统提出这么多概念？概念之间的区别？这些概念之间的区别在于与用户交互的环境不同。虚拟现实系统的环境是怎样的？真实环境的仿真完全虚拟的人造环境遥操作系统的环境是怎样的？对于遥操作系统，与用户交互的环境实际是在远地的一个真实的环境。用户通过类似虚拟现实系统的人机接口，与远处的真实环境交互。也就是看到真实环境的场景，听到真实环境的声音，感到与环境中物体的接触。遥操作系统实际上是高级的遥控系统，是采用了先进的虚拟现实技术的遥控系统。3虚拟现实的特点基于虚拟现实的基本概念，可以得到虚拟现实的下列三个特点。1．人机接口的内容计算机提供“环境”,不是“数据,信息”。这改变了人机接口的内容。2．人机接口的形式操作者由视觉,听觉,力觉感知环境,由自然的动作操作环境,不是由屏幕,键盘,鼠标和计算机交互。这改变了人机接口的形式。3．人机接口的效果逼真的感知和自然的动作，使人产生身临其境的感觉。这改变了人机接口的效果。

人机接口内容的改变计算机提供“环境”,不是“数据,信息”。这改变了人机接口的内容。虚拟现实的这个特点体现了计算机应用的新方向。计算机的名称体现了它的最早应用是计算。当时，计算机和用户交互的是计算有关的数值。此后，计算机扩大到处理数值，字符串，文本等各类数据。以后，计算机更扩大到处理图像，图形，声音，语言等多种媒体的信息。虚拟现实系统则以环境为计算机处理的对象和人机交互的内容。这开拓了计算机应用的新思路。

数值--------各类数据---------多媒体信息---------环境人机接口的内容的变化：人机接口的形式的改变操作者由视觉,听觉,力觉感知环境,由自然的动作操作环境,不是由屏幕,键盘,鼠标和计算机交互。这改变了人机接口的形式这个特点体现了计算机人机接口的新方向。至今为止的计算机人机接口都是面向机器的。人机接口有哪些？终端，键盘，鼠标，打印机等接口设备，都是适应计算机的专用设备。这些设备很好地完成了各类数据和多媒体信息的交互。

虚拟现实中的人机接口，则是面向用户的。虚拟现实系统中，用户以自然的方式与虚拟环境交互。如何理解自然的方式呢？所谓自然的方式，是指用户通过视觉，听觉，触觉等感觉虚拟环境，使用户产生在真实环境中的幻觉。同时，用户通过在真实环境中的行为，去干预虚拟环境。于是，虚拟现实的人机接口设备，完全不同于现有计算机的人机接口设备。这也是虚拟现实技术中最有特色的内容。人机接口的效果的改变逼真的感知和自然的动作，使人产生身临其境的感觉。这改变了人机接口的效果这个特点体现了计算机人机接口的新要求。用户通过人机接口与虚拟环境交互的结果，是使用户产生身临其境的虚幻感，沉浸感。虚拟现实的概念中有三个I：（1）Immersion(沉浸)，是指逼真的，身临其境的感觉。（2）Interaction(交互)，是指用户感知与操作环境（3）Imagination(想象)，是指创造性。4虚拟现实的应用领域1．娱乐2．国防3．设计、制造和销售4．医疗和健康5．危险操作6．训练7．教育8．信息可视化9．远程交往与远程游历

关于“超越时空的紫禁城”“故宫博物院与IBM合作的文化遗产项目———“超越时空的紫禁城”正式启动。这一为期两年的合作项目旨在创建一个在线的虚拟复制的紫禁城，将运用全球领先的观众互动体验系统和实时高科技手段，把故宫本身及其散布于各处的文物集中展示在一个三维的网上“紫禁城”里。”5虚拟现实的技术1．VR的人机接口2．VR的计算机系统3．VR的建模和仿真

VR的人机接口VR的人机接口的作用是什么？其一是给人类操作者提供环境信息通过什么方式提供环境信息？视觉、听觉和触觉包括哪些通道接口？视觉通道、听觉通道、触觉通道、运动接口和其他接口其二是感觉人类操作者的动作和响应通过哪些方式来实现？位置跟踪和映射，语音识别等。（1）位置跟踪和映射“位置跟踪和映射”如何感觉人类操作者的动作和相应？测量人体各部位的位置和姿态分析判断人面部的表情“位置跟踪和映射”它的目的是什么？了解人的身体行为这是为了实现人机交互所必需的系统功能。VR系统由此了解人的行为，然后做出适当的响应，实现交互。“位置跟踪和映射”要完成的基本目标有哪些？基本目标是精确完成位置和姿态的测量。三个主要的要求：大范围的线性响应高带宽（1kHz）允许头和身体的运动。“位置跟踪和映射”常用的技术包括：机械链接磁传感器声传感器光传感器惯性传感器

（2）视觉通道视觉通道的作用是什么？给人的视觉系统提供图形显示。为了提供身临其境的逼真感觉，视觉通道应该满足的要求有哪些？显示的像素应该足够小，使人不至于感觉到像素的不连续显示的频率应该足够高，使人不至于感觉到画面的不连续给两眼提供具有双目视差的图形，形成立体视觉。应该具有足够大的视场，理想情况是显示画面充满整个视场。视觉通道的显示表面目前有哪些种类？基于CRT基于LCD。视觉通道的光学系统有哪些种类？头盔显示(HMD)非头盔显示(OHD)专用头盔图（3）听觉通道听觉通道的作用是什么？给人的听觉系统提供声音显示。为了提供身临其境的逼真感觉，听觉通道应该满足哪些要求？使人感觉置身于立体的声场之中能识别声音的类型和强度能判定声源的位置。

听觉通道的关键技术有哪些？合成由接口提供的虚拟声音信号声音在虚拟空间定位问题发声设备。（4）触觉通道触觉通道的作用是什么？给人体表面提供触觉和力觉。当人体在虚拟空间中运动时，如果接触到虚拟物体，虚拟显示系统应该给人提供这种触觉和力觉。触觉通道涉及操作以及感觉包括哪些？触觉反馈力觉反馈。触觉通道的设备分类？安装在身体上的设备安装在地面的设备。（5）运动接口人体在环境中的运动是如何分类的？身体的被动运动如在车上的运动身体主动运动漫游，如散步。人在运动中，人体内部的运动感觉器官可以感知运动信息。感知运动信息的器官有哪些？前庭系统运动系统视觉听觉系统本体感受，动觉和触觉

运动接口的作用是什么？应该给这些器官提供运动信息。（6）其它类型接口还有那些其它类型接口？嗅觉、味觉通道感觉热、风及湿度的接口还包括语音通讯（语音识别与合成）以及直接心理感觉和控制。其他类型的接口的研究现状？目前还缺乏研究2．VR的计算机系统现有的虚拟现实系统，主要的通道是什么？现有的虚拟系统现实主要考虑视觉通道。听觉通道和触觉通道还处于研究阶段。VR的计算机系统主要考虑的通道是什么？所以，VR的计算机系统主要考虑视觉通道的要求。

VR的计算机系统的视觉通道（1）视觉通道对计算机系统硬件的要求首先是要求维持足够的图形帧速率这要求在指定的时间内（约为0.1秒）计算出两眼的两幅图像。同时要求提供足够好质量的图像这一般体现在图像中显示的多边形或三角形的数目。因此，往往需要专用硬件。图形硬件应提供快速几何变换、截取、消隐、多边形填充和表面纹理等多项处理。（2）视觉通道对计算机系统软件的要求VR系统中的软件主要包括下列几种：交互软件：利用人机控制设备的输出去修改VE。视觉漫游软件：控制用户在VE中运动时看到的场景。建模软件：定义虚拟物体形状、外观和属性的模型。操作系统支持VE的实时多模态要求。（3）视觉通道对计算机系统网络的要求分布式交互仿真分布式交互仿真已经成为现代仿真技术，特别是军事仿真的潮流。通讯网络可以把VE转换成共享的分布式计算环境。

3．VR的建模和仿真（1）VR的建模包括：几何建模和物理建模VR的几何建模一般的VR工具软件都具有几何建模功能。利用现有的CAD建模工具也是常用的方法。市场上已有商业模型库出售。对实际物体的建模，则采用激光扫描等专用设备。VR的物理建模物理建模是基于物理方程的建模。一般考虑刚体建模，链接物体的建模，以及非刚体的建模。智能体建模不是基于物理方程，而是基于人为的物体智能思考题什么是刚体？在任何力的作用下，体积和形状都不发生改变的物体叫做“刚体”(Rigidbody)。它是力学中的一个科学抽象概念，即理想模型。事实上任何物体受到外力，不可能不改变形状。实际物体都不是真正的刚体。若物体本身的变化不影响整个运动过程，为使被研究的问题简化，可将该物体当作刚体来处理而忽略物体的体积和形状，这样所得结果仍与实际情况相当符合。例如，物理天平的横梁处于平衡状态，横梁在力的作用下产生的形变很小，各力矩的大小都几乎不变。对于形变，实际是存在的，但可不予考虑。为此在研究天平横梁平衡的问题时，可将横梁当作刚体。什么是智能体？智能体，顾名思义：就是具有智能的实体，英文名是Agent.

智能体是人工智能领域中一个很重要的概念。任何独立的能够思想并可以同环境交互的实体都可以抽象为智能体。可以看作是能够通过传感器感知其环境，并借助于执行器作用于该环境的任何事物。例如对于人Agent，其传感器为眼睛耳朵和其他感官，其执行器为手、腿、嘴和身体的其他部分。对于软件Agent，则同过编码位的字符串进行感知和作用。

3．VR的建模和仿真（2）仿真仿真包括：图形绘制和三维动画。图形绘制是把三维环境，相对于虚拟摄像机（虚拟视点）投影，形成图像的过程。图形绘制要求为了提供连续运动的错觉，帧速率必须大于每秒8到10帧。为了保持瞬间交互控制的错觉，响应时间的延迟必须小于0.1秒。为了绘制人眼可分辨的所有细节，这要求有8千万个多边形。然而，用今天的硬件，每个画面8千万多边形的系统对真正的实时交互是太慢了，于是存在真实图像与实时交互间的折衷。某些应用（如建筑和艺术）可能要求照片一样真实的绘制。制造和医疗应用要求更高层次的实时交互。（2）仿真仿真包括：图形绘制和三维动画。三维动画可以用两种途径实现:1：基于物理模型的数值计算。属于满足物理规律的仿真技术，用于军事和工业等方面。2：数学插值。这种技术在三维动画电影中获得了巨大的成功。

虚拟现实开发系统的方块图用户通过输入输出设备与输入输出软件交互。输入软件通过形状编辑器完成几何建模，通过声音编辑器完成虚拟声音系统建模。然后，在世界编辑器完成虚拟环境的建模。其中的虚拟剪切器，用于模型的剪切。建立的模型，保存在虚拟世界中。整个工作在计算机系统中完成第二节虚拟现实有关的人的因素为什么要讨论人的因素？计算机，接口和用户是VR系统中的三个组成部分。接口设计必须考虑人的因素，人的因素与VR系统性能直接相关。虚拟现实中有关的人的因素具体有哪些方面？人眼人耳身体感觉虚拟现实有关的人的因素----人眼1．视觉生理结构2．立体视觉3．屈光度4．瞳孔5．分辨力6．明暗适应7．周围视觉和中央视觉8．视觉暂留9．视场1．视觉生理结构

大脑皮层（CerebralCortex）是大脑半球的最外层，它负责各种形式的感觉。视网膜（Retina）是在每只眼背部的神经细胞的多层膜，它把光转成电信号，并通过视神经和管道传给大脑。

下图表示，视网膜的解剖图。图中显示了层，管道和神经。

光感受器（Photoreceptor）是每只眼睛视网膜中1.25亿个神经细胞中的一部分，它在受到特定波长的光的刺激时，会发出电信号。视网膜是眼的光敏层，几百微米厚，有10层。光线通过其中8层，被另外两层的视杆细胞和视锥细胞的光接收器（Photoreceptor）吸收。每只眼的视网膜上有1.25亿个神经细胞。脊椎动物有两种光感受器，：视杆细胞（rods）负责低分辨率的、单色的、夜间的视觉。视锥细胞（cones）负责高分辨率的、彩色的、白天的视觉。它花费25ms把光转成电信号，再送给大脑。右图表示，视网膜内光感受器的解剖图。图中杆状细胞和锥状细胞在上部，通向大脑的视神经纤维在下部。2．立体视觉视觉的另一个重要因素是立体视觉能力。提供给人类视觉的图像，必须使人感觉是立体的。这样，观看者的视觉系统就可以计算出被看物体的远近。对同一个场景，两眼得到稍有差别的视图。左视区的信息，送到两眼视网膜的右侧。在视交叉处，左眼的一半神经纤维交叉到大脑的右半球，左眼的另一半神经纤维不交叉，直接到大脑的左半球。这样，两眼得到的左视区的所有信息，都送到右半球。右图表示，人类立体视觉的原理图。HMD（头盔显示器）提供两个显示，不但应保持双目视差，而且应该重叠。实际上,由于两眼有6.5cm的瞳距，所以两者视场总有些差别,有不重叠的区域。对中央凹区域，深度感在150m时减弱。对周围视觉，深度感在100m减弱。而在这个距离上，双目视差不是最有用的，运动视差和透视可能更有用。

3．屈光度与眼的光学部分有关的一个度量是"屈光度"（dioptre）。有1个屈光度的镜头，可以聚焦平行光线在1米距离。人眼的聚焦能力约60屈光度，这表明聚焦平行光在17mm距离，这就是眼球尺寸，是晶状体和视网膜的距离。年