版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
云计算虚拟化技术基础与实践第一章云计算与虚拟化概述第1章云计算与虚拟化概述.pptx第2章虚拟化基础环境搭建.pptx第3章虚拟化实现技术.pptx第4章网络虚拟化实现技术.pptx第5章QEMU虚拟化配置.pptx第6章QEMU虚拟化原理.pptx第7章KVM内核模块解析.pptx第8章KVM及QEMU虚拟化应用实践.pptx第9章容器虚拟化技术基础.pptx第10章Docker高级技术.pptx第11章容器集群管理.pptx第12章其他主流虚拟化技术.pptx第13章虚拟化技术未来与展望.pptx全套PPT课件目录CONTENT01.云计算基础02.虚拟化技术基础03.云计算与虚拟化关系本章重点理解云计算的基本概念。理解虚拟化的基本概念。了解虚拟化技术的基本分类。掌握云计算与虚拟化之间的关系。云计算基础云计算起源与发展现状云计算定义与典型应用云计算体系架构云计算部署模型云计算服务模式云计算安全011.云计算起源与发展现状2006年,推出简单存储服务S3(SimpleStorageService)、弹性云计算EC2(ElasticCloudComputer)两款重磅产品,从而奠定了直至今日都无人可以撼动的云计算服务基石。2006年8月,埃里克·施密特在搜索引擎大会第一次用云和云计算的概念来描述谷歌所提供的互联网服务。1959年,英国计算机科学家克里斯托弗·斯特雷奇(ChristopherStrachey)发表了《大型高速计算机中的时间共享》(TimeSharinginLargeFastComputer)论文,虚拟化(云计算架构的基石)概念被首次提出。1999年,MarcAndreessen创建LoudCloud,被认为是世界上第一个商业化的基础设施即服务(InfrastructureasaService,IaaS)模型。计算模式相关技术相关技术主要目标并行计算不同的子任务在多个处理器上同时运行,以快速解决大型且复杂的计算问题分布式计算侧重把复杂问题分成适量的子任务,再把子任务分配给多台计算机进行处理,最后把子任务的计算结果综合起来集群计算以紧耦合方式连接一组计算机以构成更高性能的计算机系统,通常通过局域网连接网格计算依托专网或互联网,以松耦合方式将部分处于不同地域的、自愿参加的计算机组织起来,统一调度,利用闲散的计算资源,组成一台虚拟“超级计算机”,形成超级计算能力效用计算提供客户需要的计算资源和基础设施管理,根据使用量而不仅仅是速率收费的服务模型Web服务使得运行在不同机器上的不同应用无须借助附加的、专门的第三方软件或硬件,就可相互交换数据或集成虚拟化对单台或多台计算机系统软、硬件资源进行划分和抽象,形成可以统一分配、调度、管理的计算机资源2.云计算定义01020304云计算包含互联网上的应用服务及在数据中心提供这些服务的软硬件设施,“云”是数据中心的软硬件设施及其提供的应用服务。云计算是一种新兴计算模式和服务理念描述,以动态、易扩展的方式提供虚拟化资源,包括计算、存储、网络等,因资源分布在互联网上,而互联网模型或示意图通常以云状图案表示,因此形象的称为云计算。云计算是一种融合了多项计算机技术的以数据处理能力为中心的密集型计算模式,其中以虚拟化、分布式数据存储、分布式并发编程模型、大规模数据管理和分布式资源管理技术最为关键。云计算是分布式计算、并行计算、效用计算、网络存储、虚拟化、负载均衡、热备份冗余等传统计算机和网络技术发展融合的产物,能够“弹性”提供资源和服务,以满足用户需求的动态变化2.云计算典型应用云存储云桌面行业云与政务云云文档云存储系统通过虚拟化技术整合网络中多种存储设备对外提供云存储服务,用户可以将文件、数据存储在互联网上的某个地方,以便随时随地访问。云桌面提供商一般都建有自己的服务器机房和数据中心,将原先PC上的操作系统、应用程序和数据全部集中放置于数据中心运行和管理,并提供与传统PC相同的使用体验。避免重复建设,节约建设资金,通过统一标准有效促进政府各部门之间的互连互通、业务协同。云文档平台(多人协作在线文档平台)是可以直接在网络上进行编辑和预览的Office办公软件。3.云计算体系架构4.云计算部署模型公用云公有云需要拥有大量计算、存储、网络等资源的云计算服务提供商建设,面向公众提供互联网服务。私用云私有云只面向特定人员(如企业内部员工)提供云服务。社区云社区云是一种有限开放的“共享式私有云”。混合云混合云是上述云部署模式的结合体。5.云计算服务模式基础设施即服务是一种将计算机硬件系统作为服务提供给用户的一种服务模式。IaaS平台即服务是以“租赁”云计算系统的平台软件层作为服务,服务提供商不仅仅向租户提供需要的硬件设施,还将用户需要的系统软件(操作系统、数据库等)一并以服务的形式提供给用户使用。PaaS软件即服务是一种出租云计算系统中软件(系统)的服务模式。SaaS常见的云计算安全问题数据丢失账户、服务和通信劫持不安全的应用程序接口网络病毒6.云计算安全云计算安全领域中主要技术数据加密用户身份认证制定不同的安全策略和等保级别虚拟化技术基础虚拟化技术定义与作用虚拟化技术发展虚拟化技术分类021.虚拟化技术定义与作用虚拟化技术的作用一方面将一台物理服务器模拟成运行不同操作系统的“虚拟机”供用户使用。另一方面将异构、跨域的数据中心的物理服务器及网络资源整合形成一台逻辑服务器(资源池),供管理者统一分配给不同用户使用,可简称IT资源逻辑“池化”。虚拟化技术定义广义上讲,虚拟化技术是一种IT资源管理、优化技术,将计算机各种资源,如CPU、内存、存储空间、网络适配器,甚至应用、软件等予以抽象、转换,呈现出一个可供分割并任意组合为一个或多个(虚拟)计算机环境;狭义上讲,虚拟化技术是将一台计算机虚拟为多台逻辑计算机,提高计算机的工作效率。2.虚拟化技术发展大型机上的虚拟化,就是简单地、硬性地划分硬件资源。大型机技术开始向UNIX系统或类UNIX系统的迁移。针对x86平台的虚拟化技术。主要有芯片级的虚拟化、操作系统级虚拟化和应用级虚拟化。第一阶段第二阶段第三阶段第四阶段3.虚拟化技术分类软件辅助的虚拟化:指通过软件让客户机的特权指令陷入异常,从而触发宿主机进行虚拟化处理,实现对真实物理资源的截获与模拟。硬件支持的虚拟化:即通过物理平台本身提供特殊指令,以实现对真实物理资源的获取与模拟的硬件支持。按虚拟化实现方法分类3.虚拟化技术分类半虚拟化全虚拟化按虚拟化实现机制分类3.虚拟化技术分类祼机架构宿主架构按虚拟化架构模型分类混合架构3.虚拟化技术分类按虚拟化应用领域分类可分为:服务器虚拟化桌面虚拟化存储虚拟化平台虚拟化应用程序虚拟化网络虚拟化云计算与虚拟化关系03云计算与虚拟化关系云计算包含较多核心技术概念,如虚拟化、并行计算、分布式数据库、分布式存储等,其中虚拟化技术是云计算的基石。云计算系统通过虚拟化技术可以将各种硬件、软件、操作系统、存储、网络以及其他IT资源进行虚拟化,纳入到云计算管理平台进行管理。从根本上来说,虚拟化技术是将各种计算及存储资源充分整合和高效利用的关键技术,目的是实现硬件资源的最充分利用。虚拟化技术是云计算的主要支撑技术之一,云计算方案通过虚拟化技术使整个IT资源部署更加灵活,反过来,虚拟化方案也可以引入云计算的理念,为用户提供按需使用的资源和服务。谢谢!云计算虚拟化技术基础与实践第二章虚拟化基础环境搭建目录CONTENT01.虚拟化基础环境介绍02.VMware下载及安装03.CentOSISO文件下载04.VMware中CentOS安装05.CentOS基本配置本章重点掌握VMware的安装方式。掌握VMware中CentOS虚拟机的安装方式。掌握基础网络及源的配置。掌握远程登录的设置方式。掌握VMwareTools的安装方式。虚拟化基础环境介绍01虚拟化基础环境介绍为方便读者学习,本书的虚拟化基础环境构建采用在Windows机器上安装VMwareWorkstationPro16,然后在VMwareWorkstationPro16中搭建CentOS虚拟机的方式进行学习。软件版本号下载网址VMwareVMwareWorkstationPro16.1.0/cn.htmlCentOSCentOS7/VMware下载及安装02VMware下载及安装CentOSISO文件下载03CentOSISO文件下载CentOS的官网是/CentOSISO文件下载CentOS的官网是/VMware中CentOS安装04VMware中CentOS安装注意事项:此用户和根用户root都是使用该密码。VMware中CentOS安装注意事项:在“位置”选项,尽量选择空间较大的磁盘分区,因为CentOS虚拟机在本书的后续使用中,会安装很多内容,导致所占空间较大。注意事项:该配置在CentOS安装好后,还可以进行修改。像内存大小、网络类型、I/O控制器类型、磁盘类型等,都可以在CentOS安装好后,在使用过程中进行调整。VMware中CentOS安装注意事项:可以在图中选择“Notlisted”选项,使用root账户名和密码进行登录。使用root登录,能够方便后续的设置操作。CentOS基本配置终端使用root用户基础网络的配置源的更改允许root用户远程登录安装VMwareTools051.终端使用root用户Linux的超级管理员名即是root,在学习过程中使用root用户可以方便后续的操作。如果在登录CentOS时使用的是“centos”用户,登录后可以使用“suroot”命令切换为root用户,输入安装时设置的密码即可。[centos@localhost~]$surootPassword:[root@localhostcentos]#whoamiroot[root@localhostcentos]#2.基础网络的配置宿主机是有线网络在安装CentOS时,网络连接使用的是默认的NAT模式,如果宿主机是固定IP的有线网络,那么CentOS安装好后,网络默认是连通的。宿主机是无线网络,使用DHCP方式注意事项:此方法由于使用VMware的DHCP服务进行虚拟机IP地址的分配,会导致每次打开虚拟机时,其IP地址可能会修改。宿主机是无线网络,使用静态IP方式注意事项:此方式将CentOS的网络连接设置为“桥接模式”,如果宿主机的IP地址每次修改,会导致在宿主机连接不上虚拟机。3.源的更改CentOS进行软件下载安装的yum源,分为本地源和网络源,默认使用的yum源是CentOS官网的镜像网站提供的源,属于网络源。在可以联网的情况下建议使用网络源,但CentOS官网下载较慢,这里以阿里云为例,给出配置阿里云的yum网络源的步骤。[root@localhostyum.repos.d]#cd/etc/yum.repos.d/[root@localhostyum.repos.d]#mvCentOS-Base.repoCentOS-Base.repo.backup[root@localhostyum.repos.d]#wget-O/etc/yum.repos.d/CentOS-Base.repo/repo/Centos-7.repo[root@localhostyum.repos.d]#yummakecache[root@localhostcentos]#yum-yupdate4.允许root用户远程登录[root@localhost~]#vim/etc/ssh/sshd_config……37#LoginGraceTime2m38PermitRootLoginyes39#StrictModesyes……64#PermitEmptyPasswordsno65PasswordAuthenticationyes……5.安装VMwareTools5.安装VMwareTools[root@localhostVMwareTools]#lsmanifest.txtVMwareTools-10.3.22-15902021.tar.gzvmware-tools-upgrader-64run_upgrader.shvmware-tools-upgrader-32[root@localhostVMwareTools]#mkdir/VMware[root@localhostVMwareTools]#cpVMwareTools-10.3.22-15902021.tar.gz/VMware/VM-tools[root@localhostVMwareTools]#cd/VMware/[root@localhostVMware]#lsVM-tools[root@localhostVMware]#tar-xzvfVM-tools……//省略解压缩内容[root@localhostVMware]#cdvmware-tools-distrib/[root@localhostvmware-tools-distrib]#./vmware-install.pl谢谢!云计算虚拟化技术基础与实践第三章虚拟化实现技术目录CONTENT01.系统虚拟化架构02.处理器虚拟化实现技术03.内存虚拟化实现技术04.I/O虚拟化实现技术本章重点了解系统虚拟化架构。掌握Intel处理器虚拟化实现技术VT-x。了解AMD处理器虚拟化实现技术AMDSVM。熟悉Intel和AMD的两种内存虚拟化实现技术。熟悉IntelVT-d、IOMMU和SR-IOV的I/O虚拟化实现技术。掌握Virtio的I/O虚拟化实现技术。系统虚拟化架构01系统虚拟化架构IntelVT是Intel在CPU层面提供的硬件虚拟化技术的总称,主要提供下列技术:在处理器虚拟化方面,提供了VT-x技术;在内存虚拟化方面,提供了EPT(ExtendedPageTable,扩展页表)技术;在I/O设备虚拟化方面,提供了VT-d技术。AMDSVM是AMD在CPU层面提供的硬件虚拟化技术的总称,主要提供下列技术:在处理器虚拟化方面,提供了AMDSVM技术;在内存虚拟化方面,提供了NPT技术;在I/O设备虚拟化方面,提供了IOMMU技术。系统虚拟化架构系统虚拟化的核心思想是指用虚拟化技术将一台物理计算机系统虚拟化为一台或多台逻辑独立的计算机系统。一般来说,虚拟环境由三部分组成:硬件、虚拟化层VMM和虚拟机。使用虚拟化技术,每个虚拟机中的操作系统可以完全不同,执行环境也可以完全独立,多个操作系统可以互不影响的在一台物理机上同时运行。虚拟机所具有的三个典型特征1974年,Popek和Goldberg的定义认为:虚拟机可以看作是物理机的一种高效隔离的复制,里面蕴涵了三层含义,即同质、高效和资源受控,这也是一个虚拟机所具有的三个典型特征。同质:虚拟机的运行环境和物理机的运行环境在本质上是相同的,但是在表现上有一些差异。高效:虚拟机中运行的软件必须和直接在物理机上运行的性能接近。资源受控:VMM需要对系统资源有完全控制能力和管理权限,包括资源的分配、监控和回收。特权指令和敏感指令特权指令敏感指令特权指令系统中操作和管理关键系统资源的指令。特权指令只能够在最高特权级上正确执行,如果在非最高特权级上执行,特权指令就会引发一个异常,使得处理器陷入到最高特权级,交由系统软件来处理。敏感指令虚拟化环境里操作特权资源的指令,包括修改虚拟机的运行模式或者物理机的状态,读写敏感的寄存器或者内存。处理器虚拟化实现技术02处理器虚拟化实现技术处理器虚拟化是VMM中最重要的部分,因为访问内存或者I/O的指令本身就是敏感指令,所以内存虚拟化和I/O虚拟化都依赖于处理器虚拟化。x86体系结构中,处理器有四个运行级别,分别是Ring0、Ring1、Ring2和Ring3。x86系统结构下的处理器虚拟化1.vCPUIntelVT-x的vCPU结构vCPU的基本操作如下:1.vCPU的创建:创建vCPU实际上是创建vCPU描述符,由于vCPU描述符是一个结构体,因此创建vCPU描述符就是分配相应大小的内存。2.vCPU的运行:vCPU创建并初始化好之后,就会被调度程序调度运行,调度程序会根据一定的策略算法来选择vCPU运行。3.vCPU的退出:对vCPU退出的处理是VMM进行CPU虚拟化的核心,例如模拟各种特权指令。4.vCPU的再运行:指VMM在处理完vCPU的退出后,会负责将vCPU投入再运行。2.IntelVT-xIntelVT-x的基本思想Intel设计了VT-x,提出了VMX模式,即VMXRootOperation和VMXNon-RootOperation,虚拟机监控器运行在VMXrootoperation模式,虚拟机运行在VMXnon-rootoperation模式。1.根操作模式(VMXRootOperation):VMM运行所处的模式。以下简称根模式。2.非根操作模式(VMXNon-RootOperation):客户机运行所处的模式,以下简称非根模式。2.IntelVT-xVMX操作模式1.VMM执行VMXON指令进人到VMX操作模式,此时CPU处于VMX根操作模式,VMM软件开始执行。2.VMM执行VMLAUNCH或VMRESUME指令产生VM-Entry,客户机软件开始执行,此时CPU从根模式转换成为非根模式。3.当客户机执行特权指令,或者当客户机运行时发生了中断或异常,VM-Exit被触发而陷入到VMM,CPU自动从非根模式转换切换到根模式。VMM根据VM-Exit的原因做相应处理,然后转到步骤2继续运行客户机。4.如果VMM决定退出,则执行VMXOFF关闭VMX操作模式。3.AMDSVM此外,AMD还增加了八个新指令操作码来支持SVM,VMM可以通过指令来配置VMCB映像CPU,如VMRUN指令会从VMCB中载入处理器状态,而VMSAVE指令会把处理器状态保存到VMCB中。VMM运行在非根模式上,而客户机运行在根模式上。在非根模式上,一些敏感指令会引起“陷入”,即VM-Exit,而VMM调动某个客户机运行时,CPU会由根模式切换到非根模式,即VM-Entry。AMD中引入了一个新的结构叫做VMCB(VirtualMachineControlBlock,虚拟机控制块)以更好的支持CPU的虚拟化。在AMD的SVM中,较多内容与IntelVT-x类似。但是技术上略有不同,在SVM中也有两种模式:根模式和非根模式。内存虚拟化实现技术03内存虚拟化面临的问题特权指令敏感指令1.物理内存要被多个客户机操作系统使用,但是物理内存只有一份,物理地址0也只有一个,无法同时满足所有客户机操作系统内存从0开始的需求。2.由于使用内存分区方式,把物理内存分给多个客户机操作系统使用,虽然可以保证虚拟机的内存访问时连续的,但是内存的使用效率低。内存虚拟化的主要任务实现地址空间的虚拟化,维护宿主机物理地址和客户机物理地址之间的映射关系。截获客户机对宿主机物理地址的访问,并根据所记录的映射关系,将其转换成宿主机物理地址。内存虚拟化示意图1.IntelEPT页表项格式图EPT是一个多级页表,各级页表的表项格式相同,页表各项含义如下:ADDR:下一级页表的物理地址。如果已经是最后一级页表,那么就是GPA对应的物理地址。SP:超级页(SuperPage)所指向的页是大小超过4KB的超级页,CPU在遇到SP=l时,就会停止继续往下查询。对于最后一级页表,这一位可以供软件使用。X:可执行,X=1表示该页是可执行的。R:可读,R=1表示该页是可读的。W:可写,W=1表示该页是可写的。1.IntelEPTEPT原理图2.AMDNPTNPT原理图在NPT中,宿主机和客户机都有自己的CR3寄存器,分别是nCR3(nestedCR3)和gCR3(guestCR3)。gPT负责客户机虚拟地址到客户机物理地址的映射。nPT负责客户机物理地址到宿主机物理地址的映射。客户机页表和嵌套页表分别是由客户机和宿主机创建。其中,客户机页表存在客户机物理内存里,由gCR3索引。而嵌套页表存在宿主机物理内存中,由nCR3索引。当使用客户机虚拟地址时,会自动调用两层页表(gPT和nPT)将客户机虚拟地址转换成宿主机物理地址。I/O虚拟化实现技术041.IntelVT-d使用VT-d后设备访问内存的架构IntelVT-d技术通过在北桥(MCH)引入DMA重映射硬件,以提供设备重映射和设备直接分配的功能。在启用VT-d的平台上,设备所有的DMA传输都会被DMA重映射硬件截获。根据设备对应的I/O页表,硬件可以对DMA中的地址进行转换,使设备只能访问到规定的内存。1.IntelVT-dVT-d还提供了两种数据结构来描述PCI架构,分别是根条目(RootEntry)和上下文条目(ContentEntry)根条目的结构上下文条目的结构1.IntelVT-d根条目表和上下文条目表构成的两级结构1.IntelVT-dDMA重映射的4KB页面地址转换过程2.IOMMUIOMMU技术示意图输入/输出内存管理单元IOMMU(Input/OutputMemoryManagementUnit)是一个内存管理单元,管理对系统内存的设备访问。它位于外围设备和主机之间,可以把DMAI/O总线连接到主内存上,将来自设备请求的地址转换为系统内存地址,并检查每个接入的适当权限。2.IOMMUIOMMU提供DMA地址转换,对设备读取和写入的权限检查的功能。IOMMU将页转译缓存在一个TLB(TranslationLookasideBuffer)中,当需要进入TLB时你需要键入保护域和设备请求地址。IOMMU提供的转译和保护双重功能提供了一种完全从用户代码、无需内核模式驱动程序操作设备的方式。IOMMU允许VMM直接将真实设备分配到客户机操作系统,让I/O虚拟化更有效。IOMMU避免设备模拟,取消转译层,允许本机驱动程序直接配合设备,极大的降低了I/O设备虚拟化的开销。3.SR-IOV具有SR-IOV功能的I/O设备SR-IOV是PCI-SIG组织公布的一个新规范,旨在消除VMM对虚拟化I/O操作的干预,以提高数据传输的性能。它继承了PassthroughI/O技术,绕过虚拟机监视器直接发送和接收I/O数据,同时还利用IOMMU减少内存保护和内存地址转换的开销。一个具有SR-IOV功能的I/O设备是基于PCIe规范的,具有一个或多个物理设备(PF,PhysicalFunction),PF是标准的PCIe设备,具有唯一的申请标识RID。而每一个PF可以用来管理并创建一个或多个虚拟设备(VF,VirtualFunction),VF是“轻量级”的PCIe设备。3.SR-IOVSR-IOV实现模型PF驱动,运行在宿主机上,可以直接访问PF的所有资源。PF驱动主要用来创建、配置和管理虚拟设备,即VF。VF驱动是运行在客户机上的普通设备驱动,VF驱动只有操作相应VF的权限。SR-IOV管理器运行在宿主机,用于管理PCIe拓扑的控制点以及每一个VF的配置空间。3.SR-IOV具有SR-IOV功能的设备具有以下优点:提高系统性能。采用Passthrough技术,将设备分配给指定的虚拟机,可以达到基于本机的性能。利用IOMMU技术,改善了中断重映射技术,减少客户及从硬件中断到虚拟中断的处理延迟。安全性优势。通过硬件辅助,数据安全性得到加强。可扩展性优势。系统管理员可以利用单个高宽带的I/O设备代替多个低带宽的设备达到带宽的要求。利用VF将带宽进行隔离,使得单个物理设备好像是隔离的多物理设备。此外,这还可以为其他类型的设备节省插槽。4.VirtioVirtio的基本架构前端驱动程序(front-enddriver),即virtio-blk、virtio-net、virtio-pci、virtio-ballon和virtio-console,是在客户机操作系统中实现的。后端驱动程序(back-enddriver),是在Hypervisor中实现的。另外,Virtio还定义了两个层来支持客户机操作系统与Hypervisor之间的通信。Virtio是虚拟队列接口,它在概念上将前端驱动程序附加到后端驱动程序。数据传输时使用了环形缓冲区,用于保存前端驱动和后端处理程序的执行信息4.Virtio以CentOS7为例,相关的内核模块包括virtio.ko、virtio_ring.ko、virtio_pci.ko、virtio_balloon.ko、virtio_net.ko、virtio_blk.ko等。以CentOS7的内核配置文件为例,其中与Virtio相关的内核模块如下:[root@localhost~]#cat/boot/config-3.10.0-1160.11.1.el7.x86_64|grep-ivirtioCONFIG_VIRTIO_VSOCKETS=mCONFIG_VIRTIO_VSOCKETS_COMMON=mCONFIG_VIRTIO_BLK=mCONFIG_SCSI_VIRTIO=mCONFIG_VIRTIO_NET=mCONFIG_VIRTIO_CONSOLE=mCONFIG_HW_RANDOM_VIRTIO=mCONFIG_DRM_VIRTIO_GPU=mCONFIG_VIRTIO=m#VirtiodriversCONFIG_VIRTIO_PCI=mCONFIG_VIRTIO_PCI_LEGACY=yCONFIG_VIRTIO_BALLOON=mCONFIG_VIRTIO_INPUT=m#CONFIG_VIRTIO_MMIOisnotset4.Virtio可以通过“modprobe”命令加载相应的Virtio模块,通过“lsmod”命令查看已加载的模块。[root@localhost~]#modprobevirtio[root@localhost~]#lsmod|grepvirtiovirtio149590[root@localhost~]#modprobevirtio_blk[root@localhost~]#lsmod|grepvirtiovirtio_blk184720virtio_ring229911virtio_blkvirtio149591virtio_blk[root@localhost~]#lsmod|head-1ModuleSizeUsedby谢谢!云计算虚拟化技术基础与实践第四章网络虚拟化实现技术目录CONTENT01.SDN02.NFV03.Mininet04.OpenvSwitch05.OpenStackNeutron本章重点了解SDN的网络架构特点,掌握OpenFlow协议的具体实现。了解NFV的体系架构与部署方式。了解Mininet的基本原理,掌握Mininet的安装部署及命令行操作。了解OpenvSwich的基本原理,熟悉OpenvSwitch的架构与组件。了解OpenStackNeutron的基本原理,熟悉OpenStackNeutron的网络架构。SDNSDN概述SDN网络架构OpenFlow关键组件OpenFlow消息类型OpenFlow应用011.SDN概述软件定义网络SDN(SoftwareDefinedN-etwork)起源于2006年斯坦福大学的CleanSlate研究课题。2009年,Mckeown教授正式提出了SDN概念。2012年12月6日,2012中国SDN与开放网络高峰会议在北京隆重召开,JustinJoubineDustzadeh博士发表主题演讲,指出SDN这一颠覆性的技术将对未来网络产生革命性的影响。软件定义网络是一种新型网络创新架构,是网络虚拟化的一种实现方式。其核心技术OpenFlow通过将网络设备的控制与数据分离开来,从而实现了网络流量的灵活控制软件定义网络将网络中交换设备的控制逻辑集中到一个计算设备上,为提升网络管理配置能力带来新的思路。1.SDN概述SDN可以分两类:控制与转发分离(超广义)和管理与控制分离(广义)。SDN有三个主要特征:1.转控分离2.集中控制3.开放接口2.SDN网络架构SDN三层网络架构应用层:这一层主要是体现用户意图的各种上层应用程序,此类应用程序称为协同层应用程序,典型的应用包括OSS(Operationsupportsystem运营支撑系统)、OpenStack等。控制层:控制层是系统的控制中心,负责网络的内部交换路径和边界业务路由的生成,并负责处理网络状态变化事件。转发层:转发层主要由转发器和连接器的线路构成基础转发网络,这一层负责执行用户数据的转发,转发过程中所需要的转发表项是由控制层生成的。2.SDN网络架构SDN的两个接口南向接口(SouthboundInterface或D-CPI):位于数据平面和控制平面之间,负责SDN控制器与网络单元之间的数据交换和交互操作,OpenFlow就是最著名的工作在南向接口的协议。北向接口(NorthboundInterface或A-CPI):位于控制平面与应用平面之间,上层的应用程序通过北向接口获取下层的网络资源,并通过北向接口向下层网络发送数据。2.SDN网络架构SDN网络部署方式:underlay网络2.SDN网络架构SDN网络部署方式:overlay网络3.OpenFlow关键组件OpenFlow是SDN控制平面和数据平面之间多种通信协议之一。OpenFlow以其良好的灵活性、规范性已被看作SDN通信协议事实上的标准,类似于TCP/IP协议作为互联网的通信准则。OpenFlow是一种属于数据链路层网络通信协议,能够控制网上交换器或路由器的转发平面,借此改变网络数据包所走的网络路径。OpenFlow协议用来描述控制器和交换机之间交互所用信息的标准,以及控制器和交换机的接口标准。OpenFlow网络由OpenFlow网络设备(OpenFlow交换机)、控制器(OpenFlow控制器)、用于连接设备和控制器的安全通道(SecureChannel)以及OpenFlow表项组成。3.OpenFlow关键组件OpenFlow控制器:位于SDN架构中的控制层,通过OpenFlow协议指导设备的转发。目前主流的OpenFlow控制器分为两大类:开源控制器和厂商开发的商用控制器。这里简要介绍几款较为知名的开源控制器。NOX是第一款真正的SDNOpenFlow控制器,由Nicira公司在2008年开发,并且捐赠给了开源组织。POX可以视作是更新的、基于Python的NOX版本,支持Windows,MacOS和Linux系统上的Python开发,主要用于研究和教育领域。NOX/POXONOS(OpenNetworkOperatingSystem)控制器是由TheOpenNetworkingLab使用Java及Apache实现并发布的首款开源SDN网络操作系统,主要面向网络服务提供商和企业骨干网。ONOSOpenDaylight是一个Linux基金合作项目,该项目以开源社区为主导,使用Java语言实现开源框架,旨在推动创新实施以及软件定义网络透明化。OpenDaylight3.OpenFlow关键组件OpenFlow交换机:由硬件平面上的OpenFlow表项和软件平面上的安全通道构成,OpenFlow表项为OpenFlow的关键组成部分,由控制器下发来实现控制平面对转发平面的控制。OpenFlow交换机主要有两种:OpenFlow-OnlySwitch仅支持OpenFlow转发。OpenFlow-HybridSwitch既支持OpenFlow转发,也支持普通二三层转发。OpenFlow交换机与控制器3.OpenFlow关键组件不同协议版本的流表项结构MatchFields:流表项匹配规则,可以匹配入接口、物理入接口,流表间数据,二层报文头,三层报文头,四层端口号等报文字段等。Priority:流表项优先级,定义流表项之间的匹配顺序,优先级高的先匹配。Counters:流表项统计计数,统计有多少个报文和字节匹配到该流表项。Instructions&Actions:流表项动作指令集,定义匹配到该流表项的报文需要进行的处理。Timeouts:流表项的超时时间,包括了IdleTime和HardTime。Cookie:Controller下发的流表项的标识。一条OpenFlow的流表项(FlowEntry)由匹配域(MatchFields)、优先级(Priority)、处理指令(Instructions)和统计数据(如Counters)等字段组成,流表项的结构随着OpenFlow版本的演进不断丰富,不同协议版本的流表项结构如下:3.OpenFlow关键组件OpenFlow组表OpenFlow组表的表项被流表项(FlowEntry)所引用,提供组播报文转发功能。一系列的Group表项组成了GroupTable。OpenFlow计量表Meter计量表项被流表项(FlowEntry)所引用,为所有引用Meter表项的流表项提供报文限速的功能。一系列的Meter表项组成了MeterTable。4.OpenFlow消息类型ControllertoSwitch消息主要包含以下几种类型:Features:用于控制器发送请求来了解交换机的性能,交换机必须回应该报文。Modify-State:用于管理交换机的状态,如流表项和端口状态。Read-State:用于控制器收集交换机各方面的信息,例如当前配置,统计信息等。Flow-Mod:Flow-Mod消息用来添加、删除、修改OpenFlow交换机的流表信息。Packet-out:用于通过交换机特定端口发送报文,这些报文是通过Packet-in消息接收到的。Asynchronous-Configuration:控制器使用该报文设定异步消息过滤器,只接收希望接收到的异步消息报文,或者向OpenFlow交换机查询该过滤器。1.ControllertoSwitch消息4.OpenFlow消息类型异步消息具体包含以下几种类型:Packet-in:转移报文的控制权到控制器。对于所有通过匹配流表项或者TableMiss后转发到Controller端口的报文均要通过Packet-in消息送到Controller。Flow-Removed:通知控制器将某个流表项从流表移除。通常该消息在控制器发送删除流表项消息后或者流表项的定时器超时后产生。Port-Status:通知控制器端口状态或设置的改变。2.异步(Asynchronous)消息4.OpenFlow消息类型同步(Symmetric)消息是双向对称的消息,主要用来建立连接、检测对方是否在线等,是控制器和OpenFlow交换机都会在无请求情况下发送的消息,包括以下几种:Hello:当连接启动时,交换机和控制器会发送Hello交互。Echo:用于验证控制器与交换机之间连接的存活,控制器和OpenFlow交换机都会发送EchoRequest/Reply消息。Experimenter:OpenFlow使用Experimenter来描述可扩展的消息,各交换机厂家将自己定义的可扩展消息包含在Experimenter类型的OpenFlow消息中。3.同步(Symmetric)消息OpenFlow应用网络虚拟化(FlowVisor)负载均衡(Aster*x)绿色节能的网络服务(ElasticTree)5.OpenFlow应用基于OpenFlow的SDN应用部署面向校园网的部署面向数据中心的部署面向网络管理的部署面向安全控制的部署NFVNFV概述NFV与SDN的关系NFV体系结构NFV部署方式NFV应用案例021.NFV概述NFV与传统网络结构的区别网络虚拟化NFV有如下优势:通过设备合并、借用IT的规模化经济,减小设备成本、能源开销。缩短网络运营的业务创新周期,提升投放市场的速度,使运营商极大的减少网络成熟周期。网络设备可以多版本、多租户共存,且单一平台可为不同的应用、用户、租户提供服务,允许运营商跨服务和跨不同客户群共享资源。基于地理位置、用户引入精准服务,同时可以根据需要对业务进行快速扩张或收缩。2.NFV与SDN的关系NFV可以不用SDN机制,仅通过当前的数据中心技术去实现。但从方法上有赖于SDN提出的控制和数据转发平面的分离,使用SDN可以增强性能,简化与已存在设备的兼容性、基础操作和维护流程。NFV可以通过提供给SDN软件运行的基础设施的方式来支持SDN。NFV与SDN的关系2.NFV与SDN的关系NFV与SDN的对比类型SDNNFV核心思想转发与控制分离,控制面集中,网络可编程化将网络功能从原来专用的设备移到通用设备上针对场景校园网,数据中心、云运营商网络针对设备商用服务器和交换机专用服务器和交换机初始应用云资源调度和网络路由器、防火墙、网关、CND、广域网加速器、SLA保证等通用协议OpenFlow尚没有标准组织ONF(OpenNetworkingForun)组织ETSINFV工作组3.NFV体系架构ETSINFV体系架构NFV体系架构主要包括:NFV基础设施(NFVInfrastructure,NFVI)虚拟网络功能(VirtualizedNetworkFunction,VNF)NFV管理和编排(NFVManagementAndOrchestration,MANO)4.NFV部署方式NFV部署方式主要有:单厂商、软硬件解耦和三层解耦三种。5.NFV应用案例vRRvFWvDPIvPOP在骨干网全连接架构中,有一对或者多对路由器承担着向全网设备反馈路由信息的功能,这就是路由反射器(RR)。防火墙需要实现对传统网络环境中的安全域进行隔离,也需要实现对虚拟化环境中的安全域的隔离。vDPI可以从嵌入的网络设备中迁移,成为托管在标准服务器上的共享功能。vPOP对于运营商而言,是一种新的商业模式的城域网新边缘节点。vCDN可针对CDN控制器或Cache在CDN上使用NFV技术。MininetMininet概述Mininet系统架构Mininet安装部署Mininet命令行操作031.Mininet概述Mininet作为一个轻量级软件定义网络研发和测试平台,具有如下功能:支持OpenFlow、OpenvSwitch等软件定义网络部件,为OpenFlow应用程序提供一个简单,低廉的网络测试平台;启用复杂的拓扑测试,无需连接物理网络,支持系统级的还原测试;具备拓扑感知和OpenFlow感知的命令行界面,用于调试或运行网络范围的测试;支持复杂、自定义拓扑,支持超过4096台主机的网络结构;提供用户网络创建和实验的可拓展PythonAPI。良好的硬件移植性和高扩展性。2.Mininet系统架构Mininet架构按datapath的运行权限不同,分为kerneldatapath和userspacedatapath两种。Minint的kerneldatapath架构2.Mininet系统架构Mininet架构按datapath的运行权限不同,分为kerneldatapath和userspacedatapath两种。Minint的userspacedatapath架构3.Mininet安装部署访问地址:/mininet/mininet/releases/,下载MininetVM镜像文件,推荐下载Ubuntu20.04.1VMimage3.Mininet安装部署解压缩下载下来的压缩包,有一个后缀名为ovf的文件。打开VMwareWorkstation软件,点击“文件”菜单下的打开按钮,选择并导入此ovf文件,并为导入的虚拟机命名,最后打开此虚拟机,输入用户名和密码(均为mininet)。3.Mininet安装部署3.Mininet安装部署安装完成后,使用命令测试Mininet是否安装成功。4.Mininet命令行操作运行Mininet的操作十分简单,只需使用如图所示命令即可启动Mininet,该命令会创建默认的一个小型测试网络。经过短暂的等待即可进入以“mininet>”引导的命令行界面。Mininet创建默认网络默认网络的拓扑结构图4.Mininet命令行操作在mininet>之后可以输入pingall命令来测试主机的连通性。mininet>pingall***Ping:testingpingreachabilityh1->h2h2->h1***Results:0%dropped(2/2received)4.Mininet命令行操作举例说明:在默认网络的基础上,在S1交换机下增加一台主机H3,并连接到拓扑中,具体操作如下所示:mininet>pynet.addHost('h3')#加入新主机H3<Hosth3:pid=3486>mininet>pynet.addLink(h3,s1)#加入S1H3的链路<mininet.link.Linkobjectat0x7f3f3d06a7d0>mininet>pys1.attach('s1-eth3')#S1加入端口eth3mininet>pyh3.cmd('ifconfigh3-eth010.3')#H3配置IP地址mininet>h1pingh3#H1-H3ARP协议PING()56(84)bytesofdata.64bytesfrom:icmp_seq=1ttl=64time=0.985ms64bytesfrom:icmp_seq=2ttl=64time=0.341msmininet>pingall#测试主机连通性***Ping:testingpingreachabilityh1->h2h3h2->h1h3h3->h1h2***Results:0%dropped(6/6received)4.Mininet命令行操作举例说明:使用创建网络拓扑的命令,创建一个单交换机简单网络,主机数为3。mininet@mininet-vm:~/mininet$sudomn--toposingle,3#创建一个单交换机简单网络,主机数为3mininet@mininet-vm:~/mininet$sudomn--toposingle,3***Creatingnetwork***Addingcontroller***Addinghosts:h1h2h3***Addingswitches:s1***Addinglinks:(h1,s1)(h2,s1)(h3,s1)***Configuringhostsh1h2h3***Startingcontrollerc0***Starting1switchess1...***StartingCLI:mininet>4.Mininet命令行操作举例说明:使用创建网络拓扑的命令,创建一个树形简单网络,深度2,扇出3。mininet@mininet-vm:~/mininet$sudomn--topotree,depth=2,fanout=3#创建一个树形简单网络,深度2,扇出3***Creatingnetwork***Addingcontroller***Addinghosts:h1h2h3h4h5h6h7h8h9***Addingswitches:s1s2s3s4***Addinglinks:(s1,s2)(s1,s3)(s1,s4)(s2,h1)(s2,h2)(s2,h3)(s3,h4)(s3,h5)(s3,h6)(s4,h7)(s4,h8)(s4,h9)***Configuringhostsh1h2h3h4h5h6h7h8h9***Startingcontrollerc0***Starting4switchess1s2s3s4...***StartingCLOpenvSwitchOpenvSwitch概述OpenvSwitch架构与组件041.OpenvSwitch概述主要特性1.虚拟机间互联的可视性;2.支持trunking的标准802.1QVLAN模块;3.细粒度的QoS;4.虚拟机端口的流量策略;5.负载均衡支持OpenFlow;6.远程配置兼容Linux桥接模块代码。OpenvSwitchOpenvSwitch简称OVS,是一个高质量、多层的虚拟交换软件,它的目的是通过编程扩展支持大规模网络自动化。OpenvSwitch由NiciraNetworks开发,遵循Apache2.0开源代码版权协议,可用于生产环境,支持跨物理服务器分布式管理、扩展编程、大规模网络自动化和标准化接口,实现了和大多数商业闭源交换机功能类似的功能。2.OpenvSwitch架构与组件OpenvSwitch的总体架构OpenvSwitch由三大部分构成:用户空间的主要组件ovsdb-server和ovs-vswitchd;内核空间的Datapath内核模块。2.OpenvSwitch架构与组件OpenvSwitch组件执行流程OpenvSwitch的其他组件如下:1.ovs-dpctl:用来配置switch内核模块;2.ovs-vsctl:查询和更新ovs-vswitchd的配置;3.ovs-ofctl:查询和控制OpenFlow交换机和控制器;4.ovs-openflowd:一个简单的OpenFlow交换机;5.ovs-controller:一个简单的OpenFlow控制器;6.ovs-pki:OpenFlow交换机创建和管理公钥框架;7.ovs-tcpundump:tcpdump的补丁,解析OpenFlow的消息;8.ovs-bugtool:管理openvswitch的Bug信息。OpenStackNeutronOpenStackNeutron概述OpenStackNeutron网络架构051.OpenStackNeutron概述Neutron是OpenStack核心项目之一,提供云计算环境下的虚拟网络功能。OpenStackNeutron管理OpenStack环境中所有的虚拟网络基础设施(VNI)、物理网络基础设施(PNI)的接入层,为整个OpenStack环境提供网络支持,包括二层交换,三层路由,负载均衡,防火墙等。Neutron提供了一个灵活的框架,无论是开源软件还是商业软件都可以通过配置实现以下功能:二层交换三层路由负载均衡防火墙2.OpenStackNeutron网络架构Neutron网络类型图OpenStackNeutron整体网络分为内部网络(管理网络,数据网络)和外部网络(外部网络,API网络)。管理网络:用于OpenStack各组件之间的内部通信;数据网络:用于云部署中虚拟数据之间的通信;外部网络:公共网络,外部或Internet可以访问的网络;API网络:暴露所有的OpenStackAPIs,包括OpenStack网络API给租户们。2.OpenStackNeutron网络架构Neutron网络架构图谢谢!云计算虚拟化技术基础与实践第五章QEMU虚拟化配置目录CONTENT02.QEMU基本命令03.CPU配置04.内存配置05.存储器配置06.网络配置01.KVM与QEMU环境构建本章重点理解KVM与QEMU的关系。掌握KVM与QEMU虚拟化环境构建过程。掌握QEMU基本命令。掌握客户机核心模块CPU、内存、存储器和网络配置基本方法。掌握qemu-img命令的基本使用方法。掌握客户机镜像制作过程。KVM与QEMU环境搭建KVM与QEMU关系宿主机环境的验证与配置QEMU编译与安装KVM与QEMU虚拟化环境验证011.KVM与QEMU关系KVM是Linux的一个内核驱动模块,它能够让Linux主机成为一个Hypervisor(虚拟机监控器)。QEMU本身并不是KVM的一部分,而是一套由FabriceBellard编写的模拟处理器的自由软件。由于QEMU支持Xen和KVM模式下的虚拟化,KVM为了简化开发和代码重用,对QEMU进行了修改。从QEMU角度来看,虚拟机运行期间,QEMU通过KVM模块提供的系统调用进行内核,由KVM模块负责将虚拟机置于处理器的特殊模式运行。QEMU使用了KVM模块的虚拟化功能,为自己的虚拟机提供硬件虚拟化加速,来提高虚拟机的性能。KVM和QEMU相辅相成,QEMU通过KVM达到了硬件虚拟化的速度,而KVM则通过QEMU来模拟设备。2.宿主机环境的验证与配置本书统一利用VMwareWorkstation中搭建的CentOS7作为虚拟化环境的宿主机使用,在本节中,KVM与QEMU的环境构建步骤都是在宿主机中执行。开启CentOS虚拟化2.宿主机环境的验证与配置如果看到的“虚拟化引擎”为灰色,说明VMware的宿主机Windows还未开启虚拟化的支持。需要将Windows重启,进入BIOS页面,开启虚拟化设置。如何在BIOS中开启虚拟化,由于各机器不同,设置也不同。这里以DELL笔记本进行举例,DELL笔记本电脑进BOIS的快捷键是F2。2.宿主机环境的验证与配置2.宿主机环境的验证与配置2.宿主机环境的验证与配置利用命令“uname-r”查看内核的版本号,2.6以上的内核都支持,本书中CentOS7操作系统的内核版本为3.10.0。判断CentOS宿主机操作系统内核是否支持KVM[root@localhost~]#uname-r3.10.0-1160.el7.x86_642.宿主机环境的验证与配置验证CentOS系统内核是否安装KVM内核模块注意事项:此处是以支持Intel的虚拟化技术Intel-VT的CPU为例,如果是支持AMD的虚拟化技术AMD-V的CPU,需要查看是否包含“svm”,命令为“cat/proc/cpuinfo|grepsvm”。注意事项:KVM模块无需安装,因为在CentOS7的通用发行版本中KVM模块均已安装。[root@localhost~]#cat/proc/cpuinfo|grepvmx[root@localhost~]#lsmod|grepkvmkvm_intel1887400kvm6372891kvm_intelirqbypass135031kvm3.QEMU编译与安装可以通过wget工具下载QEMU源码压缩包,然后进行QEMU的配置编译安装。[root@localhost~]#wget/qemu-4.1.0.tar.xz[root@localhost~]#tarxvJfqemu-4.1.0.tar.xz[root@localhost~]#cdqemu-4.1.0/[root@localhostqemu-4.1.0]#./configure[root@localhostqemu-4.1.0]#make-j10[root@localhostqemu-4.1.0]#makeinstall3.QEMU编译与安装安装完毕后,使用命令“qemu-”,按两次Tab键查看QEMU是否安装成功,如果能够成功输出“qemu-system-x86_64”说明安装成功。[root@localhostqemu-4.1.0]#qemu-qemu-aarch64qemu-ppcqemu-system-mips64……qemu-mips64elqemu-system-hppaqemu-system-x86_64使用“whichqemu-system-x86_64”命令查看QEMU安装的目录。[root@localhostqemu-4.1.0]#whichqemu-system-x86_64/usr/local/bin/qemu-system-x86_644.KVM与QEMU虚拟化环境验证1.下载cirros磁盘镜像文件cirros磁盘镜像文件的下载地址为/cirros-dev/cirros/releases/,文件名为cirros-0.5.2-x86_64-disk.img下载cirros系统的磁盘镜像文件4.KVM与QEMU虚拟化环境验证2.安装VNC远程连接工具在主控端计算机上安装tigervnc[root@localhost]#yuminstall-ytigervnc在被控端计算机上安装tigervnc-server[root@localhost]#yuminstall-ytigervnc-server4.KVM与QEMU虚拟化环境验证3.在被控端计算机上,通过命令“qemu-system-x86_64-m1024-smp1-bootorder=c-hdacirros-0.5.2-x86_64-disk.img-vnc:1-enable-kvm”来启动KVM虚拟机。[root@localhost~]#qemu-system-x86_64-m1024-smp1-bootorder=c-hdacirros-0.5.2-x86_64-disk.img-vnc:1-enable-kvm“-m1024”表示给虚拟机分配1024MB内存;“-smp1”表示给虚拟机分配1个vCPU;“-bootorder=c”表示虚拟机从硬盘启动。“-hdacirros-0.5.2-x86_64-disk.img”表示使用cirros系统磁盘镜像文件作为虚拟机启动盘启动虚拟机。“-vnc:1”表示使用vnc的5901端口共享虚拟机桌面;“-enable-kvm”表示开启KVM内核加速模块。4.KVM与QEMU虚拟化环境验证4.在主控端计算机上,启动vncviewer远程连接虚拟机桌面。执行命令“vncviewer”。注意事项:如果无法连接远程桌面,有可能是因为被控计算机的防火墙,请尝试关闭防火墙。4.KVM与QEMU虚拟化环境验证输入账户名cirros,密码gocubsgo,进入KVM虚拟机QEMU基本命令02QEMU基本命令一般来说,在X86_64平台上的QEMU命令行基本格式如下:qemu-system-x86_64[options][disk_image]QEMU的标准选项主要涉及指定主机类型、CPU模式、NUMA、软驱设备、光驱设备及硬件设备等。-namename:设定客户机名称;-mmegs:设定客户机的RAM大小;-cpumodel:设定CPU模型;-hdafile:使用指定file作为第一个硬盘镜像;-cdromfile:使用指定file作为CD-ROM镜像;-boot[order=drives][,once=drives][,menu=on|off]:定义启动设备的引导次序。CPU配置CPU设置基本参数CPU模型031.CPU设置基本参数在QEMU中,“-smp”参数是为了配置客户机的SMP系统。-smp[cpus=]n[,maxcpus=cpus][,cores=cores][,threads=threads][,sockets=sockets]cpus用来设置客户机中使用的逻辑CPU的数量(默认值是1);maxcpus用来设置客户机的最大CPU的数量,最多支持255个CPU。其中,包含启动时处于下线状态的CPU数目;sockets用来设置客户机中看到的总socket的数量。cores用来设置在一个socket上CPUcore的数量;threads用来设置在一个CPUcore上线程的数量;1.CPU设置基本参数举例说明:不加smp参数,使用其默认值1,模拟只有一个逻辑CPU的客户机系统。[root@localhost~]#qemu-system-x86_64cirros-0.5.2-x86_64-disk.img-vnc:1-monitorstdio在qemumonitor中,用“infocpus”命令可以看到客户机中CPU状态(qemu)infocpus*CPU#0:thread_id=109659[root@localhost~]#ps-efL|grepqemuroot10965629161096563421:53pts/000:00:06qemu-system-x86_64cirros-0.5.2-x86_64-disk.img-vnc:1-monitorstdioroot1096562
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 2025年中国六位机械计数器市场调查研究报告
- 2025年转向中间臂支架项目可行性研究报告
- 常州2025年江苏常州市卫生健康委员会直属事业单位招聘高层次紧缺专业人才269人(定期)笔试历年参考题库附带答案详解
- 2025年生化仪器项目可行性研究报告
- 成都2024年四川成都经开区(龙泉驿区)招聘教育人才11人笔试历年参考题库附带答案详解
- 2025年智能程序温控箱项目可行性研究报告
- 2025至2031年中国喷灌机管道行业投资前景及策略咨询研究报告
- 2025年双色底项目可行性研究报告
- 2025至2030年中国袋装水简易连接器数据监测研究报告
- 2025年X射线探测器项目可行性研究报告
- 2024-2030年中国免疫细胞存储行业发展模式及投资战略分析报告
- 家庭清洁课件教学课件
- 湖南财政经济学院《常微分方程》2023-2024学年第一学期期末试卷
- 2011年公务员国考《申论》真题卷及答案(地市级)
- 《篮球体前变向运球技术》教案(共三篇)
- 多元化评价体系构建
- 部编版六年级下册道德与法治全册教案教学设计
- DBJ04∕T 290-2012 袖阀管注浆加固地基技术规程
- GB/T 17775-2024旅游景区质量等级划分
- 灯笼彩灯安装合同范本
- 物流无人机垂直起降场选址与建设规范
评论
0/150
提交评论