云计算相关及计划书剖析.docx

1、云计算相关及计划书剖析项目的背景，相当于前言，你们为什么对项目感兴趣当今世界，在经济全球化不断发展的同时，气候变化、能源安全、粮食安全等全球性问题更加突出，以知识技术密集、绿色低碳增长为主要特征的新兴产业蓬勃兴起，日益成为引领新一轮产业革命的主导力量。为应对新挑战、构建新优势，世界主要国家紧紧抓住新兴产业发展机遇，竞相出台发展战略，加大政府扶持力度，抢占经济科技发展制高点。从2009年起，各国都在加快部署、纷纷出台战略规划和相关政策措施、积极推动云计算产业发展和应用，以期在全球经济与竞争格局深刻变革之中占据最大优势。21世纪10年代云计算作为一个新的技术趋势已经得到了快速的发展。云计算已经彻底

2、改变了一个前所未有的工作方式，也改变了传统软件工程企业。2014 中国国际云计算技术和应用展览会3月4日在北京开幕，工信部软件服务业司司长陈伟在会上透露，云计算综合标准化技术体系已形成草案。近期18大会议在未来的十三五计划中明确提出重点发展云存储和云计算，物联网等新兴技术。互联网的飞速发展，网络信息的爆炸式增长，现实世界中企业对数据的处理，人们对数据的需求发生了巨大的变化。随着互联网信息量以几何倍增长的今天，普通的计算机信息处理和计算方式已经越来越不能满足现代企业及机构对信息的处理和分析要求，同时人门的生活方式也发生了很大的变化，云计算云存储等能满足未来需求的新技术必然成为应用和探索的热点。因

3、此我们组决定以云计算等作为本学期学习的重点，完成云计算云存储等实践项目。相关技术及原理或技术的特点云计算是一种将可伸缩、弹性、共享的物理和虚拟资源池以按需自服务的方式供应和管理，并提供网络访问的模式。云计算模式由关键特征、云计算角色和活动、云能力类型和云服务分类、云部署模型、云计算共同关注点组成。云计算是一种以数据和处理能力为中心的密集型计算模式，它融合了多项ICT技术，是传统技术“平滑演进”的产物。其中以虚拟化技术、分布式数据存储技术、编程模型、大规模数据管理技术、分布式资源管理、信息安全、云计算平台管理技术、绿色节能技术最为关键。1、虚拟化技术虚拟化是云计算最重要的核心技术之一，它为云计算

4、服务提供基础架构层面的支撑，是ICT服务快速走向云计算的最主要驱动 力。可以说，没有虚拟化技术也就没有云计算服务的落地与成功。随着云计算应用的持续升温，业内对虚拟化技术的重视也提到了一个新的高度。与此同时，我们的 调查发现，很多人对云计算和虚拟化的认识都存在误区，认为云计算就是虚拟化。事实上并非如此，虚拟化是云计算的重要组成部分但不是全部。从技术上讲，虚拟化是一种在软件中仿真计算机硬件，以虚拟资源为用户提供服务的计算形式。旨在合理调配计算机资源，使其 更高效地提供服务。它把应用系统各硬件间的物理划分打破，从而实现架构的动态化，实现物理资源的集中管理和使用。虚拟化的最大好处是增强系统的弹性和灵活

5、 性，降低成本、改进服务、提高资源利用效率。从表现形式上看，虚拟化又分两种应用模式。一是将一台性能强大的服务器虚拟成多个独立的小服务器，服务不同的用户。二是 将多个服务器虚拟成一个强大的服务器，完成特定的功能。这两种模式的核心都是统一管理，动态分配资源，提高资源利用率。在云计算中，这两种模式都有比较多 的应用。2、分布式数据存储技术云计算的另一大优势就是能够快速、高效地处理海量数据。在数据爆炸的今天，这一点至关重要。为了保证数据的高可靠性，云计算通常会采用分布式存储技术，将数据存储在不同的物理设备中。这种模式不仅摆脱了硬件设备的限制，同时扩展性更好，能够快速响应用户需求的变化。分布式存储与传统

6、的网络存储并不完全一样，传统的网络存储系统采用集中的存储服务器存放所有数据，存储服务器成为系统性 能的瓶颈，不能满足大规模存储应用的需要。分布式网络存储系统采用可扩展的系统结构，利用多台存储服务器分担存储负荷，利用位置服务器定位存储信息，它不 但提高了系统的可靠性、可用性和存取效率，还易于扩展。在当前的云计算领域，Google的GFS和Hadoop开发的开源系统HDFS是比较流行的两种云计算分布式存储系统。GFS（Google File System）技术：谷歌的非开源的GFS（GoogleFile System） 云计算平台满足大量用户的需求，并行地为大量用户提供服务。使得云计算的数据存储技

7、术具有了高吞吐率和高传输率的特点。HDFS（Hadoop Distributed File System）技术：大部分ICT厂商，包括Yahoo、Intel的“云”计划采用的都是HDFS的数据存储技术。未来的发展将集中在超大规模的数据存 储、数据加密和安全性保证、以及继续提高I/O速率等方面。3、编程模式从本质上讲，云计算是一个多用户、多任务、支持并发处理的系统。高效、简捷、快速是其核心理念，它旨在通过网络把强大的 服务器计算资源方便地分发到终端用户手中，同时保证低成本和良好的用户体验。在这个过程中，编程模式的选择至关重要。云计算项目中分布式并行编程模式将被 广泛采用。分布式并行编程模式创立的

8、初衷是更高效地利用软、硬件资源，让用户更快速、更简单地使用应用或服务。在分布式并行编程模 式中，后台复杂的任务处理和资源调度对于用户来说是透明的，这样用户体验能够大大提升。MapReduce是当前云计算主流并行编程模式之一。 MapReduce模式将任务自动分成多个子任务，通过Map和Reduce两步实现任务在大规模计算节点中的高度与分配。MapReduce是Google开发的java、Python、C+编程模型，主要用于大规模数据集（大于1TB） 的并行运算。MapReduce模式的思想是将要执行的问题分解成Map（映射）和Reduce（化简）的方式，先通过Map程序将数据切割成不相关的区

9、块，分配（调度）给大量计算机处理，达到分布式运算的效果，再通过Reduce程序将结果汇整输出。4、大规模数据管理处理海量数据是云计算的一大优势。那么如何处理则涉及到很多层面的东西，因此高效的数据处理技术也是云计算不可或缺的核 心技术之一。对于云计算来说，数据管理面临巨大的挑战。云计算不仅要保证数据的存储和访问，还要能够对海量数据进行特定的检索和分析。由于云计算需要对海 量的分布式数据进行处理、分析，因此，数据管理技术必需能够高效的管理大量的数据。Google的BT（BigTable）数据管理技术和Hadoop团队开发的开源数据管理模块HBase是业界比较典型的大规模数据管理技术。BT（BigT

10、able）数据管理技术：BigTable是非关系的数据库，是一个分布式的、持久化存储的多维度排序 Map.BigTable建立在GFS, Scheduler, Lock Service和MapReduce之上，与传统的关系数据库不同，它把所有数据都作为对象来处理，形成一个巨大的表格，用来分布存储大规模结构化数据。 Bigtable的设计目的是可靠的处理PB级别的数据，并且能够部署到上千台机器上。开源数据管理模块HBase:HBase是Apache的Hadoop项目的子项目，定位于分布式、面向列的开源数据 库。HBase不同于一般的关系数据库，它是一个适合于非结构化数据存储的数据库。另一个不同的

11、是HBase基于列的而不是基于行的模式。作为高可靠性分 布式存储系统，HBase在性能和可伸缩方面都有比较好的表现。利用HBase技术可在廉价PC Server上搭建起大规模结构化存储集群。5、分布式资源管理云计算采用了分布式存储技术存储数据，那么自然要引入分布式资源管理技术。在多节点的并发执行环境中，各个节点的状态需要同步，并且在单个节点出现故障时，系统需要有效的机制保证其它节点不受影响。而分布式资源管理系统恰是这样的技术，它是保证系统状态的关键。另外，云计算系统所处理的资源往往非常庞大，少则几百台服务器，多则上万台，同时可能跨跃多个地域。且云平台中运行的应用也是数以千计，如何有效地管理这批

12、资源，保证它们正常提供服务，需要强大的技术支撑。因此，分布式资源管理技术的重要性可想而知。全球各大云计算方案/服务提供商们都在积极开展相关技术的研发工作。其中Google内部使用的Borg技术很受业内称道。另外，微软、IBM、Oracle/Sun等云计算巨头都有相应解决方案提出。6、信息安全调查数据表明，安全已经成为阻碍云计算发展的最主要原因之一。数据显示，32%已经使用云计算的组织和45%尚未使用云计算的组织的ICT管理将云安全作为进一步部署云的最大障碍。因此，要想保证云计算能够长期稳定、快速发展，安全是首要需要解决的问题。事实上，云计算安全也不是新问题，传统互联网存在同样的问题。只是云计算

13、出现以后，安全问题变得更加突出。在云计算体系 中，安全涉及到很多层面，包括网络安全、服务器安全、软件安全、系统安全等等。因此，有分析师认为，云安全产业的发展，将把传统安全技术提到一个新的阶 段。现在，不管是软件安全厂商还是硬件安全厂商都在积极研发云计算安全产品和方案。包括传统杀毒软件厂商、软硬防火墙厂商、IDS/IPS厂商在内的各个层面的安全供应商都已加入到云安全领域。相信在不久的将来，云安全问题将得到很好的解决。7、云计算平台管理云计算资源规模庞大，服务器数量众多并分布在不同的地点，同时运行着数百种应用，如何有效地管理这些服务器，保证整个系 统提供不间断的服务是巨大的挑战。云计算系统的平台管

14、理技术，需要具有高效调配大量服务器资源，使其更好协同工作的能力。其中，方便地部署和开通新业务、 快速发现并且恢复系统故障、通过自动化、智能化手段实现大规模系统可靠的运营是云计算平台管理技术的关键。对于提供者而言，云计算可以有三种部署模式，即公共云、私有云和混合云。三种模式对平台管理的要求大不相同。对于用户而 言，由于企业对于ICT资源共享的控制、对系统效率的要求以及ICT成本投入预算不尽相同，企业所需要的云计算系统规模及可管理性能也大不相同。因此，云 计算平台管理方案要更多地考虑到定制化需求，能够满足不同场景的应用需求。包括Google、IBM、微软、Oracle/Sun等在内的许多厂商都有云

15、计算平台管理方案推出。这些方案能够帮助 企业实现基础架构整合、实现企业硬件资源和软件资源的统一管理、统一分配、统一部署、统一监控和统一备份，打破应用对资源的独占，让企业云计算平台价值得 以充分发挥。8、绿色节能技术节能环保是全球整个时代的大主题。云计算也以低成本、高效率着称。云计算具有巨大的规模经济效益，在提高资源利用效率的同时，节省了大量能源。绿色节能技术已经成为云计算必不可少的技术，未来越来越多的节能技术还会被引入云计算中来。Carbon Disclosure Project（碳排放披露项目，简称CDP）近日发布了一项有关云计算有助于减少碳排放的研究报告。报告指出，迁移至云的美国公司每年就

16、可以减少碳排放8570万吨，这相当于2亿桶石油所排放出的碳总量。标准相关信息AARTS:AssociationforRetailTechnologyStandards（零售行业技术标准协会）CCCIF:CloudComputingInteroperabilityForum（云计算互操作论坛）CESI:ChinaElectronicsStandardizationInstitute（中国电子技术标准化研究院）CSA:CloudSecurityAlliance（云安全联盟）CSRT:CloudStrategyResearchTeam（云计算战略研究小组）DDMTF:DistributedManag

17、ementTaskForce（分布式管理任务组）EETSI:TheEuropeanTelecommunicationsStandardsInstitute（欧洲电信标准研究所）EuroCloud:EuroCloud（欧洲云行业联盟）GGICTF：GlobalInterCloudTechnologyForum（全球跨云技术论坛）IIEEE:InstituteofElectricalandElectronicsEngineers（电气电子工程师学会）ISO/IECJTC1SC7:InternationalOrganizationforStandardization/InternationalEle

18、ctrotechnicalCommissionJointTechnicalCommitteeSubtechnicalCommittee7（国际标准化组织/国际电工委员会第一联合技术委员会7分技术委员会）ISO/IECJTC1SC38:InternationalOrganizationforStandardization/InternationalElectrotechnicalCommissionJointTechnicalCommitteeSubtechnicalCommittee38（国际标准化组织/国际电工委员会第一联合技术委员会38分技术委员会）ITU-T:InternationalT

19、elecommunicationUnionTelecommunicationStandardizatioSector（国际电信联盟电信标准化部）KKCSA：KoreaCloudServiceAssociation（韩国云服务联盟）NNIST:NationalInstituteofStandardsandTechnology（美国国家标准与技术研究院）OOASIS:OrganizationfortheAdvancementofStructuredInformationStandards（结构化信息标准促进组织）OCC:TheOpenCloudConsortium（开放云计算联盟）OCM：Open

20、CloudManifesto（开放云计算宣言）OGF:OpenGridForum（开放式网格论坛）OMG:ObjectManagementGroup（对象管理组）SSNIA:StorageNetworkingIndustryAssociation（全球网络存储工业协会）TTOG:TheOpenGroup（开放群组）随着云计算的不断发展，业界对云计算的定义认识已趋于统一，目前云计算的定义以ISO/IECJTC1和ITU-T组成的联合工作组制定的国际标准ISO/IEC17788云计算词汇与概述下面介绍7个部分的概况以及所包含的在研标准情况：1、基础标准用于统一云计算及相关概念，为其他各部分标准的制

21、定提供支撑。主要包括云计算术语、参考架构、指南、能效管理等方面的标准。（1）云计算术语和云计算参考架构国际上ISO/IECJTC1SC38启动云计算术语和云计算参考架构国际标准的制定，开展云服务交付模式的研究。ITU-TSG13在原有云计算焦点组(FGCC)的基础上建立，开展云计算术语、云计算参考架构的研究。目前这两大国际云计算组织通过成立联合工作组的方式，共同推出这两个国际标准的制定，已经进入DIS阶段，参与基础标准的国际标准组织还有ETSI、NIST、TOG等。国内上，我国在开展国际标准化工作的同时，同步开展云计算术语、云计算参考架构等基础标准的研制，中国和美国的贡献物成为云计算参考架构的

22、基础文档，中国成功争取到云计算参考架构联合编辑职位。云计算基本参考架构主要规定了云计算基本参考模型和基本的技术要求，以及基础设施即服务、平台即服务、软件即服务等服务模式的要求。云计算基本参考模型涵盖云服务客户、云服务提供者和云服务协作者三类角色。不同角色之间通过统一规范接口进行交互。云计算基本参考模型不仅为云计算提供者和开发者搭建了一个基本的技术参考实现模型，也为云计算服务的评价和审计人员提供相关指南。（2）云计算数据中心参考架构定义了云计算数据中心基本参考架构，包括必备基本特征、推荐性建议，以及云计算数据中心参考架构中各组成部分及功能。并对云计算的基础设施，资源池，能效管理，安全，服务及运维

23、管理提出了要求。2、网络标准用于规范网络连接、网络管理和网络服务。主要包括云内、云间、用户到云等方面的标准。3、整机装备标准用于规范适用于云计算的计算设备、存储设备、终端设备的生产和使用管理。主要包括整机装备的功能、性能、设备互联和管理等方面的标准。包括基于通用互联的存储区域网络（IP-SAN）应用规范、备份存储备份技术应用规范、附网存储设备通用规范、分布式异构存储管理规范、模块化存储系统通用规范、集装箱式数据中心通用规范等标准。（1）基于通用互联的存储区域网络（IP-SAN）应用规范本标准对IP-SAN存储设备和系统架构参考模型、IP-SAN的统一描述方法及通信方式的规范、以及IPSAN数据

24、安全规范和评估进行标准化。本标准可广泛适用于数据中心、存储局域网等环境下的IP-SAN存储设备和系统。（2）备份存储备份技术应用规范本标准建立云存储数据备份应用的备份系统架构参考模型，对文件系统、数据库及虚拟机的具体应用进行备份流程、备份方式、备份策略方面进行标准化。（3）附网存储设备通用规范本标准规定了附网存储的术语、技术要求、测试方法、检验规则。本标准适用于服务网存储设备的生产厂商、以及使用附网存储设备的客户。（4）分布式异构存储管理规范本标准规范了存储管理信息的统一描述方法及通信方式，提出了符合国家需要的规范化存储管理安全保护机制，构建了分布式异构存储设备和系统的管理信息模型和实例，用于

25、构建大规模、可扩展存储系统，满足当前日益增长的信息存储需求，有力地支撑国内存储产业的发展。（5）模块化存储通用规范本标准给出了模块化存储系统的界定说明与分类、模块化存储系统技术要求和设计规范，以及与技术要求相对应的检测方法，以此保障产品质量和使用安全。（6）集装箱式数据中心通用规范集装箱式数据中心是一个可作为数据中心构建的标准模块，为企业在短时间内完成数据中心容量的扩展；同时，也可作为单独使用的模块，在企业主数据中心之外建立独立的灾备站点，或用于军事项目、政府保密工程、能源勘察、大型活动的户外作业，是应对于企业级数据中心快速、灵活需求的最佳解决方案。本标准给出了集装箱式数据中心的设计规范和评价

26、标准，为集装箱式数据中心的规格、架构、技术参数提供统一规范。4、软件标准用于规范云计算相关软件的研发和应用，指导实现不同云计算系统间的互联、互通和互操作。主要包括虚拟化、计算资源管理、数据存储和管理、平台软件等方面的标准。软件标准中，“开放虚拟化格式”和“弹性计算应用接口”主要从虚拟资源管理的角度出发，实现虚拟资源的互操作。“云数据存储和管理接口总则”、“基于对象的云存储应用接口”、“分布式文件系统应用接口”、“基于Key-Value的云数据管理应用接口”主要从海量分布式数据存储和数据管理的角度出发，实现数据级的互操作。从国际标准组织和协会对云计算标准的关注程度来看，对虚拟资源管理、数据存储和

27、管理的关注度比较高。其中，“开放虚拟化格式规范”和“云数据管理接口”已经成为ISO/IEC国际标准。（1）弹性计算应用接口弹性计算服务是基于虚拟化资源的云计算服务，是云服务的核心，是目前部署和应用较广泛的云服务。许多大型公司纷纷推出了弹性计算服务，包括AmazonEC2，RackSpaceCloudServers等。但是这些弹性计算服务在接口功能、接口协议等方面存在诸多不一致、这些不一致带来了以下问题：弹性计算服务间互联互通困难。由于不同的弹性计算服务提供不同接口功能及接口协议，因此用户在使用不同提供商提供的弹性计算服务时，无法实现上层应用的统一部署，这样容易导致用户被绑定至同一弹性计算服务提

28、供商，为用户带来较大风险。弹性计算服务接口的不统一阻碍弹性计算服务发展。用户若使用不同的弹性计算服务，必须进行相应的适配接口开发，阻碍用户选择弹性计算服务。同时，围绕不同服务接口的特定语言编程包和第三方管理软件的开发需要做多种适配，造成行业发展力量分散，阻碍了弹性计算服务的发展。“弹性计算应用接口”制定的目标是为用户和弹性计算服务的交互提供一套标准接口，支持用户在多个服务提供商中进行选择，支持用户上层应用的跨弹性计算服务部署。本规范的制定将有助于提高用户对弹性计算服务的体验，促进弹性计算产业的开放性和标准化，促进弹性计算产业的整体良性发展。该接口规范主要关注弹性计算服务接口问题，包括基于虚拟化

29、资源的弹性计算体系框架，服务模型、接口功能、接口协议、标准操作集合、对安全的要求等。（2）云数据存储和管理第1部分总则云计算环境下数据量大且分布在网络上的不同结点、不同设备和系统上。从数据的结构化程度看，包含了结构化数据、半结构化数据和非结构化数据，且非结构化数据所占的比重日益增大。数据存储和管理应用接口旨在对存储在不同系统、结构化程度不同的数据提供统一的存储和管理接口。目前的云数据存储系统主要包括块文件存储系统和基于对象的云存储系统。数据存储管理接口必须兼顾这两类不同的存储系统。云数据管理系统包括基于Key-Value的数据管理、分布式关系数据管理和分布式数据仓库管理。从管理内容上看，数据存

30、储和管理接口包括对各种类型存储设备、数据和元数据的增加、删除、修改和查询接口。这里的数据包括结构化数据、半结构化数据和非结构化数据。“云数据存储和管理应用接口总则”规定了云存储和数据管理体系框架、云数据存储类规范、云数据管理类规范、基本原则、质量和安全性要求等，供系列标准参考。（3）云数据存储和管理第2部分基于对象的云存储应用接口目前国内外已有多家云存储服务提供商提供相关对象云存储服务，包括Amazon的S3、谷歌的“GoogleStorage（GS）”云计算存储服务、AT&T推出的基于EMCAtmos数据存储基础架构的AT&TSynapticStorageasaService。一些国际标准协

31、会也发布了云数据存储规范，如SNIA的CDMI。总体情况上，各家云存储服务接口不一，且为各互联网公司私有方案，给用户数据迁移和共享带来很大的障碍；而CDMI由于考虑到与传统存储体系的融合，体系架构较为复杂，与各互联网公司提供的对象云存储服务理念存在差异，且目前尚没有实际的商业服务实现。因此，对于中国的运营商和互联网公司来说，针对对象云存储提供服务的接口，目前尚无较好的标准可以参考。本规范将面向中国公众云存储服务发展的业务需求，定义适合中国运营商和互联网公司提供公众对象云存储服务的统一接口规范。在定义中将充分参考现有商业接口规范、CDMI规范和S3等互联网公司私有方案的经验和优点。本标准规定了基于对象的云存储应用接口的体系框架，数据接口模型，接口协议，基本元数据，基本功能元素，标准操作集合，安全要求等。本标准适用于对象云存储应用接口的设计、开发和服务提供。本标准是制定具体对象云存储的技术标准、质量测评标准的依据。（4）云数据存储和管理第5部分基于Key-Value的云数据管理应用接口Key-Value数据库作为一种新兴的云数据库，是传统关系数据库的良好补充，在管理结构化数据和