XXX高校数字化校园数据中心建设方案.docx

XXX高校数字化校园数据中心建设方案.docx

《XXX高校数字化校园数据中心建设方案.docx》由会员分享，可在线阅读，更多相关《XXX高校数字化校园数据中心建设方案.docx（62页珍藏版）》请在冰点文库上搜索。

XXX高校数字校园数据中心建设

方案建议书

目录

一、 项目概述 4

1.1建设背景 4

1.2建设目标 5

1.3建设原则 6

1.4云平台技术打造大数据与高性能优势 7

二、 需求分析 9

2.1现状分析 9

2.2总体建设 9

2.2.1XXX高校校园云平台需求 10

2.2.2大数据分析需求 10

2.2.3高性能需求 12

三、 数据中心总体规划 14

四、 云数据中心建设规划 17

4.1资源池规划 18

4.2资源池规划内容 20

4.3虚拟化软件选型规划 23

4.4云管理平台建设规划 24

4.5数据中心统一管理平台规划 27

五、 大数据建设规划 29

5.1大数据平台规划 29

5.2大数据架构介绍 34

5.3新型分布式处理技术基础 35

5.4分布式文件系统 35

5.5MapReduce计算框架 36

5.6数据管理与分析 38

5.7分布式数据库 38

5.8Hive数据仓库 39

5.9大数据调优服务 39

六、 高性能建设规划 42

6.1高性能平台建设内容 42

6.2高性能平台总体性能要求 42

6.3节点配置详解 43

6.3.1计算节点（大数据DataNode节点） 43

6.3.2 GPU节点 43

6.3.3 八路胖节点 44

6.3.4管理节点（NameNode节点） 45

6.3.5IO节点（JobTracker、TaskTracker节点） 45

6.3.6存储系统 46

6.3.7计算网络 46

6.3.8TSDM集群部署软件介绍 51

6.3.9备份还原软件介绍 53

6.3.10集群并行环境介绍 54

七、 机房建设规划 55

八、 方案配置清单 56

一、项目概述

1.1建设背景

遍布全球的互联网络正在无时无刻、无所不在地渗透到人们工作、生活和学习中，成为推动社会发展的强大动力。

在商业化的世界中，众多企业正在把自己转变成一种称为“数字神经系统”的新型组织，让企业能够以数字神经系统的方式对内部业务流程、知识共享和网络商务进行整合，快速响应全球化的竞争。

高校不仅承担着人才培养的重任，还承担了一些前沿科技和技术的研究。

同样，作为培养和造就新世纪人才的教育系统和学校，也面临同样的社会环境变化趋势。

然而，很多学校却明显落在了互联网络时代的后面，尽管学校已经采用了一些先进的设备和工具，但是还在沿用千百年来的传统教学方法和管理模式。

电化教学设备、电脑乃至校园网都变成了利用率很低的简单摆设，真正起决定性变化的管理和教学的方法和模式却没有随着社会发展的大趋势进行相应变革。

面对知识全球化和民族素质提高的教育要求，以及一系列的教育市场化竞争的挑战，“数字化校园”正在日臻成熟并发挥越来越重要的作用。

“数字化校园”的目标就是为了使校园的使用者可以更有效的利用校园来开展教学、科研活动并更方便快捷地进行学习、生活。

因此校园的主人：

学生——教师——管理人员就成为数字化校园的服务对象，他们的主要校园活动：

教学——科研——管理——生活就成为数字化校园的内容主体。

“数字化校园”的目标用一个词来表示就是服务”，为学生、教师、管理人员提供更好的服务就是数字化校园的宗旨。

目前云计算、互联网+、大数据分析、移动和物联网发展迅猛，数以亿计的用户通过互联网服务时时刻刻都产生大量的交互，这些交互通过手持设备、RFID、无线传感器产生大量的数据，IDC预计到2020年全球数据将增加到35ZB（1ZB=1024EB、1EB=1024PB），是2009年的45倍，其中80%以上为非结构化数据。

这些需要处理的数据量越来越大、增长迅猛，而业务需求和竞争压力对数据处理的实时性、有效性又提出来更高的要求，常规的数据库技术手段根本无法应付与处理。

由此而生产了BigData技术来处理此类问题。

大数据技术将是IT领域新一代的技术与架构，他将帮助人类从大量、复杂的数据中提取价值，它可以帮助决策者在储存的海量信息中挖掘出需要的信息，并且对这些信息进行分析研究，从而发现重要的趋势信息。

因此大数据的有效管理和挖掘将成为未来竞争和增长的基础，并日益成为企业的生产要素和战略资产，预计也将带来新一轮生产率的提升和消费者体验改善，类似工业革命的大数据时代已经来临，我们有理由相信未来大数据的产业规模将会至少以万亿美元来进行衡量。

大数据将给IT行业开拓一个新的黄金时代，作为成都重要的高校我们有义务在这些前沿科技上做出对人类、社会、四川、成都有帮助的研究并造福人类、造福四川和成都。

云计算是一种新型的信息资源管理和计算服务模式，是继大型计算机、个人电脑、互联网之后信息产业的一次革命。

云计算可将分散的计算、存储、服务资源有机整合起来管理和服务，转变了传统IDC运行管理理念，是未来计算的发展方向。

云计算以其资源动态分配、按需服务的设计理念，具有低成本解决海量信息处理的独特魅力。

云计算+大数据将会为现有的数据中心增加可用性特点能高效地、安全地运营；另一方面，并能降低数据中心的能源消耗和运行成本；我们对云计算的理解是：

云计算一种基于网络的支持异构设施和资源流转的服务供给模型，它提供给客户可自治的服务，实现资源的按需分配、按量计费。

云计算导致资源规模化，促进分工的专业化，使得资源供应商和用户都更加关注于自己的业务，有利于降低单位资源成本，促进全社会的开拓创新。

浪潮从事教育行业已经有数十年经验，致力于帮助教育用户提供一体化的数字化校园解决方案，在教育行业有数量众多的成功案例，浪潮承诺站在用户角度，寻求最为合理的解决方案，最大限度满足客户需求。

1.2建设目标

本次建设目标为：

利用云计算技术打造XXX高校大数据分析、高性能应用等高校科研基础平台。

云计算资源中心建设后，将包括校园云计算虚拟化中心、大数据分析、和高性能计算中心，并为此三个中心提供统一管理平台。

通过云计算资源中心的建设，物理资源将被组织起来统一调配和供应，提供给学校各学院、部门、教师及学生使用。

并且通过云数据中心为学校提供大数据分析和高性能计算服务。

通过资源集中化，资源的共享得以实现，应用在资源之间的迁移也成为可能。

当资源集中后，对于相同资源进行管理的代价将大幅度降低，而资源的使用率将成倍提升。

从而解决数据中心当前面临的问题，更有效的推动信息化的发展。

基于云计算的大数据和高性能中心建设目标主要有以下几个方面：

1、资源纬度集约化。

通过虚拟化方式，为各学院、部门和师生提供基础计算服务和数据存储。

2、数据纬度一体化。

方便数据共享，为大规模数据整合和交换提供可能。

3、管理纬度服务化。

利用云计算方式，实现基础软硬件资源的统一管理、按需分配、综合利用，降低各部门系统建设成本和日常运行维护费用。

高校数字校园云计算平台建设着重点为：

提供IAAS服务的服务器虚拟化中心，提供校园师生教学办公用的校园云盘中心和提供高性能计算服务的高性能计算中心。

建设完成后的高校云计算平台实现以下功能：

1、建设服务器虚拟化中心；为学校各大业务平台提供IAAS服务，以虚拟服务器的方式为校园各大业务平台提供业务支撑服务；

2、建设大数据分析；为前沿的大数据分析和研究提供服务，为部分在校学生课题提供服务；

3、建设校园高性能计算中心；为学校一些需要进行高性能计算的部门提供高性能计算基础平台，为业务部门高性能计算需求提供服务；

4、建设云计算中心统一管理平台；为校园云计算中心中的业务云平台、大数据分析系统、高性能计算中心提供统一的管理平台，为不同管理用户和业务用户提供统一入口；

5、通过建设云计算平台，学校实现对资源的大集中统一管理并提升整体计算能力；通过虚拟化技术提高资源利用率，避免重复建设，节约整体成本。

1.3建设原则

结合本项目的实际应用和发展要求，在进行云计算+大数据+高性能平台方案设计过程中，应始终坚持以下原则：

（1）可扩展性原则

为了保护已有的投资以及不断增长的业务需求，系统必须具有灵活的结构并留有合理的扩充余地，以便根据需要进行适当的变动和扩充；主要业务平台系统应采用开放的结构，符合国际标准、工业标准和行业标准，适应技术的发展和变化。

（2）合理性原则

在一定的资金条件下，以适当的投入，建立性能价格比高的、先进的、完善的业务系统。

所有软硬件的选型和配置要坚持性能价格比最优原则，同时兼顾与已有设备和系统的互联互通能力，以及与目前操作系统和应用系统的兼容性。

在满足系统性能、功能以及考虑到在可预见的未来不失去先进性的条件下，尽量取得整个系统的投入合理性，以构成一个性能价格比优化的应用系统。

系统架构的设计应尽可能地运用虚拟化、云计算等新技术，以符合未来的技术发展方向。

这种设计方法可以最大化地利用投资，并在利用率、管理、能源等各方面提高用户投资的效率，降低总体拥有成本，减少浪费的发生。

结合新技术的运用，也可以让各应用系统更好地融入未来整体IT建设规划中，避免发生推到重建的现象，从而更好地保护学校在信息系统上的投入。

（3）可靠性原则

系统要具有高可靠性及强大的容错能力。

该系统必须保证7×24全天候不间断地工作，核心设备比如数据库服务器和存储设备具有全容错结构，并具有热插拔功能，可带电修复有关故障而不影响整个系统的工作，设计应保持一定数量的冗余以保证整体系统的高可靠性和高可用性。

即便是在系统建设初期也要着重考虑系统可用性、可靠性问题，防止出现系统停顿等问题造成信息系统的中断服务。

通过结合云计算等新技术，可以更好地提高系统的可靠性和可用性。

（4）可管理性原则

选择基于国际标准和开放的技术，采用标准化、规范化设计；同时采用先进的设备，易于日后扩展，便于向更新技术的升级与衔接，实现系统较长的生命力；保证在系统上进行有效的开发和使用，并为今后的发展提供一个良好的环境；

在设计、组建中心机房系统时，采用先进的、标准的设备；在选购服务器、存储和连接设备时，选用同一家公司的系列产品，确保系统部件间的严密配合和无缝联接，并获得良好的售后服务和技术支持；整个系统建成后按照整理一套完整的文档资料，以便提高整个系统的可管理性与可维护性。

1.4云平台技术打造高校数字化校园优势

通过建立云计算平台，通过服务的方式交付对物理硬件的需求，代替传统硬件设备跟随着应有系统的增加而增加的模式，对现有应用系统进行整合，实现IT服务的快速交付，节能响应国家号召，提升业务系统安全。

1、合理利用硬件资源，减少运行消耗

云计算平台可将服务器物理资源转换成池化的可动态分配的计算单元，从学校业务具体需求出发，在资源池中划分出适合具体业务需要的服务计算单元，不再受限于物理上的界限，从而提高资源的利用率，简化系统管理，让信息化建设对学校业务工作的变化更具适应力，从而构建出信息系统平台的基础。

云平台建成后，可减少物理服务器数量至原有数量的一半以上，机房空间占用面积大大减少，机房相应配套设施建设也可能够相应减少，在实际工作中预计可节省能源达到70%以上，响应国家节能减排的要求。

2、增强业务部署速度，提高即时响应能力

云平台能够对学校业务系统提出的建设需求做到快速响应、快速部署，部署更新工作时间由原来数天或数星期缩短为只需几分钟即可完成。

如果总资源池中的硬件计算资源告急，只需要添加相应的物理服务器，简单的将新购的服务器部署到资源池集群中，云平台会根据整体资源池的动态资源平衡来自动分配新增加的计算资源给应用程序，真正的实现新服务器的即插即用。

3、完善应急安全机制

云平台可以自动监控资源池中计算单元和应用单元的可用性，检测物理服务器故障，如果检测到故障，可重新在资源池中其他物理服务器上重新启动相关业务，整个过程无需人工干预。

通过专线光纤将同城异地的两个云平台连接起来，既可形成一个稳定的基于云平台技术的容灾系统。

可以实现应用级数据备份和业务系统的应用级容灾，容灾系统切换时间可以实现分钟级，并且能进行容灾演练操作。

4、提供便捷的管理运维方式。

云平台可以通过一个统一的管理平台，来进行对平台中运行的各项业务设立不同权限的管理账号，根据工作需要设置不同的管理权限，并可通过其管理日志追溯操作过程。

还可以通过在平台上安装第三方安全软件的方式，一次性解决平台内所有计算单元的病毒防护、木马查杀、补丁升级等工作。

二、需求分析

2.1现状分析

随着信息技术的不断发展，学校在信息化建设方面加大投入，各部门陆续购置了相关业务软件和服务器，越来越多的业务实现了信息化。

学校目前使用的服务器多数为一路、两路的小型PC架构服务器，每台服务器仅仅只能运行单一操作系统和单个应用程序，且服务器使用时间基本上都在5年以上。

目前的平台建设模式导致服务器数量越来越多，产生了如下问题：

1．服务器使用效率低。

由于一台物理服务器对应一个应用系统，服务器的计算、存储等资源得不到充分利用。

2．系统存在安全隐患。

大多数服务器购置于5、6年前，设备老化，可靠性下降；相当一部分服务器管理权在学院或者部门，缺乏技术人员管理；除学校一卡通服务器采用双机热备模式以外，其余的应用没有做任何保护，每周需要做一次手工备份，数据丢失危险时刻存在。

3．机房空间紧张。

4.电力系统告急，能耗增加，空调功率跟不上。

5．系统不便管理，新业务部署时间长。

6.校园师生对云盘的应用需求日益强烈，对移动办公、数据备份等需求明显。

7.一些院系有高性能计算的业务需求，自建高性能中心涉及重复投资且高性能计算中心维护复杂，分散维护困难。

2.2总体建设

现有应用系统与底层硬件之间存在的“竖井式”结构，需要根据海量数据处理、实现应用弹性、构建多活数据中心等关键技术的发展，渐进式的对基础架构进行全方位规划。

现有的服务器、网络、存储、终端需要根据云计算平台的发展需求，对硬件资源进行动态的统筹划分，充分发挥了现有硬件的整体效能，以满足云计算平台的发展需要。

通过云计算中心平台建设，利用虚拟化技术、集中建设服务器虚拟化中心、大数据分析系统和高性能计算中心，为校园提供弹性，即时，可定制的云计算服务。

节约建设成本，提升云计算服务质量，为校园内广大师生和业务部门提供基于云计算的IAAS，云盘，高性能计算等业务支撑服务。

2.2.1XXX高校数字化校园云平台需求

在信息化建设的不断发展过程中，校园中业务不断发展，对服务器数量需求不断增加，同时各部门各院系分散申购服务器，浪费极大，维护不方便，集中部署服务器又造成机房空间压力不断增大，维护难度不断增大，服务器数量不断增加等一系列问题。

基于服务器虚拟化技术为基础的服务器虚拟化中心提供弹性、可扩展、可定制的虚拟服务器系统，即IAAS服务。

2.2.2XXX高校常见业务系统分析需求

一卡通业务系统

校园“一卡通”系统是指利用智能卡技术、网络技术、数据存储技术、数据加密技术、系统与网络安全技术、计算机控制技术和软件工程等技术；采用银行卡社会金融功能与校园卡校务管理功能相结合的方式；遵循国家金融、技术标准和行业规范；在校园内提供身份认证和金融服务的管理信息系统。

一卡通系统（以下简称“一卡通”）是数字化校园的基础工程和重要的有机组成部分，旨在为广大师生员工的教学、科研和生活提供方便、快捷的电子化服务，使其既可以代替学校目前使用的各种证件，又可以应用于各个消费场所，还可以应用于需要身份认证的场所，同时又可通过银行转帐系统与指定的银行进行转帐、圈存，实现校园无现金流通，从根本上实现“一卡在手，走遍校园”的设想。

给师生带来一种全新方便的现代生活，从而有效提升工作效率，提高学校的现代化管理水平。

“一卡通”系统是以软件、硬件集成的综合信息集成系统，构建在数字化校园之上的统一身份认证、数据中心平台、统一信息门户等基础平台，与学校其它业务管理信息系统紧密结合，实现数据共享和交换，组成数字化校园的重要信息采集网络，为学校提供实时可靠的信息来源和决策依据。

综合信息服务系统

综合信息服务系统以学校数据中心为基础，将分散在各部门的数据集中到一起，以师、生角色为主线，提供跨部门立体式的人事、教学、学工、科研、设备资产、财务经费等综合查询服务。

查询服务以学校基表（由教育部制定的，用以反映高等教育的各级各类学校基本情况的基层统计报表）为基础，支持面向主题的多维查询。

个人用户也可以查询自身相关基本情况（个人数字档案）。

同时通过全面的数据分析，给院系领导、校领导决策提供数据支持，可以对学校的基本情况有一个全面的了解，通过其掌握学校发展的宏观情况。

校园网站系统

校园网站系统主要提供Web页面的浏览服务。

整个网站系统提供了对外及对外接口。

对外访问接口提供了外界了解学校的途径，展示学校形象以及师资力量，招生最新信息等。

对内接口的主要适用对象为校内师生，为在校师生提供内部信息展示，课程安排，最新活动咨询等相关信息。

另外，目前Web、FTP、BBS三类应用有极大的相关性，方便教师和学生进行课内外交流和授课内容、课外辅导资料等的下载等。

同时，可以将图书馆供公开使用的资料在Web服务器上公布，即整合图书馆信息系统和校园网系统。

邮件系统

E-Mail服务器是一套电子邮局系统和信件发送、接收系统，主要为校园广大的教师及学生提供方便、及时的电子通信手段。

邮件系统主要使用对象为校内教师，如果应用资源条件允许，可以考虑为学生开设独立的邮箱账户，方便师生沟通。

办公OA系统

办公自动化服务器只为学校日常办公服务，现在的OA技术能够提供文字处理、表格制作、公文流转、会议安排等等服务。

教务系统

主要承担教务处日常新闻发布、学生没学期课程安排和选课等应用，考虑峰值同时选课学生在线人数。

数据库系统

数据库系统是整个系统中的核心业务系统，推荐使用两台物理服务器做RAC部署，保证业务的连续稳定以及性能的充足。

数据库主要存放师生注册信息，一卡通消费信息记录，日常报表学生成绩等校园核心信息，是整个系统最为关键的部分，推荐采用OracleRAC。

2.2.3大数据分析需求

当前中国正面临从粗放到可持续发展方式的转变挑战。

大数据技术能够将隐藏于海量数据中的信息和知识挖掘出来，为人类的社会经济活动提供依据，从而提高各个领域的运行效率，大大提高整个社会经济的集约化程度。

在我国，大数据将重点应用于以下三大领域：

商业智能

商务智能可有效提高企业运营活动的效率。

如在零售行业，由于同类产品的差异小，可替代性强的特点，零售企业销售收入的提高离不开出色的购物体验和客户服务。

零售企业需要根据销售有特色的本地化商品并增加流行款式和生命周期短的产品，零售企业需要运用最先进的计算机和各种通信技术对变化中的消费需求迅速做出反应。

通过对大数据的挖掘，零售企业在选择上架产品时，为确保提供式样新颖的商品，需要对消费者的消费行为以及趋势进行分析；在制定定价、广告等策略时，需进行节假日、天气等大数据分析；在稳定收入源时，需要对消费群体进行大数据分析，零售企业可以利用电话、Web、电子邮件等所有联络渠道的客户的数据进行分析，并结合客户的购物习惯，提供一致的个性化购物体验，以提高客户忠诚度。

同时，从微博等社交媒体中挖掘实时数据，再将它们同实际销售信息进行整合，能够为企业提供真正意义上的智能，了解市场发展趋势、理解客户的消费行为并为将来制定更加有针对性的策略。

政府决策

通过对大数据的挖掘，可有效提高政府决策的科学性和时效性。

如：

日本大地震发生后仅9分钟，美国国家海洋和大气管理局（NOAA）就发布了详细的海啸预警。

随即，NOAA通过对海洋传感器获得的实时数据进行计算机模拟，制定了详细的应急方案，并将制作的海啸影响模型发布在YouTube等网站。

公共服务

一方面，政府利用大数据技术把积累的海量历史数据进行挖掘利用，可以提供更为广深的公共服务，另一方面，政府可以通过对卫生、环保等领域的大数据实时分析，提高危机的预判能力，为实现更好、更科学的危机响应提供了技术基础。

如在交通系统，随着汽车工业的发展，车辆保有量的不断攀升，车与路，车与环境之间的矛盾日趋加剧，诸如交通堵塞、事故增多、能源浪费和环境污染等问题的恶化，需要通过对历史以及现在的车辆情况、路网情况的实时大数据分析，制定更为优化的系统方案，使车辆行驶在最佳路径上，缩小行车时间、节省燃料、减少环境污染，提高路网通行能力和服务质量。

大数据虽然极具价值，但由于类型复杂、规模巨大，不论传统的OLAP数据仓库技术还是新兴的分布式处理技术等单一方案都有特定的短板，不可能满足所有的需求，因此，要真正释放大数据的能量，推动大数据应用并非易事，主要面临着以下问题和挑战。

挑战一：

基础设施的持续扩展问题

IDC公司2012年发布的数据显示，数据总量每两年至少增长一倍，但是硬件基础设施由于摩尔定律失效很难进行无限制扩展，即使是MapReduce等分布式技术的扩展性比OLAP等技术有了重大的提高，但是仍存在扩展上限，如OracleRAC最大支持100个节点，Hadoop集群技术理论支持4000个节点，并且其设计初衷是建立在大量廉价、低端服务器上的，在充分横向扩展架构的同时也需要纵向扩展才能进一步提升整体性能。

与此同时，基础设施规模不断增大也会带来其他的问题，首先是系统的可用性，因为大规模分布系统只要其中一个节点出现故障，就会引起整个系统的恢复，所以分布式系统应该采取多副本、检查点等容错技术。

另外，随着系统节点规模的扩展，网络流量的增加是指数级的，网络瓶颈也会制约系统性能的提升，限制系统的可扩展性。

挑战二：

数据处理的个性化、一体化需求问题

大数据时代同时催生了多种数据类型结构，无论是结构化、半结构化还是非结构化的数据，从采集到挖掘都需要精细划分，形成准结构化数据，并在此基础上进行关联性分析，最后呈现挖掘后的结果。

在上述过程中，每一个环节对于数据、软件和硬件的要求是不一样的，用单一的软硬件无法满足所有类型应用。

更为重要的是，作为大数据应用的主体的行业用户并非都是IT方面的专家，不可能独立实现上述过程以及大数据相关技术方案的整合部署和应用的移植、二次开发，因此就需要一个涵盖数据采集、归类、挖掘、呈现、部署和移植的一体化解决方案。

总之，多类型、多维度数据处理环节的复杂性决定了无法依靠单一类型的设备完美处理，为不同的应用类型和数据处理阶段提供针对性的软硬件一体化方案也是大数据应用面临的挑战。

挑战三：

天价成本问题

目前数据存储越来越频繁，相对于存储的低廉价格，大规模数据处理成本仍然较高，特别采用传统的方法，比如构建数据仓库技术通常需花费几千万元，而能够处理数据规模不过是TB级的，平均每TB的成本超过十万元。

以此推算，若要处理PB级数据大概需100亿元，这个成本对于很多用户来说无法接受。

如何寻找低成本的方案帮助用户实现大数据的处理技术，也将为大数据的应用带来挑战。

研究大数据领域对社会和人类、还有学校都具有很大的意义，所以XXX高校建立大数据分析系统是很有必要性的。

2.2.4高性能需求

XXX高校作为人才培训和学术研究的重要机构，学科主要研究方向有：

“网络与通信技术”研究新型网络体系架构，转发与控制分离技术系列标准、关键设备、产业化应用；“信息安全与量子通信”研究量子信息、密码技术、网络和系统安全；“系统建模和先进控制”研究系统建模、智能检测、综合自动化、非线性控制、Petri网；“信息传输与无线网络”研究泛在网络、计算机视觉、融合网络；“信号检测与智能信息处理”研究信号检测、RFID、人工智能、模糊神经系统等。

随着研究的加深和项目的增多，现有的设备无法满足教学和研究的需求，有效提升了和增加设备迫在眉睫。

三、数据中心总体规划

云资源中心加大数据分析与高性能主要分为计算资源、内存资源、存储资源、网络资源，大数据分析系统，高性能作业调度系统，本项目在充分整合XXX高校数据中心资源的基础上，配置必要软硬件设备，为XXX高校信息系统提供统一的基础设施服务，在IaaS层构建较为完整