存储系统结构分析与架构设计.docx
《存储系统结构分析与架构设计.docx》由会员分享，可在线阅读，更多相关《存储系统结构分析与架构设计.docx（28页珍藏版）》请在冰点文库上搜索。
存储系统结构分析与架构设计
第1章前言.3
第2章存储基本概念.5
第1节存储设备分类.6
1.1SCSI存储设备.7
1.2SAS存储设备.13
1.3FC光纤通道存储设备.15
1.4ISCSI存储设备.15
1.5存储设备的融合和演变.20
1.6磁带存储.20
1.7应用存储.20
第2节存储网络结构.20
2.1DAS存储系统网络结构.20
2.2SAN存储系统网络结构.22
2.3NAS存储系统网络结构.22
2.4网络结构的融合和演变.22
第3节FC网络和FC交换机.22
3.1FC网络.22
3.2FC交换机设计.22
第4节接口速率和存储带宽.22
第5节存储共享.22
5.1设备共享.22
5.2文件系统共享.22
5.3存储共享管理软件.22
第6节业务系统分类.22
第3章数据库系统存储设计.23
第1节存储应用特点.23
第2节设计准备.23
第3节主备数据库系统设计.23
第4节双机数据库系统设计.23
第5节数据库备份系统设计.23
第4章非线性网络系统存储设计.24
第1节非性线编辑制作系统存储应用特点.24
第2节带宽分析.26
第3节容量分析.26
第4节小型制作网存储设计.26
第5节中型制作网存储设计.26
第6节大型制作网存储设计.26
第7节高清制作网存储设计.26
第8节媒资系统存储设计.26
第5章视频监控系统存储设计.27
第1节视频监控系统存储应用特点.27
第2节带宽分析.27
第3节容量分析.27
第4节小型视频监控系统存储设计.27
第5节中型视频监控系统存储设计.27
第6节大型视频监控系统存储设计.27
第6章高性能计算系统存储设计.27
第7章网站存储系统设计.28
第8章视频点播系统存储设计.29
第9章容灾中心存储系统设计.30
第10章数字图书馆存储系统设计31
前言
存储技术越来越火了。
随着网络化、信息化和数据化的发展，数据量越来越大，需要用到的存储设备的容量和数量也越来越多。
几年前，一个存储系统的容量大约为几百GB到一两个TB，而现在的系统中存储设备容量一般都在10-20TB，大型数据中心往往会采用多台存储设备，不同存储设备负担不同的业务应用系统，存储容量经常超过100TB。
“911事件”以后，为了保护重要数据不会丢失，几乎所有的大型企事业单位、跨国公司、网站和一些重要数据中心不仅增加了数据备份系统，还在纷纷在同城或异地建立了大型数据容灾备份及业务容灾系统。
从2006年开始，随着中国各级政府构建“和谐社会”及“平安城市”战略的实施，各大城市都在建设全方位的大型视频监控网络系统。
大量视频监控系统的设计和建立不仅使得视频网络技术、图像传输技术、运动视频编解码技术等有了最大程度的发展，同时也极大地促进了大容量存储系统的发展和应用。
大量现有系统需要更多的存储设备或更大的容量来存储日益增加的数据，大量的系统数据需要备份和容灾设备，大量新建设的系统需要容量更大，性能更高的存储设备。
这些需求不仅促进了存储设备的生产、研发和新技术的更新换代，同时也增加了整个社会对存储技术工程师的人力资源需求。
存储市场的火爆，存储工程师的高工资和高待遇吸引了越来越多的IT技术人员，甚至非IT技术人员转行到存储行业。
不断学习存储技术成了很多存储人自修和充电的内容。
为了学到更多的技术，走上了当年学习网络技术一样的老路，购买大量高价书籍，上互联网络查找资料，翻阅众多厂商的产品技术白皮书，或缴纳高昂的学费去接受厂商的短期技术培训。
不仅耗费大量的时间，也花费了大量的金钱。
然而，与网络技术相比，存储行业发展的时间相对较短，已实施的案例不仅少而且系统结构相对简单。
书店中的书籍内容大多集中在纯理论方面，很少能涉及到具体应用系统环境下的存储系统设计。
厂商出于产品宣传、市场推广和最终销售等目的，其产品资料、白皮书一般都对性能和功能有一定程度的夸大和偏离，且内容基本上集中在自有产品的功能特点、参数配置、安装调试、后期维护和故障排除方面，并不具有普遍性。
而在网络上查找到资料大多内容雷同，很多资料还可能因为保密原因做了大量地删减，内容非常简单。
在这样的学习环境下，很多技术人员除了记住一堆名词概念和英文缩略语，即使能考到几个厂商所谓的认证之外，基本上并不具有实际地操作能力。
长时间学习但仍不具有存储系统设计能力和安装调试能力。
到了一个工作岗位，仍然需要很长时间才能进入工作状态。
这样的状态对于常说的存储厂商的售前或售后技术工程师来说还相对好一点，毕竟具体产品的性能特点、功能、技术参数、硬件配置和安装调试内容等内容相对较少，凡有一定基础的人员通过一定时间的培训后都可以很快成为一个售前或售后工程师。
但对于那些经常负责大型的、多应用类型的、结构复杂的应用系统整体设计的人员来讲，他们所面临的困难就非常的了。
本书内容主要集中在存储系统结构分析，不同行业的存储网络系统的访问特点分析，存储系统设计前分析，设备选型，及安装调试时RAID组、交换机ZONE设置等方面。
与常见技术资料相比，属于较高一级，适合于厂商和集成商中需要为客户提高整体解决方案的售前技术工程师或解决方案顾问等人员。
本书将尽量避免使用那些空泛抽象的概念和词语，通过通俗化和简单话的词语向大家介绍如何理解存储、如何去分析一个存储网络系统的结构、如何根据具体项目的需要去设计存储系统、以及如何进行存储设备选项。
词语的通俗化和简单化有助于大家更好地理解本书的内容。
本书内容适用于已具有一年以上存储系统实施或系统设计经验，对RAID，Fablechannel、NAS、SAN、ISCSI、FC-SAN等基础概念已有较深了解的读者。
本书中关于具体设备的安装调试内容较少，有兴趣的读者可以自行查阅资料。
第1章存储基本概念
第1节存储介质
大家都愿意学习存储技术，希望做更多与存储有关的工作，那么首先得明白存储是什么东西。
存储设备是指通过一定的存储介质，将文字、数字、图片、图像等具体数据，以及元数据、索引信息、地址信息等抽象数据进行长期保持，并可以通过RAID组校验，数据复制、备份容灾等多种方式来保证数据的安全，对外提供一定数据传输接口，方便数据交换和传递的各种设备。
存储设备的基础是存储介质。
我们目前一般所说的存储介质是指磁盘、磁带、光盘、闪存等用来存储数据的存储介质。
但这个存储介质的范围只是侠义的。
广义上的存储介质是指所有能够记录数据信息，并可以长时间保存数据的设备、设施或者物体，除了磁盘、磁带、光盘和闪存等之外，还包括纸质书籍、锦帛、竹简，甚至原始时代用来记录信息的绳结、石片和壁画。
这些都是广义上的存储介质，这些介质都可以保持数据不会轻易丢失。
只不过不同时期人们可以获得的存储介质不同罢了。
同时因存储介质不同，进行信息交换和信息传递的方式和方便性也不同。
壁画上的数据内容是不可变的，会随着时间的流逝而逐渐磨灭，且一般不可以用来传递和交换的。
石片、绳结、竹简、锦帛、纸质书籍等都有一定的保存期限，其传递和交换也只能通过手递手地方式。
而我们现在经常谈到的磁盘、磁带、光盘和闪存等只是侠义上的存储介质。
存储在这些存储介质上的数据理论上可以无限期地保存下去，除了传统的手递手交换外，还可以通过各种各样的网络来进行远程的快速传递和交换。
存储是数据在时间上的延续，传输是数据在空间上的位移。
与广义上或者传统上的存储介质相比，现代存储介质在数据存储和数据传输两个方面区有不可比拟的优势。
本书内容主要介绍采用磁盘介质的存储系统设计，磁带介质的存储设备会有少量涉及，基本上不涉及光盘存储设备。
第2节存储分类
大家对磁盘、磁带、光盘等存储介质有了初步了解之后即可以开始存储技术的学习。
然而初学存储技术的人可能会被SAN、NAS、DAS、FC、ISCSI、FC-SAN、IPSAN等这些大量的术语和英文缩略语搞得晕头转向，技术资料的确看了很多，但仍然无法清楚地知道这些概念之间根本的区别。
因为常见的资料中一般都不会对SAN、ISCSI、FC-SAN、IPSAN都多个概念进行分类，经常只是简单地放在一起来进行论述，论述的内容的大多集中优缺点对比方面，但结果却是相反的，经常是越比较越糊涂。
很多初学者经常会问出这样的问题：
SAN和NAS、ISCSI存储有什么区别？
SAN和NAS设备哪个更好？
“如何为一个应用系统选择存储设备？
实际上SAN、NAS、DAS、FC、ISCSI、FC-SAN、IP-SAN等并不是同一类别的概念。
SCSI、FC、NAS、ISCSI等概念指的是存储设备类型，DAS、NAS、SAN等指的是存储系统的网络结构。
存储设备类型是指通过采用SCSI、FC、TCP/IP，ISCSI等接口类型、数据传输协议、以及不同数据存储介质的存储设备。
常见的存储设备类型可为SCSI存储、NAS存储、FC存储、iSCSI存储和磁带存储。
存储设备类型这个概念的核心是设备，指的是由存储介质、驱动器、控制器、供电系统、冷却系统等组成的一个整体。
它独立与网络层设备和主机层设备，因此当提到存储设备类型的时候，不要涉及与存储设备连接的网络设备和主机。
区分一个存储设备的类型主要依靠存储设备对外提供的接口类型、数据传输协议、和存储介质。
比如存储设备的对外提供的接口是SCSI，按照SCSI协议传输数据的存储设备就是SCSI存储。
如果再区分存储介质，那么存储介质为SCSI磁盘的存储被称为SCSI-SCSI存储，存储介质为SATA磁盘的存储被称为SCSI-SATA存储。
存储名称分为两个部分，前面表示存储设备接口类型及接口部分的数据传输协议，后部分表示存储介质。
同样的道理，存储设备的对外提供的接口是FC光纤通道，按照FC光纤通道协议传输数据的存储设备就是FC存储。
存储介质为FC磁盘的存储被称为FC-FC存储。
存储介质为SATA磁盘的存储被称为FC-SATA存储。
注意：
采用光纤通道协议的存储设备应该称之为FC存储或光纤通道存储，也可以简称为光纤存储，不能称之为SAN存储，SAN指的是一种存储系统的网络结构。
采用ISCSI输出协议、对外提高ISCSI接口的存储设备自然应该成为ISCSI存储，只不过ISCSI一般都采用SATA磁盘作为存储介质，所以ISCSI存储在名称上不会再细分，都通称为ISCSI。
NAS是一种特殊的存储设备类型，虽然NAS对外提供IP接口，按照IP协议进行数据传输，但NAS最终提供给主机的是一个文件系统，SCSI存储、FC存储和ISCSI等提供给主机的是一个裸的、没有文件系统的逻辑卷，且NAS本身是一个服务器+存储的结构，因此严格上讲，NAS应该能算是一种存储系统结构，而不是一个存储类型。
不过很多时候我们都把NAS的服务器+存储结构看成一个整体，这个整体又通过标准的IP传输协议来进行访问和数据传输。
因此NAS一般都被认为是一个存储设备类型。
在本书中，NAS既是一个存储设备类型，又是一个存储系统网络结构。
判断一个存储是够是磁带存储的标准是看这个存储设备是否采用磁带作为存储介质。
磁带存储的外部接口类型一般有两种，一是SCSI接口，二是FC光纤通道接口。
磁带根据存储的数据是否已经数据化可分为非数据化磁带（即模拟磁带、数字磁带）和数据流磁带两种。
模拟磁带一般常用与视音频文件的图像和声音存储，不用与数据存储，不在本书的讨论范围之内。
关于VCD、DVD、SONY蓝光盘等光盘存储和各种闪存、松下P2卡等闪存存储方面的资料，请大家自行查阅相关资料。
存储设备类型指的是存储设备这一个单体的分类，存储系统的网络结构自然是指存储设备、主机、以及存储设备与主机之间的连接系统所形成的整体拓扑结构。
存储系统网络结构是指存储设备与服务器、工作站等需要进行数据读写操作的主机之间的连接方式，网络拓扑结构、数据读写方式、存储共享方式和数据共享方式。
存储系统网络结构不同，存储设备的工作方式、流程和性能就会不同。
大家常提到的、主流的存储系统网络架构有DAS、NAS、SAN三种网络架构。
其中SAN网络环境中，因采用存储设备类型的不同又可以分为FC-SAN（采用光纤通道存储产品）和IP-SAN（采用ISCSI存储设备）。
1.1SCSI存储设备
SCSI的英文全称为SmallComputerSystemInterface，中文名“小型计算机系统接口”。
它是一种外设接口协议，广泛应用于服务器和高档PC中。
SCSI技术从推出至今，经过了SCSI-1、SCSI-2、SCSI-3、Ultra2SCSI、Ultra3SCSI、Ultra160SCSI和Ultra320SCSI等多个版本，其接口带宽从最初的4MB/S一直发展到目前最快的320MB/S。
目前SCSI存储设备普遍采用Ultra160SCSI和Ultra320SCSI协议。
SCSI技术经过了近20年发展，技术非常成熟，产品的研发和生产成本低。
市场正在销售的SCSI存储品牌种类繁多，销售价格非常的便宜。
正因为如此，很多初学存储技术的人对SCSI存储往往不屑一顾，认识SCSI存储是低端存储，学了没用没前途，甚至有的人认识学习SCSI技术有些掉价。
其实不然，正因为SCSI存储技术成熟、结构简单、价格便宜、安装调试简单、使用及维护人员的技术水平要求低，才会得到普遍的应用。
即使在FC存储、NAS存储、ISCSI存储风行的今天，SCSI存储的应用数量也相当多，丝毫也不少于其它类型的存储设备。
与以前版本的SCSI硬盘相比，采用Ultra320SCSI接口协议的硬盘接口标准更高、读写速度更快、数据缓存更大、电机转速更高、寻道时间更短、CPU占用率更低，并且拥有自己独立的I/O处理器，所有这些特性都注定SCSI硬盘是硬盘中的速度之王，SCSI磁盘也一直是高端硬盘的代名词。
1.1.1SCSI存储结构
SCSI存储设备技术成熟、结构简单，因此SCSI设备比FC设备、NAS设备、SAN设备具有更高的稳定性和高效率。
下图是常见SCSI存储设备内部主要的功能模块结构图。
图1.1.1.1SCSI设备内部功能模块结构图
在上图中可以看出，除了电源系统和风扇冷却系统之外，SCSI存储设备内部只有磁盘插槽、背板、控制器和接口等4个部分。
图1.1.1.2SCSI存储前面板
如上图所示，SCSI存储磁盘插槽一般都在设备的前部，即可以竖向也可以横向插入磁盘柜。
SCSI磁盘直接插入磁盘柜内部背板上的标准SCSI接口，SATA磁盘则通过SATA-SCSI接口转换模块的转换后插入背板上的标准SCSI接口。
所谓背板实际上是一个印制好的电路板，如同常见的计算机主板一样，上面有多个标准化和非标准化的插槽，标准化插槽一般用来接入磁盘、电源和风扇等标准化零部件，非标准化插槽一般用来接入厂商自己研制生产的控制器。
不同的背板提供不同类型和数量的插槽。
背板上除了提高多个插槽之外，本身还是一个SCSI总线线路板，这一个SCSI总线线路板将磁盘和控制器连接在一起，实现数据在磁盘和控制器之间的传输。
SCSI存储上一般只有一个SCSI总线，无法提供磁盘和控制器之间的冗余连接。
存储系统设计指南-9-什么是ISCSI存储
iSCSI技术简介
iSCSI（iSCSI=internetSmallComputerSystemInterface）是由IIETF开发的网络存储标准，目的是为了用IP协议将存储设备连接在一起。
通过在IP网上传送SCSI命令和数据，ISCSI推动了数据在网际之间的传递，同时也促进了数据的远距离管理。
由于其出色的数据传输能力，ISCSI协议被认为是促进存储区域网（SAN）市场快速发展的关键因素之一。
因为IP网络的广泛应用，ISCSI能够在LAN、WAN甚至internet上进行数据传送，使得数据的存储不再受地域的现在。
ISCSI技术的核心是在TCP/IP网络上传输SCSI协议，是指用TCP/IP报文、和ISCSI报文封装SCSI报文，使得SCSI命令和数据可以在普通以太网络上进行传输，如下图：
iSCSI协议定义了在TCP/IP网络发送、接收block（数据块）级的存储数据的规则和方法。
发送端将SCSI命令和数据封装到TCP/IP包中再通过网络转发，接收端收到TCP/IP包之后，将其还原为SCSI命令和数据并执行，完成之后将返回的SCSI命令和数据再封装到TCP/IP包中再传送回发送端。
而整个过程在用户看来，使用远端的存储设备就象访问本地的SCSI设备一样简单。
早在2001年上半年，IBM就推出了IPStorage200i，是市场上公认的第一款基于iSCSI协议的产品，这款产品的出现，对于身处信息爆炸时代却无法承担光纤通道SAN环境高成本的中小型用户来说，具有巨大的吸引力；2001年10月，Cisco也推出了SN5420存储路由器，基于IP标准和SAN标准，可以提供与现有LAN、WAN、光纤和SAN设备之间的互操作，率先建立了IP网络与SAN之间的桥梁。
现在，有更多的厂商参与到iSCSI产品的开发中，如Intel已经推出了存储网卡IPStorageiSCSIPRO/1000T，将协议转化也就是封装、还原TCP/IP包的步骤转移到网卡上来执行，大大降低了服务器处理器的占用率。
同时，还有芯片、板卡制造商加入到iSCSI产品的开发中，如Adaptec、Qlogic等等。
iSCSI可以实现在IP网络上运行SCSI协议，使其能够在诸如高速千兆以太网上进行路由选择。
用户可使用标准的千兆级以太网传输协议，通过Cat5线缆和任意的交换机产品，将服务器与磁盘阵列连接在一起，并且能够提供接近FCSAN的性能。
iSCSI集SCSI、以太网和TCP/IP等技术于一身，支持iSCSI技术的服务器和存储设备能够直接连接到现有的IP交换机和路由器上，具有低廉、开放、大容量、传输速度高、安全等诸多优点，最适合需要在网络上存储和传输大量数据的应用环境，比如广电视频制作和媒资系统，视频监控系统，IPTV系统，数据备份系统，以及许多的对IOPS和带宽性能要求不是还很高的数据库存储系统、大容量文件存储系统。
存储系统设计指南-5-SCSI控制器
控制器是所有存储系统的核心设备，负责数据在主机与磁盘之间的传输、控制和校验。
无论是那种类型的存储设备，存储控制器都可以看成是具有一个数据IO功能和RAID功能的硬件集合体。
RAID一般有全软、半软半硬和全硬之分。
全软RAID就是指RAID功能是由操作系统来完成，没有第三方的控制、处理和I/O芯片。
有关RAID任务的处理都由CPU来完成，因此这是效率最低的一种RAID。
由于全软RAID是在操作系统下实现RAID，不能保护系统盘，系统分区不能参与实现RAID。
而且一般的RAID配置信息都存在系统信息中，而不是存在数据磁盘中，当系统崩溃需重新安装时，RAID的信息也会丢失，数据的安全性极低。
半软半硬RAID是一种把初级的RAID功能附加给SCSI或者SATA卡而产生的产品，它把软件RAID功能集成到了产品的固件上，从而提高了产品的功能和容错能力。
它可以支持RAID0和RAID1RAID（1+0）。
但因为缺乏自己的I/O处理芯片，所以这方面的工作仍要由CPU与驱动程序来完成。
而且，半软半硬是依靠主机本身CPU和内存运行，所采用的RAID控制、处理芯片的能力一般都比较弱，不能支持高的RAID等级。
SCSI存储设备册是一种全硬的RAID，全面具备了自己的RAID控制、处理和I/O处理芯片，甚至还有阵列缓冲（ArrayBuffer）。
SCSI存储设备的控制器自带有微处理与I/O处理芯片及内存，不依靠主机CPU和内存，可直接把相关信息提交给OS处理，从而使性能获得很大的提高。
对CPU的占用率以及整体性能是这三种类型中最有优势的，但设备成本也是三种类型中最高的。
一般情况下，SCSI存储设备只有一个控制器，控制器只提供2个SCSI主机通道接口。
2个主机通道接口可同时与2个服务器链接。
存储设备可提供LUN与主机端口之间的MAPPING，即主机通过2个不同的主机通道接口即可以访问到相同的LUN，也可以访问到不同的卷。
个别大容量设计的SCSI-SATA存储设备的控制器上除了2个主机通道接口之外，还会提供2个磁盘通道，用于链接磁盘扩展柜。
请注意，我们常说到SCSI接口的带宽是320MB/S，SATA-2接口的带宽是300MB/S。
但这些数值都只是接口协议的理论标准设计值，但并不表示磁盘本身就具有320MB/S或者300MB/S的实际带宽输出能力。
SCSI存储设备控制器的实际访问速度与磁盘型号、磁盘生产的质量控制、技术参数，以及传输电缆长度、抗干扰能力等因素关系密切。
实际上，市场常见的SCSI存储设备单控制器上的2个主机通道接口加起来的总实际输出能力只有250MB/S左右，而不是2*320MB/S。
单块SCSI磁盘的实际输出能力为60-70MB/S，而单块SATA磁盘的实际带宽只有25-30MB/S。
因此当采用SCSI存储设备时，不仅要充分考虑到存储设备的实际输出带快，还必须配置足够数量的磁盘。
存储系统设计指南-6-常见SCSI存储技术参数
1.1.3常见SCSI存储设备技术参数
为了更好地了解SCSI存储设备的结构以及配置技术参数，我们可以参考大多数厂商所提供的SCSI存储设备的技术参数，如下表：
主控单元
控制器
单SCSI控制器；2个DualUltra320SCSI主机通道
中央处理器：
PowerPC750FX-600MHzRISCCPU
外部连接类型：
SCSI320/160
内存：
256～1GB
数据重建：
自动数据重建
在线扩容：
支持
缓存断电保护：
72-168小时
管理
前面板LCD和按键：
简单的设定，显示状态报告
RS-232终端，人性化的界面，方便设置和显示状态报告，
环境报警，蜂鸣器报警，Email、FAX,、MSN、以太网、SNMP、SMS
RAID及硬盘规格
磁盘规格：
标准3.25”36GB/73GB/146GB/300GBSCSI磁盘
磁盘数量：
16盘位
RAID级别：
0,1,0+1,3,5,30，50，JBOD
RAID设置：
最大8组
硬件
热插拔电源：
2*500W热插拔电源
热插拔硬盘托架：
16*SCA-2热插拔硬盘
全局热备盘：
支持
输入电源：
100～240VAC46~63Hz
热插拔风扇：
涡轮风扇*2
操作系统
WindowsNT,2000,2003;SUNSolaris8/9;RedHatLinux8/9,Enterprise3;SuSELinux8/9;IBMAIX;HP-UNIX
技术参数表说明：
1、SCSI存储一般都采用单控制器，每个控制器上提供2个主机端口。
部分SCSI存储的控制器上还会提供2个磁盘端口，用于连接磁盘扩展柜。
2、SCSI控制器的核心处理芯片CPU一般有两种类型，即通用InterCPU和POWERPC。
高档次SCSI控制器还会设置一个ASICRAID引擎芯片。
两个芯片的功能分开，CPU专门负责数据的读写和传输控制，ASIC芯片专门负责数据校验和RAID校验。
在存储界，一直都有InterCPU和POWERPC两种核心处理芯片谁更高效的争论，就如同PC界INTER和AMD两者之争一样。
但存储设备性能不仅仅取决于控制器采用哪种芯片，还取决于控制器中核心处理芯片与缓存、总线、主机通道和磁盘通道等多个部分之间调用和访问机制。
因此，存储设备的性能取决于整体结构的设计是否合
升级会员 