高清监控模式下的多媒体存储技术.docx

1、高清监控模式下的多媒体存储技术北京市首都公路发展集团有限公司张明月需求分析高清视频监控不仅对前端摄像机、视频编码、传输带来更大需求，同时对监控存储系统也提出更大的挑战：更大的存储容量需求；更高的传输带宽；更高的数据存储可靠性。监控存储的数据表现形式和传统的图像存储相同，具备无规则的非结构化特征，但是在组织方式上是结构化的，体现出较强的规则性。高清视频在经过编码处理后，一般码率在310Mb之间，由于压缩效率和压缩方式的不同，文件大小约为1.55GB/小时。例如，1路4M高清码流保存一个月的容量需求是：4Mb60秒60分24小时30天/（81024）1.25 TB。进一步来看，一个拥有500路高清

2、视频监控的系统，图像需要保存30天，总的尽容量为625TB，再考虑RAID、热备盘的消耗和码流变化，容量约为780TB，因此海量存储是高清监控的带来的挑战之一。高清码流需要占用更高的网络带宽，这是高清监控的挑战之二。在组建高清监控系统时，如何最大程度地利用现有带宽是我们需要考虑到问题。例如，若使用100M以太网，实际上同时只能承载5路左右的高清图像(考虑到以太网的碰撞侦听特性)。如果同一视频源有多个用户访问，占用的带宽会更大。因此，对于高清监控的系统设计，组播、转发等网络技术的融合显得尤为重要。高清视频监控图像属于主要视频数据类型，这类用户对高清视频存储安全的要求是实时性、冗余性和不间断性，需

3、要保证系统724小时不间断运营。那么，需要采用何种存储架构对非结构化、海量、高并发、高可靠的高清数据进行管理？现有的存储管理方式是否适用于高清监控模式呢？问题分析传统视频监控方案的中心是流媒体服务器，该方式常见于普通的监控系统架构中。图1 基于媒体服务器的监控系统数据流图如图1所示，前端的编码器或者网络摄像机（IPC）输出的单播流通过网络传输到分发（存储）服务器，由分发（存储）服务器实现单播转多播以及按需分发、按需存储。在全标清系统的情况下，该方案还能基本满足多用户操作的需求，但是应用于高清监控系统，则流媒体分发方式的弊端凸显。该架构下的数据管理方式是基于文件系统进行的，所有的录像数据在通过媒

4、体服务器时，都被转换成了标准的流媒体文件（几分钟到几十分钟的录像形成一个文件），然后再进行存储。该存储方式利用了传统文件系统自身的特性，系统开发比较简单，但监控存储效率低下。服务器规模随着监控点数的增加成等比例上升，尤其是高清IPC要得到较好的应用效果，输出码流一般为6M8M，是传统标清的34倍，则分发（存储）服务器数量会直线上升，同时还需要提高服务器的硬件配置，故服务器的性能成为了方案中的性能瓶颈。系统存在较多的局部故障点，当其中某台分发（存储）服务器发生故障时，将会影响其所管理的多路视频图像的存储和实时监看，不符合安防系统高可靠性的要求。而冗余服务器方案虽可解决该问题，但从成本角度考虑，实

5、际应用中很少被采用。大量的服务器及其设备机架不仅占据了设备空间，还不符合绿色环保的要求，同时增多了故障点，增加了系统的不可靠性。在高清监控模式下，若突发事件出现多个热点区域时，大规模突发的流量很容易导致整个服务器群的瘫痪。由此可见，传统的监控系统在面对高清监控时，面临着两个主要问题：一是普通文件系统不是专为监控存储设计，因此会影响到监控数据存储的效率；二是在大规模高清监控架构下，媒体服务器的性能支撑力有限，成为性能瓶颈。存储架构针对高清监控的数据特点，业界早在几年前就开始尝试一些新的数据管理方式，希望能够提高监控存储的数据管理效率，满足高清监控大规模应用的需求。在这些数据管理方式中，“块直存”

6、就是其中比较有特点的一种，已经成为业界发展的方向。其创新性主要体现在：采用了基于iSCSI协议的IPSAN直存技术，抛弃了传统的流媒体服务器，简化系统架构。采用了“时间索引+块数据”的专用数据结构，抛弃了传统的文件系统，提高了高清监控下的数据管理效率。面对高清监控模式下的海量数据，通过集中式数据管理，实现对资源的统一划分和调度，实现了数据的全局性管理。1.监控专用数据结构基于文件系统的非结构化数据管理方式已经不适用于高清监控系统，而结构化的多媒体数据管理机制可彻底避免文件系统对高清监控带来的不利影响。“块直存”的数据管理方式摒弃了传统的文件系统，采用底层的数据块作为基本的存储单元，同时采用一种

7、专用于监控存储的数据结构，通过数据块+专用数据结构两部分相结合来实现对高清监控存储的结构化管理。这种新的数据结构采用I帧组作为多媒体数据的最小组织单元，时间作为每个数据单元的索引，并且把索引和数据保存在一个完全独立的逻辑存储空间上，如图2所示。图2 基于索引+数据的数据结构在“块直存”的系统中，“块”存储可理解成自定义的一种文件系统，录像的索引和数据形成独立、完整的数据结构，这种数据结构完全由自己管理，不再由操作系统和文件系统管理，彻底避免了由于文件系统原因而导致的录像丢失问题。另外，通过“时间索引+块数据存储”的组合，还大幅提高了数据管理的效率，在录像检索上，可以基于时间索引进行，而不再以单

8、个文件为单位。在高清海量的录像数据中可以快速定位到任意时间的录像，检索速度大幅提高。在检索的颗粒度上，也不再受文件大小的限制，可以实现秒级甚至毫秒级别的连续检索。2.IP SAN的直存“块直存”的数据管理方式摒弃了流媒体服务器，在IP网络的基础上，采用前端设备（编码器、IPC）直写IP SAN存储的方式，实现了全局性的存储资源读写访问。通过在编码设备中集成iSCSI模块，使得编码设备可以基于iSCSI/TCP/IP协议端到端地将录像数据写入IP SAN存储设备中。具体如图3所示：图3 媒体服务器的存储模型和前段设备直写IP SAN存储摸型对比面对高清海量的存储数据，“块直存”的数据管理模式具有

9、以下技术优势：减少数据传输环节：录像数据基于TCP协议在编码设备和IPSAN存储之间传输，无需通过流媒体服务器，减少了数据传输环节，保证了录像的可靠性；简化系统架构：避免了流媒体服务器的瓶颈问题，不仅降低了系统的TCO，而且管理运维更方便。3.全局性的资源统一管理在前两者的基础上，通过全局性的资源统一划分和调度，实现数据的全局性管理。在大型高清监控系统里面，面对成千上万个摄像机和海量的存储空间，如何管理这些摄像头和存储设备之间的对应关系是个复杂难题。在“块直存”视频监控系统中，可以通过数据管理模块来实现存储资源的统一管理。在整个系统中，存储阵列和摄像头之间没有特定的绑定关系，摄像头无需知晓数据

10、存储的具体位置，完全是一种动态的资源分配，并且一旦摄像头和存储阵列建立起关系后，数据管理服务器（DM）就不再参与数据写入过程，数据由摄像头直接写入到存储阵列，不存在性能瓶颈。这种方式保证了录像数据在不同设备间的实时共享，任一路前端设备可以访问到任何一台IP SAN存储设备。而系统内的管理服务器统一管理所有的IP SAN设备，实现资源的统一划分和调度，控制数据的全局性管理。数据的可靠性基于“块直存”的数据管理架构是高清监控方案的最佳选择。那如何保证“块直存”的可靠性？1.前端缓存补录在监控系统实际应用环境中，经常会面临网络终端、存储设备断电等情况，导致前端的录像无法及时存储到中心存储资源，从而造

11、成录像丢失。前端缓存补录功能在网络或中心存储等异常时，前端编码器会启动缓存功能，将视频数据存在本地的存储设备上（如：U盘、移动硬盘等）。同时，后端链路或设备恢复正常后，会自动将补录到的录像上传到后端存储上，避免造成数据丢失。同时在统一的监控管理平台上，能对该时间段的录像进行检索、回放、删除等管理操作。2.双存储越来越多的用户意识到录像数据的重要性，并提出了“多”份录像数据的需求。在高清模式下，通用的DVR中心备份方案显得相形见绌：受限于DVR产品自身的回放性能；中心备份服务器的备份性能会存在明显的性能瓶颈；中心备份服务器的数目将着需备份摄像机数目的增加而线性增加。基于块存储的双存储技术不仅能同

12、时将数据写入到主用、备用存储资源上，并且能保证块直存方案的高性能、高扩展、高可靠等优势，无服务器瓶颈，轻松满足用户需求。3.存储N+M保护遇到在线存储掉电、网络异常、数据所在的扇区损坏或主用存储设备的阵列及磁盘损坏等各种异常情况下，在线存储无法支持业务，可在iSCSI块直存技术的基础上实现如下的存储N+M保护方案：“N+M保护”是预防存储故障的实现方式之一，“N”为在线存储，“M”为冗余存储，“N”和“M”在一个局域网里，但可以放置在不同的地域。通过“N+M保护“能将前端摄像机的数据自动存放到冗余存储设备上。当在线存储恢复正常后，又自动恢复到之前存储设备上。存储“N+M保护”从监控系统整体解决

13、方案的角度，有效解决不同级别及不同类型的存储异常情况下的存储可靠性问题。根据用户需求，灵活调整主用存储、冗余存储的设备数目，有效节省方案成本。数据管理面对高清监控对存储的海量需求，如何有效地节省空间，也是用户非常关切的问题。1.iSCSI块存储，减少文件碎片在录像存储资源方面， iSCSI块存储技术可以根据监控点录像的留存期，为每一监控点分配指定大小、空间连续的块存储资源。一方面保证了录像数据存储空间的连续性，同时块存储是在块设备层面上申请的存储空间，没有文件系统元数据区的空间开销、同时也不会存在文件碎片造成的空间浪费，避免了磁盘空洞，从根本上杜绝磁盘碎片的产生，可在最大程度上利用存储空间。2

14、.变码流存储对于支持同时发送高、低码流等不同格式实时流的监控点，可按照录像存储业务的优先级，支持变码流存储：对于周期计划类等优先级较低的录像存储业务，可采用低码流或者抽帧方式的存储，适当减少对存储空间的占用。而对于告警联动类等优先级较高的录像存储业务，可采用高码流、全帧等方式存储，全力保证录像的高质量、高清晰度。3.智能分析基于前端智能分析业务，对于监控画面中的重点区域或动态图像，采用低压缩比、高码流格式进行传输及存储；对于监控画面中的非重点区域或静态图像，采用高压缩比、低码流进行传输及存储。这样在保证关键录像数据的高质量传输、高质量存储的同时，可有效减少非关键数据占用的传输带宽、存储资源。4.抽帧备份支持录像存储的同时可对重要监控点的录像进行备份。在备份时，可配置指定监控点的抽帧备份，即只备份录像的I帧等关键帧数据，从而可以有效节约备份存储空间。结束语在高清监控时代，需要从传输带宽、容量和可靠性三个维度去选择合适的高清存储架构和系统的解决方案。高清监控道路任重而道远，尽管会碰到各种曲折，但代表了高清潮流的发展方向，其前景令人期待。