维基百科全书的定义:“大数据是飞速增长的,用现有数据库管理工具难以管理的数据集合”。这些数据包括:社交媒体、移动设备、科学计算和城市中部署的各类传感器等等,其中视频又是构成数据体量最大的一部分。据IMS Research 统计,根据IHS 2014 视频监控市场报告,未来五年全球监控摄像机将保持22% 的复合增长,前端产生的视频监控数据将更为庞大,在视频监控大联网、高清化推动下,视频监控业务步入数据洪水时代不可避免。
云存储是炙手可热的“大数据”中组成之一:存储单元模块。“大数据”中提及富媒体资源指的就是视频监控业务产生的大量数据,占比巨大的富媒体信息中的载体为存储设备和云存储解决方案。存储设备或云存储解决方案作为视频监控里中结构化和非结构化数据的载体,横跨基础架构、内容信息三个维度的信息化建设的基础。如果将“富”媒体中的视频信息,从底层的动态存储到以事件或物理为索引的信息分析,再到将海量的非结构化数据转化成信息和洞察力,做到真正的“为人所用”,才是大数据的真正魅力所在。
云监控以标准化、模块化、“即插即用”的一体化交付方式及无限的扩展性,为构建面向云的监控管理模式提供了全新的解决方案。作为业界唯一一家已经将监控云技术覆盖并广泛应用于政府、企业园区、智能交通、地铁、校园、高端智能建筑等各个领域的解决方案供应商,宇视第三代“CDS 云直存”有效解决同质化的低价鸡肋和差异化的需求陷阱,使得用户的TCO 总拥有成本、应用效率和可靠性最佳。
大数据业务特征分析
监控里的视频录像数据的读写模式从前端IPC 或编解码器的写入模式及整体方案的规划和维护都大大的不同于普通的数据存储模式。
主要有如下特征:
■恒定码流的高并发写入
■存储空间的提前规划
■录像视频的生命周期管理
目前绝大多数的系统都是采用文件系统的方式进行音视频数据的存储。文件系统有几个最大的问题:
■存储设备管理接口不统一
■存储资源的管理及分配制度
■以文件系统为核心的数据存储方式
■文件系统易损坏,写文件会导致文件系统元数据区的频繁持续更新,因此文件系统的元数据区很容易损坏,导致文件系统不可用。
■性能问题:文件系统经IO 过操作系统的封装,在数据长时期持续写入的情况下,开销要大于直接裸盘写入,降低性能。在磁盘上存在大量录像文件时,系统的录像检索效率会下降很多。另外,磁盘上的大量文件在多次删除重建后,数据在物理磁盘上的位置将变成不连续,导致数据写入的随机性加大,从而降低录像数据的写入性能。
云存储的技术特点
1 统一管理管理
■即插即用
云存储解决方案实现了无缝的将视频处理技术和存储设备无缝的融合,实现了对存储资源进行集中管理,动态的为摄像机分配存储资源。实现了云的最大特点:即插即用。
云存储的数据管理模块能自动识别新加入的设备信息,不仅实现了对存储资源的整合和集中管理,并在系统的运行过程中,通过巡检机制来实时监控各存储设备的存储资源状态,在发现故障时及时上报给中心的视频管理服务器进行处理。
■按需分配
试想将一个大型视频监控系统中部署的上万个摄像机的音视频数据都存储起来,将会占用非常大的存储空间,增加系统成本。
事实上,并非所有的视频数据都需要全天24 小时存储,可以根据实际情况有选择的不同的存储策略进行存储。监控云存储解决方案完美的解决了用户的顾虑,根据用户的现有环境和存储策略,实现每个前端的 按需分配。
■自动扩容
监控CDS 云存储解决方案实现了存储的自动扩容功能。
当IPSAN 设备注册到数据管理模块后,数据管理模块自动获取存储设备的各项信息,并把这些资源整合成一个大的存储资源池,制订存储策略时根据最优策略为摄像机动态分配资源,以充分利用各存储设备的存储资源。动态的为摄像机分配存储资源,提高资源利用率。当现有的存储空间不能满足新的存储计划时,在不影响前端业务的情况下,能通过策略实现存储空间的自动扩容。
■无限扩展
监控CDS 云存储平台可分成支持1024 级的管理模式,每级的存储模块支持1024 台存储设备,实现存储设备的无限扩展。
2 录像数据的安全访问
存放在存储设备中的视频数据可能涉及到隐私或敏感信息,所以对于访问存储的音视频数据的用户应进行权限认证,严禁未授权用户对数据的非法访问。
完善的数据保护机制及优化
而在视频监控应用中,通常一个阵列中磁盘都是7×24 小时不间断工作。音视频数据的特征是,部分的数据损坏只会损坏很短一段时间的音视频片段不可使用,并不会影响全局,这种应用模式下,传统的RAID 算法将会导致阵列变得非常的脆弱,容易由于少量的磁盘IO 错误导致整个阵列不可用。因此,在视频监控领域,UNIVIEW 根据这个行业的应用特征,从设备级和方案级两方面出发进行优化,大大提高了阵列的容错能力,提升了可用性。
设备层
监控存储设备自身提供多种保护机制,最大程度的保护视频录像数据。
■物理层
在物理层,通过最先进的磁盘技术保证数据的容错(磁盘扇区的remap 技术)。
■RAID 层
在传统的RAID 应用中,对于磁盘的错误是零容忍的,一旦发现磁盘IO 错误,就会将故障磁盘下线,导致阵列降级。 ■RAID 重建
在RAID 重建功能中,重新设计了新的重建算法,大大提升了RAID 重建速度。有效保证了在阵列降级情况下的数据恢复速度,提升了系统的可靠性。
■硬盘顺序上电
包括存储资源的可靠性(磁盘可靠性、RAID 可靠性、存储设备级保护),存储数据的可靠性,数据恢复,性能优化。
■设备层
支持在线式内嵌UPS 电池和数据保险箱功能,异常停电时可以继续供电以便把写缓存数据保存到数据保险箱中,完全保证用户数据的完整性。
■协议层
在存储协议层面,针对音视频媒体流传输的特点,有针对性的优化了iSCSI 协议参数,使得存储媒体流的传输更加的高效,提升可靠性。
方案级
从写入的视频录像数据采集后的传输到后端存储设备上录像数据的写入过程中宇视科技的监控CDS(Cloud Direct Storage) 云存储提供解决方案级的保护,完美的保护视频录像数据。
■前端缓存补录
在监控系统实际应用环境中,经常会面临网络终端、存储设备断电等情况,导致前端的录像无法及时存储到中心存储资源,从而造成录像丢失。
云存储解决方案,在网络或中心存储等异常时,前端设备会启动缓存功能,将视频数据存在本地的存储设备上( 如:U 盘、移动硬盘和SD 卡等)。同时,后端链路或设备恢复正常后,会自动将补录到的录像上传到后端存储上,避免造成数据丢失。同时在统一的监控管理平台上,能对该时间段的录像进行检索、回放、删除等管理操作。
■动态码流直存
宇视科技的CDS 云存储解决方案:对于宇视科技监控终端,可按照录像存储业务的优先级,支持变码流存储:对于周期计划类等优先级较低的录像存储业务,可采用低码流或者抽帧方式的存储,适当减少对存储空间的占用。而对于告警联动类等优先级较高的录像存储业务,可采用高码流、全帧等方式存储,全力保证录像的高质量、高清晰度。
同时,基于支持前端智能分析功能的监控终端,对于监控画面中的重点区域或动态图像,采用低压缩比、高码流格式进行传输及存储;对于监控画面中的非重点区域或静态图像,采用高压缩比、低码流进行传输及存储。这样在保证关键录像数据的高质量传输、高质量存储的同时,可有效减少非关键数据占用的传输带宽、存储资源。
■存储的“『N+M』,M 最小为零”保护
存储“『N+M』,M 最小为零”是预防存储故障的实现方式之一,“N”为在线存储阵列,“M”为冗余存储设备,“N”和“M”在一个局域网里,但可以放置在不同的地域。通过“N+M 保护“能将前端摄像机的数据自动存放到冗余存储阵列设备上。当在线存储恢复正常后,又自动的恢复到之前存储设备上。
存储“『N+M』,M 最小为零”从监控系统整体解决方案的角度,有效解决不同级别及不同类型的存储异常情况下的存储可靠性问题。根据用户需求,灵活调整主用、冗余存储设备的数目,比传统阵列支持双控保护技术的方案整体可靠性和灵活性更高,且全系统保护成本更低。
总结
宇视根据自己多年在存储和多媒体领域的技术积累和理解,基于多媒体应用的特点,有针对性的对现有存储技术进行了创造性的改进和优化。
宇视的CDS 云存储解决方案实现了对存储设备的统一管理、按需分配、即插即用,基于云存储理念的的宇视科技存储设备融入的云存储数据管理模块,更好给用户提供端到端的云存储服务。