首页 > 产品推荐 > 正文
大华云存储系统Extreme Stor
浙江大华    2016/4/25 17:25:00    关键字:大华,云存储      浏览量:
  大华云存储系统软件(EFS)是一款集先进的分布式技术、高可靠的容错技术、智能化的资源调度管理于一体的数据存储系统平台软件,面向海量的非结构化数据,具备高可靠、高性能、大容量、弹性扩展、自动化管理等特点,轻松满足海量的数据存储和弹性变化的业务需求。采用先进的纠删码算法,存储的空间利用率可达80%以上,数据可靠性达到10个9。最小系统即可提供4GB/s读写能力。存储容量可弹性扩展至EB级海量空间。
  快速文件索引技术
  大华云存储系统可以支持上亿级的文件,同时还需要支持上千个用户同时访问。这么大规模的元数据和并发访问量,采用传统的内存加磁盘多级存储,以及多级索引方式,寻址的开销将非常大,直接影响到系统的可用性。
  为了提高系统的响应速度,云存储采用粗粒度的管理方式,以一定大小的块进行索引,大幅减小元数据的数量。基于这种情况,系统采用全内存态的元数据访问模式,可以将文件寻址时间降到毫秒级别。为了保证元数据的可靠性,需要对元数据的访问做日志记录,并定期将元数据持久化到硬盘。元数据服务采用的硬盘都是SSD硬盘,加速持久化和主备元数据服务器同步过程。

  负载自动均衡技术
  采用中心服务器模式来管理整个云存储文件系统,所有元数据均保存在元数据服务器上,文件则被按块划分存储在不同的数据节点上。
  元数据维护了统一的命名空间,同时掌握整个系统内数据节点的使用情况,当客户端向元数据服务器发送数据读写的请求时,元数据服务器根据数据节点的磁盘使用情况、网络负担等情况,选择负担最轻的节点服务器对外提供服务,自动调节集群的负载状态。数据节点内同时有提供磁盘级的负载均衡,根据磁盘的IO负载,空间容量等情况,自动选择负载最轻的磁盘存储新的数据文件。
  当有一个数据节点因为机器故障或者其他原因造成离线时,元数据服务器会将此机器自动屏蔽掉,不再将此数据节点提供给客户端使用,同时存储在此数据节点上的数据也会自动恢复到其他可用的节点服务器上,自动屏蔽数据单节点故障对系统的影响。
  另外对故障的数据节点上的数据快速恢复,只需将数据节点上的硬盘拔出,插入到其他数据节点,这样即减少集群对数据恢复的压力,又不对客户端读写产生影响。
  高速并发访问技术
  客户端在访问云存储时,首先访问元数据服务器,获取将要与之进行交互的数据节点信息,然后直接访问这些数据节点完成数据存取。
  客户端与元数据服务器之间只有控制流,而无数据流,这样就极大地降低了元数据服务器的负载,使之不成为系统性能的一个瓶颈。客户端与数据节点之间直接传输数据流,同时由于文件被分成多个节点进行分布式存储,客户端可以同时访问多个节点服务器,从而使得整个系统的I/O高度并行,系统整体性能得到提高。
  通常情况下,系统的整体吞吐率与节点服务器的数量呈正比,实现Scale-Out横向扩展的架构。
  高可靠性保证技术
  对于元数据,通过操作日志来提供容错功能。主服务器本地SSD盘组建高可靠RAID1,提供高可靠容错能力。当元数据服务器发生故障时,在磁盘数据保存完好的情况下,可以迅速恢复以上元数据。且操作日志在主备元数据服务器之间实时同步,实现更高程度的可靠性。
  对于节点服务器,采用ErasureCode冗余方式实现容错,数据冗余分布存储在不同的数据节点上。任一数据节点的损坏,不会导致任何数据丢失,不会影响任何的数据访问和写入过程。之后,通过灵活数据恢复机制,进行数据重建过程。集群规模越大,恢复速度越快。
  高可用技术
  系统中的所有服务节点均是通过网络连接在一起,由于采用了高可靠的容错机制,系统增减节点不必停止服务,可在线增减存储节点。
  元数据服务器采用主备双机热备技术,主机故障,备机自动接替其工作,对外服务不停止;存储节点采用Erasurecode冗余备份机制,如采用4+1节点间冗余容错,任意损失一个节点,数据不丢失,服务不停止,客户端无感知。