分布式存储的系统和方法

    公开(公告)号:CN104885076B

    公开(公告)日:2018-06-05

    申请号:CN201380031080.0

    申请日:2013-05-09

    Abstract: 用于使用连接至网络的多个计算设备的分布式存储的技术可包括将电子文件存储在计算设备之一的本地存储层内。所存储的电子文件可在网络上以诸部分的形式被非对称地传送至另一计算设备以跨分布式存储层中的其它计算设备存储该文件。电子文件可在网络上不同步地发送至云存储层,以使电子文件被镜像在云存储层中。每个计算设备的本地存储层对于分布式存储层中存储的每个电子文件可保存元数据,所述元数据具有指向存储在本地存储层和分布式存储层内的电子文件的部分的位置的指针。被存储在分布式存储层中的电子文件可如同被存储在单个逻辑驱动器中那样被显示。

    支持异构存储的高性能层次化存储系统

    公开(公告)号:CN107943867A

    公开(公告)日:2018-04-20

    申请号:CN201711106687.7

    申请日:2017-11-10

    CPC classification number: G06F17/30221 G06F17/30194

    Abstract: 本发明提供了一种支持异构存储的高性能层次化存储系统,包括:文件系统模块,提供不同存储介质上的数据文件的统一访问;数据块存储模块,通过数据切片方式将完整数据分散存储到各个不同的节点;元数据管理模块,元数据管理模块结合集中与分散管理的优势,采用多副本分布式冗余存储的方法;存储调度模块,一方面它实现数据副本在各个节点间的调度,另一方面它实现数据块在内存、SSD以及HDD三种不同存储介质之间的调度;可视化模块,主要提供整个存储系统的使用情况,实时监测的展示,以及动态调整的可视化操作。本发明有效解决海量大数据访问低效问题,提升平台的数据存储和访问效率。

    一种可靠的分布式日志收集方法和系统

    公开(公告)号:CN107943647A

    公开(公告)日:2018-04-20

    申请号:CN201711162365.4

    申请日:2017-11-21

    Inventor: 肖遥

    Abstract: 本申请提供了一种可靠的分布式日志收集方法和系统,该方法包括:将应传输的日志切分为多个日志块;将应传输的日志块与flume监控目录建立软链接;传输与flume监控目录建立了软链接的日志块;将已传输的日志块存入HDFS集群;将应传输的日志块在传输前的行数与从HDFS读取的相应已传输日志块的行数进行比较,以确定相应已传输的日志块是否为正常日志块;以及将所确定出的正常日志块存入数据仓库。本申请提供的日志收集方法能够直接对传输结果进行自动检测,在发现传输结果不合格时,自动执行相关的重传等操作,使得收集的日志更加稳定可靠,并极大地降低了人工运维成本。

    一种分布式文件系统目录级配额的优化方法

    公开(公告)号:CN107908751A

    公开(公告)日:2018-04-13

    申请号:CN201711148455.8

    申请日:2017-11-17

    Inventor: 黄剑

    CPC classification number: G06F17/30091 G06F17/30132 G06F17/30194

    Abstract: 一种分布式文件系统目录级配额的优化方法,涉及文件系统。创建两个配额更新操作字典,其中一个是当前活跃字典,另一个是非活跃字典,字典的键是文件的inode号,值是对这个文件的更新量;当一个文件被修改时,在当前活跃字典中查找该文件,若找到,则把这次的修改带来的变化量加到更新量上;否则在字典中增加该文件并记录更新量;当前活跃字典的更新操作数量达到预订的阀值,或者时间超过给定的超时值时,把当前活跃字典提交给存储介质,并切换活跃字典和非活跃字典;在系统接到提交后,把字典中的更新操作一次性写入存储介质。

    一种集群文件同步的方法、系统、设备和存储介质

    公开(公告)号:CN107908708A

    公开(公告)日:2018-04-13

    申请号:CN201711096918.0

    申请日:2017-11-09

    CPC classification number: G06F17/30174 G06F17/30194

    Abstract: 本发明实施例公开了一种集群文件同步的方法、系统、设备和存储介质。该方法包括:所述管理平台服务器将所述配置文件上传到所述管理平台服务器中搭建的zookeeper上;所述集群中的其他服务器上搭建监听程序对所述zookeeper上的配置文件进行监听;当所述管理平台服务器上的所述配置文件修改时,所述zookeeper上的配置文件同步更新,并且所述zookeeper向其他服务器上的监听程序发送更新消息;所述集群中的其他服务器上的监听程序根据所述更新消息同步更新对应的文件。本发明实施例通过搭建zookeeper和监听程序,以实现集群上的各服务器能够实时更新同步或下载最新的配置文件。

    目录租赁
    9.
    发明授权

    公开(公告)号:CN104268242B

    公开(公告)日:2018-04-10

    申请号:CN201410513205.X

    申请日:2011-09-16

    Abstract: 本发明涉及目录租赁。描述了用于允许访问分布式文件系统的客户机本地高速缓存目录元数据的实施例。客户机可请求读租约,这允许该客户机本地高速缓存目录元数据并使用该高速缓存服务于从最初请求目录元数据的同一应用程序接收到的请求。此外,客户机也可请求句柄租约,这允许客户机延迟目录句柄的关闭,并允许句柄被重用以服务于来自同一应用程序或不同应用程序的后续目录元数据请求。客户机还可请求写租约,这允许该客户机上的应用程序诸如通过创建或删除目录中的新文件或改变其属性来修改目录元数据,并高速缓存这些改变。

    一种数据处理的方法及装置

    公开(公告)号:CN107862386A

    公开(公告)日:2018-03-30

    申请号:CN201711070292.6

    申请日:2017-11-03

    Inventor: 曹芳

    CPC classification number: G06N99/005 G06F17/30194 G06F2216/03

    Abstract: 本发明公开了一种数据处理的方法,应用于Mahout机器学习算法,该方法包括:读取样本集,将所述样本集中的数据分块,并对参数进行初始化;将各分块数据及所述参数传输至各集群节点的FPGA加速卡;调用硬件应用程序,利用各所述FPGA加速卡对各所述分块数据进行迭代计算并返回计算结果;判断算法是否收敛;若收敛则输出所述计算结果。利用FPGA加速卡对Mahout机器学习算法进行加速处理,有效提升了Mahout机器学习算法的计算性能。本发明还公开了一种数据处理的装置,同样具有上述技术效果。

Patent Agency Ranking