-
公开(公告)号:CN104156474A
公开(公告)日:2014-11-19
申请号:CN201410422309.X
申请日:2014-08-25
Applicant: 曙光信息产业股份有限公司 , 无锡城市云计算中心有限公司
IPC: G06F17/30
CPC classification number: G06F17/30117 , G06F17/30194
Abstract: 本发明提供了一种分布式文件系统中文件的快速删除方法,当删除分布式文件系统中的文件时,先在元数据服务器上将对应的元数据信息加入到回收目录下,然后返回删除成功,元数据服务器定时扫描回收目录,将其中文件对应的数据对象重命名为新的对象名,该对象名为系统中下一批待分配给新文件的文件对象,这样在有新文件数据写入时,可以直接使用刚回收文件重命名的对象,在读取文件时,按元数据中记录的文件大小判断有效数据的大小,从而达到不真正删除磁盘对象,且不影响正常读写,而将文件快速删除的目的。本发明在绝大多数情况下不需要删除文件数据磁盘对象,真正做到了文件的快速删除,且不产生磁盘数据IO,从而不影响正常数据的读写IO。
-
公开(公告)号:CN104156474B
公开(公告)日:2017-06-23
申请号:CN201410422309.X
申请日:2014-08-25
Applicant: 曙光信息产业股份有限公司 , 无锡城市云计算中心有限公司
IPC: G06F17/30
Abstract: 本发明提供了一种分布式文件系统中文件的快速删除方法,当删除分布式文件系统中的文件时,先在元数据服务器上将对应的元数据信息加入到回收目录下,然后返回删除成功,元数据服务器定时扫描回收目录,将其中文件对应的数据对象重命名为新的对象名,该对象名为系统中下一批待分配给新文件的文件对象,这样在有新文件数据写入时,可以直接使用刚回收文件重命名的对象,在读取文件时,按元数据中记录的文件大小判断有效数据的大小,从而达到不真正删除磁盘对象,且不影响正常读写,而将文件快速删除的目的。本发明在绝大多数情况下不需要删除文件数据磁盘对象,真正做到了文件的快速删除,且不产生磁盘数据IO,从而不影响正常数据的读写IO。
-
公开(公告)号:CN103793475B
公开(公告)日:2017-06-06
申请号:CN201410005142.7
申请日:2014-01-06
Applicant: 无锡城市云计算中心有限公司
Abstract: 本发明公开了一种分布式文件系统数据迁移的方法,该方法包括:数据迁移时,迁移的源文件选择为经常修改或写入的文件,对于正在迁移的文件,将对其修改或新写入的数据直接写入到待迁移的目的节点上,在原有数据上建立新数据的索引,而未修改的数据再迁移。本发明相对于传统的冷数据迁移可以大大减少负载均衡的时间,并且节省大量的网络io和磁盘io,达到各节点数据负载的快速均衡。
-
公开(公告)号:CN103761268B
公开(公告)日:2017-12-01
申请号:CN201410004748.9
申请日:2014-01-06
Applicant: 无锡城市云计算中心有限公司
IPC: G06F17/30
Abstract: 本发明涉及一种分布式文件系统的数据存储布局的方法,该方法包括:将文件按长度区间分为不同的段,第一个段选用副本方式存储数据内容,之后的段选用节点间raid的方式存储数据内容,这样做之后对于小文件其均不超过第一段的大小,用副本方式即省空间又可以减少计算量,可以做到小文件的快速存储,而对于大文件,之后的段均为节点间raid的方式存储,可以节省大量的存储空间。本发明通过对文件不同长度的区间按不同方式存储数据,在未知文件大小的情况下,解决了不同大小文件对文件系统的不同要求,既满足了小文件的高性能,又满足了大文件的高空间利用率。
-
公开(公告)号:CN103761268A
公开(公告)日:2014-04-30
申请号:CN201410004748.9
申请日:2014-01-06
Applicant: 无锡城市云计算中心有限公司
IPC: G06F17/30
CPC classification number: G06F17/30091 , G06F17/30194
Abstract: 本发明涉及一种分布式文件系统的数据存储布局的方法,该方法包括:将文件按长度区间分为不同的段,第一个段选用副本方式存储数据内容,之后的段选用节点间raid的方式存储数据内容,这样做之后对于小文件其均不超过第一段的大小,用副本方式即省空间又可以减少计算量,可以做到小文件的快速存储,而对于大文件,之后的段均为节点间raid的方式存储,可以节省大量的存储空间。本发明通过对文件不同长度的区间按不同方式存储数据,在未知文件大小的情况下,解决了不同大小文件对文件系统的不同要求,既满足了小文件的高性能,又满足了大文件的高空间利用率。
-
公开(公告)号:CN103793475A
公开(公告)日:2014-05-14
申请号:CN201410005142.7
申请日:2014-01-06
Applicant: 无锡城市云计算中心有限公司
CPC classification number: G06F17/30221 , G06F17/30194
Abstract: 本发明公开了一种分布式文件系统数据迁移的方法,该方法包括:数据迁移时,迁移的源文件选择为经常修改或写入的文件,对于正在迁移的文件,将对其修改或新写入的数据直接写入到待迁移的目的节点上,在原有数据上建立新数据的索引,而未修改的数据再迁移。本发明相对于传统的冷数据迁移可以大大减少负载均衡的时间,并且节省大量的网络io和磁盘io,达到各节点数据负载的快速均衡。
-
公开(公告)号:CN116560924A
公开(公告)日:2023-08-08
申请号:CN202310468277.6
申请日:2023-04-27
Applicant: 曙光信息产业股份有限公司
Abstract: 本申请涉及一种性能测试方法、装置、计算机设备和可读存储介质。该方法包括:接收数据访问请求;数据访问请求中携带了待访问目标硬件的硬件信息;响应于数据访问请求生成性能测试指令,基于性能测试指令调用硬件信息对应的目标硬件生成初始回调结果;性能测试指令中携带了目标硬件的模拟硬件故障信息;基于性能测试指令向初始回调结果中注入模拟硬件故障信息,生成目标回调结果,根据目标回调结果进行性能测试。即采用本申请实施例的方法,即使SCSI子系统中没有定时器,也能通过向初始回调结果中注入模拟硬件故障信息的方式来实现硬件故障的注入,从而实现模拟硬件故障,实现对分布式数据存储系统的性能测试,提高性能测试的可实施性和可靠性。
-
公开(公告)号:CN105573888B
公开(公告)日:2018-09-04
申请号:CN201510929472.X
申请日:2015-12-14
Applicant: 曙光信息产业股份有限公司
IPC: G06F11/30
Abstract: 本申请实施例中提供了一种分布式文件系统中的磁盘性能检测方法和装置,该方法包括:检测磁盘的服务时间和输入输出IO时延;根据该磁盘的服务时间和输入输出IO时延确定第一状态的磁盘,该第一状态的磁盘是服务时间滑动平均值超过第一预设值,且IO时延滑动平均值超过第二预设值的磁盘;检测第一状态的磁盘空闲时的DIO时延;当该DIO时延超过第三预设值时,确定该磁盘为慢盘。采用本申请中的方案,能够在分布式文件系统中检测出性能不佳的慢盘,从而保证分布式文件系统的IO性能。
-
公开(公告)号:CN105653642A
公开(公告)日:2016-06-08
申请号:CN201511000408.X
申请日:2015-12-25
Applicant: 曙光信息产业股份有限公司
IPC: G06F17/30
CPC classification number: G06F16/1844 , G06F16/119
Abstract: 本发明公开了一种分布式文件系统的数据管理方法和装置,该方法包括:在对文件对象进行访问时,记录文件对象中每个被访问的数据段的访问次数;统计预定统计周期内每个被访问的数据段的访问次数,得到预定统计周期内每个被访问的数据段的访问统计次数;将满足预定访问频度的访问统计次数所对应的数据段迁移至快设备。本发明通过以数据段为单位进行访问次数统计以及数据的迁移,避免了迁移数据过多的问题从而充分利用快速设备空间,并提高了热点数据的访问速度和性能。
-
公开(公告)号:CN105549915A
公开(公告)日:2016-05-04
申请号:CN201510993850.0
申请日:2015-12-25
Applicant: 曙光信息产业(北京)有限公司 , 曙光信息产业股份有限公司
IPC: G06F3/06
CPC classification number: G06F3/0604 , G06F3/0643 , G06F3/0647
Abstract: 本发明提供了一种磁盘坏块隔离方法及系统,包括:数据服务器读取一个底层的对象文件时如果发现其对应的磁盘扇区损坏,则将该对象文件移动到一个特定的坏块目录中,然后由元数据服务器主导,借助分布式文件系统中的冗余数据,在该分布式文件系统的其他位置重建该对象文件。由于数据服务器将包含坏块的对象文件移动到坏块目录,而不是直接删除,于是该坏块不会被再次使用,从而避免了磁盘控制器将坏块重映射到磁盘保留区,避免了坏块对磁盘性能和整个分布式文件系统性能的影响。
-
-
-
-
-
-
-
-
-