-
公开(公告)号:CN112433983A
公开(公告)日:2021-03-02
申请号:CN201910789086.3
申请日:2019-08-26
Applicant: 无锡江南计算技术研究所
Abstract: 本发明公开了一种支持多作业并行IO性能隔离的文件系统管理方法,包括以下配置:文件资源池的定义:包括:服务数量列表、每个服务器上存储空间配额、静态信息以及每个服务器上该资源池可以使用最大存储性能;文件资源池的分配:并行文件系统提供文件资源池的分配接口,文件资源池请求中包含申请的资源池最大性能、资源池的IO使用方式、包含的数据服务器数量、分配的最大空间;文件资源池的释放:并行文件系统提供文件资源池的释放接口,用户或管理员通过该释放接口完成文件资源池内资源的释放;资源池内负载统计:文件资源池内的数据服务器的负载的评定是通过监控文件的生命周期实现。本发明文件系统管理方法缓解并行I/O过程中进程之间的性能不均衡,提高并行IO性能。
-
公开(公告)号:CN105512185A
公开(公告)日:2016-04-20
申请号:CN201510830806.8
申请日:2015-11-24
Applicant: 无锡江南计算技术研究所
IPC: G06F17/30
CPC classification number: G06F17/30194 , G06F17/30132
Abstract: 本发明提供了一种基于作业时序缓存共享的方法,包括:在JOB提交运行前,声明JOB运行过程中的需要的DFS Cache资源量;系统为各个JOB的作业分配相应的DFS Cache资源,并启动JOB作业运行;使得各个JOB作业运行多轮,其中JOB会产生多次对于DFS Cache的访问,使系统采集各个JOB作业访问DFS Cache的时间间隔;在JOB作业访问缓存资源的时间间隔趋于稳定的情况下,记录所述时间间隔,并且启动DFS Cache共享分配算法;在执行JOB作业时,由存储管理系统按照运行的所有JOB作业访问DFS Cache的情况对JOB作业的数据进行读写,如果存储管理系统确定存在JOB数据访问超过时间窗口,重新启动DFS Cache共享分配算法。
-
公开(公告)号:CN112558858B
公开(公告)日:2022-11-15
申请号:CN201910852999.5
申请日:2019-09-10
Applicant: 无锡江南计算技术研究所
IPC: G06F3/06
Abstract: 本发明公开一种基于动态IO感知的超大规模应用外存访问特征获取方法,包括以下步骤:在应用程序中,调用数据操作请求;将数据操作请求中所有的IO调用请求,通过虚拟文件系统模块提交到用户空间文件系统;用户空间文件系统将接收到的IO调用请求投递到用户空间,IO负载监控模块对IO调用请求进行解析,获得此IO调用请求的目标操作地址,并判断该目标操作地址是否位于应用程序所操作的目录下;客户端将IO调用请求传送到服务端;IO负载监控模块收集并记录在课题从开始到结束完整周期内的IO操作信息。本发明采用与目录相关的采集数据集,与应用的代码开发无关,不影响应用的运行,不影响操作系统内核的稳定运行,可缩短应用的运行时间,提高高性能计算机的运行效率。
-
公开(公告)号:CN112433840A
公开(公告)日:2021-03-02
申请号:CN201910789241.1
申请日:2019-08-26
Applicant: 无锡江南计算技术研究所
IPC: G06F9/50
Abstract: 本发明公开一种针对高性能计算的动态的存储资源划分方法,基于以下模块:用户模块,Project配置模块,为每个作业创建project标识符、配置project标识符的属性,并保存到数据库,还用于从数据库取出project配置信息,提供给作业管理系统;启停文件系统模块,向数据库调取对应的project的属性信息并打包成消息发送给作业管理系统,服务监控模块,监控I/O转发节点的I/O代理转发系统服务是否正常,并更新到数据库;数据库接口模块,作业管理系统,根据作业的project标识符,调用存储调度系统提供的文件系统启停模块,将来自文件系统启停模块的消息分发到所有计算节点。本发明使得计算资源与I/O代理资源之间比例不再固定,动态的为其分配存储资源,使存储资源的使用更加灵活高效。
-
公开(公告)号:CN109194721A
公开(公告)日:2019-01-11
申请号:CN201810930179.9
申请日:2018-08-15
Applicant: 无锡江南计算技术研究所
IPC: H04L29/08
Abstract: 本发明公开一种异步的RDMA通信内存动态管理方法及系统,该方法包括:预注册内存管理模块实时监控网络通信传输模块对于RDMA预注册内存的使用情况;预注册内存管理模块根据监控结果,动态的申请和释放RDMA预注册内存空间。本发明可根据需要动态的申请和释放RDMA预注册内存空间,克服了传统RDMA通信机制中需要预先静态注册地址空间的缺点,不仅有效降低了所消耗的内存,而且还提升了内存注册的性能,提高了网络通信的效率。
-
-
-
-