一种基于负载预测的Hadoop计算任务推测执行方法

    公开(公告)号:CN110221909B

    公开(公告)日:2023-01-17

    申请号:CN201910510535.6

    申请日:2019-06-13

    Applicant: 东北大学

    Abstract: 本发明提出一种基于负载预测的Hadoop计算任务推测执行方法,包括:资源管理器对备份任务数自适应调整,得到最大备份任务数;预测执行任务完成时间;将最大备份任务数与APPmaster设置的备份任务数比较,取最小值作为备份任务数阈值;判断备份任务数是否小于等于备份任务数阈值;判断任务数是否小于总任务数;预测备份任务完成时间;判断备份任务完成时间和执行任务完成时间大小,确定是否开启备份;本发明保证了当集群计算资源紧张的情况下,备份任务的开启不会对其他作业产生影响;执行任务的完成时间预测算法,有效避免了迟滞任务的误判导致计算资源浪费;备份任务完成时间预测算法,节约计算节点的计算资源,减少作业的完成时间,提高了集群的整体性能。

    一种基于AdaBoost-Elman的虚拟机软件老化预测方法

    公开(公告)号:CN110083518B

    公开(公告)日:2021-11-16

    申请号:CN201910354685.2

    申请日:2019-04-29

    Applicant: 东北大学

    Abstract: 本发明提供一种基于AdaBoost‑Elman的虚拟机软件老化预测方法,涉及云计算技术领域。该方法首先设定评估虚拟机软件老化程度的等级,并训练虚拟机的软件老化指标预测模型和未老化虚拟机参照预测模型;然后将业务并发量预测值和性能数据输入到离线过程训练的虚拟机的软件老化指标预测模型和未老化虚拟机参照预测模型中,输出虚拟机的软件老化指标预测结果和未老化虚拟机的参照预测结果;最后根据虚拟机的软件老化指标预测结果和未老化虚拟机的参照预测结果来评估虚拟机的软件老化趋势。本发明方法能够预测出当前工作虚拟机的软件老化指标,并与未老化的虚拟机进行对比,从而得到下一段时间虚拟机的软件老化程度,提前采取防范措施。

    面向季节型非平稳并发量的平均响应时间评估方法

    公开(公告)号:CN110413657A

    公开(公告)日:2019-11-05

    申请号:CN201910624505.8

    申请日:2019-07-11

    Applicant: 东北大学

    Abstract: 本发明提供一种面向季节型非平稳并发量的平均响应时间评估方法,涉及云计算技术领域。该方法首先基于自相关系数法判定云服务系统中的请求并发量中的季节型非平稳并发量;然后建立基于RNN-LSTM神经网络的季节型非平稳并发量预测模型,并进行季节型非平稳并发量预测;建立基于RBF的云服务系统平均响应时间预测模型,将预测的用户季节型非平稳并发量、CPU利用率、内存利用率这些影响云服务平均响应时间的资源状态信息预处理完之后作为输入,输出为云服务系统的平均响应时间大小。本发明方法克服了传统的负载均衡策略的不足,提高了季节型非平稳并发量的预测精度,能及时对服务性能作出评估响应,使云计算系统能更好的为用户提供服务。

    基于特征选择的季节型非平稳并发量能耗分析方法

    公开(公告)号:CN110348122A

    公开(公告)日:2019-10-18

    申请号:CN201910624856.9

    申请日:2019-07-11

    Applicant: 东北大学

    Abstract: 本发明提供一种基于特征选择的季节型非平稳并发量能耗分析方法,涉及云计算技术领域。该方法针对Web应用特性建立能耗模型。首先,基于负载检测工具提取出相关多维特征,并使用工具测出对应能耗数据;然后,对提取的数据进行预处理,提高数据质量与建模效率;然后,采用效率高的过滤型特征选择算法与性能好的装箱式特征选择算法进行相关特征的选择;最后,对筛选完的多维特征以及能耗数据进行回归分析,建立能耗模型。本发明方法同时考虑多种对云服务中心整体能耗有贡献的资源,提取多种数据特征,并对提取的数据进行预处理,提高了数据质量与建模效率,也使能耗模型更加精确。

    基于时空采样的实例级别特征聚合方法

    公开(公告)号:CN109993772A

    公开(公告)日:2019-07-09

    申请号:CN201910230234.8

    申请日:2019-03-26

    Applicant: 东北大学

    Abstract: 本发明提供一种基于时空采样的实例级别特征聚合方法,涉及计算机视觉技术领域。基于时空采样的实例级别特征聚合方法,首先基于光流进行实例运动位移预测,得到相邻帧的候选框位置;并基于运动位移进行实例级别的特征采样,得到候选框在当前帧及其前后相邻两帧的采样特征;然后基于光流质量和外观质量进行实例级权重计算,提取候选框k对应的位置敏感的实例级权重;最后将当前帧i与其相邻帧i‑t和i+t的实例级别特征通过位置敏感的实例级权重进行聚合,得到聚合后的实例级别的特征。本发明提供的基于时空采样的实例级别特征聚合方法,能有效的利用相邻帧之间的运动信息,进而提升运动模糊、变形等复杂场景下的视频目标检测的精度。

    一种支持可靠性保障的冷热操模式虚拟机数量评估方法

    公开(公告)号:CN110188002B

    公开(公告)日:2022-08-30

    申请号:CN201910466716.3

    申请日:2019-05-31

    Applicant: 东北大学

    Abstract: 本发明提出一种支持可靠性保障的冷热操模式虚拟机数量评估方法,包括:初始化参数;虚拟机的失效率排序;当前系统的可靠性与可靠性上限阈值比较,进行模式转换;前系统的可靠性与可靠性下限阈值比较,进行模式转换;单个操作模式虚拟机失效率与失效限定条件比较,进行模式转换;调用MDD算法重新评估系统的可靠性R1,系统可靠性R1与可靠性下限阈值比较,进行模式转换。为了使虚拟机冷热模式之间的数量分配达到平衡,本发明在操作模式虚拟机数量变化时,在满足可靠性要求R的基础上,调整冷热备份模式数量使系统满足可靠性要求,可靠性的高低通过平均响应时间和平均请求失败率来反映,实验证明本发明可以使得系统可靠性提高。

    一种基于模式转移的虚拟机混合备用动态可靠性评估方法

    公开(公告)号:CN110187990B

    公开(公告)日:2021-11-16

    申请号:CN201910466719.7

    申请日:2019-05-31

    Applicant: 东北大学

    Abstract: 本发明提出一种基于模式转移的虚拟机混合备用动态可靠性评估方法,包括:采集资源和性能数据,并进行特性选择及标准化处理;对标准化后数据,预测基于HSMM的虚拟机失效概率;基于多值决策图的冷热备份云系统进行可靠性评估;为了达到准确的对系统的可靠性进行定量评估,本发明简化MDD的终端值,将从根节点到1的所有路径的发生概率的总和作为系统的可靠性。并将虚拟机分成三种不同模式即操作模式、冷备份模式和热备份模式,采用模式转移,使备用虚拟机在需要时替换失效的工作虚拟机来维持系统的运行,采用多值决策图进行可靠性评估。通过三组对比试验,验证得到本发明的平均响应时间和失效率低,可靠性高,从侧面验证本发明方法的正确性。

    一种支持能耗优化的虚拟机模式转移方法

    公开(公告)号:CN110196756B

    公开(公告)日:2020-07-10

    申请号:CN201910466889.5

    申请日:2019-05-31

    Applicant: 东北大学

    Abstract: 本发明提出一种支持能耗优化的虚拟机模式转移方法,包括:初始化参数;判断热模式调整的数量m是否大于0,进行虚拟机的模式转移;部署当前虚拟机系统;对每台服务器资源剩余量,从大到小进行排序;sum1与需要休眠的热模式虚拟机的数量相比较,进行模式转移,更新各模式集合;部署当前虚拟机系统;对每台服务器资源剩余量,从大到小再次进行排序;sum2与需要唤醒的冷模式虚拟机的数量相比较,进行模式转移,更新各模式集合;选择整个服务器处于睡眠状态中的冷模式虚拟机,还是运行的服务器中冷模式下虚拟机问题,对系统的能耗影响很大,本发明在既支持性能保障又满足虚拟机的可靠性的基础上,探讨虚拟机模式转移过程中的节能问题,达到了很好的效果。

    一种基于负载预测的Hadoop计算任务推测执行方法

    公开(公告)号:CN110221909A

    公开(公告)日:2019-09-10

    申请号:CN201910510535.6

    申请日:2019-06-13

    Applicant: 东北大学

    Abstract: 本发明提出一种基于负载预测的Hadoop计算任务推测执行方法,包括:资源管理器对备份任务数自适应调整,得到最大备份任务数;预测执行任务完成时间;将最大备份任务数与APPmaster设置的备份任务数比较,取最小值作为备份任务数阈值;判断备份任务数是否小于等于备份任务数阈值;判断任务数是否小于总任务数;预测备份任务完成时间;判断备份任务完成时间和执行任务完成时间大小,确定是否开启备份;本发明保证了当集群计算资源紧张的情况下,备份任务的开启不会对其他作业产生影响;执行任务的完成时间预测算法,有效避免了迟滞任务的误判导致计算资源浪费;备份任务完成时间预测算法,节约计算节点的计算资源,减少作业的完成时间,提高了集群的整体性能。

Patent Agency Ranking