公开(公告)号：CN103955394B

公开(公告)日：2017-05-17

申请号：CN201410133294.5

申请日：2014-04-03

Applicant: 北京大学

Inventor： 汪小林 ,  王寒冰 ,  刘宇玺 ,  桑燕 ,  罗英伟

IPC: G06F9/455 ,  H04L29/08

Abstract: 本发明公开了一种基于推迟提交的GPU虚拟化优化方法。本方法为：1）客户机上的GPU虚拟化框架前端读入一待执行CUDA应用程序的二进制文件，查找并标记可推迟提交的循环；2）前端执行到可推迟提交的循环部分时，直到该循环结束之前，缓存所有的CUDA函数调用信息及其依赖关系，跳过该函数调用的执行，然后在该循环结束之后将该缓存信息一次发送到宿主机上的GPU虚拟化框架后端；3）后端根据该缓存信息重新构建函数调用并执行，然后将所有任务执行结果打包一次发送回前端；可推迟提交的循环指不去执行循环中的CUDA函数调用，循环依然可以正确执行。本发明减少了前后端通信的次数，从而对GPU虚拟化的性能进行优化。

公开(公告)号：CN103955394A

公开(公告)日：2014-07-30

申请号：CN201410133294.5

申请日：2014-04-03

Applicant: 北京大学

Inventor： 汪小林 ,  王寒冰 ,  刘宇玺 ,  桑燕 ,  罗英伟

IPC: G06F9/455 ,  H04L29/08

Abstract: 本发明公开了一种基于推迟提交的GPU虚拟化优化方法。本方法为：1）客户机上的GPU虚拟化框架前端读入一待执行CUDA应用程序的二进制文件，查找并标记可推迟提交的循环；2）前端执行到可推迟提交的循环部分时，直到该循环结束之前，缓存所有的CUDA函数调用信息及其依赖关系，跳过该函数调用的执行，然后在该循环结束之后将该缓存信息一次发送到宿主机上的GPU虚拟化框架后端；3）后端根据该缓存信息重新构建函数调用并执行，然后将所有任务执行结果打包一次发送回前端；可推迟提交的循环指不去执行循环中的CUDA函数调用，循环依然可以正确执行。本发明减少了前后端通信的次数，从而对GPU虚拟化的性能进行优化。