基于服务器无感知计算的大模型部署方法、装置和产品

    公开(公告)号:CN117271057A

    公开(公告)日:2023-12-22

    申请号:CN202311249504.2

    申请日:2023-09-26

    Applicant: 清华大学

    Inventor: 李洋 李振华

    Abstract: 本申请提供了一种基于服务器无感知计算的大模型部署方法、装置和产品,涉及深度学习技术领域,包括:获取目标大模型的部署请求;利用贝叶斯优化算法,从多个云虚拟环境方案中进行采样,得到目标云虚拟环境方案;对目标大模型的计算图进行优化,得到优化后计算图;利用深度强化学习模型,生成最优模型并行化方案;按照目标云虚拟环境方案和最优模型并行化方案,部署目标大模型,利用目标大模型执行推理服务,得到推理性能结果;根据推理性能结果,调整贝叶斯优化算法的参数;进行多次迭代;按照最后一次迭代过程中,生成的目标云虚拟环境方案和最优模型并行化方案,部署目标大模型,采用服务器无感知计算方法,利用目标大模型执行推理服务。

    一种视频冗余片段检测方法及系统

    公开(公告)号:CN116489449A

    公开(公告)日:2023-07-25

    申请号:CN202310353228.8

    申请日:2023-04-04

    Applicant: 清华大学

    Abstract: 本发明提供一种视频冗余片段检测方法及系统。该方法包括:从目标视频的音频片段中提取音频特征;基于所述音频特征将所述音频片段按照时间顺序约束条件进行聚类,获得聚类结果;基于所述聚类结果将所述目标视频划分为对应的多个视频场景,确定所述视频场景的场景切换点;获取所述场景切换点对应的目标视频帧,基于所述目标视频帧的感知哈希和参考视频的感知哈希进行比对,确定所述目标视频中的冗余片段;其中,所述目标视频和所述参考视频之间存在关联关系。本发明提供的视频冗余片段检测方法,能够实现快速而准确的冗余片段检测,有效提高视频冗余片段检测效率和精度,从而提升了用户的使用体验。

    一种Web应用系统存算一体化适配优化方法及装置

    公开(公告)号:CN115408004A

    公开(公告)日:2022-11-29

    申请号:CN202210912083.6

    申请日:2022-07-29

    Applicant: 清华大学

    Abstract: 本发明提供一种Web应用系统存算一体化适配优化方法及装置。该方法包括:确定Web应用系统中待优化的代码模块,对代码模块进行相应的改写及编译操作,获得代码模块对应的WebAssembly字节码,并封装为WebAssembly模块,然后集成到Web应用系统中;基于同步异步代码解耦机制和对应WebAssembly虚拟机的虚拟指令集架构对集成后的Web应用系统进行计算适配优化;利用基于拓扑排序的就地内存填充分配机制对集成后的Web应用系统进行内存适配优化,获得适配优化后的Web应用系统。本发明提供的方法,能够有效提升应用系统存算适配优化效果,从而提高Web应用系统存算能力及Web服务的性能。

    虚拟机网络拓扑的可视化编辑方法及系统

    公开(公告)号:CN107135095B

    公开(公告)日:2020-06-12

    申请号:CN201710229572.0

    申请日:2017-04-10

    Applicant: 清华大学

    Abstract: 本申请提出虚拟机网络拓扑的可视化编辑方法及装置,本发明通过在虚拟机所在宿主机上和一台任意主机上分别设置代理,通过两个代理之间彼此交互实现对虚拟机网络拓扑可视化查看和编辑的功能。有助于用户直观观察与理解虚拟机网络等配置信息,并对虚拟机网络进行配置操作,提高配置虚拟机网络和操作虚拟机的效率,大幅提升使用体验。

    基于Web的网速测量方法及装置

    公开(公告)号:CN110300034A

    公开(公告)日:2019-10-01

    申请号:CN201910376552.5

    申请日:2019-05-07

    Applicant: 清华大学

    Abstract: 本发明实施例提供一种基于Web的网速测量方法及装置。其中,方法包括:对于当前数据采集时刻,获取各当前测试服务器的平均传输速度;若判断获知各当前测试服务器的平均传输速度满足预设的条件,则将各当前测试服务器的平均传输速度作为当前数据采集时刻的测量数据,并根据当前数据采集时刻的测量数据,获取当前数据采集时刻的关键速度区间;若判断获知速度收敛,则将当前数据采集时刻的关键速度区间作为本次测量的关键速度区间;获取落入本次测量的关键速度区间内的各测量数据的平均值,作为网速测量结果。本发明实施例提供的基于Web的网速测量方法及装置,能提高抗干扰能力,能获得更准确的网速测量结果。

    适用于机动车车载测试的气、固相SVOCs同步采样系统

    公开(公告)号:CN108519256A

    公开(公告)日:2018-09-11

    申请号:CN201810356140.0

    申请日:2018-04-19

    Applicant: 清华大学

    Abstract: 本发明属于环境监测仪器技术领域,旨在克服现有SVOCs采样设备的不足而提供一种适用于机动车车载测试的气、固相SVOCs同步采样系统,具有温度可控、抗震性好特点,以适用于高温尾气的采样和颠簸的车载测试环境。本发明采样系统包括壳体、控制主机、供电单元、以及沿采样管路依次设置的SVOCs采集单元和真空气泵;采样管路、SVOCs采集单元和真空气泵均固定设置在壳体内;采样管路靠近SVOCs采集单元的一端为进气端,靠近真空气泵的一端为出气端;采样系统还包括温度控制器和减震装置;温度控制器与所述控制主机相连;温度控制器用于控制SVOCs采集单元内的温度;减震装置包括减震板和减震弹簧;所述壳体固定设置在所述减震板上;减震弹簧安装在减震板的下表面。

    一种基于群组匹配的专家推荐方法及系统

    公开(公告)号:CN104361102B

    公开(公告)日:2018-05-11

    申请号:CN201410680306.6

    申请日:2014-11-24

    Applicant: 清华大学

    Abstract: 本发明公开了一种基于群组匹配的专家推荐方法及系统,属于互联网技术领域,所述方法包括:S1:通过网络爬虫获取专家列表中各专家的网页信息;S2:对所述网页信息进行提取,以获得各专家的专家学术信息;S3:根据所述专家学术信息计算各专家与待匹配项目之间的匹配度;S4:根据所述匹配度及群组匹配模型通过动态规划算法确定为所述待匹配项目所推荐的专家。本发明通过群组匹配的方式实现专家推荐,提高了专家推荐效率,大幅降低时间开销,另外,计算各专家与待匹配项目之间的匹配度时,还考虑了各专家与待匹配项目之间的社会关系匹配度,从而在实现专家推荐时,还有效避免或预防了学术腐败问题。

    一种网页应用阻塞的判断方法及装置

    公开(公告)号:CN107678945A

    公开(公告)日:2018-02-09

    申请号:CN201710786484.0

    申请日:2017-09-04

    Applicant: 清华大学

    Abstract: 本发明实施例提供一种网页应用阻塞的判断方法及装置。所述方法包括:初始化待测试网页应用,获取初始时刻T0;自初始时刻T0起,在预设屏蔽时长Ts内屏蔽待测试网页应用;自初始时刻T0起,至待测试网页应用运行结束止,每间隔预设间隔时长Tm,若判断获知CPU处于非阻塞状态,则获取第i次的当前时刻Ti,其中Ts>2Tm,i为大于0的正整数;根据当前时刻Ti和初始时刻T0确定阻塞时长Ta;根据阻塞时长Ta和预设阈值判断待测试网页应用是否阻塞。本发明实施例通过周期性获取的当前时刻和初始时刻确定阻塞时长,根据阻塞时长判断待测试网页应用是否阻塞,量化了网页应用阻塞的判断方式,提高了网页应用阻塞判断的正确率。

    虚拟机网络拓扑的可视化编辑方法及系统

    公开(公告)号:CN107135095A

    公开(公告)日:2017-09-05

    申请号:CN201710229572.0

    申请日:2017-04-10

    Applicant: 清华大学

    Abstract: 本申请提出虚拟机网络拓扑的可视化编辑方法及装置,本发明通过在虚拟机所在宿主机上和一台任意主机上分别设置代理,通过两个代理之间彼此交互实现对虚拟机网络拓扑可视化查看和编辑的功能。有助于用户直观观察与理解虚拟机网络等配置信息,并对虚拟机网络进行配置操作,提高配置虚拟机网络和操作虚拟机的效率,大幅提升使用体验。

Patent Agency Ranking