一种交通行业的大模型问答方法、装置、设备及存储介质

    公开(公告)号:CN118585632B

    公开(公告)日:2024-12-03

    申请号:CN202411067085.5

    申请日:2024-08-06

    Abstract: 本申请公开了一种交通行业的大模型问答方法、装置、设备及存储介质,涉及人工智能与信息安全的交叉领域,包括:基于预先构建好的安全知识库对待处理的交通相关问题进行检索;当得到的检索结果表明知识库中不存在与交通相关问题对应的答复信息时,基于预设问题安全拦截策略判断当前是否触发问题拦截操作;当得到的第一判断结果表明不触发时,基于预设prompt对交通相关问题进行问题增强;基于预先完成微调的目标交通大模型对得到的增强后问题进行处理,以得到目标答复信息;根据预设回答安全拦截策略判断当前是否触发与目标答复信息对应的答复拦截操作,以基于得到的第二判断结果完成问答操作。能够有效提高问答的安全性及准确性。

    一种基于大模型的网络安全问答方法及系统

    公开(公告)号:CN118964581A

    公开(公告)日:2024-11-15

    申请号:CN202411159160.0

    申请日:2024-08-22

    Abstract: 本申请公开了一种基于大模型的网络安全问答方法及系统,所述方法包括:获取用户输入的网络安全问题;将网络安全问题输入预先训练好的大模型中,由大模型基于目标网络安全知识库,分析得到网络安全问题的答案;其中,先利用无监督训练数据集对大模型进行继续预训练,再基于监督微调策略,利用有监督训练数据集对大模型进行二次迭代训练,最后基于人类反馈强化学习策略,将大模型与训练好的奖励模型相结合,对大模型进行第三次迭代训练,得到训练好的大模型;奖励模型利用标注数据集训练得到;标注数据集通过对大模型输出的结果进行优劣标注得到;无监督训练数据集由多个数据源的网络安全数据组成;将网络安全问题的答案反馈给用户。

    一种内网环境通过SQUID更新软件源的方法及系统

    公开(公告)号:CN118885188A

    公开(公告)日:2024-11-01

    申请号:CN202410877072.8

    申请日:2024-07-02

    Abstract: 本发明涉及软件源更新技术领域,具体为一种内网环境通过SQUID更新软件源的方法及系统,包括以下步骤:跳板机器或者虚机安装squid,并检测是否安装成功;跳板服务器防火墙放通squid默认端口3128;跳板服务器设置squid的安全认证与访问控制;内网机器设置代理访问,最终实现通过跳板服务器更新软件;有益效果为:本发明提出的内网环境通过SQUID更新软件源的方法及系统,依赖中间机器可以同时连接内网,外网的服务器,然后运行squid代理,通过转发并缓存形式,适用于多台内网机器需求安装最新软件源的场景,满足内网环境网络安全的同时,可以降低网络成本,可以使用最新的软件安装包。

    一种云平台的大模型配置管理方法及系统

    公开(公告)号:CN118819618A

    公开(公告)日:2024-10-22

    申请号:CN202410962919.2

    申请日:2024-07-18

    Abstract: 本发明涉及大数据处理技术领域,具体为一种云平台的大模型配置管理方法及系统,包括以下方法:配置编写;大模型配置下发;大模型配置脚本生成及执行;采集监控信息及告警;有益效果为:本发明提出的云平台的大模型配置管理方法及系统,利用云平台资源编排管理技术自定义资源实现大模型配置的灵活加载。通过节点标签,提供统一的配置下发方法,并根据资源监控数据实时反馈给用户,方便灵活的根据监控数据指导制定配置文件。同时,在大模型发生异常时及时,通过告警及时通知运维人员。

    告警收敛处理方法及装置、介质、设备

    公开(公告)号:CN118646631A

    公开(公告)日:2024-09-13

    申请号:CN202410712532.1

    申请日:2024-06-04

    Abstract: 本发明提供一种告警收敛处理方法及装置、介质、设备。该方法包括:每隔第一预设时长采集告警源产生的告警信息;从数据库中获取告警收敛规则集;其中,所述告警收敛规则集中包括多条告警收敛规则,所述告警收敛规则为用户预先在前端设备上根据业务需求而定制的规则;将采集到的每一条告警信息与所述告警收敛规则集中的每一条告警收敛规则进行匹配,得到匹配结果;按照匹配结果,将采集到的各条告警信息划分为多个分组;其中,每一个分组对应一条所述告警收敛规则;根据所述各条告警信息的分组结果,进行告警推送处理。本发明减少给运维人员的工作量、减少对运维人员的干扰以及提高管理人员即运维人员的工作效率。

    周期策略组件生成方法及装置、介质、设备

    公开(公告)号:CN118607964A

    公开(公告)日:2024-09-06

    申请号:CN202410789875.8

    申请日:2024-06-19

    Abstract: 本发明提供一种周期策略组件生成方法及装置、介质、设备。该方法包括:提供周期策略类型配置页面,以使用户在所述周期策略类型配置页面上选择周期策略类型;将用户选择的周期策略类型作为目标周期策略类型;提供所述目标周期策略类型对应的策略属性配置页面,以使用户在策略属性配置页面上配置可操作属性,所述可操作属性包括触发节点;确定用户所在时区;根据所述用户所在时区与世界标准时间之间的转换关系,将用户设置的触发节点转换为标准触发节点;根据所述标准触发节点生成零时区的周期策略表达式;根据所述周期策略表达式构造对应的周期策略组件。用户可以灵活配置且操作简单,减少了重复代码开发,提高了周期策略组件的生成效率。

    基于大模型集群的告警推送方法和监控系统

    公开(公告)号:CN119865420A

    公开(公告)日:2025-04-22

    申请号:CN202510006671.7

    申请日:2025-01-03

    Abstract: 本发明提供了一种基于大模型集群的告警推送方法和监控系统。其中,该方法的实现主要是通过监控信息收集模块实时收集和处理来自vLLM框架的metrics接口的vLLM监控指标和GPU监控指标,利用信息处理模块对收集到的vLLM监控指标和GPU监控指标进行数据处理并将这些信息暴露为Prometheus可识别的metrics接口数据格式,再通过监控指标展示模块查询Prometheus以获取监控指标,并以大屏展示的形式呈现给运维人员,可以方便运维人员实时地查看大模型集群的运行状态和资源使用情况。此外,该方法还设置告警设置功能,当监控指标符合预设告警规则即在监控指标出现异常时,系统将告警信息提示推送给运维人员及时进行处理。通过上述方式能够提高系统监控的效率。

    目标检测任务的联合执行方法及装置、介质、设备

    公开(公告)号:CN118606054A

    公开(公告)日:2024-09-06

    申请号:CN202410789879.6

    申请日:2024-06-19

    Abstract: 本发明提供一种目标检测任务的联合执行方法及装置、介质、设备。该方法包括:对每一个视频帧执行目标检测操作,得到视频帧对应的第一目标边界框检测结果;对视频帧进行预处理,并将预处理后的视频帧输入至深度确定性策略梯度算法的策略网络中,得到视频帧需要卸载到云端节点的置信概率;若视频帧需要卸载到云端节点的置信概率大于预设值,则将视频帧和第一目标边界框检测结果发送至云端节点,以使云端节点对视频帧执行目标检测操作,得到第二目标边界框检测结果,并将检测准确度较高的目标边界框检测结果反馈至前端用户,以实现视频帧的目标检测任务的纵向卸载。本发明通过云边协同的纵向卸载,尽可能提升视频流实例的目标检测准确度。

    一种FPGA硬件加速设备使用、管理系统及方法

    公开(公告)号:CN113946441A

    公开(公告)日:2022-01-18

    申请号:CN202111180807.4

    申请日:2021-10-11

    Abstract: 本发明涉及云计算技术领域,具体提供了一种FPGA硬件加速设备使用、管理系统,云服务商提供Host宿主机及FPGA硬件加速设备,Host与FPGA设备通过总线PCIe相连接,FPGA设备的mgmtPF供Host使用,user PF提供给用户的FPGA云服务器虚拟机使用;在FPGA开发环境或FPGA云服务器开发环境进行FPGA业务逻辑镜像开发,通过云平台将FPGA镜像文件bitstream上传到对象存储,或从对象存储将bitstream下载到远程FPGA云服务器业务集群,并将bitstream烧录到业务集群FPGA云服务器的user PF中运行业务逻辑。本发明采用FPGA硬件加速设备将计算负载从CPU转移到FPGA设备上,可以有效降低CPU的业务负载,提高单位功耗的计算效率。

    一种基于大模型的继续预训练的问答方法、装置、设备及介质

    公开(公告)号:CN119848216A

    公开(公告)日:2025-04-18

    申请号:CN202510107801.6

    申请日:2025-01-23

    Abstract: 本申请涉及大模型训练领域,特别涉及一种基于大模型的继续预训练的问答方法、装置、设备及介质,方法包括:获取多个基于不同预设长度阈值的切片数据的训练数据集;利用多个超参数对预训练大模型进行继续训练,得到多个初始问答模型,能够通过不同长度的训练数据以及不同的超参数,使得模型在不同超参数下无监督地学习不同长度的文本;通过测试集测试多个初始问答模型,比较不同的初始问答模型的学习情况,以便于从多个初始问答模型确定出最优的问答模型,能够精准的确定符合该场景下的最优的文本长度以及超参数的模型,使得最终确定的问答模型的精准度以及可靠性优异,且,在继续训练过程中不需要依赖人工标记训练数据,降低了人工成本和工作量。

Patent Agency Ranking