-
公开(公告)号：CN110781367B
公开(公告)日：2023-10-20
申请号：CN201910909270.7
申请日：2019-09-25
Applicant: 中国科学院计算技术研究所
IPC: G06F16/951 , G06F16/955
Abstract: 本发明提出一种基于中间人的互联网数据采集方法及系统，包括：通过安装中间人代理证书至网页信息采集设备，建立网页信息采集设备的中间人，网页信息采集设备访问互联网中网页信息时，中间人代理网页信息采集设备的全部网络流量；中间人获取包含待采集网页URL正则表达式的采集任务，捕获全部网络流量中符合URL正则表达式的流量，作为中间流量，并将采集任务注入中间流量的HTML页面中，得到待解析页面并将其存入第一数据库；解析模块根据第一数据库中待解析页面的URL信息，将待解析页面分发给解析器实例进行解析，从中获取包含结构化数据的网页采集结果并将其存入第二数据库。本发明能够支持所有依靠集成浏览器内核功能来提供信息的应用的数据采集。
-
公开(公告)号：CN110427264B
公开(公告)日：2021-11-30
申请号：CN201910578638.6
申请日：2019-06-28
Applicant: 中国科学院计算技术研究所 , 国家计算机网络与信息安全管理中心
IPC: G06F9/50 , G06F16/951
Abstract: 本发明提出一种基于Kubernetes的JS解析方法及系统，包括：多台物理机、采集结果库、系统监控模块和解析任务控制模块；物理机，用于根据任务部署JS解析Pod，执行网页采集，将得到的采集结果存至采集结果库；系统监控模块，用于自动读取物理机的机器信息；解析任务控制模块，用于查询系统监控模块，得到各物理机的机器信息，以计算各物理机应部署的JS解析Pod个数，调用Kubernetes API调整各物理机的JS解析Pod个数。本发明有效的利用了空闲时间执行JS解析相关任务，并减小了JS解析的资源消耗。
-
公开(公告)号：CN112287273A
公开(公告)日：2021-01-29
申请号：CN202011161426.7
申请日：2020-10-27
Applicant: 中国科学院计算技术研究所
IPC: G06F16/958 , G06F16/35 , G06F16/957 , G06N3/04 , G06N3/08
Abstract: 本发明涉及一种网站列表页面的分类方法，所述网站系基于超文本标记语言(HTML)，方法包括：步骤100，获取网站页面集合，页面归属于同一网站；步骤200，提取每一网站页面的文档对象模型(Document Object Model，DOM)的树结构特征和页面文本特征，分别构成DOM树结构特征空间和页面文本特征空间；步骤300，在DOM树结构特征空间和页面文本特征空间针对DOM树结构特征和页面文本特征分别进行聚类，分别得到结构类簇和文本类簇；步骤400，根据网站页面的网址链接(URL)，在结构类簇与文本类簇之间进行映射，当映射出现多对一的情况，则选择最大相交的结构类簇或者文本类簇，并找到所述最大相交的结构类簇或者文本类簇在网站中的最近公共父节点，该公共父节点即为列表页面。
-
公开(公告)号：CN110427264A
公开(公告)日：2019-11-08
申请号：CN201910578638.6
申请日：2019-06-28
Applicant: 中国科学院计算技术研究所 , 国家计算机网络与信息安全管理中心
IPC: G06F9/50 , G06F16/951
Abstract: 本发明提出一种基于Kubernetes的JS解析方法及系统，包括：多台物理机、采集结果库、系统监控模块和解析任务控制模块；物理机，用于根据任务部署JS解析Pod，执行网页采集，将得到的采集结果存至采集结果库；系统监控模块，用于自动读取物理机的机器信息；解析任务控制模块，用于查询系统监控模块，得到各物理机的机器信息，以计算各物理机应部署的JS解析Pod个数，调用Kubernetes API调整各物理机的JS解析Pod个数。本发明有效的利用了空闲时间执行JS解析相关任务，并减小了JS解析的资源消耗。
-
公开(公告)号：CN109814992A
公开(公告)日：2019-05-28
申请号：CN201811634642.1
申请日：2018-12-29
Applicant: 中国科学院计算技术研究所
Abstract: 本发明涉及一种用于大规模网络数据采集的分布式动态调度方法，包括：获取网络数据所在的信源；将参与数据采集的节点注册为采集节点或调度节点；获取数据采集的调度策略；根据该调度策略和该信源的信源信息，生成采集任务；将该采集任务传递至该采集节点的采集器，以配置并启动该采集器；通过该采集器执行该采集任务，以获取采集结果。本发明的分布式调度方法是采集器、信息来源无关的通用调度方法，本方法支持多种异构采集器，支持异构节点，支持采集节点与采集器的热插拔，动态扩展。
-
Patent Agency Ranking
公开(公告)号：CN104268148A
公开(公告)日：2015-01-07
申请号：CN201410429698.9
申请日：2014-08-27
Applicant: 中国科学院计算技术研究所
IPC: G06F17/30
CPC classification number: G06F17/30876
Abstract: 本发明公开了一种基于时间串的论坛页面信息自动抽取方法及系统。该方法包括创建文件对象模型树，清除文件对象模型树中的无用标签和空标签；根据所述时间串，对所述文件对象模型树进行聚类，生成多个聚类集合，遍历所述聚类集合，获取最大簇，若所述最大簇只包含一个单独节点，则所述论坛页面为单楼页面，根据所述单独节点的时间串，获取所述单楼页面的发帖时间信息；遍历所述文件对象模型树，获取包含网页地址的新节点，通过关键字列表或正则式列表，对网页地址进行关键字查找或正则式查找；若网页地址包含关键字列表中的关键字或所述正则式列表中的正则式，则获取新节点及其子节点包含的文本信息，文本信息为所述单楼页面的用户名信息。
-
公开(公告)号：CN113190733B
公开(公告)日：2023-09-12
申请号：CN202110459851.2
申请日：2021-04-27
Applicant: 中国科学院计算技术研究所
IPC: G06F16/951 , G06N3/0464 , G06N3/0442 , G06N3/08
Abstract: 本发明公开一种基于多平台的网络事件流行度预测方法，包括以下步骤：分别获取多个平台的网络事件的流行度预测序列，并融合多个流行度预测序列形成网络事件的流行度联合预测序列；分别获取多个平台的网络事件的流行度历史序列，并融合多个流行度历史序列形成网络事件的流行度联合历史序列；利用生成式对抗网络将流行度联合预测序列与流行度联合历史序列进行对齐，得到网络事件的流行度最终预测序列。
-
公开(公告)号：CN112287272B
公开(公告)日：2023-05-23
申请号：CN202011161424.8
申请日：2020-10-27
Applicant: 中国科学院计算技术研究所
IPC: G06F16/958 , G06F16/35 , G06F16/957 , G06N3/0464 , G06N3/08
Abstract: 本发明涉及一种网站列表页面的分类方法，所述分类方法基于超文本标记语言标签(HTML Tag)，所述分类方法包括：步骤100、获取一组网站网页；步骤200、分别针对每一所述网站网页提取所述网站网页的统计特征和结构特征，得到每一所述网站网页对应的特征序列；步骤300、将所述特征序列输入神经网络进行所述神经网络的训练，得到网站列表页面分类器；步骤400、获取待分类的网站网页，根据所述步骤200得到所述待分类的网站网页的特征序列，将所述待分类的网站网页的特征序列输入所述步骤300得到的所述网站列表页面分类器，判断该待分类的网站网页是否为网站列表页面。
-
公开(公告)号：CN113780569A
公开(公告)日：2021-12-10
申请号：CN202110813797.7
申请日：2021-07-19
Applicant: 中国科学院计算技术研究所
IPC: G06N20/00
Abstract: 本发明提出一种基于相似话题的流行度预测方法和系统，基于KSC算法对历史话题的流行度序列聚类，得到话题级别的演化模式，按照待预测话题的观测窗口和预测窗口大小，对各历史话题的流行度序列进行切分得到训练数据的输入和输出，使用各类别下的历史话题的训练数据分别训练全连接网络作为预测模型，充分利用了与待预测话题在流行度演化模式上相似的历史话题的数据，降低了预测误差。基于DTW算法对待预测话题进行分类，使用待预测话题所属类别的模型进行流行度预测，保证预测及时，增强预测的时效性。
-
公开(公告)号：CN113190734A
公开(公告)日：2021-07-30
申请号：CN202110461513.2
申请日：2021-04-27
Applicant: 中国科学院计算技术研究所
IPC: G06F16/951 , G06N3/04 , G06N3/08
Abstract: 本发明公开一种基于单平台的网络事件流行度预测方法，包括以下步骤：将网络事件在时序上按照固定时间间隔进行划分以形成多个事件片段，并提取各个事件片段的多个维度特征；分别提取各个事件片段的多个维度特征中的相同维度特征以形成多个维度时序特征，并融合多个维度时序特征得到网络事件的统一特征；根据统一特征预测网络事件的流行度。
-
-
-
-
-
-
-
-
-
Search Results
61
records
(took 0.046 seconds)
