-
-
公开(公告)号:KR101540012B1
公开(公告)日:2015-07-28
申请号:KR1020130143146
申请日:2013-11-22
Applicant: 한국과학기술정보연구원
Abstract: 맵리듀스순환처리장치가개시된다. 맵리듀스순환처리장치는입력된순환처리잡(job)을스텝으로분리하여관리하는순환잡 트래커, 스텝으로분리된잡을복수의태스크들로나누어각각복수의노드들에할당하는태스크스케줄러, 복수의노드들에할당된복수의태스크들을관리하는태스크트래커, 각태스크처리시불변데이터를검출하는불변데이터관리모듈, 불변데이터를캐싱하는인-메모리캐싱모듈및 불변데이터에인덱스를제공하여순환처리시인덱스를기초로불변데이터를이전작업노드와동일한노드로할당하는노드-파티션매핑모듈을포함한다. 이에따라, 기존하둡플랫폼과호환되고, 불변데이터를자동검출하여캐싱함으로써불필요한네트워크트래픽을감소시켜데이터를빠르게처리할수 있다.
-
公开(公告)号:KR1020150059492A
公开(公告)日:2015-06-01
申请号:KR1020130143146
申请日:2013-11-22
Applicant: 한국과학기술정보연구원
Abstract: 맵리듀스순환처리장치가개시된다. 맵리듀스순환처리장치는입력된순환처리잡(job)을스텝으로분리하여관리하는순환잡 트래커, 스텝으로분리된잡을복수의태스크들로나누어각각복수의노드들에할당하는태스크스케줄러, 복수의노드들에할당된복수의태스크들을관리하는태스크트래커, 각태스크처리시불변데이터를검출하는불변데이터관리모듈, 불변데이터를캐싱하는인-메모리캐싱모듈및 불변데이터에인덱스를제공하여순환처리시인덱스를기초로불변데이터를이전작업노드와동일한노드로할당하는노드-파티션매핑모듈을포함한다. 이에따라, 기존하둡플랫폼과호환되고, 불변데이터를자동검출하여캐싱함으로써불필요한네트워크트래픽을감소시켜데이터를빠르게처리할수 있다.
Abstract translation: 公开了一种地图缩小迭代处理装置。 地图缩小迭代处理装置包括:迭代作业跟踪器,其通过分成步骤来管理输入的迭代处理作业; 任务调度器,将分离成步骤的作业分成多个任务,并分别分配给多个节点; 管理分配给多个节点的多个任务的任务跟踪器; 一种在处理每个任务时检测不变数据的不变数据管理模块; 缓存不变数据的内存中缓存模块; 以及节点分割映射模块,其基于当通过提供不变数据的索引执行迭代处理时的索引,向与之前工作相同的节点分配不变数据。 因此,随着设备可以快速处理数据:可以与现有的Hadoop平台互换; 并通过自动检测缓存不变数据,减少无用的网络流量。
-
-