基于MapReduce模型的任务执行方法和装置
基本信息
申请号 | CN201611132677.6 | 申请日 | - |
公开(公告)号 | CN106648891A | 公开(公告)日 | 2017-05-10 |
申请公布号 | CN106648891A | 申请公布日 | 2017-05-10 |
分类号 | G06F9/50(2006.01)I | 分类 | 计算;推算;计数; |
发明人 | 傅文卿;石卫平;马宝军;许宁;侯玉娜;金潇;靳会勤;朱丹萍;谭燕燕;于秀丽;张晓宁;郭嘉;张铮;王淑玲 | 申请(专利权)人 | 联通信息导航有限公司 |
代理机构 | 北京同立钧成知识产权代理有限公司 | 代理人 | 杨贝贝;刘芳 |
地址 | 100033 北京市西城区金融大街21号 | ||
法律状态 | - |
摘要
摘要 | 本发明实施例提供一种基于MapReduce模型的任务执行方法和装置,该方法包括:提取待执行任务的每个输入文件的键值对;采用最大差异直方图将键值对划分为多个分割集合;采用哈希一致性算法计算多个分割集合中的键值对中的键值与reduce节点的映射关系;根据映射关系执行待执行任务。实现了reduce节点上的负载均衡,提高了任务的执行效率。 |
