大数据处理框架中基于MDP的任务调度算法

在线阅读 下载PDF 导出详情
摘要 针对大数据处理框架MapReduce中的任务调度问题,提出一种基于Markov决策过程(MarkovDecisionProcess,MDP)的任务调度算法,通过状态集来描述集群中节点的负载和作业的数据本地性需求,使用状态转移函数表示调度策略对状态的影响,采用值迭代求解算法求取最优策略,实现集群中节点的最优调度.实验结果表明,该算法能够保证数据本地性的同时,减少作业响应时间,提高系统综合性能.
机构地区 不详
出版日期 2014年01月11日(中国期刊网平台首次上网日期,不代表论文的发表时间)
  • 相关文献