MC-OLA:基于马尔可夫链的多表连接在线聚集技术

MC-OLA:基于马尔可夫链的多表连接在线聚集技术

论文摘要

多表连接查询是大数据分析领域重要的查询类型之一,然而连接查询的实现代价很高,从而影响了大数据分析结果的时效性。在线聚集能够在查询完成前反馈具有统计意义的估计结果具有重要的意义。目前已有的多表连接在线聚集算法从各表进行统一随机采样,导致连接结果的产出率低,并且导致分组连接查询的估计准确率低。针对这一问题,提出了基于马尔可夫链的多表连接在线聚集技术,将多表连接的实现过程转换为马尔可夫链上的随机游走过程,确定好连接顺序后在游走起始层创建分层样本,并设计了相应的采样策略及结果估计方法。将所提出技术在在线化Hadoop平台上实现,实验结果证明所提出方案的响应时间优于已有算法,并且具有良好的扩展性。

论文目录

  • 1 相关工作
  • 2 MC-OLA概述
  •   2.1 问题建模
  •   2.2 系统架构
  • 3 采样技术
  •   3.1 确定连接顺序
  •   3.2 创建分层样本游走起始层
  • 4 在线聚集实现
  •   4.1 采样策略
  •   4.2 聚集结果及置信区间估计
  • 5 实验结果分析
  •   5.1 实验配置
  •   5.2 性能测试
  •   5.3 扩展性测试
  • 6 结束语
  • 文章来源

    类型: 期刊论文

    作者: 史英杰,杜方

    关键词: 在线聚集,马尔可夫链,分层采样,多表连接

    来源: 计算机应用研究 2019年12期

    年度: 2019

    分类: 信息科技,基础科学

    专业: 数学,计算机软件及计算机应用

    单位: 北京服装学院信息工程学院,宁夏大学信息工程学院

    基金: 国家自然科学基金资助项目(61502279),北京市教委科技计划资助项目(KM201710012008),北京服装学院高水平教师队伍建设专项资金资助项目(BIFTQG201803),北京市服装产业数字化工程技术研究中心开放课题项目(KJCX1902-30299,009)

    分类号: TP311.13;O211.62

    DOI: 10.19734/j.issn.1001-3695.2018.07.0384

    页码: 3801-3805+3810

    总页数: 6

    文件大小: 826K

    下载量: 94

    相关论文文献

    标签:;  ;  ;  ;  

    MC-OLA:基于马尔可夫链的多表连接在线聚集技术
    下载Doc文档

    猜你喜欢