分布式存储与管理论文_姚晓玲,陈帅帅

导读:本文包含了分布式存储与管理论文开题报告文献综述、选题提纲参考文献及外文文献翻译,主要关键词:分布式,数据管理,数据,定义,文件,车组,管理系统。

分布式存储与管理论文文献综述

姚晓玲,陈帅帅[1](2019)在《Hadoop分布式视频存储与管理系统的设计和实现》一文中研究指出针对视频存储快速增长的需求,为中小型视频网站设计了基于Hadoop的视频存储与管理系统。系统采用B/S模式,使用多层应用架构,以IntelliJ IDEA为开发工具,以SSM作为体系结构解决方案,页面层使用Bootstrap前端框架,以JSP技术进行开发,使用MySQL进行结构化信息数据存储,使用Hadoop对视频进行分布式存储。系统对日益增多的视频数据进行有效的存储和快速的检索,具备大容量、高并发、高可靠、易扩展、易整合、易管理等特性。(本文来源于《电脑知识与技术》期刊2019年27期)

韩文军,余春生[2](2019)在《面向输变电工程数据存储管理的分布式数据存储架构》一文中研究指出针对输变电工程数据的多源、异构、迭代更新和集成应用导致需要巨大存储空间且不利于数据挖掘分析的问题,提出了一种面向输变电工程数据存储管理的分布式数据存储架构.该架构基于元数据模型对输变电工程的工程地理信息、叁维设计模型和文档资料叁类数据进行细化,并根据不同数据存储模式的不同,设计了一种分布式存储架构分别处理各种数据.系统实现与仿真实验结果表明,所提出的分布式存储架构在保证存储效率及数据完整性的同时,也能保证数据的安全.(本文来源于《沈阳工业大学学报》期刊2019年04期)

邱程[3](2019)在《基于分布式存储的地理时空大数据管理系统研究》一文中研究指出目前,中国北斗卫星导航系统已经日益成熟和完善,物联网技术得到了全面推广,由此产生的地理时空数据呈海量增长。本文依托国防科技创新特区项目“多元地球空间大数据集成、关联与协同认知”专项的一个子项“多元地球空间大数据的集成和可视化”课题,在分布式集群平台上,采用结构化开发方法,从系统的需求和可行性出发,利用分布式存储、负载均衡、WebGIS和数据可视化技术,融合NoSQL数据库和时空数据管理工具GeoMesa,构建了基于分布式存储的地理时空大数据管理系统。取得以下研究成果:1.根据时空大数据的数据结构,结合分布式数据库的实时处理和海量数据存储优势,采用大数据处理Cloudera Manager、CDH套件和时空大数据管理工具GeoMesa,搭建地理时空大数据管理平台,实现时空大数据的快速存储和查询。2.根据栅格瓦片的数据模型,利用集群解决图片服务器高并发的优势,采用Nginx负载均衡技术,在叁台服务器上搭建了栅格瓦片的集群服务系统。3.根据浏览器的渲染模型,设计了地理时空大数据和栅格瓦片的数据可视化算法,并以气象的风场、热力数据和空气质量指数为例,通过数据可视化引擎Leftlet,实现地理时空大数据可视化。本论文重点研究了地理时空大数据的栅格瓦片和矢量时空数据的数据接入、规范化管理和数据可视化等技术,并构建了基于分布式存储系统的地理时空大数据的管理系统,并以气象的风场、热力数据和空气质量指数数据为例,实现时空数据的可视化展示。(本文来源于《江汉大学》期刊2019-05-01)

朱盼盼,李姝,张彤,高晓琼[4](2019)在《一种分布式存储监控管理系统的设计与实现》一文中研究指出在信息化时代,企业每天都会产生大量的电子数据,Ceph作为一种分布式存储系统得到广泛应用,但Ceph部署后的运行维护是其推广的一大难点。本文以此为出发点,提出了一种Ceph分布式存储监控管理系统的设计与实现方法,对系统架构和系统工作流程进行了介绍。该系统实现后,达到了对Ceph分布式存储系统的便利、高效、统一监控与管理的目的。(本文来源于《保密科学技术》期刊2019年04期)

杜鹏[5](2019)在《基于分布式构建HLS协议流媒体文件叁层文件存储管理系统》一文中研究指出随着经济的发展,科技不断进步。构建基于HLS协议流媒体文件叁层文件存储管理系统,是互联网视频公司生产、存储、管理和服务流媒体文件的核心环节,基本功能包括调度、存储、监控和迁移等。该系统通过分布式、Cache和全局索引技术,有效针对传统HLS碎片文件管理低效、文件处理I/O开销大、流媒体文件数据迁移困难等一系列问题,提出了解决方案。(本文来源于《信息与电脑(理论版)》期刊2019年07期)

王梦娇[6](2019)在《分布式光纤传感监测大数据的存储、管理与处理系统研究》一文中研究指出针对输电线缆由于风舞和外力拉扯破坏而产生的故障以及石油、天然气的长距离运输管道中存在的恶劣油气偷盗等问题,需要对电力线缆、输气管道状态进行安全监测以减少经济损失避免产生不必要的社会危害。分布式光纤传感在实时安全监测上具有巨大优势,然而全天候、全分布的监测应用必将带来海量的监测数据,这给监测数据的存储、查询访问和处理带来了前所未有的挑战。本文基于电力线缆安全监测以及管道安全监测应用需求,分别利用分布式系统基础架构Hadoop下的HDFS和HBase实现分布式光纤传感大数据可靠性存储和实时查询访问,利用Spark技术对监测大数据进行高效统计分析,从而判断电力线缆是否存在风舞异常,应用Spark ML机器学习组件于管道扰动状态的分类,通过实验对比了传统方法和本文所提出方案的性能,验证了方案的高效性。本文主要完成以下几个方面的工作:(1)分析了应用大数据技术解决分布式光纤传感电力线缆和管道安全监测中存在的问题的现状以及意义。(2)综合考虑分布式光纤传感数据以及大数据处理技术的特点,构建了分布式光纤传感大数据存储、管理和处理的整体框架,采用数据采集层、数据存储管理层、数据处理层叁层体系架构;并结合实际应用场景搭建Cloudera大数据集群。(3)在数据存储管理层,基于HDFS设计了光纤传感监测大数据的高可靠性快速存储方案,并通过写入/读取(I/O)实验验证了该方案具有高吞吐、快速存储的优势;基于HBase设计了光纤传感监测大数据的实时查询方案,通过实验验证了查询速度在“秒”级。(4)针对统计分析的数据处理,在分布式光纤传感电力线缆安全监测领域,分别利用MapReduce和Spark对光纤传感系统采集到的原始数据进行数据预处理、特征提取,从而判断风舞异常的有无,并通过实验比较Spark、MapReduce和单机的数据处理性能,Spark速率可以达到MapReduce的10多倍,是单机的30倍。(5)针对复杂迭代计算的数据处理,在分布式光纤传感管道安全监测领域,设计了数据预处理和特征提取的方法,构建了基于Spark ML的决策树、随机森林、支持向量积、XGBoost多种分类算法的管道扰动模式识别方案,通过实验获得预测精度,并对比Spark与单机在机器学习上的速率,实验数据显示Spark速度是单机处理的50倍。(本文来源于《电子科技大学》期刊2019-03-31)

杨大伟,马军,赵刚,王亚南,常春雷[7](2019)在《分布式存储设备管理的优化方法研究》一文中研究指出随着大数据技术和云计算技术的推广应用,虚拟化的计算技术已经比较成熟,但是虚拟化的数据存储在技术上跟虚拟化计算相比却没有较大的改进。为了满足大规模的应用快速开发和快速部署的需要,所需要的存储容量在不停地增加,所需的成本也在增加,扩展方面面临新的挑战,运维的复杂程度不断增加,无法满足SLA服务等级协议的要求。软件定义存储技术的出现,使得存储的管理简单化,降低了数据中心的运营成本,并且可以满足SLA服务等级协议的要求。(本文来源于《中国新通信》期刊2019年06期)

张永敬[8](2018)在《分布式存储技术在动车组检修视频记录管理系统中的应用》一文中研究指出通过对动车组检修视频记录管理现状的分析和研究,将分布式存储技术应用在检修视频记录管理系统。通过既有网络集中控制管理,将前端视频记录,在不同车间进行分布式存储和管理。在稳定安全的前提下,达到对检修记录便捷和高效的管理,进一步提升检修质量和效率。(本文来源于《铁路计算机应用》期刊2018年12期)

朱丽霞,李凡[9](2018)在《分布式存储设备管理的优化方法研究》一文中研究指出目前服务器虚拟化技术已经得到了广泛的应用,用户对虚拟化服务的容量、性能要求越来越高,但是虚拟化的存储系统在技术上却没有较大的改进,无法满足大规模的虚拟化应用快速开发和快速部署的需求。文章介绍了目前数据存储面临的问题与挑战,并根据用户的需求,提出按照软件定义构建的存储系统,可以解决传统存储的不足之处,使得虚拟化的存储更加高效、快速、经济和稳定。(本文来源于《通信电源技术》期刊2018年09期)

倪英杰[10](2018)在《一种分布式存储系统中的元数据管理技术研究与实现》一文中研究指出随着网络和信息技术的飞速发展,全球数据日益增长。面对当前PB级的海量数据存储需求,传统的存储系统在容量和性能的扩展上存在瓶颈。分布式存储系统因为具有海量数据存储、高扩展性、高性能、高可靠性、高可用性的特点,目前得到广泛研究和应用。据统计,海量存储系统中有超过一半以上的系统操作是元数据操作。元数据操作成为制约分布式存储系统的性能和扩展性的一个严重的瓶颈,因此对于分布式存储系统中元数据管理的研究不仅紧跟目前发展的趋势,而且具有重要的应用价值。本文在研究和分析了现有的元数据管理模型的基础上,研究并实现了一种分布式存储系统中的元数据管理技术,取得的成果如下:1.对现有的元数据管理技术进行概述,将元数据管理模型分成集中式元数据管理模型、分布式元数据管理模型和无元数据管理模型叁种,分别对其阐述原理并给出相应的元数据管理模型图,列举若干对应的存储系统,分析各个模型存在的性能缺陷,同时也分析了分布式存储系统中的两种容错机制,分析了各自的优缺点。2.设计了 一种面向运营商领域、具有高可靠性和高可扩展性的分布式存储系统ZettastorDBS,将其总体架构分成两大模块:数据通路模块和控制通路模块,给出数据通路模块和访问关系图,以及控制通路模块和基本控制流构成图,并根据元数据管理需求研究了元数据管理基本流程所包含的内容。3.实现了 ZettastorDBS系统中的元数据管理功能。首先,给出元数据的组织形式和元数据库中表结构的设计;其次,详细介绍了元数据的各个状态设计以及各个状态之间的迁移实现过程;最后,对于元数据管理程序中的核心程序给出设计与实现过程,包括两个定时器和一个元数据重构接口。同时,在Linux环境下部署整个系统并对其进行功能性测试。测试结果表明,元数据管理部分可以充分满足用户对存储服务在元数据管理各方面的需求。(本文来源于《南京师范大学》期刊2018-03-27)

分布式存储与管理论文开题报告

(1)论文研究背景及目的

此处内容要求:

首先简单简介论文所研究问题的基本概念和背景,再而简单明了地指出论文所要研究解决的具体问题,并提出你的论文准备的观点或解决方法。

写法范例:

针对输变电工程数据的多源、异构、迭代更新和集成应用导致需要巨大存储空间且不利于数据挖掘分析的问题,提出了一种面向输变电工程数据存储管理的分布式数据存储架构.该架构基于元数据模型对输变电工程的工程地理信息、叁维设计模型和文档资料叁类数据进行细化,并根据不同数据存储模式的不同,设计了一种分布式存储架构分别处理各种数据.系统实现与仿真实验结果表明,所提出的分布式存储架构在保证存储效率及数据完整性的同时,也能保证数据的安全.

(2)本文研究方法

调查法:该方法是有目的、有系统的搜集有关研究对象的具体信息。

观察法:用自己的感官和辅助工具直接观察研究对象从而得到有关信息。

实验法:通过主支变革、控制研究对象来发现与确认事物间的因果关系。

文献研究法:通过调查文献来获得资料,从而全面的、正确的了解掌握研究方法。

实证研究法:依据现有的科学理论和实践的需要提出设计。

定性分析法:对研究对象进行“质”的方面的研究,这个方法需要计算的数据较少。

定量分析法:通过具体的数字,使人们对研究对象的认识进一步精确化。

跨学科研究法:运用多学科的理论、方法和成果从整体上对某一课题进行研究。

功能分析法:这是社会科学用来分析社会现象的一种方法,从某一功能出发研究多个方面的影响。

模拟法:通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。

分布式存储与管理论文参考文献

[1].姚晓玲,陈帅帅.Hadoop分布式视频存储与管理系统的设计和实现[J].电脑知识与技术.2019

[2].韩文军,余春生.面向输变电工程数据存储管理的分布式数据存储架构[J].沈阳工业大学学报.2019

[3].邱程.基于分布式存储的地理时空大数据管理系统研究[D].江汉大学.2019

[4].朱盼盼,李姝,张彤,高晓琼.一种分布式存储监控管理系统的设计与实现[J].保密科学技术.2019

[5].杜鹏.基于分布式构建HLS协议流媒体文件叁层文件存储管理系统[J].信息与电脑(理论版).2019

[6].王梦娇.分布式光纤传感监测大数据的存储、管理与处理系统研究[D].电子科技大学.2019

[7].杨大伟,马军,赵刚,王亚南,常春雷.分布式存储设备管理的优化方法研究[J].中国新通信.2019

[8].张永敬.分布式存储技术在动车组检修视频记录管理系统中的应用[J].铁路计算机应用.2018

[9].朱丽霞,李凡.分布式存储设备管理的优化方法研究[J].通信电源技术.2018

[10].倪英杰.一种分布式存储系统中的元数据管理技术研究与实现[D].南京师范大学.2018

论文知识图

多尺度地理空间数据分布式存储与管多尺度地理空间数据分布式存储与管理云服务平台总体架构图政府信息资源的管理与存储模式架构分布式电子仓库管理机制

标签:;  ;  ;  ;  ;  ;  ;  

分布式存储与管理论文_姚晓玲,陈帅帅
下载Doc文档

猜你喜欢