身份证件号: 15020319891004****天津市 300000
摘要:在数据总量不断增长的背景下,传统数据处理技术的弊端和问题逐渐显现,不仅数据处理速度慢,而且已经成为数据存储的一大难题。大数据处理技术的诞生有效地解决了传统数据处理技术的不足。3V可以有效地同时处理多种类型的数据。无论是企事业单位,适当运用大数据处理技术进行数据分析和汇总,都能有效提高自身经营效率,增强核心竞争力。本文简要介绍了物联网时代大数据处理的关键技术,希望能为广大人民群众正确认识大数据处理技术带来一定的借鉴意义。
关键词:物联网;数据处理;关键技术
1物联网以及大数据处理的发展现状
随着物联网技术的进步,社会经济也取得了长足的进步。互联网带来的收入接近3000亿美元。相信物联网在未来会带来更长远的发展。许多领域的企业都将互联网技术深化为自身发展。因此,物联网也是推动企业进步的一大动力。当然,物联网的发展也随着物与物之间关系的加强给我们提出了更多的要求和挑战,大量的数据需要解决,而物联网也为我们提供了更多的解决问题的思路。
1.1物联网的发展现状
1)国外物联网的发展状况
国外非常重视物联网的发展,对物联网进行了大量的研究,政府建立了相关实验室,加大了对无线传感器网络的研究。此外,大学还与相关软件公司或硬件公司开展相关研究,如微软、英特尔等。这是国外大多数国家物联网发展的总路线。欧盟在物联网领域一直处于领先地位。欧洲已经启动了物联网行动计划。《规划》主要针对物联网发展潜力,以及物联网发展中存在的隐私问题、数据问题、监管问题等问题,提出了行动计划、管理机制建立、技术创新等具体措施。
2)国内物联网的发展状况
20世纪末,中国开始关注物联网的发展。在这个新兴领域,中国一直走在世界前列,中国也相当重视物联网的发展。在这个过程中,政府发挥了非常重要的作用。温家宝同志在视察物联网研发中心时提出,发展物联网要有长远的眼光。江苏省物联网发展的内容也比较明确,发展势头良好,我国的总体形式是快速发展的转型期,但科技领域还处于初级阶段,物联网状态下的经济发展还没有形成,但可以肯定的是,物联网的发展潜力是不可估量的。
1.2大数据处理的发展现状
物联网时代的到来带来了大量的数据,尤其是在我国这样一个人口众多、数据量大的国家,很多领域都面临着挑战,在竞争中失去了优势。我们应该拐弯,用大数据打我们,而不是被他挡着。
许多企业面临着大量的数据问题,如数据处理能力弱、利用率低、混乱、成本高、消耗大等,国内IT行业应针对这些问题做出相应的调整。政府也在针对大数据时代存在的问题提出相应的对策,开展大数据研究,引导企业发展。“十二五”规划还涉及大数据处理问题。发展原则是以市场为中心,创新技术,政府引导发展。目前大数据发展中存在的主要问题是数据量大、复杂度高、技术不完善,而用户的要求也越来越高。政府对大数据处理提出了一些建议。首先要重视数据分析技术的创新,设计智能化的流程。二是数据处理技术等技术的发展,三是大数据技术应用技术的发展。
2物联网数据处理关键技术解析
2.1实现移动通信网络数据处理的“云计算”关键技术
云计算作为物联网数据处理的关键技术之一,在应用过程中产生了大量复杂、碎片化、非结构化的数据,这些数据基本上都来源于物联网的应用。因此,为了有效处理移动通信网络数据,提高云计算关键技术的应用效果,我们应该积极寻找物联网数据与云计算关键技术的相似性和内聚性,深刻理解云计算关键技术“承载大量分散的决策中心,结合众多决策中心进行数据处理形成超级决策”的应用原理,云计算关键技术在排序、计算和决策中起着关键作用。然后在此基础上,将数据处理与云计算的关键技术相结合,才能充分发挥物联网数据处理的现实作用和价值。此外,云计算关键技术在移动通信网络数据处理中的应用也应顺应时代发展特点,开发物联网数据处理的云计算关键技术,积极推出新的分布式文件系统、并行编程模式,并行执行引擎支柱等技术,为云计算的物联网数据处理关键技术提供了新的发展路径。
2.2实现物联网数据处理的“文本信息处理”关键技术
物联网数据处理中文本信息处理的关键技术主要包括遗传算法和数据挖掘。首先,遗传算法的关键技术的应用主要是基于生物学中适者生存的原则,对物联网中的海量数据进行随机检索。通过对物联网数据的检索,消除了无效数据,保留了有利数据。然后,利用这一关键技术优化搜索空间,实现物联网数据处理的自动获取和引导。由此可见,该数据处理关键技术的应用价值是比较高的。其次,物联网数据处理的关键技术主要包括分类处理和关联规则处理。分类处理是指利用相关文本信息处理系统,对物联网中的目标数据进行自动分类,然后按照预先设定的分类标准建立虚拟分类模型,从而对没有分类的物联网数据进行分类,有效避免了物联网数据处理中的错误。关联规则处理就是利用文本信息处理技术对物联网数据之间的关系进行分析,然后根据实际联系将它们有机地结合起来,作为有效的应用数据进行处理。由此可见,文本信息处理关键技术在物联网数据处理中的应用具有较高的应用价值和意义。
2.3数据储存技术
在数据存储技术方面,分布式文件系统是一种常用的存储方式。该系统是一个大容量的软件框架。该系统的应用对硬件设备要求低,整体灵活性和可调整性强。用户可以根据自己的实际需要自由地调整和更改框架的内容。另外,分布式缓存技术也是常用的数据存储技术之一,以其自身的优势在大数据处理中得到了广泛的应用。分布式缓存技术的应用可以在数据总量较大的情况下减轻数据库的整体负担。它可以通过虚拟内存对数据进行缓存,减少数据信息进入数据库的频率和总量,从而实现数据库的责任和物联网的运行效率。基于分布式文件系统的分布式数据库主要用于数据存储和数据查询,可以有效地提高数据库的存储规模和处理效率。而且,分布式数据库具有很强的共享功能,可以根据客户的需求建立具有分布式特点的数据库系统,具有不同权限的用户可以从数据库系统中获取不同的数据。
2.4提高基层员工的学习积极性
提高物联网技术人员的工作水平,是保证工作效率和数据安全的直接有效方法。要想提高自己的技能,必须结合好几个方面:第一步,经销商要根据自己工作的具体内容,在工作过程中不断练习,同时积累相关知识和经验。同时,由于计算机关键技术是一种高科技,基层员工可能缺乏基础知识,因此这部分还需要开展相关的培训工作。增加员工数量,同时提高工作效率,保质保量,定期召开工作经验交流会。创新是一种极为有效的方式,因此我们鼓励基层员工进行创新,而提升学习积极性非常重要。同时,要加强企业领导乃至基层员工对工作的关注或误解的理解。
结束语
本文描述了当前物联网大数据的碰撞与水平。存在一些问题,包括物联网设计中存在的一些问题和缺陷,缺乏与实际情况相结合,大数据处理过程的管理没有与信息管理相结合,应用前缺乏安全数据处理环节,相关人员专业水平不高针对相对较低,监管缺位的问题我们提出了相应的改进方法:完善设计方案,结合实际情况,信息化管理模式,增加数据处理环节,做好后期工作,提高基层员工的学习积极性等大数据时代向前迈进。
参考文献
[1]马小平,胡延军,缪燕子.物联网、大数据及云计算技术在煤矿安全生产中的应用研究[J].工矿自动化,2014,40(04):5-9.
[2]高连周.大数据时代基于物联网和云计算的智能物流发展模式研究[J].物流技术,2014(11):350-352.
[3]贾晓丰.基于物联网的大数据量实时信息交换策略研究[J].电子政务,2011(04):16-20.
[4]物联网环境下基于上下文的Hadoop大数据处理系统模型[J].计算机应用,2015,35(05):1267-1272.
[5]何愉舟,韩传峰.基于物联网和大数据的智能建筑健康信息服务管理系统构建[J].建筑经济,2015,36(05):101-106.