大数据与云计算,融合发展具有巨大优势

大数据,又称巨量资料,指的是所涉及的资料量规模巨大到无法通过当前主流软件工具,在合理时间内获取、管理、处理并整理成为帮助企业经营决策提供更积极目的的信息资产。大数据有以下几个特点:体量巨大、类型繁多、处理速度快、价值密度低,商业价值高。但大数据的意义并不在于大容量、多样性等特征,而在于我们如何对数据进行管理和分析,以及因此而发掘出的数据价值。如果在分析处理上缺少相应的技术支撑,大数据的价值将无从谈起。

具体到企业而言,处于大数据时代的经营决策过程已经具备了明显的数据驱动特点,这种特点给企业的IT系统带来的是海量待处理的历史数据、复杂的数学统计和分析模型、数据之间的强关联以及频繁的数据更新产生的重新评估等挑战。这就要求底层的数据支撑平台具备强大的通讯(数据流动和交换)能力、存储(数据保存)能力以及计算(数据处理)能力,从而保证大量用户的正常访问、高效的数据采集和处理、多模式数据的准确实时共享以及面对需求变化的快速响应。

传统的数据处理和分析技术在这些需求面前开始遭遇瓶颈,而云计算的出现,不仅为我们提供了一种挖掘大数据价值使其得以凸显的工具,也使大数据的应用具有了更多可能性。

大数据与云计算,融合发展具有巨大优势


云计算包含两方面的内容:服务和平台。所以云计算既是商业模式,也是计算模式。云计算既指在互联网上以服务形式提供的应用,也指在数据中心里提供这些服务的硬件和软件。

就目前技术发展来看,云计算以数据为中心,以虚拟化技术为手段来整合服务器、存储、网络、应用等在内的各种资源,并利用SOA架构为用户提供安全、可靠、便捷的各种应用数据服务。它完成了系统架构从组件走向层级然后走向资源池的过程,实现IT系统不同平台(硬件、系统和应用)层面的通用化,打破物理设备障碍,达到集中管理、动态调配和按需使用的目的。

借助“云”的力量,可以实现对多格式、多模式的大数据的统一管理、高效流通和实时分析,挖掘大数据的价值,发挥大数据的真正价值。

大数据与云计算,融合发展具有巨大优势


大数据对数据技术提出更高要求

大数据处理过程,首先是获取和记录数据,其次是完成数据的抽取、标注以及整合、聚集和表达等重要的预处理或处理工作。这需要一个完整的数据分析步骤,通常包括数据过滤、数据摘要、数据分类或聚类等预处理过程,最后进入分析阶段,在这个阶段,各种算法和计算工具会被施加到数据上,以求能得到分析者想要看到的或者可以进行解释的结果。

数据处理过程涉及到庞大的数据量,这一整套处理流程在各个不同阶段都会对传统的技术手段提出挑战。比如,海量的网络设备、海量的在线用户、不间断的网络连接,都在时刻生成大量的、多格式的内容数据和状态信息,这些经由各种客户端(网页、应用或是传感器等)采集而来的信息数据,连同成千上万的访问和操作请求,会以高并发的方式向系统服务器施加巨大压力。

通常为了避免由于服务能力不足而造成服务请求排队的问题,采用负载均衡技术将单个服务器的压力进行分摊,从而大幅提高服务性能。在数据采集时,也会通过在采集端部署大量的数据库来对系统性能提供支撑,然后对采集到的数据(包括各种结构化、非结构化和半结构化数据等)进行数据清理、去重、正规化以及相应的格式转换处理。在按照预定规则进行过滤后,输出到分布式数据存储系统中进行存储,为之后的分析和展示做准备。

在分析阶段,为了完成数据挖掘的目的,通常需要先处理海量的历史数据,构建复杂的数学统计和分析模型,并针对大量的结果之间的关联性做出高效正确的判断,同时还要支持数据更新带来的重新评估。而在展示阶段,则应当隐藏诸如数据存储拓扑和数据存储结构等实现细节,对业务应用暴露规范的数据访问接口,对复杂的数据访问需求提供透明支撑,大大减小业务应用的构建难度。

这些复杂的需求对技术实现和底层计算资源提出了前所未有的要求。所以,为应对这些复杂的大数据处理工作,需要从服务器、网络、存储、软件等各个环节构建一个兼具高可用性和高可靠性的系统环境,提供端到端的全面解决方案。

大数据与云计算,融合发展具有巨大优势


传统的单机处理模式不但成本越来越高,而且不易扩展,并且随着数据量的递增、数据处理复杂度的增加,相应的性能和扩展,瓶颈难题将会越来越突显。在这种情况下,云计算所具备的弹性伸缩和动态调配、资源的虚拟化和系统的透明性、支持多组用户、支持按量计费或按需使用,以及绿色节能等基本要素正好契合了新型大数据处理技术的需求。而以云计算为典型代表的新一代计算模式,以及云计算平台这种支撑一切上层应用服务的底层基础架构,以其高可靠性、更强的处理能力和更大的存储空间、可平滑迁移、可弹性伸缩、对用户的透明性以及可统一管理和调度等特性,正在成为解决大数据处理问题、未来计算技术发展的重要方向。

基于云计算技术构建的大数据平台,能够提供聚合大规模分布式系统中离散的通讯、存储和处理能力,并以灵活、可靠、透明的形式提供给上层平台和应用。它同时还提供针对海量多格式、多模式数据的跨系统、跨平台、跨应用的统一管理手段,并提供高可用、敏捷响应的机制体系来支持快速变化的功能目标、系统环境和应用配置。

比如在基于云计算平台而构建的新型企业信息系统中,在以分布式集群技术构建高性能、高延展的存储平台之后,可以实现对不同业务应用中不同格式、不同访问模式的海量数据的统一存储。相关的数据分析系统则构建于分布式工作流和调度系统框架之上,采用分布式计算手段面向多模式的海量数据提供数据的转换、关联、提取、聚合和数据挖掘等服务。在企业信息系统中经常提到的BI(商业智能)的具体业务功能,比如决策支撑、销售预测等,就可以由上层业务应用通过调用数据分析系统所提供的功能附加业务逻辑来实现。

大数据与云计算,融合发展具有巨大优势


云计算使大数据应用成为可能。没有云计算的出现,大数据将仍是空中楼阁,缺乏根基和落地可能。借助云计算技术,可以提高系统整体的弹性和灵活性,降低管理成本和风险,并且改进应用服务的可用性和可靠性。云计算不仅能为大数据处理打造一个高效、可靠的系统环境,而且还能够充分发挥云计算平台的优势,为大数据应用找到更多样化的出口。

如果说大数据是一座蕴含巨大价值的矿藏,云计算则可以被看作是采矿作业的得力工具。没有云计算的处理能力,大数据的信息沉淀再丰富,或许也只能望洋兴叹,入宝山而空手而归。从另一面角度说,云计算是为了解决大数据等“大”问题发展而来的技术趋势,没有大数据的信息沉淀,云计算的功用也将得不到完全发挥。因此,大数据与云计算是相辅相成的,大数据与云计算的融合发展也会成为必然选择。

声明:本站发布的内容以原创、转载、分享网络内容为主,如有侵权,请联系电话:021-51697771-8029,邮箱:mj@cndns.com ,我们将会在第一时间删除。文章观点不代表本站立场,如需处理请联系我们。

热门TAG

热门视频