[周报全文]大数据相关概念的界定与简析

2013-03-01 |  作者:逸凡 |  来源:独家 |  查看原文

摘要通过对大数据相关概念进行明确界定,企业可以正确地规划自己的数据体系,并且对传统的技术方法与新兴的技术方法进行合适的定位。

IT技术迅猛发展,新技术层出不穷,但业界却普遍对许多基本概念产生混淆。在当今最为流行的大数据领域也出现了这样的情况。结构化数据、非结构化数据等概念被频繁引用,各方却往往各执一词。对数据概念的混淆已经在很大程度上影响了企业对其数据体系进行清晰、正确的规划。本文的作者从实际工作出发,试图对一些关键的大数据相关概念给出明确的定义,并进行简要的解析。

一、按数据特征分类

■ 结构化数据

定义:目前其实专指的是关系模型数据,即以关系型数据库表形式管理的数据。绝大多数的企业业务数据都以此格式进行存放。

简析:虽然从专业角度讲,结构化就是关系模型的说法并不准确。但针对目前业内现状,还是将其定义为关系模型数据最为妥当。因为它清晰而准确地代表了我们传统意义上最熟悉的企业业务数据,基本没有歧义。

■ 半结构化数据

定义:半结构化与非结构化常常一同被提及,两者其实专指所有其他“非”结构化数据。但如果想更加清晰地描述,可以将“半结构化数据”定义为:那些非关系模型的、有基本固定结构模式的数据。例如应用日志文件、XML文档、JSON文档和电子邮件等。

简析:从专业的角度讲,上述结构化与半结构化数据都属结构化数据,但建议目前还是采用本定义为妥,否则会引起更大混淆。

■ 非结构化数据

定义:除去结构化与半结构化的所有数据,即没有固定结构模式的数据。例如WORD、PDF、PPT、EXL文档,以及各种格式的图片和视频等。

简析:区分半结构化与非结构化数据的意义在于,目前在企业内对两者的处理方法(包括存储、访问与分析)是不同的。非结构化数据大多采用内容管理的方法,但对半结构化数据基本没有有效管理方法。

事实上,结构化、半结构化与非结构化数据的区分,只是按数据格式进行分类,并且由来已久。严格地讲,结构化与半结构化数据都是有基本固定结构模式的数据(即专业意义上的结构化数据)。但目前业界的情况是,将其中的关系模型数据单独定义为结构化数据,这对企业数据管理现状是可取的,并具有一定的现实意义。

另外,半结构化与非结构化数据与目前流行的大数据之间只是有领域重叠的关系。从本质上来讲,两者并无必然关系。业界有将大数据认同为半结构化与非结构化数据的说法,只是因为大数据技术最先是在半结构化数据领域发挥作用。上面的认识误区是将数据处理技术与数据格式概念混淆,这是不正确的。

二、按数据处理技术分类

■ 大数据(技术)

定义:大数据是最近几年兴起的概念,业界普遍将其定义为具有4个V(数据量大Volume、变化速度快Velocity、多类型Variety与价值密度低Value)特征的数据。实际上,大数据的概念准确地讲应该是指大数据技术,指对海量数据不同于SQL体系的、新的、低成本的处理技术,而不是指数据格式或者其他。

简析:业界对大数据的定义最为混乱,大致有以下几个误区:有将大数据等同于半结构/非结构化数据的,而实际上大数据技术只是最先在半结构化数据领域发挥作用,现在已经渗透到多结构领域;有将大数据等同于Hadoop的,而实际上Hadoop只是在掀起大数据热潮方面发挥了巨大作用;有说大数据就是除企业业务数据库之外的所有数据,但却有很多企业用大数据方法有效地分析与存储某些业务数据。

另外,被内容管理手段管理起来的数据又该如何界定呢?有人说大数据就是互联网特征的数据,那传统企业就没有大数据了吗?有人说大数据就是量很大的数据,这更是无法界定了。其实,仔细分析,还是将其定义为数据处理技术最为准确。除SQL体系与内容管理技术外,大数据技术目前具有很丰富的内容。除此之外,大数据技术一定是强调低成本的。

■关系数据库技术

定义:与数据格式分类中的关系模型相比,这里是指SQL处理体系。

简析:关系型数据库技术依然是企业数据管理的核心,大数据技术的定位需要进一步地考虑与研究。

■ 内容管理技术

定义:主要是指企业对非结构化数据,也包括部分结构化数据按“内容”特征组织、管理与访问的处理方法(+微信关注networkworldweixin),是企业目前除关系型数据库技术之外,最常用的另一重要的技术方法与工具。

简析:是企业目前处理非结构化数据最主要的手段,企业对半结构化数据目前基本没有什么有效管理与利用。

■ 其他技术

定义:企业还可能采用如低成本的分布式文件系统、MySQL联邦、海量内存数据管理技术,以及介于Hadoop与SQL体系之间的新技术(适用于历史数据管理)等其他数据管理技术。这些技术部分可以归入大数据技术的范畴。

简析:互联网行业常用的MySQL联邦是采用关系模型的结构化数据,但却不能等同于分布式关系型数据库。因为它牺牲了完整关系型数据库全局的一致性、完整性保证,却获得了更优秀的扩展性。因此它也属于大数据技术。

除此之外,分布式文件系统使企业对海量小文件管理有了新的方法,也属于大数据技术;低成本海量内存数据管理技术使交易系统的能力进一步实现低成本的提升,也属于大数据技术。可见,大数据技术是面向结构化、半结构化与非结构化数据的,而不只是针对半结构化数据。

因此,大数据更多的是指技术方法,而不是指数据格式,是指除SQL体系与内容管理技术之外,新出现的一些数据管理技术。而大数据所谓的“大”并没有相关的标准。在大数据技术中,Hadoop只是最重要的一个,而不是唯一的一个。

大数据技术可以应对的数据类型中,企业目前还没有有效管理和处理的半结构化数据,只是其最早发挥作用的部分。而实际上,它还可以应对包括结构化、半结构化与非结构化在内的所有数据类型。

总之,须要再次澄清和明确的是,大数据技术一定要是低成本的,否则没有立足点。同时,关系型数据库技术仍然是企业数据管理的核心。内容管理是目前企业组织、存储与访问非结构化数据的主要手段,如果引入大数据技术来处理非结构化数据,除更低成本的考虑外,应该是指内容管理技术尚未涉及的数据分析领域。例如图片、视频分析,但这距离银行等行业的实际需求应该还比较遥远。

企业IT人员对以上概念应该明确界定,可将其数据类型分为“结构化”、“半结构化”和“非结构化”三种。同时,企业可以将数据处理方法划分为“关系数据库技术”、“大数据技术”、“内容管理技术”及其他。在清晰地概念定义基础上,企业不但可以正确地规划自己的数据体系,并且可以对传统和新兴的技术方法进行合适的定位。(更多内容详见: http://www.cnw.com.cn/P/4700)

相关文章