1.2 大数据的概念

随着大数据时代的到来，“大数据”已经成为互联网信息技术行业的流行词汇。关于“什么是大数据”这个问题，大家比较认可关于大数据的“4V”说法。大数据的4个“V”，或者说是大数据的4个特点，包含4个层面：数据量大（Volume）、数据类型繁多（Variety）、处理速度快（Velocity）和价值密度低（Value）。

1.2.1 数据量大

人类进入信息社会以后，数据以自然方式增长，其产生不以人的意志而转移。从1986年到2010年的20多年时间里，全球数据量增长了100倍，今后的数据量增长速度将更快。我们正生活在一个“数据爆炸”的时代。今天，世界上只有25%的设备是联网的，大约80%的上网设备是计算机和手机，而在不远的将来，将有更多的用户成为网民，汽车、家用电器、生产机器等各种设备也将接入互联网。随着Web 2.0和移动互联网的快速发展，人们已经可以随时随地通过微博、微信等发布各种信息。以后，随着物联网的推广和普及，各种传感器和摄像头将遍布我们工作和生活的各个角落，这些设备每时每刻都在自动产生大量数据。

综上所述，人类社会正经历第二次“数据爆炸”（如果把印刷在纸上的文字和图形也看作数据，那么人类历史上第一次“数据爆炸”发生在造纸术和印刷术发明的时期）。各种数据产生速度之快，产生数量之大，已经远远超出人类可以控制的范围，“数据爆炸”成为大数据时代的鲜明特征。根据著名咨询机构互联网数据中心（Internet Data Center,IDC）做出的估测，人类社会产生的数据一直都在以每年50%的速度增长，也就是说，每两年就增加一倍多，这被称为“大数据摩尔定律”。这意味着，人类在最近两年产生的数据量相当于之前产生的全部数据量之和。2020年，全球总共拥有约44ZB （数据存储单位之间的换算关系见表1-3）的数据量，与2010年相比，数据量将增长近40倍。

随着数据量的不断增长，数据所蕴含的价值会从量变发展到质变。举例来说，受到照相技术的制约，早期我们只能每分钟拍1张，随着照相设备的不断改进，处理速度越来越快，发展到后来，就可以每秒拍1张，而当有一天发展到每秒可以拍10张以后，就产生了电影。当照片数量的增长带来质变时，照片就发展成了电影。同样的量变到质变，也会发生在数据量的增长过程之中。

1.2.2 数据类型繁多

大数据的数据来源众多，科学研究、企业应用和Web应用等都在源源不断地生成新的类型繁多的数据。生物大数据、交通大数据、医疗大数据、电信大数据、电力大数据、金融大数据等，都呈现出“井喷式”增长，所涉及的数据量十分巨大，已经从TB级别跃升到PB级别。各行各业，每时每刻，都在生成各种不同类型的数据。

（1）消费者大数据。中国移动拥有超过8亿的用户，每日新增数据量达到14TB，累计存储量超过300PB；阿里巴巴的月活跃用户超过5亿，单日新增数据量超过50TB，累计超过数百PB；百度月活跃用户近7亿，每日处理数据量达到100PB；腾讯月活跃用户超过9亿，数据量每日新增数百 TB，总存储量达到数百 PB；京东每日新增数据量达到1.5PB,2016年累计数据量达到100PB，年增300%；今日头条日活跃用户近3000万，每日处理数据量达到7.8PB;30%国人吃外卖，周均3次，美团用户近6亿，每日处理数据量超过4.2PB；滴滴打车用户超过4.4亿，每日新增轨迹数据量达到70TB，处理数据量超过4.5PB；我国共享单车市场，拥有近2亿用户，超过700万辆自行车，每日骑行量超过3000万次，每日产生约30TB数据；携程旅行网每日线上访问量上亿，每日新增数据量达到400TB，存储量超过50PB；小米公司的联网激活用户超过3亿，小米云服务数据量达到200PB。

（2）金融大数据。中国平安有约8.8亿客户的脸谱和信用信息，以及近5000万个声纹库；中国工商银行拥有约5.5亿个人客户，全行数据量超过60PB；中国建设银行用户超过5亿，手机银行用户达到1.8亿，网银用户超过2亿，数据存储量达到100PB；中国农业银行拥有约5.5亿个人客户，日处理数据达到1.5TB，数据存储量超过15PB；中国银行拥有约5亿个人客户，手机银行客户达到1.15亿，电子渠道业务替代率达到94%。

（3）医疗大数据。一个人拥有约1014个细胞、3×109个碱基对，一次全面的基因测序产生的个人数据量可以达到100GB～600GB。华大基因公司2017年产出的数据量达到1EB。在医学影像中，一次3D核磁共振检查可以产生约150MB数据（一张CT图像约150MB）。2015年，美国平均每家医院需要管理约665TB数据，个别医院年增数据量达到PB级别。

（4）城市大数据。一个8Mbit/s摄像头1小时产生的数据量是3.6GB,1个月产生数据量约为2.59TB。很多城市的摄像头多达几十万个，1个月的数据量达到数百PB，若需保存3个月，则存储的数据量会达到EB级别。北京市政府部门数据总量，2011年达到63PB,2012年达到95PB, 2018年达到数百PB。全国政府大数据加起来为数百个甚至上千个阿里巴巴大数据的体量。

（5）工业大数据。Rolls Royce公司对飞机引擎做一次仿真，会产生数十TB的数据。一个汽轮机的扇叶在加工中就可以产生约0.5TB的数据，扇叶生产每年会收集约3PB的数据。叶片运行每日产生约588GB的数据。美国通用电气公司在出厂飞机的每个引擎上装20个传感器，每个引擎每飞行1小时能产生约20TB数据并通过卫星回传，使其每天可收集PB级数据。清华大学与金风科技共建风电大数据平台，2万台风机年运维数据量约为120PB。

综上所述，大数据的数据类型非常丰富，但是，总体而言可以分成两大类，即结构化数据和非结构化数据。其中，前者占10%左右，主要是指存储在关系数据库中的数据；后者占90%左右，种类繁多，主要包括邮件、音频、视频、位置信息、链接信息、手机呼叫信息、网络日志等。

如此类型繁多的异构数据，对数据处理和分析技术提出了新的挑战，也带来了新的机遇。传统数据主要存储在关系数据库中，但是，在类似Web 2.0等应用领域中，越来越多的数据开始被存储在 NoSQL 数据库中，这就必然要求在集成的过程中进行数据转换，而这种转换的过程是非常复杂和难以管理的。传统的联机分析处理（On Line Analytical Processing,OLAP）和商务智能工具大都面向结构化数据，而在大数据时代，用户友好的、支持非结构化数据分析的商业软件将迎来广阔的市场空间。

1.2.3 处理速度快

大数据时代的数据产生速度非常快。在Web 2.0应用领域，在1分钟内，新浪微博可以产生2万条微博，Twitter可以产生10万条推文，苹果可以产生下载4.7万次应用的数据，淘宝可以卖出6万件商品，百度可以产生90万次搜索查询的数据。大名鼎鼎的大型强子对撞机（Large Hadron Collider,LHC），大约每秒产生6亿次的碰撞，每秒生成约700 MB的数据，同时有成千上万台计算机在分析这些碰撞。

大数据时代的很多应用都需要基于快速生成的数据给出实时分析结果，用于指导生产和生活实践。因此，数据处理和分析的速度通常要达到秒级响应，这一点和传统的数据挖掘技术有着本质的区别，后者通常不要求给出实时分析结果。

1.2.4 价值密度低

大数据虽然看起来很“美”，但是其数据价值密度远远低于传统关系数据库中的数据。在大数据时代，很多有价值的信息都是分散在海量数据中的。以小区监控视频为例，如果没有意外事件发生，连续不断产生的数据都是没有任何价值的，当发生偷盗等意外情况时，也只有记录了事件过程的那一小段视频有价值。但是，为了能够获得发生偷盗等意外情况时的那一段宝贵的视频，我们不得不投入大量资金购买监控设备、网络设备、存储设备，耗费大量的电能和存储空间，来保存摄像头连续不断传来的监控数据。

如果这个实例还不够典型，那么我们可以想象另一个更大的场景。假设一个电子商务网站希望通过微博数据进行有针对性的营销，为了达到这个目的，就必须构建一个能存储和分析新浪微博数据的大数据平台，使之能够根据用户微博内容进行有针对性的商品需求趋势预测。愿景很美好，但是现实代价很大，这可能需要耗费几百万元构建整个大数据团队和平台，而最终带来的企业销售利润增加额可能会比投入低许多，从这点来说，大数据的价值密度是较低的。