制图:张芳曼
当你用一分钟,看完这行文字的时候:
新浪已经发送了2万条微博,苹果已经下载了4.7万次应用,淘宝已经卖出了6万件商品,人人网发生了30万次访问,百度产生了90万次搜索查询。
2010年印刷版《大英百科全书》,32册,重达58.5公斤。然而,它的全部内容,还装不满一个4G的U盘。有鉴于此,《大英百科全书》出版社今年3月对外宣布,不再推出印刷版,内容全面数字化。
在宽带化、移动互联网、物联网、社交网络、云计算的催生下,一个大数据的时代,不经意间顺理成章地翩然而至。不久前,沣西大数据产业园悄然落户陕西省西咸新区,发展大数据产业正在“试水”。
全球数据总量在以每两年翻一番的速度增长
从事广告文化创意行业的何先生,清晰地记得,从12年前购买的仅有20GB硬盘容量的家用计算机,到为满足使用需求而不断扩容的80GB、120GB、250GB、500GB的主机存储空间,变化很快。“如今2TB的硬盘都不够用,还得靠移动存储设备来备份。”
根据IDC(国际数据公司)的监测统计,2011年全球数据总量已经达到1.8ZB(1ZB等于1万亿GB,1.8ZB也就相当于18亿个1TB的移动硬盘),而这个数值还在以每两年翻一番的速度增长,预计到2020年全球将总共拥有35ZB的数据量,增长近20倍。
由于数据规模的急剧膨胀,各行业累积的数据量越来越巨大,数据类型也越来越多、越来越复杂,已经超越了传统数据管理系统、处理模式的能力范围,于是“大数据”这样一个在含义上趋近于“无穷大”的概念才会应运而生。
“首先在于体量大,是一个数据全集的概念”,国家工信部软件服务业司司长陈伟为大数据概括出四方面特征,“第二是类型多,包括结构化数据、半结构化数据、非结构化数据等多种类型,其中视频数据在目前占到了90%以上的总额;第三要求速度快,需要以秒级为目标进行实时动态处理。”
“最后在于价值密度”,陈伟认为,由于大量有用和可能没用的数据并存,“遍地是金子,又遍地是沙子”,所以大数据的目的就在于从庞大的数据集合中找寻有价值的数据和知识,通过分析挖掘为各行业提供真正的智慧,“可以说21世纪是‘数据钻出石油’的时代。”
“以交互数据为例,目前一些自媒体平台,比如新浪微博,每天都有超过2500万条的微博信息在发布,里面有很多有价值的信息尚未得到发掘”,中国电子信息产业发展研究院副总工程师李峻认为,在这样庞大的非结构化数据背后,如何利用大数据技术,从海量堆积的交互数据当中发现带有趋势性、前瞻性的讯息,就能够发现并产生巨大的社会价值和商业价值。
一个小苹果背后的大数据:数据之和的价值远大于数据的价值之和
“由于数据的存储、分析、应用等方面的商业运营方式还没有定型,这个行业发展的潜力、创新空间都十分巨大”,陕西省西咸新区管委会副主任、沣西新城管委会主任刘宇斌打了一个“小苹果背后的大数据”的简单比方:
以陕西省苹果产业发展为例,诸如某品种苹果种在哪里最适宜生长所需要的空间地理信息数据,与具体产区的苹果产量、含糖量等数据叠加,并通过物联网等手段赋予苹果可追溯的唯一“身份”,在种植过程中实时监控,由每一个苹果“反馈”收集而成的数据,假如足够海量,就整合而成了大数据。
拥有了这些数据,首先可以通过数据租售服务的方式与潜在客户产生价值,“此类商业模式体现了数据之和的价值远远大于数据的价值之和。”
其次,如能运用组群分析、数据挖掘等科学方法,辅以云计算、分布式存储等手段,则可以对数据展开深层次分析和预测服务,“哪些苹果品质最好,市场反应更好,明年产量销量会怎样,各地市场对苹果购买的喜好会有何变化”,这种数据深挖及其背后的消费者行为预测分析,曾是统计学家的特权,未来则可能花费几分钟时间就可以完成。