云端的大数据就像科幻小说里对未来的描绘一样:它在这,只是不是很均匀地分布罢了。
高调的厂商,比如AWS、谷歌、微软、IBM和Rackspace等,都提供云基础的Hadoop和NoSQL数据库平台来支持大数据应用程序。很多初创公司都引入了云平台上的管理服务,按需部署自己的系统。大数据和云计算的融合往往是互联网公司的首先项,尤其是初创的软件和数据服务供应商。
但很多主流公司并不像互联网公司那样看重云端数据管理。一些公司担心云端的数据安全和隐私保护。一些公司还在大型机和其他本地系统里运行大部分操作。存储在本地的数据量之大,让数据迁移充满挑战。另外,现存数据中心可用的处理能力让AWS和谷歌等公有云的成本优势不值一提,即使公司对于云系统所谓的降低成本、增加弹性有兴趣,最终也未必会选择它。
花旗集团就是一个例子。随着网络成为普及的应用界面,金融服务公司面对的是洪水般的非结构化数据。它还需要处理线上金融应用程序中不同的数据结构。这些挑战让花旗集团最后选择了MongoDB NoSQL数据库。MongoDB获得了AWS和其他云平台的支持。花旗数据公司负责平台工程的全球领导者Michael Simone表示,花旗选择了在云端应用该软件。不过它应用的是私有云,应用限定在纽约公司的防火墙内,由它的IT部门全权管理。
在纽约的MongoDB大会上,Simone告诉与会者:“目前,我们还没有扩展私有云或集成公有云的打算。花旗集团的数据中心很大,技术积累也很深厚,我们可以构建自己的内部部署的云计算。”
大数据云才刚刚开始
总体来看,在云端运行大数据系统仍然是小众行为。在数据仓库研究院开发的大数据成熟度模型中,十个月内有222名IT和业务专家完成了线上测评,只有19%的人表示它们的组织在用公有云、私有云和混合云支持大数据应用程序。另有40%的人表示正在考虑云部署,同时有超过三分之一的人表示它们没有使用云计算的计划。在企业管理协会和9sight咨询公司开展的线上调查中,云计算使用比例略高:259名受访者中,39%的人表示他们的大数据安装包括云系统。
WeatherChannel公司是采用了公有云的案例,Basho技术公司在AWS可用性区域的多个分区运行了Basho技术公司的NoSQL数据库Riak的复制实例,处理和存储来自卫星、雷达系统、天气站等来源的混合数据。该数据库每五分钟就为预测引擎更新3万6千多地理天气网格的视图,它还用于归档历史数据。
美国TWC公司执行副总裁兼CIO Bryson Koehler认为,Riak的容错技术和同时支持内存和硬盘存储的功能特别好。经过比较,因为处理效果低,主流关系型数据库并不能适应高容量的云环境,至少不能以较低的成本适应高容量的云环境。
但是,在云端部署NoSQL软件也是旨在扩大TWC灵活性的更广泛的IT战略的题中之义。公司在谷歌云和AWS上运行应用程序,以免被任何供应商或技术锁定。
云计算:更多选择 更多可能
公有云供应商已经为了满足大数据需求,已经扩展了数据管理能力,不止包含关系型数据库。例如,亚马逊近几年拓宽了AWS云选项,包含了很多新兴技术,比如NoSQL数据库DynamoDB、Hadoop部署ElasticMapReduce和ElastiCache内存缓存服务、Redshift数据仓库和Kinesis流数据系统。
美国咨询公司Cloud Technology Partners高级副总裁DavidLinthicum表示:“AWS和其他云供应商也创建了相当成熟的服务。一些可用的数据管理云平台已经发展到第五代第六代了。”
对于拥有强大的内部处理能力的大公司来说,给大数据管理池增加云基础的系统并不是必须的。美国云服务咨询公司Nimbo的首席基础架构师Aaron Ebertowski表示:“为什么要企业定购它们已经有了的东西呢?企业已经在存储架构投了成百上千美元,不会轻易舍弃的。”
业绩要求也是公有云不受大数据用户青睐的原因之一。加拿大海洋网络(ONC)是一家非营利性机构,该机构管理着英属哥伦比亚的一对海洋气象台,计划建立一个公司内部私有云,为使用海洋传感器提供数据的应用模拟地震和海啸创造条件。
目标在于更加准确地预测可能发生的自然灾害带来的后果,为政府当局采取预防措施缓解自然灾害给人们带来的影响,Benoit Pirenne这样说道,他是ONC的数字基础设施主管。
需求——充足的大数据力量
该机构位于维多利亚大学,去年春天得到了一项三年项目的批准和资金支持。计划进行的分析工作包括收集传感器的多次测定结果,运行预测模型以得出可能发生的所有情况集。但是完成这项工作需要大量数据和强大的计算能力,Pirenne说道。