企业大数据分析实践指南有哪些?

在我们身处的时代,数据无处不在。据IBM公司估算,人类每天产生约2.5万ZB的数据,这意味着世界上90%数据都是过去的两年中产生的。Gartner公司分析报告显示,在2015年财富500强的公司中百分之八十五的企业无法利用大数据来获取竞争优势。

大数据

数据无处不在

到2020年,全世界将有上百万大数据相关的就业机会产生。这些庞大的数据蕴藏了宝贵财富,企业可以使用最先进的分析技术,利用这些数据更好地了解客户的行为,识别商业机会,制定运营战略。

让我们举几个例子,金融机构每天通过信用评分模型,了解他们的客户在未来12个月内每种信贷产品(抵押贷款、信用卡、分期贷款)上的信用。他们以该信用评分为基础来进行坏帐准备,计算巴塞尔协议II/III规定所需资本金数量,或是制定营销方案(例如根据信用评分调整信用卡额度)。

电信运营商使用最近通话行为数据建立流失模型,估计客户在未来一到三个月流失的可能性。运营商会根据模型得分来制定营销活动,避免有价值的客户流失。Facebook和Twitter会使用社交媒体分析技术进行内容分析和情感语义分析,以便更好地了解品牌认知度,进一步调整产品服务设计。

亚马逊和Netflix等在线零售商不断地分析顾客的购买行为,以决定产品捆绑销售策略,并利用推荐系统为客户下一次购买推荐产品。信用卡公司使用欺诈检测模型,检测付款是否具有欺骗性,是否发生了信用卡盗刷。政府采用数据分析技术来预测逃税行为,优化公共预算分配,分析交通数据提高公共交通效率,分析预测恐怖袭击保障国家安全。

化数据为价值

数据是任何分析模型成功的基础。当启动分析项目时,有必要详细列出企业内所有可用于分析的数据。这里的原则就是数据越多越好!因为很多分析模型都能自动决定哪些数据对当前分析很重要,哪些数据可以排除在下一步分析之外。

我们的研究不断印证了这样一个观点:改善分析模型最好的办法,就是投资于你的数据!这可以通过数量和质量两个维度的提升来完成。对于前者,一个关键点是如何整合结构化数据(例如关系数据库)和非结构化数据(如文本),提供全方位综合视角进行客户行为分析,另一个关键点则是在线数据和离线数据的整合,很多企业为这个问题所困扰。

此外企业还可以超越其内部边界,考虑从外部数据供应商那里购买外部数据,以弥补其内部数据的不足。大量的研究表明采用外部数据,对比较和完善分析模型非常有用。虽然数据常常体量巨大,但是数据质量经常是一个痛点。GIGO(garbage in garbage out)的原则在这里非常适用,烂数据只会生成烂模型。

听起来显而易见,然而实践中数据质量往往成为许多分析项目的“阿喀琉斯之踵”。数据质量可以分解成很多维度:准确性、完整性、新近度、一致性等。在大数据分析中,企业必须专门制定数据质量管理方案,设立数据审核员、数据管家或数据质量经理等职位,持续监测数据质量。

数据分析应该从商业问题开始,而不是从具体的技术解决方案开始。但是这带有一丝“鸡生蛋,蛋生鸡”的意味。要解决商业问题、识别商业机会,需要对潜在的技术解决方案有了解。以社交媒体分析为例,只有首先了解分析技术后,公司才能开始思考如何利用它们研究在线品牌认知度,进行趋势监测。为了跨越分析技术和业务之间的鸿沟,持续性培训和学习是关键,它能使企业始终屹立在分析技术的潮头,保持竞争优势。在这一点上,学术界应该深刻检讨,因为现有的很多大数据分析(或数据科学)硕士课程无法满足上述的要求。

将数据转化为洞察力和提升价值的另一个关键点是分析模型的验证。分析模型需要适当的机制和工具来进行审核和验证,越来越多的公司将分析团队拆分成模型开发和模型验证两个团队。良好的公司治理能够在两个团队之间筑起一道防火墙,使得由前一小组开发的模型可以客观和独立地被后者团队评估。

公司甚至可以考虑由外部合作伙伴进行模型验证。通过建立分析基础信息设施,公司能够不断基于现有状况对模型进行评估和验证,提升分析模型性能,抓住更多目标客户。