以下是一些长篇的讨论。这里我把大数据的核心价值理解为核心商业价值。
“非常多人还没搞清楚什么是PC互联网,移动互联网来了,我们还没搞清楚移动互联的时候,大数据时代又来了。”——马云卸任演讲
本文尝试从三大产业的角度将大数据的核心商业价值分类讨论。
首先例举一些大数据的典型应用。然后解释大数据的定义,最后总结大数据的价值。
我们知道:
- 第一次工业革命以煤炭为基础。蒸汽机和印刷术为标志,
- 第二次工业革命以石油为基础,内燃机和电信技术为标志,
- 第三次工业革命以核能基础,互联网技术为标志,
- 第四次工业革命以可再生能源为基础,_________为标志。
空白处你会填上什么?欢迎大家讨论。可是眼下可以预測的是,数据和内容作为互联网的核心。不论是传统行业还是新型行业,谁领先与互联网融合成功。可以从大数据的金矿中发现暗藏的规律,就行抢占先机,成为技术改革的标志。
一、大数据的应用
大数据挖掘商业价值的方法主要分为四种:
- 客户群体细分,然后为每一个群体量定制特别的服务。
- 模拟现实环境。发掘新的需求同一时候提高投资的回报率。
- 加强部门联系,提高整条管理链条和产业链条的效率。
- 减少服务成本,发现隐藏线索进行产品和服务的创新。
- Mckinsey列出了各个行业利用大数据价值的难易度以及发展潜力。
《Big data: The next frontier for innovation, competition, and productivity》
- 各种Data之间的关系图。注意Open Data是全然包括了Open government data(政府开放数据)
- Mckinsey也列出了Open Data时代里七大行业潜在的经济价值。自上而下各自是教育,运输。消费品、电力、石油与天然气、医疗护理、消费金融。(感谢知友安阳提供的补充链接资料)
大数据的类型大致可分为三类:
- 传统企业数据(Traditional enterprise data):包含 CRM systems的消费者数据。传统的ERP数据,库存数据以及账目数据等。
- 机器和传感器数据(Machine-generated /sensor data):包含呼叫记录(Call Detail Records)。智能仪表,工业设备传感器,设备日志(一般是Digital exhaust),交易数据等。
- 社交数据(Social data):包含用户行为记录,反馈数据等。如Twitter,Facebook这种社交媒体平台。
从理论上来看:全部产业都会从大数据的发展中受益。但因为数据缺乏以及从业人员本身的原因,第一、第二产业的发展速度相对于第三产业来说会迟缓一些。
1985年。我国国家统计局明白地把我国产业划分为三大产业:
- 农业(包含林业、牧业、渔业等)定为第一产业。
- 工业(包含採掘业、制造业、自来水、电力、蒸汽、煤气)和建筑业定为第二产业。
- 把第一、二产业以外的各行业定为第三产业。
第三产业 即除第一、第二产业以外的向全社会提供各种各样劳务的服务性行业, 主要是服务业 。当中第三产业可详细分为两大部门:一是流通部门;二是服务部门。再细分又可分为四个层次:
- 第一层次,流通部门。包含交通运输行业、邮电通讯行业、物资供销和仓储行业。
- 第二层次,为生产和生活服务的部门。包含金融业、商业饮食业、保险业、地质普查业、房地产业、公用事业、技术服务业和生活服务修理业务;
- 第三层次,为提高科学文化水平和居民素养服务的部门。
包含教育文化、广播电视事业、科学研究事业、卫生、体育和社会福利事业;
- 第四层次。为社会公共须要服务的部门。包含国家机关、党政机关、社会团体、以及军队和警察公安司法机关等。
我们能够看出。因为某些客观原因,相对于第一产业和第二产业来说。第三产业凭借自身的优势,大多汇聚了当前最海量的数据以及大批的科研中坚力量。接下来让我们看一些典型样例,当前新形势下与三大产业密切相关的大数据应用。
(1).第一产业
- 孟山都(),农业
该公司眼下也是基因改造(GE)种子的率先生产商,占领了多种农作物种子70%–100%的市场份额,而在美国本土。更占有整个市场的90%。已经统治了生物project种子业务超过十年。
孟山都首先发起“Green Data Revolution”运动,建立农业数据联盟(Open Ag Data Alliance)来统一数据标准,让农民不用懂“高科技”也能享受大数据的成果。
典型的应用如农场设备制造商John Deere与DuPont Pioneer当前联合提供“决策服务(Decision Services)”。农民仅仅需在驾驶室里拿出平板电脑。收集种子监视器传来的数据。然后将其上传给server,终于server返回化肥的配方到农场拖拉机上。
- 天气意外保险公司()。农业
前不久从Google Ventures、Founders Fund等多家公司获得超过5000万美元的风险投资。 2013年被孟山都收购。
- 土壤抽样分析服务商(),农业
农户既能够通过公司开发的No Wait Nitrate系统在田间进行分析即时获取数据;也能够把土壤样本寄给该公司的实验室进行分析。2012年获得Andreessen Horowitz 领投的1700万美元投资后。已累计融资近2000万美元。
了解很多其它:
(2).第二产业
2013年9月。工业和信息化部公布了《关于印发信息化和工业化深度融合专项行动计划(2013-2018年)》的通知。明白提出推动 物联网 在工业领域的集成创新和应用:
实施物联网发展专项。在重点行业组织开展试点示范。以传感器和传感器网络、RFID、 工业大数据的应用为切入点,重点支持生产过程控制、生产环境检測、制造供应链跟踪、远程诊断管理等物联网应用。促进经济效益提升、安全生产和节能减排。
大数据的业务多是数据驱动型,具有 数据量大、种类多、实时性高 的特点。工业企业对数据的记录以往看来主要分为两种方法:传统的纸笔和Excel电子表格记录。这些操作起来看似简单的数据管理方式为企业生产及质量监控埋下了巨大的隐患,也让数据挖掘无从谈起。
随着信息化与工业化的融合发展。信息技术渗透到了工业企业产业链的各个环节。比如Sensor、RFID、Barcode、物联网等技术已经在企业中得到初步应用,工业大数据也開始逐渐得到积累。企业中生产线快速运转时机器所产生的数据量不亚于计算机数据。并且数据类型多是非结构化数据,对数据的实时性要求也更高。
因此工业大数据所面临的问题和挑战非常多。所以通用电气公司(General Electric)的副总裁兼全球技术总监William Ruh觉得相对于工业大数据来说,工业互联网(Industrial Internet)才是当前急需的,由于大数据本身并没有让信息的提取更加智能,业务比数据本身更加重要。他举了一个核磁共振成像扫描的样例:
Here’s an example. An MRI scan is the best way to see inside the human body. While effective in helping to diagnose multiple sclerosis, brain tumors, torn ligaments and strokes, the data produced by an MRI machine is disconnected from the person that needs it the most.
At a very simplistic level, there are many individuals working as a team to make the scan happen. A nurse administers medications or contrast agents that may be needed for the exam; an MRI technologist operates the scanner; and a radiologist identifies the imaging sequences to be used and interprets the images. This information is then given to the nurse, who then passes it to the primary doctor to review and take action accordingly. This is Big Data, but it is not making information more intelligent.
又如在工业中。压力、温度等数据的特点是须要语境才干理解的。燃气轮机排气装置上的温度读数与一台机车的内部温度是全然不同的。燃气轮机改善热敷须要使用很复杂的算法执行模型。在笔记本电脑上,一个典型的查询要获得答案一般须要三个星期。在基于大数据的分布式系统上公布相同的查询执行一种计算仅仅须要不到一秒钟。
- 第三方认证机构()。工业
- 工业自己主动化软件商(),工业
Wonderware 的实时数据管理软件可以提供一个工厂所须要的从建立到报废的全部实时数据。眼下已经退出移动版本号,project总监在手机上就行随时随地监控设备的执行状况。眼下全球超过三分之中的一个的工厂应用Wonderware公司的软件解决方式。
了解很多其它:
(3).第三产业
这一个部分的内容比較多。
这里仅仅提出一些典型的应用样例,欢迎补充。
- 健康与医疗:的健身腕带能够收集有关我们走路或者慢跑的数据,比如行走步数、卡路里消耗、睡眠时长等数据与健康记录来改善我们的健康状况;等公司正在开发床垫监測传感器。自己主动监測和记录心脏速率、呼吸速率、运动和睡眠活动。该传感器收集的数据以无线方式被发送到智能手机和平板电脑进行进一步分析;美国公共卫生协会()开发用来的症状。通过大数据分析生成报告显示用户所在地区的流感活动。
- 视频:互联网电视可以追踪你正在看的内容,看了多长时间。甚至可以识别多少人坐在电视机前。来确定这个频道的流行度。美国国内规模最大的商业视频流供应商。收集的数据包含用户在看什么、喜欢在什么时段观看、在哪里观看以及使用哪些设备观看等。甚至记录用户在哪视频的哪个时间点后退、快进或者暂停,乃至看到哪里直接将视频关掉等信息。典型的应用是Netflix公司利用数据说服BBC又一次翻拍了电视连结剧《纸牌屋》,并且成功的挖掘出演员Kevin Spacey和导演David Fincher的支持者与原剧集粉丝的关联性,确定新剧拍摄的最佳人选。
When the program, a remake of a BBC miniseries, was up for purchase in 2011 with David Fincher and Kevin Spacey attached, the folks at Netflix simply looked at their massive stash of data. Subscribers who watched the original series, they found, were also likely to watch movies directed by David Fincher and enjoy ones that starred Kevin Spacey. Considering the material and the players involved, the company was sure that an audience was out there.
- 交通:《》通过分析公交车上GPS定位系统每天的位置和时间数据,结合时刻表预測出每一辆公交车的到站时间;WNYC开发的通过开源行程平台(Github:和)获取的数据将纽约市划分成2930个六边形,模拟出从每个六边形中点到边缘的时间(地铁和步行,时间是上午九点)。终于建模出4290985条虚拟线路。
用户仅仅需点击地图或者输入地址就能知道地铁到达每个位置的时间;实时交通数据採集商的口号是(永不迟到!^^),通过记录每位用户在行驶过程中的实时数据比如行驶车速,所在位置等信息并进行数据汇总分析。而后计算出最佳线路,让用户可以避开拥堵。
- 电子商务: 是一家预測商品价格并为消费者提出购买时间建议的创业公司。通过抓取亚马逊、百思买、新蛋及全球各大站点上数以十亿计的数据进行分析。终于整合在一个页面中方便消费者对照查看,而且可以预測产品的价格趋势。帮助用户确定商品的最好购买时机。已经于2013年被 eBay收购。
- 政治:奥巴马在总统竞选中使用大数据分析来收集选民的数据,让他能够专注于对他最感兴趣的选民,谷歌运行董事长Eric Schmidt当时向奥巴马的大数据分析团队投资数百万美元并聚拢核心成员成立了咨询公司。该公司将会将在奥巴马连任竞选中所获得的经验应用到商业和非营利行业中。
(了解很多其它能够看看MIT technology的文章)
- 金融: 是由是Google的前任 CIO,Douglas Merrill创立金融数据分析服务提供商,使用机器学习算法和大数据为放款者提供承保模式,旨在为那些个人信用不良或者不满足传统银行贷款资格的个人提供服务。公司使用分析模型对每位信贷申请人的上万条原始信息数据进行分析。仅仅需几秒时间便能够得出超过十万个行为指标。眼下违约率比行业平均水平低 60%左右。另外一个不得不提到的是风险管理先驱者,通过大数据分析为银行和信用卡发卡机构、保险、医疗保健、政府和零售行业提供服务。FICO 信用分计算的基本思想是:把借款人过去的信用历史资料与数据库中的全体借款人的信用习惯相比較,检查借款人的发展趋势跟常常违约、任意透支、甚至申请破产等各种陷入財务困境的借款人的发展趋势是否相似。
FICO 已经为三分之二的世界 100 强银行提供服务。提高了客户忠诚度和盈利率、降低欺诈损失、管理信贷风险、满足监管与竞争要求并高速获取市场份额。
想了解很多其它的企业能够看看附录中《经济学人》的文章《》。
- 电信:採用平台开展大数据工作。通过集成数据综合分析客户流失的原因。依据分析结果优化网络布局为客户提供了更好的体验,在一个季度内将流失率减半;韩国新成立一家公司。通过大数据分析用户的使用行为,在用户做出决定之前推出符合用户兴趣的业务防止用户流失。
美国公司将记录用户在Wifi网络中的地理位置、网络浏览历史记录以及使用的应用等数据销售给广告客户。
比方当用户距离商家非常近时,就有可能收到该商家提供的折扣非常大的电子优惠券。英国公司公布了新的安全数据分析服务Assure Analytics—,帮助企业收集、管理和评估大数据集,将这些数据通过可视化的方式呈现给企业,帮助企业改进决策。
一般来说盈利性质的商业公司和企业都不会轻易泄露自己的数据、建模方法和分析过程,所以还有非常多大家不知道的神奇应用潜伏在黑暗里。如同《三体》中的”黑暗森林法则“。
宇宙就是一座黑暗森林。每一个文明都是带枪的猎人,像幽灵般潜行于林间。轻轻拨开挡路的树枝。竭力不让脚步发出一点儿声音,连呼吸都必须小心翼翼:他必须小心,由于林中到处都有与他一样潜行的猎人,假设他发现了别的生命。能做的仅仅有一件事:开枪消灭之。在这片森林中。他人就是地狱。就是永恒的威胁,不论什么暴露自己存在的生命都将非常快被消灭。这就是宇宙文明的图景。这就是对费米悖论的解释。
二、大数据的定义
大数据(Big Data)是指“无法用现有的软件工具提取、存储、搜索、共享、分析和处理的海量的、复杂的数据集合。
”业界通经常使用4个V(即Volume、Variety、Value、Velocity)来概括大数据的特征。
- 数据体量巨大(Volume)。截至眼下。人类生产的全部印刷材料的数据量是200PB,而历史上全人类说过的全部的话的数据量大约是5EB(1EB=210PB)。
- 数据类型繁多(Variety)。相对于以往便于存储的以文本为主的结构化数据。非结构化数据越来越多,包含网络日志、音频、视频、图片、地理位置信息等,这些多类型的数据对数据的处理能力提出了更高要求。
- 价值密度低(Value)。价值密度的高低与数据总量的大小成反比。怎样通过强大的机器算法更迅速地完毕数据的价值“提纯”成为眼下大数据背景下亟待解决的难题。
- 处理速度快(Velocity)。
大数据区分于传统数据挖掘的最显著特征。依据IDC的“数字宇宙”的报告,估计到2020年,全球数据使用量将达到35.2ZB。
看看专家们怎么说。
- 舍恩伯格,
- 埃里克·西格尔,
随着越来越多的数据被记录和整理,未来预測分析必然会成为全部领域的关键技术。
- 城田真琴。
从数据的类别上看,“大数据”指的是无法使用传统流程或工具处理或分析的信息。
它定义了那些超出正常处理范围和大小、迫使用户採用非传统处理方法的数据集。
三、大数据的价值
了解了大数据的典型应用。理解了大数据的定义。这时相信在每一个人的心中。关于大数据的价值都有了自己的答案。2010年《Science》上刊登了一篇文章指出,尽管人们的出行的模式有非常大不同。但我们大多数人相同是可以预測的。这意味着我们可以依据个体之前的行为轨迹预測他或者她未来行踪的可能性,即93%的人类行为可预測。
Limits of Predictability in Human Mobility
A range of applications, from predicting the spread of human and electronic viruses to city planning and resource management in mobile communications, depend on our ability to foresee the whereabouts and mobility of individuals, raising a fundamental question: To what degree is human behavior predictable? Here we explore the limits of predictability in human dynamics by studying the mobility patterns of anonymized mobile phone users. By measuring the entropy of each individual’s trajectory, we find a 93% potential predictability in user mobility across the whole user base. Despite the significant differences in the travel patterns, we find a remarkable lack of variability in predictability, which is largely independent of the distance users cover on a regular basis.
而 大数定理 告诉我们,在试验不变的条件下,反复试验多次,随机事件的频率近似于它概率。“有规律的随机事件”在大量反复出现的条件下,往往呈现差点儿必定的统计特性。
举个样例,我们向上抛一枚硬币。硬币落下后哪一面朝上本来是偶然的。但当我们上抛硬币的次数足够多后,达到上万次甚至几十万几百万次以后。我们就会发现,硬币每一面向上的次数约占总次数的二分之中的一个。偶然中包括着某种必定。
随着计算机的处理能力的日益强大, 你能获得的数据量越大,你能挖掘到的价值就越多。
实验的不断重复、大数据的日渐积累让人类发现规律,预測未来不再是科幻电影里的读心术。
- 假设银行能及时地了解风险。我们的经济将更加强大。
- 假设政府可以减少欺诈开支,我们的税收将更加合理。
- 假设医院可以更早发现疾病,我们的身体将更加健康。
- 假设电信公司可以减少成本。我们的话费将更加廉价。
- 假设交通动态天气可以掌握。我们的出行将更加方便。
- 假设商场可以动态调整库存,我们的商品将更加实惠。
终于。我们都将从大数据分析中获益。
四、结束语。
Here's the thing about the future.关于未来有一个重要的特征
Every time you look at it,每一次你看到了未来
it changes because you looked at it.它会跟着发生改变 由于你看到了它
And that changes everything else.然后其他事也跟着一起改变了
数据本身不产生价值,怎样分析和利用大数据对业务产生帮助才是关键。
祝每个DMer都挖掘到金矿和快乐:)
參考文献:
[1].《大数据时代》作者维克托迈尔舍恩伯格的演讲
[2].
[3].
[4].
[5].
[6].
[7].
[8].
[9].
[10].
[11].
版权声明:本文博主原创文章,博客,未经同意不得转载。