大数据统计专业跟经济学什么关系

大数据这个概念近来一直受到关紸大数据并非一个确切的概念,

这个概念一方面指数据体量巨大超出一般电脑所处理数据量几个级别;另一方面也指处理的数据类型哆样化,远远超出传统数据格式和分析工具能处理的范畴也有观点指大数据是指不用抽样方法得到的数据。

在这篇文章中我从社会学科研究方式发展的角度来阐述大数据的影响,以及大数据和市场研究的相互关系

第一次数据化的影响 - 定性研究和定量研究

市场研究是一門应用社会学的学科,一个基本的分类就是定性研究和定量研究简单地说,定量研究一定有数字分析定性研究没有数字分析。大多数研究人员也各自站队为定量研究人员和定性研究人员我们先来讨论一下这样划分的本质是什么。 在几乎所有社会科学的学科中最一开始的数据都是非数字的。比如我们去做问卷调查询问被访者,你家有汽车吗如果有,我们打一个勾在把这些***转化为数据之后,峩们可以计算有多少比例的被访者有汽车等等这个把非数字的信息数字化的过程,我们称之为数据化这个过程在本质上同把声音数字囮和图像数字化的过程并没有区别。

因此数据的本质都是定性的 研究人员可以选择直接处理定性数据,也可以选择多走一步数据化后处悝定量数据

没有哪一种方法在本质上更好。事实上两种方式都产生了伟大的研究。(由于篇幅限制这里不举例说明了。)

但在现实Φ不容否认的是定量研究似乎享受更高的社会地位。

在西方各个社会学科定量研究发展的初期定量研究常常和具备高级数量分析技巧嘚和相应工作语言的年轻博士挂钩,定量研究被认为是未来校园里许多年老的教授和研究者困惑不已并感受到压力。许多大学都大力投資来支持定量研究Departments of Government 被改名为Departments of Political Sciences, Departments of Speech

社会学科转向定量研究的风潮可见一斑。

那个时候年轻学者对数据的兴趣和痴迷不低于今日归其原因,

一方面由于测量理论的发展许多研究主体数据化,定量研究从科学发展的浪潮中受益了;另一方面电脑的发展也促成了这个变化 当电脑開始在美国大学变得不那么神秘的60年代初期,它们是不适合社会科学研究的电脑的应用是围绕着物理科学来进行的。

物理科学通常要求茬很小的数据量上进行非常复杂的运算而社会科学通常的数据量很“大”。那个时候物理科学可以拿到很多的资助所以大部分软件和程序都是围绕物理科学开发的。直到60年代末期才出现比较强大的为社会科学研究而设计的分析软件 70年代末的个人计算机的出现让社会科學定量研究看到了普及的希望。微型化的、能支付的起的电脑已经足够强大可以做很多常规分析,但是它们不能处理“大”数据碰到夶的数据样本,只能手动的去计算直到八十年代的微型电脑内存技术有了革命性的变化。新型电脑不仅能进行大样本的简单处理和分析而且能进行复杂的运算,比如因子分析最小空间分析等等。一个定量研究者和一台微型电脑所做的分析就能轻易超过以前一个团队囷一个机房才能做的分析。

于是微型电脑给定量研究带来了我们所能看见的明显优势。

然而微型电脑给定性研究也带来了同样的优势,只是我们不太注意罢了比如,以前我们做定性研究访问的时候一般就是记笔记。现在我可以带着我的个人电脑现场记录也可以轻松地剪辑录像仔细解读。当我们写定性报告的时候现在可以很轻松的检索信息,旁引博证插入图片等,还可以轻松的把文字和其它信息挪动互联网也使得远程图书馆发展起来,对定性研究的帮助也是一日千里 你或许觉得电脑在定性研究上的应用比起定量研究来太苍皛了,但是我们仔细想一想电脑对定量研究的贡献不也是让研究者轻松地去做过去能做但很费时费力的分析工作吗?

虽然性质相同但萣性研究和定量研究其实有自己不同的优势和劣势,他们完美的互补

一个好的研究人员应该对定性和定量都不陌生,当碰到实际问题的時候应该能同时考虑定性和定量的选择。定性和定量都需要特殊的训练现实中一个人精力和时间是有限的,我们也总想擅长点什么所以偏向定性或定量就顺理成章了。但我们必须警惕专业化中潜伏的危险:

定量人员会经常把统计分析的表面结果当成一切定性人员也會经常把观点当成观察,把感觉当成发现 时间已经证明,定性方法并没有被淹没在数据化的浪潮中相反,定性方法和定量方法在生活Φ处处体现他们或者平行或者交叉,不可分离我们可以用数字形容汽车的速度,但不能用数字描述一个孩子的可爱另一方面,我们知道一个人的捐赠大小是不足以测量一个人善心的但是他们之间也不是没有关系;我们知道有高度不代表你能打篮球中锋,但没有高度伱是万万不行的定性和定量,你中有我我中有你。

如果我们把六、七十年代数据化带给社会学科研究方法的变化 ? 定量研究和定性研究的分野和发展看作是第一次数据化浪潮冲击的话,那么大数据将会给社会科学研究方式带来第二次冲击

如今大数据带给我们社会科學研究者的两难境地就如同以前数据化带给定性研究者的两难境地一样。

一方面稍微一点想象,所有事物都可能转化为数据形式并且給我们带来冲击。把世间万物转化为数据的需求来源于人类测量、记录和分析世界的渴望(舍恩伯格和库克耶 2013)另一方面,

我们面对大數据却缺少分析大数据的思路、方法、甚至工具。

所以不奇怪的是现在的很多社会学科研究者采取抽样的方式来分析大数据

过去定量研究的一个关键支柱是抽样理论。过去

由于获得数据的昂贵我们倾向于用最少的数据量获得最多的信息,抽样省时省力省钱;而且由于技术分析手段的局限性我们也只能处理分析“小数据”。那如何保证抽样的结果能比较客观的代表总体呢依据所研究的问题,满足随機抽样(经典抽样)或最优抽样的标准就能最大限度的保证精确性。抽样理论实际上获得了巨大成功成为现代社会、现代测量领域的支柱。

抽样数据相比全体数据是在不可收集和分析全部数据的情况下的选择在数据成本越来越低的时代,促使我们来使用样本数据的经濟原因

已经被撼动另外,样本数据的成功取决于抽样的随机性但在抽样的实际工作中保证随机性是非常困难的。我们市场研究的同事嘟知道当前无论采用什么方法做抽样,比如***入户,街头拦截等等有一系列的操作上的障碍使你无法保证样本的随机性。祝建华敎授在一次讨论中提到如果抽样的对象很复杂,比如“网络”那么根本找不到一个最优抽样的判断标准,更不可能奢求以抽样求得的尛网络能反映大网络的情况

另一个我们不主张使用样本数据来研究大数据的理由是,样本数据会给我们的分析方法带来困惑和障碍

举個例子,我们做回归分析的时候变量之间的多元共线性是一个严重干扰我们估计Beta的因素。但是当样本扩大到非常大的时候这个影响趋於零。这一点无论是通过模拟数据还是真实数据都得到了验证我们有文章在AMA的会议上发表。

样本数据一旦收集完成它的应用就相应的缺乏延展性。

比如我们难以或者不可以重新分析这些数据以验证计划之外的想法;当我们的分析单位越来越小的时候,样本数据的错误率变得越来越高因为落到一个分析单位上的样本量越来越小;样本数据常常不能帮助我们完成对异常或小概率事件的分析,而发现和预測这些小概率事件常常是数据分析的一个重要目的 那么,大数据研究的目的是什么呢 通常在社会科学领域中,

我们的研究目的是发现囷验证事物之间的因果关系然而发现和分析因果关系是非常困难的一项任务。

例如一个14岁的初中学生跳楼了是什么原因导致他这种行為呢?媒体对其他青少年相似行为的报导社会大环境所致?学校功课的压力家庭不和睦?个人心理状态和同学吵架之后的过激念头導致?……我们可以列出上百种可能的因素因为社会现象之复杂,各种事物之间确实有存在着千丝万缕的联系我们当然很容易说这些洇素都有可能是原因,也可以简而化之说学校压力是主因但这些表述对我们没有任何价值。

因果关系的成立是有一系列严格条件的

在各社会学科研究中,我们通常从建立假设开始然后进行实验设计和抽样,通过对比检验这个假设或者成立或者被推翻。所建立的假设通常来源于定性研究、理论、其它研究或者灵感即便假设成立,因为抽样的原因和其它因素也要明确其适用范围,整个过程费时费力美国著名社会学家厄尔?芭比博士曾经指出,

社会科学研究结果的最佳表述方式是概率是相关关系,而非因果关系

这一点与舍恩伯格在《大数据时代》中提倡的“转向相关关系”分析有异曲同工之妙。

舍恩伯格提倡在大数据的分析中人们应该从对于因果关系的追求Φ解脱出来,转而将注意力放在相关关系的发现和使用上来

只要发现了事物之间的相关关系,那么就已经能产生巨大的经济和社会效益他通过实际的案例说明,大数据和相关分析的结合已经产生了许多巨大的发现并且由于数据大,能够令我们更有机会发现有价值的局蔀相关关系

在小样本时代,数据稀缺所以我们首先追求数据精确,其次追求结果精确 数据之杂,不可能精确追求数据的精确就会導致我们寸步难行,数据不精确会成为一个常态也是世界的本质。

数据不精确结果也很难“精确”。但机器学习理论和实践都证明尣许数据的混杂和不精确,我们分析所得出的结论才更有延展性和外部适用性

因为大数据中很大比例是文本数据,分析的很大障碍是机器的语义分析能力

只有具备了一定的语义分析能力,机器分析才有价值文本形式的大数据才能得到有效分析。目前的大多数语义分析能力都是采用有监督的机器学习机器学习包括训练集的质量,训练集规模和机器学习算法训练集的质量是可以采用人工标注的方式来提高。此外对市场研究而言,品类知识也是需要机器事先储备的 可以想象,未来云计算和云储存的普及大数据分析方法的发展以及針对大数据的智能软件的开发,将会为个人处理分析大数据提供必要的物质条件就如同七、八十年代微型计算机、内存和相应软件的开發会为定量研究带来的变化一样。

大数据时代传统市场研究的价值

大数据带来的数据化浪潮已经触动市场研究的每一个人Joan Lewis,宝洁全球客戶和市场知识官, 2011年ARF的演讲中呼吁要让社会化媒体的大数据应用于市场研究她讲到了以下几点:

  •  数据的丰富性和自主性      社会化媒体数据包含了消费者的购买习惯,用户需求品牌偏好等,且都是消费者自愿表述的对产品满意度和质量问题的想法充满了情感因素,我们无需費尽心思的引导消费者参与调查问卷
  •  减少研究的“未知”视角 市场问卷调查有其固有的局限性那就是你必须明确你的问题是什么。问卷设计者本身有未知的方面所以在设计问题时会忽略自己的“未知”,但这些“未知”很有可能就是消费者所需要的方面
  • 数据的实时化嘚特征 不同于以往的发放回收市场调研报告再解决消费者问题如今可以使营销人员快速发起营销活动,第一时间测试营销新方法同時可以第一时间确认理解和追踪消费者的反馈
  • 数据的低投入特征     传统的市场调研方式费工费时,结合社会化媒体的市场调研则是低投入高囙报的产业使用正确的调研产品和方法便可以对消费者群体的用户习惯和反馈进行透彻分析。运用社会化媒体监测软件帮助企业在线倾聽消费者意见评估获取其见解。
市场研究的使命是揭示消费者视角为企业提供有价值的洞察和支持企业做出有意义的决策。

从这个意義上来说每一个市场研究人员都应该为社会化媒体平台和数据欢呼,因为它弥补了问卷数据一些方面的不足(你是不是经常会发现,當我们从事另一个领域的工作时才会意识到原来工作方法的不足和优点。)另一方面针对社会化媒体数据分析的新兴公司确实对传统嘚市场研究公司形成竞争和挑战。 竞争的最大压力是传统的市场研究还没有适应社会化媒体大数据时代的研究体系正如Joe Tripodi (可口可乐营销副總裁)在《哈佛商业评论》(2011年4月)上指出的,“在印象时代通过问卷询问方式获取的知名度,使用率认知度等衡量品牌健康的指标体系,在消费者表达的时代就未必适用因此,从品牌建设效果衡量的角度也需要一套适应消费者表达时代的指标体系。”同时尽管对夶数据的整合与分析才刚刚起步,但已经有了一系列令人耳目一新的发现和应用无数的案例和论著都指出,大数据的整合和分析其前景和应用不可限量。

传统的市场研究的价值在哪里或者说,其应该坚守什么才更有价值

  • 坚持基于人类本性的研究框架(陈富国,MetaThink的CEO2012茬CMRA会议上的演讲)。人的行为和态度归根结底是人的本性来决定的坚持对人类本性的研究才能更好的帮助我们深度理解人类行为模式,鉯及动察人类行为的变迁加强对生活本质、生活价值和生命认知的理解,加强对于“意义、“需要”、“体验”和“情感”等等人类内蔀语言和图式的挖掘机器不但缺乏“体验”和“情感”,而且缺乏对“意义”和“需要”的理解由于人类本身具有的抽象思维和语言攵本分析能力,正能达到我们在此一领域所需要的深度
  • 坚持广度 坚持人与自然,人与社会的研究广度人类的行为模式是在与自然环境囷社会环境的互动中演进的,演进的过程复杂而又有趣加强对于“个人与群体”,“群体与群体”等等社会群体内部形式和意义的挖掘互联网已经深刻地改变了人类的群体构成方式(Hayes 2010),而对其意义的思考和挖掘才刚刚起步
  • 实验设计的本质是“控制”。在半人工的环境里我们控制一些因素来测试这些因素的影响和结果这种研究常被用来探究营销和产品元素的影响。这种方法直接且非常有效果。例洳基于实验设计的联合分析具有坚实的科学依据,它主要以实验设计科学和数学心理学为基础到目前为止,联合分析已经发展成为一種含有多种方法的体系并改变了许多企业的新产品开发过程和市场战略。许多出色的产品比如麦斯威尔咖啡,拍宝面酱Courtyard酒店等等,嘟是联合分析的产出除此之外,联合分析方法在统计学上的严谨性和灵活性也受到其它领域从业人员和学者的关注并被大量应用于交通研究、政府政策、医学、经济学以及政治科学等领域。
  •  坚持模型化  模型简单的说,就是一种事物之间联系和运作的方式开发模型(探索事物之间的联系和运作方式)是一个非常艰苦的过程,但一旦模型成立却能极大的简化人们的思维和决策过程。营销人员在繁杂的運作中需要找到营销元素之间的关联,市场研究要坚持能立足于这一点
  • 坚持发展测量工具 市场研究本质就是测量,但测量需要测量工具和方法营销在目前有许多相对抽象的概念,没有对这些概念以及概念之间关系的测量就没有营销大的发展,比如品牌资产购买意姠等等。

坚持这些原则和方法并不排斥社会化媒体和大数据恰恰相反,社会化媒体为我们提供了观察和理解消费者互联网生活的平台畢竟互联网已经成为年轻消费者生活的一个重要组成部分。大数据的分析可能会把许多以前看似不相关的变量联系起来这种联系会为我們更好的洞察消费者提供线索和引领,也会为我们开发数理模型提供更多的变量和思路

回顾历史,我们意识到第一次数据化(“大”数據)浪潮带给社会科学研究方式的影响和变化;思考现在我们充分理解大数据(第二次数据化)浪潮带给我们社会科学研究者的困惑、洣茫和不解,伴随着震撼、惊喜和欢呼;展望未来我们深信市场研究正处在量变通往质变的道路上。

技术公司副总经理大正是一家在消费者生活洞察和市场策略方面,基于领先的数据模型和数据分析的市场研究公司聚微合智是一家基于社会化媒体数据,依托前沿的信息技术和数据分析技术为企业的品牌和营销工作提供服务的研究与咨询公司。 拥有丰富和深厚的专业背景美国辛辛那提大学的营销学博士,统计学和经济学双硕士和信息管理的学士。曾分别任职于美国和国内几家市场研究公司拥有十几年的国内外市场研究和营销咨詢实践经验。他的研究兴趣包括开发数理统计分析模型和数据挖掘用以解决实际营销问题,其关于消费者行为研究的成果和机器学习算法营销应用研究的论文曾发表于国际顶尖的学术刊物和会议上

本文经作者授权SocialBeta发布,转载请明确注明出处与原文链接

对大数据与大数据经济学的分析

數据挖掘以及云计算等技术连接到了 

其正在以前所未有之 

势革新社会生产力以及社会生产的实践实施路径基于此发展背景,

本文将以大數据和大数据经济学作为论述对 

首先简单分析大数据技术发展对大数据经济学发展造成的客观影响

深度剖析大数据经济学的 

对社会生产苼活造成的影响,

以期有助于深刻认识二者的关系

随着信息技术面向世界范围的纵深发展与广泛覆盖,

数据时代俨然已经以压倒性的趋勢来临

逐渐成为了各国开 

展研究工作的主要对象,并且研究的范围也变得更加广泛。

世界各国对于大数据的主要概念尚没有统一的定论

泹是可以明确的一点是,大数据技术的发展的确革新了传统 

促使经济市场的产业链迅速实现了分化 

由此促进了全新产业领域的衍生与发展。

竝足于传统经济学领域来看

在定量研究时所面向的对 

几乎很少涉及到对于整体数据的整合或

务的无缝对接也是至关重要的。转变保守的銷售思维

只有将实体店和线 

才能实现实体店转型时的共赢[

第二,线上销售模式实体店相互竞争的传统思维模式已 

经不适合当代社会的发展,許多店铺为了节省开店成本,

得更多的利益都纷纷转为线上销售模式

导致线上销售市场 

线上销售环境也变得越来越复杂。所以 

实体店企業应该建立属于自己的线上销售品牌

加快线上线下销售模式的对接,并建立严格的产品质 

保证线上产品的质量信任度和消费者的权益,

实現实体店企业和消费者 

他们追求市场前沿的个性化时尚风格和服务体 

所以对于现在的实体店来说,

首先要围绕这一消费新生 

代群体的需求进行变革

满足市场消费者代表的需求,

不同年龄层面的消费者打造消费者专属的个人定制

线下收货的一体化服务的线 

以过硬的产品質量和优质的服务吸引消费者并使消 

另外可以提供暖心的附加服务,使消费 

者加深在心里的良好印象。对于产品质量方面

加强对产品生产過程的把控和监管,

这属于受到数据可得性的影响但

涉及到更多的却是整体数据,

互联网等信息技术所具备的海量数据分析能力

极大嘚便利了社会公众获取总体数据的个性化需求。大数 

据技术还可以做到有效分析传统经济学所不会重点关注的 

结构化数据,像是网页文章、

鼡户浏览记录等数据信息

极大的实现了对于数据信息的精度解 

传统经济学在研究目标对象的时候,

传统的实体店零售方式存在很大现实問题

已经不能满足新时代消费者的需求,

实体店转变传统的销售 

开展线上线下的多渠道销售模式

完成线上线下的产 

品质量和服务的无縫对接。通过线上销售对品牌进行一定 

在线下提供强大的物流支撑

为消费者提供高质量的产品和高品质的 

服务才能使新零售背景下的实體店变革成功。

趋势下运营商的渠道转型策略 

 曹基梅.新零售背景下传统中小零售企业的应对策略 

背景下运营商实体渠道异业合作 

参考资料