以下为《大数据对传统小数据的拓展及其区别与联系》的无排版文字预览,完整内容请下载
大数据对传统小数据的拓展及其区别与联系
数据上:小数据重抽样,大数据重全体,由于传统小数据分析的本质是基于样本推断总体,因此在分析过程中十分注重抽样的科学性,只有抽样是科学的,其推断结果才具有科学意义。而大数据虽然不一定是总体,但由于在建模方法上已经更偏向于机器学习,因此抽样已经不是必要的手段和方法论了.
方法上:小数据重实证,大数据重优化,传统的小数据在方法上更重视实证研究,强调在相关理论的前提下建立假设,收集数据,建立模型并验证假设,而大数据往往更重视方法论中的自我迭代和自我优化过程,可能运算的第一个结果与标准答案相差甚远,但是可以通过与正确答案的不断校准(往往建立损失函数),使得模型的精度不断提高.
目标上:小数据重解释,大数据重预测,小数据的分析往往注重归因分析,探索变量之间的内部影响机理,例如究竟什么样的生活习惯会提高癌症的发病率,但是大数据往往关心的是对于未知对象的预测,例如判别某个人是否患有癌症,或者患有癌症的概率是多少
数据分析目标的意义、过程及其本质
可以认为数据分析涉***运营的方方面面,这包括对企业部门经营情况的评估、内部员工的管理、生产流程的监管、产品结构优化与新产品开发、财务成本优化、市场结构的分析和客户关系的管理,其中,关于客户与市场的数据分析是
“重头戏".下面以客户全生命周期管理为例介绍数据分析运用场景和挖掘主题,如下图所示
业务理解(Business Understanding)
该初始阶段集中在从商业角度理解项目的目标和要求,通过理论分析转化为数据挖掘可 内容过长,仅展示头部和尾部部分文字预览,全文请查看图片预览。 为缺失值,实际上是没有这个业务,值应该为"0")、缺失值(没有客户的收入信息)、一致性(收入单位为人民币,而支出单位为美元)、平稳性(某些数据的均值变化过于剧烈)、重复值(相同的交易被记录两次)和及时性(银行客户的财务数据更新的滞后时长)等方面,这部分的探索主要解决变量是错误时是否可以修改、是否可以使用的问题
变量修改
根据变量探索的结论,需要对数据质量问题和变量分布情况分别作变量修改,数据质量问题的修改涉及改正错误编码、缺失值填补、单位统一等操作,变量分布情况的修改涉及函数转换和标准化方法,具体的修改方法需要与后续的统计建模方法相结合
建模
根据分析的目的选取合适的模型,这部分内容在“数据分析方法分类介绍"已经作了详细的阐述,这里不再整述.
模型检验
这里指模型的样本内验证,即使用历史数据对模型表现的优劣进行评估。比如,对有监督学习会使用ROC曲线和提升度等技术指标评估模型的预测能力。
数据分析中不同人员的角色与职责
业务问题是需求,最终需要转换成统计或数据挖掘等问题,用数据分析的思路来解决,因此数据分析师在业务与数据间起到协调作用,是业务问题能否成功转换成统计问题的关键,通常来说,业务问题需要一个或多个字段来表达,这些字段以什么形式出现(如测量级别),因为字段的形式会决定选择的方法,而每种方法又用于解决特定的需求,此外由于模型对业务人员或企业高管来说可能过于专业,因此需要将模型输出通俗的表达出来,所以协调者、数据分析师、报告人的角色,决定了数据分析师是一名(精通数理和软件的)综合型人才.
[文章尾部最后300字内容到此结束,中间部分内容请查看底下的图片预览]请点击下方选择您需要的文档下载。
以上为《大数据对传统小数据的拓展及其区别与联系》的无排版文字预览,完整内容请下载
大数据对传统小数据的拓展及其区别与联系由用户“Yi54321”分享发布,转载请注明出处