青羊区城市数据洞察

    我在这里整理一个表格不同时代数据源的差异性（备注可能整理的有点不全）：数据平台的用户：总结下来互联网的数据平台“服务”方式迭代演进大约可以分为三个阶段。阶段一：约在2008年-2011年初的互联网数据平台，那时建设与使用上与非互联网数据平台有这蛮大的相似性，主要相似点在数据平台的建设角色、与使用到的技术上。老板们、运营的需求主要是依赖于报表、分析报告、临时需求、商业智能团队的数据分析师去各种分析、临时需求、挖掘，这些角色是数据平台的适用方。ETL开发工程师、数据模型建模、数据架构师、报表设计人员，同时这些角色又是数据平台数据建设与使用方。数据平台的技术框架与工具实现主要有技术架构师、JAVA开发等。用户面对是结构化的生产数据、PC端非结构化log等数据。ELT的数据处理方式（备注在数据处理的方式上，由传统企业的ETL基本进化为ELT）。现在的淘宝是从2004年开始构建自己的数据仓库，2004年是采用DELL的6650单节点、到2005年更换为IBM的P550再到2008年的12节点Rac环境。在这段时间的在IBM、EMC、Oracle身上的投入巨大(备注：对这段历史有兴趣可以去度娘：“【深度】阿里巴巴的技术发展路径“)。数据在计算机科学中，数据的定义是指所有能输入到计算机并被计算机程序处理的符号的介质的总称。青羊区城市数据洞察

    大数据平台该怎样搭建呢？请看下面这幅图，不管我之前在阿里还是在腾讯工作，还是到哪个企业工作，基本上我都是通过这幅图进行一些简单的适应企业的调整，就可以完全搬过来使用了。针对上面这幅图，有几点跟大家讲解说明下：1）大数据平台由三个平台+一个服务组成：工具平台，大数据仓库基础平台、大数据门户，其中，工具平台又包含运维平台和数据采集平台，大数据门户又包含大数据分析平台和大数据产品应用平台。2）讲讲每个平台的作用。运维平台主要负责整个大数据平台的任务调度、任务监控、元数据管理、权限管理等，分别由调度系统、任务监控中心、元数据管理系统、权限管理系统等系统组成。大数据采集平台主要负责把数据采集到大数据仓库平台中。企业的大数据来源从大的角度来说，主要是从三个方面获取数据，业务系统、行为日志采集系统、外部数据来源。每一个方面来源又包含途径，大家可以看上面的图就了解。这里特别要强调的是外部数据来源，可以通过网络爬虫工具收集，通过和相应的合作方进行数据交换，通过从数据商那里采购过来，也有极少部分可以通过一些大公司的开放平台接口获取，比如阿里、腾讯等。大数据基础平台，在传统的关系数据库时代。武汉市场数据解决方案非结构化数据随着云计算、大数据、物联网等新兴技术的蓬勃发展呈现出井喷式的增长。

    数据采集的三大要点：采集的多方面性：采集的数据量足够大具有分析价值、数据面足够支撑分析需求。比如查看app的使用情况这一行为，我们需要采集从用户触发时的环境信息、会话、以及背后的用户id，、需要统计这一行为在某一时段触发的人数、次数、人均次数、活跃比等。采集的多维性：数据更重要的是能满足分析需求。灵活、快速自定义数据的多种属性和不同类型，从而满足不同的分析目标。比如“查看app的使用情况”这一行为，我们需要采集用户使用的app的哪些功能、点击频率、使用时常、打的app的时间间隔等多个属性。才能使采集的结果满足我们的数据分析！采集的高效性：高效性包含技术执行的高效性、团队内部成员协同的高效性以及数据分析需求和目标实现的高效性。

    维度表上又关联了其他维度表。这种模型使用过程中会造成大量的join，维护成本高，性能方面也较差，所以一般不建议使用。尤其是基于hadoop体系构建数仓，减少join就是减少shuffle，性能差距会很大。c.星座模型星座模型，是对星型模型的扩展延伸，多张事实表共享维度表。数仓模型建设后期，当一个星型模型为一个实体，又有多个是实体，实体间又共用维表(这个是很常见的)，就自然成了星座模型了。大部分维度建模都是星座模型。构建企业级数据仓库，必不可少的就是制定数仓规范。包括命名规范，流程规范，设计规范，开发规范等。开发规范示例：开发语言，传统数仓一般SQL/Shell为主，互联网数仓又对Python、Java、Scala提出了新的要求。不管是传统数仓，还是基于Hadoop生态的构建的(hive、spark、flink)数仓，SQL虽然戏码在下降，但依然是重头戏。在数仓中sql的基本操作既简单又实用，sql中比较复杂和重要的就是join，下面用一张图清晰的解释了各种join的逻辑SQL开发规范：在大数据生态，不管哪种数据处理框架，总有都会孵化出强大SQL的支持。如HiveSQL，SparkSQL，BlinkSQL等。但本质上还是SQL.数据治理大数据时代必不可少的一个重要环节，可从元数据管理、业务实体数据。数据库就像是按行列顺序排列的很科学的数据整合。

    同时淘宝的数据集群也变为国内比较大的数据仓库集群。随着2010年引入了hadoop&hive平台进行新一代的数据平台的构建，此时的Greenplum因为的IO吞吐量以及有限的任务并发安排到了网站日志的处理以及给分析师提供的数据分析服务。该阶段的数据模型是根据业务的特性采用退化、扁平化的模型设计方式去构建的。阶段二：互联网的数据平台除了受到技术、数据量的驱动外，同时还来自数据产品经理梳理用户的需求按照产品的思维去构建并部署在了数据的平台上。互联网是一个擅长制造流程新概念的行业。约在2011年到2014年左右，随着数据平台的建设逐渐的进入快速迭代期，数据产品、数据产品经理这两个词逐渐的升温以及被得到认可（备注：数据产品相关内容个人会在数据产品系列中做深入分享），同时数据产品也随着需求、平台特性分为面向用户级数据产品、面向平台工具型产品两个维度分别去建设数据平台。企业各个主要角色都是数据平台用户。各类数据产品经理（偏业务数据产品、偏工具平台数据产品）推进数据平台的建设。分析师参与数据平台直接建设比重增加。数据开发、数据模型角色都是数据平台的建设者与使用者（备注：相对与传统数据平台的数据开发来说。大数据是信息技术发展的必然产物。高新区购物中心数据价格

数据分析是指用适当的统计分析方法对收集来的大量数据进行分析。青羊区城市数据洞察

    普遍采用实时性的数据处理方式在现如今人们的生活中，人们获取信息的速度较快。为了更好地满足人们的需求，大数据处理系统的处理方式也需要不断地与时俱进。目前大数据的处理系统采用的主要是批量化的处理方式，这种数据处理方式有一定的局限性，主要是用于数据报告的频率不需要达到分钟级别的场合，而对于要求比较高的场合，这种数据处理方式就达不到要求。传统的数据仓库系统、链路挖掘等应用对数据处理的时间往往以小时或者天为单位。这与大数据自身的发展有点不相适应。大数据突出强调数据的实时性，因而对数据处理也要体现出实时性。如在线个性化推荐、实时路况信息等数据处理时间要求在分钟甚至秒极。要求极高。在一些大数据的应用场合，人们需要及时对获取的信息进行处理并进行适当的舍弃，否则很容易造成空间的不足。在未来的发展过程中，实时性的数据处理方式将会成为主流，不断推动大数据技术的发展和进步。 青羊区城市数据洞察

成都达智咨询股份有限公司成立于1999-01-07，位于成都市人民东路61号，公司自成立以来通过规范化运营和高质量服务，赢得了客户及社会的一致认可和好评。公司主要产品有数据调研分析，数据采集，数据策略咨询，数据智慧科技系统等，公司工程技术人员、行政管理人员、产品制造及售后服务人员均有多年行业经验。并与上下游企业保持密切的合作关系。达智咨询,达智方舆,达智品诺,达智智业以符合行业标准的产品质量为目标，并始终如一地坚守这一原则，正是这种高标准的自我要求，产品获得市场及消费者的高度认可。我们本着客户满意的原则为客户提供数据调研分析，数据采集，数据策略咨询，数据智慧科技系统产品售前服务，为客户提供周到的售后服务。价格低廉优惠，服务周到，欢迎您的来电！