网站域名所有权查询,全网推广的方式有哪些,电商平台的推广及运营思路,wordpress文章显示颜色01 数据仓库的概念 数据仓库的概念可以追溯到20世纪80年代#xff0c;当时IBM的研究人员开发出了“商业数据仓库”。本质上#xff0c;数据仓库试图提供一种从操作型系统到决策支持环境的数据流架构模型。 目前对数据仓库#xff08;Data Warehouse#xff09;的标准定义当时IBM的研究人员开发出了“商业数据仓库”。本质上数据仓库试图提供一种从操作型系统到决策支持环境的数据流架构模型。 目前对数据仓库Data Warehouse的标准定义业界普遍比较认可的是由数据仓库之父比尔·恩门Bill Inmon在1991年出版的“Building the Data Warehouse”《建立数据仓库》一书中所提出数据仓库是一个面向主题的、集成的、相对稳定的非易失的、反映历史变化的数据集合通常用于支持企业管理决策。这个定义有些复杂并且难以理解。下面我们将它分解开来进行说明。 面向主题
传统的操作型系统是围绕组织的功能性应用进行组织的而数据仓库是面向主题的。主题是一个抽象概念简单地说就是与业务相关的数据的类别每一个主题基本对应一个宏观的分析领域。数据仓库被设计成辅助人们分析数据。例如一个公司要分析销售数据就可以建立一个专注于销售的数据仓库使用这个数据仓库就可以回答类似于“去年谁是我们这款产品的最佳用户”这样的问题。这个场景下的销售就是一个数据主题而这种通过划分主题定义数据仓库的能力就使得数据仓库是面向主题的。主题域是对某个主题进行分析后确定的主题的边界如客户、销售、产品都是主题域的例子。 集成
集成的概念与面向主题是密切相关的。还用销售的例子假设公司有多条产品线和多种产品销售渠道而每个产品线都有自己独立的销售数据库。此时要想从公司层面整体分析销售数据必须将多个分散的数据源统一成一致的、无歧义的数据格式后再放置到数据仓库中。因此数据仓库必须能够解决诸如数据分散存储、产品命名冲突、计量单位不一致等问题。当完成了这些数据整合工作后该数据仓库就可称为是集成的。 随时间变化
为了发现业务变化的趋势、存在的问题或者新的机会需要分析大量的历史数据。这与联机事务处理OLTP系统形成鲜明的对比。联机事务处理反映的是当前时间点的数据情况要求高性能、高并发和极短的响应时间出于这样的需求考虑联机事务处理系统中一般都将数据依照活跃程度分级把历史数据迁移到归档数据库中。而数据仓库关注的是数据随时间变化的情况并且能反映在过去某个时间点的数据是怎样的。换句话说数据仓库中的数据是反映了某一历史时间点的数据快照这也就是术语“随时间变化”的含义。当然任何一个存储结构都不可能无限扩展数据也不可能只入不出地永久驻留在数据仓库中它在数据仓库中也有自己的生命周期。到了一定时候数据会从数据仓库中移除。移除的方式可能是将细节数据汇总后删除、将老的数据转储到大容量介质后删除和直接物理删除等。 非易失
非易失指的是一旦进入到数据仓库中数据就不应该再有改变。操作型环境中的数据一般都会频繁更新而在数据仓库环境中一般并不进行数据更新。当改变的操作型数据进入数据仓库时会产生新的记录这样就保留了数据变化的历史轨迹。也就是说数据仓库中的数据基本是静态的。这是一个不难理解的逻辑概念。数据仓库的目的就是要根据曾经发生的事件进行分析如果数据是可修改的将使历史分析变得没有意义。 对数据仓库的概念再来做一个总结我们抓住两个重点第一数据仓库用于支持决策面向分析型数据处理它不同于企业现有的操作型数据库第二数据仓库是对多个异构的数据源有效集成集成后按照主题进行了重组并包含历史数据而且存放在数据仓库中的数据一般不再修改。 02 数据仓库技术发展历程 03 为什么要建立数据仓库 现在大家应该已经熟悉并了解了数据仓库的概念那么数据仓库里的数据从哪里来呢通常数据仓库的数据来自各个业务应用系统。业务系统中的数据形式多种多样可能是Oracle、MySQL、SQL Server等关系数据库里的结构化数据可能是文本、CSV等平面文件或Word、Excel文档中的非结构化数据还可能是HTML、XML等自描述的半结构化数据。这些业务数据经过一系列的数据抽取、转换、清洗最终以一种统一的格式装载进数据仓库。数据仓库里的数据作为分析用的数据源提供给后面的即席查询、分析系统、数据集市、报表系统、数据挖掘系统等。 从以上描述可以看到从存储的角度看数据仓库里的数据实际上已经存在于业务应用系统中那么为什么不能直接操作业务系统中的数据用于分析而要使用数据仓库呢其实这个问题我们可以反过来想一下不建立数据仓库数据分析时直接访问业务系统中的数据会存在哪些问题自然就会有答案了。
我们来列举一些直接访问业务系统无法工作的业务场景 某些业务数据由于安全或其他因素不能直接访问。 很难建立和维护需要汇总来源于多个业务系统数据的报表。 业务系统的数据格式如日期、数字的格式不统一。 业务系统的表结构为事务处理性能而优化有时并不适合查询与分析。 没有适当的位置存储元数据。 通常事务处理的优先级比分析系统高所以如果分析系统和事务处理运行在同一硬件之上分析系统往往性能很差。 有误用业务数据的风险且极有可能影响业务系统的性能。 尽管需要增加软硬件的投入但建立独立数据仓库与直接访问业务数据相比无论是成本还是带来的好处这样做都是值得的。随着处理器和存储成本的逐年降低数据仓库方案的优势更加明显在经济上也更具可行性。 04 数据仓库价值 提供全面准确的业务洞察通过对多源数据的整合和分析数据仓库能够帮助企业获得全面准确的业务洞察发现隐藏在数据中的规律和趋势。 支持决策制定数据仓库能够为企业的决策制定提供有力支持通过多维分析和可视化报表让企业能够更直观地了解业务状况制定更准确的战略。 增强企业竞争力通过数据仓库对市场的洞察力和预测力企业能够更灵活地应对市场变化提高竞争力。 降低运营风险通过对历史数据的分析数据仓库能够揭示出业务发展过程中的问题和风险帮助企业及时调整策略降低运营风险。 05 数据仓库应用场景 针对不同需求的用户 , 数据仓库可以开发如下几种应用即席查询系统(Ad hoc query)、联机分析处理系统(OLAP)、领导信息系统(Executive Information System)、业务流程重整(Business Process Reengineering)。 数据仓库被广泛应用于各大行业 电商行业在电商行业中数据仓库可用于对用户行为、购买偏好、流量分布等进行深入分析为企业提供个性化推荐和营销策略。 金融行业在金融行业中数据仓库可用于对客户画像、风险评估、欺诈检测、市场趋势等进行分析帮助金融机构做出更准确的信贷和投资决策。 医疗行业在医疗行业中数据仓库可用于对病患画像、疾病分布、治疗效果等进行分析为医疗机构提供更精确的疾病诊断和治疗方案。 电信行业在电信行业中数据仓库可用于客户流失预测、网络性能监测、个性化服务推荐帮助企业优化客户服务。 物流行业在电信行业中数据仓库可用于路线优化、仓储管理、供应链可视化帮助企业提高物流效率降低仓储成本。 制造业在制造业中数据仓库可用于对产品生产流程、设备运行状况、质量控制等进行分析提高生产效率和产品质量。
