首页 > 其他分享 >数据仓库基本概念

数据仓库基本概念

时间:2023-07-05 10:04:20浏览次数:43  
标签:4.2 数据库 数据仓库 业务 历史数据 数据 基本概念

数据仓库基本概念

一、数据仓库诞生原因

随着互联网的普及,信息技术已经深入到各行各业,并逐步融入到企业的日常运营中。然而,当前企业在信息化建设过程中遇到了一些困境与挑战。

1.1历史数据积存

过去企业的业务系统往往是在较长时间内建设的,很少进行大面积的改造或者升级,历史数据留存在业务系统中。随着业务的不断增长,历史数据使用频率低,业务数据库中的历史数据越来越多,大量历史数据堆积,从而影响了业务数据库的性能。

1.2信息系统分散

企业各个部门自己建立的独立数据抽取系统会导致数据不一致,难以进行数据整合,不同系统的数据口径不统一、不规范。这导致了数据结构复杂,开发难度大,分析难以标准化,数据应用难度大。

业务数据库面向于业务系统,而数据仓库面向于业务分析。为了满足企业数据分析需要,数据仓库应运而生。

二、数据仓库的基本特点

数据仓库主要用来对积存的历史数据进行存储和管理,并使用一些分析方法对数据进行分析和整理(如OLAP、数据分析),从而提供大量数据支持,为企业构建BI打下坚实基础。

数据仓库有以下特点:

2.1集成

原始数据是从多个数据源获得,如文件、数据库等。要将这些来源不同的原始数据整合到一个数据库中,就必须对这些源进行抽取、清洗、转换。

2.2面向主题

数据仓库为数据分析提供服务,根据主题将原始数据集合在一起。

 

2.3时变性

数据仓库会定期接受、集成新的数据,从而反映出数据的最新变化。

2.4非易失性

数据仓库中保存的数据是一系列历史快照,一旦进入数据仓库,就不允许被修改。同时,对数据仓库中保存的数据进行查询、分析时,也只能通过专门的工具进行。

 

三、数据仓库和数据库的区别

数据库是面向事务设计的,主要操作是随机读写。在设计过程中,为了避免冗余,常采用符合范式的规范来设计。

数据仓库是面向主题设计的,主要操作为批量读取和写入。数据仓库关注数据整合和分析,会引入冗余,采用反范式的方式进行设计。

 

四、数据仓库建设方案

传统数据仓库和大数据数据仓库是两种不同类型的数据仓库,需要采用不同的建设方案。

4.1传统数仓

传统数据仓库通常是由关系型数据库组成的 MPP (大规模并行处理)集群来进行数据存储和运算,采用一定的数据模型,如星型模型、雪花模型等,来设计数据仓库的结构。但是,随着应用系统的发展,其扩展性受到了很大限制,并且随着业务应用的不断增加,也逐渐产生了一些热点问题。

 

4.2大数据仓库

大数据数据仓库通常采用分布式计算技术,如Hadoop、Spark等作为存储和计算引擎,使用工具或编程语言设计处理逻辑,实现对不同数据源的汇聚、清洗、计算和分析。大数据数据仓库利用了大数据天然的扩展性来完成海量数据的存放,同时也把SQL转换成了针对大数据计算引擎的任务,实现数据的分析。

虽然大数据数据仓库具有很多优点,但是仍然存在一些挑战和问题:

4.2.1SQL的支持率比较低

大数据计算引擎有自己的语言和逻辑,所以有些SQL查询无法很好地转换成它们能够理解的任务。

4.2.2缺少事务支持

因为大数据计算引擎本质上是分布式的,并且数据分散在多个节点上,所以很难实现完整的事务支持。

4.2.3数据量较少时计算速度可能比较慢

大数据数据仓库可以通过计算资源的横向扩展来提高计算速度,所以当数据量较少时,可能需要较长的时间来完成分析。

 

标签:4.2,数据库,数据仓库,业务,历史数据,数据,基本概念
From: https://www.cnblogs.com/hole/p/17527729.html

相关文章

  • 一些Java编程中的基本概念
    介绍一些编程中的基本概念,比如:标识符、变量、常量、数据类型、运算符、基本数据类型的类型转换等。二进制和十进制的转化1.十进制整数转换为二进制整数采用"除2取余,逆序排列"法。2.二进制转十进制采用“权相加法”。注释在Java中根据注释的功能不同,主要分为单行注释、多行注......
  • 数据仓库性能测试方法论与工具集
    目录目录目录数据仓库v.s.传统数据库数据仓库性能测试案例性能指标测试方案测试场景测试数据集测试用例性能指标测试脚本工具基准环境准备硬件环境软件环境测试操作步骤Cloudwave执行步骤导入数据集TestCase1.执行13条标准SQL测试语句TestCase2.执行多表联合join拓......
  • 嵌入式 Linux 开发基本概念
    交流群一:QQ群:869222007(鸿蒙开发/Linux/嵌入式/驱动/资料下载)交流群二:QQ群:536785813(单片机-嵌入式)公 众 号:百问科技版本日期作者说明V12020韦东山技术文档1.2.1嵌入式Linux开发有哪些内容?嵌入式Linux系统,就相当于一套完整的PC软件系统。Windows为例:①电脑一开机,那些界......
  • 数据库与数据仓库
    数据仓库,英文名称为DataWarehouse,可简写为DW或DWH。数据仓库的目的是构建面向分析的集成化数据环境,为企业提供决策支持(DecisionSupport)。它出于分析性报告和决策支持目的而创建。企业中一般先有数据库,然后有数据仓库,可以没有数据仓库,但是不能没有数据库。数据仓库不是大型的数......
  • 12.1 内部类基本概念
    democlassOuter{ //外部类 privateStringmsg="www.mldn.cn"; //私有成员属性 publicvoidfun(){ //普通方法 Innerin=newInner(); //实例化内部类对象 in.print(); //调用内部类方法 } classInner{ //......
  • 量子力学的起源和基本概念
    亲爱的读者,欢迎回到我们的量子力学系列文章。在我们的第一篇文章中,我们进行了量子力学的总体介绍。今天,我们将深入探讨量子力学的起源和一些基本概念。量子力学的起源可以追溯到20世纪初,当时的科学家们遇到了一些古典物理无法解释的问题。其中最突出的两个问题是黑体辐射问题和......
  • boost asio相关的使用-基本概念
    1端点boostasio的endpoint的使用,可以将ip和端口合并成一个端点(endpoint),端点是使用某个端口连接到的一个地址。不同类型的socket有它自己的endpoint类,比如ip::tcp::endpoint、ip::udp::endpoint和ip::icmp::endpoint如果想连接到本机的80端口,你可以这样做:ip::tcp::endpoint......
  • 数据仓库-用户留存率实例详解
    用户留存率是衡量产品或服务对用户价值的重要指标之一。它衡量了在特定时间段内新增用户中有多少人保持活跃并继续使用产品或服务。用户留存率的高低直接反映了产品对用户的吸引力、用户满意度以及用户粘性的程度。本篇博客将详细解释用户留存率的概念,并给出计算公式,帮助企业更好地......
  • 数据仓库-用户留存率实例详解
    用户留存率是衡量产品或服务对用户价值的重要指标之一。它衡量了在特定时间段内新增用户中有多少人保持活跃并继续使用产品或服务。用户留存率的高低直接反映了产品对用户的吸引力、用户满意度以及用户粘性的程度。本篇博客将详细解释用户留存率的概念,并给出计算公式,帮助企业更好地......
  • 数据仓库-用户留存率实例详解
    用户留存率是衡量产品或服务对用户价值的重要指标之一。它衡量了在特定时间段内新增用户中有多少人保持活跃并继续使用产品或服务。用户留存率的高低直接反映了产品对用户的吸引力、用户满意度以及用户粘性的程度。本篇博客将详细解释用户留存率的概念,并给出计算公式,帮助企业更好地......