首页 > 其他分享 >OushuDB 产品基本介绍——表

OushuDB 产品基本介绍——表

时间:2023-02-07 10:35:59浏览次数:32  
标签:基本 01 int 分区 sales 介绍 prt date OushuDB


1、表
OushuDB表由行(rows)和(columns)组成。每一个列有一个列名和一个数据类型,一个表的列数和列的顺序是固定的。一个表的行数是可变的。SQL并不假设表中行的顺序。当读一个表时,除非显示要求排序,返回的行会以任意顺序出现。另外,SQL并不给每一行一个唯一标志符,所以,一个表中具有同样几个同样的行是可能的。
创建一个表可以使用create table命令。在命令里面,需要指定表名,列名以及列的类型。例如:

create table my_first_table (first_column text,second_column integer
);

上面的命令创建了一个两列的表,一列为文本类型,一列为整数类型。删除刚刚创建的表可以使用drop table命令。

drop table my_first_table;

2、表的存储格式
OushuDB现在支持多种存储格式:AO,Parquet,ORC,MagmaAP。AO是按行存储的格式,而Parquet,ORC,MagmaAP是按列存储的格式。 其中MagmaAP 是在4.0.0.0发布的全新的存储格式。MagmaAP,ORC都支持update/delete,支持事务, 且MagmaAP还支持index。
注:和GPDB类似,之前OushuDB版本支持CO格式,但CO格式不适合集群大和分区多的情况,后续新版本去除了CO支持。
对于各种格式的表的建表语法,下面给出了几个例子。

# 默认创建的是AO表
CREATE TABLE rank1 (id int, rank int, year smallint,gender char(1), count int );# 和上面的创建的表一样,显式指定存储格式类型
CREATE TABLE rank2 (id int, rank int, year smallint,gender char(1), count int ) with (appendonly =true, orientation =row);# 创建一个snappy压缩的AO表
CREATE TABLE rank3 (id int, rank int, year smallint,gender char(1), count int ) with (appendonly =true, orientation =row, compresstype = snappy);# 创建一个snappy压缩的Parquet表,如果不指定压缩类型的话,默认不压缩。
CREATE TABLE rank3 (id int, rank int, year smallint,gender char(1), count int ) with (appendonly =true, orientation =parquet, compresstype = snappy);# 创建一个不压缩的ORC表,如果不指定压缩类型的话,默认不压缩。
CREATE TABLE rank3 (id int, rank int, year smallint,gender char(1), count int ) with (appendonly =true, orientation =orc);# 创建一个带压缩的ORC表,需指定压缩类型。
CREATE TABLE rank3 (id int, rank int, year smallint,gender char(1), count int ) with (appendonly =true, orientation =orc, compresstype = lz4);# 创建一个压缩的magma表, magma 内部自动实现了压缩。
CREATE TABLE rank3 (id int, rank int, year smallint,gender char(1), count int ) format 'magmaap';# 创建一个有primary key的magma表, magma 内部自动实现了压缩。
CREATE TABLE rank3 (id int, rank int, year smallint,gender char(1), count int,primary key(id) ) format 'magmaap';

3、表的分布
在OushuDB中,表可以两种方式分布方式:基于Hash的分布和Random分布。基于Hash的分布方法基于分布列的Hash值进行分布,Random分布采取随机分布模式。
创建表时用户不指定分布方式的时候非magmaap表默认使用Random分布,magmaap表目前不支持Random 分布。下面这个两个例子等价。

CREATE TABLE rank (id int, rank int, year smallint,gender char(1), count int );CREATE TABLE rank (id int, rank int, year smallint,gender char(1), count int );
DISTRIBUTED RANDOMLY;

下面这个例子创建一个Hash分布的表,分布的Key使用三个列(rank, gender, year)的组合,数据分布到32个bucket里面。
如果不指定bucketnum的话,系统默认使用default_hash_table_bucket_number系统参数的值来做为bucketnum。

CREATE TABLE rank (id int, rank int, year smallint,gender char(1), count int )
WITH (bucketnum = 32)
DISTRIBUTED BY (rank, gender,year);

4、Hash分布和Random分布的选取
非Magma表: Random分布的表较灵活,在系统扩容添加节点后无需重新分布数据。而Hash分布的表在系统扩容后,为了利用新增加节点的计算能力,需要重新分布数据。另外,针对Hash分布的表资源管理器在分配资源的时候采取分配固定virtual segment数的方式,不如Random分布灵活。
Hash分布的表在某些查询上会有性能上的好处,因为有时可以避免重新分布某些表。
例如下面例子的查询,如果lineitem和orders两张表分别按照l_orderkey和o_orderkey分布,则这个查询在执行时不再需要重新分布任何一张表就可以并行在各个节点并行执行连接操作。

SELECT l_orderkey, count(l_quantity)
FROM lineitem, orders
WHERE l_orderkey = o_orderkey

针对绝大多数查询,实验表明都不是网络瓶颈,基于Hash分布和基于Random分布性能差别不大。所以我们建议用户默认采取Random分布, 只针对特定需要优化的场合使用Hash分布的表。
Magma表具备的Hash和random 表的优势,通过 default_magma_hash_table_nvseg_per_node 来控制每个节点能启动的virtual segment数。 在系统扩容后不需要重新分布数据。
5、Hash分布的表bucketnum的选取
针对Hash分布的表,bucketnum决定了一个查询的并行度。在一些常见的硬件配置中(128G内存和12块SAS盘),我们建议选取6 * 节点数或者8 * 节点数。 硬件更好的话可以增加bucketnum。在系统初始化的时候,default_hash_table_bucket_number的初始化默认值为8 * 节点数。Magma table 使用default_magma_hash_table_nvseg_per_node, 表示每个节点是virtual segment 的个数。:
6、表分区
针对大的数据仓库事实表,往往我们可以通过对表进行分区的方式来把一个很大的表拆分成多个子表。这样的话,有两个好处:

  • 查询优化器可以针对分区表进行优化,如果查询只设计到某些分区,则查询计划只需要扫描这些分区,从而加速查询
  • 如果我们按照日期进行分区的话,我们可以简单的加入分区和删除过期的分区。

OushuDB支持基于Range和List的两种分区方式。

  • Range分区:依据数值范围进行分区,比如日期,价格等
  • List分区:依据一个值的列表进行分区,比如地区等

下面我们通过例子说明这两种分区的使用方式。
Range分区

# 创建一个sales表,按照date列Range分区,从2008年到2009年每月创建一个分区postgres=# CREATE TABLE sales (id int, date date, amt decimal(10,2))
PARTITION BY RANGE (date)
( START (date '2008-01-01') INCLUSIVEEND (date '2009-01-01') EXCLUSIVEEVERY (INTERVAL '1 month') );

查看创建的表信息,d+给出该表的所有信息

postgres=# \d+ salesAppend-Only Table "public.sales"Column |     Type      | Modifiers | Storage | Description
--------+---------------+-----------+---------+-------------id | integer | | plain |date | date | | plain |amt | numeric(10,2) | | main |
Compression Type: None
Compression Level: 0
Block Size: 32768
Checksum: f
Child tables: sales_1_prt_1,sales_1_prt_10,sales_1_prt_11,sales_1_prt_12,sales_1_prt_2,sales_1_prt_3,sales_1_prt_4,sales_1_prt_5,sales_1_prt_6,sales_1_prt_7,sales_1_prt_8,sales_1_prt_9
Has OIDs: no
Options: appendonly=true
Distributed randomly
Partition by: (date)

你也可以显式得声明子分区并指定子表名字。

CREATE TABLE sales_exp (id int, date date, amt decimal(10,2))
PARTITION BY RANGE (date)
( PARTITION Jan08 START (date '2008-01-01') INCLUSIVE ,PARTITION Feb08 START (date '2008-02-01') INCLUSIVE ,PARTITION Mar08 START (date '2008-03-01') INCLUSIVE ,PARTITION Apr08 START (date '2008-04-01') INCLUSIVE ,PARTITION May08 START (date '2008-05-01') INCLUSIVE ,PARTITION Jun08 START (date '2008-06-01') INCLUSIVE ,PARTITION Jul08 START (date '2008-07-01') INCLUSIVE ,PARTITION Aug08 START (date '2008-08-01') INCLUSIVE ,PARTITION Sep08 START (date '2008-09-01') INCLUSIVE ,PARTITION Oct08 START (date '2008-10-01') INCLUSIVE ,PARTITION Nov08 START (date '2008-11-01') INCLUSIVE ,PARTITION Dec08 START (date '2008-12-01') INCLUSIVEEND (date '2009-01-01') EXCLUSIVE );

查看创建的表信息

postgres=# \d+ sales_expAppend-Only Table "public.sales_exp"Column |     Type      | Modifiers | Storage | Description
--------+---------------+-----------+---------+-------------id | integer | | plain |date | date | | plain |amt | numeric(10,2) | | main |
Compression Type: None
Compression Level: 0
Block Size: 32768
Checksum: f
Child tables: sales_exp_1_prt_apr08,sales_exp_1_prt_aug08,sales_exp_1_prt_dec08,sales_exp_1_prt_feb08,sales_exp_1_prt_jan08,sales_exp_1_prt_jul08,sales_exp_1_prt_jun08,sales_exp_1_prt_mar08,sales_exp_1_prt_may08,sales_exp_1_prt_nov08,sales_exp_1_prt_oct08,sales_exp_1_prt_sep08
Has OIDs: no
Options: appendonly=true
Distributed randomly
Partition by: (date)

下面是另外一个根据Range分区的例子,这次使用的是整型列进行分区。这里面我们添加了一个DEFAULT PARTITION, 在不满足其他分区的条件下,数据会被插入DEFAULT PARTITION。

CREATE TABLE rank (id int, rank int, year int, gender char(1), count int)
PARTITION BY RANGE (year)
( START (2001) END (2008) EVERY (1),DEFAULT PARTITION extra );

7、List分区
下面的例子创建了一个基于List的分区表。List分区表可以基于任意支持等值比较的数据类型。对与List分区,你需要 显式的指定所有子分区。

postgres=# CREATE TABLE rank (id int, rank int, year int, gender char(1), count int )
PARTITION BY LIST (gender)
( PARTITION girls VALUES ('F'),PARTITION boys VALUES ('M'),DEFAULT PARTITION other );

查看表信息

postgres=# \d+ rankAppend-Only Table "public.rank"Column |     Type     | Modifiers | Storage  | Description
--------+--------------+-----------+----------+-------------id | integer | | plain |rank | integer | | plain |year | integer | | plain |gender | character(1) | | extended |count | integer | | plain |
Compression Type: None
Compression Level: 0
Block Size: 32768
Checksum: f
Child tables: rank_1_prt_boys,rank_1_prt_girls,rank_1_prt_other
Has OIDs: no
Options: appendonly=true
Distributed randomly
Partition by: (gender)

8、多级分区
你可以使用SUBPARTITION模版定义多级分区。下面的例子定义了一个两级分区表,第一级安装date列进行Range分区,第二级按照region列进行List分区。

CREATE TABLE sales (trans_id int, date date, amount decimal(9,2), region text)
PARTITION BY RANGE (date)
SUBPARTITION BY LIST (region)
SUBPARTITION TEMPLATE
( SUBPARTITION usa VALUES ('usa'),SUBPARTITION asia VALUES ('asia'),SUBPARTITION europe VALUES ('europe'),DEFAULT SUBPARTITION other_regions)
(START (date '2011-01-01') INCLUSIVEEND (date '2012-01-01') EXCLUSIVEEVERY (INTERVAL '1 month'),DEFAULT PARTITION outlying_dates);

注:当你在使用多级分区的时候,系统会产生大量的小表,有些表可能没有数据或包含很少数据,这样会对系统元数据管理产生过多压力。 建议不要创建具有过多分区的表。一般限制分区数在100或以内比较合理。
9、查看你的分区设计
你可以通过pg_partitions视图来查看你的分区表设计。例如通过下面的语句可以查看出sales表的分区设计。

postgres=# SELECT partitionboundary, partitiontablename, partitionname, partitionlevel, partitionrank
postgres-# FROM pg_partitions
postgres-# WHERE tablename='sales';partitionboundary | partitiontablename | partitionname | partitionlevel | partitionrank
------------------------------------------------------------------------------------------------------+--------------------+---------------+----------------+---------------START ('2008-01-01'::date) END ('2008-02-01'::date) EVERY ('1 mon'::interval) WITH (appendonly=true) | sales_1_prt_1 | | 0 | 1START ('2008-02-01'::date) END ('2008-03-01'::date) EVERY ('1 mon'::interval) WITH (appendonly=true) | sales_1_prt_2 | | 0 | 2START ('2008-03-01'::date) END ('2008-04-01'::date) EVERY ('1 mon'::interval) WITH (appendonly=true) | sales_1_prt_3 | | 0 | 3START ('2008-04-01'::date) END ('2008-05-01'::date) EVERY ('1 mon'::interval) WITH (appendonly=true) | sales_1_prt_4 | | 0 | 4START ('2008-05-01'::date) END ('2008-06-01'::date) EVERY ('1 mon'::interval) WITH (appendonly=true) | sales_1_prt_5 | | 0 | 5START ('2008-06-01'::date) END ('2008-07-01'::date) EVERY ('1 mon'::interval) WITH (appendonly=true) | sales_1_prt_6 | | 0 | 6START ('2008-07-01'::date) END ('2008-08-01'::date) EVERY ('1 mon'::interval) WITH (appendonly=true) | sales_1_prt_7 | | 0 | 7START ('2008-08-01'::date) END ('2008-09-01'::date) EVERY ('1 mon'::interval) WITH (appendonly=true) | sales_1_prt_8 | | 0 | 8START ('2008-09-01'::date) END ('2008-10-01'::date) EVERY ('1 mon'::interval) WITH (appendonly=true) | sales_1_prt_9 | | 0 | 9START ('2008-10-01'::date) END ('2008-11-01'::date) EVERY ('1 mon'::interval) WITH (appendonly=true) | sales_1_prt_10 | | 0 | 10START ('2008-11-01'::date) END ('2008-12-01'::date) EVERY ('1 mon'::interval) WITH (appendonly=true) | sales_1_prt_11 | | 0 | 11START ('2008-12-01'::date) END ('2009-01-01'::date) EVERY ('1 mon'::interval) WITH (appendonly=true) | sales_1_prt_12 | | 0 | 12
(12 rows)

10、添加一个分区
你可以通过下面的语句添加一个分区。

ALTER TABLE sales ADD PARTITIONSTART (date '2009-02-01') INCLUSIVEEND (date '2009-03-01') EXCLUSIVE;

如果你在创建表的时候没有使用subpartition template,你需要在添加分区的时候给出子分区定义,例如:

ALTER TABLE sales ADD PARTITIONSTART (date '2009-02-01') INCLUSIVEEND (date '2009-03-01') EXCLUSIVE( SUBPARTITION usa VALUES ('usa'),SUBPARTITION asia VALUES ('asia'),SUBPARTITION europe VALUES ('europe') );

你也可以单独修改一个二级分区:

CREATE TABLE sales_two_level (trans_id int, date date, amount decimal(9,2), region text)
PARTITION BY RANGE (date)
SUBPARTITION BY LIST (region)
SUBPARTITION TEMPLATE
( SUBPARTITION usa VALUES ('usa'),SUBPARTITION asia VALUES ('asia'),SUBPARTITION europe VALUES ('europe'))
(START (date '2011-01-01') INCLUSIVEEND (date '2012-01-01') EXCLUSIVEEVERY (INTERVAL '1 month'),DEFAULT PARTITION outlying_dates);ALTER TABLE sales_two_level ALTER PARTITION FOR (RANK(12))ADD PARTITION africa VALUES ('africa');

其中RANK(12)表示第12个分区。
注:指定一个分区可以使用

PARTITION FOR (value) or PARTITION FOR(RANK(number))语法。

如果你的分区表有一个Default分区的话,你不可以向该分区表添加分区,你只可以通过分裂Default分区的方法来添加分区。
11、重命名分区
Partitioned tables use the following naming convention. Partitioned subtable names are subject to uniqueness requirements and length limitations.
分区表使用以下的命名规则。
<parentname>_<level>_prt_<partition_name>
例如:sales_1_prt_jan08指的是父表名字为sales,第一级分区名字为jan08的分区。在创建Range分区表时, 如果没有指定分区名字,分区的名字会自动生成为数字。
改变父表的名字同时会改变分区表的名字。例如:

postgres=# ALTER TABLE sales_two_level RENAME TO globalsales;postgres=# \d+ globalsalesAppend-Only Table "public.globalsales"Column  |     Type     | Modifiers | Storage  | Description
----------+--------------+-----------+----------+-------------trans_id | integer | | plain |date | date | | plain |amount | numeric(9,2) | | main |region | text | | extended |
Compression Type: None
Compression Level: 0
Block Size: 32768
Checksum: f
Child tables: globalsales_1_prt_10,globalsales_1_prt_11,globalsales_1_prt_12,globalsales_1_prt_13,globalsales_1_prt_2,globalsales_1_prt_3,globalsales_1_prt_4,globalsales_1_prt_5,globalsales_1_prt_6,globalsales_1_prt_7,globalsales_1_prt_8,globalsales_1_prt_9,globalsales_1_prt_outlying_dates
Has OIDs: no
Options: appendonly=true
Distributed randomly
Partition by: (date)

你可以改变一个分区的名字,例如:

ALTER TABLE sales RENAME PARTITION FOR ('2008-01-01') TO jan08;

12、添加一个默认分区 (Default Partition)
你可以使用Alter命令添加一个默认分区。不满足任何分区条件的分区会进入默认分区。

ALTER TABLE sales ADD DEFAULT PARTITION other;ALTER TABLE sales ALTER PARTITION FOR (RANK(1)) ADD DEFAULT PARTITION other;

13、删除一个分区
你可以通过Alter命令删除一个分区。如果一个分区有子分区,在删除该分区的时候,它的子分区也会被删除。
对于一个分区的事实表,删除分区常用来删除保留时间窗口外的分区数据。

ALTER TABLE sales DROP PARTITION FOR (RANK(1));

14、Truncate分区
你可以通过Alter命令Truncate一个分区。在Truncate一个分区时,其子分区也会被Truncate。

ALTER TABLE sales TRUNCATE PARTITION FOR (RANK(1));

15、交换分区
你可以使用Alter Table命令来交换一个分区。交换分区操作把一个表和一个已存在分区进行交换(Swap)。你只可以交换叶子节点分区。
分区交换通常对数据加载很有用。例如,你可以首先加载数据到一个中间表,然后把该中间表交换到分区表内部。
你也可以利用分区交换改变分区表的类型。例如:

CREATE TABLE sales (id int, date date, amt decimal(10,2))
PARTITION BY RANGE (date)
( START (date '2008-01-01') INCLUSIVE
END (date '2009-01-01') EXCLUSIVE
EVERY (INTERVAL '1 month') );CREATE TABLE jan (LIKE sales) WITH (appendonly=true, orientation=parquet, compresstype = snappy);INSERT INTO jan SELECT * FROM sales_1_prt_1 ;ALTER TABLE sales EXCHANGE PARTITION FOR (RANK(1)) WITH TABLE jan;

16、分区分裂
你可以使用Alter分裂一个已经存在的分区,例如下面的例子把sales_split分区表分裂成两个子分区:jan081to15和 jan0816to31。

CREATE TABLE sales_split (id int, date date, amt decimal(10,2))
PARTITION BY RANGE (date)
( START (date '2008-01-01') INCLUSIVE
END (date '2009-01-01') EXCLUSIVE
EVERY (INTERVAL '1 month') );ALTER TABLE sales_split SPLIT PARTITION FOR ('2008-01-01')
AT ('2008-01-16')
INTO (PARTITION jan081to15, PARTITION jan0816to31);

如果你的分区表有Default分区的话,你只可以通过分裂Default分区的方法来添加子分区。例如,下面的例子通过分裂 Default分区的方式添加一个jan2009分区。

CREATE TABLE sales_split_default (id int, date date, amt decimal(10,2))
PARTITION BY RANGE (date)
( START (date '2008-01-01') INCLUSIVE
END (date '2009-01-01') EXCLUSIVE
EVERY (INTERVAL '1 month'), DEFAULT PARTITION extra);ALTER TABLE sales_split_default SPLIT DEFAULT PARTITION
START ('2009-01-01') INCLUSIVE
END ('2009-02-01') EXCLUSIVE
INTO (PARTITION jan2009, default partition);

17、修改子分区模版
你可以通过Alter命令修改子分区模版。先创建一个两级分区表。

标签:基本,01,int,分区,sales,介绍,prt,date,OushuDB
From: https://blog.51cto.com/u_15334349/6041388

相关文章

  • 关于oushudb-hawq:OushuDB-基本用法-启动停止
    启动OushuDB有两种形式,一种是通过”hawqstartcluster”命令来启动整个集群,包含master和segment。启动哪些segment是由”/hawq-install-path/etc/slaves”中蕴含的节点确定......
  • OushuDB 用户指南之类型转换值存储
    要插入表中的数值也根据下面的步骤转换成目标列的数据类型。值存储数据类型解析1.查找与目标准确的匹配。2.否则,试着将表达式直接转换成目标类型。如果已知这两种类型之间......
  • OushuDB数据库基本用法(下)
    一个数据库包含多个模式(schema),而一个模式可以包含多种命名对象,比如表,数据类型,函数,操作符等。同一个对象名字可以用在不同的模式中而不产生冲突。比如schema1中可以包含表tes......
  • 偶数科技:基于OushuDB的新一代云原生湖仓一体为企业助力
    实时性数据分析需求暴增,偶数湖仓一体为企业助力在愈发复杂的大数据场景下,数据仓库与数据湖各自的弊端开始显现,湖仓一体架构走向舞台中央。在国外有两种流行的实现数据湖仓......
  • OushuDB连接带kerberos的HDFS
    一.KDC上的操作1.登录KDCserver,将Kerberos配置文件/etc/krb5.conf分发至KDW每个节点:scp/etc/krb5.conf10.0.5.58:/etc/scp/etc/krb5.conf10.0.5.146:/etc/scp/etc/......
  • OushuDB 创建和管理表空间
    OushuDB里的表空间允许数据库管理员在文件系统里定义那些代表数据库对象的文件存放位置。一旦创建了表空间,那么就可以在创建数据库对象的时候引用它。通过使用表空间,管理......
  • About OushuDB (Oushu Database)
    OverviewOushuDatabase(OushuDBforshort)isanewgenerationofcloud-nativedatawarehousecreatedbythefoundingteamofApacheHAWQ.Thisproductadoptst......
  • 09 数据库查询(3) | OushuDB 数据库使用入门
    表连接、组合查询大家好,本节课程我们将学习数据查询的进阶部分,主要包括表连接和组合查询。在上一节的课程中,我们尝试了在两个数据表中通过不同的条件来查询想要的数据,但是在......
  • 07 数据库查询(1) | OushuDB 数据库使用入门
    大家好,接下来我们一起学习数据查询的基础部分。 首先,什么是数据查询?从数据库中检索数据的过程或命令叫做查询。通用语法在SQL里,SELECT命令用于声明查询,通用语法如下:SE......
  • 06 数据操纵之数据更新与删除 | OushuDB 数据库使用入门
    更新数据修改已经存储在数据库中的数据的行为叫做更新。你可以更新单独的一行,也可以更新表中所有的行,还可以更新其中的一部分行。我们可以独立地更新每个列,而其它的列则不......