首页 > 其他分享 >dbt-duckdb dbt duckdb 强大的adapter

dbt-duckdb dbt duckdb 强大的adapter

时间:2023-08-06 11:23:01浏览次数:153  
标签:集成 com adapter duckdb https 不错 dbt

dbt-duckdb 是一个dbt 扩展,功能很强大,同时社区也有相关的文章,使用duckdb 替换spark 处理一些数据的pipeline
因为duckdb 具有很不错的olap 性能,同时支持不少外部数据集成(比如s3,http,parquet,pg。。。。)dbt-duckdb
扩展使用起来很方便,而且对于dbt 的兼容是很不错的,以下是老外的一个实践,可以看到基于dbt 的一个集成玩法

 

说明

duckdb 是嵌入式单机环境的olap 数据库,具有很不错的性能,同时支持不少数据适配集成,对于作为一个小型轻量而且高速的分析方案也是一个很不错的选择
目前有一个motherduck 的可以让duckdb 类似serverless 模式运行

参考资料

https://duckdb.org/
https://docs.getdbt.com/docs/core/connect-data-platform/duckdb-setup
https://github.com/jwills/dbt-duckdb
https://motherduck.com/
https://medium.com/datamindedbe/use-dbt-and-duckdb-instead-of-spark-in-data-pipelines-9063a31ea2b5

标签:集成,com,adapter,duckdb,https,不错,dbt
From: https://www.cnblogs.com/rongfengliang/p/17609194.html

相关文章

  • automate-dv 基于dbt 的data vault 2.0 落地工具
    automate-dv基于dbt的datavault2.0落地工具,包装了不少方便的宏,可以方便我们呢进行datavault2.0数据仓库建模理论的实际落地功能企业级保障支持datavault的hub,links,satelintes以及一些扩展(方便使用)元数据驱动的代码生成dbt包配置支持多平台支持,支持多种数据库平......
  • dbt pacakge 模型引用
    dbt的package能力可以方便的实现模型的共享,以下是一个简单的示例,实际上我以前写过(很早了,目前dbt变化还是很大的)外部模型引用使用说明实际上是通过ref宏,明确声明包名以及模型,格式{{ref(<projectorpackagename>,<modelname>)}示例项目项目结构platform是需要引用的,us......
  • 【设计模式】适配器模式Adapter:处理不同 API 接口的兼容性
    (目录)适配器模式适配器模式(AdapterPattern)是作为两个不兼容的接⼝之间的桥梁。这种类型的设计模式属于结构型模式,它结合了两个独⽴接⼝的功能。在某些时候,客户期望获得某种功能接⼝但现有的接⼝⽆法满⾜客户的需求,例如美国的正常供电电压为110V,⼀个中国⼈带了⼀款中国制造......
  • FIFO FWFT Adapter(First Word Fall Through) 预读FIFO适配器
    预读fifo修改了一下1:增加了暂停预读信号stop。修改2:考虑一种情况,在没有预取的情况下,若fifo剩余的数据长度比预取流水线长度小,且在预取完成的前后一段时间内都没有读请求,empty流水线内会产生一段"气泡"。此时若有新的数据写入fifo,预取流水线不会对这些“气泡”进行填充,如果能......
  • dbt class 简单说明
    dbtclass可以用来创建数据仓库中的一些对象(比如关系,列)当需要通过高级模式进行模型以及宏构建的时候就比较有用在不少开源同时也包括官方core中都有使用到主要包含的功能Relation对象创建参考(对于在宏中使用api.Relation.create创建) {%setrelation=......
  • mongodbtemplate格式化日期
    如何在MongoDBTemplate中格式化日期简介在使用SpringDataMongoDB时,我们经常会使用MongoTemplate来与MongoDB数据库进行交互。如果需要在查询或更新操作中格式化日期字段,可以通过定制一个Converter来实现。步骤概览下面是实现“MongoDBTemplate格式化日期”的步骤:步骤描......
  • 34 IIC(十二)IIC Adapter 源码分析
    1.devicetree100ask_imx6ull-14x14.dtsiicadapter注册pinctrl_i2c1:i2c1grp{fsl,pins=<MX6UL_PAD_UART4_TX_DATA__I2C1_SCL0x4001b8b0MX6UL_PAD_UART4_RX_DATA__I2C1_SDA0x4001b8b0>;......
  • redis dbtree
    RedisDBTree:ExploringtheDataStructureRedisisanopen-source,in-memorydatastructurestorethatiscommonlyusedasadatabase,cache,andmessagebroker.Itsupportsvariousdatastructures,suchasstrings,hashes,lists,sets,andsortedsets,......
  • androidstudio中,Data、Adapter、RecycleView之间的关系
    AndroidStudio中Data、Adapter、RecyclerView之间的关系1.流程概述在Android开发中,使用RecyclerView来展示大量的数据是一种常见的方式。为了将数据正确地展示在RecyclerView上,我们需要理解Data、Adapter和RecyclerView之间的关系。下面是实现这一关系所需的步骤的概述:步骤......
  • SqlDataAdapter
    publicclassDbOperation{privatestaticstringconnectionString=ConfigurationManager.AppSettings["Connection"];privatestaticSqlDataAdaptermyAdapter=newSqlDataAdapter();///<summary>///Initializ......