首页 > 其他分享 >dremio cloner 简单试用

dremio cloner 简单试用

时间:2024-02-23 09:03:01浏览次数:22  
标签:dremio process skip filter 试用 cloner mode

以前简单介绍过dremio cloner 工具,以下是一个简单试用

dremio 环境准备

基于docker-compose,具体可以参考https://github.com/rongfengliang/dremio_cluster_docker-compose 完成配置

  • 安装dremio cloner
    dremio cloner 没有直接提供为一个pip包,需要自己安装
  • clone 代码
 
git clone https://github.com/deane-dremio/dremio-cloner.git
  • 安装依赖
cd dremio-cloner.
python -m venv venv
source venv/bin/activate
pip install mo-sql-parsing requests sqlparse
  • 使用
python src/dremio_cloner.py config_dr_read.json

config_dr_read.json 是从config 中拷贝的,可以结合自己的实际选择进行修改,比如我修改的

{"dremio_cloner": [
  {"command":"get"},
  {"source": [
    {"endpoint": "http://localhost:9047/"},
    {"username": "<username>"},
    {"password": "<password>"}]
  },
  {"target": [
    {"filename":"myapp.json"},
    {"overwrite": "False"}]
  },
  {"options": [
    {"logging.level":"logging.ERROR"},
    {"logging.format":"%(levelname)s:%(asctime)s:%(message)s"},
    {"logging.filename":"message.log"},
    {"logging.verbose": "False"},
 
    {"max_errors":"9999"},
    {"http_timeout":"10"},
 
    {"user.process_mode":"skip"},
    {"group.process_mode":"skip"},
    {"space.process_mode":"skip"},
    {"source.process_mode":"process"},
    {"reflection.process_mode": "skip"},
    {"folder.process_mode": "skip"},
    {"vds.process_mode": "skip"},
    {"pds.process_mode": "process"},
    {"wlm.queue.process_mode": "skip"},
    {"wlm.rule.process_mode": "skip"},
    {"wiki.process_mode": "skip"},
    {"tag.process_mode": "skip"},
    {"home.process_mode": "skip"},
    {"vote.process_mode": "skip"},
 
    {"space.filter": "*"},
    {"space.exclude.filter": ""},
    {"space.folder.filter":"*"},
    {"space.folder.exclude.filter":""},
 
    {"source.filter":"*"},
    {"source.exclude.filter":""},
    {"source.folder.filter":"*"},
    {"source.folder.exclude.filter":""},
 
    {"pds.filter":"*"},
    {"pds.exclude.filter":""},
    {"pds.list.useapi":"False"},
 
    {"vds.filter":"*"},
    {"vds.exclude.filter":""},
    {"vds.dependencies.process_mode":"ignore"},
 
      {"reflection.only_for_matching_vds":"True"}]
 
  }]
}

效果

参考内容(我截取了部分)

说明

官方文档包含了完整的介绍,dremio-cloner 是一个值得试试的工具,可以进行一些demio 环境信息的查看,以及灾备

参考资料

https://github.com/deane-dremio/dremio-cloner
https://github.com/rongfengliang/dremio_cluster_docker-compose

标签:dremio,process,skip,filter,试用,cloner,mode
From: https://www.cnblogs.com/rongfengliang/p/18014397

相关文章

  • dremio SupportsExternalQuery 简单说明
    dremio的外部查询实际上就是让我们可以通过sql直接查询source而不是通过复杂的处理,可以解决一些sql函数不能使用的问题对于实现了SupportsExternalQuery接口的存储扩展就可以实现此功能,比如jdbc的(属于ce扩展)参考语法SELECT*FROMtable(my_oracle.external_que......
  • dremio FileDatasetHandle 简单说明
    FileDatasetHandle是DatasetHandle的扩展,核心是对于文件系统类的处理(dremio对于文件系统的支持主要是基于hdfs)同时支持对于不同表格式的处理(deltalake,iceber,parquet),单独说明FileDatasetHandle主要是因为此实现比较重要dremio不少文件的处理都和此有关联FileDatasetHandle的一......
  • 测试用例设计方法总结
    https://www.bilibili.com/video/BV1L54y1L7en/?spm_id_from=333.337.search-card.all.click&vd_source=773e87775bd767edb625b7665f58e881一、等价类划分法1.适用范围单个输入的功能2.定义具有代表性数据的子集3.分类有效等价类和无效等价类4.设计测试用例的步骤......
  • dlt 与dbt的直接集成简单试用
    dlt直接基于cli包装了dbt的运行,对于希望通过dlt进行etl之后,还想运行dbt的模型处理的场景就比较方便了,而且dlt与dbt的集成也是官方一个很不错的特性,以下是一个简单试用环境准备docker-compose version:"3"services:pg:image:postgres:16......
  • dremio node节点统计信息显示问题简单说明
    可能有人注意到dremio管理界面的统计信息为N/A,而且因为web端进行了一些额外显示处理,造成一些疑惑界面效果接口返回数据信息 目前从官方代码来说,此显示是正常的,因为计算的是百分比,而且当系统负载比较低的时候,结果基本就为0web处理NodeActivityView.js参考代码......
  • dremio source 禁用source 不可用禁止移除与反射的一些问题
    实际上dremio的反射比较有意思,而且也比较强大,比如我们可以会想通过反射,当上游系统不可用的时候依然可以查询但是实际效果并不是这样的参考配置如下问题Thesource[s3]iscurrentlyunavailable.Metadataisnotaccessible;pleasechecknodehealth(orexternals......
  • dlt s3 集成试用
    属于一个简单试用,dlt支持destinations为filesystem,当然也支持source为filesystem,内部处理是使用了s3fs环境准备这个比较简单,推荐基于venvdltpipinstalldlt[filesystem]s3通过docker部署,同时可以需要创建demobucketversion:"3"se......
  • dlt 简单试用
    以下主要是一个简单的体验环境初始化以前也简单说明dlt实际上就是一个python包,实际使用推荐结合python的venv安装安装python-mvenvvenvpipinstall-rrequirements.txtrequirements.txt文件(主要是一些依赖)pandasstreamlitd......
  • dremio SystemStoragePluginInitializer 简单说明.
    以前在关于ManagedStoragePlugin部分,简单说明了下SystemStoragePluginInitializer,今天再明确说明下SystemStoragePluginInitializer的特点继承自Initializer接口,可以实现一些轻量级服务的启动SystemStoragePluginInitializer的启动是通过InitializerRegistry类实现的,Initia......
  • extism cli 模式简单试用
    安装clicurlhttps://get.extism.org/cli|shcli模式运行官方提供了一个示例项目,可以快速体验命令PLUGIN_URL="https://github.com/extism/plugins/releases/latest/download/count_vowels.wasm"extismcall$PLUGIN_URLcount_vowels--i......