• 2024-01-17dremio nessie 版本持久化配置简单说明
    dremio对于nessie的使用就是一个插件配置,默认基于docker运行的nessie是没有进行版本持久化的,以下是一个简单说明配置参考我基于了pg,实际支持的存储引擎还是很多的docker-composeversion:"3"services:mysql2:image:mysql:5.6command:--
  • 2024-01-13dremio dbt + nessie 集成profile 简单说明
    我最近写了一个简单的关于dremio集成nessie以及dbt玩法的说明,以下简单说明下dbt如何配置配置说明对于配置实际上与以前一些介绍类似,集成nessie的使用与其他是类似的,只是集成nessie之后我们的数据开发模型上就有了实际的版本了(dbt集成git之后也会包含版本,是属于模型代码
  • 2024-01-11dremio+nessie+dbt+ cube.js 实现简单数据服务
    以前我简单写过关于dremio与cube.js集成的,随着dremio官方自己维护了一个dbt的adapter以及nessie方便的类似git的多版本元数据服务的提供,将这几个集成在一起是一个很不错的选择,尤其是希望实现自己的headlessbi服务,同时利用dbt强大的数据建模能力,可以实现数据模型开发的工
  • 2024-01-09dremio nessie 集成玩法
    昨天我简单写了dremio集成nessie的玩法,实际上dremio与nessie的集成可以分为两大类,一类是使用nessie做为catalog服务(当然也是支持写入iceberg的),一类是基于外部工具(spark,flink)使用nessie做为metadatastorage然后dremio查询参考玩法图外部工具类的catalog类的此时ness
  • 2024-01-03dremio nessie数据源集成简单说明
    nessie是一个强大的支持类似git分之特性的apacheiceberg智能元数据存储,主要测试下基于nessiedremio元数据存储(catalog)集成参考架构环境准备docker-compose文件version:"3"services:minio:image:minio/minioports:-"9000:9000"-"19001:190
  • 2023-12-30dremio nessie 集成玩法
    昨天我简单写了dremio集成nessie的玩法,实际上dremio与nessie的集成可以分为两大类,一类是使用nessie做为catalog服务(当然也是支持写入iceberg的),一类是基于外部工具(spark,flink)使用nessie做为metadatastorage然后dremio查询参考玩法图外部工具类的catalog类的
  • 2023-12-29dremio nessie数据源集成简单说明
    nessie是一个强大的支持类似git分之特性的apacheiceberg智能元数据存储,主要测试下基于nessiedremio元数据存储(catalog)集成参考架构环境准备docker-compose文件version:"3"services:minio:image:minio/minioports:-"90
  • 2023-06-18dremio 24.1 Nessie 支持插件
    以前也简单说过24.1支持基于Nessie进行查询了,相关代码名称比较怪异(此代码开源了),名称为dataplane参考代码信息 说明因为dremio云版本支持基于Nessie的元数据管理,此功能代码还是值得学习参考的,整体开发上也是一个标准的存储扩展参考资料https://docs.dremio.com/software
  • 2023-06-18dremio 24.1.0 发布
    dremio就在昨天dremio发布了24.1.0版本(间隔时间还是比较长的),包含了不少特性,上午的时候简单看了下,但是因为目前文档页面打不开了我只简单说以下我看到的几个不错的一些新特性内置支持zstd压缩了Nessie数据源支持,可以更好的使用Nessie作为catalog服务进行iceberg处理了udf支
  • 2023-06-16dremio 24.1.0 发布
    dremio就在昨天dremio发布了24.1.0版本(间隔时间还是比较长的),包含了不少特性,上午的时候简单看了下,但是因为目前文档页面打不开了我只简单说以下我看到的几个不错的一些新特性内置支持zstd压缩了Nessie数据源支持,可以更好的使用Nessie作为catalog服务进行iceberg处理了