首页 > 其他分享 >dremio opentelemetry监控试用

dremio opentelemetry监控试用

时间:2024-01-19 17:22:55浏览次数:25  
标签:dremio https telemetry opentelemetry 试用 signoz com

标准的系统监控应该包含metrics,trace,log 这个三大类,metrics 部分,包含了一个promethues 的扩展,当然官方也支持jmx以及slf4j的
opentelemetry 是一个直接内置的trace 功能,很不错,以下是一个简单的测试

环境准备

dremio 默认就支持opentelemetry trace,对于opentelemetry collector 我使用了开源的signoz,相对比较简单

  • signoz 启动
    可以使用官方的,或者我修改的一个(不保证更新,我主要删除了内置的一些测试服务)
    官方模式
git clone -b main https://github.com/SigNoz/signoz.git && cd signoz/deploy/
docker compose -f docker/clickhouse-setup/docker-compose.yaml up -d
  • dremio 配置
    dremio-telemetry.yaml
tracing:
  type: opentelemetry
  serviceName: mydremio
  samplerType: on
  collectorEndpoint: http://172.16.8.210:4317 #  修改为自己的ip,实际上就是signoz 暴露的ip
  # samplerEndpoint: http://localhost:4317
  logSpans: true
  propagator: jaeger

Dockerfile (直接使用官方的,主要是添加了配置)

FROM dremio/dremio-oss:24.3.0
COPY dremio-telemetry.yaml /opt/dremio/conf/dremio-telemetry.yaml

效果

  • 查看信息

打开signoz 的http://localhost:3301 地址


tracing 效果

说明

以上是一个简单的测试,实际上基于OpenTelemetry 的tracing 是一个很不错的选择,值得尝试下

参考资料

https://github.com/rongfengliang/dremio_opentelemetry_signoz_learning
https://www.cnblogs.com/rongfengliang/p/14407749.html
https://github.com/dremio-hub/dremio-prometheus-exporter
https://github.com/locustio/locust
https://signoz.io/docs/install/docker/
services/telemetry-api/src/main/java/com/dremio/telemetry/api/Telemetry.java
services/telemetry-impl/src/main/java/com/dremio/telemetry/impl/config/tracing/OpenTelemetryConfigurator.java

标签:dremio,https,telemetry,opentelemetry,试用,signoz,com
From: https://www.cnblogs.com/rongfengliang/p/17975136

相关文章

  • dremio 基于Options注解的配置技巧
    以前简单写过一个dremio配置相关的介绍,以下是一个简单的使用原理dremio自己定义了一个Options的注解,包含此注解的类会被启动的时候进行类扫描加载,Options的会存储起来(分为不用类型的)有session级别的,系统级别的。。。。简单使用pom.xml <?xmlversion="1.......
  • 测试用例设计方法(一)
    输入数据的设计方法和测试用例设计方法输入数据的设计方法与测试用例的设计方法混为一谈,其实,测试用例中输入数据的设计方法只是测试用例设计方法的一个子集。如:(1)等价类划分法(2)边界值法(3)功能图与判定表法(4)错误推测法(5)用户场景法(6)......上面几种方法都是确定黑......
  • spring boot 3.2.1 dremio jdbc jprofiler 集成
    jprofiler可以直接与idea集成,对于分析一些实际需要debug但是不好复现的问题还是比较方便的,以下是一个简单的与dremio集成的,springboot使用了3.2(jdk需要17)同时也会包含一些启动说明安装idea插件直接plugins的市场中搜索安装就可以了,之后就是配置了idea启动配置因......
  • dremio nessie 版本持久化配置简单说明
    dremio对于nessie的使用就是一个插件配置,默认基于docker运行的nessie是没有进行版本持久化的,以下是一个简单说明配置参考我基于了pg,实际支持的存储引擎还是很多的docker-composeversion:"3"services:mysql2:image:mysql:5.6command:--......
  • dremio jdbc 访问最好使用链接池工具
    昨天在碰到一个dremiojdbc比较奇怪的问题,按照了标准的jdbc操作(建立链接,创建Statement,处理数据,关闭Statement,关闭连接)当进行多次执行(多次建立连接操作)发现dremio有一个操作异常,造成数据表创建有问题(事务不完整)参考代码 privatestaticvoidv3(){tr......
  • dremio 测试特性api 的开启&外部profile查看
    以前简单说过基于代码修改开启test的外部profile能力,实际上官方是由配置参数的,可以在启动的时候添加到配置中配置添加dremio.conf文件debug{allowTestApis:true}检查选项时候开启的一个技巧使用arthas命令使用了arthas的vmtool也可以结......
  • dremio dbt + nessie 集成profile 简单说明
    我最近写了一个简单的关于dremio集成nessie以及dbt玩法的说明,以下简单说明下dbt如何配置配置说明对于配置实际上与以前一些介绍类似,集成nessie的使用与其他是类似的,只是集成nessie之后我们的数据开发模型上就有了实际的版本了(dbt集成git之后也会包含版本,是属于模型代码......
  • dremio jdbc 插件时间增量处理的一些问题
    dremio支持一些增量数据处理能力,同时可以选择增量字段,目前dremio是提供了一些实现,比如反射数据基于iceberg对于增量可以是不同的数据源(jdbc的,文件系统的,iceberg的),日常大家可能选择基于时间戳的(尤其业务系统是基于时间标识的append类型的)对于时间类型(timestamp),不同数据库......
  • dremio+nessie+dbt+ cube.js 实现简单数据服务
    以前我简单写过关于dremio与cube.js集成的,随着dremio官方自己维护了一个dbt的adapter以及nessie方便的类似git的多版本元数据服务的提供,将这几个集成在一起是一个很不错的选择,尤其是希望实现自己的headlessbi服务,同时利用dbt强大的数据建模能力,可以实现数据模型开发的工......
  • 试用统信服务器操作系统UOS 20
    作者:田逸(formyz)试用统信Linux操作系统UOS,想了解一下用已有的Linux经验能否轻松驾驭它。以便在某些场景下,可以多一种选择。本次试验在ProxmoxVE8(以下简称PVE8)平台下进行,采用的版本为UOS20Server。试用的内容大概包括:操作系统安装、与主流Linux发行版之间的差异、软件的安装…安......