首页 > 其他分享 >您的监控策略是否可扩展?

您的监控策略是否可扩展?

时间:2023-05-29 17:31:51浏览次数:33  
标签:策略 扩展 查询 用例 监控 日志 数据

家公司都在努力更好地了解其运营效率,但他们都遇到了同样的问题:规模。那么,可扩展的监控策略是什么样的?您如何防范可观察性中最重要的问题?

什么是可扩展监控策略?

我们将从确定受规模影响最大的两件事开始:成本和性能。成本可以分解为存储和计算。很明显,要容纳更多数据,就需要更多存储空间,但是计算能力呢?这很重要,因为查询需要搜索更多数据——因此需要使用更多计算能力——才能返回结果。

这会在性能和成本效益之间进行权衡。随着数据集的增加,立即解决查询变得越来越具有挑战性,因此工程师通常只会容忍性能下降。这进一步影响了系统的可用性和一般用途。如果解决每个查询需要 10 秒,那么您只是将数据发现效率降低了 10 倍。

扩展意味着性能和成本效益

为了扩展监控策略,明智的架构师需要打破性能和成本之间的僵局,并像数据科学家一样处理问题。可扩展的监控策略从一个简单的问题开始:这些数据的用例是什么?

有些数据只会因为可能需要而被摄取。它的整个生命周期都不受干扰,并最终被压缩或删除。另一方面,有些数据每天每分钟都在查询,而且是不可或缺的。了解数据的使用方式意味着工程师可以决定该数据的价值。

您的监控策略是否可扩展?_数据

在创建可扩展监控策略的战斗中,有一个三步法。

第一步:跟踪数据使用情况

哪些数据被摄取但从未被查询过?哪些数据从不休息?构建数据消耗频率的地图,以便根据用例做出任何战略选择。

最常见的做法是将数据分为三种不同的用例:

频繁访问– 经常被查询并且需要在接到通知后立即可用的数据。

监控——驱动仪表板或训练机器学习模型但在处理后基本无用的数据。

合规性——保留以备不时之需的数据,但只是有时会查询。例如,审计日志。

第二步:优化存储和消耗

一旦了解了数据的用例(无论是日志、指标还是跟踪),下一阶段就是优化。这意味着为我们上面看到的不同用途创建不同的存储和查询解决方案。

频繁访问——可以优化和调整的快速查询。OpenSearch是一个不错的选择,尽管管理开销可能很痛苦,尤其是在规模上。

监控——这主要是关于转换数据。例如,摄取日志,将其转化为指标并删除原始日志。这是非常强大的,因为指标占用的空间比日志少得多,并且可以更经济高效地存储。

合规性——像 Amazon S3 这样的低成本存储是一个不错的选择,但这些数据必须仍然可以访问,即使只是通过重新索引。

建立这些能力有多容易?

创建 OpenSearch 集群很简单,但大规模管理它却极具挑战性。同样,将日志转换为指标很简单,但以高性能的方式大规模执行此操作很复杂。由于合规性日志的规模接近无限大,因此很难保留合规性日志,而在处理大量数据时,重新索引这些数据是一项非常重要的操作。

但是,从该分析中得出的关键结论应该是,如果任何组织打算扩展其监控解决方案,这些都是他们应该具备的能力。如果它们可以通过SaaS 供应商获得,那么这是一个值得考虑的严肃选择,因为它使公司能够立即利用此功能,而无需前期、不可预测且通常持续的内部工程成本。

标签:策略,扩展,查询,用例,监控,日志,数据
From: https://blog.51cto.com/u_15605878/6373243

相关文章

  • mysql 8 修改默认密码并修改密码策略
    1、使用默认密码登陆2、修改默认密码(必须修改默认密码)ALTERUSER'root'@'localhost'IDENTIFIEDBY'Mysql@23';3、修改默认密码策略SHOWVARIABLESLIKE'validate_password%';setglobalvalidate_password.policy=0;setglobalvalidate_password.lengt......
  • 【AGC】云监控日志服务查询不到Logger日志相关问题
     【关键字】AGC、云监控、日志服务 【问题描述】开发者反馈在使用AGC云监控,填写了Logger日志,但是在云监控的日志服务查不到的问题。具体如下所述:云函数按要求写了Logger日志,但是在云监控的日志服务页面查询不到,监控大盘页面也没有调用记录。日志类似下面案例的写法。​......
  • 档案室十防环境监控系统简单介绍
    档案馆是国家档案事业的重要组成部分,是保存和利用档案的基地。随着档案事业的发展,人们对档案保管的安全性要求越来越高,传统的被动式管理模式已不能满足当前档案安全管理的需要,因此需要借助现代化科技手段,运用物联网技术和信息化手段,通过对档案实体和信息进行全面感知、实时传输、......
  • Docker php安装扩展步骤详解
    前言此篇,主要是演示docker-php-source,docker-php-ext-install,docker-php-enable-docker-configure这四个命令到底是用来干嘛的,它们在PHP容器中都做了哪些事情。很多人很不理解在Dockerfile中安装PHP扩展的时候总是出现这几个命令,本篇就就是为你揭开这些命令的神秘面纱而准......
  • 52.同源策略(Same-Origin Policy)限制了跨域请求No 'Access-Control-Allow-Origin' head
    又遇到如下报错了,该如何处理,AccesstoXMLHttpRequestat'http://localhost:3000/users'fromorigin'http://localhost:5173'hasbeenblockedbyCORSpolicy:No'Access-Control-Allow-Origin'headerispresentontherequestedresource.这个错误......
  • zabbix 监控主机并钉钉报警
    1、安装客户端#yuminstallzabbix-agent-5.0.32-1.el8.x86_64.rpm2、配置客户端#egrep-v'^$|^#'/etc/zabbix/zabbix_agentd.confPidFile=/var/run/zabbix/zabbix_agentd.pidLogFile=/var/log/zabbix/zabbix_agentd.logLogFileSize=0Server=116.205.1......
  • K8s部署单节点Zookeeper并进行监控
    0、写在前面1>K8s监控Zookeeper,这里并没有使用zookeeper-exporter的方式进行监控,主要是由于zookeeper-exporter提供的相关指标不太全,zookeeper官网提供的监控指标信息可参看如下地址:https://github.com/apache/zookeeper/blob/master/zookeeper-server/src/main/java/org/ap......
  • java内存溢出监控
    在程序内增加内存溢出字符串 使用命令启动jar  -XX:+HeapDumpOnOutOfMemoryError这个命令会在报内存溢出的时候生成 .hprof文件(1)java-XX:+HeapDumpOnOutOfMemoryError-jarzxhs.jar(2)java-Xms128m-Xmx256m-XX:+HeapDumpOnOutOfMemoryError-jarzxhs.jar下......
  • 自来水厂泵站PLC控制系统如何实现远程监控智慧运维
    随着自动化与物联网技术的飞速发展,诸多行业在无人化、智能化、数字化的要求越来越高。水务行业中无论是污水处理、泵站、消毒加药、供排水管网、水质监测等方面都能实现自动化控制,借助PLC数据采集实现远程监控智慧运维,具有广大的应用场景和实用价值。自来水厂的泵站不可避免的使用......
  • 【基于容器的部署、扩展和管理】3.6 集群监控和日志收集
    3.6集群监控和日志收集云原生集群监控和日志收集是云原生应用中非常重要的组成部分。3.6.1云原生的集群监控注意点:在云原生环境中,由于应用程序和基础设施的快速变化,因此必须实时监控整个集群以保证应用程序的稳定性和可靠性。以下是云原生集群监控的一些关键方面:监控指标:为......