首页 > 其他分享 >Loki的部署模式

Loki的部署模式

时间:2024-07-17 18:20:48浏览次数:11  
标签:部署 Ingester 模式 查询 Distributor Loki 组件 Query

Loki部署模式

Loki程序基于微服务架构,由多个组件构成,不同部署模式下用户的组件亦有所不同

“all”表示单体模式

“individual”表示微服务模式

“simple scalable deployment”模式下则存在三个逻辑组“read”、“write”和“backend”

系统架构

  • 写路径

    • Distributor

      • 负责接收并处理客户端(例如promtail) 的push请求,无状态服务组件
    • Ingester

      • 负责持久化数据至本地存储,以及将数据存储至后端对象存储系统以长期保存数据
      • 基于最近抓取的、缓存于内存中的日志流响应用户的查询请求
  • 读路径

    • Query Frontend
      • 用于加速查询请求的组件,位于Querier API的前端,可选组件
    • Query Scheduler
      • 负责调度查询请求,能够为Query Frontend提供更为高级的队列机制,可选组件
    • Querier
      • 负责执行LogQL查询的组件,可从客户端、Query Frontend或Query Scheduler接收查询请求
  • Index Gateway

    • 负责处理元数据查询,因此它专用于“shipper stores”,例如单一存储模式中的TSDB或BoltDB
  • Compactor

    • 将那些由多个Ingester生成的多个索引,以天为单位基于tenant合并成单个索引文件,实现高效索引查询
  • Ruler

    • 管理和评估告警表达式中的规则

写路径

发往Loki的写请求,会基于特定的顺序由多个组件协同处理
① Distributor从客户端接收到关于流和日志行的HTTP POST请求
② Distributor对接收到的每个流进行hash计算,以判定要发往的Ingester实例
③ Distributor将每个流及其副本(replicas,取决于replication factor的定义)发往对应的Ingester
④ Ingester收到带有日志行的流后,将其存储至新建的chunk或附加到现有的chunk上
◆ 对于每个tenant来说,其每个标签集所唯一标识的流会存储在专用的chunk中
⑤ Ingester能返回写操作的结果状态
⑥ Distributor等待满足多数方(quorum)数量要求的Ingester确认写入状态
⑦ 根据写操作的结果,Distributor响应写入成功(2xx status code)或写入失败(4xx or 5xx status code)的状态给客户端

读路径

发往Loki的查询请求,也会基于特定的顺序由多个组件协同处理
① Query Frontend基于HTTP GET从客户端接收到LogQL请求
② Query Frontend将查询请求切分成多个子查询,并将它们传递给后端的Query Scheduler进行调度
③ Querier从Query Scheduler接收到子查询
④ Querier将子查询发送给所有的Ingester进行内存数据查询
⑤ 若存在匹配的数据,Ingester则会将内存中匹配到的数据予以返回
⑥ 若不存在匹配的数据或匹配的数据量不足,Querier将从后端存储系统加载数据
⑦ Querier遍历接收到的所有数据及副本,并返回结果给Query Frontend
⑧ Query Frontend等待所有Query上的子查询响应完成
⑨ Query Frontend合并各个子查询的结果,并以之响应给客户端

Distributor

Distributor的基本工作逻辑

  • 校验接收到的每个stream以确保其未超出tenant或global的限制
  • 合规的stream会基于复制因子的定义,以并行方式发送n个副本至n个Ingester进行存储
  • Distributor基于一致性哈希算法,为每个stream及其副本挑选对应的Ingester

Distributor的关键功能

  • 校验(Validation)
    • 负责确保所有的流合乎规范
    • 主要检查标签是否符合Prometheus标签规范、时间戳是否异常(过旧或者过新),以及日志行是否过长
  • 预处理(Preprocessing)
    • 对标签进行排序,提高缓存和哈希的效果
  • 限流(Rate limiting)
    • 根据配置对每个tenant进行限流
  • 转发(Forwarding)
    • 校验环节完成后,将写请求转发至Ingester以完成数据存储
    • 根据复制因子的定义,可能需要发送多个副本至不同的Ingester
  • 哈希(Hashing)
    • 对流的每个数据副本进行hash计算,以映射至Ingester

单体模式

将Loki的所有微服务组件打包部署到单一进程中

适合小规模系统的日志存储场景(每天不超过100G)

在必要时,可部署共享外部对象存储的多实例进行水平扩容

  • 在配置文件loki.yaml的ring配置段中定义日志数据的跨实例分发

支持高可的部署方式

  • 多个实例需要配置共享的外部对象存储
  • 需要设定合理的复制因子

最简单的操作模式是整体部署模式。

可以通过设置命令行参数来启用整体模式。此模式将 Loki 的所有微服务组件作为单个二进制或 Docker 映像在单个进程中运行。

需要给loki加个参数-target=all

简单可扩展模式

将组件分割到独立的Read path、Write path和Backend path中,并各自进行扩展

另外还需要一个独立的后端存储路径(backend path)

是大部分场景中采用的部署模式,也是基于Helm Chart部署时默认采用的模式

支持每日TB级别的日志存储

简单可扩展的部署模式是大多数安装部署 Loki 的首选方式。

简单可扩展的部署是 Loki Helm Chart 安装的默认配置。

此部署模式是大规模部署 Loki 的最简单方法。

它在以整体模式部署或将每个组件部署为单独的微服务之间取得了平衡。

简单可扩展模式下的三个执行路径都是通过在启动时将以下参数附加到 Loki 来激活的:

  • -target=write- 写入目标是有状态的,由 Kubernetes StatefulSet 控制。它包含以下组件: – Distributor(分配器) – Ingester(收集器)
  • -target=read- 读取目标是无状态的,可以作为可以自动扩展的 Kubernetes 部署运行(请注意,在官方 helm chart 中,它当前部署为有状态集)。它包含以下组件: – Query frontend(查询前端) – Queriers(查询者)
  • -target=backend- 后端目标是有状态的,由 Kubernetes StatefulSet 控制。包含以下组件: – Compactor – Index gateways(索引网关) – Query scheduler(查询调度器) – Ruler(规则)

简单可扩展的部署模式要求在 Loki 前面部署一个反向代理,以将客户端 API 请求定向到读取或写入节点。

Loki Helm 图表包括使用 Nginx 的默认反向代理配置。

微服务模式

每个微服务组件均独立运行

  • 2.9版本的Loki要运行的组件包括
    • Cache Generation Loader
    • Compactor
    • Distributor
    • Index-gateway
    • Ingester
    • Ingester-Querier
    • Overrides Exporter
    • Querier
    • Query-frontend
    • Query-scheduler
    • Ruler
  • 仅适用于超大规模日志场景,或者需要对Loki进行精细化控制的场景

标签:部署,Ingester,模式,查询,Distributor,Loki,组件,Query
From: https://www.cnblogs.com/guangdelw/p/18308042

相关文章

  • 模板设计模式
    模板模式(TemplatePattern)是一种行为设计模式,它在一个方法中定义一个操作的骨架,而将一些步骤的实现延迟到子类中。模板方法模式使得子类可以在不改变算法结构的情况下,重新定义算法中的某些步骤。模板模式的组成部分抽象类(AbstractClass):定义算法的骨架,并包含一个模板方法。......
  • 设计模式之抽象工厂模式(学习笔记)
    定义抽象工厂模式是一种创建型设计模式,它提供一个接口,用于创建一系列相关或依赖的对象,而无需指定它们的具体类。抽象工厂模式将对象的创建过程抽象化,允许子类通过实现具体工厂类来定制对象的创建。为什么使用抽象工厂模式产品族的一致性抽象工厂模式确保同一产品族中的对......
  • 设计模式之代理模式
    定义代理模式(ProxyPattern)是软件工程中的一种设计模式,它属于结构型模式,用于在不直接访问实际对象的情况下,通过一个或多个代理对象来间接访问某个对象或执行某些操作。目的这种模式的主要目的是:控制访问:代理可以在访问真实对象之前或之后添加额外的操作,如权限检查、延迟初始......
  • 三大图生图模型sd-refiner,sd-variations,pix2pix部署
    三大图生图模型sd-refiner,sd-variations,pix2pix部署模型下载地址及前后端代码地址:pylzzz.online效果图:相似图(sd-variations模型)细化图(sd-refiner):衍生图(pix2pix)......
  • NB-IoT工作模式
    NB-IOT工作模式1.介绍①无需移动性,大数据量(上行),需较宽频段,比如城市监控摄像头。②移动性强,需执行频繁切换,小数据量,比如车队追踪管理。③无需移动性,小数据量,对时延不敏感,比如智能抄表。NB-IoT正是为了应对第③种物联网设备而生。2.特点(1)优点超强覆盖:相对GPRS来说,增加20db的......
  • 华为高斯数据库openGauss_5.0.2 企业版部署学习
    系统环境欧拉系统官方下载链接openEuler-22.03-LTS-SP4-x86_64-dvd.iso https://mirrors.tuna.tsinghua.edu.cn/openeuler/openEuler-22.03-LTS-SP4/ISO/x86_64/openEuler-22.03-LTS-SP4-x86_64-dvd.iso openEuler下载|openEulerISO镜像|openEuler社区官网 数据库安......
  • Docker部署Java项目
    部署项目前言:在自定义java服务镜像之前,最好本地用java-jar命令先执行下jar包,确保jar包没有问题1.创建Dockerfile镜像文件#指定基础镜像,必须为第一个命令(尽量不要定义的偏差太大)fromopenjdk:8-jdk-alpine#将本地文件添加到容器中addxxx.jarxxx.jar#后端项目......
  • ES快速开发,ElasticsearchRestTemplate基本使用以及ELK快速部署
    最近博主有一些elasticsearch的工作,所以更新的慢了些,现在就教大家快速入门,并对一些基本的查询、更新需求做一下示例,废话不多说开始:1. ES快速上手es下载:[https://elasticsearch.cn/download/]()这里关于es所需要的链接基本都有,可以快速下载使用当你解压好了归档文件之后,Elas......
  • 基于Java+SpringBoot+Vue的学生评奖评优管理系统的设计与开发(源码+lw+部署文档+讲解
    文章目录前言项目背景介绍技术栈后端框架SpringBoot前端框架Vue数据库MySQL(MyStructuredQueryLanguage)具体实现截图详细视频演示系统测试系统测试目的系统功能测试系统测试结论代码参考数据库参考源码获取前言......
  • 在 Kubernetes 上部署 llama3
    转自:https://zhuanlan.zhihu.com/p/695534674Ollama与OpenWebUI介绍Ollama 是一个运行大模型的工具,可以看成是大模型领域的Docker,可以下载所需的大模型并暴露API。OpenWebUI 是一个大模型的WebUI交互工具,支持Ollama,即调用Ollama暴露的API实现与大模型交互:部署......