首页 > 其他分享 >Kafka入门

Kafka入门

时间:2023-11-10 12:22:32浏览次数:25  
标签:入门 Partion 分区 borker Kafka Topic 集群

Kafka

定义

Kafka是一个分布式的流处理平台,它具有以下特性:

  • 磁盘保存数据
  • 伸缩性

术语

生产者

生产者是消息的创造者,可以指定 Topic,Partion,Key,Value,并将消息发送到Kafka集群中的Broker

消费者

消费者负责从Kafka集群中读取消息。

需要设置偏移量
一个分区里面,每个消息的偏移量都是唯一的
消费者只能顺序读取

分区(Partion)

Kafka中的每个Topic都可以保存到不同的Partion

Kafka信息分区规则:

  • 生产者指定分区
  • 分区器(一个算法)通过消息的键(一个标记)来安排数据的存储空间

Broker

borker里面包含主题,分区。

borker为传来的消息根据分区设置偏移量,将其存储在磁盘上,borker也为消费者提供服务,提供响应。

多个Borker集群就是kafka集群,这样就提供了消息的安全性。在这个集群中可能还会有一个集群负责控制器的角色。

话题Topic

用于指定信息存储的位置,一个话题可以有多个分区,一个分区可以有多个副本。

Kafka如何保证数据不丢失

  • 不丢失
  1. 生产者的ack应答机制,设为-1,当所有irs集合里的节点备份完成后返回

  2. kafka,每个分区至少有一个isr节点存活,保证数据安全

  3. 消费者,关闭自动提交,使用手动提交

标签:入门,Partion,分区,borker,Kafka,Topic,集群
From: https://www.cnblogs.com/erfeng/p/17823744.html

相关文章

  • k8s入门学习
    k8s入门https://kubernetes.io/zh-cn/docs/tutorials/hello-minikube/minikube启动集群minikubestart创建实例kubectlcreatedeploymentgin--image=gin_demo:v1会创建相对应的pod和deployment此时服务端口只能内部集群访问端口暴露使用expose将服务端口暴露进行访......
  • 【零基础速领】全套Android零基础入门指南(PDF文档+全套视频),Android Studio安装教程
    Android开发的入门可分成两个大的阶段,第一个语言的学习,第二个Android框架的学习。语言的学习Android开发目前主要有两种语言,java和kotlin,kotlin是目前google官方的首推语言,但个人还是建议先学java,因为至少在未来的几年内,公司的项目肯定是还会有大量的java代码,你至少需要能看懂,能去......
  • Android入门教程 | Fragment 基础概念
    什么是Fragment?Fragment,直译为“碎片”,“片段”。Fragment表示FragmentActivity中的行为或界面的一部分。可以在一个Activity中组合多个片段,从而构建多窗格界面,并在多个Activity中重复使用某个片段。可以将片段视为Activity的模块化组成部分,它具有自己的生命周期,能接收自......
  • Android零基础入门 | 广播机制 Broadcast
    Android应用可以通过广播从系统或其他App接收或发送消息。类似于订阅-发布设计模式。当某些事件发生时,可以发出广播。系统在某些状态改变时会发出广播,例如开机、充电。App也可发送自定义广播。广播可用于应用间的通讯,是IPC的一种方式。广播的种类广播的种类也可以看成是广播的属性......
  • Kafka JNDI 注入分析(CVE-2023-25194)
    ApacheKafkaClientsJndiInjection漏洞描述ApacheKafka是一个分布式数据流处理平台,可以实时发布、订阅、存储和处理数据流。KafkaConnect是一种用于在kafka和其他系统之间可扩展、可靠的流式传输数据的工具。攻击者可以利用基于SASLJAAS配置和SASL协议的任意Kafka......
  • vuejs3.0 从入门到精通——动态组件
    动态组件一、App.vue<template><ul><!--使用ul标签替代了错误的url标签,用于展示列表--><liv-for='(item,index)intabList':key='index'@click="()=>{currentComponent.com=tabList[index].com}"><!--......
  • Kafka队列
    ......
  • 神经网络入门篇:详解计算一个神经网络的输出(Computing a Neural Network's output)
    一个神经网络的输出首先,回顾下只有一个隐藏层的简单两层神经网络结构:图1.3.1其中,\(x\)表示输入特征,\(a\)表示每个神经元的输出,\(W\)表示特征的权重,上标表示神经网络的层数(隐藏层为1),下标表示该层的第几个神经元。这是神经网络的符号惯例,下同。神经网络的计算关于神经网络是怎......
  • 天池AI练习生计划 - 第一期Pyhton入门与实践 正式上线!通关赢取双重礼品!
    天池AI练习生养成计划是为天池入门学习用户准备的训练营,用户通关后可获得学习奖励,从学习者蜕变为AI新星!轻松来闯关,即可领取双重礼品~实训培训证书:通关两个关卡即可领取阿里云定制鼠标:通关全部关卡即可领取活动地址:https://tianchi.aliyun.com/specials/promotion/trainee活......
  • Android入门教程 | RecyclerView使用入门
    ......