首页 > 其他分享 >kafka 消费报错

kafka 消费报错

时间:2023-10-13 15:46:59浏览次数:34  
标签:消费 max kafka 报错 commit poll python3.9

具体报错信息Traceback (most recent call last):
File "/root/kafkatomysql.py", line 166, in <module>
consumer.commit()
File "/usr/local/python3.9/lib/python3.9/site-packages/kafka/consumer/group.py", line 527, in commit
self._coordinator.commit_offsets_sync(offsets)
File "/usr/local/python3.9/lib/python3.9/site-packages/kafka/coordinator/consumer.py", line 521, in commit_offsets_sync
raise future.exception # pylint: disable-msg=raising-bad-type
kafka.errors.CommitFailedError: CommitFailedError: Commit cannot be completed since the group has already
rebalanced and assigned the partitions to another member.
This means that the time between subsequent calls to poll()
was longer than the configured max_poll_interval_ms, which
typically implies that the poll loop is spending too much
time message processing. You can address this either by
increasing the rebalance timeout with max_poll_interval_ms,
or by reducing the maximum size of batches returned in poll()
with max_poll_records.

 

这个报错主要是消费消息时间超过了max_poll_interval_ms时间,目前策略是把max_poll_interval_ms时间调大,并且,增加了守护进程,观测日志看还会不会报错。

 

标签:消费,max,kafka,报错,commit,poll,python3.9
From: https://www.cnblogs.com/dbahrz/p/17762251.html

相关文章

  • git中报错
    git中报错集合1......
  • ora-12570报错问题处理
      Ora-12570报错问题处理使用Ado.net访问Oracle数据库,执行Select查询的时候,偶尔会出现【ORA-12570:网络会话:意外的数据包读取错误】的问题,造成业务部分数据缺失。经过多方查找,确定不是Oracle服务器的问题,也就是跟Oracle配置没有关系,随后想到是否与连接池有关,百度连接池问......
  • idea 中无法连接 sql server 数据库,报错 [08S01] 驱动程序无法通过使用安全套接字层(S
    报的错误信息如下:[08S01]驱动程序无法通过使用安全套接字层(SSL)加密与SQLServer建立安全连接。错误:“PKIXpathbuildingfailed:sun.security.provider.certpath.SunCertPathBuilderException:unabletofindvalidcertificationpathtorequestedtarget”。ClientC......
  • @NotBlank注解String字段会报错
    一、背景项目场景:这里说下@NotEmpty、@NotBlank、@NotNull的区别:它们所在的包:javax.validation.constraints.NotEmpty、javax.validation.constraints.NotBlank、javax.validation.constraints.NotNull1.@NotNull适用于基本数据类型(Integer,Long,Double,Date等等),当@NotNull......
  • 一行代码解决a-table当中rowKey报错的问题
    问题描述:在a-table中如果不绑定rowKey则会在控制台报错 解决办法:如果列表中没有返回唯一值,则可以这么写:rowKey='record=>record.id'或者:rowKey="(record,index)=>{returnindex}"> ......
  • 博学谷学习记录 自我总结 用心分享 | Kafka刨析
    基本概念Kafka 体系架构Kafka体系架构包括若干Producer、若干Broker、若干Consumer,以及一个 ZooKeeper 集群。在Kafka中还有两个特别重要的概念—主题(Topic)与分区(Partition)。Kafka中的消息以主题为单位进行归类,生产者负责将消息发送到特定的主题(发送到Kafka集群......
  • 【RocketMQ】RocketMQ 5.0新特性(二)- Pop消费模式
    Pop模式消费和消息粒度负载均衡在RocketMQ5.0之前,消费有两种方式可以从Broker获取消息,分别为Pull模式和Push模式。Pull模式:消费需要不断的从阻塞队列中获取数据,如果没有数据就等待,这个阻塞队列中的数据由消息拉取线程从Broker拉取消息之后加入的,所以Pull模式下消费需要不断主......
  • 【OSS】存放文件后,网页无法访问,控制台报错无法跨域访问
    来源BNDong/Cnblogs-Theme-SimpleMemory/issues/403用自己的oss(阿里云)存了dist,然后按照https://bndong.github.io/Cnblogs-Theme-SimpleMemory/v2/#/Docs/Guide/cdn这里的教程修改了“博客侧边栏公告”中的内容,控制台出现了报错hasbeenblockedbyCORSpolicy:NO'Access-......
  • git 报错 remote: You are not allowed to upload code
    背景: 尝试推送代码到A仓库时git返回“remote:Youarenotallowedtouploadcode”,其他仓库推送代码正常。 定位: 1. 确认我已拥有仓库权限 2.在其他服务器登录我本人gitlab账号推送代码到A仓库成功 3.其他人可以正常推送代码到A仓库 4.删除gitconfig中的账号......
  • 大白话教你认识 Kafka,背后原理竟能秒懂 转载
    一、Kafka基础消息系统的作用应该大部份小伙伴都清楚,用机油装箱举个例子所以消息系统就是如上图我们所说的仓库,能在中间过程作为缓存,并且实现解耦合的作用。引入一个场景,我们知道中国移动,中国联通,中国电信的日志处理,是交给外包去做大数据分析的,假设现在它们的日志都交给了你......