用于与Apache Kafka使用者API相关的问题
Kafka Compacted Topic:定期重置消费者偏移量
我想将实体信息存储在 Apache Kafka 压缩主题中。因此,某些具有相同键的值可能会被更新。 假设生产者发送一条带有消费者拥有的密钥的消息
我正在运行一个数据管道,以便 我通过jdbc connect将sql db中的数据读入kafka主题 我使用ES的kafka接收器连接器将这些数据接收到Elasticsearch中 我需要重置这个
我已经在 Kafka 中成功实现了 debezium postgres 连接器,它拦截了我的 posgres 表中所做的更改。 我还成功实现了一个消费者,即订阅我的...
在Spring Kafka中实现批量事件的Exactly-Once处理
我正在开发一个 Spring Kafka 应用程序,我在其中为主题 A(列表<'Sms>)生成批量事件。目标是在整个流程中实现一次性处理,包括消费...
目前我正在尝试从一个主题中消费并附加来自一个主题的所有消息,但不幸的是最后的列表没有打印任何内容。 导入 json 从卡夫卡导入
org.apache.kafka.clients.NetworkClient 引导代理 bootstrap-servers-ip:9092 已断开连接
我正在本地系统上运行apache kafka,它运行得非常好。但在冒烟测试期间,我的应用程序无法连接到 kafka 集群。它不断抛出以下内容...
Spring Boot 3 + Kafka 未在与 SB 2.7 相同的轮询超时中加入/获取记录
所以我已将我的应用程序更新到 Spring Boot 3,特别是 3.1.6,但这个问题在我尝试过的所有 3.x 版本上都存在。 基本上旧的轮询时间不足以接收记录
我正在使用 spring kafka 并面临一些错误 向节点 1001 发送获取请求(sessionId=INVALID,epoch=INITIAL)时出错:org.apache.kafka.common.errors.DisconnectException。 我的消费者生产者...
Kafka Consumer max.poll.records 与多个分区
想要了解具有多个分区的 Kafka 主题的 max.poll.records 的行为。 假设我在一个消费者组中有 8 个分区和 8 个消费者实例。假设产品...
我有两个具有相同组ID的消费者服务器订阅了相同的主题。 一台 kafka 服务器仅运行一个分区。 据我所知,消息应该在这两个中随机消耗
我想从Kafka获取数据,此方法成功获取记录但无法传递给变量。这是我的代码 公共无效 subscribeFromKafka() 抛出异常 { 列表结果=新
假设最初我们有一个包含 3 个分区的主题和一个包含 3 个消费者的消费者组,从该主题进行消费。如果我们在消费者组中再添加一个消费者,分区会重新平衡吗
我刚刚开始使用 Kafka,kafka-python。在下面的代码中,我尝试在消息到达时读取它们。但由于某种原因,消费者似乎要等到一定数量的
我有一个kafka主题的两个消费者组我想设置一种没有重复的方法
一个kafka主题有两个消费者组 我想设置这样一种方法,如果一个消费者组宕机,那么第二个消费者组开始从第一个消费者组留下的偏移量开始消费,以避免
我正在使用kafka处理器api,我从3个分区的主题创建一个状态存储(我有3个经纪人),我有1个流实例。我想知道当我到达当地的国营商店时,我可以买到所有的东西吗...
有没有办法在尝试消费来自 Quarkus 的消息时管理并发消费者的并发性? 我正在寻找具有并发性的批处理,以便在短时间内处理多条消息...
Kafka 生产者由于 LeaderNotAvailableError 无法生成消息
我在kafka和zookeeper方面遇到了一些问题,我有3个kafka经纪人和3个zookeeper。我从我的所有容器中收到几个卡夫卡问题,其中一些有: 时间=“2023-12-26T09:46...
无法创建 Kafka 接收器 - Python - Kubernetes
目前我正在使用 EKS/Kubernetes 集群,并将 Apache kafka 安装为服务。 在集群内部,我可以执行所有 kafka 操作,例如创建、删除、使用或读取主题
由于我是 Kafka 的新手,想知道如果我在后台调用 Consumer.poll() 方法会发生什么。我假设了以下两种内部行为方式。 当我调用 poll 时,会获取记录...
我正在使用 Kafka 和 Debezium 从数据库捕获行相关事件,它按预期工作 在 Python 中,我设置了一个消费者来处理来自主题的 JSON 消息 # 卡夫卡消费者