Apache Kafka是一个分布式流媒体平台,用于存储和处理高吞吐量数据流。
AdminClient 的 Kafka Spring 启动测试用例中的问题
我正在为下面的课程编写单元测试用例。我正在尝试模拟管理客户端,以便我可以调用下面的方法创建主题。但出现空指针异常。 @服务 公开课TopicSer...
我用 config/kraft/server.properties 中的一个目录初始化 kafka log.dirs: log.dirs=/data/kafka-data/kraft-combined-logs-0 我想启用多个目录,例如 log.dirs=/data/kafka-data...
segmentio/kafka-go 消费者延迟(如果定义了 GroupID)
问题是当我在 kafka.ReaderConfig 行 GroupID 和 StartOffset 中定义时: kafka.LastOffset 在收到第一条消息后有 20-30 秒的延迟。所以如果我等 20-30 秒...
需要在两个协议中执行两个加特林场景。例如,我需要将一些 Kafka 事件发送到两个单独的 Kafka 主题。由于 Kafka 主题设置为协议级别...
将 Milvus 集群从一个云托管 Kafka 迁移到另一个升级后的 Kafka 集群
我有一个现有的 Milvus 2.4.10 集群需要更新。 它使用在 AWS 上运行的 Apache Kafka 3.3 集群。 我还需要在 AwS 上升级到 Kafka 3.7。 他们正在使用 SASL
Kafka - 将 log.cleanup.policy 更改为现有主题
我有一个 Kafka 主题,它接收很多消息。他们中的许多人都有相同的密钥,我只对最新消息感兴趣。环顾这个主题似乎非常适合配置 log.clea...
如何为 Kafka 主题设置 cleanup.policy '删除' 和 '压缩'?
Kafka主题cleanup.policy配置的说明是 一个字符串,可以是“delete”或“compact”,或者两者兼而有之。 [...] 我想知道如何设置这两个值。我不能...
使用 kafka-connect 从多个主题更新插入到多个表中
我正在尝试使用 JDBC 接收器连接器读取 2 个 kafka 主题,并更新插入到我手动创建的 2 个 Oracle 表中。每个表都有 1 个主键,我想在更新插入模式下使用它。连接器工作
如何在 Confluence KSQL 查询中使用多个条件左连接?
我有一个带有多个主键的KSQL表。我需要创建一个新流并与初始表执行 LEFT JOIN。但是,KSQL 似乎不处理多个条件 LEFT JOIN。
为什么我无法连接到 Docker 容器内的这个 Kafka 代理?
以前曾提出过类似的问题,但是在阅读了每个问题的信息后,我认为现有的任何问题都无法在这种情况下提供答案。这部分是...
Spring Boot Kafka AdminClient 未连接到 Kafka REST 端口,可使用纯文本端口
我正在使用 Kafka 开发 Spring Boot 项目。使用 Kafka REST 端口时,AdminClient 无法连接,但当我使用明文端口 40305 时,它工作正常。 这是我的设置: @RestContr...
Zookeeper Confluence Kafka 运行 Confluence 时“打开文件 Zookeeper-gc.log 时出错”
我正在 Linux 2 (WSL2) 的 Windows 子系统上构建 Kafka 应用程序。 我正在使用 Zookeeper 3.5.8、confluence-6.1.0 和 java openjdk 版本 17.0.12。 我成功安装了以上所有平台...
Kafka java.lang.ClassNotFoundException:io.confluence.kafka.serializers.AbstractKafkaSchemaSerDe
Kafka 有问题,错误 2023 年 1 月 5 日 11:19:47.532 严重 [http-nio-8080-exec-32] org.apache.catalina.core.StandardWrapperValve.invoke Servlet.service() for servlet [jpublish] in context with...
Kafka 和 Mongo 独立核心 java 的 Junit 代码
我有一个核心java应用程序(独立而不是springboot)来从Kafka主题读取json消息,解析json,将源字段映射到目标字段(Kafka消息中的字段A可能是...中的字段B)
我正在使用 Kafka 来处理一个有 4 个分区的主题。 Kafka 中消息的保留期 (TTL) 默认设置为 7 天。我正在运行一个非流式批处理作业,处理来自...的数据
Kafka Connect,明文形式的 JDBC 连接器密码。如何避免?
我有一个正在使用的jdbc源连接器,并且我一直在使用Postman来测试和设置它。数据库连接的密码是明文的,只要我是唯一看到的就可以了...
如何加密 Kafka 连接属性文件中的密码 我的属性文件如下所示 Connector.class=io.confluence.connect.jdbc.JdbcSourceConnector 连接.url = jdbc:sqlserver:// 如何加密 Kafka 连接属性文件中的密码 我的属性文件如下所示 connector.class=io.confluent.connect.jdbc.JdbcSourceConnector connection.url = jdbc:sqlserver://<connection string> connection.user = <SQL user id> connection.password = <Plain text password> mode=incrementing name=<Topic name> schema.partern=dbo query = <select from view query> table.types = VIEW incrementing.column.name=Application_Identity 如何避免使用纯文本密码以避免安全违规? 我在 Linux 服务器中使用 Kafka,数据库作为 SqL 服务器。 不建议独立连接。使用分布式模式,使用 JSON 配置 取决于您的需求,但总的来说,Debezium 更适合从数据库捕获 CDC Kafka Connect 支持工作器属性的配置外部化,而不是加密。根据您使用的 Connect 版本,环境变量是最简单的。
Azure 服务总线消费者重新平衡类似于 Kafka 消费者组重新平衡
我以前有使用 Kafka 的经验,但对 Azure 服务总线相对较新。考虑到 Kafka 分区和 Azure 服务总线会话之间的相似性,我想知道这是否是
我有一个自定义的 Kafka 库,出于商业原因我不得不使用它。我的用例是从 Kafka 读取每条记录并将其保存到存储库。我的存储库的条目是我编写的回调...
消费Kafka主题时,Kafka会将所有消息按顺序传递给消费者。现在假设主题中的数据是实时数据,其中只有每个键的最新消息才重要,即所有