apache-kafka 相关问题

Apache Kafka是一个分布式流媒体平台,用于存储和处理高吞吐量数据流。

AdminClient 的 Kafka Spring 启动测试用例中的问题

我正在为下面的课程编写单元测试用例。我正在尝试模拟管理客户端,以便我可以调用下面的方法创建主题。但出现空指针异常。 @服务 公开课TopicSer...

回答 1 投票 0

在log.dirs中添加更多目录后无法启动kafka

我用 config/kraft/server.properties 中的一个目录初始化 kafka log.dirs: log.dirs=/data/kafka-data/kraft-combined-logs-0 我想启用多个目录,例如 log.dirs=/data/kafka-data...

回答 1 投票 0

segmentio/kafka-go 消费者延迟(如果定义了 GroupID)

问题是当我在 kafka.ReaderConfig 行 GroupID 和 StartOffset 中定义时: kafka.LastOffset 在收到第一条消息后有 20-30 秒的延迟。所以如果我等 20-30 秒...

回答 1 投票 0

Gattle 是否可以执行多个协议

需要在两个协议中执行两个加特林场景。例如,我需要将一些 Kafka 事件发送到两个单独的 Kafka 主题。由于 Kafka 主题设置为协议级别...

回答 1 投票 0

将 Milvus 集群从一个云托管 Kafka 迁移到另一个升级后的 Kafka 集群

我有一个现有的 Milvus 2.4.10 集群需要更新。 它使用在 AWS 上运行的 Apache Kafka 3.3 集群。 我还需要在 AwS 上升级到 Kafka 3.7。 他们正在使用 SASL

回答 1 投票 0

Kafka - 将 log.cleanup.policy 更改为现有主题

我有一个 Kafka 主题,它接收很多消息。他们中的许多人都有相同的密钥,我只对最新消息感兴趣。环顾这个主题似乎非常适合配置 log.clea...

回答 2 投票 0

如何为 Kafka 主题设置 cleanup.policy '删除' 和 '压缩'?

Kafka主题cleanup.policy配置的说明是 一个字符串,可以是“delete”或“compact”,或者两者兼而有之。 [...] 我想知道如何设置这两个值。我不能...

回答 3 投票 0

使用 kafka-connect 从多个主题更新插入到多个表中

我正在尝试使用 JDBC 接收器连接器读取 2 个 kafka 主题,并更新插入到我手动创建的 2 个 Oracle 表中。每个表都有 1 个主键,我想在更新插入模式下使用它。连接器工作

回答 2 投票 0

如何在 Confluence KSQL 查询中使用多个条件左连接?

我有一个带有多个主键的KSQL表。我需要创建一个新流并与初始表执行 LEFT JOIN。但是,KSQL 似乎不处理多个条件 LEFT JOIN。

回答 1 投票 0

为什么我无法连接到 Docker 容器内的这个 Kafka 代理?

以前曾提出过类似的问题,但是在阅读了每个问题的信息后,我认为现有的任何问题都无法在这种情况下提供答案。这部分是...

回答 1 投票 0

Spring Boot Kafka AdminClient 未连接到 Kafka REST 端口,可使用纯文本端口

我正在使用 Kafka 开发 Spring Boot 项目。使用 Kafka REST 端口时,AdminClient 无法连接,但当我使用明文端口 40305 时,它工作正常。 这是我的设置: @RestContr...

回答 1 投票 0

Zookeeper Confluence Kafka 运行 Confluence 时“打开文件 Zookeeper-gc.log 时出错”

我正在 Linux 2 (WSL2) 的 Windows 子系统上构建 Kafka 应用程序。 我正在使用 Zookeeper 3.5.8、confluence-6.1.0 和 java openjdk 版本 17.0.12。 我成功安装了以上所有平台...

回答 1 投票 0

Kafka java.lang.ClassNotFoundException:io.confluence.kafka.serializers.AbstractKafkaSchemaSerDe

Kafka 有问题,错误 2023 年 1 月 5 日 11:19:47.532 严重 [http-nio-8080-exec-32] org.apache.catalina.core.StandardWrapperValve.invoke Servlet.service() for servlet [jpublish] in context with...

回答 1 投票 0

Kafka 和 Mongo 独立核心 java 的 Junit 代码

我有一个核心java应用程序(独立而不是springboot)来从Kafka主题读取json消息,解析json,将源字段映射到目标字段(Kafka消息中的字段A可能是...中的字段B)

回答 1 投票 0

保留策略删除旧消息后,Kafka 会继续分配顺序偏移吗?

我正在使用 Kafka 来处理一个有 4 个分区的主题。 Kafka 中消息的保留期 (TTL) 默认设置为 7 天。我正在运行一个非流式批处理作业,处理来自...的数据

回答 1 投票 0

Kafka Connect,明文形式的 JDBC 连接器密码。如何避免?

我有一个正在使用的jdbc源连接器,并且我一直在使用Postman来测试和设置它。数据库连接的密码是明文的,只要我是唯一看到的就可以了...

回答 3 投票 0

加密Kafka连接属性文件中的sql密码

如何加密 Kafka 连接属性文件中的密码 我的属性文件如下所示 Connector.class=io.confluence.connect.jdbc.JdbcSourceConnector 连接.url = jdbc:sqlserver:// 如何加密 Kafka 连接属性文件中的密码 我的属性文件如下所示 connector.class=io.confluent.connect.jdbc.JdbcSourceConnector connection.url = jdbc:sqlserver://<connection string> connection.user = <SQL user id> connection.password = <Plain text password> mode=incrementing name=<Topic name> schema.partern=dbo query = <select from view query> table.types = VIEW incrementing.column.name=Application_Identity 如何避免使用纯文本密码以避免安全违规? 我在 Linux 服务器中使用 Kafka,数据库作为 SqL 服务器。 不建议独立连接。使用分布式模式,使用 JSON 配置 取决于您的需求,但总的来说,Debezium 更适合从数据库捕获 CDC Kafka Connect 支持工作器属性的配置外部化,而不是加密。根据您使用的 Connect 版本,环境变量是最简单的。

回答 1 投票 0

Azure 服务总线消费者重新平衡类似于 Kafka 消费者组重新平衡

我以前有使用 Kafka 的经验,但对 Azure 服务总线相对较新。考虑到 Kafka 分区和 Azure 服务总线会话之间的相似性,我想知道这是否是

回答 1 投票 0

当我受到阻塞库的限制时,将阻塞代码转换为反应式代码

我有一个自定义的 Kafka 库,出于商业原因我不得不使用它。我的用例是从 Kafka 读取每条记录并将其保存到存储库。我的存储库的条目是我编写的回调...

回答 1 投票 0

实时处理中始终仅处理最新消息(每个键)

消费Kafka主题时,Kafka会将所有消息按顺序传递给消费者。现在假设主题中的数据是实时数据,其中只有每个键的最新消息才重要,即所有

回答 2 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.