Apache Kafka Connect是Apache Kafka与其他数据系统之间可扩展且可靠的流数据的工具。 - https://kafka.apache.org/documentation.html#connect
无法通过Kafka、JDBC源连接器和pyspark获取正确格式的postgres数据
我在Postgres中创建了一个表: 如果不存在则创建表 public.sample_a ( id 文本 COLLATE pg_catalog."default" NOT NULL, is_active 布尔值 NOT NULL, is_deleted 布尔值 ...
如何将 Kafka Connect 适配器与 Amazon MSK 结合使用? 根据 AWS 文档,它支持 Kafka 连接,但没有记录如何设置适配器和使用它。
Debezium OutboxEventRouter 与 json.expand.payload=true 忽略发送的 kafka 消息中的空数组
Debezium KafkaConnector 尾随 outbox_event 表 表结构: id(uuid) 键(varchar 主题(varchar) 有效负载(json) 发出的(时间戳z) 卡夫卡连接器配置: 配置: 数据库.dbname:...
Debezium docker 与 connect table.include.list 不起作用
我使用这个示例将elasticsearch与mssql同步https://github.com/debezium/debezium-examples/tree/master/unwrap-smt#elasticsearch-sink 我正在使用此 mssql 连接运行 Debezium 1.5...
无法使用 Kafka-Connect 和 Schema-registry 反序列化 protobuf 数据
我正在尝试使用 Kafka-Connect 和 Schema-registry 将 Kafka 主题(带有原始数据!)放入 Postgres 表中! 我的 Kafka-Connect 连接器文件: { “名称”:“proto_sink”, ...
我有一个 JdbcSourceConnector 连接器,尝试使用 url 中的下一个配置“encrypt=false;trustServerCertificate=false;”连接到 SQL Server 数据库因为它很旧
要运行 cp S3-connect 以在本地 Mac 中使用 kafka 主题,我做了如下操作 1.安装Confluence Kafka连接器并运行kafka connect-standalone.sh ML-C02Z605SLVDQ:kafka_2....
通过 Kafka Connect 连接到 MSSQL 服务器的 Kafka 主题 - 无法连接
我正在尝试通过 docker 将示例记录从 Kafka 主题推送到本地托管的 MSSQL。 所有服务都运行良好,但是当我尝试使用以下配置创建接收器连接器时,它
使用 kafka-connect 从多个主题更新插入到多个表中
我正在尝试使用 JDBC 接收器连接器读取 2 个 kafka 主题,并更新插入到我手动创建的 2 个 Oracle 表中。每个表都有 1 个主键,我想在更新插入模式下使用它。连接器工作
Kafka Connect,明文形式的 JDBC 连接器密码。如何避免?
我有一个正在使用的jdbc源连接器,并且我一直在使用Postman来测试和设置它。数据库连接的密码是明文的,只要我是唯一看到的就可以了...
如何加密 Kafka 连接属性文件中的密码 我的属性文件如下所示 Connector.class=io.confluence.connect.jdbc.JdbcSourceConnector 连接.url = jdbc:sqlserver:// 如何加密 Kafka 连接属性文件中的密码 我的属性文件如下所示 connector.class=io.confluent.connect.jdbc.JdbcSourceConnector connection.url = jdbc:sqlserver://<connection string> connection.user = <SQL user id> connection.password = <Plain text password> mode=incrementing name=<Topic name> schema.partern=dbo query = <select from view query> table.types = VIEW incrementing.column.name=Application_Identity 如何避免使用纯文本密码以避免安全违规? 我在 Linux 服务器中使用 Kafka,数据库作为 SqL 服务器。 不建议独立连接。使用分布式模式,使用 JSON 配置 取决于您的需求,但总的来说,Debezium 更适合从数据库捕获 CDC Kafka Connect 支持工作器属性的配置外部化,而不是加密。根据您使用的 Connect 版本,环境变量是最简单的。
错误 SparkContext:无法添加文件 java.io.FileNotFoundException:找不到 Spark 的 Jar
请根据我使用的代码帮助我修复上述错误 proccesing_data.py代码用于使用spark-streaming处理数据 导入日志记录 从 pyspark.sql 导入 SparkSession 来自 pys...
我在 Neo4j 实例中启用了 CDC,并设置了一个 Kafka 主题来监听 Neo4j 数据库中的数据更改。根据 Neo4j 文档,事件数据应该是键值对
Kafka Connect JDBC 源连接器 - java.sql.SQLException:ORA-01005:给出的密码为空;登录被拒绝
我正在使用 Kafka 同步来自 2 个不同数据库的数据。但是当运行 Kafka Connect 到 oracle-source-connector 文件时,出现错误: java.sql.SQLException: ORA-01005: null passwd;我...
运行 connect-distributed.sh 时 ProducerConfig 和 ConsumerConfig 的属性文件位置
我是 kafka 和 kafka-connect 的新手。 我想通过 MongoDB Kafka Connect 将数据从 MongoDB 迁移到 Atlas MongoDB。 我使用的是kafka 2.12-2.3.0版本并使用mongo-kafka-connect-1.13.0-a...
Kafka-Connect 服务启动时出现 NullPointerException 日志
我在 kafka-connect 中部署了自定义连接器并使用以下配置进行注册: { “名称”:“rabbitmq-源连接器”, “配置”:{ “康...
无法使用汇合kafka中的Microsoft sql server接收器连接器将记录从kafka主题发送到数据库
总结:我需要将记录发送到kafka主题,并且使用microsoft sql server接收器连接器必须从主题获取记录并将其发送到数据库。 ** 我尝试将记录发送到...
提取密钥并将其附加到 Kafka Connect 中的消息值
我想通过 Kafka Connect 提取键并将其附加到值中。我阅读了 SMT 并测试了一些 SMT,但我做不到。 我发送这个记录值: {“姓名”:“阿里”} 按此键: 每...
我们可以将 init-container 与 strimzi kafka 容器附加在一起吗?
我们可以将 init-container 与 strimzi kafka connect 容器连接起来吗?我想使用 init-container 在运行时将一些 jar 从另一个映像 (docker/my-sdk:9.1) 复制到 strimzi kafka 连接容器
错误 REST 调用 /metrics 时未捕获异常(org.apache.kafka.connect.runtime.rest.errors.ConnectExceptionMapper:61)
我正在分布式模式下运行 kafka 连接器,并明确禁用了 jmx 指标暴露,但 /metrics 端点仍然每隔 45,12 秒间隔被命中并返回 404 Re...