avro 相关问题

Apache Avro是一个主要用于Apache Hadoop的数据序列化框架。



我们使用

)。这提供了两个好处 - 模式验证和兼容性验证。但是,我想知道是否有脚本/插件可以围绕架构注册表并在本地实现相同的方法。验证是否有可能在语法上/语义上有效。同样适用于兼容性验证,就像检查新模式版本是否向后/向前兼容其他模式(以前的版本)也在本地听起来可行。

回答 2 投票 0

aavroAvsc至c#classis

如何从AVSC文件中生成C#类,以便可以在SchemareGiser.serdes.avro中摄入这些类。就像https://github.com/confluentinc/confluent--中的示例文件一样

回答 1 投票 0

KafkaConnect JDBC源连接器无法通过SMT

我已经使用io.confluent.connect.json.jsonschemaconconverter编写了一个用于连接器的SMT。同一过程正常工作的地方。

回答 0 投票 0

Conconvert Oracle编号数据类型to Clickhouse有效数据类型

我是Oracle CDC及其工作原理的新手。基于Oracle文档,我发现它可能对精度和比例很动态(因为它不是固定的数字(S,P)...

回答 1 投票 0


如何使用Avro C ++编写我在程序上定义的模式的文件? 我有一个示例模式,我正在以编程方式定义。 就像 struct userEntry { int64_t user_id; STD :: String user_name; STD :: String user_email; int64_t user_phn; } avro ::

struct UserEntry { int64_t user_id; std::string user_name; std::string user_email; int64_t user_phn; } avro::ValidSchema SampleUserPhEntry() { avro::RecordSchema schema("UserEntries"); schema.addField("user_id", avro::LongSchema()); schema.addField("user_name", avro::StringSchema()); schema.addField("user_email", avro::StringSchema()); schema.addField("user_phone", avro::LongSchema()); return avro::ValidSchema(schema); }

回答 1 投票 0

回答 1 投票 0



使用 Avro 将对象编码为 Python 中的字节数组

在python 2.7中,使用Avro,我想将对象编码为字节数组。 我发现的所有示例都写入文件。 我尝试过使用 io.BytesIO() 但这给出了: 属性错误:'_io.BytesIO'对象...

回答 3 投票 0

以编程方式从 Avro 架构创建特定记录

我正在使用以下代码,它接受 org.apache.avro.Schema 并返回 org.apache.avro.generic.GenericRecord。 我如何更改它以返回 org.apache.avro.specific.SpecificRecord

回答 1 投票 0

'org.apache.flink.formats.avro.AvroDeserializationSchema org.apache.flink.formats.avro.AvroDeserializationSchema.forGeneric(org.apache.avro.Schema)'

嘿,我在这里遇到了同样的问题,使用 avro 和模式注册表让 flink 从 kafka 读取数据。我可以使用 flink 尝试从服务器读取数据来查看 schema-registry 上的日志,但是......

回答 1 投票 0

通过 AVRO Schema 处理 JSON 消息时未定义名称“数组”

使用 AVRO 模式处理 JSON 消息时,出现错误“org.apache.avro.SchemaParseException:未定义名称:'数组'”。 无法确定具体问题出在哪里。 苏...

回答 1 投票 0

Kafka Schema 注册表无法连接到 Kafka Broker(测试容器)

由于使用了 AVRO 序列化,我需要为 Kafka 和 SchemaRegistry 编写一个集成测试来协同工作。 我的 Maven 配置如下(Apple M2 Max) % mvn -版本 阿帕奇小牛...

回答 1 投票 0

AvroTypeException:找到字符串,在使用 Kafka 消息时需要并集

上下文 我给你写这条消息是因为我在使用 Kafka 主题时遇到反序列化错误,该错误是由 io.confluence.kafka.serializers.KafkaAvroDeserializer.java 引发的。 以下是相关版本

回答 1 投票 0

Flume + Kafka + HDFS:消息分割

我有以下 Flume 代理配置来从 kafka 源读取消息并将其写回 HDFS 接收器 tier1.sources = 源1 第 1 层.channels = 通道 1 tier1.sinks = 水槽1 1 级。

回答 1 投票 0

如何验证 Avro 架构文件的格式以查看其是否符合 Apache Avro 规范

我们的系统必须处理 Avro 模式。在将 Avro 架构文件发送到服务器之前,我想验证提交的架构文件的格式,看看它是否符合 Apache Avro 规范...

回答 3 投票 0

使用 Strimzi 与 KafkaConnect 中的 Azure 事件中心关联的架构注册表问题

我正在尝试以 Avro 格式序列化发送到 Azure 事件中心的有效负载值。我正在使用 Strimzi 将 KafkaConnect 部署到 Kubernetes,并使用 Event Hub 作为代理来代替本机 Ka...

回答 1 投票 0

最新问题
© www.soinside.com 2019 - 2025. All rights reserved.