avro 相关问题

Apache Avro是一个主要用于Apache Hadoop的数据序列化框架。

json_encode 比 PHP 中的 Avro 编码器更快(基准测试)

所以我一直在阅读有关 Avro 编码如何比 JSON 更快的内容,但是当我运行自己的测试时,我得到了完全不同的结果。在我的测试中,JSON 没有什么异常,

回答 1 投票 0

C# 与 avro 序列化相融合的 kafka 问题

我正在使用 docker 运行 kafka 和来自 https://github.com/confluenceinc/cp-all-in-one 的其他服务 在我的测试项目中使用 kafka、avro 和 schemaRegistry 的融合 nuget 包。 如果它去

回答 3 投票 0

如何通过模式自动检测将 Parquet/AVRO 加载到 Snowflake 中的多个列中?

当尝试将 Parquet/AVRO 文件加载到 Snowflake 表中时,出现错误: PARQUET 文件格式可以生成一且仅一列类型变体或对象或数组。如果您愿意,请使用 CSV 文件格式

回答 2 投票 0

不断发展的 Avro 架构(其中记录名称发生更改)和使用别名不起作用

所以我有一个 avro 模式,我想发展它并使用 topicRecordName 策略。我正在使用融合模式注册表。我想让它向后兼容,并且有必要更改

回答 1 投票 0

Avro C++ 将 avro 对象转换为 json

我正在使用 Avro C++ 库。我有一个使用“解码”函数和字节流作为源获得的二进制对象。我需要将其转换为 json 字符串、对象模式...

回答 1 投票 0

在 pyspark 中读取 avro 文件时出现问题

我正在尝试读取 pyspark 中的 avro 文件,但遇到错误: 我的机器上的 Spark 版本:3.5.0 我的机器上的 python 版本: 我已经使用以下参数启动了 pyspark 会话: pyspark --packa...

回答 1 投票 0

Kafka 中生成消息本地值序列化错误时出错

嗨,我在 Kafka 和 .Net 工作。我正在尝试生成如下消息。我已经为架构注册表和生产者创建了配置,如下所示。我正在使用证书连接到架构注册表...

回答 1 投票 0

如何在 Gradle 构建过程中从 Avro 模式生成 Java 类?

对于 Maven,有一个官方的 Avro 插件可以从 Avro 模式生成 Java 类。 然而,Gradle 不存在官方插件。 有 davidmc24/gradle-avro-plugin,但不再了

回答 2 投票 0

转储字典,其中字段包含已编码的 JSON 字符串

我使用其 avro 模式对字典进行 JSON 编码,使其成为字符串化 JSON: 导入 json 从日期时间导入日期时间 进口法斯塔夫罗 消息={ “名称”:“任何”, ...

回答 1 投票 0

使用额外的注释/元数据扩展 avro 字段

有时为字段提供上下文信息很有用。 其他协议(例如 protobuf)通过它们所谓的 Option 来支持注释,该选项允许进行以下自定义(uuid 字段

回答 1 投票 0

如何使用 Avro SchemaBuilder 类设置 null 默认值?

我正在以编程方式创建架构,这是一个要求,例如使用 SchemaBuilder: Schema s = SchemaBuilder.record(collectionName).namespace("com.company.something").fields()...

回答 1 投票 0

PoJo 到 Avro 序列化抛出 KryoException:java.lang.UnsupportedOperationException

我的单元测试在 Flink 1.11.2 和 parquet-avro 1.10.0 下运行正常,一旦我使用 parquet-avro 1.12.0 升级到 1.12.0,我的单元测试将抛出异常 com.esotericsoftware.kryo.KryoException:java.lang.

回答 1 投票 0

将 AVRO 加载到 Snowflake 中

我有一个具有以下架构的 AVRO 文件: { "type":"记录", "名称":"行", “字段”: [ {“名称”:“列1”,“类型”...

回答 1 投票 0

使用 Avro 架构和 JSON 数据创建 Avro GenericRecord

我正在尝试使用以下架构和 JSON 数据生成 Avro GenericRecord。 Avro 架构 { “类型”:“记录”, “姓名”:“人”, “……

回答 1 投票 0

如何更改SubjectNameStrategy并在confluence-kafka-python的AvroProducer中使用不同的模式?

我正在使用 confluence-kafka-python 的 AvroProducer 进行序列化。如何将SubjectNameStrategy更改为RecordNameStrategy,以便我可以在同一主题中使用不同的模式?或者有没有...

回答 2 投票 0

如何将 AsyncAPI 架构转换为 Avro 架构

我有一个没有任何模式验证的 kafka 实现。 kafka文档是用AsyncAPI编写的。我的目标是将 AsyncApi 架构 yaml 文件转换为 Avro 架构并将其上传到

回答 1 投票 0

如何使用嵌入式模式从 Kafka 反序列化 Avro

我从 Kafka 主题收到二进制 Avro 文件,我必须反序列化它们。在 Kafka 收到的消息中,我可以在每条消息的开头看到一个模式。我知道最好不要...

回答 3 投票 0

是否有任何规范来描述 KafkaAvroSerializer / KafkaAvroDeserializer 或合流平台注册表的功能?

我想知道汇合模式注册表范例(据我理解,它与 KafkaAvroSerializer/KafkaAvroDeserializer 实现配对)是否会随着时间的推移而变化。如果是的话,是吗

回答 1 投票 0

有没有办法为 GCP pubsub 记录 AVRO 架构

在此处输入图像描述,就像 openAPI 一样,有一种方法可以为 GCP pubsub 记录 AVRO 架构。 GCP 是否提供像 swagger UI 这样的 UI。或者这里有什么推荐。 据我说...

回答 1 投票 0

为什么 AvroCoder 不是确定性的?

AvroCoder.isDeterministic 返回 false。 为什么 AvroCoder 不是确定性的? Avro 记录不会总是被编码到相同的字节流中吗? 由于 Avro Coder 不是确定性的 Avro

回答 3 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.