avro 相关问题

Apache Avro是一个主要用于Apache Hadoop的数据序列化框架。

您可以放入 AVRO 架构中的字段是否有限制

您可以放入 AVRO 架构中的字段是否有限制。 例如,我们可以有一个包含 1 000 000 个字段的 AVRO 模式吗?会对性能产生一些影响吗? 谢谢...

回答 1 投票 0

在Python中解码avro格式数据时遇到“AssertionError”

我在解码来自kafka主题的avro格式数据时遇到“AssertionError”,我们使用apicurio工具在kafka端对数据进行编码。我正在使用 python 3.11.6,我正在使用的代码...

回答 1 投票 0

如何将numpy数组写入avro文件?

我想将 numpy 数组写入 avro 文件。这是 numpy 数组的一个小例子: 将 numpy 导入为 np 随机导入 np_array = np.zeros((4,3), dtype=np.float32) 对于范围 (4) 内的 i: ...

回答 1 投票 0

如何为数组的数组编写 avro 架构?

例如,我已经尝试过这个,但它不起作用。我必须创建一个在一个字段中包含数组数组的模式,但我无法做到这一点。 { "name": "SelfHealingStarter&q...

回答 1 投票 0

根据模式 FastAvro 验证数据时出现验证错误

经过多次尝试,我无法解码 fastavro 库在根据架构验证数据时抛出的错误。以下是我得到的结果 文件“fastavro\_validation.pyx”,l...

回答 1 投票 0

无法使用 JDBC kafka-sink-connector 将 kafka 主题数据写入 postgres 数据库

我有一个 kafka 主题,我们在其中生成 avro 记录,其模式如下所示。 { “类型”:“记录”, “名称”:“测试值”, “命名空间”:&

回答 2 投票 0

Ksqldb:使用基本身份验证连接到 Confluence Schema 注册表

我目前正在为 ksqlDB 构建一个用例原型,该用例应该从填充有 String 键和 Avro 值的 Kafka 主题中读取。 我正在使用以下 docker-compose.yml 来设置我的开发

回答 1 投票 0

如何覆盖 avro 命名空间和名称以反序列化到 KafkaAvroDeserializer 中的特定类

我正在尝试反序列化 Kafka 中使用 Avro 序列化的记录。不幸的是,生产者(不是我,并且长期以来一直在为其他消费者生产)已经设定了一个模式......

回答 1 投票 0

更改命名空间时,Confluence 架构上出现预期兼容性错误

有谁知道为什么在添加新版本的架构时,使用向后兼容性在 Avro 架构中进行名称空间更改不会触发融合架构注册表中的错误。 发生了什么事...

回答 1 投票 0

使用 org.apache.avro.util.RandomData() 从 avro 模式生成 JSON 示例消息不支持 UNION 类型

这是我的 avro 架构。 { "命名空间": "example.avro", “类型”:“记录”, “名称”:“用户”, “字段”:[ { ...

回答 1 投票 0

是否可以向从 avro 模式生成的类添加注释?

我使用gradle插件从avro模式(com.github.davidmc24.gradle.plugin.avro)生成类,是否可以为前@DefaultSchema(JavaBeanSchema.class)添加任何注释到类级别...

回答 1 投票 0

如何实现 Kafka 消息与其他系统之间的转换?

我想要一系列小型独立服务,它们要么使用 Kafka 主题并将数据输出到不同的系统,要么相反:从系统接收数据并生成

回答 1 投票 0

use.latest.version 配置不适用于 kafka 生产者和模式注册表

我在本地配置了一个kafka集群以及一个模式注册表实例,我对use.latest.version配置有点困惑。从我在文档中读到的内容来看,这

回答 1 投票 0

Avro Schema 反序列化索引越界异常错误 - 架构解析

我有2个应用程序,一个正在向主题生成数据,另一个应用程序从主题接收数据。写入器模式版本与读取器(消费者)模式不同。制作人有新剧本...

回答 1 投票 0

使用 to_avro 将 Spark 数据帧序列化到 Spark 中的 avro

我有一个具有以下架构的 Spark 数据框 结构类型( StructField(id,字符串类型,true), StructField(类型,StringType,true), ) 我需要使用以下命令转换为 avro...

回答 1 投票 0

如何在Google云存储中将avro文件读取为json文本

我希望能够使用类似于“hdfs -text *.avro”但在 Google 云存储中的内容将 avro 文件读取为 json。我将在 python 脚本中解析 json 我正在寻找 gsutil c...

回答 1 投票 0

如何根据 Avro 架构验证 JSON

我有来自 API 的 JSON 响应,我想根据现有的 Avro 架构进行验证(使用名称和类型进行严格验证)。 响应的类型为 {“姓名”:“亚历克斯”,“年龄”:23,“性别”:“M”,“

回答 3 投票 0

如何按照使用 Databricks 写入的顺序从 avro 文件中读取记录?

我有一个包含许多记录的avro 文件。我想保持数据写入文件的顺序。我没有可以排序的财产可以给我这个。 如何读取数据

回答 1 投票 0

如何根据现有的Avro schema生成样本数据?

我正在做Kafka的性能测试,需要测试不同的大型模式。目前,我正在从事基于 Avro 的负载测试。 通常,在使用 Kafka 时,您拥有数据并生成......

回答 1 投票 0

无法使用avro序列化在流中反序列化kafka主题

我有一个 Quarkus 项目和一个 kafka 生产者,其中有 特定的 AvroSerializer 成功写入主题,我可以看到消息正常 然后我将一个流附加到该主题...

回答 1 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.