azure-data-factory 相关问题

Microsoft Azure Data Factory是一种云服务,用于使用时间片的概念以受控方式调用(编排)其他Azure服务。数据工厂主要使用手工制作的JSON开发,这为工具提供了执行哪些活动的说明。虽然仍处于预览阶段,但Azure Data Factory V2的引入可以使用api而不仅仅是JSON文件提供更轻松的数据集成体验。

通过 Azure 数据工厂连接时拒绝访问笔记本电脑上的源文件夹

我正在尝试使用 Azure 数据工厂 (ADF) 连接到本地笔记本电脑上的源文件夹。以下是我遵循的步骤: 创建了本地 Azure 数据网关并成功连接...

回答 1 投票 0

从 Synapse Analytics 读取文件时出错 - Azure 数据工厂中的编码问题

我目前尝试使用 Azure Datafactory 将文件从 SFTP 复制到 azure 中的 blob 存储。在我的 SFTP 中,我获得了 ANSI 和 UTF-8 文件。 该副本在 ADF 中的复制活动中运行良好(由于我的...

回答 1 投票 0

为每个活动执行 Azure 数据工厂,并指定开始日期和结束日期

我有一个 json 文件,它包含开始日期和结束日期。我需要使用 azure 数据工厂 foreach 迭代此开始日期和结束日期。据我所知,foreach 期望...

回答 3 投票 0

当我使用动态范围分区进行并发读取和写入时,ADF 中的复制活动出现错误

我一直在尝试通过具有直接视线到服务器的自托管IR,使用复制活动将一些数据从SQL Server 16复制到Snowflake。我正在尝试启用动态范围

回答 1 投票 0

无法将 NULL 值插入列 -ADF 管道故障

在 Azure 数据工厂的管道中运行复制活动时,出现管道错误。 *RowID 用于统计数据库中的行数,该列中不应采用任何 NULL 值。

回答 1 投票 0

如何使用ADF管道计算文件夹及其子文件夹中存在的所有文件

我有一个天蓝色的文件共享目录,其中包含文件、文件夹和文件夹中的文件 文件夹 1——文件 1、文件 2、文件 3 ... 文件1 文件2 文件夹2 - 文件1、文件2 ... 文件夹3 - 文件1、文件2、文件3 .... 我...

回答 1 投票 0

从Azure数据工厂中的Azure存储资源管理器复制:预先查询表

我在 Azure 存储资源管理器上有一个来自 API 请求的每日更新的 csv 文件。通过使用 Azure 数据工厂,我想将此表复制到 PostgreSQL。这可以通过复制活动来完成。然而...

回答 1 投票 0

Azure 数据工厂动态 Excel 数据流

我的场景如下:我创建了一个处理 Excel 文件的管道,并通过在 Blob 存储中上传 Excel 来触发。文件名作为参数传递给管道...

回答 1 投票 0

如果任何顺序活动失败,如何在“设置变量”活动中保存错误详细信息

目标是在任何活动失败时执行错误详细信息,并通过电子邮件发送这些详细信息作为通知。 如果没有活动失败 - 将收到成功电子邮件 如果任何一项或所有活动失败 - 将......

回答 1 投票 0

我们有什么方法可以更改为复制活动生成的日志文件的格式吗?

目前我正在获取 .txt 格式生成的用于复制活动日志的日志文件,是否可以自定义生成 .csv 日志文件?

回答 2 投票 0

数据工厂复制活动 - AzureFileLeaseConflictError

我有一个复制活动,它将一个文件夹中的一堆 xml 文件递归复制到另一个文件夹,并在完成后删除它们。活动失败并出现以下错误。有人来过吗

回答 1 投票 0

ADF 数据流 Blob 存储到 kusto 摄取保持运行

我的 ADF 数据流将简单的 json 文件从 blob 存储复制到 kusto 表,持续运行。在管道运行中,转换状态显示成功并显示写入的行数。但是……

回答 1 投票 0

如何在 CDC 管道中的全保真分析存储架构中使用字符串属性?

我有一个使用 MongoDB API 的 CosmosDB 帐户,并且正在尝试使用其更改数据捕获输出。 我具体看到的问题是,完全保真字符串属性似乎......

回答 1 投票 0

ADF 使用带有 GET 请求的延续令牌复制数据活动分页

我正在 ADF 服务中构建 ETL 管道以从 API 加载数据,但我在使用延续令牌实现分页规则时遇到困难。 我知道,根据 Azure 文档,它

回答 1 投票 0

datafactory业务中心带空格的参数

在datafactory中,我尝试发出rest api get请求以仅获取过去几天的结果,所以我想在postingdate上进行过滤,但datafactory正在替换参数woth %20的空格和...

回答 1 投票 0

有没有办法在“活动运行”UI 中显示每个步骤读取/写入的行?

我有一个相当简单的 ADF 管道,当前由 5 个数据流活动组成。 在“活动运行 UI”中,我可以看到 5 个步骤中的每一步,并通过单击“Ou...

回答 1 投票 0

更新数据流 ADF 中的字段值

如何将json文件中的“Family.age”字段从27更新为40? 我尝试派生该列,但它没有更新该值。我是 ADF 新手,不确定配置是否正确...

回答 1 投票 0

如何从检索到的文件名中仅指定必要的文件并对其进行排序

我想使用 ADF 管道将一些文件从 FTP 服务器获取到 Azure Blob 存储中。 我想创建一个管道,其配置如下图所示(不是整个配置,而是一个标准配置...

回答 1 投票 0

org.apache.parquet.schema.InvalidSchemaException:无法使用空组编写模式

我正在从 ADF 中的 API 提取响应,我使用 COPY 活动源作为 REST API,并使用接收器作为 ADLS Gen2 Parquet。当我调试复制活动时,它因以下原因而失败。 这是回复...

回答 1 投票 0

使用 Azure 数据工厂中的通用集群访问 ADLS 安装位置时出现问题

当使用作业集群(由 Databricks 创建)通过 Azure 数据工厂运行我的笔记本时,我能够从 Databricks 访问 ADLS 安装位置。然而,当我改用 All-Purp 时...

回答 1 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.