azure-data-factory 相关问题

Microsoft Azure Data Factory是一种云服务,用于使用时间片的概念以受控方式调用(编排)其他Azure服务。数据工厂主要使用手工制作的JSON开发,这为工具提供了执行哪些活动的说明。虽然仍处于预览阶段,但Azure Data Factory V2的引入可以使用api而不仅仅是JSON文件提供更轻松的数据集成体验。

Azure DataFactory 全局参数将字符串与管道参数连接起来?

我有一堆管道,它们使用管道参数来完成 SQL 命令字符串。 有效的管道表达式示例: @concat( '更新DW00_SYS.dbo.ADFScheduler 放 PIPE_STARTTIME = G...

回答 1 投票 0

Azure 数据工厂 GitHub Actions 收到错误消息“请求内容大小超过 4 MB 的最大大小。”

最初,我们使用 GitHub 存储库设置 Azure 数据工厂 (ADF)。 然后,我们设置 GitHub Actions 将代码库从 DEV 环境部署到 PRD 环境。我们能够得到...

回答 1 投票 0

Azure blob 到 SQL 自动复制

我是 Azure 新手,我正在尝试了解如何完成我的任务以及我需要哪些服务。 我的情况是这样的:我有一些 excel 文件将被上传到 BLOB 存储。 Excel 文件将...

回答 1 投票 0

使用 ADF 从 Snowflake 到 ADLS 的增量负载

我目前正在开发一个项目,涉及使用 Azure 数据工厂 (ADF) 将增量数据从 Snowflake 加载到 Azure Data Lake Storage (ADLS)。然而,我遇到了一些挑战,我

回答 1 投票 0

如何在突触分析工作区的日志分析工作区中获取错误详细信息日志

我正在创建一个 Power BI 报告来监控一些 Azure 资源的性能。我创建了一个天蓝色数据工厂资源,并进行了诊断设置以在日志分析工作中获取其日志...

回答 3 投票 0

数据工厂的CICD

在我们的一个客户站点,我们使用 Azure 数据工厂 (ADF) 来支持多个项目,按项目将管道和数据集部分组织到文件夹中。然而,我们遇到了一个问题...

回答 1 投票 0

用动态表达式对动态文件名中的数字进行零填充

我正在 Azure 数据工厂中构建管道。 文件名必须使用 Hive 分区构建,格式为年=YYYY/月=毫米/日=DD。 对于月份=,我需要将月份数字填充到 2 位数字。 铜...

回答 1 投票 0

Azure 数据工厂问题

i 最近接受了数据工程面试。在那次采访中,面试官问了我一个关于 ADF 的问题,我在回答时遇到了一个问题。 你的帮助在这里会很有帮助。 有一个空的ta...

回答 1 投票 0

如何在复制数据活动的源数据中包含 ADF 参数?

在 ADF 管道中,我有一个复制数据活动。 源是对 API 的调用,该 API 返回 JSON 数据块,其内容取决于调用中包含的参数。 该...

回答 1 投票 0

当同一源上存在多个复制数据活动时,Azure Purview 如何在 Azure 数据工厂中执行数据沿袭?

我的具体场景是这样的: 数据工厂管道 我在 Azure Blob 存储中有一个 .txt 文件。 我将此 Blob 中的文件复制到 Azure SQLDB 我将相同的文件复制到同一 blob 中的存档位置

回答 1 投票 0

ADF Pipeline 限制或性能限制

在 Azure 数据工厂中,我有一个非常简单的 Web 活动管道。 1.) 它获取数据(分页)并且 2.) 将其发送到电力自动化系统进行进一步处理。 我有“直到”循环

回答 1 投票 0

我需要连接托管在Azure上的MongoDB通过ADF拉取数据

我必须将数据从 Azure(订阅 1)上托管的 MongoDB 提取到订阅 2 中的 ADF。 我看到一篇文章: Azure 数据工厂通过链接服务连接到 MongoDB

回答 1 投票 0

使用 Azure 数据工厂提取雅虎财经数据

我正在尝试使用 Azure 数据工厂从开源公共 Yahoo Finance API 中提取数据。我正在测试的端点是 https://query2.finance.yahoo.com/v8/finance/chart/GOLD。 我能够...

回答 1 投票 0

Azure 数据工厂通过链接服务连接超时连接到 MongoDB

我正在尝试在 ADF 中创建链接服务以连接到 MongoDB,但服务器超时 30 秒。 我有连接字符串,我可以使用 Compass - 我的计算机 IP 地址进行连接...

回答 2 投票 0

ADF 脚本/复制活动不会在运行时替换参数值

我目前正在努力处理 ADF 复制活动,该活动将源作为 SQL 查询并将其加载到 SQL Server 表中。要在复制活动或脚本中执行的查询来自 SQL

回答 1 投票 0

使用 ADF 查找和 foreach 循环 Cosmos DB 文档

我们在 Cosmos DB 容器中有超过 5000 个文档。需求是将它们一一处理并导入到另一个 Cosmos DB 容器中。 我尝试了 ADF 查找和 Foreach

回答 1 投票 0

如何使用管道将本地数据库中特定模式的所有表加载到 Fabric 中 Lakehouse 的表部分?

我正在尝试使用管道将数据从本地数据库提取到 Fabric Lakehouse。首先,我创建了脚本活动来使用 SELECT table_name FROM all_tables WH...

回答 1 投票 0

使用 SAP CDC 通过 Datafactory 将数据从 SAP 提取到 Azure Datalake

我正在使用 SAP CDC 从带有数据工厂的 SAP 中提取 ABAP CDS 视图。 ABAP CDS 视图启用了增量,但每当我尝试提取完整负载时,都会收到以下错误: 消息=Sap Odp

回答 1 投票 0

数据工厂 CI/CD 中链接的 ARM 模板出现错误:“InvalidTemplate - 部署模板验证失败

在 Azure 数据工厂中进行 CI/CD 概念验证 (POC) 时,我在使用链接的 ARM 模板进行部署时遇到了错误。使用独立ARM tem部署成功...

回答 1 投票 0

如何在映射源为参数化 SAP CDC 数据集的数据流时使用验证架构

我有一个要求,当源(SAP BW)发生更改时,我们不想更改目标(ADLS)中的数据集的架构。 我创建了一个带有 s...

回答 1 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.