pipeline 相关问题

流水线是一系列功能(或其等价物),其组成使得一个输出为下一个输入,以便创建复合变换。一般来说,shell管道看起来像“command | command2 | command3”(但为此使用标签“pipe”)。它还用于计算机体系结构中,以定义一系列串行级,这些串级级在馈送到管道中的元件上并行执行,以便提高整体吞吐量。

操作员:尝试同步数据时出现“无效 URL”错误

说明: 我正在 Apache Airflow DAG 中使用 AirbyteTriggerSyncOperator 将数据从 Airbyte 同步到 ClickHouse。但是,任务失败,并且我在日志中收到以下错误: 请求。

回答 1 投票 0

有没有办法让服务 A 处理数据消息并将其发布回同一主题,然后服务 B 来使用它?

我们刚刚开始使用 Kafka,我刚刚开始了解 Kafka 的不同功能。 我们有一个要求,通过 Kafka 主题发送的事件需要被一次性消耗掉......

回答 1 投票 0

Kafka - 事件源/管道

我们刚刚开始使用 Kafka,我刚刚开始了解 Kafka 的不同功能。 我们有一个要求,通过 Kafka 主题发送的事件需要被一次性消耗掉......

回答 1 投票 0

在Python中运行多个文件

我对Python非常无知,所以一些帮助会很好。我想在我的计算机上运行来自公共 github 的一组 python 文件。这些文件编码一个点...

回答 1 投票 0

Azure Pipeline - 在本地环境中测试 URL 的脚本

部署后我正在天蓝色管道中执行一个阶段。 我想运行一个脚本来从已部署的应用程序获取 HTTP 200 返回。 部署在本地服务器上运行。还有网址...

回答 2 投票 0

使用 Filebeat Netflow 的自定义摄取管道

我正在使用 Filebeat v8.8.0,并尝试通过自定义摄取管道摄取 Netflow 数据,以使用非 Maxmind 的数据库执行 IP 地理位置。目前,我的 Netflow 数据已丰富...

回答 1 投票 0

比较文件与 CSV 控制文件的行数

在 Azure synapse 管道内,我需要查找 CSV 文件的行数并将其与存储在 Azure Blob 存储中的摘要文件进行比较。 如果比较失败则管道将停止,如果...

回答 1 投票 0

通过缓存机制在azure管道中找不到Yarn模块错误

提前感谢您为我查看这个问题。 我正在致力于通过提供的这种缓存机制来改善 azure devops 管道中的 CI 构建时间。我也在使用缓存恢复...

回答 1 投票 0

Unix tr 命令将小写转换为大写以及大写转换为小写

所以我四处寻找并使用命令 tr 你可以从小写转换为大写,反之亦然。但有没有办法同时做到这两点呢? 所以: $ tr '[:上:]' '[:下:]' 或 $...

回答 4 投票 0

如何在调用者的上下文中调用脚本块?

考虑以下调用站点: $modifiedLocal = '原始本地值' '输入对象' | SomeScriptblockInvoker { $modifiedLocal = '修改后的本地值' [pscustomobject] @{ 洛卡...

回答 2 投票 0

Gstreamer 如何从视频/x-h264 切换到视频/x-raw

我有以下工作正常的 gstreamer 管道: gst-launch-1.0 -e rtspsrc user-id="用户" user-pw="pass" 位置="rtsp://...:554/user=a...._channel=1_stream=0.sdp?

回答 1 投票 0

使用 Jenkins 在电子邮件正文中发送更新的 html 文件

我有一份 Jenkins 工作,它使用 python 作为工件创建 Excel 工作表。如何在电子邮件正文中以 html 形式发送此 Excel 工作表。 我尝试创建一个 html 文件,然后创建 python 脚本

回答 1 投票 0

链接 GoCD 管道不适用于手动触发器

我构建了两个管道,我希望一个在另一个完成运行时触发。具体来说,我希望数据库更改脚本在第一个管道中运行,然后触发第二个管道...

回答 1 投票 0

jenkins 中的自定义构建参数

这里是詹金斯新手。 我已经在 Jenkins 中使用参数化构建构建了一项工作。 当我单击“使用参数构建”时,我会看到一个包含要执行作业的各个节点的下拉菜单。 我有 3 个重新...

回答 1 投票 0

kubernates 中的 jenkins devops 失败,因为 org.jenkinsci.plugins.workflow.actions.ErrorAction$ErrorId: dfb66fca-365a-4a1f-ad39-a1aa21f15e1a

我的 DevOps 总是崩溃。此外,我看不到 kubernates 中的 pod 日志,因为它们总是在几秒钟内死亡。我查看jenkins控制台输出,得到结果: 获取Jenkinsfile...

回答 1 投票 0

Azure 数据工厂 - 等到存储过程执行后再继续下一个活动

我有一个 ADF 管道,其中定义了许多活动,包括一个存储过程。此存储过程之后是其他活动。存储过程使用了多个管道...

回答 1 投票 0

我可以使用 Azure 数据工厂复制项将嵌套 XML 映射到嵌套 JSON

我正在尝试使用包含嵌套(1 级)XML 文档的 Blob 源并将它们转换为嵌套 JSON(1 级)...类似于以下内容: 输入XML文档 我正在尝试使用包含嵌套(1 级)XML 文档的 Blob 源并将它们转换为嵌套 JSON(1 级)...类似于以下内容: 输入XML文档 <RootElement> <RootChild>rootchild</RootChild> <RootRepeatingElement> <RootRepeatingElementChild>rootrepeatingelementchild1</RootRepeatingElementChild> </RootRepeatingElement> <RootRepeatingElement> <RootRepeatingElementChild>rootrepeatingelementchild2</RootRepeatingElementChild> </RootRepeatingElement> </RootElement> 输出JSON文档 { "RootChild": "rootchild", "RootRepeatingElement": [ { "RootRepeatingElementChild": "rootrepeatingelementchild1" }, { "RootRepeatingElementChild": "rootrepeatingelementchild2" } ] } 我尝试过使用复制项映射,但似乎无法弄清楚如何执行嵌套元素。 这是否可能,如果可以,是否有一个演练链接,您可以提供或解释如何将重复的 XML 元素映射到重复的 JSON 数组。 如果没有的话,还有其他选择吗? 谢谢你。 您可以按照以下步骤获取所需的 Json 输出: 使用映射数据流来获取需求。将 XML 文件添加为数据流中的源,将 flatten 转换添加到源,选择 RootRepeatingElement 作为 Unroll by 字段,创建输入列,如下所示: 根子:RootElement.RootChild 根重复元素:RootElement.RootRepeatingElement 将 aggregate 转换添加到展平转换中,以将重复元素转换回 JSON 数组。 按 RootChild 列分组。 RootRepeatingElement:collect(RootRepeatingElement) 作为聚合列。 将sink添加到聚合转换中,调试数据流,将得到如下所示的Json: {"RootChild":"rootchild","RootRepeatingElement":[{"RootRepeatingElementChild":"rootrepeatingelementchild1"},{"RootRepeatingElementChild":"rootrepeatingelementchild2"}]} 这里是数据流Json供您参考: { "name": "dataflow1", "properties": { "type": "MappingDataFlow", "typeProperties": { "sources": [ { "dataset": { "referenceName": "srcxml", "type": "DatasetReference" }, "name": "source1" } ], "sinks": [ { "dataset": { "referenceName": "Json1", "type": "DatasetReference" }, "name": "sink1" } ], "transformations": [ { "name": "flatten1" }, { "name": "aggregate1" } ], "scriptLines": [ "source(output(", " RootElement as (RootChild as string, RootRepeatingElement as (RootRepeatingElementChild as string)[])", " ),", " allowSchemaDrift: true,", " validateSchema: false,", " ignoreNoFilesFound: false,", " validationMode: 'none',", " namespaces: true) ~> source1", "source1 foldDown(unroll(RootElement.RootRepeatingElement),", " mapColumn(", " RootChild = RootElement.RootChild,", " RootRepeatingElement = RootElement.RootRepeatingElement", " ),", " skipDuplicateMapInputs: false,", " skipDuplicateMapOutputs: false) ~> flatten1", "flatten1 aggregate(groupBy(RootChild),", " RootRepeatingElement = collect(RootRepeatingElement)) ~> aggregate1", "aggregate1 sink(allowSchemaDrift: true,", " validateSchema: false,", " umask: 0022,", " preCommands: [],", " postCommands: [],", " skipDuplicateMapInputs: true,", " skipDuplicateMapOutputs: true) ~> sink1" ] } } }

回答 1 投票 0

--no-build 选项不适用于 dotnet pack 命令

我正在使用以下 Azure DevOps 管道任务来创建 nuget 包。 任务 1:构建项目 任务 2:对二进制文件进行数字签名。 任务 3:在不重建二进制文件的情况下,创建 nuget 包

回答 1 投票 0

Gitlab 清理作业仅应在某些作业运行时运行,无论失败或成功

我正在创建一个管道来测试 helm 图表,方法是检查图表、打包 helm、将它们安装在 k8s 集群上、对其运行 API 测试并在之后删除 k8s 集群中的所有内容...

回答 1 投票 0

Jenkinste docker 构建命令不起作用

在此输入图像描述 在此输入图像描述 我无法运行 docker build 命令,收到未找到错误,有解决方案吗?我安装了Docker相关的插件。我行动...

回答 1 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.