airflow-scheduler 相关问题

Apache Airflow调度程序监视所有任务和所有DAG,并触发已满足其依赖关系的任务实例,Apache Airflow是一个以编程方式编写,计划和监视工作流的平台。

Airflow DAG调度

我如何在“每月的最后一天”和“每月的最后一个工作日”安排我的Airflow DAG,请注意-如果该月份有28/29/30/31天并且year年或...

回答 1 投票 0

在特定时间内运行任务

我在气流障碍中有3个任务。这三个任务具有时间依赖性任务1-上午8点任务-2-上午10点任务-3-12上午我找不到任何与此相关的文档。它告诉...

回答 2 投票 0

无法在Google Cloud Platform上创建Dataproc群集,“ NodeInitializationAction必须指定可执行文件”

在Google Cloud Platform上创建Dataproc Cluster时遇到以下错误。我们正在将Mercury插件用于Airflow。只是想了解是什么问题。我尝试了很多选择,但直到现在...

回答 1 投票 2

气流在午夜不执行DAG

我使用以下配置进行了DAG:default_args = {'owner':'airflow','depends_on_past':False,'start_date':airflow.utils.dates.days_ago(0,0,minutes = 1),'电子邮件':['...

回答 1 投票 0

Airflow worker进程未触发-调度程序抛出错误消息(Docker编写-Celery执行模式)

相同的设置在Mac上有效,并将图像和组合文件移动到CentOS服务器。最初,我在路由方面遇到问题,并通过使用firewalld更新规则解决了该问题。 scheduler_1 | ...

回答 1 投票 0

无法使用JdbcOperator Airflow

我正在尝试使用JdbcOperator连接到配置单元表。我的代码如下:从datetime导入timedelta从datetime导入dt datetime从airflow.models导入DAG从airflow.operators ....

回答 2 投票 0

我可以从每分钟运行一次的调度程序作业DAG中创建自定义参数化DAG吗?>

我正在研究Airflow,看它是否适合我的用例,并且从文档中不清楚是否适合这种情况。我想根据一些非常...

回答 1 投票 0

气流操作员从外部Rest API提取数据

我正在尝试从外部API提取数据并将其转储到S3上。我在考虑编写和Airflow Operator rest-to-s3.py,它将从外部Rest API提取数据。我担心的是:...

回答 1 投票 0

如何获得正确的气流时间表

我对气流计划如何工作感到非常困惑。我想安排一个在星期五运行的dag,我想在星期六使用它的结果。所以我做了crontab表达式,像这样:...

回答 1 投票 -1

是否有办法使气流过程在每周的确切相同时间开始?

我有一个气流过程,该过程在每个星期日的12:00 am运行。是否有一种方法可以每周精确地在同一时间(绝对时间)触发此过程,而不管先前的运行时间或结果如何。 ...

回答 1 投票 0

基于来自慰问队列的慰问事件的气流任务

我刚刚开始学习气流...!我需要创建DAG,其中包含任务以监听来自慰安队列的事件,基于event(...

回答 1 投票 0

无法启动Airflow Server-OSError:[Errno 2]没有这样的文件或目录

我使用安装和快速入门页面在本地设置Airflow。我本来可以启动并运行它,甚至可以按照教程进行操作。然后,当尝试我自己的示例时,需要...

回答 1 投票 0

是否有一种简单的方法可以跳过Airflow中的整个DAG运行,但仍允许以后运行?

我目前有一个DAG,它每天中午都在运行。我现在希望它可以在每个星期五和每个月的10号运行,以节省一些成本,但仍计划将其每天运行,因此...

回答 1 投票 0


气流sla_miss_callback函数不会触发,也不会显示在dag详细信息页面中

我想通过我在dag初始化期间调用的自定义回调函数发送警报,如下所示-dag = DAG('tutorial',default_args = default_args,schedule_interval = timedelta(days = ...

回答 1 投票 1

为什么Airflow Scheduler只能作为非守护进程运行而不能作为守护进程运行?

我已经在Ubuntu服务器上设置了气流。作为守护进程,我很好地启动了Web服务器。我可以使用气流调度程序启动调度程序,并且可以正常运行,并且运行dag。然后我停止它...

回答 1 投票 1

任务重试次数超过指定的重试次数

我最近将气流升级到1.10.2。 dag中的某些任务运行良好,而某些任务重试的次数超过了指定的重试次数。任务日志之一显示-正在启动...

回答 1 投票 8

如何在气流中分别运行任务?

我有一个要运行脚本的表列表。当我一次执行一张表时,它成功运行,但是当我在任务上方尝试for循环时,它一次运行所有表,从而给我多个...

回答 2 投票 0

无法在EC2上使用新创建的气流环境连接到Snowflake

我有一个创建基本气流环境的AWS Cloudformation模板(一个EC2 t3.small实例同时托管Web服务器和调度程序,没有外部DB,没有celery执行程序)。此环境...

回答 1 投票 0

DAG中的运算符之间共享

说我有一个dag_id为run_id的DAG,并且管道为T1> T2> T3,其中T1,T2,T3是Python运算符。我希望能够将参数从T1传递到T2,而无需将其存储在数据库/ S3中...

回答 1 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.