Apache Airflow调度程序监视所有任务和所有DAG,并触发已满足其依赖关系的任务实例,Apache Airflow是一个以编程方式编写,计划和监视工作流的平台。
最近,在我们的设置中,我们遇到了许多与气流数据库有关的问题。一个陷入僵局(两个查询试图获取task_instance表上的索引),另一个陷入日志...
我不确定这是否应该像这样,但是可以说我正在做4个任务,而我只放了3个任务,为什么第4个任务也同时显示并运行?例如:...
有一个看起来像...的气流(v1.10.5)dag,有没有一种方法可以指定所有蓝色任务应在调度程序移至任何下游任务之前完成(如当前调度程序...
假设我有一个DAG计划每天运行,今天是星期天。有没有办法告诉Airflow从星期一到今天重新运行所有DAG运行?
我是不熟悉apache的新手,请您帮助我了解我应该在哪里/在远程计算机上配置DAG。我正在使用celery_executor在工作程序节点上执行代码,...
如果我们开始从Airflow Web服务器打开DAG并触发DAG,则Airflow Scheduler进程崩溃。气流版本-** v1.10.4 Redis服务器v = 5.0.7执行程序= CeleryExecutor broker_url ='...
我的Dag {'owner':'airflow','start_date':datetime(2020,1,10,7,1,00),'depends_on_past':False,'catchup_by_default':False,} dag = DAG(' Hourly_test_2',schedule_interval ='0 * ...
假设我有以下DAG(基本占位符功能),它使用for循环动态生成任务(从遍历列表):从airflow从airflow.operators导入DAG。...] >> [[
我想在不使用Airflow UI的情况下创建Mongo连接(默认情况除外)。我从Airflow文档中读到:可以使用环境在Airflow管道中创建连接...
我有以下气流DAG:从datetime导入,从datetime导入,从dateflow导入,从airflow.operators.bash_operator import BashOperator #Run每1分钟运行一次dag = DAG(dag_id ='example_dag',...
假设我有一个简单的DAG,它创建/覆盖了许多日常表:my_table_a_YYYYMMDD,my_table_b_YYYYMMDD,my_table_c_YYYYMMDD...。它基本上是使用BigQueryOperator来运行SQL ...
我是Apache Airflow的新手。我想使用DAG调用REST端点。 REST端点,例如@PostMapping(path =“ / api / employees”,消耗=“ application / json”)现在,我想称呼其余的...
如何在DAG文件夹中存储的python脚本中获取正在运行的作曲家气流的DAG列表?
全部,我们有几个带有DAG信息的JSON文件。我创建了一个python脚本来读取这些JSON文件,以便为Composer气流动态生成DAG。现在对...
我想每天安排一次故障,例如:一天中的不同时间:星期一16H星期二9H星期三10H ...星期一15H星期二12H等...如何实现此目标?] >
我尝试如下在Airflow中运行动态schedule_interval。但是它仅在我手动运行dag时有效。您能帮我说一下,如果动态schedule_interval可能是一个原因,为什么...
我想使用气流运行一些现有的bash脚本,而不修改脚本本身中的代码。是否可以不提及任务脚本中的shell命令?
我已经在Airflow上工作了一段时间,调度程序没有问题,但是现在遇到了问题。基本上,我已经准备好脚本并准备好执行任务,但是任务无法运行...
我有一个气流DAG,我想在每个月的特定日期触发它。这是一个表迁移任务,因此除非目录中的表已更新,否则我不希望移动它。我该怎么办...
带有kubernetes执行器的气流调度程序失败:-KubernetesJobWatcher中的未知错误
我正在尝试与kubernetes执行器建立气流。我已经克隆了airflow 1.10.6并正在构建docker映像,然后使用kube进行部署。吊舱正在运行,服务气流...
我正在尝试使dag带有conf参数,该参数基本上解析文件名以在dag的下游使用。因此,类似于将something.txt解析为用于处理文件的内容...