我想使用基于事件的触发器来运行数据工厂管道。
触发器将检查数据湖中的文件夹中是否有任何新文件,并在复制新的 CSV 文件后启动管道。
然后,管道会将数据复制到中间表以检查其一致性(使用不同的数据流活动进行多次检查),如果一切正确,则将其复制到阶段表中。
因此,在检查之前,中间表仅包含来自一个 CSV 文件的数据,这一点非常重要。
我已经读到,基于事件的触发器将并行启动与(同时)下载的 CSV 文件一样多的管道。
这是对的吗?在这种情况下,我如何强制每个管道等待前一个管道完成?
谢谢您的帮助。
管道属性上有一个名为
concurrency
的标志(可在编辑器窗格的右上角访问)。将其设置为 1,则只会运行一个副本,任何其他调用都将排队,直到该副本完成。
您能否分享一下屏幕截图(如果有),因为我似乎没有找到“并发”属性来限制事件触发器上的并发运行。