executor 相关问题

用于与用于实际执行分布式作业/程序/应用程序的节点相关的问题。

作业中的 Spark 各个阶段是否并行运行?

作业中的 Spark 阶段是否并行运行? 我正在使用一个名为 Spark 的并行处理管理工具。我在这里有一个问题。我知道在 Spark 的一个作业中,可以有多个阶段......

回答 1 投票 0

Apache Airflow:执行器报告任务实例已完成(失败),尽管任务显示已排队

我们的气流安装使用的是 CeleryExecutor。 并发配置是 # 并行度作为执行器的设置。这定义了 # 任务实例的最大数量应该...

回答 4 投票 0

如何获取spark.executor.memory大小?

我使用的是 Spark 2.3.2.3.1.0.0-78。 我尝试使用 Spark_session.sparkContext._conf.get('spark.executor.memory') 但我只收到了“无”。 如何获取spark.executor.memory的值?

回答 1 投票 0

这是搜索这个HashMap最有效的方法还是可以通过多线程来改进? [关闭]

我有一个 HashMap (toSearch)。我正在该 HashMap (toMatch) 中寻找一个值。但在尝试比较 toSearch 和 toMatch 中的值之前,我需要除以 (toDivide)。 这是我目前的...

回答 0 投票 0

在 Java 中实现多线程以查找 HashMap 中的任何匹配项;找到第一个匹配时终止其他线程[关闭]

我有一个 BigIntegers 的 HashMap (thisIsTheHashMapIAmSearchingThrough)。我有第二个 BigIntegers 的 HashMap,我试图将其与第一个 HashMap 匹配,以简化

回答 0 投票 0

实现多线程以在 HashMap 中查找任何匹配项;找到第一个匹配时终止其他线程

这是我的原始代码的简化版本: HashMap toSearch = new HashMap(); int tsSize = 100000; int 最大长度 = 500; 对于 (int i = 1; i &l...

回答 0 投票 0

如何判断当前线程是否是 folly::executor 线程?

我正在编写使用 folly::executor 的 c++ 代码,我想检查当前线程是否是执行线程。 例如,类似于 API static folly::Executor* folly::executor::

回答 0 投票 0

YARN 资源管理器上的 Spark:YARN 容器和 Spark 执行器之间的关系

我是 Spark on YARN 的新手,不了解 YARN 容器和 Spark 执行器之间的关系。我根据 yarn-utils.py sc 的结果尝试了以下配置...

回答 2 投票 0

如何停止另一个线程切换上下文

我正在开发 Micronaut 应用程序。在这个应用程序中,有一个像工作流引擎一样工作的主要计划作业,多个步骤处理大约 60 万条记录的数据。 阿隆...

回答 0 投票 0

关闭执行器服务

我正在开发一个应用程序,在这个应用程序中,我不断地从一个Kafka主题中读取数据。这些数据以字符串格式出现,然后我将其写入一个xml文件&存储在硬盘上。现在,这些数据来...

回答 1 投票 0

安卓机房库和执行器线程异步问题。

fun setRecentToTextView() { executor.execute(Runnable { vartmp = getRecentFromDB() if(tmp.size <1){ frameLayout1.visibility = FrameLayout.VISIBLE ... ...

回答 1 投票 0

当异步方法中的一个线程发生异常时,终止所有线程。

如果在异步方法中的任何一个线程遇到异常,是否可以立即中断所有其他线程的执行?该方法返回一个completableFuture对象。...

回答 1 投票 0

ProcessPoolExecutor中的杀死进程

我正在使用Python的ProcessPoolExecutor并行运行多个进程,并在其中任何一个完成时对其进行处理。然后,我查看它们的输出,一旦其中至少有一个给出令人满意的...,

回答 1 投票 0

Spark执行程序在作业执行后未释放内存

我已经在Kubernetes上设置了一个spark集群,并创建了一个我在其中初始化spark上下文的应用程序,它是一个多线程应用程序。现在,我用4gb ram创建了四个执行程序...

回答 1 投票 0

对于在Java中运行基于cpu的简单程序的简单程序,最佳线程池大小是多少

我使用线程池执行任务,这些任务大多基于cpu并带有一点I / O,其大小比cpus的数量大一倍。 Executors.newFixedThreadPool(Runtime.getRuntime()....

回答 2 投票 13

Java并行运行方法

我有一个具有方法的Java代码,在执行期间会调用它。我希望该方法被调用并与已经执行的其余Java代码并行执行。 ...

回答 1 投票 0

Java是否需要SingleThreadPool?

我对ExecutorService有几个问题。在什么情况下,我们应该使用newSingleThreadExecutor()而不是其他方法,为什么?您能告诉我SnewSingleThreadExecutor()的真实用例吗?如果...

回答 1 投票 -1

建议:从我的服务到另一个微服务进行并行调用

我有以下要求,请根据特定条件进行数据库调用并获取结果列表。对于列表中存在的每个记录,请对微服务进行GET api调用。合并所有来自...的结果>]

回答 1 投票 0

在Hazelcast中是否可以使用自定义执行程序?

可以使用ExecutorConfig配置自定义执行程序,例如:Config config = new Config(); config.getExecutorConfig(“ my-custom-executor”)。setPoolSize(40).setName(“ my-executor”);这将...

回答 1 投票 2

Java执行器:如何设置任务优先级?

是否有可能将执行者执行的任务设置为优先级?我在JCIP中找到了一些关于它可能的声明,但是我找不到任何示例,也找不到任何相关的内容...

回答 7 投票 38

© www.soinside.com 2019 - 2024. All rights reserved.