我正在使用
joblib.Parallel
使用 loky
后端运行任务。
有时子进程会挂起,并且在完成所有任务后,控制权永远不会返回到主循环。
我通过登录子进程看到这一点:我看到它记录了一条已完成的消息。然而,调用
Parallel()
的主循环永远不会收回其控制权。
确保您的子进程不会生成自己的子进程,或以其他方式操纵进程,因为这可能会导致指定的行为。
尽量避免在 Loky 子进程中创建任何进程
留意像
futureproof
这样的库或任何可能在内部使用多个进程和线程的库