为什么我的python多处理脚本在Windows上运行而在Linux上运行?

问题描述 投票:1回答:1

我已经在Windows上成功实现了一个多处理脚本,但是同一个脚本在linux上启动了“RuntimeError:已经启动”并停止执行。该脚本包含以下“main.py”(为了便于阅读,省略了一些部分):

from multiprocessing import freeze_support

if __name__ == '__main__':
    #MULTIPROCESSING STUFF
    freeze_support()

    #DO SOME STUFF

    #Call my multiprocessing-function in other module
    mod2.func(tileTS[0], label, areaconst)

和“mod2.py”模块:

import numpy as np
from multiprocessing import Pool
from functools import partial
import os, time

def func(ts, label, areaconst):
    #SETTING UP/LOADING SOME VARIABLES

    for idx in totImgs:            
        img_ = myList[idx]      

        p = Pool(2)
        result = p.map(  partial(_mp_avg, var1=var1_, img=img_), range(totObjs) ) 

        p.close()
        p.join()

        #MANAGE RESULTING VARIABLES

    return None


def _mp_avg(idx, img, var1):
    num = idx + 1
    arr = img[var1==num]
    if np.isnan(arr).any():
        return np.nan 
    else:
        return np.sum( arr )  

当脚本执行“Pool.map”函数/类(dunno tbh)时会启动此错误。相同的代码在Windows上完美运行。

我正在使用Ubuntu 18.04并从Visual Studio Code启动python 3.6.7脚本。

编辑:添加了运行时错误(Terminal Error message)的屏幕截图

python linux visual-studio-code multiprocessing
1个回答
2
投票

正如@Darkonaut所指出的,Visual Studio Code使用ptvsd作为调试器,而不是fork-save(https://github.com/Microsoft/ptvsd/issues/1046#issuecomment-443339930)。因为在linux上,默认进程spawn方法是“os.fork()”,如果从VSCode中执行,脚本将生成RuntimeError。这不会发生在Windows上。 Linux上的解决方案是:

  • 通过在主函数调用后插入以下一行来更改start-method: multiprocessing.set_start_method("spawn")
  • 使用VSCode编辑代码并从终端启动。
  • 更改IDE。
  • 等待fork-save调试器更新,这应该是正常工作。

请查看以下链接以获取有关该问题的更多信息:https://docs.python.org/3/library/multiprocessing.html#contexts-and-start-methods

© www.soinside.com 2019 - 2024. All rights reserved.