我如何让Python 3.7使用超过2 GB的内存? (64位设置)

问题描述 投票:2回答:1

[搜寻了一些位(例如hereherehere),我很茫然。 如何使Python 3.7使用超过2 GB的内存?

关于我的设置的信息:我正在使用64位Python 3.7.5运行64位PyCharm(2019.2.6),并且已在pycharm.vmoptions中设置了-Xms=8g-Xmx=16g(因为this建议设置XmsXms的一半)。它在具有40 GB内存(2 * 4 + 2 * 32)的计算机上的macOS Catalina 10.15.3上运行。

我想做的事情,以及为什么要增加内存使用量:我正在将相对较大的时间序列(200-400列,大约7万行)读入Pandas(v。0.25.3) .txt文件中的数据帧(文件大小范围从0.5 GB到1.5 GB),并且一次处理10-15个这些文件。在读取文件时,我看到python3.7进程将内存增加到大约2 GB(有时为2.05 GB),然后将内存使用减少到几百MB,然后又增加到2 GB(并重复)。

当我使用这些时间序列[切片,绘图等]时,一切都需要相对较长的时间(几分钟)。我希望可以通过增加内存使用率来改善这一点。但是,如果我认为增加python进程中RAM使用率会提高性能的假设是错误的,请让我知道

python pycharm
1个回答
0
投票

感谢许多有用的评论(geckos,jammin0921,ÓscarLópez和堆溢出),看来我观察到的是[[not Python的局限性,但是Python / Pandas显然很聪明的数据管理这意味着一旦将12 GB的.txt文件读入DataFrames,通过查看数据帧(df)的内存使用情况,它们的总大小实际上小于2 GB:df.memory_usage(True, True).sum()给出了1.9 GB

已经尝试通过进一步增加读取的数据大小来进一步操作,但是我确实从

python3.7进程中看到2 GB以上的RAM使用率。

© www.soinside.com 2019 - 2024. All rights reserved.