我试图基于具有超过200个因子水平的因子变量来创建虚拟变量。该数据有超过1500万次观测。使用“fastDummies”包,我使用“dummy_cols”命令将factor变量转换为dummies,并删除第一个。
我已经阅读了很多关于这个问题的帖子。有几个建议对数据进行子集化,这是我做不到的。此分析适用于要求我使用所有包含数据的学校作业。
我使用16GB RAM Macbook Pro和64位版本的RStudio。下面帖子中的说明规定了如何增加R可用的最大RAM。但是,说明似乎暗示我已经处于最大容量,或者我的机器试图提高R上的内存限制可能不安全。 。
R on MacOS Error: vector memory exhausted (limit reached?)
我不知道如何发布1500万行数据。以下代码显示了相关变量的唯一因子级别:
unique(housing$city)
[1] 40 80 160 200 220 240 280 320 440 450 460 520 560 600 640
[16] 680 720 760 840 860 870 880 920 960 1000 1040 1080 1120 1121 1122
[31] 1150 1160 1240 1280 1320 1360 1400 1440 1520 1560 1600 1602 1620 1640 1680
[46] 1720 1740 1760 1840 1880 1920 1950 1960 2000 2020 2040 2080 2120 2160 2240
[61] 2290 2310 2320 2360 2400 2560 2580 2640 2670 2680 2700 2760 2840 2900 2920
[76] 3000 3060 3080 3120 3160 3180 3200 3240 3280 3290 3360 3480 3520 3560 3590
[91] 3600 3620 3660 3680 3710 3720 3760 3800 3810 3840 3880 3920 3980 4000 4040
[106] 4120 4280 4320 4360 4400 4420 4480 4520 4600 4680 4720 4800 4880 4890 4900
[121] 4920 5000 5080 5120 5160 5170 5200 5240 5280 5360 5400 5560 5600 5601 5602
[136] 5603 5605 5790 5800 5880 5910 5920 5960 6080 6120 6160 6200 6280 6440 6520
[151] 6560 6600 6640 6680 6690 6720 6740 6760 6780 6800 6840 6880 6920 6960 6980
[166] 7040 7080 7120 7160 7240 7320 7360 7362 7400 7470 7480 7500 7510 7520 7560
[181] 7600 7610 7620 7680 7800 7840 7880 7920 8000 8040 8050 8120 8160 8200 8280
[196] 8320 8400 8480 8520 8560 8600 8640 8680 8730 8760 8780 8800 8840 8880 8920
[211] 8940 8960 9040 9080 9140 9160 9200 9240 9260 9280 9320
我使用以下命令创建基于fastDummies包的虚拟变量:
library(fastDummies)
housing <- dummy_cols(housing, select_columns = "city", remove_first_dummy = TRUE)
我收到以下回复:
Error: vector memory exhausted (limit reached?)
我再次尝试根据221级创建220个假人(排除第一个以避免分析中完美共线性问题)。
我们非常欢迎任何帮助。如果我对前面的建议遗漏了一些话,我很抱歉;其中没有一个涉及我遇到的确切问题(在创建假人的情况下)并且我不太熟练使用Mac OS中的命令行。
更新:我使用R on MacOS Error: vector memory exhausted (limit reached?)中的方法使用终端删除分配给R的默认内存使用上限,并且能够执行我需要的操作(尽管它们花了很长时间)。
但是,我仍然担心这可能会对计算能力造成问题。可以删除R使用的内存的这些默认限制会损坏我的计算机吗? Activity Monitor表示,当我只有16 GB的物理内存时,我的rsession使用了近48 GB的RAM。
我知道我可能会在编码和软件问题之间划清界线,但在这种情况下,这两者是相关的。