我有以下DataFrame:
Col1 Col2 Col3 Type
0 1 2 3 1
1 4 5 6 1
...
20 7 8 9 2
21 10 11 12 2
...
45 13 14 15 3
46 16 17 18 3
...
从csv文件中读取DataFrame。所有具有Type
1的行都在顶部,其次是Type
2的行,接着是Type
3的行等。
我想改组DataFrame的行的顺序,以便所有Type
都是混合的。可能的结果可能是:
Col1 Col2 Col3 Type
0 7 8 9 2
1 13 14 15 3
...
20 1 2 3 1
21 10 11 12 2
...
45 4 5 6 1
46 16 17 18 3
...
我怎样才能做到这一点?
使用pandas执行此操作的更惯用的方法是使用数据帧的.sample
方法,即
df.sample(frac=1)
frac
关键字参数指定随机样本中要返回的行的分数,因此frac=1
表示返回所有行(按随机顺序)。
注意:如果您希望就地对数据帧进行随机播放并重置索引,则可以执行以下操作:
df = df.sample(frac=1).reset_index(drop=True)
在这里,指定drop=True
可防止.reset_index
创建包含旧索引条目的列。
后续注意事项:尽管上面的操作看起来不像是就地,但python / pandas足够聪明,不会为洗牌对象做另一个malloc。也就是说,即使参考对象已经改变(我的意思是id(df_old)
与id(df_new)
不同),底层C对象仍然是相同的。为了证明确实如此,您可以运行一个简单的内存分析器:
$ python3 -m memory_profiler .\test.py
Filename: .\test.py
Line # Mem usage Increment Line Contents
================================================
5 68.5 MiB 68.5 MiB @profile
6 def shuffle():
7 847.8 MiB 779.3 MiB df = pd.DataFrame(np.random.randn(100, 1000000))
8 847.9 MiB 0.1 MiB df = df.sample(frac=1).reset_index(drop=True)
你可以简单地使用sklearn
from sklearn.utils import shuffle
df = shuffle(df)
您可以通过使用混洗索引进行索引来对数据帧的行进行随机播放。为此,你可以使用np.random.permutation
(但np.random.choice
也是一种可能性):
In [12]: df = pd.read_csv(StringIO(s), sep="\s+")
In [13]: df
Out[13]:
Col1 Col2 Col3 Type
0 1 2 3 1
1 4 5 6 1
20 7 8 9 2
21 10 11 12 2
45 13 14 15 3
46 16 17 18 3
In [14]: df.iloc[np.random.permutation(len(df))]
Out[14]:
Col1 Col2 Col3 Type
46 16 17 18 3
45 13 14 15 3
20 7 8 9 2
0 1 2 3 1
1 4 5 6 1
21 10 11 12 2
如果你想保持索引编号为1,2,..,n,如你的例子,你可以简单地重置索引:df_shuffled.reset_index(drop=True)
TL; DR:np.random.shuffle(ndarray)
可以胜任这项工作。
所以,在你的情况下
np.random.shuffle(DataFrame.values)
引子盖下的DataFrame
使用NumPy ndarray作为数据持有者。 (你可以从DataFrame source code查询)
因此,如果你使用np.random.shuffle()
,它会沿着多维数组的第一轴对阵列进行混洗。但是DataFrame
的指数仍然没有改变。
但是,有一些要考虑的问题。
sklearn.utils.shuffle()
可以指定random_state
以及另一个控制输出的选项。您可能希望将其用于开发目的。sklearn.utils.shuffle()
更快。但是,我将把DataFrame
的轴信息(索引,列)与它包含的ndarray
连接起来。在sklearn.utils.shuffle()
和np.random.shuffle()
之间。
nd = sklearn.utils.shuffle(nd)
0.10793248389381915秒快了8倍
np.random.shuffle(nd)
0.8897626010002568秒
df = sklearn.utils.shuffle(df)
0.3183923360193148秒快3倍
np.random.shuffle(df.values)
0.9357550159329548秒
结论:如果可以将轴信息(索引,列)与ndarray一起洗牌,请使用
sklearn.utils.shuffle()
。否则,请使用np.random.shuffle()
import timeit
setup = '''
import numpy as np
import pandas as pd
import sklearn
nd = np.random.random((1000, 100))
df = pd.DataFrame(nd)
'''
timeit.timeit('nd = sklearn.utils.shuffle(nd)', setup=setup, number=1000)
timeit.timeit('np.random.shuffle(nd)', setup=setup, number=1000)
timeit.timeit('df = sklearn.utils.shuffle(df)', setup=setup, number=1000)
timeit.timeit('np.random.shuffle(df.values)', setup=setup, number=1000)
(我没有足够的声誉在最高职位发表评论,所以我希望其他人可以为我做这件事。)有人担心第一种方法:
df.sample(frac=1)
做了一个深层副本或只是改变了数据帧。我运行了以下代码:
print(hex(id(df)))
print(hex(id(df.sample(frac=1))))
print(hex(id(df.sample(frac=1).reset_index(drop=True))))
我的结果是:
0x1f8a784d400
0x1f8b9d65e10
0x1f8b9d65b70
这意味着该方法不会返回相同的对象,如上一条评论中所建议的那样。所以这个方法确实可以制作一个混乱的副本。
AFAIK最简单的解决方案是:
df_shuffled = df.reindex(np.random.permutation(df.index))
通过在这种情况下采用一个样本数组索引并随机化其顺序然后将数组设置为数据帧的索引来对pandas数据帧进行混洗。现在根据索引对数据帧进行排序。这是你的洗牌数据帧
import random
df = pd.DataFrame({"a":[1,2,3,4],"b":[5,6,7,8]})
index = [i for i in range(df.shape[0])]
random.shuffle(index)
df.set_index([index]).sort_index()
产量
a b
0 2 6
1 1 5
2 3 7
3 4 8
在上面的代码中将数据框插入我的地方。
这是另一种方式:
df['rnd'] = np.random.rand(len(df))
df = df.sort_values(by='rnd', inplace=True).drop('rnd', axis=1)