随机数据帧行

问题描述 投票:270回答:8

我有以下DataFrame:

    Col1  Col2  Col3  Type
0      1     2     3     1
1      4     5     6     1
...
20     7     8     9     2
21    10    11    12     2
...
45    13    14    15     3
46    16    17    18     3
...

从csv文件中读取DataFrame。所有具有Type 1的行都在顶部,其次是Type 2的行,接着是Type 3的行等。

我想改组DataFrame的行的顺序,以便所有Type都是混合的。可能的结果可能是:

    Col1  Col2  Col3  Type
0      7     8     9     2
1     13    14    15     3
...
20     1     2     3     1
21    10    11    12     2
...
45     4     5     6     1
46    16    17    18     3
...

我怎样才能做到这一点?

python pandas dataframe permutation shuffle
8个回答
543
投票

使用pandas执行此操作的更惯用的方法是使用数据帧的.sample方法,即

df.sample(frac=1)

frac关键字参数指定随机样本中要返回的行的分数,因此frac=1表示返回所有行(按随机顺序)。

注意:如果您希望就地对数据帧进行随机播放并重置索引,则可以执行以下操作:

df = df.sample(frac=1).reset_index(drop=True)

在这里,指定drop=True可防止.reset_index创建包含旧索引条目的列。

后续注意事项:尽管上面的操作看起来不像是就地,但python / pandas足够聪明,不会为洗牌对象做另一个malloc。也就是说,即使参考对象已经改变(我的意思是id(df_old)id(df_new)不同),底层C对象仍然是相同的。为了证明确实如此,您可以运行一个简单的内存分析器:

$ python3 -m memory_profiler .\test.py
Filename: .\test.py

Line #    Mem usage    Increment   Line Contents
================================================
     5     68.5 MiB     68.5 MiB   @profile
     6                             def shuffle():
     7    847.8 MiB    779.3 MiB       df = pd.DataFrame(np.random.randn(100, 1000000))
     8    847.9 MiB      0.1 MiB       df = df.sample(frac=1).reset_index(drop=True)


149
投票

你可以简单地使用sklearn

from sklearn.utils import shuffle
df = shuffle(df)

48
投票

您可以通过使用混洗索引进行索引来对数据帧的行进行随机播放。为此,你可以使用np.random.permutation(但np.random.choice也是一种可能性):

In [12]: df = pd.read_csv(StringIO(s), sep="\s+")

In [13]: df
Out[13]: 
    Col1  Col2  Col3  Type
0      1     2     3     1
1      4     5     6     1
20     7     8     9     2
21    10    11    12     2
45    13    14    15     3
46    16    17    18     3

In [14]: df.iloc[np.random.permutation(len(df))]
Out[14]: 
    Col1  Col2  Col3  Type
46    16    17    18     3
45    13    14    15     3
20     7     8     9     2
0      1     2     3     1
1      4     5     6     1
21    10    11    12     2

如果你想保持索引编号为1,2,..,n,如你的例子,你可以简单地重置索引:df_shuffled.reset_index(drop=True)


29
投票

TL; DR:np.random.shuffle(ndarray)可以胜任这项工作。 所以,在你的情况下

np.random.shuffle(DataFrame.values)

引子盖下的DataFrame使用NumPy ndarray作为数据持有者。 (你可以从DataFrame source code查询)

因此,如果你使用np.random.shuffle(),它会沿着多维数组的第一轴对阵列进行混洗。但是DataFrame的指数仍然没有改变。

但是,有一些要考虑的问题。

  • 函数返回none。如果要保留原始对象的副本,则必须在传递给函数之前执行此操作。
  • 正如用户tj89所建议的那样,sklearn.utils.shuffle()可以指定random_state以及另一个控制输出的选项。您可能希望将其用于开发目的。
  • sklearn.utils.shuffle()更快。但是,我将把DataFrame的轴信息(索引,列)与它包含的ndarray连接起来。

基准测试结果

sklearn.utils.shuffle()np.random.shuffle()之间。

ndarray

nd = sklearn.utils.shuffle(nd)

0.10793248389381915秒快了8倍

np.random.shuffle(nd)

0.8897626010002568秒

DataFrame

df = sklearn.utils.shuffle(df)

0.3183923360193148秒快3倍

np.random.shuffle(df.values)

0.9357550159329548秒

结论:如果可以将轴信息(索引,列)与ndarray一起洗牌,请使用sklearn.utils.shuffle()。否则,请使用np.random.shuffle()

used code

import timeit
setup = '''
import numpy as np
import pandas as pd
import sklearn
nd = np.random.random((1000, 100))
df = pd.DataFrame(nd)
'''

timeit.timeit('nd = sklearn.utils.shuffle(nd)', setup=setup, number=1000)
timeit.timeit('np.random.shuffle(nd)', setup=setup, number=1000)
timeit.timeit('df = sklearn.utils.shuffle(df)', setup=setup, number=1000)
timeit.timeit('np.random.shuffle(df.values)', setup=setup, number=1000)


10
投票

(我没有足够的声誉在最高职位发表评论,所以我希望其他人可以为我做这件事。)有人担心第一种方法:

df.sample(frac=1)

做了一个深层副本或只是改变了数据帧。我运行了以下代码:

print(hex(id(df)))
print(hex(id(df.sample(frac=1))))
print(hex(id(df.sample(frac=1).reset_index(drop=True))))

我的结果是:

0x1f8a784d400
0x1f8b9d65e10
0x1f8b9d65b70

这意味着该方法不会返回相同的对象,如上一条评论中所建议的那样。所以这个方法确实可以制作一个混乱的副本。


3
投票

AFAIK最简单的解决方案是:

df_shuffled = df.reindex(np.random.permutation(df.index))

0
投票

通过在这种情况下采用一个样本数组索引并随机化其顺序然后将数组设置为数据帧的索引来对pandas数据帧进行混洗。现在根据索引对数据帧进行排序。这是你的洗牌数据帧

import random
df = pd.DataFrame({"a":[1,2,3,4],"b":[5,6,7,8]})
index = [i for i in range(df.shape[0])]
random.shuffle(index)
df.set_index([index]).sort_index()

产量

    a   b
0   2   6
1   1   5
2   3   7
3   4   8

在上面的代码中将数据框插入我的地方。


0
投票

这是另一种方式:

df['rnd'] = np.random.rand(len(df)) df = df.sort_values(by='rnd', inplace=True).drop('rnd', axis=1)

© www.soinside.com 2019 - 2024. All rights reserved.