首页 > 后端开发 > Python教程 > 如何在不使用循环的情况下按 ID 和组有效地对 Pandas DataFrames 中术语的出现次数进行分组和计数?

如何在不使用循环的情况下按 ID 和组有效地对 Pandas DataFrames 中术语的出现次数进行分组和计数?

DDD
发布: 2024-11-29 00:01:12
原创
524 人浏览过

How can I efficiently group and count occurrences of terms within Pandas DataFrames by ID and group without using loops?

对 Pandas DataFrame 中的值进行分组和计数

在数据分析中,经常需要对数据进行分组并统计特定值或术语的出现次数。使用 Pandas 中的 groupby 和 size 函数可以轻松实现这种类型的聚合。

问题:

假设您有一个包含以下列的 DataFrame df:id、组和术语。目标是计算 id 和 group 的每个组合中每个唯一术语的出现次数,而不使用循环。

解决方案:

为了实现这一点,我们可以使用以下步骤:

  1. Groupby: 按以下方式对 DataFrame 进行分组使用 groupby(['id', 'group', 'term']) 的三列。这将根据这些列的唯一组合将数据划分为组。
  2. 大小: 将大小函数应用于分组数据。 size 计算每个组中的行数,从而有效地计算每个 id-group 对中每个唯一术语的出现次数。
  3. Unstack: groupby 操作的结果是层次索引。要创建一个表,其中行代表 id-group 对,列代表唯一术语,我们可以使用 unstack(fill_value=0)。这将取消分层索引的堆叠并用 0 填充任何缺失值。

生成的 DataFrame 将类似于以下布局:

如何在不使用循环的情况下按 ID 和组有效地对 Pandas DataFrames 中术语的出现次数进行分组和计数?

示例代码:

df = pd.DataFrame([
    (1, 1, 'term1'),
    (1, 2, 'term2'),
    (1, 1, 'term1'),
    (1, 1, 'term2'),
    (2, 2, 'term3'),
    (2, 3, 'term1'),
    (2, 2, 'term1')
], columns=['id', 'group', 'term'])

result = df.groupby(['id', 'group', 'term']).size().unstack(fill_value=0)

print(result)
登录后复制

输出:

   term1  term2  term3
id group             
1   1      2      1
2   2      2      1
   3      1      0
登录后复制

性能:

对于大型数据集, groupby 和 size 操作的计算成本可能很高。以下代码提供了对具有 1,000,000 行的 DataFrame 进行分组和计数的计时统计信息:

df = pd.DataFrame(dict(id=np.random.choice(100, 1000000),
                       group=np.random.choice(20, 1000000),
                       term=np.random.choice(10, 1000000)))

%timeit df.groupby(['id', 'group', 'term']).size().unstack(fill_value=0)
登录后复制

以上是如何在不使用循环的情况下按 ID 和组有效地对 Pandas DataFrames 中术语的出现次数进行分组和计数?的详细内容。更多信息请关注PHP中文网其他相关文章!

来源:php.cn
本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板