基于 Pandas 的滚动窗口函数高效生成状态标志

花韻仙語
发布: 2025-08-20 19:04:01
原创
756人浏览过

基于 pandas 的滚动窗口函数高效生成状态标志

本文将介绍一种使用 Pandas 库中的 groupby.rolling 函数,根据连续时间段内的状态列高效生成标志位的教程。该方法避免了低效的循环操作,特别适用于处理包含大量数据(例如,数百万行)的数据集。通过示例代码和详细解释,读者将能够理解并应用此技术,以优化数据处理流程。

问题背景

在数据分析中,经常需要根据一段时间内的状态变化来标记数据。例如,根据用户在过去 12 个月内的活跃状态来判断其是否为活跃用户。如果使用循环遍历每一行数据,效率会非常低下。本文将介绍如何使用 Pandas 的滚动窗口函数 groupby.rolling 来高效地解决这类问题。

使用 groupby.rolling 函数

groupby.rolling 函数允许我们对分组数据应用滚动窗口计算。结合 max() 函数,可以方便地判断在指定窗口期内是否存在满足条件的状态。

示例数据

假设我们有以下 Pandas DataFrame:

import pandas as pd

data = {'ID': ['A'] * 13,
        'Period': ['2020-10-28', '2020-11-28', '2020-12-28', '2021-01-28', '2021-02-28', '2021-03-28',
                   '2021-04-28', '2021-05-28', '2021-06-28', '2021-07-28', '2021-08-28', '2021-09-28',
                   '2021-10-28'],
        'status': [0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0]}
df = pd.DataFrame(data)
print(df)
登录后复制

解决方案

以下代码展示了如何使用 groupby.rolling 函数生成标志位:

小羊标书
小羊标书

一键生成百页标书,让投标更简单高效

小羊标书62
查看详情 小羊标书
import pandas as pd

data = {'ID': ['A'] * 13,
        'Period': ['2020-10-28', '2020-11-28', '2020-12-28', '2021-01-28', '2021-02-28', '2021-03-28',
                   '2021-04-28', '2021-05-28', '2021-06-28', '2021-07-28', '2021-08-28', '2021-09-28',
                   '2021-10-28'],
        'status': [0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0]}
df = pd.DataFrame(data)

df['Flag'] = (df
      .assign(Period=pd.to_datetime(df['Period']).dt.to_period('M'))
      [::-1]
      .groupby('ID').rolling(12, on='Period', min_periods=1)
      ['status'].max()[::-1].to_numpy()
)

print(df)
登录后复制

代码解释:

  1. df.assign(Period=pd.to_datetime(df['Period']).dt.to_period('M')): 将 'Period' 列转换为 Pandas Period 类型,精度为月。这是使用滚动窗口的必要步骤。
  2. [::-1]: 反转 DataFrame 的顺序。 这是因为我们希望从最早的日期开始计算滚动窗口,以便确定未来 12 个月内是否存在状态为 1 的情况。
  3. groupby('ID').rolling(12, on='Period', min_periods=1): 按 'ID' 列分组,并创建一个滚动窗口,窗口大小为 12 个月。min_periods=1 确保即使窗口内的数据点少于 12 个月,也会进行计算。
  4. ['status'].max(): 计算每个滚动窗口内 'status' 列的最大值。如果窗口内存在任何一个状态为 1,则最大值为 1,否则为 0。
  5. [::-1].to_numpy(): 再次反转结果顺序,使其与原始 DataFrame 的顺序一致,并将结果转换为 NumPy 数组。
  6. df['Flag'] = ...: 将计算得到的标志位赋值给新的 'Flag' 列。

考虑仅前序期间

如果需要仅考虑当前期间之前的期间,可以使用以下代码:

import pandas as pd

data = {'ID': ['A'] * 13,
        'Period': ['2020-10-28', '2020-11-28', '2020-12-28', '2021-01-28', '2021-02-28', '2021-03-28',
                   '2021-04-28', '2021-05-28', '2021-06-28', '2021-07-28', '2021-08-28', '2021-09-28',
                   '2021-10-28'],
        'status': [0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0]}
df = pd.DataFrame(data)

df['Flag'] = (df
      .assign(Period=pd.to_datetime(df['Period']).dt.to_period('M'))
      .set_index('Period')
      [::-1]
      .groupby('ID')['status']
      .transform(lambda g: g.rolling(12, min_periods=1)
                            .max().shift(fill_value=0)
                 )
      .to_numpy()[::-1]
)

print(df)
登录后复制

代码解释:

  1. .set_index('Period'): 将 'Period' 列设置为索引。
  2. .transform(lambda g: g.rolling(12, min_periods=1).max().shift(fill_value=0)): 使用 transform 函数对每个分组应用滚动窗口计算。shift(fill_value=0) 将结果向下移动一位,并用 0 填充缺失值,从而确保仅考虑前序期间。

总结

使用 Pandas 的 groupby.rolling 函数可以高效地生成基于连续时间段的状态标志。这种方法避免了低效的循环操作,特别适用于处理大规模数据集。通过将时间列转换为 Period 类型,并结合 max() 和 shift() 函数,可以灵活地实现各种状态标志的生成需求。在实际应用中,可以根据具体情况调整窗口大小和计算逻辑,以满足不同的业务需求。

以上就是基于 Pandas 的滚动窗口函数高效生成状态标志的详细内容,更多请关注php中文网其它相关文章!

最佳 Windows 性能的顶级免费优化软件
最佳 Windows 性能的顶级免费优化软件

每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。

下载
来源:php中文网
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
最新问题
热门推荐
开源免费商场系统广告
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 意见反馈 讲师合作 广告合作 最新更新 English
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送
PHP中文网APP
随时随地碎片化学习
PHP中文网抖音号
发现有趣的

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号