
本文将介绍一种使用 Pandas 库中的 groupby.rolling 函数,根据连续时间段内的状态列高效生成标志位的教程。该方法避免了低效的循环操作,特别适用于处理包含大量数据(例如,数百万行)的数据集。通过示例代码和详细解释,读者将能够理解并应用此技术,以优化数据处理流程。
在数据分析中,经常需要根据一段时间内的状态变化来标记数据。例如,根据用户在过去 12 个月内的活跃状态来判断其是否为活跃用户。如果使用循环遍历每一行数据,效率会非常低下。本文将介绍如何使用 Pandas 的滚动窗口函数 groupby.rolling 来高效地解决这类问题。
groupby.rolling 函数允许我们对分组数据应用滚动窗口计算。结合 max() 函数,可以方便地判断在指定窗口期内是否存在满足条件的状态。
示例数据
假设我们有以下 Pandas DataFrame:
import pandas as pd
data = {'ID': ['A'] * 13,
'Period': ['2020-10-28', '2020-11-28', '2020-12-28', '2021-01-28', '2021-02-28', '2021-03-28',
'2021-04-28', '2021-05-28', '2021-06-28', '2021-07-28', '2021-08-28', '2021-09-28',
'2021-10-28'],
'status': [0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0]}
df = pd.DataFrame(data)
print(df)解决方案
以下代码展示了如何使用 groupby.rolling 函数生成标志位:
import pandas as pd
data = {'ID': ['A'] * 13,
'Period': ['2020-10-28', '2020-11-28', '2020-12-28', '2021-01-28', '2021-02-28', '2021-03-28',
'2021-04-28', '2021-05-28', '2021-06-28', '2021-07-28', '2021-08-28', '2021-09-28',
'2021-10-28'],
'status': [0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0]}
df = pd.DataFrame(data)
df['Flag'] = (df
.assign(Period=pd.to_datetime(df['Period']).dt.to_period('M'))
[::-1]
.groupby('ID').rolling(12, on='Period', min_periods=1)
['status'].max()[::-1].to_numpy()
)
print(df)代码解释:
考虑仅前序期间
如果需要仅考虑当前期间之前的期间,可以使用以下代码:
import pandas as pd
data = {'ID': ['A'] * 13,
'Period': ['2020-10-28', '2020-11-28', '2020-12-28', '2021-01-28', '2021-02-28', '2021-03-28',
'2021-04-28', '2021-05-28', '2021-06-28', '2021-07-28', '2021-08-28', '2021-09-28',
'2021-10-28'],
'status': [0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0]}
df = pd.DataFrame(data)
df['Flag'] = (df
.assign(Period=pd.to_datetime(df['Period']).dt.to_period('M'))
.set_index('Period')
[::-1]
.groupby('ID')['status']
.transform(lambda g: g.rolling(12, min_periods=1)
.max().shift(fill_value=0)
)
.to_numpy()[::-1]
)
print(df)代码解释:
使用 Pandas 的 groupby.rolling 函数可以高效地生成基于连续时间段的状态标志。这种方法避免了低效的循环操作,特别适用于处理大规模数据集。通过将时间列转换为 Period 类型,并结合 max() 和 shift() 函数,可以灵活地实现各种状态标志的生成需求。在实际应用中,可以根据具体情况调整窗口大小和计算逻辑,以满足不同的业务需求。
以上就是基于 Pandas 的滚动窗口函数高效生成状态标志的详细内容,更多请关注php中文网其它相关文章!
每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号