基于连续周期状态列生成Flag的Pandas高效方法-Python教程-PHP中文网

基于连续周期状态列生成Flag的Pandas高效方法

心靈之曲

发布： 2025-08-20 19:32:01

原创

1061人浏览过

基于连续周期状态列生成flag的pandas高效方法

本文旨在提供一种高效的 Pandas 方法，用于根据连续 12 个周期内的状态列生成 Flag。通过使用 groupby.rolling 函数，避免了低效的循环，显著提升了处理大数据集的性能。文章提供了两种实现方案，分别考虑了未来周期和过去周期的状态，并附带详细代码示例和解释。

在数据分析中，经常需要根据时间序列数据生成一些标志（Flag），例如，判断某个事件在未来或过去一段时间内是否发生。如果数据集较大，传统的循环方法效率较低。本文将介绍如何利用 Pandas 的 groupby.rolling 函数，高效地根据连续周期内的状态列生成 Flag，并提供两种不同的实现方案。

方法一：考虑未来周期的状态

此方法检查每个周期后连续 12 个月内的状态，如果其中任何一个状态为 1，则将该周期的 Flag 设置为 1。

import pandas as pd

# 示例数据
data = {'ID': ['A'] * 13,
        'Period': ['2020-10-28', '2020-11-28', '2020-12-28', '2021-01-28', '2021-02-28', '2021-03-28',
                   '2021-04-28', '2021-05-28', '2021-06-28', '2021-07-28', '2021-08-28', '2021-09-28',
                   '2021-10-28'],
        'status': [0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0]}
df = pd.DataFrame(data)

df['Flag'] = (df
      .assign(Period=pd.to_datetime(df['Period']).dt.to_period('M'))
      [::-1]
      .groupby('ID').rolling(12, on='Period', min_periods=1)
      ['status'].max()[::-1].to_numpy()
)

print(df)

登录后复制

代码解释：

df.assign(Period=pd.to_datetime(df['Period']).dt.to_period('M')): 将 'Period' 列转换为 Pandas Period 类型，方便进行时间窗口的滚动计算。
[::-1]: 反转 DataFrame，因为 rolling 函数默认从前往后滚动。
groupby('ID').rolling(12, on='Period', min_periods=1): 按 'ID' 分组，然后使用 rolling 函数创建一个窗口大小为 12 个月的时间窗口。 min_periods=1 表示即使窗口内的周期数小于 12，也进行计算。
['status'].max(): 计算每个窗口内 'status' 列的最大值。
[::-1].to_numpy(): 再次反转结果，使其与原始 DataFrame 的顺序一致，并将结果转换为 NumPy 数组。
df['Flag'] = ...: 将计算得到的 Flag 值赋给 DataFrame 的 'Flag' 列。

输出结果：

硅基智能

基于Web3.0的元宇宙，去中心化的互联网，高质量、沉浸式元宇宙直播平台，用数字化重新定义直播

查看详情

   ID      Period  status  Flag
0   A  2020-10-28       0   1.0
1   A  2020-11-28       0   1.0
2   A  2020-12-28       0   1.0
3   A  2021-01-28       0   1.0
4   A  2021-02-28       0   1.0
5   A  2021-03-28       0   1.0
6   A  2021-04-28       0   1.0
7   A  2021-05-28       0   1.0
8   A  2021-06-28       1   1.0
9   A  2021-07-28       0   0.0
10  A  2021-08-28       0   0.0
11  A  2021-09-28       0   0.0
12  A  2021-10-28       0   0.0

登录后复制

方法二：仅考虑过去周期的状态

此方法仅考虑每个周期前连续 12 个月内的状态，如果其中任何一个状态为 1，则将该周期的 Flag 设置为 1。

import pandas as pd

# 示例数据
data = {'ID': ['A'] * 13,
        'Period': ['2020-10-28', '2020-11-28', '2020-12-28', '2021-01-28', '2021-02-28', '2021-03-28',
                   '2021-04-28', '2021-05-28', '2021-06-28', '2021-07-28', '2021-08-28', '2021-09-28',
                   '2021-10-28'],
        'status': [0, 0, 0, 0, 0, 0, 0, 0, 1, 0, 0, 0, 0]}
df = pd.DataFrame(data)

df['Flag'] = (df
      .assign(Period=pd.to_datetime(df['Period']).dt.to_period('M'))
      .set_index('Period')
      [::-1]
      .groupby('ID')['status']
      .transform(lambda g: g.rolling(12, min_periods=1)
                            .max().shift(fill_value=0)
                 )
      .to_numpy()[::-1]
)

print(df)

登录后复制

代码解释：

df.assign(Period=pd.to_datetime(df['Period']).dt.to_period('M')): 将 'Period' 列转换为 Pandas Period 类型，方便进行时间窗口的滚动计算。
.set_index('Period'): 将'Period'列设置为索引
[::-1]: 反转 DataFrame，因为 rolling 函数默认从前往后滚动。
groupby('ID')['status'].transform(lambda g: g.rolling(12, min_periods=1).max().shift(fill_value=0)): 按 'ID' 分组，然后使用 transform 函数对每个分组应用滚动计算。rolling(12, min_periods=1).max() 计算每个窗口内 'status' 列的最大值，shift(fill_value=0) 将结果向下移动一位，并将第一个值填充为 0，以实现只考虑过去周期的状态。
.to_numpy()[::-1]: 将结果转换为 NumPy 数组，并再次反转，使其与原始 DataFrame 的顺序一致。
df['Flag'] = ...: 将计算得到的 Flag 值赋给 DataFrame 的 'Flag' 列。

输出结果：

   ID      Period  status  Flag
0   A  2020-10-28       0   1.0
1   A  2020-11-28       0   1.0
2   A  2020-12-28       0   1.0
3   A  2021-01-28       0   1.0
4   A  2021-02-28       0   1.0
5   A  2021-03-28       0   1.0
6   A  2021-04-28       0   1.0
7   A  2021-05-28       0   1.0
8   A  2021-06-28       1   0.0
9   A  2021-07-28       0   0.0
10  A  2021-08-28       0   0.0
11  A  2021-09-28       0   0.0
12  A  2021-10-28       0   0.0

登录后复制

注意事项和总结

数据类型转换： 确保 'Period' 列的数据类型正确，需要将其转换为 Pandas Period 或 Datetime 类型，以便进行时间窗口的滚动计算。
排序： 在进行滚动计算之前，需要对数据进行排序，确保数据按照时间顺序排列。
性能： groupby.rolling 函数比循环方法效率更高，尤其是在处理大数据集时。
灵活性： 可以根据实际需求调整窗口大小和计算方式，例如，可以使用 min()、mean() 等函数计算窗口内的最小值、平均值等。
min_periods参数： 该参数控制了窗口内最少需要多少个非空值才能进行计算。根据实际情况设置，避免出现不必要的错误。