
在数据分析中,我们经常需要识别并统计数据序列中连续重复的模式。例如,在一个股票交易数据集中,我们可能需要计算连续上涨(信号为1)或连续下跌(信号为-1)的天数。更进一步,如果要求当连续计数达到某个特定阈值(比如5)时,计数器需要自动重置并重新开始计数,这就对传统的循环计数方法提出了挑战,尤其是在处理大规模数据时,循环操作效率低下。
考虑以下示例DataFrame,其中包含股票价格(price)和涨跌信号(sign):
import pandas as pd
data = {
'price': [13, 12, 11, 12, 13, 14, 14, 14, 14, 14, 14],
'sign': [1, 1, -1, -1, 1, 1, 1, 1, 1, 1, 1]
}
df = pd.DataFrame(data)
print("原始DataFrame:")
print(df)期望的结果是在新列count中,对sign列的连续相同值进行计数,并在计数达到5时重置:
price sign count 0 13 1 1 1 12 1 2 2 11 -1 1 3 12 -1 2 4 13 1 1 5 14 1 2 6 14 1 3 7 14 1 4 8 14 1 5 9 14 1 1 # 达到5后重置 10 14 1 2
为了高效地实现这一功能,我们可以利用Pandas的矢量化操作,特别是groupby、cumcount和模运算。核心思路是首先识别出sign列中所有连续相同的块,然后对每个块内部进行累积计数,最后通过模运算实现阈值重置。
识别连续相同值的块是解决问题的关键第一步。我们可以通过比较当前值与其前一个值是否相等来判断连续性。当值发生变化时,就标志着一个新的连续块的开始。
# 识别连续块
df['consecutive_group'] = df['sign'].ne(df['sign'].shift()).cumsum()
print("\n带有连续块标识的DataFrame:")
print(df)输出如下:
price sign consecutive_group 0 13 1 1 # 第一个块 (sign=1) 1 12 1 1 2 11 -1 2 # 第二个块 (sign=-1) 3 12 -1 2 4 13 1 3 # 第三个块 (sign=1) 5 14 1 3 6 14 1 3 7 14 1 3 8 14 1 3 9 14 1 3 10 14 1 3
可以看到,consecutive_group列成功地为每个连续的sign值序列分配了一个唯一的整数ID。
有了连续块的标识后,我们就可以对每个块内部进行累积计数。Pandas的groupby()方法结合cumcount()可以非常方便地实现这一点。
# 对每个连续块进行累积计数(从0开始)
df['raw_count'] = df.groupby(df['consecutive_group']).cumcount()
print("\n带有原始累积计数的DataFrame:")
print(df)输出如下:
price sign consecutive_group raw_count 0 13 1 1 0 1 12 1 1 1 2 11 -1 2 0 3 12 -1 2 1 4 13 1 3 0 5 14 1 3 1 6 14 1 3 2 7 14 1 3 3 8 14 1 3 4 9 14 1 3 5 10 14 1 3 6
此时,raw_count列已经正确地显示了每个连续块内部从0开始的计数。
现在我们需要实现计数达到阈值(例如5)时重置,并且最终的计数是从1开始而不是从0开始。这可以通过模运算(%)和加1操作来实现。
将以上所有步骤整合到一行代码中:
# 完整的矢量化解决方案
threshold = 5
df['count'] = df.groupby(df['sign'].ne(df['sign'].shift()).cumsum()).cumcount() % threshold + 1
print("\n最终结果DataFrame:")
print(df[['price', 'sign', 'count']])最终输出:
最终结果DataFrame: price sign count 0 13 1 1 1 12 1 2 2 11 -1 1 3 12 -1 2 4 13 1 1 5 14 1 2 6 14 1 3 7 14 1 4 8 14 1 5 9 14 1 1 10 14 1 2
可以看到,count列完美地实现了连续计数并在达到5时重置为1的功能。
为了更清晰地理解整个过程,我们可以将中间步骤的列也添加到DataFrame中进行观察:
import pandas as pd
data = {
'price': [13, 12, 11, 12, 13, 14, 14, 14, 14, 14, 14],
'sign': [1, 1, -1, -1, 1, 1, 1, 1, 1, 1, 1]
}
df = pd.DataFrame(data)
threshold = 5
df_detailed = df.assign(
# 步骤1: 识别连续块的起始点 (True表示变化)
is_new_block=df['sign'].ne(df['sign'].shift()),
# 步骤2: 为每个连续块生成唯一ID
consecutive_group=df['sign'].ne(df['sign'].shift()).cumsum(),
# 步骤3: 在每个块内进行0-based累积计数
cum_counter_0based=df.groupby(df['sign'].ne(df['sign'].shift()).cumsum()).cumcount(),
# 步骤4: 应用模运算实现重置
cum_counter_mod_threshold=df.groupby(df['sign'].ne(df['sign'].shift()).cumsum()).cumcount() % threshold,
# 步骤5: 最终的1-based计数
count=df.groupby(df['sign'].ne(df['sign'].shift()).cumsum()).cumcount() % threshold + 1
)
print("\n详细步骤解析DataFrame:")
print(df_detailed)输出:
详细步骤解析DataFrame:
price sign is_new_block consecutive_group cum_counter_0based cum_counter_mod_threshold count
0 13 1 True 1 0 0 1
1 12 1 False 1 1 1 2
2 11 -1 True 2 0 0 1
3 12 -1 False 2 1 1 2
4 13 1 True 3 0 0 1
5 14 1 False 3 1 1 2
6 14 1 False 3 2 2 3
7 14 1 False 3 3 3 4
8 14 1 False 3 4 4 5
9 14 1 False 3 5 0 1
10 14 1 False 3 6 1 2通过观察is_new_block、consecutive_group、cum_counter_0based、cum_counter_mod_threshold和count列,可以清晰地看到每一步的逻辑如何协同工作,最终生成期望的计数结果。
通过上述方法,我们能够利用Pandas强大的矢量化能力,简洁而高效地解决复杂的序列计数与重置问题,极大地提升了数据处理的效率和代码的可读性。
以上就是Pandas矢量化操作:实现带阈值重置的序列计数功能的详细内容,更多请关注php中文网其它相关文章!
每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号