
本教程详细介绍了如何将pandas dataframe根据重复的序列模式进行拆分,例如将公交线路的连续停靠站数据拆分为独立的行程。文章提供了两种主要方法:一种是利用groupby结合cumsum实现灵活拆分,适用于周期长度不固定的情况;另一种是使用numpy.array_split进行固定长度拆分,适用于周期结构一致的场景,并附有详细代码示例与应用建议。
在处理时间序列或顺序数据时,我们经常会遇到需要将一个大型数据集根据其中重复出现的特定模式(或“周期”)拆分为多个独立的子数据集的需求。例如,公交线路一天的停靠站数据可能包含多次往返行程,每个行程都遵循相同的停靠站顺序。本教程将展示如何利用Pandas和NumPy库高效地实现这种周期性拆分。
我们以一个公交线路停靠站的示例数据为例,该数据记录了某一线路在一天内的计划停靠时间及站点。目标是根据站点序列的重复模式,将整个DataFrame拆分成代表独立行程的子DataFrame。
首先,创建示例数据:
import pandas as pd
import numpy as np
df = pd.DataFrame({
"scheduled": ["2023-05-25 13:00", "2023-05-25 13:15", "2023-05-25 13:45",
"2023-05-25 14:35", "2023-05-25 14:50", "2023-05-25 15:20"],
"stop": ["A", "B", "C", "A", "B", "C"]
})
df["scheduled"] = pd.to_datetime(df["scheduled"])
print("原始DataFrame:")
print(df)输出的原始DataFrame如下:
原始DataFrame:
scheduled stop
0 2023-05-25 13:00:00 A
1 2023-05-25 13:15:00 B
2 2023-05-25 13:45:00 C
3 2023-05-25 14:35:00 A
4 2023-05-25 14:50:00 B
5 2023-05-25 15:20:00 C可以看到,stop列呈现 A->B->C 的重复模式,我们需要将其拆分为两个独立的行程。
这种方法适用于周期序列的长度可能不固定,或者我们希望通过识别每个周期的起始点来定义拆分的情况。它的核心思想是:识别出每个新周期的开始,并为每个周期分配一个唯一的组ID,然后利用Pandas的groupby功能进行拆分。
# 1. 识别周期起始点并生成组ID
# df['stop'].iloc[0] 获取第一个停靠站,例如 'A'
# df['stop'].eq(df['stop'].iloc[0]) 找出所有等于 'A' 的行,返回布尔Series
# .cumsum() 将布尔Series转换为累积和,True计为1,False计为0。
# 例如:[T, F, F, T, F, F] -> [1, 1, 1, 2, 2, 2]
group_id = df['stop'].eq(df['stop'].iloc[0]).cumsum()
print("\n生成的组ID:")
print(group_id)
# 2. 根据组ID进行分组并提取子DataFrame
split_dfs_groupby = [g for _, g in df.groupby(group_id)]
print("\n使用groupby和cumsum拆分后的DataFrame列表:")
for i, sub_df in enumerate(split_dfs_groupby):
print(f"\n子DataFrame {i+1}:")
print(sub_df)生成的组ID:
0 1
1 1
2 1
3 2
4 2
5 2
Name: stop, dtype: int64
使用groupby和cumsum拆分后的DataFrame列表:
子DataFrame 1:
scheduled stop
0 2023-05-25 13:00:00 A
1 2023-05-25 13:15:00 B
2 2023-05-25 13:45:00 C
子DataFrame 2:
scheduled stop
3 2023-05-25 14:35:00 A
4 2023-05-25 14:50:00 B
5 2023-05-25 15:20:00 C这种方法非常灵活,即使每个行程的停靠站数量(即周期长度)不完全一致,只要能通过识别起始站点来区分周期,它也能正确工作。
如果我们可以确定每个周期都包含相同数量的唯一元素,并且这些周期是连续且等长的,那么可以使用numpy.array_split方法进行更直接的拆分。这种方法依赖于预先计算出单个周期的长度。
# 1. 计算单个周期的长度(即唯一停靠站的数量) # 例如,对于 'A', 'B', 'C',nunique() 将返回 3 cycle_length = df['stop'].nunique() print(f"\n计算出的周期
以上就是Pandas DataFrame周期性序列拆分教程:两种高效方法解析的详细内容,更多请关注php中文网其它相关文章!
每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号