Pandas: 基于最近时间戳合并两个 DataFrame-Python教程-PHP中文网

Pandas: 基于最近时间戳合并两个 DataFrame

聖光之護

发布： 2025-09-11 22:22:19

原创

349人浏览过

pandas: 基于最近时间戳合并两个 dataframe

本文介绍了如何使用 Pandas 的 merge_asof 函数，基于时间戳的近似匹配将两个 DataFrame 进行合并。通过示例代码详细展示了该函数的用法，包括处理时间序列数据、排序以及控制合并方式等，旨在帮助读者掌握在 Pandas 中进行时间序列数据对齐和合并的有效方法。

在数据分析中，经常会遇到需要将两个 DataFrame 基于时间戳进行合并的情况。然而，两个 DataFrame 中的时间戳往往并不完全一致，此时就需要找到最接近的时间戳进行匹配。Pandas 提供的 merge_asof 函数可以很好地解决这个问题。

merge_asof 函数详解

merge_asof 函数用于执行近似连接（asof join）。它要求两个 DataFrame 必须先按照连接键（通常是时间戳）进行排序。然后，对于左侧 DataFrame 的每一行，merge_asof 会在右侧 DataFrame 中找到小于等于（或大于等于，取决于 direction 参数）连接键的最近一行，并将两行合并。

函数签名如下：

pd.merge_asof(left, right, on=None, left_on=None, right_on=None, left_index=False, right_index=False, by=None, left_by=None, right_by=None, tolerance=None, direction='backward', suffixes=('_x', '_y'), allow_exact_matches=True, indicator=False)

登录后复制

常用参数解释：

left: 左侧 DataFrame。
right: 右侧 DataFrame。
on: 用于连接的列名，如果 left_on 和 right_on 都未指定，则使用此参数。
left_on: 左侧 DataFrame 用于连接的列名。
right_on: 右侧 DataFrame 用于连接的列名。
left_index: 如果为 True，则使用左侧 DataFrame 的索引作为连接键。
right_index: 如果为 True，则使用右侧 DataFrame 的索引作为连接键。
direction: 连接方向，可选值包括 'backward' (默认), 'forward', 和 'nearest'。
- 'backward': 使用小于等于连接键的最近一行。
- 'forward': 使用大于等于连接键的最近一行。
- 'nearest': 使用最接近连接键的行。
tolerance: 可选参数，指定最大时间差，超过此时间差的匹配将被忽略。

使用示例

假设我们有两个 DataFrame，df1 和 df2，它们都包含时间戳和数据列。我们的目标是找到 df1 中每个时间戳在 df2 中最接近的时间戳，并将 df2 中对应的数据添加到 df1 中。

import pandas as pd

df1 = pd.DataFrame({'Time1': ['2023-11-30 13:01:51.813', 
                              '2023-11-28 10:01:51.760', 
                              '2023-11-28 10:01:51.347', 
                              '2023-11-27 10:01:51.320', 
                              '2023-11-26 10:01:51.260'], 
                    'Data1': [2, 4, 6, 8, 10]})

df2 = pd.DataFrame({'Time2': ['2023-11-30 10:00:03.733', 
                              '2023-11-29 08:00:03.767', 
                              '2023-11-28 16:00:03.523', 
                              '2023-11-27 14:00:03.827', 
                              '2023-11-26 12:00:03.417'], 
                    'Data2': ['A', 'B', 'C', 'D', 'E']})

# 将时间字符串转换为 datetime 对象
df1['Time1'] = pd.to_datetime(df1['Time1'], format='%Y-%m-%d %H:%M:%S.%f')
df2['Time2'] = pd.to_datetime(df2['Time2'], format='%Y-%m-%d %H:%M:%S.%f')

# 按照时间戳排序
df1 = df1.sort_values(by=['Time1'])
df2 = df2.sort_values(by=['Time2'])

# 使用 merge_asof 函数进行合并
df3 = pd.merge_asof(left=df1, right=df2, left_on='Time1', right_on='Time2', direction='nearest')

print(df3)

登录后复制

这段代码首先将 Time1 和 Time2 列转换为 datetime 对象，然后按照时间戳进行排序。最后，使用 merge_asof 函数，指定 left_on 和 right_on 参数为时间戳列，direction 参数为 'nearest'，表示找到最接近的时间戳进行匹配。

如果希望将时间戳列设置为索引，可以这样做：

美间AI

美间AI：让设计更简单

查看详情

import pandas as pd

df1 = pd.DataFrame({'Time1': ['2023-11-30 13:01:51.813', 
                              '2023-11-28 10:01:51.760', 
                              '2023-11-28 10:01:51.347', 
                              '2023-11-27 10:01:51.320', 
                              '2023-11-26 10:01:51.260'], 
                    'Data1': [2, 4, 6, 8, 10]})

df2 = pd.DataFrame({'Time2': ['2023-11-30 10:00:03.733', 
                              '2023-11-29 08:00:03.767', 
                              '2023-11-28 16:00:03.523', 
                              '2023-11-27 14:00:03.827', 
                              '2023-11-26 12:00:03.417'], 
                    'Data2': ['A', 'B', 'C', 'D', 'E']})

# 将时间字符串转换为 datetime 对象
df1['Time1'] = pd.to_datetime(df1['Time1'], format='%Y-%m-%d %H:%M:%S.%f')
df2['Time2'] = pd.to_datetime(df2['Time2'], format='%Y-%m-%d %H:%M:%S.%f')

# 按照时间戳排序
df1 = df1.sort_values(by=['Time1'])
df2 = df2.sort_values(by=['Time2'])

# 将时间戳列设置为索引
df1 = df1.set_index('Time1')
df2 = df2.set_index('Time2')

# 使用 merge_asof 函数进行合并
df3 = pd.merge_asof(left=df1, right=df2, left_index=True, right_index=True, direction='nearest')

print(df3)

登录后复制

在这个例子中，我们使用 left_index=True 和 right_index=True 参数，告诉 merge_asof 函数使用索引作为连接键。

注意事项

排序： 使用 merge_asof 函数之前，务必确保两个 DataFrame 已经按照连接键进行了排序。否则，结果可能不正确。
数据类型： 连接键的数据类型应该一致，通常是 datetime 对象。
连接方向： 根据实际需求选择合适的 direction 参数。
索引与列： 可以选择使用列作为连接键，也可以选择使用索引。
只合并特定列： 如果只需要合并特定的列，可以在调用 merge_asof 之前，先选择需要的列。例如：
```
df3 = pd.merge_asof(left=df1[['Time1', 'Data1']], right=df2[['Time2', 'Data2']], left_on='Time1', right_on='Time2', direction='nearest')
```
登录后复制