Pandas: 基于最近时间戳合并两个 DataFrame

本文介绍了如何使用 Pandas 的 merge_asof 函数，基于时间戳的近似匹配将两个 DataFrame 进行合并。通过示例代码详细展示了该函数的用法，包括处理时间序列数据、排序以及控制合并方式等，旨在帮助读者掌握在 Pandas 中进行时间序列数据对齐和合并的有效方法。

在数据分析中，经常会遇到需要将两个 DataFrame 基于时间戳进行合并的情况。然而，两个 DataFrame 中的时间戳往往并不完全一致，此时就需要找到最接近的时间戳进行匹配。Pandas 提供的 merge_asof 函数可以很好地解决这个问题。

merge_asof 函数详解

merge_asof 函数用于执行近似连接（asof join）。它要求两个 DataFrame 必须先按照连接键（通常是时间戳）进行排序。然后，对于左侧 DataFrame 的每一行，merge_asof 会在右侧 DataFrame 中找到小于等于（或大于等于，取决于 direction 参数）连接键的最近一行，并将两行合并。

函数签名如下：

pd.merge_asof(left, right, on=None, left_on=None, right_on=None, left_index=False, right_index=False, by=None, left_by=None, right_by=None, tolerance=None, direction='backward', suffixes=('_x', '_y'), allow_exact_matches=True, indicator=False)

常用参数解释：

• left: 左侧 DataFrame。
• right: 右侧 DataFrame。
• on: 用于连接的列名，如果 left_on 和 right_on 都未指定，则使用此参数。
• left_on: 左侧 DataFrame 用于连接的列名。
• right_on: 右侧 DataFrame 用于连接的列名。
• left_index: 如果为 True，则使用左侧 DataFrame 的索引作为连接键。
• right_index: 如果为 True，则使用右侧 DataFrame 的索引作为连接键。
• direction: 连接方向，可选值包括 ‘backward’ (默认), ‘forward’, 和 ‘nearest’。
  • ‘backward’: 使用小于等于连接键的最近一行。
  • ‘forward’: 使用大于等于连接键的最近一行。
  • ‘nearest’: 使用最接近连接键的行。
• tolerance: 可选参数，指定最大时间差，超过此时间差的匹配将被忽略。

使用示例

假设我们有两个 DataFrame，df1 和 df2，它们都包含时间戳和数据列。我们的目标是找到 df1 中每个时间戳在 df2 中最接近的时间戳，并将 df2 中对应的数据添加到 df1 中。

import pandas as pd
df1 = pd.DataFrame({'Time1': ['2023-11-30 13:01:51.813',
'2023-11-28 10:01:51.760',
'2023-11-28 10:01:51.347',
'2023-11-27 10:01:51.320',
'2023-11-26 10:01:51.260'],
'Data1': [2, 4, 6, 8, 10]})
df2 = pd.DataFrame({'Time2': ['2023-11-30 10:00:03.733',
'2023-11-29 08:00:03.767',
'2023-11-28 16:00:03.523',
'2023-11-27 14:00:03.827',
'2023-11-26 12:00:03.417'],
'Data2': ['A', 'B', 'C', 'D', 'E']})
# 将时间字符串转换为 datetime 对象
df1['Time1'] = pd.to_datetime(df1['Time1'], format='%Y-%m-%d %H:%M:%S.%f')
df2['Time2'] = pd.to_datetime(df2['Time2'], format='%Y-%m-%d %H:%M:%S.%f')
# 按照时间戳排序
df1 = df1.sort_values(by=['Time1'])
df2 = df2.sort_values(by=['Time2'])
# 使用 merge_asof 函数进行合并
df3 = pd.merge_asof(left=df1, right=df2, left_on='Time1', right_on='Time2', direction='nearest')
print(df3)

这段代码首先将 Time1 和 Time2 列转换为 datetime 对象，然后按照时间戳进行排序。最后，使用 merge_asof 函数，指定 left_on 和 right_on 参数为时间戳列，direction 参数为 ‘nearest’，表示找到最接近的时间戳进行匹配。

如果希望将时间戳列设置为索引，可以这样做：

import pandas as pd
df1 = pd.DataFrame({'Time1': ['2023-11-30 13:01:51.813',
'2023-11-28 10:01:51.760',
'2023-11-28 10:01:51.347',
'2023-11-27 10:01:51.320',
'2023-11-26 10:01:51.260'],
'Data1': [2, 4, 6, 8, 10]})
df2 = pd.DataFrame({'Time2': ['2023-11-30 10:00:03.733',
'2023-11-29 08:00:03.767',
'2023-11-28 16:00:03.523',
'2023-11-27 14:00:03.827',
'2023-11-26 12:00:03.417'],
'Data2': ['A', 'B', 'C', 'D', 'E']})
# 将时间字符串转换为 datetime 对象
df1['Time1'] = pd.to_datetime(df1['Time1'], format='%Y-%m-%d %H:%M:%S.%f')
df2['Time2'] = pd.to_datetime(df2['Time2'], format='%Y-%m-%d %H:%M:%S.%f')
# 按照时间戳排序
df1 = df1.sort_values(by=['Time1'])
df2 = df2.sort_values(by=['Time2'])
# 将时间戳列设置为索引
df1 = df1.set_index('Time1')
df2 = df2.set_index('Time2')
# 使用 merge_asof 函数进行合并
df3 = pd.merge_asof(left=df1, right=df2, left_index=True, right_index=True, direction='nearest')
print(df3)

在这个例子中，我们使用 left_index=True 和 right_index=True 参数，告诉 merge_asof 函数使用索引作为连接键。

注意事项

• 排序： 使用 merge_asof 函数之前，务必确保两个 DataFrame 已经按照连接键进行了排序。否则，结果可能不正确。

• 数据类型： 连接键的数据类型应该一致，通常是 datetime 对象。

• 连接方向： 根据实际需求选择合适的 direction 参数。

• 索引与列： 可以选择使用列作为连接键，也可以选择使用索引。

• 只合并特定列： 如果只需要合并特定的列，可以在调用 merge_asof 之前，先选择需要的列。例如：

  df3 = pd.merge_asof(left=df1[['Time1', 'Data1']], right=df2[['Time2', 'Data2']], left_on='Time1', right_on='Time2', direction='nearest')

总结

merge_asof 函数是 Pandas 中一个强大的工具，可以方便地基于时间戳的近似匹配将两个 DataFrame 进行合并。通过掌握该函数的用法，可以有效地处理时间序列数据，并进行更深入的分析。在实际应用中，需要注意排序、数据类型、连接方向等细节，以确保结果的准确性。