【问题标题】:Find periods of time frequency in Pandas dataframe with multiple frequencies在 Pandas 数据框中查找具有多个频率的时间段
【发布时间】:2018-11-09 04:39:49
【问题描述】:

我有多个 Pandas 日期时间索引数据帧,其中某些数据帧的索引频率始终保持不变,但对于其他数据帧,频率会在某个未知点切换。例如,频率可以从 5 分钟切换到 1 分钟,或者从 15 分钟切换到 1 小时。

如何识别索引中存在的不同频率,并返回每个频率的开始和结束时间?

这是一个示例数据框。请注意在1997-01-01 09:30:00 处从 5 分钟频率切换到 1 分钟频率(var_1 的大小在这里也发生了变化,但这是任意的)。

                        var_1
Datetime                       
1997-01-01 07:00:00     10.28
1997-01-01 07:05:00     11.00
1997-01-01 07:10:00     11.06
1997-01-01 07:15:00     11.06
1997-01-01 07:20:00     10.89
1997-01-01 07:25:00     11.39
1997-01-01 07:30:00     11.78
1997-01-01 07:35:00     11.83
1997-01-01 07:40:00     11.94
1997-01-01 07:45:00     12.06
1997-01-01 07:50:00     12.39
1997-01-01 07:55:00     12.61
1997-01-01 08:00:00     12.33
1997-01-01 08:05:00     12.28
1997-01-01 08:10:00     12.44
1997-01-01 08:15:00     12.50
1997-01-01 08:20:00     12.44
1997-01-01 08:25:00     12.11
1997-01-01 08:30:00     11.78
1997-01-01 08:35:00     11.61
1997-01-01 08:40:00     11.50
1997-01-01 08:45:00     11.56
1997-01-01 08:50:00     11.72
1997-01-01 08:55:00     11.67
1997-01-01 09:00:00     11.56
1997-01-01 09:05:00     11.56
1997-01-01 09:10:00     11.56
1997-01-01 09:15:00     11.11
1997-01-01 09:20:00     11.11
1997-01-01 09:25:00     11.33
1997-01-01 09:30:00      2.63
1997-01-01 09:31:00      2.62
1997-01-01 09:32:00      2.58
1997-01-01 09:33:00      2.62
1997-01-01 09:34:00      2.67
1997-01-01 09:35:00      2.68
1997-01-01 09:36:00      2.65
1997-01-01 09:37:00      2.57
1997-01-01 09:38:00      2.43
1997-01-01 09:39:00      2.31
1997-01-01 09:40:00      2.21
1997-01-01 09:41:00      2.13
1997-01-01 09:42:00      2.04
1997-01-01 09:43:00      1.94
1997-01-01 09:44:00      1.82
1997-01-01 09:45:00      1.75
1997-01-01 09:46:00      1.72
1997-01-01 09:47:00      1.71
1997-01-01 09:48:00      1.64
1997-01-01 09:49:00      1.59
1997-01-01 09:50:00      1.54
1997-01-01 09:51:00      1.47
1997-01-01 09:52:00      1.39
1997-01-01 09:53:00      1.31
1997-01-01 09:54:00      1.24
1997-01-01 09:55:00      1.20
1997-01-01 09:56:00      1.19
1997-01-01 09:57:00      1.18
1997-01-01 09:58:00      1.16
1997-01-01 09:59:00      1.13

理想情况下,我想返回如下内容:

freq1 = ['1997-01-01 07:00:00', '1997-01-01 09:30:00', '5T']
freq2 = ['1997-01-01 09:30:00', '1997-01-01 09:59:00', '1T']

列表项是[开始时间、结束时间、频率]。

我的目标是获取具有未知频率分布的任何数据帧,并返回存在的每个频率的时间段。

【问题讨论】:

    标签: python pandas frequency


    【解决方案1】:

    这是一种选择。创建一个Series,它会随着频率的变化而增加,并使用它来形成组。

    df = df.reset_index()
    s = df.Datetime.diff().bfill().ne(df.Datetime.diff().shift(-1).ffill()).cumsum()
    
    # Only so the name isn't <lambda>
    def freq(x):
        return pd.infer_freq(x)
    
    freqs = df.groupby(s).Datetime.agg([min, max, freq]).rename_axis(None, 0)
    freqs['max'].update(freqs['min'].shift(-1))  # Fix the end times
    
                      min                 max freq
    0 1997-01-01 07:00:00 1997-01-01 09:30:00   5T
    1 1997-01-01 09:30:00 1997-01-01 09:59:00    T
    

    【讨论】:

    • 对于你的函数freq,你可以使用pd.infer_freq(x)来得到它,就像'5T':)
    • 哇,这对我来说是新的
    • 我相信您的回答与 OP 要求的内容之间存在一比一的关系; OP 似乎希望在频率改变之前有时间成为该组的结束和下一个组的开始。
    • 嗯,这是一个相当讨厌的问题。我猜它需要在事后使用这种方法进行修复,因为据我所知,每一行只能属于一个组。
    • @ALollz 应该不错。对于我的大多数测试用例,某些频率会持续数年。
    猜你喜欢
    • 2022-08-19
    • 2021-12-20
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2014-03-24
    • 1970-01-01
    • 1970-01-01
    • 2013-07-24
    相关资源
    最近更新 更多