Python Pandas - 为每个客户计算 TimeSeriesIndexedData 的统计数据答案

【问题标题】：Python Pandas - Computing stats on TimeSeriesIndexedData for each customerPython Pandas - 为每个客户计算 TimeSeriesIndexedData 的统计数据
【发布时间】：2019-07-02 21:23:00
【问题描述】：

    UsageDate               CustID1  CustID2   .... CustIDn
0   2018-01-01 00:00:00     1.095
1   2018-01-01 01:00:00     1.129
2   2018-01-01 02:00:00     1.165
3   2018-01-01 04:00:00     1.697
. 
.
m   2018-31-01 23:00:00     1.835                     (m,n)

数据框 (df) 有 m 行和 n 列。 m 是每小时时间序列索引，从每月的第一个小时开始到每月的最后一个小时。列是几乎 100,000 的客户。 Dataframe 的每个单元格的值是能耗值。

对于每个客户，我需要计算： 1) 每小时使用的平均值 - 所以基本上是一个月中每天的第一个小时，一个月中每天的第二个小时等的平均值。

2) 每位客户的使用情况汇总

3) 前 3 个使用时间 - 对于客户 x，可以是“2018-01-01 01:00:00”， "2018-11-01 05:00:00" "2018-21-01 17:00:00"

4) 后 3 个使用小时 - 与上述类似的解释

5) 每个客户在当月的使用平均值

我的主要问题是如何汇总每个客户和一天中的某个小时或一天中的数据。

为了汇总每位客户的使用情况，我尝试了： df_temp = pd.DataFrame(columns=["TotalUsage"])

for col in df.columns:

`df_temp[col,"TotalUsage"] = df[col].apply.sum()`

但是，这个和我尝试过的许多版本都没有帮助我解决问题。

请帮助我提供一种方法以及如何考虑此类问题。

此外，由于数据帧很大，如果我们能谈谈计算复杂性以及如何减少计算时间，那将很有帮助。

【问题讨论】：

标签： python pandas dataframe aggregation

【解决方案1】：

这看起来像是 pandas.groupby 的工作。

（我没有测试代码，因为我没有一个好的示例数据集可以用来工作。如果有错误，请告诉我。）

根据您的某些要求，您需要添加一个包含小时的列：

 df['hour']=df['UsageDate'].dt.hour

1) 按小时计算。

 mean_by_hour=df.groupby('hour').mean()

2) 用户汇总。

 sum_by_uers=df.sum()

3) 客户使用率最高。后 3 个使用时间 - 与上述类似的解释。--我不太了解您想要的输出，您可能在这个问题中提出了太多不同的问题。如果您想要小时而不是值，我认为您可能必须遍历列。添加示例可能会有所帮助。

4) 相同的评论。

5) 客户的意思。

mean_by_cust = df.mean()

【讨论】：

【解决方案2】：

我不确定这是否是您正在寻找的所有信息，但它会为您指明正确的方向：

import pandas as pd
import numpy as np

# sample data for 3 days
np.random.seed(1)
data = pd.DataFrame(pd.date_range('2018-01-01', periods= 72, freq='H'), columns=['UsageDate'])
data2  = pd.DataFrame(np.random.rand(72,5), columns=[f'ID_{i}' for i in range(5)])
df = data.join([data2])
# print('Sample Data:')
# print(df.head())
# print()

# mean of every month and hour per year
# groupby year month hour then find the mean of every hour in a given year and month
mean_data = df.groupby([df['UsageDate'].dt.year, df['UsageDate'].dt.month, df['UsageDate'].dt.hour]).mean()
mean_data.index.names = ['UsageDate_year', 'UsageDate_month', 'UsageDate_hour']
# print('Mean Data:')
# print(mean_data.head())
# print()

# use set_index with max and head
top_3_Usage_hours = df.set_index('UsageDate').max(1).sort_values(ascending=False).head(3)
# print('Top 3:')
# print(top_3_Usage_hours)
# print()

# use set_index with min and tail
bottom_3_Usage_hours = df.set_index('UsageDate').min(1).sort_values(ascending=False).tail(3)
# print('Bottom 3:')
# print(bottom_3_Usage_hours)

出来：

Sample Data:
            UsageDate      ID_0      ID_1      ID_2      ID_3      ID_4
0 2018-01-01 00:00:00  0.417022  0.720324  0.000114  0.302333  0.146756
1 2018-01-01 01:00:00  0.092339  0.186260  0.345561  0.396767  0.538817
2 2018-01-01 02:00:00  0.419195  0.685220  0.204452  0.878117  0.027388
3 2018-01-01 03:00:00  0.670468  0.417305  0.558690  0.140387  0.198101
4 2018-01-01 04:00:00  0.800745  0.968262  0.313424  0.692323  0.876389

Mean Data:
                                                   ID_0      ID_1      ID_2  \
UsageDate_year UsageDate_month UsageDate_hour                                 
2018           1               0               0.250716  0.546475  0.202093   
                               1               0.414400  0.264330  0.535928   
                               2               0.335119  0.877191  0.380688   
                               3               0.577429  0.599707  0.524876   
                               4               0.702336  0.654344  0.376141   

                                                   ID_3      ID_4  
UsageDate_year UsageDate_month UsageDate_hour                      
2018           1               0               0.244185  0.598238  
                               1               0.400003  0.578867  
                               2               0.623516  0.477579  
                               3               0.429835  0.510685  
                               4               0.503908  0.595140  

Top 3:
UsageDate
2018-01-01 21:00:00    0.997323
2018-01-03 23:00:00    0.990472
2018-01-01 08:00:00    0.988861
dtype: float64

Bottom 3:
UsageDate
2018-01-01 19:00:00    0.002870
2018-01-03 02:00:00    0.000402
2018-01-01 00:00:00    0.000114
dtype: float64

对于顶部和底部 3，如果您想找到跨行的最小总和，那么：

df.set_index('UsageDate').sum(1).sort_values(ascending=False).tail(3)

【讨论】：