【问题标题】:Calculate time intervals to form new column in pandas dataframe计算时间间隔以在熊猫数据框中形成新列
【发布时间】:2020-12-08 08:18:39
【问题描述】:

我有 100,000 行数据,格式如下:

import pandas as pd

data = {'ID': [1, 1, 3, 3, 4, 3, 4, 4, 4],
        'timestamp': ['12/23/14 16:53', '12/23/14 17:00', '12/23/14 17:01', '12/23/14 17:02', '12/23/14 17:00', '12/23/14 17:06', '12/23/14 17:15', '12/23/14 17:16', '12/23/14 17:20']}

df = pd.DataFrame(data)

   ID           timestamp
0   1 2014-12-23 16:53:00
1   1 2014-12-23 17:00:00
2   3 2014-12-23 17:01:00
3   3 2014-12-23 17:02:00
4   4 2014-12-23 17:00:00
5   3 2014-12-23 17:06:00
6   4 2014-12-23 17:15:00
7   4 2014-12-23 17:16:00
8   4 2014-12-23 17:20:00

ID 代表用户,timestamp 是该用户访问网站的时间。我想获取有关使用 pandas 的会话的信息,该站点上的每个会话最长为 15 分钟。用户登录 15 分钟后,新会话开始。对于上述样本数据,期望的结果是:

   ID  session_start   session_duration
0  1   12/23/14 16:53. 7 min
1  3   12/23/14 17:02. 4 min
2  4   12/23/14 17:00. 15 min
3  4   12/23/14 17:16. 4 min

如果有我应该添加的信息来澄清,请告诉我。我似乎无法找到可行的解决方案。任何帮助表示赞赏!

编辑:在回答下面的查询时,我注意到我的示例中有一个错误。抱歉各位,晚上很晚了!

我正在努力解决的问题主要与用户 4 有关。他们在 15 分钟后仍然登录,我想在我的数据中捕获新会话已经开始。

我的问题与这个Groupby every 2 hours data of a dataframe略有不同的原因是因为我想根据个人用户来做这个。

【问题讨论】:

  • 为什么你的输出中没有一个 id = 1 的条目? id = 4 有 2 个条目 为什么 id = 1 有一个条目?
  • 为什么4 组的第一次约会是12/23/14 17:02 而不是12/23/14 17:00?还有为什么第二个是12/23/14 17:02
  • 它可以用g = df.groupby('ID'); duration = g.max() - g.min() 完成,然后加入g.first() 但是你不解释是否涉及更多日期......如果ID 5 有12/23/14 17:02 后跟@987654335 怎么办@
  • @jezrael 也许这个Groupby every 2 hours data of a dataframe 更接近。我想你一次又一次地回答了所有这些问题。

标签: python pandas datetime pandas-groupby


【解决方案1】:

不漂亮,但这里有一个解决方案。基本思想是使用groupbydiff 来计算每个ID 的时间戳之间的差异,但我找不到一种只区分每2 行的好方法。因此,这种方法对每一行使用diff,然后在每个ID 中选择彼此的差异结果。

请注意,我假设数据框已正确排序。另请注意,您的示例数据有一个额外的 ID==1 条目,我已将其删除。

import pandas as pd

data = {'ID': [1, 1, 3, 4, 3, 4, 4, 4],
        'timestamp': ['12/23/14 16:53', '12/23/14 17:00', '12/23/14 17:02', '12/23/14 17:00', '12/23/14 17:06', '12/23/14 17:15', '12/23/14 17:16', '12/23/14 17:20']}

df = pd.DataFrame(data)
df['timestamp']=pd.to_datetime(df['timestamp'])

# groupby to get difference between each timestamp 
df['diffs'] = df.groupby('ID')['timestamp'].diff()

# count every time ID appears 
df['counts'] = df.groupby('ID')['ID'].cumcount()+1

print("after diffs and counts:")
print(df)

# select entries for every 2nd occurence (where df['counts'] is even)
new_df = df[df['counts'] % 2 == 0][['ID','timestamp','diffs']]

# timestamp here will be the session endtime so subtract the 
# diffs to get session start time 
new_df['timestamp'] = new_df['timestamp'] - new_df['diffs']

# and a final rename
new_df = new_df.rename(columns={'timestamp':'session_start','diffs':'session_duration'})
print("\nfinal df:")
print(new_df)

会打印出来

after diffs and counts:
   ID           timestamp           diffs  counts
0   1 2014-12-23 16:53:00             NaT       1
1   1 2014-12-23 17:00:00 0 days 00:07:00       2
2   3 2014-12-23 17:02:00             NaT       1
3   4 2014-12-23 17:00:00             NaT       1
4   3 2014-12-23 17:06:00 0 days 00:04:00       2
5   4 2014-12-23 17:15:00 0 days 00:15:00       2
6   4 2014-12-23 17:16:00 0 days 00:01:00       3
7   4 2014-12-23 17:20:00 0 days 00:04:00       4

final df:
   ID       session_start session_duration
1   1 2014-12-23 16:53:00  0 days 00:07:00
4   3 2014-12-23 17:02:00  0 days 00:04:00
5   4 2014-12-23 17:00:00  0 days 00:15:00
7   4 2014-12-23 17:16:00  0 days 00:04:00

然后将session_duration 列作为分钟数而不是timedelta 对象,您可以这样做:

import numpy as np
new_df['session_duration']  = new_df['session_duration'] / np.timedelta64(1,'s') / 60.

【讨论】:

  • 很抱歉在事情上扔了一个活动扳手,但我刚刚意识到 [counts]%2 不起作用,因为有时之间的数据点应该算作一个会话。我添加了另一行用户 ID 3 来说明这一点
  • 你可以随意添加差异。如果您执行df.groupby('ID')['diffs'].sum(),它将按用户累积所有差异。但老实说,如果您没有任何额外的日志记录信息,您将不会在这里获得准确的会话持续时间,因为您无法区分 2 分钟和 14 分钟的会话,除非两者之间恰好有另一个时间戳。我建议你在弄清楚如何聚合它之前,先弄清楚你想如何计算单个 ID 的持续时间。
猜你喜欢
  • 1970-01-01
  • 2013-06-23
  • 1970-01-01
  • 2021-08-18
  • 1970-01-01
  • 1970-01-01
  • 2021-02-06
  • 2015-01-28
  • 1970-01-01
相关资源
最近更新 更多