【发布时间】:2016-11-14 14:58:13
【问题描述】:
我正在使用 python 3.5.2、pandas 0.18.1 和 sqlite3。
在我的数据库中,我有一个列 unix_time 和 INT 自 1970 年以来的秒数。理想情况下,我想从 sqlite 读取我的数据框,然后创建一个对应于 datetime 的 time 列或 pandas.tslib.Timestamp 转换 unix_time 列,我将只用于一些处理,然后在保存数据帧之前删除。
问题是当解析 unix_time 列使用:
df = pd.read_from_sql_query("SELECT * FROM test", con, parse_dates=['unix_time'])
我获得了适合我处理的pandas.tslib.Timestamp 类型,但是我必须使用以下方法重新创建我原来的unix_time 列:
df['unix_time'][i] = (df['unix_time'][i] - datetime(1970,1,1)).total_seconds()
真的很“脏”
第一个问题:你有更好的方法吗?
我曾考虑放弃 unix 时间格式,只使用 datetime 格式,但 pandas 的 to_datetime 方法实际上返回了 pandas.tslib.Timestamp ...无论如何,这样做会迫使我遍历所有行是一个糟糕的解决方案。 (除了数据框单个单元格的视图之外,不可能将to_datetime 应用于其他内容
第二个问题:是否可以将其应用于系列?
我最后一次尝试是直接使用df['time'] = datetime.datetime.fromtimestamp(df['unix_time']),但令人惊讶的是,它也返回了pandas.tslib.Timestamp。
最后,知道我只能保存 unix 时间戳或日期时间,我目前唯一的选择是:
解析,但随后必须将它们转换回 unix 时间戳 一。
或者不解析但必须将它们转换为
pandas.tslib.Timestamp一个接一个。
如果我能转换整个系列就好了。
最后一个问题:有没有办法将 unix 时间戳系列转换为 datetime(或至少 pandas.tslib.Timestamp),或将 pandas.tslib.Timestamp(或 datetime)系列转换为 unix时间戳?
谢谢
编辑:
在处理过程中,我提取了要附加到数据集的行。显然,在从数据框传递到意甲时,对pandas.tslib.Timestamp 的覆盖会隐式附加:
df = pd.DataFrame({'UNX':pd.date_range('2016-01-01', freq='9999S', periods=10).astype(np.int64)//10**9})
df['Date'] = pd.to_datetime(df.UNX, unit='s')
print(df.Date.dtypes)
print(type(df['Date'][0]))
test = df.iloc[0]
print(type(test.Date))
new_df = test.to_frame().transpose() #from here, impossible to do : new_df.to_sql("test", con) because the type for 'Date' is not supported
print(new_df.Date.dtypes)
返回
datetime64[ns]
<class 'pandas.tslib.Timestamp'>
<class 'pandas.tslib.Timestamp'>
object
有没有办法将new_df 中的“日期”从pandas.tslib.Timestamp 转换为datetime64[ns] 或datetime.datetime(或只是str)?
【问题讨论】:
-
对于系列,您还可以使用
Series.dt.to_pydatetime替换已弃用的Series.to_datetime
标签: python datetime pandas unix-timestamp