将具有 UTC 偏移量的字符串转换为火花时间戳

Question

如何在 spark 中将字符串 2018-03-21 08:15:00 +03:00 存储为 timestamptype，保留 UTC 偏移量？

在下面尝试过

from pyspark.sql.functions import *

df = spark.createDataFrame([("2018-03-21 08:15:00 +03:00",)], ["timestamp"])
newDf= df.withColumn("newtimestamp", to_timestamp(col('timestamp'), "yyyy-MM-dd HH:mm:ss XXX")
)

这将打印 newtimestamp 列，其值转换为 UTC 时间，即 2018-03-21 05:15:00

如何将此字符串作为时间戳列存储在数据帧中保留偏移量，即将相同的字符串存储为时间戳或存储为 2018-03-21 08:15:00 +3000

Answer 1

您需要使用date_format 将您从转换中获得的时间戳格式化为所需的模式：

newDf = df.withColumn(
    "newtimestamp",
    to_timestamp(col('timestamp'), "yyyy-MM-dd HH:mm:ss XXX")
).withColumn(
    "newtimestamp_formatted",
    date_format("newtimestamp", "yyyy-MM-dd HH:mm:ss Z")
)

newDf.show(truncate=False)

#+--------------------------+-------------------+-------------------------+
#|timestamp                 |newtimestamp       |newtimestamp_formatted   |
#+--------------------------+-------------------+-------------------------+
#|2018-03-21 08:15:00 +03:00|2018-03-21 06:15:00|2018-03-21 06:15:00 +0100|
#+--------------------------+-------------------+-------------------------+