【发布时间】:2019-08-16 13:18:51
【问题描述】:
我想将“yyyyMMdd”的火花数据框字符串列转换为带有火花会话(火花)的日期格式 - 不是火花上下文。
由于我没有使用 spark 上下文 (sc),因此我无法使用以下代码,尽管它可以完全按照我的意愿进行操作:
.withColumn("column1",DF.to_date(F.col("column1"),"yyyyMMdd"))
由于我不想将列转换为时间戳,我也不想使用以下代码:
.withColumn("column1", unix_timestamp(col("column1"), "yyyyMMdd").cast("timestamp"))
最终目标是用日期格式的列替换之前的字符串列。
非常感谢!
【问题讨论】:
-
为什么不能使用第一个选项,你试过运行它吗?
标签: pyspark apache-spark-sql str-to-date