【发布时间】:2019-04-04 21:32:14
【问题描述】:
我有一个数据框,其中包含欧洲格式的数字,我将其作为字符串导入。逗号作为十进制,反之亦然 -
from pyspark.sql.functions import regexp_replace,col
from pyspark.sql.types import FloatType
df = spark.createDataFrame([('-1.269,75',)], ['revenue'])
df.show()
+---------+
| revenue|
+---------+
|-1.269,75|
+---------+
df.printSchema()
root
|-- revenue: string (nullable = true)
所需的输出: df.show()
+---------+
| revenue|
+---------+
|-1269.75|
+---------+
df.printSchema()
root
|-- revenue: float (nullable = true)
我使用函数regexp_replace首先用空格替换点 - 然后用空点替换逗号,最后转换成floatType。
df = df.withColumn('revenue', regexp_replace(col('revenue'), ".", ""))
df = df.withColumn('revenue', regexp_replace(col('revenue'), ",", "."))
df = df.withColumn('revenue', df['revenue'].cast("float"))
但是,当我尝试在下面替换时,我得到空字符串。为什么??我期待-1269,75。
df = df.withColumn('revenue', regexp_replace(col('revenue'), ".", ""))
+-------+
|revenue|
+-------+
| |
+-------+
【问题讨论】:
标签: python dataframe replace pyspark