【发布时间】:2021-04-15 12:53:19
【问题描述】:
我目前在 databricks 中有一个附加表(spark 3,databricks 7.5)
parsedDf \
.select("somefield", "anotherField",'partition', 'offset') \
.write \
.format("delta") \
.mode("append") \
.option("mergeSchema", "true") \
.save(f"/mnt/defaultDatalake/{append_table_name}")
它之前是用create table command 创建的,我不使用INSERT 命令来写入它(如上所示)
现在我希望能够使用 SQL 逻辑来查询它,而无需每次都通过 createOrReplaceTempView。是否可以将表添加到当前数据而不删除它?我需要进行哪些更改来支持这一点?
更新:
我试过了:
res= spark.sql(f"CREATE TABLE exploration.oplog USING DELTA LOCATION '/mnt/defaultDataLake/{append_table_name}'")
但是得到一个 AnalysisException
您正在尝试创建一个外部表
exploration.dataitems_oplog来自/mnt/defaultDataLake/specificpathhere使用 Databricks Delta,但是当 输入路径为空。
虽然路径不为空。
【问题讨论】:
标签: apache-spark databricks delta-lake