【发布时间】:2018-08-23 14:26:26
【问题描述】:
我正在使用 java api,尝试将数据从 avro 文件加载到 BigQuery。 创建外部表时,BigQuery 会自动从 .avro 文件中检测架构。 在为要加载的数据创建常规 BigQuery 表时,是否可以在 GCS 中指定架构/数据文件?
提前谢谢你
【问题讨论】:
标签: google-bigquery google-cloud-storage
我正在使用 java api,尝试将数据从 avro 文件加载到 BigQuery。 创建外部表时,BigQuery 会自动从 .avro 文件中检测架构。 在为要加载的数据创建常规 BigQuery 表时,是否可以在 GCS 中指定架构/数据文件?
提前谢谢你
【问题讨论】:
标签: google-bigquery google-cloud-storage
您可以使用configuration.load.schema 创建manually the schema definition,但是,文档说:
当您加载 Avro、Parquet、ORC、Cloud Firestore 导出数据或 Cloud Datastore 导出数据时,BigQuery 会根据源数据推断架构。
【讨论】:
似乎问题在于该表已经存在,而我没有指定 CreateDisposition.CREATE_IF_NEEDED。 您根本不需要指定架构,就像外部表一样
【讨论】: