【问题标题】:BigQuery : add new column to existing tables using python BQ APIBigQuery:使用 python BQ API 向现有表添加新列
【发布时间】:2016-03-29 21:33:05
【问题描述】:

相关问题:Bigquery add columns to table schema using BQ command line tools

我想使用 BigQuery Python API 在 BigQuery 中的现有表中添加一个新列(更新现有表的架构)。

但是我的代码似乎不起作用。

这是我的代码:

    flow = flow_from_clientsecrets('secret_key_path', scope='my_scope')
    storage = Storage('CREDENTIAL_PATH')
    credentials = storage.get()
    if credentials is None or credentials.invalid:
        credentials = tools.run_flow(flow, storage, tools.argparser.parse_args([]))
    http = httplib2.Http()
    http = credentials.authorize(http)
    bigquery_service = build('bigquery', 'v2', http=http)
    tbObject = bigquery_service.tables()
    query_body = {'schema': {'name':'new_column_name', 'type':'STRING'}}
    tbObject.update(projectId='projectId', datasetId='datasetId', tableId='tableId', body=query_body).execute()

它返回Provided schema doesn't match existing table's schema 错误。 谁能给我一个有效的 Python 示例? 非常感谢!

【问题讨论】:

  • 您应该提供整个架构,而不仅仅是新字段
  • 嗨 Mikhail,您是指现有表的整个架构吗?
  • 是的,带有新字段。所以 api 将负责添加新的。但要做到这一点,需要呈现整个架构
  • 嗨,米哈伊尔,我还有一个问题,我知道 BQ 没有 SET 和 UPDATE 方法,只是想知道是否向现有表添加新列,如何设置新列的值现有表?或者我必须删除现有表并使用列值创建一个新表?
  • 啊,我明白了,我会用整个架构再试一次

标签: python google-bigquery


【解决方案1】:

基于Mikhail Berlyant cmets,我必须将带有新字段(列)的现有表架构传递给update() 方法以更新现有表的架构。

下面给出一个python代码示例:

...
tbObject = bigquery_service.tables()
# get current table schema
table_data = tbObject.get(projectId=projectId, datasetId=datasetId, tableId=tableId).execute()
schema = table_data.get('schema')
new_column = {'name': 'new_column_name', 'type': 'STRING'}
# append new field to current table's schema
schema.get('fields').append(new_column)
query_body = {'schema': schema}
tbObject.update(projectId='projectId', datasetId='datasetId', tableId='tableId', body=query_body).execute()

此外,无法为现有行(表)设置新列的值。感谢Mikhail Berlyant 的建议,为现有行设置值的方法是为具有值的新列创建一个单独的表,并将现有表与该表连接以替换旧模式表

【讨论】:

    【解决方案2】:

    我的 cmets 总结(因为我现在有几分钟的时间):

    • 需要将整个架构(连同新字段)提供给 api
    • 将为现有行添加带有空值的新字段。没办法设置 价值
    • 您可以在要运行的查询中包含一些逻辑 这张表来弥补这一点。或者你可以有单独的表 只是这个新领域和一些你将加入你的关键 现有表和新表以获取此字段

    【讨论】:

    猜你喜欢
    • 1970-01-01
    • 2016-03-29
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2021-10-27
    • 2023-04-04
    • 2012-09-24
    • 2021-05-13
    相关资源
    最近更新 更多