【问题标题】:Google BigQuery error: Out of buffer space (error code: invalid)Google BigQuery 错误:缓冲区空间不足(错误代码:无效)
【发布时间】:2016-07-08 17:28:45
【问题描述】:

我正在使用 Google Bigquery user-defined functions 来展平和转置日常数据的嵌套字段。

除一日数据外,所有数据处理都运行良好。当我处理当天的数据时,Google Biequery 返回以下错误状态(错误是由用户定义的函数抛出的):

Errors:
script: Out of buffer space (error code: invalid)
Job ID    XXX:XXXXX
Start Time    Mar 21, 2016, 4:39:42 PM
End Time    Mar 21, 2016, 4:39:48 PM
Destination Table    XXX:XXXXX
Write Preference    Append to table
Allow Large Results    true
Flatten Results    false

当天的原始数据大小约为1GB,处理比当天数据大得多的其他天数据没有问题。

有人对此错误有任何想法吗?

【问题讨论】:

    标签: google-bigquery user-defined-functions


    【解决方案1】:

    我发现了问题:

    此错误不是 Google BigQuery 错误,此错误是 UDF 函数引发的 JavaScript 错误。

    我在一些嵌套字段中有很长的字符串,我将这些字段中的字符串连接起来,这些长字符串导致 JavaScript out of buffer space 错误。

    通过过滤掉超长字符串字段来解决问题

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 2018-05-10
      • 1970-01-01
      • 1970-01-01
      • 2012-04-21
      • 2016-08-08
      • 2015-07-31
      • 2016-07-17
      相关资源
      最近更新 更多