【问题标题】:Is there any way to minimize U-SQL preparation time?有什么方法可以最小化 U-SQL 的准备时间?
【发布时间】:2017-02-06 20:45:33
【问题描述】:

我的 U-SQL 作业的准备时间约为 30 秒。有可能降低吗?

我的代码如下:

USE DATABASE x;
USE SCHEMA y;

@results = SELECT RowKey
FROM y.tableName
WHERE USQLApplication2.queryHelper.func().Contains(PartitionKey) AND TimestampTicks < new System.DateTime(2016,12,30).Ticks 
      AND TimestampTicks > new System.DateTime(2016,12,29).Ticks;
OUTPUT @results TO "/data/output.csv"
USING Outputters.Csv();

【问题讨论】:

标签: azure-data-lake u-sql


【解决方案1】:

准备时间主要包括脚本的编译、优化和代码生成。由于 U-SQL 当前以批处理模式运行,因此系统已针对在准备期间花费时间进行优化,以缩短大量数据的运行时间。

在您的情况下,根据提供的脚本,我认为对用户定义函数的调用可能会增加准备时间。让我与团队核实一下,内联函数调用是否可以在该阶段节省一些时间。

编辑: 根据您在另一个线程中的问题,您似乎有一个高度分区的表。如果这是正确的,那么访问分区和合并它们的编译也将增加准备时间。我们有一个待办事项来改进这方面。

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 2010-10-18
    • 2022-01-14
    • 2021-06-21
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2020-10-22
    相关资源
    最近更新 更多