【问题标题】:databricks-dbx HTTPError 403 Client Errordatabricks-dbx HTTPError 403 客户端错误
【发布时间】:2022-10-05 06:12:59
【问题描述】:

我正在使用以下方式运行一些工作:

  • dbx 版本 0.7.4
  • pyspark 3.2.2
  • delta-spark 2.0.0
  • Python 3.8.1

我正在遵循以下指南:https://dbx.readthedocs.io/en/latest/features/assets/?h=dbx+launch+assets

我运行以下命令

dbx deploy <my-workflow> --assets-only
dbx launch <my-workflow> --from-assets

我收到以下错误:

TypeError: submit_run() got an unexpected keyword argument 'permissions'

deployment.yml 上,我包含了这个:

custom:
  basic-cluster-props: &basic-cluster-props
    spark_version: "10.4.x-scala2.12"
    node_type_id: "Standard_D3_v2"

  basic-settings: &basic-settings
    libraries:
      - pypi:
          package: "pyyaml"
    permissions:
      access_control_list:
        - user_name: "userid" 
          permission_level: "IS_OWNER"
        - group_name: "admins"
          permission_level: "CAN_MANAGE"
        - group_name: "rolename"
          permission_level: "CAN_MANAGE"

  basic-static-cluster: &basic-static-cluster
    new_cluster:
      <<: *basic-cluster-props
      num_workers: 1
    <<: *basic-settings

environments:
  default:
    strict_path_adjustment_policy: true
    workflows:
      - name: "current-integration-test"
        <<:
          - *main-static-cluster
        spark_python_task:
          python_file: "file://tests/integration/consumer_products/silver/test_silver_buid_mintel_job.py"
          parameters: ["--conf-file", "file:fuse://conf/int/consumer_products.yml","--cov=dlite"]

我在这里想念什么?

【问题讨论】:

    标签: databricks-dbx


    【解决方案1】:

    dbx 中有一个错误,已在最新的 0.7.6 版本中修复。请升级到新版本,然后重试。

    根本原因是 permissions 部分不被 RunSubmit API 接受,该 API 在基于资产的启动引擎下使用。我们为改善客户体验提供了安全措施,但请注意permissions 设置将不会被应用。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2018-07-24
      • 2022-10-13
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多