【问题标题】:Fail to resolving dependencies of org.apache.hadoop:hadoop-aws:2.7.6无法解析 org.apache.hadoop:hadoop-aws:2.7.6 的依赖关系
【发布时间】:2020-09-13 01:23:57
【问题描述】:

当我输入以下命令让我的 java spark 从 amazon s3 读取 csv 文件时

spark-submit --class myApp --packages org.apache.hadoop:hadoop-aws:2.7.6 --master local ./target/spark_pratice.jar

错误信息


                ::::::::::::::::::::::::::::::::::::::::::::::

                ::              FAILED DOWNLOADS            ::

                :: ^ see resolution messages for details  ^ ::

                ::::::::::::::::::::::::::::::::::::::::::::::

                :: javax.activation#activation;1.1!activation.jar

                :: asm#asm;3.2!asm.jar

                :: org.apache.avro#avro;1.7.4!avro.jar

                :: com.thoughtworks.paranamer#paranamer;2.3!paranamer.jar

                :: org.xerial.snappy#snappy-java;1.0.4.1!snappy-java.jar(bundle)

                :: io.netty#netty;3.6.2.Final!netty.jar(bundle)

                ::::::::::::::::::::::::::::::::::::::::::::::
:: USE VERBOSE OR DEBUG MESSAGE LEVEL FOR MORE DETAILS
Exception in thread "main" java.lang.RuntimeException: [
    download failed: javax.activation#activation;1.1!activation.jar, 
    download failed: asm#asm;3.2!asm.jar, 
    download failed: org.apache.avro#avro;1.7.4!avro.jar, 
    download failed: com.thoughtworks.paranamer#paranamer;2.3!paranamer.jar, 
    download failed: org.xerial.snappy#snappy-java;1.0.4.1!snappy-java.jar(bundle), 
    download failed: io.netty#netty;3.6.2.Final!netty.jar(bundle)
]

我不知道如何解决这个问题。 我应该更新什么吗?行家?或者是其他东西 ?

【问题讨论】:

    标签: java apache-spark amazon-s3 dependencies


    【解决方案1】:

    最后我尝试从maven仓库maven repository下载丢失的jar文件

    我将它们放入正确的 .m2/repository 存储库中

    【讨论】:

      【解决方案2】:

      我遇到了同样的问题,我删除了.ivy2/cacheivy2/jars.m2/repository/ 目录并执行了spark-shell --package 命令,它开始工作了。

      【讨论】:

      • 那么您最终遇到了错误还是修复了它?不清楚
      • 我第一次执行 spark-shell 命令并删除目录时遇到的错误。它正在工作
      猜你喜欢
      • 2018-12-15
      • 2014-05-06
      • 2022-01-17
      • 2020-08-16
      • 2019-12-19
      • 2018-11-21
      • 2020-03-12
      • 2020-07-03
      • 2021-04-28
      相关资源
      最近更新 更多