EMR hadoop 错误 ClassNotFoundException

Question

此错误的原因可能是什么。当我在本地机器上尝试时，它可以工作，但是当我尝试在 AWS EMR 中部署它时，我收到了这个错误。谢谢

java.lang.RuntimeException: java.lang.RuntimeException: java.lang.ClassNotFoundException: ArticleLess$Reduce
    at org.apache.hadoop.conf.Configuration.getClass(Configuration.java:899)
    at org.apache.hadoop.mapred.JobConf.getCombinerClass(JobConf.java:1028)
    at org.apache.hadoop.mapred.Task$CombinerRunner.create(Task.java:1380)
    at org.apache.hadoop.mapred.MapTask$MapOutputBuffer.<init>(MapTask.java:997)
    at org.apache.hadoop.mapred.MapTask.runOldMapper(MapTask.java:433)
    at org.apache.hadoop.mapred.MapTask.run(MapTask.java:377)
    at org.apache.hadoop.mapred.Child$4.run(Child.java:255)
    at java.security.AccessController.doPrivileged(Native Method)
    at javax.security.auth.Subject.doAs(Subject.java:396)
    at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1059)
    at org.apache.hadoop.mapred.Child.main(Child.java:249)
Caused by: java.lang.RuntimeException: java.lang.ClassNotFoundException: ArticleLess$Reduce
    at org.apache.hadoop.conf.Configuration.getClass(Configuration.java:867)
    at org.apache.hadoop.conf.Configuration.getClass(Configuration.java:891)
    ... 10 more
Caused by: java.lang.ClassNotFoundException: ArticleLess$Reduce
    at java.net.URLClassLoader$1.run(URLClassLoader.java:202)
    at java.security.AccessController.doPrivileged(Native Method)
    at java.net.URLClassLoader.findClass(URLClassLoader.java:190)
    at java.lang.ClassLoader.loadClass(ClassLoader.java:306)
    at sun.misc.Launcher$AppClassLoader.loadClass(Launcher.java:301)
    at java.lang.ClassLoader.loadClass(ClassLoader.java:247)
    at java.lang.Class.forName0(Native Method)
    at java.lang.Class.forName(Class.java:247)
    at org.apache.hadoop.conf.Configuration.getClassByName(Configuration.java:820)
    at org.apache.hadoop.conf.Configuration.getClass(Configuration.java:865)
    ... 11 more

Answer 1

在本地机器上编译/运行期间，您使用了 EMR 上不存在的“ArticleLess”类

我在谷歌上搜索，但我没有找到这门课。所以，我假设它是您代码中的一个类（不是开源库）。

在您的代码中搜索类。如果您使用 *.jar 文件，请将它们复制并重命名为 *.zip，然后在里面搜索。

找到类后，必须将类/整个 jar 部署到 EMR。你如何做到这一点取决于你是如何开始工作的（你没有描述）。