【问题标题】:rhdfs library doesn't workrhdfs 库不起作用
【发布时间】:2023-03-20 13:05:02
【问题描述】:

我正在尝试将 hadoop 与 R 一起用于 cloudera VM。 我将 rhdfs 库加载到 R 中并且运行良好,但是当我尝试执行 hdfs.init() 时,这不起作用并给我以下错误:

> hdfs.init()
14/12/10 05:48:20 ERROR security.UserGroupInformation: Unable to find JAAS    classes:com.sun.security.auth.UnixPrincipal 
not found in gnu.gcj.runtime.SystemClassLoader{urls=[file:/home/cloudera/R/x86_64-redhat-linux-gnu-library/3.1/rJava/java/boot/],
parent=gnu.gcj.runtime.ExtensionClassLoader{urls=[], parent=null}}
14/12/10 05:48:20 WARN util.NativeCodeLoader: Unable to load native-hadoop library for 
your platform... using builtin-java classes where applicable
Error in .jcall("RJavaTools", "Ljava/lang/Object;", "invokeMethod", cl,  : 
java.io.IOException: failure to login

这是我的代码:

Sys.setenv("HADOOP_CMD"="/usr/lib/hadoop/bin/hadoop") Sys.setenv("HADOOP_STREAMING"="/usr/lib/hadoop-0.20-mapreduce/contrib/streaming/hadoop-streaming-2.5.0-mr1-cdh5.2.0.jar") Sys.setenv("HADOOP_HOME"="/usr/lib/hadoop") sys.setenv("HADOOP_CONF_DIR"="/etc/hadoop/conf")

库(rhdfs) 加载所需包:rJava

HADOOP_CMD=/usr/lib/hadoop/bin/hadoop

一定要运行 hdfs.init() hdfs.init() 2011 年 14 月 12 日 05:55:21 错误 security.UserGroupInformation: Unable to find JAAS classes:com.sun.security.auth.UnixPrincipal not found in gnu.gcj.runtime.SystemClassLoader{urls=[file:/home/cloudera /R/x86_64-redhat-linux-gnu-library/3.1/rJava/java/boot/], parent=gnu.gcj.runtime.ExtensionClassLoader{urls=[], parent=null}} 14/12/11 05:55:21 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... 在适用的情况下使用内置 java 类 .jcall("RJavaTools", "Ljava/lang/Object;", "invokeMethod", cl, 中的错误: java.io.IOException: 登录失败

【问题讨论】:

  • 您使用的是哪个 IDE?使用 Sys.Getenv() 检查您的 IDE 是否选择了正确的环境变量
  • 是的,我将完整的代码和变量设置直接放入 R

标签: r cloudera rhadoop


【解决方案1】:

我解决了我使用 sudo 运行 RStudio 的问题,然后重新加载 hrdfs 和 rmr 的 tar.gz,然后在执行 rhdfs.init() 时收到以下消息:

> hdfs.init()
14/12/15 10:29:31 WARN util.NativeCodeLoader: Unable to load native-hadoop library for    your platform... using builtin-java classes where applicable
>

应该没问题

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 2016-01-10
    • 1970-01-01
    • 1970-01-01
    • 2023-04-02
    • 2017-11-18
    • 1970-01-01
    • 2019-11-09
    • 1970-01-01
    相关资源
    最近更新 更多