【问题标题】:How to let Spark output print on separate new lines?如何让 Spark 输出打印在单独的新行上?
【发布时间】:2016-01-06 00:23:59
【问题描述】:

目前我的 spark 控制台是这样打印的,可读性不是很好:

我希望它在新行上打印每个 StructField 项目,以便更容易阅读。我应该怎么办?谢谢。

更新: 我实际上正在关注本教程(http://www.nodalpoint.com/spark-data-frames-from-csv-files-handling-headers-column-types/),作者可以在没有 pprint 的情况下逐行打印。我想知道他/她是怎么做到的。

【问题讨论】:

    标签: apache-spark pyspark apache-spark-sql


    【解决方案1】:

    你总是可以像这样使用pprint

    import pprint
    pprint(fields)
    

    但如果您尝试打印架构,最好使用DataFrame.printSchema

    【讨论】:

    • 谢谢,这是一个很好的解决方法。我实际上正在关注本教程(nodalpoint.com/…),作者可以在没有 pprint 的情况下逐行打印。我想知道他/她是怎么做到的。
    【解决方案2】:

    我通常使用:

    fields.foreach(println)
    

    当您从 rdd 或数据框检索数据时,它也可以工作:

    myDf.collect().foreach(println)
    

    【讨论】:

      猜你喜欢
      • 2022-01-07
      • 1970-01-01
      • 2016-04-21
      • 2022-07-03
      • 2019-09-01
      • 1970-01-01
      • 2021-08-16
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多