【问题标题】:Skip rows during csv import pandas在 csv 导入 pandas 期间跳过行
【发布时间】:2014-01-05 09:49:07
【问题描述】:

我正在尝试使用 pandas.read_csv() 导入 .csv 文件,但是,我不想导入数据文件的第二行(索引 = 1 的行用于 0 索引)。

我看不出如何不导入它,因为与命令一起使用的参数似乎模棱两可:

来自熊猫网站:

skiprows:类列表或整数

要跳过的行数(0-indexed)或要跳过的行数(int) 文件的开头。”

如果我在参数中输入skiprows=1,它如何知道是跳过第一行还是跳过索引为1的行?

【问题讨论】:

  • 我猜想它可以是“类列表或整数”,然后给你两个选项(跳过行或在开始时跳过 # 行)然后如果你给它列表[1] 它只会跳过第 1 行(第 2 行)。如果您给它一个整数(例如 10),那么它将跳过前 10 行。
  • 效果很好。非常感谢。只是想知道它如何区分索引和int。 [] 就是答案。

标签: python pandas csv readfile


【解决方案1】:

你可以自己试试:

>>> import pandas as pd
>>> from StringIO import StringIO
>>> s = """1, 2
... 3, 4
... 5, 6"""
>>> pd.read_csv(StringIO(s), skiprows=[1], header=None)
   0  1
0  1  2
1  5  6
>>> pd.read_csv(StringIO(s), skiprows=1, header=None)
   0  1
0  3  4
1  5  6

【讨论】:

  • 是的,谢谢,我只需要知道索引是在方括号 [] 内指定的。
  • 在 Python 3 中:from io import StringIO
【解决方案2】:

我还没有评论的声誉,但我想添加到alko 答案以供进一步参考。

来自docs

skiprows:文件中要跳过的行的数字集合。也可以是整数来跳过前n行

【讨论】:

    【解决方案3】:

    我在读取 csv 文件时运行 skiprows 时遇到了同样的问题。 我在做 skip_rows=1 这不起作用

    简单的例子说明了如何在读取 csv 文件时使用 skiprows。

    import pandas as pd
    
    #skiprows=1 will skip first line and try to read from second line
    df = pd.read_csv('my_csv_file.csv', skiprows=1)  ## pandas as pd
    
    #print the data frame
    df
    

    【讨论】:

      【解决方案4】:

      所有这些答案都忽略了一个重要点——第 n 行是文件中的第 n 行,而不是数据集中的第 n 行。我有一种情况,我从 USGS 下载了一些过时的流量测量仪数据。数据集的头部用“#”注释,之后的第一行是标签,接下来是描述日期类型的行,最后是数据本身。我永远不知道有多少注释行,但我知道前几行是什么。示例:

      > # ----------------------------- WARNING ----------------------------------
      > # Some of the data that you have obtained from this U.S. Geological Survey database
      > # may not have received Director's approval. ... agency_cd    site_no datetime    tz_cd   139719_00065    139719_00065_cd
      > 5s    15s 20d 6s  14n 10s USGS    08041780    2018-05-06 00:00    CDT 1.98    A
      

      如果有一种方法可以自动跳过第 n 行和第 n 行,那就太好了。

      作为说明,我能够解决我的问题:

      import pandas as pd
      ds = pd.read_csv(fname, comment='#', sep='\t', header=0, parse_dates=True)
      ds.drop(0, inplace=True)
      

      【讨论】:

        【解决方案5】:

        read_csv 中的索引指的是 csv 文件中的行号/行号(第一行的索引为 0)。您有以下选项可以跳过行:

        from io import StringIO
        
        csv = \
        """col1,col2
        1,a
        2,b
        3,c
        4,d
        """
        pd.read_csv(StringIO(csv))
        
        # Output:
           col1 col2  # index 0
        0     1    a  # index 1
        1     2    b  # index 2
        2     3    c  # index 3
        3     4    d  # index 4
        

        在文件开头跳过两行(索引 0 和 1)。列名也被跳过(索引 0),顶行用于列名。要添加列名,请使用names = ['col1', 'col2'] 参数:

        pd.read_csv(StringIO(csv), skiprows=2)
        
        # Output:
           2  b
        0  3  c
        1  4  d
        

        跳过第二行和第四行(索引 1 和 3):

        pd.read_csv(StringIO(csv), skiprows=[1, 3])
        
        # Output:
           col1 col2
        0     2    b
        1     4    d
        

        跳过最后两行:

        pd.read_csv(StringIO(csv), engine='python', skipfooter=2)
        
        # Output:
           col1 col2
        0     1    a
        1     2    b
        

        使用 lambda 函数跳过每一行(索引 1 和 3):

        pd.read_csv(StringIO(csv), skiprows=lambda x: (x % 2) != 0)
        
        # Output:
           col1 col2
        0     2    b
        1     4    d
        

        【讨论】:

          【解决方案6】:

          skip[1] 将跳过第二行,而不是第一行。

          【讨论】:

            猜你喜欢
            • 2020-05-20
            • 2013-04-08
            • 1970-01-01
            • 1970-01-01
            相关资源
            最近更新 更多