【问题标题】:Graphlab Sframe, retrieve multiple rowsGraphlab Sframe,检索多行
【发布时间】:2017-04-10 17:05:54
【问题描述】:

我正在尝试从 graphlab SFrame 访问多行并将它们转换为 numpy 数组。

我有一个 96000 行和 4096 列的数据库 fd,需要检索存储在 numpy 数组中的行号。我想出的方法很慢。我怀疑这是因为我在每次迭代时不断增加 sframe 的大小,但我不知道是否有任何方法可以预先分配值。我需要抓取 20000 行并且当前方法没有完成。

fd=fd.add_row_number()
print(indexes)
xs=fd[fd['id'] == indexes[0]] #create the first entry

t=time.time()
for i in indexes[1:]: #Parse through and get indeces
    t=time.time()
    xtemp=fd[fd['id'] == i]
    xs=xs.append(xtemp) #append the new row to the existing sframe
    print(time.time()-t)

xs.remove_column('id') #remove the ID Column
print(time.time()-t)
x_sub=xs.to_numpy() #Convert the sframe to numpy

【问题讨论】:

    标签: python numpy machine-learning graphlab sframe


    【解决方案1】:

    您可以将SFrame 转换为pandas.DataFrame,从indexes 中查找具有ID 的行,删除DataFrame 的列'id' 并将此DataFrame 转换为numpy.ndarray

    例如:

    import numpy as np
    
    fd=fd.add_row_number()
    df = fd.to_dataframe()
    df_indexes = df[df.id.isin(indexes)]
    df_indexes = df_indexes.drop(labels='id', axis=1)
    x_sub = np.array(df_indexes)
    

    【讨论】:

      猜你喜欢
      • 2017-04-11
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2017-07-30
      • 2016-10-26
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多