检查变量的值是否属于集合引导程序

Question

我有一个整数数组说

theIndex = [ 1 2 6 7 17 2]

我有一个数据框，其中一列 dataset[:id] 包含整数说

dataset = DataFrame(id=[ 1, 1, 2, 2, 3, 3, 3, 4, 4, 4])

我想选择数据集中属于索引的所有观察值。如果它们在索引中出现两次（或更多），我想选择它们两次（或更多）

目前，我正在以愚蠢的方式做这件事。

theIndex = [ 1 2 6 7 17 2]
dataset = DataFrame(id=[ 1, 1, 2, 2, 3, 3, 3, 4, 4, 4])
dataset2 = DataFrame(id=Int64[])
for ii1=1:size(theIndex,2)
    for ii2=1:size(dataset[:id],1)
        any(i->i.==dataset[ii2,:id],theIndex[ii1]) ? 
        push!(dataset2,dataset[ii2,:id]) : nothing
    end
end

还有更优雅的解决方案吗？

Answer 1

本质上，问题是要计算theIndex 和dataset 之间的SQL JOIN。不幸的是，DataFrames 内部并未完全实现此功能。因此，这里有一个快速（高效）的 JOIN 模拟，用于此目的：

using DataStructures

sort!(dataset, cols=:id]
j = 1
newvec = Vector{Int}() 
for (val,cnt) in SortedDict(countmap(theIndex))
    while j<=nrow(dataset)
        dataset[j,:id] > val && break
        dataset[j,:id] == val && append!(newvec,fill(j,cnt))
        j += 1
    end
end
dataset2 = dataset[newvec,:]

DataStructures 包用于 SortedDict。这种实现应该比其他多循环方法更有效。

Answer 2

根据我之前的评论，您正在寻找 findin 函数。

julia> Ind = findin( dataset[:id], theIndex); # return indices of elements in
                                              # dataset[:id] that occur in
                                              # theIndex

julia> dataset[:id][Ind]
4-element DataArrays.DataArray{Int64,1}:
 1
 1
 2
 2

（或者，如果您希望结果以 SubDataFrame 的形式返回到您的数据集中，您可以这样做 SubDataFrame(dataset, Ind) 等）

编辑：根据 cmets，为确保考虑到 theIndex 中的重复，每个元素的样本需要单独附加：

Ind = []; for i in theIndex; append!(Ind, findin(dataset[:id], i)); end

Ind 然后可用于创建一个数组或 SubDataFrame，如上所述。

编辑 2：

julia> @time dataset2 = DataFrame(id=Int64[])
       for ii1=1:size(theIndex,2)
           for ii2=1:size(dataset[:id],1)
               any(i->i.==dataset[ii2,:id],theIndex[ii1]) && 
               push!(dataset2,dataset[ii2,:id])
           end
       end
  0.000016 seconds (24 allocations: 1.594 KiB)

julia> @time Ind = []; for i in theIndex; append!(Ind, findin(dataset[:id], i)); end
  0.000002 seconds (5 allocations: 240 bytes)

_{（关于全球范围内基准测试的常见警告性咆哮）}