Rails 对 csv 格式的原始查询，通过控制器返回

Question

我使用活动记录来获取我的故事，然后生成一个 CSV，这是在 rails cast 中完成的标准方式。但是我有很多行，这需要几分钟。我想如果我可以让 posgresql 进行 csv 渲染，那么我可以节省一些时间。

这是我现在拥有的：

query = "COPY stories TO STDOUT WITH CSV HEADER;"
results = ActiveRecord::Base.connection.execute(query);

但是这个查询的结果是空的：

 => #<PG::Result:0x00000006ea0488 @connection=#<PG::Connection:0x00000006c62fb8 @socket_io=nil, @notice_receiver=nil, @notice_processor=nil>> 
2.0.0-p247 :053 > result.count
 => 0 

更好的了解方式：

2.0.0-p247 :059 >   result.to_json
 => "[]" 

我怀疑我的控制器看起来像这样：

format.csv { send_data raw_results }

这适用于普通查询，我只是无法弄清楚将 CSV 结果返回到 rails 的 SQL 语法。

更新

将 CSV 导出从 120000 毫秒降至 290 毫秒

我的模特：

def self.to_csv(story_ids)

    csv  = []
    conn = ActiveRecord::Base.connection.raw_connection
    conn.copy_data("COPY (SELECT * FROM stories WHERE stories.id IN (#{story_ids.join(',')})) TO STDOUT WITH (FORMAT CSV, HEADER TRUE, FORCE_QUOTE *, ESCAPE E'\\\\');") do
      while row = conn.get_copy_data
        csv.push(row)
      end
    end
    csv.join("\r\n")
  end

我的控制器：

send_data Story.to_csv(Story.order(:created_at).pluck(:id))

Answer 1

这个答案建立在@mu-is-too-short 提供的the answer 之上，但没有使用streaming 的临时对象。

headers['X-Accel-Buffering'] = 'no'
headers["Cache-Control"] = 'no-cache'
headers["Transfer-Encoding"] = 'chunked'
headers['Content-Type'] = 'text/csv; charset=utf-8'
headers['Content-Disposition'] = 'inline; filename="data.csv"'
headers.delete('Content-Length')
sql = "SELECT * FROM stories WHERE stories.id IN (#{story_ids.join(',')})"
self.response_body = Enumerator.new do |chunk|
  conn = ActiveRecord::Base.connection.raw_connection
  conn.copy_data("COPY (#{sql.chomp(';')}) TO STDOUT WITH (FORMAT CSV, HEADER TRUE, RCE_QUOTE *, ESCAPE E'\\\\');") do
    while row = conn.get_copy_data
      chunk << "#{row.length.to_s(16)}\r\n"
      chunk << row
      chunk << "\r\n"
    end
    chunk << "0\r\n\r\n"
  end
end

您还可以将gz = Zlib::GzipWriter.new(Stream.new(chunk)) 和gz.write row 与类似的类一起使用

class Stream
  def initialize(block)
    @block = block
  end
  def write(row)
    @block << "#{row.length.to_s(16)}\r\n"
    @block << row
    @block << "\r\n"
  end
end

记住headers['Content-Encoding'] = 'gzip'。另见this gist。

Answer 2

AFAIK 您需要在底层 PostgreSQL 数据库连接上使用 copy_data 方法：

-（对象）copy_data(sql)

调用序列：

conn.copy_data( sql ) {|sql_result| ... } -> PG::Result

执行复制过程以将 [sic] 数据传输到服务器或从服务器传输。

这会通过#exec 发出SQL COPY 命令。对此的响应（如果命令中没有错误）是传递给块的 PG::Result 对象，带有 PGRES_COPY_OUT 或 PGRES_COPY_IN 的状态代码（取决于指定的复制方向）。然后应用程序应使用#put_copy_data 或#get_copy_data 接收或传输数据行，并在完成后从块中返回。

还有一个例子：

conn.copy_data "COPY my_table TO STDOUT CSV" do
  while row=conn.get_copy_data
    p row
  end
end

ActiveRecord 的原始数据库连接包装器不知道 copy_data 是什么，但您可以使用 raw_connection 来解开它：

conn = ActiveRecord::Base.connection.raw_connection
csv  = [ ]
conn.copy_data('copy stories to stdout with csv header') do
  while row = conn.get_copy_data
    csv.push(row)
  end
end

这将在csv 中留下一组 CSV 字符串（每个数组条目一个 CSV 行），您可以通过csv.join("\r\n") 获得最终的 CSV 数据。