使用 lapply 对读入的文件列表应用函数并将输出保存为新的文件列表

Question

我是 R 的新手，有点坚持我认为可能是常见的操作。我有许多文件（57 个，大约 15 亿行，共 6 列），我需要在这些文件上执行基本功能。我可以读取这些文件并执行我不需要的计算，但我在最终输出中遇到了问题。我设想该功能一次处理一个文件，输出工作文件并移至下一个文件。

计算后，我想输出 57 个新的 .txt 文件，这些文件以输入数据最初来自的文件命名。到目前为止，我能够在较小的测试数据集上执行计算并吐出 1 个附加的 .txt 文件，但这不是我想要的最终输出。

#list filenames 
files <- list.files(path=, pattern="*.txt", full.names=TRUE, recursive=FALSE)

#begin looping process
loop_output = lapply(files, 
function(x) {

#Load 'x' file in
DF<- read.table(x, header = FALSE, sep= "\t")

#Call calculated height average a name
R_ref= 1647.038203

#Add column names to .las data
colnames(DF) <- c("X","Y","Z","I","A","FC")

#Calculate return
DF$R_calc <- (R_ref - DF$Z)/cos(DF$A*pi/180)

#Calculate intensity
DF$Ir_calc <- DF$I * (DF$R_calc^2/R_ref^2)

#Output new .txt with calcuated columns
write.table(DF, file=, row.names = FALSE, col.names = FALSE, append = TRUE,fileEncoding = "UTF-8")

})

我最近的代码尝试是搞乱初始的 lapply/sapply 函数：

#begin looping process
loop_output = sapply(names(files), 
function(x) {

以及输出线：

#Output new .csv with calcuated columns 
write.table(DF, file=paste0(names(DF), "txt", sep="."),
row.names = FALSE, col.names = FALSE, append = TRUE,fileEncoding = "UTF-8")

从我在 write.table 输出期间读取文件命名函数的内容来看，可能是我尚未与脚本的其余部分完全对齐的键之一。我一直在查看许多其他我认为适用的问题：

Using lapply to apply a function over list of data frames and saving output to files with different names

Write list of data.frames to separate CSV files with lapply

没有运气。我非常感谢任何关于输入 x 个文件、对每个文件执行相同功能、然后输出相同 x 个文件的正确方向的见解或路径。谢谢你。

Answer 1

输出被定向到同一个文件的原因可能是file = paste0(names(DF), "txt", sep=".") 每次迭代都返回相同的值。也就是说，DF 在每次迭代中必须具有相同的列名，因此names(DF) 将相同，paste0(names(DF), "txt", sep=".") 将相同。与append = TRUE 选项一起，结果是所有输出都写入同一个文件。

在匿名函数内部，x 是输入文件的名称。除了使用names(DF) 作为输出文件名的基础，您还可以对该字符串进行一些转换。

例子。

给定

x <- "/foo/raw_data.csv"

在函数内部你可以做这样的事情

infile <- x
outfile <- file.path(dirname(infile), gsub('raw', 'clean', basename(infile)))

outfile
[1] "/foo/clean_data.csv"

然后使用新名称进行输出，append = FALSE（除非您需要它为真）

write.table(DF, file = outfile, row.names = FALSE, col.names = FALSE, append = FALSE, fileEncoding = "UTF-8")

Answer 2

使用您的代码，这是一般的想法：

require(purrr)

#list filenames 
files <- list.files(path=, pattern="*.txt", full.names=TRUE, recursive=FALSE)


#Call calculated height average a name
R_ref= 1647.038203

dfTransform <- function(file){
  colnames(file) <- c("X","Y","Z","I","A","FC")

  #Calculate return
  file$R_calc <- (R_ref - file$Z)/cos(file$A*pi/180)

  #Calculate intensity
  file$Ir_calc <- file$I * (file$R_calc^2/R_ref^2)
  return(file)
}

output <- files %>% map(read.table,header = FALSE, sep= "\t") %>%
  map(dfTransform) %>%
  map(write.table, file=paste0(names(DF), "txt", sep="."),
  row.names = FALSE, col.names = FALSE, append = TRUE,fileEncoding = "UTF-8")