从 unix 的列中删除 csv 文件中的换行符

Question

样本输入数据::

cat test.csv
234,aa,bb,cc,30,dd

22,cc,

ff,dd,

40,gg

pxy,aa,,cc,

40

,dd

需要的输出::

cat test_new.csv
234,aa,bb,cc,30,dd

22,cc,ff,dd,40,gg

pxy,aa,,cc,40,dd

我尝试了各种awk 和sed 命令，似乎没有任何效果。

例如:: awk 'NR == 1{ printf $0; next } { printf "%s%s", (/^[0-9]+,/? ORS : ""), $0 } END{ print "" }'

awk 上方仅查找带有 "," 的数字字符，但如果数字出现在带有换行符的列中，这将创建额外的行。

输入文件包含 Control M 字符，我已经使用 dos2unix 删除了这些字符

Answer 1

关于“输入文件包含 Control M 字符，我已经使用 dos2unix 删除了” - 这可能会让您的生活更加艰难。一行中的“换行符”很有可能只是LFs，而记录结尾是CRLF，因此通过删除CRs，我们不能再简单地将awk RS 设置为@987654326 @ 然后删除记录中剩余的任何LFs。

如果您的文件是按照您在问题下的 cmets 中所说的那样从 Excel 导出的，那么无论字段是否被引用，它都会在每条记录的末尾使用 CRLF，并在每条记录中单独使用 LF如果你不在上面运行dos2unix，看起来像这样的字段：

$ cat -v test.csv
234,aa,bb,cc,30,dd^M
22,cc,
ff,dd,
40,gg^M
pxy,aa,,cc,
40
,dd^M

然后使用任何 awk：

$ awk -v ORS= '{sub(/\r$/,"\n")} 1' test.csv
234,aa,bb,cc,30,dd
22,cc,ff,dd,40,gg
pxy,aa,,cc,40,dd

或者，如果您愿意，可以将 GNU awk 用于多字符 RS：

$ awk -v RS='\r\n' '{gsub(/\n/,"")} 1' test.csv
234,aa,bb,cc,30,dd
22,cc,ff,dd,40,gg
pxy,aa,,cc,40,dd

有关使用 awk 解析 CSV 的更多信息，请参阅What's the most robust way to efficiently parse CSV using awk?。

关于您的原始脚本 - 永远不要使用 printf $0，始终使用 printf "%s", $0，因为当 $0 包含任何 printf 格式字符（例如 %s）时前者会失败：

$ echo 'a%sb' | awk '{printf "%s", $0}'
a%sb$

$ echo 'a%sb' | awk '{printf $0}'
awk: cmd. line:1: (FILENAME=- FNR=1) fatal: not enough arguments to satisfy format string
        `a%sb'
          ^ ran out for this one
$

这适用于对所有输入数据使用printf。