Hive 外部表以逗号分隔，但数据中存在逗号

Question

我有一些来自外部格式来源的数据：

user_id, user_name, project_name, position
"111", "Tom Petty", "Heartbreakers", "Vocals"
"222", "Ringo Starr", "Beatles, The", "Drummer"
"333", "Tom Brady", "Patriots", "QB"

于是我创建了我的外部表：

CREATE EXTERNAL TABLE tab1 (
USER_ID String,
USER_NAME String,
PROJECT_NAME String,
POSITION String
) 
ROW FORMAT DELIMITED
FIELDS TERMINATED BY ','
STORED AS TEXTFILE
LOCATION '/user/blah/foo'

当某些列中的数据在其中嵌入逗号时会出现问题，例如Beatles, The。这会导致 Hive 将单词 The 放入下一列（位置）并删除最后一列中的数据。

所有传入的数据字段都用双引号括起来，但它们用逗号分隔，即使它们可能有逗号。不幸的是，让发件人清理数据不是一种选择。

我该如何创建这个表？

Answer 1

试试这个

ROW FORMAT SERDE 'org.apache.hadoop.hive.serde2.OpenCSVSerde'
WITH SERDEPROPERTIES (
   "separatorChar" = "\t",
   "quoteChar"     = "\""
)  

Answer 2

您可以尝试在使用特定 serDe 属性的 Hive 表创建中使用 Open CSV Serde。

https://cwiki.apache.org/confluence/display/Hive/CSV+Serde