【发布时间】:2019-11-08 17:47:02
【问题描述】:
我正在尝试建立一个情绪分析模型,但是当我开始训练时,我收到了ValueError: sequences must be iterable. 的错误
pad_sequences 是导致错误的原因。
编码直到包含pad_sequences的函数:
1)获取单词列表,去掉所有标点符号并将所有单词标记转换为小写:
def get_processed_tokens(text):
filtered_text = re.sub(r'[^a-zA-Z0-9\s]', '', text)
filtered_text = filtered_text.split()
filtered_text = [token.lower() for token in filtered_text]
return filtered_text
2) 创建 token_idx 字典,将标记映射到整数以创建嵌入并过滤掉低于阈值(在训练集中给出为 5)出现的嵌入。
def tokenize_text(data_text, min_frequency =5):
review_tokens = [get_processed_tokens(review) for review in data_text]
token_list = [token for review in review_tokens for token in review]
token_freq_dict = {token:token_list.count(token) for token in set(token_list)}
most_freq_tokens = [tokens for tokens in token_freq_dict if token_freq_dict[tokens] >= min_frequency]
idx = range(len(most_freq_tokens))
token_idx = dict(zip(most_freq_tokens, idx))
return token_idx,len(most_freq_tokens)
3) 创建将输入模型的序列以学习嵌入,数据集中每个评论的 (max_tokens) 的固定长度序列。如果序列小于最大长度,则用零预填充序列。
def create_sequences(data_text,token_idx,max_tokens):
review_tokens = [get_processed_tokens(review) for review in data_text]
review_token_idx = map( lambda review: [token_idx[k] for k in review if k in token_idx.keys() ], review_tokens)
padded_sequences = pad_sequences(review_token_idx, maxlen=max_tokens) ##this line gives error
return np.array(padded_sequences)
【问题讨论】:
标签: python tensorflow keras nlp