如何将单个单词转换为向量用于神经网络输入

Question

我是 ML 新手，我正在思考一个简单的 hello world 问题，作为使用 ANN 的一种实践。这就是问题所在，假设我有一个带有英文名称及其对应性别的训练数据集：

ALEX,M
BONNIE,F
CARLO,F
DAVID,M
EDDY,M
...

我想建立一个模型来预测姓名的性别。由于ANN的输入必须是向量的形式，我正在考虑将一个名称转换为一个向量，其特征数量与数据集中最长的名称（即10个）相同，然后将A = 1，B = 2 , ... , Z=26, 并且 null=-1 到向量。

例如：

ALEX will be [1, 12, 5, 24, -1, -1, -1, -1, -1, -1] 

输出层将是 {0, 1}，代表男性或女性。

对我来说这听起来很奇怪。像这样将一个单词输入 ANN 是一种好方法吗？

Answer 1

使用 one-hot 编码。这意味着你有一个很大的输入大小，但它已被证明是有效的。使用A=1, B=2, Z=26 给网络的印象是 B 离 A 比 Z 离 A 更近，而且它需要很多隐藏节点来映射函数。

使用 one-hot 编码：

• 答：[1,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0]
• 乙：[0,1,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0]
• Z：[0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,1]
• 无：[0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0]

所以每个字母需要 26 个输入。