FNN:Deep Learning over Multi-field Categorical Data简介

Deep Learning over Multi-field Categorical Data

Main content

文章主要介绍了一种FNN神经网络结构：

输入数据都是离散数据，经过one-hot生成离散稀疏的数据。与FFM中的field的概念类似，每个field中只有一个值是1，其余为0。z层的运算等同于FM的运算，利用了预训练好的FM的一次项和二次项作为初始化将原始数据作特殊的embedding，后面的$l_1,l_2$l1​,l2​都是全连接层表示。

Experiment

Performance Comparison

同时比较了不同的超参数，不同的网络架构，正则化方式。