2018年fb的文章Federated meta-learning for recommendation的阅读笔记
想法
用元学习的方法解决少数据的问题,并用差分隐私保护用户的隐私性
这篇文章作者声称有两点创新,一是meta-learning在算法层面,二是用联邦学习保护用户隐私。但文章中的算法A与之前工作没有任何区别,都是模型的初始化权重,也就是meta-learner。总的来说,就是将meta-learning与federated learning相结合,也是现在大部分联邦学习文章的思路,并无什么创新的地方。
框架
首先服务器有一个算法A,也即meta-learning中的meta-learner,模型的初始化权重。第一步服务器将A传给每个用户
第二步用户将自己的数据分为两部分,support dataset和test dataset。通过support dataset训练出一个模型,用test dataset计算损失函数和相应的更新梯度
第三步用户将梯度传回给服务器,服务器更新算法A
算法
实验