在 node + Mongodb + Redis 中构建一个简单的新闻提要

Question

我的目标是在 mongodb 和 redis 的帮助下在 node.js 中构建一个简单的新闻提要。类似推特

所以场景非常简单，一旦用户 A 关注用户 B。稍后用户 A 的新闻提要（主页）将显示用户 B 的活动，就像他发布的内容一样。

用户架构

const UserSchema = new Schema({
  email: { type: String, unique: true, lowercase: true},
});



const followSchema = new Schema(
    {
        user: { type: Schema.Types.ObjectId, required: true, ref: 'User' },
        target: { type: Schema.Types.ObjectId, required: true, ref: 'User' },
    });

目前我的用户架构设计很简单，当我关注另一个用户时，我将只创建关注架构对象

还有另外一个模式，就是后模式

/* This is similar like the Tweet */
var PostSchema = new Schema({
  // Own by the user
  creator: { type: Schema.Types.ObjectId, ref: 'User' }
  body: String,
});

此架构供用户发布任何内容，类似于 twitter 发布。

假设我关注了一群用户

{
   user: 'me',
   target: 'draco'
},

{
  user: 'me',
  target: 'donald'
},

{
  user: 'me',
  target: 'joker'
}

让我说我的一位追随者，发布一些东西。如何将它呈现给我当前的新闻提要？

/* I'm following Joker */
app.post('/follow', (req, res, next) => {
   let follow = new Follow();
   follow.user = "me";
   follow.target = "joker";
   // Do i need to use redis to subscribe to him?
   follow.save();
})


/* Joker posted something */
app.post('/tweet',(req, res, next) => {
   let post = new Post();
   post.creator = "joker";
   post.body = "Hello my name is joker"
   post.save();
   // Do i need to publish it using redis so that I will get his activity?

});

这是我的尝试

app.get('/feed', function(req, res, next) {

     // Where is the redis part?
     User.findOne({ _id: req.user._id }, function(err, foundUser) {
        // this is pretty much my attempt :(
     })
})

我应该什么时候使用 redis 来实际做 pub 和 sub？以便我可以获取我的一位关注者的内容并将其显示在我的时间线上？

Answer 1

我已经建立了一个社交网络，它也有一个新闻源。这是我的做法。

---

基本上，您有 2 种方法来构建新闻源：

1. Fanout on write (push) 方法
2. Fanout on read (pull) 方法

---

写时扇出

首先，您需要另一个集合：

const Newsfeed = new mongoose.model('newsfeed', {
  owner: {type: mongoose.Types.ObjectId, required: true},
  post: {type: mongoose.Types.ObjectId, required: true}
});

当用户发布内容时：

1. 获得 n 个关注者
2. 将此帖子推送（扇出）给 n 位关注者

当用户获得提要时：

1. 从Newsfeed 收藏中获取

示例：

router.post('/tweet', async (req, res, next) => {
  let post = await Post.create({});

  let follows = await Follow.find({target: req.user.id}).exec();

  let newFeeds = follows.map(follow => {
    return {
      user: follow.user,
      post: post.id
    }
  });
  await Newsfeed.insertMany(newFeeds);
});

router.get('/feed', async (req, res, next) => {
  let feeds = await Newsfeed.find({user: req.user.id}).exec();
});

---

读取时扇出

当用户发布内容时：

1. 保存

当用户获得提要时

1. 获得 n 个关注
2. 从 n 个关注者中获取帖子

示例

router.post('/tweet', async (req, res, next) {
  await Post.save({});
});

router.get('/feeds', async (req, res, next) {
  let follows = await Follow.find({user: req.user.id}.exec();

  let followings = follows.map(follow => follow.target);

  let feeds = await Post.find({user: followings}).exec();
});

---

您不需要 Redis 或 pub/sub 来实现新闻源。但是，为了提高性能，您可能需要 Redis 为此实现某种缓存。

有关更多信息或高级技术，您可能需要查看this。

Answer 2

用户架构：

var mongoose = require('mongoose');
var Schema = mongoose.Schema;

const userSchema = new Schema({
     name:{type:String},
     email: { type: String, unique: true, lowercase: true},
  },{
    collection: 'User'
  });

var User = module.exports = mongoose.model('User', userSchema);

遵循架构：

var mongoose = require('mongoose');
var Schema = mongoose.Schema;

var followSchema = new Schema(
    {
        follow_id: { type: Schema.Types.ObjectId, required: true, ref: 'User'  },
        leader_id: { type: Schema.Types.ObjectId, required: true, ref: 'User' }
    },{
        collection:'Follow'
    });

 var Follow = module.exports = mongoose.model('Follow', followSchema);

发布架构：

 var mongoose = require('mongoose');
 var Schema = mongoose.Schema;

var postSchema = new Schema({
  creator: { type: Schema.Types.ObjectId, ref: 'User' }
  body: {type: String , required:true},
  created_at :{type:Date , default:Date.now}
},{
    collection:'Post'
  });

var Post = module.exports = mongoose.model('Post', postSchema);

现在假设您在用户集合中有 3 个用户：

{ _id: ObjectID('5a2ac68d1413751391111111') ,name:'John' , email:'john@gmail.com'}

{ _id: ObjectID('5a2ac68d1413751392222222') ,name:'Morgan' , email:'morgan@yahoo.com'}

{ _id: ObjectID('5a2ac68d1413751393333333') ,name:'Emily' , email:'emily@outlook.com'}

现在约翰跟随摩根和艾米丽：

所以在 Follow 集合中有两条记录

1) follow_id = John's ID 和 leader_id = Morgan's ID

2) follow_id = John's ID 和 leader_id = Emily's ID

{ 
  _id: ObjectID('5a2ac68d141375139999999'),
  follow_id : ObjectID('5a2ac68d1413751391111111'),
  leader_id : ObjectID('5a2ac68d1413751392222222')
},
  {
     _id: ObjectID('5a2ac68d1413751393333333'),
    follow_id : ObjectID('5a2ac68d1413751391111111'),
    leader_id : ObjectID('5a2ac68d1413751393333333')
  }

现在如果你想获得用户的关注：

app.get('/following/:user_id',function(req,res){
      var userid=req.params.user_id;
      Follow.find({follow_id:mongoose.mongo.ObjectID(userid)})
      .populate('leader_id')
      .exec(function(err,followings){
       if(!err && followings){ 
          return res.json({followings:followings});
       }
      });
});

用于获取用户的关注者：

   app.get('/followers/:user_id',function(req,res){
      var userid=req.params.user_id;
      Follow.find({leader_id:mongoose.mongo.ObjectID(userid)})
      .populate('follow_id')
      .exec(function(err,followers){
       if(!err && followers){ 
          return res.json({followers:followers});
       }
      });
});

npm install redis

在你的 app.js 中：

var redis = require('redis');
var client = redis.createClient();

当一个用户创建帖子时：

app.post('/create_post',function(req,res){

       var creator=new mongoose.mongo.ObjectID(req.body.creator);
       var postbody=req.body.body;


       async.waterfall([
          function(callback){

          // find followers of post creator

          Follow.find({leader_id:creator})
              .select({ "follow_id": 1,"leader_id":0,"_id": 0})
              .exec(function(err,followers){
                      if(!err && followers){ 
                      callback(null,followers);
                      }
              });
         },
        function(followers, callback){

          // saving the post

         var post=new Post({
            creator: creator,
            body: postbody
         });
          post.save(function(err,post){
             if(!err && post){

   // adding newly created post id to redis by key userid , value is postid

                for(var i=0;i<followers.length;i++){
                   client.sadd([followers[i].follow_id,post.id]);
                }


                 callback(null,post);
             }
         });   
      }
   ], function (err, result) {
             if(!err && result){
                return res.json({status:"success",message:"POST created"});
             }
       });
    });

现在获取用户新闻源：

1) 首先从用户id的redis键中获取postid数组

2) 遍历 postid 并从 mongo 获取帖子

通过用户ID获取新闻源的功能：

app.get('/newsfeed/:user_id',function(req,res){
    var userid=req.params.user_id;
    client.smembers(userid,function(err, reply) {
        if(!err && reply){
            console.log(reply);

            if(reply.length>0){
               var posts=[];

               for(var i=0;i<reply.length;i++){
                  Post.findOne({_id:new mongoose.mongo.ObjectID(reply[i])}).populate('creator').exec(function(err,post){        
                 posts.push(post);
      });
               }

              return res.json({newsfeed:posts});

            }else{
              // No News Available in NewsFeed
            }
        }
    });

});

这里我们使用 redis 来存储新闻源的 [userid,array of postids] ， 但是，如果您不想使用 redis，而不仅仅是使用下面的 Newsfeed 模型并将 user_id 和 post_id 存储为新创建的帖子，然后显示它。

NewsFeed 架构：

 var mongoose = require('mongoose');
 var Schema = mongoose.Schema;

var newsFeedSchema = new Schema({
  user_id: {type: Schema.Types.ObjectId, refer:'User' , required:true}
  post_id: {type: Schema.Types.ObjectId, refer:'Post' , required:true},
},{
    collection:'NewsFeed'
  });

var NewsFeed = module.exports = mongoose.model('NewsFeed', newsFeedSchema);

Redis 的有用链接：https://www.sitepoint.com/using-redis-node-js/

对于异步：https://caolan.github.io/async/docs.html#